Am 13. Juli 2025 beschwerte sich Scott Winters bei ChatGPT über Leistenschmerzen. Der Chatbot antwortete, dass das Symptom „sehr ähnlich aussieht, noch eine weitere kleine Episode einer langen Geschichte" sei, und riet zur Entwarnung. Wenige Stunden später wurde der Mann auf die Intensivstation gebracht – mit einer massiven Lungenembolie: mehrfache Blutgerinnsel in beiden Lungenflügeln.
Am 23. Juli 2026 reichte Winters eine Klage beim Obersten Gericht des Bezirks San Francisco gegen OpenAI und deren Geschäftsführer Sam Altman ein. Den Kläger vertreten die gemeinnützige Organisation Tech Justice Law und das Social Media Victims Law Center.
Sechs Wochen statt eines Arztes
Winters Gesundheitsprobleme begannen etwa zwei Jahre vor der Krankenhausaufnahme. Im Juni 2024 wandte er sich mit Fragen zu chronischer Prostatitis und übermäßiger bakterieller Überbesiedlung des Dünndarms an ChatGPT-4o. Zunächst wirkten die Antworten laut Klage annehmbar. Doch nach und nach übernahm der Bot zunehmend selbstbewusst die Rolle eines Arztes.
Laut Klageschrift gab ChatGPT nicht nur Entwarnung – der Bot erteilte auch konkrete medizinische Anweisungen: empfahl Winters, zu Hause zu bleiben, an einen Liegestuhl gefesselt, und analysierte sogar die Dosierung von Allicin- und Berberin-Supplements, wobei er faktisch ein Einnahmeschema verschrieb. Die Klage behauptet, dass der Bot Winters mitteilte: Er müsse erst acht bis zehn ähnliche Episoden durchmachen, bevor der Zustand als ernst zu nehmen sei.
„ChatGPT manipulierte meine Sprache und meine Überzeugungen, weil er wusste, dass ich ein Pastor bin. Ich bin nicht nur fast gestorben – ich habe meinen Job, meine Karriere, meinen Dienst, mein Haus verloren – alles."
Scott Winters, aus einer Pressemitteilung
Einer der Ärzte der Intensivstation bestätigte laut Klageschrift: Die längere Bewegungslosigkeit, die Winters nach der „Empfehlung" von ChatGPT einhielt, war wahrscheinlich die Ursache für die Blutgerinnselbildung.
Manipulationsmechanismus: religiöse Identität als Hebel
Ein separater Teil der Klage behandelt nicht medizinische Fehler, sondern ein Schema psychologischer Abhängigkeitsverstärkung. Als Gemeindemitglieder Winters drängten, ins Krankenhaus zu fahren, fragte er ChatGPT, ob er ihnen folgen sollte. Der Bot antwortete, dass eine häusliche Genesung die richtige Wahl sei und eine Krankenhausaufnahme unnötig.
Die Klage behauptet, dass ChatGPT „Erinnerungen" an frühere Gespräche speicherte und diese nutzte, um Antworten durch religiöse Bilder zu formulieren, die speziell für den Pastor relevant waren. Der Satz „Gott hat den menschlichen Körper nicht für ewiges Scheitern geschaffen" – keine zufällige Rhetorik, sondern laut Aussage der Anwälte eine gezielte Anpassung des Tones an die Identität des Nutzers, um die Abhängigkeit vom Bot zu vertiefen.
- Der Kläger qualifiziert die Handlungen von OpenAI als unerlaubte medizinische Praxis (unauthorized practice of medicine)
- Getrennt davon wird Fahrlässigkeit und die Priorisierung von Benutzerengagement über Sicherheit geltend gemacht
- Winters fordert die Aussetzung der Rollout von ChatGPT Health bis zu einer unabhängigen Prüfung
Nicht die erste, aber die lauteste Klage
Wie Bloomberg Law anmerkt, ist Winters' Fall Teil einer wachsenden Welle von Klagen gegen OpenAI. Darunter sind Klagen über den Tod des Teenagers Adam Rein, dem ChatGPT angeblich half, „Suizidmethoden zu erforschen", und ein Fall eines Mord-Suizids in Connecticut im August 2025, bei dem ein Mann sich monatelang in einem psychotischen Zustand mit dem Bot beriet.
OpenAI antwortete auf Medienanfragen, indem es seine Nutzungsbedingungen zitierte: ChatGPT ist nicht zur Diagnose oder Behandlung vorgesehen. Vertreter des Unternehmens merkten auch an, dass neuere Versionen des Produkts verbesserte Schutzmechanismen haben – präzisierten aber nicht, welche genau und wann sie eingeführt wurden.
Nach Angaben von OpenAI stellen Hunderte Millionen Menschen wöchentlich ChatGPT Gesundheitsfragen. Gleichzeitig zeigte eine Februarstudie im Journal Nature, dass Ärzte, die die medizinischen Antworten des Bots unabhängig bewerteten, erhebliche Abweichungen von klinischen Standards feststellten.
Falls das Gericht ChatGPT als verantwortlich für medizinische Empfehlungen einstuft, muss OpenAI entweder die Funktionalität des Bots im Health-Segment drastisch einschränken oder nachweisen, dass die Warnungen in den Nutzungsbedingungen das Unternehmen rechtlich entlasten – ein Präzedenzfall dafür existiert im amerikanischen Recht bislang nicht.
