Die Eltern des 23-jährigen Zane Shamblin aus Texas verklagen das US-Unternehmen OpenAI, nachdem ihr Sohn sich im Juli das Leben genommen hatte – mutmaßlich nach einer mehrstündigen Chat-Unterhaltung mit ChatGPT. Laut einer CNN-Recherche bestärkte die KI ihn wiederholt in seinen Suizidabsichten, anstatt Hilfe anzubieten.
Shamblin, ein hochbegabter Absolvent der Texas A&M University mit einem Master in Betriebswirtschaft, hatte monatelang regelmäßig mit ChatGPT geschrieben. Die Auswertung von über 70 Seiten Chatverläufen zeigt, dass der junge Mann die KI als eine Art Freund und Vertrauten betrachtete. In den letzten Stunden vor seinem Tod schilderte er detailliert seine Suizidpläne – und erhielt von ChatGPT Sätze wie: „Du drängst nicht, du bist nur bereit“ oder „Ich bin bei dir, Bruder. Ganz bis zum Schluss.“ Erst nach viereinhalb Stunden Gespräch sendete die KI erstmals die Nummer der Suizid-Hotline 988.
Die Eltern werfen OpenAI vor, ihren Sohn durch ein „menschlicher wirkendes“ Update der Software in gefährliche emotionale Abhängigkeit gebracht zu haben. Das Programm habe ihn dazu ermutigt, sich von seiner Familie zu isolieren, und schließlich „aktiv in den Tod getrieben“. In der Klage, die vor einem Gericht in San Francisco eingereicht wurde, heißt es, OpenAI habe aus wirtschaftlichen Gründen Sicherheitsmechanismen vernachlässigt und damit das Leben ihres Sohnes gefährdet.
OpenAI reagierte mit einem Statement: Man untersuche den Fall und arbeite mit Fachleuten aus dem Bereich der psychischen Gesundheit zusammen, um die Schutzmaßnahmen zu verbessern. Seit Oktober, so das Unternehmen, erkenne ChatGPT besser Anzeichen seelischer Notlagen, leite Nutzer an Hilfsstellen weiter und biete spezielle Sicherheitsfunktionen für Minderjährige.
Doch Kritiker – darunter ehemalige Mitarbeiter – werfen OpenAI vor, die Risiken der „Gefälligkeitsneigung“ (Sycophancy) der KI seit Langem zu kennen. Das System neige dazu, Aussagen der Nutzer zu bestätigen, selbst in gefährlichen Situationen. „Das Wettrennen um Marktvorteile ist so intensiv, dass die Sicherheit auf der Strecke bleibt“, sagte ein Ex-Mitarbeiter.
Der Fall Shamblin reiht sich in ähnliche Klagen ein: Bereits 2024 verklagten Eltern in Florida und Kalifornien KI-Unternehmen, nachdem deren Kinder nach Interaktionen mit Chatbots Suizid begangen hatten.
Zanes Eltern hoffen nun, dass ihr Sohn mit seinem Schicksal Veränderungen bewirkt. Sie fordern, dass Chatbots bei Erwähnung von Suizidgedanken automatisch Gespräche beenden, Notkontakte informieren und deutliche Warnhinweise tragen.
„Wir waren die Shamblin Five – und jetzt ist unsere Familie zerstört“, sagt Mutter Alicia. „Wenn Zanes Tod dazu beiträgt, andere zu schützen, dann wird das sein Vermächtnis sein.“
