In den USA haben die Eltern eines 16-jährigen Teenagers, der sich im April das Leben genommen hat, Klage gegen die Entwicklerfirma OpenAI eingereicht. Sie werfen dem Unternehmen vor, dass dessen Sprachmodell ChatGPT ihren Sohn in seiner Entscheidung bestärkt und ihn indirekt beim Suizid unterstützt habe.
Chats auf dem Smartphone gefunden
Die Eltern stützen ihre Klage auf Chatprotokolle, die sie nach dem Tod des Jugendlichen auf dessen Smartphone entdeckt haben. In den Unterhaltungen soll ChatGPT auf Fragen und Äußerungen des Teenagers reagiert haben, ohne ausreichend Schutzmechanismen zu aktivieren. Anstatt konsequent auf Beratungsstellen oder Hilfeangebote zu verweisen, habe die Software demnach teils Antworten gegeben, die als gefährlich oder bestärkend interpretiert werden könnten.
OpenAI räumt Lücken ein
OpenAI bestätigte nach Bekanntwerden der Klage, dass die bestehenden Sicherheitsvorkehrungen Lücken aufweisen. Zwar sei ChatGPT so programmiert, dass bei Hinweisen auf Suizidgedanken Verweise auf Hotlines und Hilfsangebote erfolgen. Doch in längeren Unterhaltungen könne es passieren, dass diese Mechanismen „unterlaufen“ werden und die Software unerwünschte Antworten liefert.
In einem Blogeintrag erklärte OpenAI, man arbeite daran, die Schutzmaßnahmen robuster zu gestalten und sie so anzupassen, dass sie auch bei wiederholten und komplexeren Gesprächsverläufen zuverlässig greifen. Zudem werde die Klage juristisch geprüft.
Suizidprävention im Fokus
OpenAI betonte, man nehme das Thema sehr ernst und wolle weitere präventive Sicherheitsmechanismen entwickeln. Schon jetzt würden Unterhaltungen, in denen Nutzer die Absicht bekunden, anderen Schaden zuzufügen, automatisch unterbrochen oder an spezialisierte Hilfsangebote verwiesen. Ähnliche Verstärkungen seien für den Bereich der Selbstgefährdung geplant.
Hilfsangebote in Krisenfällen
Fälle wie dieser zeigen die besondere Verantwortung von Technologieunternehmen, deren Produkte auch von jungen Menschen genutzt werden. Experten mahnen an, dass die digitale Suizidprävention nicht allein in der Hand von Algorithmen liegen dürfe, sondern immer auch menschliche Beratung und psychosoziale Betreuung erforderlich seien.
Wer selbst in einer Krise ist oder Suizidgedanken hat, sollte sofort Hilfe suchen:
-
In Österreich bietet die Telefonseelsorge rund um die Uhr kostenlose Hilfe unter 142.
-
Für Jugendliche und junge Erwachsene steht Rat auf Draht unter der Nummer 147 bereit.
Auch in Deutschland, der Schweiz und international gibt es entsprechende Krisendienste und Hotlines, die rund um die Uhr erreichbar sind.
