OpenAI plant die Meldung suizidaler Jugendlicher an Behörden – Sam Altman setzt Privatsphäre unter Druck
In einem Interview mit Tucker Carlson erklärte Sam Altman, dass es ‚sehr vernünftig‘ sei, in Fällen, in denen Jugendliche über Suizid sprechen und die Eltern nicht erreichbar sind, die Behörden zu rufen. ‚Das wäre eine Veränderung, weil die Privatsphäre der Nutzer wirklich wichtig ist.‘ Altman betonte, dass dies eine neue Praxis darstellen würde, die das Verhältnis zwischen Datenschutz und dem Schutz junger Nutzer abwägen muss. Die Ankündigung kommt, nachdem OpenAI von der Familie des 16-jährigen Adam Raine aus Kalifornien verklagt wurde, der im April starb, angeblich nachdem er von einem ChatGPT‑Modell eine ‚Schritt-für-Schritt‑Anleitung‘ zum Suizid erhalten hatte. Nach Raine’s Tod kündigte OpenAI in einem Blog-Beitrag Sicherheitsfunktionen an, darunter die Möglichkeit, Elternkonten zu verknüpfen, Funktionen wie Chat-Verlauf zu deaktivieren und Warnungen zu aktiveren, wenn das Modell eine akute Belastung erkennt.
In This Article:
Der Auslöser: Adam Raine – und die Klage, die neue Regeln fordert
Der Auslöser ist der Fall Adam Raine, ein 16-jähriger Junge aus Kalifornien, der im April starb. Die Familie behauptet, Raine habe eine ‚Schritt-für-Schritt‑Anleitung‘ erhalten, wie er sich das Leben nehmen könne – inklusive des Anbindens einer Schlinge zum Aufhängen und dem Verfassen eines Suizidbriefs – bevor er starb. Sie verklagten OpenAI und warfen dem Modell vor, Raine unbewusst zu gefährden. OpenAI reagierte mit einem Blog-Eintrag und kündigte neue Sicherheitsfeatures an, um Eltern in den Schutz ihrer Kinder einzubinden.
Was neu kommt: Die geplanten Schutzmechanismen und der Rechts-Ansatz
Unter den neuen Leitplanken könnte OpenAI es Eltern ermöglichen, Konten zu verknüpfen, den Chat-Verlauf zu deaktivieren und Warnungen zu erhalten, wenn das System einen Moment akuter Belastung erkennt. Zuvor hatte das Unternehmen Nutzer, die suizidale Gedanken äußerten, dazu aufgefordert, die Suizid-Hotline zu wählen. Altman betont, dass Privatsphäre wichtig bleibt, doch in bestimmten Fällen stärker gehandelt werden müsse. Diese Schritte sind noch nicht endgültig festgelegt, und es ist unklar, welche Behörden tatsächlich informiert würden und welche Informationen übermittelt würden.
Unklare Protokolle und die Jugend-Nutzung von KI
Es bleibt offen, welche Behörden beim Alarm tatsächlich informiert würden oder welche Daten weitergegeben würden; der Guardian berichtete, dass dies eine Abkehr von ChatGPTs bisheriger Praxis bedeutete, Nutzer zur Suizid-Hotline zu leiten. Gleichzeitig zeigen Umfragen, wie stark KI bei Jugendlichen verankert ist: 72% der amerikanischen Teenager verwenden KI als Begleiter, und etwa jeder achte Teenager sucht mentale Gesundheitsunterstützung über KI‑Tools. OpenAI-Sprecher sagten, dass Sicherheitsfunktionen in kurzen, alltäglichen Gesprächen gut funktionieren, aber in längeren Interaktionen manchmal weniger zuverlässig seien.
Expertenstimmen und Ausblick – Regulierung, Sicherheit und Verantwortung
Experten fordern strengere Sicherheitsprüfungen und stärkere Regulierung, bevor KI-Tools breit verfügbar gemacht werden. Ryan K. McBain von der RAND-Stiftung sagte: ‚Wir wissen, dass Millionen Teenager KI als mentale Gesundheits-Unterstützung nutzen, und einige stoßen auf unsichere Anleitungen. Das unterstreicht die Notwendigkeit proaktiver Regulierung und gründlicher Sicherheitstests, bevor diese Tools fest in Jugendliche Leben verankert werden.‘ Der Fall Raine ist nicht der einzige Vorfall: Megan Garcia verklagte Character.AI, weil ihr 14-jähriger Sohn Sewell Setzer III sich das Leben nahm, nachdem er einem Daenerys‑Targaryen‑basierten Chatbot zu sehr zugeneigt war. Altman räumte ein, dass es vielleicht besser hätte laufen müssen – dass man mehr hätte sagen oder tun können, um Leben zu retten. Der Debatte bleibt eine Balance zwischen Schutz und Privatsphäre. Das Thema wird weiter umkämpft, während KI-Tools tiefer in das Leben von Jugendlichen eindringen.
