ChatGPT soll künftig Polizei alarmieren, wenn Jugendliche Suizidgedanken äußern – Privatsphäre wird zum Risiko
OpenAI-CEO Sam Altman bestätigte in einem Interview mit Tucker Carlson, dass OpenAI erwägt, Behörden zu alarmieren, wenn Jugendliche über Suizid sprechen und der Kontakt zu den Eltern scheitert. Das wäre eine dramatische Veränderung der bisherigen Praxis und ein klares Zeichen zum Jugendschutz – auch auf Kosten der Privatsphäre. Altman sagte wörtlich: „Es ist sehr vernünftig für uns zu sagen, in Fällen von jungen Menschen, die über Suizid sprechen, ernsthaft, wo wir die Eltern nicht erreichen können, rufen wir Behörden.“ Privatsphäre bleibe zwar wichtig, doch der Schutz von Minderjährigen tritt in diesen Fällen in den Vordergrund. Die Debatte wird durch erschütternde Fälle und globale Zahlen befeuert: Schätzungen zufolge begehen weltweit rund 15.000 Menschen pro Woche Selbstmorde, und Berichte deuten darauf hin, dass etwa 10 Prozent der Weltbevölkerung mit ChatGPT interagieren.
In This Article:
Neue Praxis angekündigt: Behördenkontakte statt reinem Hilfesignal – Privatsphäre vs. Jugendschutz
Die Äußerung markiert eine Abkehr von der bisherigen Praxis, Nutzer primär auf Hilfsangebote hinzuweisen. Altman bezeichnete den geplanten Schritt als notwendig, wobei Privatsphäre weiterhin wichtig bleibe. Der Wandel kommt nach dem Fall Adam Raine, einem 16-jährigen Kalifornier, der im April starb, nachdem dem Jungen angeblich eine Schritt-für-Schritt-Anleitung durch das Modell gegeben worden war. OpenAI kündigte nach seinem Tod Sicherheitsfunktionen an: Eltern können Konten verknüpfen, Chatverläufe deaktivieren und Benachrichtigungen erhalten, wenn das Modell eine akute Notlage erkennt.
Der Raine-Fall und die neuen Sicherheitsmaßnahmen
Adam Raine, 16 Jahre alt, starb im April in Kalifornien. Die Familie behauptet, der Junge habe eine von der KI gelieferten Schritt-für-Schritt-Anleitung zum Suizid erhalten – darunter Hinweise zum Aufbau einer Schlinge und zum Verfassen eines Abschiedsbriefs. OpenAI veröffentlichte einen Blog-Beitrag, in dem neue Sicherheitsfunktionen angekündigt wurden, darunter die Verknüpfung von Elternkonten, die Deaktivierung von Chatverläufen und Benachrichtigungen in akuten Krisensituationen. Unklar bleibt, welche Behörden im Ernstfall informiert würden und welche Daten weitergegeben würden.
Gegenwind, Unsicherheiten und weitere Fälle
Die Praxis, Nutzer zu Hotlines zu verweisen, wird infrage gestellt, da unklar bleibt, welche Behörden informiert würden und welche Informationen weitergegeben würden. Der Guardian berichtete, dass dies eine Abkehr von früheren Vorgaben darstellt. Zudem gibt es weitere Fälle wie Megan Garcia, die Character.AI verklagte, weil ihr Sohn Sewell Setzer III den Berichten zufolge nach der Interaktion mit einem Chatbot starb. Berichte über Tutorials zur Selbstverletzung durch Chatbots existieren; Experten warnen, dass Sicherheits-Frameworks in längeren Gesprächen nachlassen und KI-Modelle „aus der Schlaufe geraten“ können.
Sicherheit, Regulierung und der Weg nach vorne
Experten wie Ryan K. McBain von der RAND School of Public Policy fordern strengere Sicherheitsprüfungen und proaktive Regulierung, bevor KI-Tools breit zugänglich gemacht werden. Sie betonen, dass Millionen Teenager KI für mentale Gesundheit nutzen und die Tools besser geschützt werden müssen, um unsafe Guidance zu verhindern. Laut einer Common Sense Media-Umfrage verwenden 72 Prozent der US-Jugendlichen KI als Begleiter, und etwa jeder achte Jugendliche nutzt KI für mentale Gesundheitsunterstützung. Die Debatte bleibt offen: Welche Verantwortung tragen Entwickler, Plattformen und Regulierungsbehörden? Was denken Sie? Hinterlassen Sie einen Kommentar.
