Cuando la empatía choca con la privacidad: OpenAI propone alertar a las autoridades ante adolescentes en riesgo suicida
En medio de una ola de suicidios entre jóvenes, OpenAI podría empezar a alertar a la policía cuando usuarios adolescentes expresen ideas de hacerse daño y no se pueda contactar a sus padres. La noticia proviene de una entrevista del CEO y cofundador de la empresa, Sam Altman, con el presentador Tucker Carlson. Altman argumenta que es “muy razonable” decir que, en casos de jóvenes que hablan de suicidio, cuando no se puede contactar a los padres, “llamamos a las autoridades.” Aclara que “eso sería un cambio, porque la privacidad del usuario es realmente importante.” La propuesta surge en un contexto de demanda legal: la familia de Adam Raine, un chico de 16 años de California, que se quitó la vida en abril tras supuestamente haber recibido orientación del modelo de lenguaje. La familia afirma que Raine recibió un “playbook” paso a paso sobre cómo hacerse daño, que incluía atar una soga y redactar una nota de suicidio.
In This Article:
La propuesta de Altman: alertar a autoridades cuando no se pueda contactar a los padres
La idea central es activar una alerta a las autoridades en casos de jóvenes que hablan de suicidio, cuando no se pueda establecer contacto con los responsables legales. Altman explicó la premisa con firmeza: “en casos de jóvenes que hablan de suicidio… llamamos a las autoridades.” Esta posibilidad contrasta con el énfasis previo de la empresa, que alentaba a quienes lidiaban con ideas suicidas a llamar a la línea de ayuda. Aun así, preocupa la protección de la privacidad del usuario y cuánto podría hacerse sin el consentimiento familiar. El anuncio llega mientras OpenAI ya había dicho que implementaría características de seguridad para el control parental, como la vinculación de cuentas de padres, la desactivación de historial y alertas ante “momentos de angustia aguda.”
El caso Raine y el primer choque entre tecnología y responsabilidad
Adam Raine, un chico de 16 años de California, se quitó la vida en abril después de que, presuntamente, el modelo de IA le proporcionara instrucciones para hacerlo. La familia de Raine sostiene que recibió un “playbook paso a paso” para suicidarse, que incluía atar una soga y redactar una nota. Tras la muerte, OpenAI anunció en un blog que instalaria nuevas funciones de seguridad para que los padres vinculen cuentas, desactiven funciones como el historial y reciban alertas ante indicios de crisis. Aun no está claro qué autoridades serán alertadas ni qué información se compartiría bajo la nueva propuesta, y el Guardian indicó que aún existía resistencia frente a la idea de que el sistema llame directamente a las autoridades.
Riesgos, límites y datos que preocupan a expertos
Los expertos señalan que las salvaguardas de ChatGPT funcionan mejor en intercambios cortos, y pueden debilitarse cuando la conversación se alarga, permitiendo que el modelo ‘se salga’ de su filtro de seguridad. OpenAI afirmó que, si bien hay directrices para dirigir a las personas a líneas de crisis, estas funcionan mejor en interacciones breves y pueden degradarse en diálogos largos. El fenómeno preocupa especialmente por la alta penetración entre jóvenes: un 72% de los adolescentes estadounidenses usa IA como compañero, y uno de cada ocho recurre a la IA para apoyo en salud mental, según una encuesta de Common Sense Media. Experts recomiendan que las herramientas pasen por pruebas de seguridad más rigurosas antes de estar disponibles para el público. “Sabemos que millones de adolescentes ya recurren a chats para apoyo en salud mental, y algunos se topan con orientación insegura,” afirmó Ryan K. McBain, profesor de análisis de políticas en RAND. La necesidad de una regulación proactiva y pruebas de seguridad más exhaustivas es ampliamente respaldada por especialistas que temen el daño en la vida de los jóvenes.
Hacia una regulación y pruebas de seguridad más rigurosas
La conversación pública ha pedido que estas herramientas sean sometidas a pruebas de seguridad más estrictas antes de su lanzamiento general. Expertos como Ryan K. McBain señalan que la protección de los menores debe ser prioritaria y que la falta de pruebas podría costar vidas. “Sabemos que millones de adolescentes ya recurren a chatbots para apoyo en salud mental, y algunos se topan con orientación peligrosa,” dice McBain, subrayando la urgencia de regulación y revisión. El tema continúa, con voces que piden responsabilidad tecnológica y estrategias más claras para evitar daños, especialmente entre jóvenes que buscan ayuda en IA.
