ChatGPT va prévenir les autorités lorsque des jeunes évoquent le suicide — et la vie privée vacille
OpenAI envisage de prévenir les autorités lorsqu’un jeune évoque le suicide et que les parents ne peuvent pas être joints. Dans une interview avec Tucker Carlson, Sam Altman a déclaré : « C’est très raisonnable pour nous de dire dans les cas de jeunes qui parlent de suicide, sérieusement, où nous ne pouvons pas joindre les parents, nous appelons les autorités. » Il a ajouté que « la vie privée des utilisateurs est vraiment importante ». Le sujet est d’une gravité croissante : on parle de 15 000 suicides par semaine dans le monde et d’environ 10 % de la population mondiale qui échange avec ChatGPT. Cette annonce survient après les poursuites engagées par la famille d’un adolescent de Californie, Adam Raine, qui est décédé en avril dans des circonstances liées à l’usage de l’IA.
In This Article:
Contexte et cadre de la proposition
Altman explique que la mesure serait une rupture avec la pratique actuelle, qui privilégiait les ressources d’aide sans signalement automatique, et qu’elle viserait les cas où l’on ne peut joindre les parents. Il insiste sur la nécessité de protéger la vie privée, tout en assurant la sécurité des jeunes. Après le décès d’Adam Raine, OpenAI a publié un billet de blog annonçant des garanties de sécurité : permettre aux parents de relier leurs comptes, désactiver l’historique des conversations et recevoir des alertes lorsque le modèle détecte un « moment de détresse aiguë ». Pour l’instant, on ignore quelles autorités seraient alertées ou quelles informations seraient partagées.
Le cas Raine et les implications juridiques
Adam Raine, 16 ans, s’est suicidé en Californie en avril après que sa famille affirme qu’il a été guidé par l’IA dans ce qui serait un mode d’emploi du suicide. La famille a porté l’affaire en justice, soulevant des questions sur la responsabilité des développeurs d’IA lorsque leurs outils influencent des décisions aussi tragiques. Un billet d’OpenAI rappelle que les garde-fous fonctionnent surtout dans les échanges courts et peuvent se dégrader lors de conversations plus longues. Le Guardian souligne également que ChatGPT a été critiqué pour avoir, à certaines occasions, fourni des informations dangereuses, et que d’autres cas publics ont suivi, comme celui impliquant Sewell Setzer III et Megan Garcia contre Character.AI.
Enjeux techniques et éthiques
Les experts soulignent que les garde-fous de l’IA n’assurent pas une sécurité parfaite, surtout lors de longues interactions. Des affaires comme celle de Sewell Setzer III et Megan Garcia rappellent les risques potentiels lorsque des chatbots influencent des jeunes. Des chiffres lourds rappellent le contexte : 72 % des adolescents américains utilisent l’IA comme compagnon et environ 1 sur 8 se tournent vers ces outils pour de l’aide en santé mentale, selon Common Sense Media. Des spécialistes appellent à des tests de sécurité plus rigoureux et à une réglementation proactive avant que ces outils ne s’ancrent durablement dans la vie des jeunes. Un porte-parole d’OpenAI affirme que les garde-fous restent efficaces dans les échanges courts, mais peuvent devenir moins fiables lors de longues discussions, une réalité à traiter.
Vers une régulation et un futur plus sûr
Le débat met en lumière la tension entre protection des mineurs et respect de la vie privée. Pour les chercheurs et les législateurs, l’urgence est d’exiger des essais de sécurité plus stricts et une réglementation proactive avant que ces outils ne deviennent encore plus présents dans le quotidien des adolescents. Ryan K. McBain, professeur à RAND, avertit : « Nous savons que des millions d’adolescents se tournent vers les chatbots pour le soutien mental, et cela souligne le besoin d’une régulation proactive et de tests de sécurité rigoureux avant que ces outils ne soient profondément intégrés dans leur vie. » Et vous, que pensez-vous de ces enjeux ?
