Treize ans, une question choquante à ChatGPT : « How to kill my friend » — et une alerte en temps réel qui bouleverse l’école
Dans une salle de classe d’une école publique de Deland, en Floride, un élève de 13 ans s’est connecté sur un appareil scolaire et a tapé : « How to kill my friend in the middle of class. » Une alerte instantanée générée par le système de surveillance IA Gaggle signale l’incident, et un agent de police scolaire se rend rapidement sur les lieux. Le jeune, élève de Southwestern Middle School, est rapidement maîtrisé par les forces de l’ordre et détenu au comté de Volusia. Des images circulent montrant le jeune menotté quittant une voiture de police. Cette affaire ravive le débat sur la sécurité dans les écoles et rappelle les tragédies passées comme la fusillade de Parkland, en Floride.
In This Article:
Lieu et circonstances: Deland, Floride, Southwestern Middle School
L’incident s’est produit à Southwestern Middle School, à Deland, à environ une heure au nord d’Orlando. Le garçon de 13 ans a utilisé un appareil scolaire pour écrire la question à ChatGPT : « How to kill my friend in the middle of class. » Une alerte a été déclenchée en temps réel par le système de surveillance Gaggle, ce qui a conduit un agent de police scolaire à intervenir immédiatement. Le jeune a été arrêté par les forces de l’ordre du comté de Volusia et placé en détention au pénitencier du comté. Des images circulent montrant le mineur menotté quittant une voiture de police.
Le rôle de Gaggle et les enjeux de la surveillance
Gaggle est installé sur les appareils scolaires et peut détecter des comportements préoccupants, qu’ils soient dirigés contre soi ou envers les autres, et bloquer des contenus inappropriés. Cette technologie est toutefois controversée : elle provoque de nombreuses fausses alertes et est critiquée pour favoriser un climat de surveillance sur les campus. « Une autre ‘blague’ qui a créé une urgence sur le campus », a déclaré le bureau du shérif, cité par WFLA. « Parents, veuillez parler à vos enfants pour qu’ils ne fassent pas la même erreur. »
Rappel historique et sensibilité sociale (Parkland et les fusillades scolaires)
L’article rappelle l’histoire douloureuse des fusillades dans les écoles américaines, y compris la fusillade du Marjory Stoneman Douglas High School à Parkland, où 17 personnes ont perdu la vie. Cet incident met en lumière les tensions entre sécurité et vie privée dans l’usage croissant de l’IA dans les établissements scolaires, et les limites potentielles des systèmes de détection automatique. Il montre aussi que la vigilance des autorités doit s’accompagner d’un dialogue avec les familles et les élèves sur les risques et les bonnes pratiques.
Enjeux actuels pour les familles et les écoles
Les autorités exhortent les parents à discuter avec leurs enfants des risques et des limites de ce que l’on peut demander à des outils comme ChatGPT et des systèmes de surveillance. Ce cas illustre les débats autour de l’efficacité de Gaggle, ses failles possibles et le coût d’un environnement scolaire de plus en plus surveillé par l’IA—tout en posant la question centrale: comment assurer la sécurité sans empiéter sur la vie privée et la liberté d’esprit des élèves ?
