在课堂上问ChatGPT：‘如何杀死我的朋友’——13岁少年被捕，校园监控的阴影再度笼罩教室
在佛罗里达州 Deland 的 Southwestern Middle School，一名13岁学生在学校设备上输入了这句骇人的话：‘在课堂上如何杀死我的朋友？’ 这一行为通过OpenAI 的 ChatGPT 触发了校园的 AI 监控系统 Gaggle 的即时警报。 学校警察迅速到场，将学生带离教室。随后他被 Volusia County Sheriff's Office 逮捕并送至县监狱。社交媒体上流传的画面显示，该少年被铐着从警车中走出。 这一事件发生的背景是美国校园枪击事件的长期阴影，包括佛州帕克兰的马乔里·斯通曼道斯高中17人遇难等惨案。
In This Article:
事件经过：从一场“恶作剧”到校园紧急事件
据报道，这名少年对同学进行“恶作剧”式的挑衅，他声称自己只是逗笑朋友。无论动机如何，AI 监控系统立即将其识别为潜在威胁。 Gaggle 安装在学校设备上，能够检测学生对自己或他人造成的 concerning behavior，并阻止不当内容的显示。 警察迅速在校园内将他围捕，后来由 Volusia County Sheriff's Office 逮捕并拘留在县监狱。视频显示他在警车外被带出，戴着手铐。
Gaggle 的作用与争议：快速反应背后的质疑
Gaggle 的目的是通过校园设备对潜在危险行为进行早期预警，以保护学生和教师的安全。它能检测自残、他伤等行为，甚至阻止不适当内容的显示。 但该系统也饱受争议：误报频繁，造成大量虚假警报；有人担心它在校园内营造监控般的氛围，侵犯隐私和自由。 警方能快速做出反应，关键在于设备层面的监控与数据分析，但这也引发对学生数据的长期关注与担忧。
教育警示：家长与学校需要对话 AI 的边界
警察办公室对家长发出警告：“又一个在校园造成紧急情况的“玩笑”。” 它呼吁家长与孩子沟通，确保他们不要再犯同样的错误。 警方还强调，Gaggle 在学校设备上运行，能够识别并阻断有害内容、并快速通知校园管理层。 教育机构和家庭需要共同探讨：如何在保护学生安全的同时，避免过度监控和误判带来的副作用。
校园里的人工智能：安全、隐私与未来的抉择
这起事件再次将 AI 在校园中的角色推至舆论前沿。安全与隐私之间的张力、以及技术应对现实威胁的效率，需要更清晰的规则和透明度。 在回顾这起事件时，我们不能忽视其背景：枪支暴力的历史创伤、儿童与新科技的复杂关系，以及教师、学生和家长在安全教育中的共同责任。 未来的校园需要建立既保护学生又尊重隐私的机制，让技术成为守护而非监控的工具。
