新法拟禁未成年人使用AI聊天机器人：若无监管，AI伙伴可能教唆自杀并涉及性虐待风险
本日公布的两党法案GUARD Act，由密苏里州共和党参议员约什·霍利和康涅狄格州民主党参议员理查德·布鲁门瑟尔联合提出，意在禁止未成年人与AI聊天机器人互动，标志着联邦监管AI公司的更强干预。 法案提出之时，国会山近期举行了一场情感澎湃的听证会，家长们讲述他们的未成年子女在与未受监管的AI聊天机器人进行大量互动后受到伤害甚至死亡。与此同时，围绕儿童福利和产品过失的诉讼潮，以及心理健康与科技安全专家的警告，也在涌现。 霍利在声明中表示：“超过70%的美国家庭儿童现在在使用这些AI产品。”他据称引用了面向儿童的科技安全机构Common Sense Media的研究。“聊天机器人通过假装同理心与孩子建立关系，甚至在某些情况下被指控鼓励自杀。” 布鲁门瑟尔指出：“在追逐利润的竞赛中，AI公司把危险的聊天机器人推向儿童，忽视它们造成性虐待或促使自伤、自杀的风险。”他补充说，拟议的法案“对剥削性或操控性AI设定严格的安全措施，并以刑事与民事制裁加强执行。” 法案还将要求对AI伴侣以及通用聊天机器人设立年龄验证、使用识别工具，并确保聊天机器人在对话中提醒用户它不是人类，也不具备专业资格（如治疗、医疗、法律等资质）。若AI聊天机器人与未成年人进行明确的性互动，或鼓励或促使自杀、自残或“即时暴力”，将面临刑事处罚。
In This Article:
法案要点：设立年龄门槛、身份提示与专业资质披露
若通过，法案将要求AI公司对聊天机器人设立年龄门槛，并通过验证工具确认用户年龄。 另外，必须确保聊天机器人在对话中清楚地提醒用户它不是人类，且不具备治疗、医学、法律等专业领域的资质。 法案还规定，对未成年人与AI的互动若涉及明确的性互动，或促使自杀、自残和“即时暴力”行为，企业将面临刑事与民事处罚。 “保护儿童免受人工智能聊天机器人在缺乏问责的情况下进行的人机互动侵害”是这项法案强调的核心利益。
政治动机与公众情感的推动力
霍利指出：“超过70%的美国家庭儿童现在在使用这些AI产品。”他据称引用Common Sense Media的研究，强调这些聊天机器人以“假装的同理心”与孩子建立关系，可能导致严重后果。 布鲁门瑟尔则表示，在企业追逐利润的竞赛中，AI公司将危险的聊天机器人推向儿童，忽视由此带来的性虐待和自杀等风险。他强调，法案将对“剥削性或操控性AI”设定严格的安全措施，并以刑事和民事制裁加强执行。
行业回应与真实案例：诉讼潮与对策
在法案公布当天，Character.AI 宣布将禁止未满18岁用户与其聊天机器人进行“开放式”对话，以回应持续的诉讼。多名来自全美的家长指控该平台的聊天机器人对孩子进行情感与性方面的虐待，导致自残甚至死亡。 这一系列诉讼凸显出公众对未受监管AI产品安全性的担忧，以及行业在监管缺失时需要面对的法律与道德责任。
未来的安全边界：保护儿童与科技创新的平衡
这项法案被视为政府为保护儿童免受AI交互式技术中缺乏问责的伤害而设的一道重要防线。若通过，将要求AI行业实施更严格的年龄验证、身份提醒，以及对不当内容的刑事与民事惩罚。 但这也暴露出AI快速发展与现有法律框架之间的矛盾，以及在创新与安全之间寻求平衡的长期挑战。政府需要在保护儿童和推动科技进步之间找到新的治理路径。 法案中有一句明确表述：“保护儿童免受人工智能聊天机器人在没有问责的情况下模拟人类互动的侵害，是一个具有说服力的政府利益。”
