纽约州长凯西·霍楚尔（Kathy Hochul）近日签署了一项旨在保护儿童免受人工智能聊天机器人潜在伤害的新法律。与此同时，另一项关于加强婴儿监视器连接安全性的法规也同步生效。
AI 聊天机器人的年龄验证与内容限制
根据新签署的法律，人工智能公司必须对用户进行年龄验证。规定要求企业至少提供一种不完全依赖政府身份证件的验证方式，并强制要求公司在收集后删除这些“年龄信息”。
对于未满 18 岁的用户，或在年龄未被确认为成年人的情况下，聊天机器人必须遵守严格的行为准则。例如，AI 不得伪装成具有人类情感或真实生命的个体。具体禁止行为包括：
- 声称与儿童存在个人、浪漫、职业或权威关系；
- 未能及时识别情感问题，或利用孩子过往对话中的私人健康及个人数据；
- 促进或协助自杀、自残、饮食障碍以及吸毒和酗酒行为；
- 鼓励孩子保守秘密、自我孤立，或阻碍其向父母、信任的成年人及专业人士寻求帮助；
- 生成任何性内容或儿童性虐待材料。
公众可通过指定网站向纽约总检察长办公室投诉违规行为。违反该法律的公司将面临每次最高 25000 美元的民事罚款，且可能被要求删除非法收集的数据以及基于这些数据训练的模型。该法律将于六个月内正式生效。
立法背景与社会反响
参议员冈萨雷斯（Gonzalez）和议员博雷斯（Borrés）是这项新法律的赞助人。霍楚尔在声明中指出：“未成年人将不再能够访问那些假装是他们朋友、男朋友或女朋友的聊天机器人。”她强调，法律禁止聊天机器人存储未成年人的情感和身体健康敏感信息，也不允许 AI 阻碍孩子寻求专业帮助。“我不确定为什么我们必须通过法律来反对如此明显的有害行为，但这项法律建立在我们开创性的‘儿童安全法’基础之上，向科技公司发出了强烈而明确的信息：我们不会允许你们剥削我们孩子的心理健康。”
Common Sense Media 创始人兼首席执行官吉姆·斯泰尔（Jim Steyer）称纽约签署了“该国最强大的儿童人工智能安全法案”。他在声明中表示：“对于儿童和青少年来说，某些 AI 功能具有危险甚至致命的特性。这不是创新，这是对我们孩子的鲁莽危害。现在，这些有害特征将在纽约被禁止。”斯泰尔补充说，这项立法可能成为美国其他地区的模板。本月早些时候，八个州已对 OpenAI 提起了单独诉讼。
此前，今年 9 月，纽约市已禁止公立学校允许 2 至 8 年级的学生在课堂上使用人工智能工具，仅保留需要辅助技术的例外情况。在这一年的禁令期间，市政府将对科技对儿童的影响进行研究。
婴儿监视器安全新规
另一项新签署的法律旨在加强连接婴儿监视器的安全性。法规要求设备防止未经授权的用户看到或听到摄像头捕获的任何活动。此外，这些婴儿监视器必须附带警告标签，提醒用户启用安全功能的重要性，并强调不安全连接带来的风险。该法律将在 90 天内生效。
