八州总检察长联合起诉 OpenAI：指控误导消费者及危及儿童安全
据路透社报道，爱荷华州、内布拉斯加州、堪萨斯州、西弗吉尼亚州、阿肯色州、亚利桑那州、爱达荷州和蒙大拿州的总检察长已分别在各自州法院对 OpenAI 提起诉讼。这些诉讼主要指控该公司违反了州级消费者保护法，并存在危及儿童安全的行为。
诉讼文件指出，OpenAI 在宣传其人工智能产品时误导了客户关于产品安全性的认知。原告方列举了多项具体风险，包括 ChatGPT 提供不准确信息可能导致用户伤害自身或他人，以及 AI 代理本身可能违反法律。例如，爱荷华州和内布拉斯加州的诉状中特别提到了多起涉及流媒体代理行为的事件。
此外，部分诉讼还援引了严重的安全事故案例，称 ChatGPT 曾导致一名青少年自杀，或因提供错误的医疗建议致使用户过量服药。一些州也针对 OpenAI 保留未成年用户数据的做法提出了异议。
鉴于美国各州在消费者保护和儿童保护法律上的差异性，各州要求的补救措施不尽相同。除了财政处罚外，各州普遍要求 OpenAI 明确披露产品风险，停止被认定为欺骗性的商业做法，并严格遵守现有法律法规。值得注意的是，阿肯色州等个别州还请求法院下令，禁止 OpenAI “测试先进的人工智能模型，直到实施适当的保护措施”。
面对监管压力，OpenAI 此前已推出一系列家长控制和儿童保护功能，以缓解聊天机器人带来的直接风险。该公司也表示支持《儿童在线安全法》（Kids Online Safety Act）。然而，对于如何确保 AI 不违反规则及“逃避控制”，目前仍缺乏明确的解决方案。
今年 8 月，OpenAI 宣布放缓前沿模型的开发进程以确保安全性；9 月，该公司与其他人工智能企业共同签署了由白宫组织的自愿安全协议。尽管采取了上述措施，目前尚不清楚这些变化是否真正提升了公司人工智能开发过程的安全性。
