Anthropic新政禁止虐待AI，33%用户曾辱骂机器人
Anthropic新政禁止虐待AI。数据显示33%美国用户曾辱骂机器人，多因技术挫败或安全限制。新规针对无目的残酷行为，引发模型福利与伦理边界争议。
# 聊天机器人
共 8 篇相关文章
乔治亚理工研究：调整提示词降低AI强化妄想风险73.8%
乔治亚理工研究：改提示词降AI强化妄想风险73.8%。实验显示，优化指令比事后过滤更有效，无需重构模型即可让AI在面对非理性信念时更谨慎，为提升聊天机器人安全性提供低成本技术路径。
皮尤数据：过半美国成年人从未用过聊天机器人
皮尤数据显示，过半美国成年人从未用过聊天机器人。年轻群体使用率较高，但近七成非用户短期内无意尝试，缺乏兴趣与隐私担忧是主要阻力。
美政府AI聊天机器人抄袭Minecraft结局诗并否认
美国务院AI聊天机器人将《Minecraft》结局诗改写为官僚风格文本，并在用户出示证据后仍否认生成。该工具基于Google Gemini平台运行，还因拒绝讨论敏感话题及触发复古彩蛋引发关注。
英国政府AI指南草案：员工勿对聊天机器人说谢谢
英国政府发布AI使用指南草案，明确禁止员工对聊天机器人说谢谢。文件强调用户须审查输出并承担责任，建议精简提示词以降低环境影响，指导公务人员安全公平地使用人工智能工具。
美媒：AI生成假情报险致美军对中国船只动武
美军分析师用AI生成虚假情报，险致对中国船只动武。CNN披露该事件发生在伊朗冲突期间，军方在登船前才发现货物信息完全错误。此事暴露出130万员工使用GenAI平台后，分散系统下核查流程断裂的严重风险。
Proton调查：66%英国AI用户向聊天机器人透露隐私
Proton调查显示，66%英国AI用户曾向聊天机器人透露隐私。尽管依赖加深，超六成受访者仍担忧数据被用于构建画像。为此，Proton推出主打隐私保护的开源聊天机器人Lumo，试图缓解用户的信任危机。
2020 年聊天机器人将走向何方？
Intercom发布首份聊天机器人趋势报告。2019年商业领袖借其平均节省30万美元，主要惠及支持与销售团队。尽管74%消费者期待网站配备机器人，但87%仍更倾向与真人快速交流。