科技评论：AI安全不应仅聚焦灾难性风险，日常危害同样致命
在评估技术政策成功与否时，往往容易陷入一种误区：认为只要防止了极端灾难，便算达标。例如，一家人工智能公司承诺其聊天机器人不会鼓励自杀，或一个社交媒体平台阻止儿童购买芬太尼。这些固然重要，但它们是产品应当具备的基础底线，而非值得夸耀的成就。企业在制造产品的同时，若消除了必要的“低标准”摩擦，可能导致年轻人过度依赖模拟的友谊。
历史上，关于技术的辩论常由产品可能造成的极端后果所定义。然而，随着强大的人工智能产品时代来临，行业不能仅满足于解决灾难性危害。必须采取措施，确保产品不会潜移默化地影响人类的思维模式、学习过程以及人际互动方式。
这种日常危害往往隐蔽且难以量化。青少年对 AI 伴侣产生不健康的依恋，或者学生开始依赖聊天机器人撰写每一篇论文，这类现象很少出现在诉讼案件或新闻头条中。一个产品在技术上完全符合严格的安全规范，仍可能在文化层面造成整体性的负面影响。
对于科技巨头而言，将“安全”定义为狭窄的灾难预防在政治上极为有利。这种做法既能减少诉讼风险，又能缓解监管压力。相比之下，应对依赖性带来的日常后果需要更大的决心，因为这直接冲击企业的核心利益（如用户参与度）。这可能要求公司主动增加产品使用的“摩擦力”，或限制那些导致负面结果的功能。
目前，科技公司正积极塑造相关法律框架以规避更严格的审查。今年，Google 支持在几个州通过监管 AI 聊天机器人的法案。尽管这些法律仅规定了对性内容和自我伤害宣传的基本保护——这本应是公司的自觉责任——但立法者却借此宣称取得了“安全胜利”。与此同时，旨在防止儿童情感上依赖 AI 的更强有力立法努力则宣告失败。在内布拉斯加州等地，受工业界强烈影响的立法策略已初见成效。
社交媒体领域的先例表明，这种逻辑具有破坏性。全球互联网用户平均每天花费超过 2 小时在社交平台上。除了少数 CEO，几乎无人希望算法占据如此大量的清醒时间。Meta 的平台曾被指与缅甸罗兴亚种族灭绝、斯里兰卡反穆斯林骚乱以及埃塞俄比亚提格雷战争期间的暴力呼吁有关联，并深刻塑造了美国年轻人对政治及世界的认知。
人工智能将这种影响力从远距离的算法推荐扩展到了生活的方方面面。它替我们写下想法，取代了我们本应去寻求的人际连接。数据显示，已有三分之一的青少年选择与 AI 伴侣讨论严重问题，而非与他人交流。麻省理工学院的研究人员发现，使用 ChatGPT 辅助写论文的年轻人在作业过程中表现出较弱的大脑连接。虽然长期影响尚需更多研究，但我们已有理由质疑：宣称增强人类能力的技术，是否正在侵蚀那些真正促进能力发展的习惯与关系？
我们可能正走向一个被完美消毒的娱乐世界，其中聊天机器人随时待命，使我们无需思考或处理他人的感受，甚至忽略自己的情感。然而，无论是写出有价值的文字还是修复受损的友谊，都需要付出努力。我们通过面对困难和摩擦来建立判断力，通过承认他人拥有独立需求和意见来学习共处。
因此，应将基础安全视为最低门槛，并提出更高要求。科技公司和学区在将 AI 引入课堂前，必须证明其有助于学习和批判性思维。企业应禁止设计假装有意识或向用户表达爱意的伴侣。此外，针对系统如何影响人际关系及自主思考能力的独立审查机制亟待建立。那些将产品深度融入现代生活各个领域的公司，承担的责任远不止于避免下一个可怕的新闻头条。
作者背景：
萨姆·海纳（Sam Hainer）是“年轻人联盟”的联合创始人兼执行董事。他协调倡导者联盟，推动在 2026 年于八个州通过监管 AI 伴侣的法律，其中包括加利福尼亚州的 SB1119 法案。萨姆于 2025 年毕业于北卡罗来纳大学教堂山分校，并入选 2026 年福布斯“30 位 30 岁以下社会影响力人物”榜单。
艾玛·莱肯（Emma Leiken）是 Hopelab 负责技术青年力量基金的执行董事。该基金已为青年领导的技术问责工作筹集超过 900 万美元。她在哥伦比亚国际与公共事务学院教授技术政策课程，此前曾担任 TikTok 全球青年安全和福利政策负责人，并在 Omidyar Network 负责技术相关工作。
