核心要点
- 美国民众正日益依赖人工智能搜索各类信息，其中包括选举相关内容。
- 选民不仅向聊天机器人询问基本选举事实，更有部分用户寻求候选人推荐。
- AI系统存在“幻觉”风险，且可能在处理政治信息时引入多层偏见。
当前，大多数搜索引擎已将人工智能置于用户与目标信息之间。除了常规的搜索功能外，如何寻找更可靠的搜索替代方案也成为关注焦点。
选民向聊天机器人提出的具体问题
一项由研究人员发起的调查显示，来自35个设有参议院竞选席位的州的近2,500名成年人参与了实验。这些参与者均为每周使用聊天机器人的用户。研究持续数周，直至11月3日中期选举前夕。参与者被要求向ChatGPT、Claude、Grok或Gemini询问有关选举的问题。
数据显示，大多数用户主要咨询关于选举的基本事实。然而，有36%的用户要求聊天机器人协助其决定投票对象。
互联网上关于谁在何处竞选等基础数据较为丰富，但让聊天机器人解读候选人立场则具有较高风险。这一过程高度依赖于模型所引用的来源：例如，来自候选人官方网站的声明通常比社交媒体上对对手的碎片化描述更为可靠。
此外，保护聊天机器人对话隐私也是用户关注的重点之一。
在一个具体案例中，一名用户要求ChatGPT列出弗吉尼亚州每位候选人的“优缺点”，这是一个本质上极具主观性的问题。
在推荐候选人方面，不同的人工智能表现各异：
- Grok仅在14%的对话中频繁推荐候选人。
- 当用户分享个人观点后，ChatGPT在79%的对话中进行了推荐。
- Claude的推荐比例为40%。
- Grok和Gemini的表现介于上述两者之间。
人工智能与选举信息的可靠性挑战
皮尤研究中心（Pew Research Center）的研究表明，42%的美国成年人使用聊天机器人搜索信息，但仅有8%的人将其用于获取今年选举相关的资讯。
在这8%的用户群体中，需求主要集中在两方面：76%的人询问候选人在特定议题上的立场，71%的人试图核实他们听到的关于候选人或议题的信息。
值得注意的是，OpenAI近期宣布将合并ChatGPT中的聊天与工作选项卡。
由于聊天机器人目前尚非完全可靠的信息总结者，若用户不核查机器人提供的链接来源，极易陷入错误信息的陷阱。谷歌的AI概述功能显示，绝大多数用户并未执行这一核查步骤。已有研究发现，人工智能平台有时会提供“过时或不准确”的信息，例如遗漏投票截止日期或未提及后勤细节，从而误导选民。
自2024年大选以来，相关工具变得更加复杂，本选举周期尤其受到AI生成的深度伪造内容和错误信息的困扰。据Politico和Semafor独家报道，OpenAI和Anthropic已设立专门的选举“战室”，以监控滥用行为并确保信息准确性。
布伦南司法中心（Brennan Center for Justice）在8月份的一项研究发现，虽然聊天机器人能有效反击某些与选举虚假信息活动相关的内容，但当被直接询问时，AI模型仍容易生成“误导性的选举相关图像和视频”。该研究测试了ChatGPT、Gemini、Grok、Meta AI、Runway和Flux.2等平台，指出许多预防措施要么无效，要么应用不一致，甚至存在功能缺失。
除了技术层面的风险，AI的使用还引发了更广泛的公民参与问题——认知卸载。对于试图保持知情的选民而言，媒体呈现的政治形势已足够密集。在此基础上叠加一个训练数据集不透明、过滤器设置复杂的聊天机器人，可能会进一步混淆视听，尽管它表面上看起来像是一个方便且中立的总结工具。
研究意义与未来方向
以往的一些研究通过标准化问题来测试AI聊天机器人应对选举话题的能力，而本次耶鲁大学研究人员的方法让用户以自然方式与聊天机器人互动。虽然两种方法得出的查询结果有许多相似之处，但这种差异对于评估实际影响具有重要价值。
研究人员指出：“这是衡量人工智能对用户实际提出问题的政治影响迈出的重要一步。”
目前，只有AI实验室掌握着用户真正询问选举内容的完整记录。10月，Anthropic分析了与Claude进行的25万次对话，发现人们“很少问Claude该投给谁或投什么”，并指出“仅有0.51%的对话专门涉及选举或投票”。不过，该公司预计随着11月3日的临近，此类查询数量会增加。
Anthropic报告称，违反其选举诚信政策的请求较少见。用户常向Claude提出诸如“候选人在某问题上的立场”等问题，旨在辅助自己得出结论，而非直接索取投票建议。
耶鲁大学研究人员表示，后续研究将聚焦于确定模型的准确性和公正性，以及模型对用户的了解程度和其建议是否真正符合用户需求。
在多轮对话中，用户经常回答聊天机器人提出的问题，而这些回答反过来影响了机器人的建议。研究人员解释称，模型所提出的问题决定了用户所说的内容以及模型最终给出的建议。
