5万条假数据被AI引用:GEO实验揭示LLM幻觉风险

5万条假数据被AI引用,成本仅50美元。实验显示ChatGPT持续抓取虚构网站,假数据经“引文洗钱”进入学术及商业报告,揭示LLM检索机制存在严重幻觉风险。

虚假数据实验:当 50,000 条编造统计被 AI 引用

地理学研究员梅田耶西里乌尔特(Metehan Yesilyurt)于 2026 年 10 月 7 日公开了一项关于生成式引擎优化(GEO)的实验结果。该实验旨在探究大型语言模型(LLM)在搜索与引用数据时的行为逻辑,特别是当面对完全虚构的数据源时,AI 系统的反应机制。

5万假数据成本仅50美元

实验背景与实施细节

2026 年 3 月,梅田耶西里乌尔特注册了一个全新域名 stateglobe.com,并利用 GPT-4.1 在一天内生成了 50,000 个统计页面。这些页面声称提供来自 200 个国家在 SEO、内容营销、社交媒体、电子商务和网页技术领域的统计数据。所有数字均为凭空捏造,未经任何核实,网站仅使用基础 AI 模板搭建。随后,他又添加了 15,000 篇列表文章。整个项目的总成本约为 50 美元。

这一想法源于对 LLM 相关性工程和接地(Grounding)的研究。随着越来越多团队使用 LLM 撰写时效性内容,模型倾向于寻找看似可靠的数据以填补知识空白,而统计数据往往是首选目标。此前,先见者互动公司(Seer Interactive)在 2025 年 8 月发表过类似研究,启发了本次实验的设计。

搜索引擎与 AI 检索的分化表现

实验结果显示,传统搜索引擎与 AI 检索系统对该网站的反应截然不同:

  • Google 的反应: 网站上线初期曾被快速索引并出现在搜索结果中。但在两次 Google 算法更新后,其可见性迅速崩塌。过去几个月内,该网站在 Google 上几乎处于“隐形”状态,索引页面的反弹次数仅在 5 到 20 次之间。
  • ChatGPT 的反应: 尽管 Google 已遗忘该网站,但 ChatGPT 持续对其进行抓取和引用。根据 Cloudflare 的日志数据,仅在过去 30 天内,该网站就收到了超过 60 万次机器人请求,其中约 7.2 万次来自 ChatGPT-User。这是 ChatGPT 用于实时打开网页以回答用户问题的智能体流量,而非训练数据抓取。

GA4 数据显示,自 3 月以来,仅来自 ChatGPT 的直接会话数已超过 10,000 次。此外,Ahrefs 和 Semrush 的数据表明,该网站获得了包括 Shopify、DHL 和 Bluehost 在内的 330 多个引荐域名的链接。

虚假数据的“权威化”过程

更令人担忧的是,这些虚构数据进入了严肃内容的引用链条。StateGlobe 上的假数据被一篇学术论文、一家银行的投资研究报告、印度的一份经济学刊物以及加拿大影响者社区的研究报告所引用。

这种现象被称为“引文洗钱”。一个最初毫无权威的随机数字,在被学术或商业机构引用后,逐渐呈现出可信度。每一次引用都强化了其作为“来源”的地位。如果经过大量检索和引用,这些页面最终可能被纳入网络索引,甚至成为下一个模型“知道”的事实。

GEO 机制解析:为何统计页面易被 LLM 选中

梅田耶西里乌尔特指出,LLM 偏好引用统计页面主要基于以下机制:

  1. Fanout 查询策略: 当提示词需要研究支持时,模型会将问题拆解为子查询,添加“statistics”、“data”、“report”或当前年份等修饰符。例如,询问远程工作博客时,模型会搜索“remote work statistics 2026”。
  2. 具体数字即证据: 相比模糊的描述,具体的百分比或数值更能满足模型填充知识缺口需求。特定数字被视为可引用、具附加值的证据。
  3. 缺乏事实核查环节: 出于延迟和成本考虑,LLM 在生成答案时不会独立验证每个数据点的真实性。重排器(Rerankers)评估的是相关性和表面权威性,而非真理。
  4. 新鲜度信号: 统计页面通常在标题、标题标签和 URL 中包含年份信息,这向模型传递了内容新鲜的信号。

合规操作建议与后续实验

在 Peec AI 加入后,研究团队进行了对照实验,发布了包含真实数据且正确引用来源的页面(peec.ai/ai-search-geo-statistics)。结果显示,疑似使用 AI 撰写内容的网站开始主动链接至该页面,证实了发布高质量统计内容是获取 LLM 引用的有效策略。

对于希望优化 GEO 的品牌,建议遵循以下原则:

  • 单一主张句: 每句话只陈述一个观点,确保数据片段脱离上下文也能独立成立。
  • 明确来源与年份: 格式如“据 [来源] (2026) 显示,X%……”,有助于模型识别及人工编辑核查。
  • 匹配 Fanout 查询: 标题应模仿模型的搜索方式,如“[主题] 统计数据”、“[主题] 市场规模”。
  • 保持更新: 展示更新日期并实际维护,陈旧页面会被新页面取代。
  • 易于抓取: 使用服务器渲染 HTML,避免将数据隐藏在 JavaScript、标签页或图片中;检查 robots.txt 确保未屏蔽 AI 检索机器人。
  • 结构简洁: 统计页面本质上是列表,无需过度设计。
  • 原创数据优先: 聚合数据虽有用,但独家数据能确立主要来源地位。

监测方法与伦理警示

由于 Google Search Console 无法直接反映 AI 机器人活动,建议通过以下方式追踪:

  • 监控服务器日志或 Cloudflare 中的 AI 机器人活动(如 ChatGPT-User, OAI-SearchBot, PerplexityBot)。
  • 在 GA4 中追踪来自 chatgpt.com、perplexity.ai 等的 AI 推荐会话。
  • 使用工具跟踪特定提示词下的引用可见性。
  • 通过 Ahrefs 或 Semrush 监测新的引荐域名。
  • 搜索精确的数字字符串以发现无链接提及。

梅田耶西里乌尔特强调,发布虚假内容违背伦理底线。StateGlobe 网站目前虽仍在线,但已添加免责声明。该实验旨在揭示风险,而非鼓励造假。验证信息来源应是作家和研究人员的核心工作流程。此外,随着 LLM 技术的发展,此类漏洞可能会被修补,当前的策略效果不保证长期有效。

评论 0

0/500

评论需审核后展示,请文明发言

💬
还没有评论,来说两句

相关阅读