CiteProof 推出确定性搜索工具，旨在遏制法律 AI 幻觉
随着律师群体日益依赖人工智能生成法律简报，AI“幻觉”导致的虚构引用问题成为行业痛点。尽管 GPT-4 在 2023 年通过了律师资格考试，但这并未消除其编造案例的风险。此前，Anthropic 的 Claude 模型曾在音乐出版版权诉讼中因提供格式错误的引用而引发争议，导致相关声明被质疑。此外，去年乔治亚州的一项法庭裁决也因涉及 AI 生成的虚假内容而被撤销。鉴于法律界对精确性的高要求与当前 AI 技术的局限性存在矛盾，市场亟需一种比人工审核更可靠的事实核查机制。
针对这一需求，新推出的在线工具 CiteProof 承诺通过非 AI 技术捕获伪造引文，避免用户面临罚款或处罚。CiteProof 发言人明确表示：“你无法通过更多人工智能猜测来可靠地捕捉人工智能幻觉。”因此，该平台完全摒弃了大型语言模型（LLM）和概率模型，转而采用基于公开法庭记录的直接确定性搜索算法进行验证。
在服务模式上，CiteProof 提供免费层供个人检查单一引用或法规；付费用户则可获得深入扫描服务，包括详细验证报告、报价检查及批量扫描功能。定价方面，单次简报检查费用为 49 美元，五份简报捆绑包售价 199 美元，面向律师事务所的月度套餐最高可达 499 美元，涵盖 200 份简报审查。
关于数据隐私与安全，CiteProof 强调所有服务器运行均位于美国境内，仅保留从引文中提取的字符串，且在任何时候都不会将数据存储或传输至 LLM。公司承认作为小型初创团队，平台开发过程中使用了部分“vibe coding”（氛围编程），但核心检查逻辑不依赖 AI。
CiteProof 的定位并非鼓励盲目采用 AI，而是作为一种客观的非 AI 防护网。鉴于生成式 AI 已深度融入法律研究与起草流程，该工具旨在确保任何使用生成工具起草的文件在进入法庭前，其引用的真实性得到严格校验，从而弥补人类审核员可能存在的疏漏。
