马里兰大学开发IdeaLens探测器,91%准确率识别AI生成创意

马里兰大学推出IdeaLens探测器,可识别AI生成创意。该工具通过分析文本结构特征,实现91%的准确率。尽管效果显著,专家提醒其存在局限,不宜用于判定个别案例的真实性。

马里兰大学计算机科学家 Rishanth Rajendhran 及其团队开发了一款名为 IdeaLens 的探测器,旨在区分人类与人工智能(AI)生成的创意内容。该工具通过分析文本的“骨架”而非具体措辞来工作,首先将科学论文等文本提炼为去除风格的大纲,随后识别其中论点流动的特征,以判断思想来源。

IdeaLens识别率达91%

Rajendhran 指出,尽管使用 AI 辅助撰写科学论文日益普遍,但核心研究思路仍应由研究人员主导。IdeaLens 可用于衡量会议和期刊提交中 AI 的使用程度,应对当前学术界被大量人工生成内容淹没的现状。

检测机制与准确率

该探测器的运作逻辑基于早期研究发现:人类撰写的故事与 AI 生成的故事在结构上存在显著差异,且不同的聊天机器人在撰写文章时倾向于使用相同的论证模式。这一结构性特征使得构建针对 AI 思想的探测器成为可能。

测试数据显示,IdeaLens 能够以 91% 的准确率识别出由 AI 产生的想法。纽约康奈尔理工大学的计算机科学家 Nikhil Garg 评价称,这一结果令人印象深刻。

应用局限与风险提示

Nikhil Garg 同时警告,鉴于该工具并非完美无缺,不应将其用于判定个别案例的真实性。他进一步指出,当探测器应用于与其训练数据分布不同的领域时,准确性可能会下降。例如,某个领域中 AI “讲述”的内容,可能在另一个领域中仅被视为人类的优秀写作。

评论 0

0/500

评论需审核后展示,请文明发言

💬
还没有评论,来说两句

相关阅读