AI聊天机器人核心差异在连接层而非模型

AI聊天机器人核心差异在连接层而非模型。ChatGPT通过增加安全防护、搜索及推理等连接层组件,将原始LLM转化为可用产品。行业共识认为顶级模型基础技术高度可互换,真正的差异化竞争集中在连接层。

人工智能聊天机器人由多个层级构成,但用户往往忽视其中关键部分 Jaap Arriens/NurPhoto 通过 Getty Images

同模型不同连接层得分差80%

2022年11月ChatGPT推出时,OpenAI首席执行官Sam Altman将其定义为“早期演示”,市场预期普遍较低。尽管该工具在核心能力上并未显著超越此前的大型语言模型(LLM),但其界面体验的提升却引发了广泛关注。这一现象揭示了一个常被忽视的事实:现代AI聊天机器人并非单一软件,而是由多层技术栈封装而成的系统。其中,位于模型与用户之间的“连接层”(Harness)扮演着至关重要的角色。

Read more

人工智能驳斥了计算机科学中 30 年历史的数学假设

理解“连接层”的运作机制,有助于厘清ChatGPT等产品的技术架构。最底层是LLM本身,目前主要版本为GPT-6,其核心功能是基于概率预测下一个字符。回顾历史,2018年发布的GPT-1和2019年的GPT-2均以独立软件形式存在。直到开发者Adam King创建了Talk to Transformer网站,才首次实现了将Web界面置于模型之上,这被视为早期连接层的雏形。

2020年,OpenAI发布GPT-3并首次通过应用程序编程接口(API)向公众开放访问权限,标志着商业化应用的开端。API允许第三方软件接入GPT-3,类似于Google Maps API处理位置数据请求的方式。然而,当时的原始LLM输出缺乏安全防护机制,能够生成仇恨言论或危险指令,且文本质量存在瑕疵,用户体验较为粗糙。

随着GPT-3.5及ChatGPT的发布,情况发生了根本性变化。ChatGPT最初被称为“Chat with GPT-3.5”,其在GPT-3基础上增加了关键的安全防护层。OpenAI引入了用于筛选输入和输出的软件组件,旨在防止模型产生有害内容。尽管用户仍可通过特定技巧(如要求以诗歌形式生成恶意内容)绕过部分限制,但这标志着从原始LLM向经过连接层介导的LLM的转变。

当前的ChatGPT产品形态包括手机应用和网页端,通过连接层赋予模型搜索互联网、阅读文档以及进行“推理”的能力。“推理”过程涉及通过“思维链”技术促使模型自我迭代以优化结果。此外,OpenAI还开发了名为Codex的高级连接层,使LLM能更直接地控制计算机,特别适用于代码编写场景。

大型AI公司的一个行业共识是,其顶级模型在基础技术上具有高度可互换性。无论是OpenAI的GPT系列,还是Anthropic或Google的模型,均基于预训练的Transformer架构。虽然训练数据和算力规模存在差异,但技术演进方向基本一致。真正的差异化竞争集中在连接层。

实验数据显示,同一款GPT-6模型在不同连接层配置下表现迥异。通过标准API询问“我是谁?”,模型回复称无法识别用户身份;而在登录个人账户后,模型则准确识别出用户为新科学家高级编辑Jacob Aron。这表明连接层不仅管理交互逻辑,还整合了用户上下文信息。

Read more

西方的人工智能恐惧的根源在于文化,而非技术

连接层的重要性在ARC-AGI测试中得到进一步验证。该测试被视为衡量模型智能的关键指标之一。当使用标准化的剥离式连接层进行测试时,各模型表现相近;但当引入各AI公司特有的“提供者适配器”连接层时,性能差异显著。例如,OpenAI领先的公开型号GPT-6 Astra在使用供应商适配器连接层后,测试分数提升了多达80个百分点。对于较早的GPT-5.6 Sol模型,仅调整两个设置即可使ARC-AGI得分增加三倍。

尽管连接层至关重要,但在公众讨论中往往被忽视。主要原因在于其技术细节复杂,普通用户无需深入理解。此外,相比训练成本高达近10亿美元且内部机制尚不完全透明的LLM,连接层本质上是人类编写的常规软件代码,缺乏神秘感。然而,这种透明性也带来了新的研究问题:人工智能是否具备编写并改进自身连接层的能力?目前这仍是学术界和产业界的开放课题。今年8月发表的一篇论文指出,通过识别反复出现的故障模式,AI有望实现连接层的自我优化。若AI公司追求自我改进循环,连接层而非模型本身,可能成为实现这一目标的关键突破口。

Read more

巴西总统大选被 Meta 人工智能工具所谓的偏见所困扰

更多人工智能阅读:(图片来源:美国美国美国)

  • OpenAI近期在数学和物理领域取得潜在新成果。作为其计划的一部分,OpenAI已完全发布了相关的AI输出供学术界审查。值得注意的是,针对数学结果,OpenAI已公开全部细节;而在计算机科学方面,其AI驳斥了名为“指数时间假设”的猜想。物理结果目前在外界专家审核前暂时保留。此举反映了OpenAI在应对学术争议时的策略调整。
  • 在计划于年内进行首次公开募股(IPO)之前,Anthropic披露了其业务细节。该公司称人工智能是“人类历史上最具影响力的技术”,同时也警告该技术可能带来“灾难性或存在的风险”。

评论 0

0/500

评论需审核后展示,请文明发言

💬
还没有评论,来说两句

相关阅读