OpenAI研究员警告:AI信息溯源缺失致监督失效
OpenAI研究员帕乔基警告,AI信息溯源缺失正导致人类监督失效。由于网络原始出处易消失且权威性被稀释,AI常基于不明来源行动。随着能力增强,审查可能退化为程序性签字,他呼吁建立详细证据记录以保障安全。
共 514 篇相关文章
OpenAI研究员帕乔基警告,AI信息溯源缺失正导致人类监督失效。由于网络原始出处易消失且权威性被稀释,AI常基于不明来源行动。随着能力增强,审查可能退化为程序性签字,他呼吁建立详细证据记录以保障安全。
OpenAI任命前陆军部长德里斯科尔为国家安全高级顾问。该新设职位旨在推动AI在国安领域应用,负责提供加强国家及网络安全的专业建议。德里斯科尔表示,希望确保技术负责任运行,让服务人员获得最佳工具以减轻行政负担。
OpenAI拟调整ChatGPT配额,Plus等订阅用户将共享单一计量系统。复杂任务消耗更多额度,普通对话不计入。因未公布具体数值且引发担忧,部分付费用户担心服务价值被稀释。
OpenAI等四巨头支持robots.txt阻止AI训练。网站所有者可通过配置robots.txt文件,添加Disallow指令屏蔽合规AI爬虫访问全站或特定页面,以保护内容不被用于模型训练。
GPT-4o评估科研提案存在创新性偏见。研究显示,该模型在60%案例中与人类审核一致,但对高新颖性提案资助意愿更低。这可能源于大语言模型依赖重复模式学习,难以识别低频的创新价值。
OpenAI拟将数据中心更名为“AI计算校园”。此举旨在缓解社区对能耗及噪音的担忧,配合2028年大选前的公关战略。目前47%美国人反对新建数据中心,亚马逊已因阻力放弃弗吉尼亚州项目。
OpenAI宣布12月起整合ChatGPT聊天与工作选项卡。此次更新将代理能力引入主体验,实现一站式操作,且Plus等计划的使用额度将在ChatGPT与Codex间共享。
AI代理正将蒂姆·伯纳斯·李的愿景变为现实,重塑互联网交互方式。与此同时,科技股抛售致纳指创六月来最差表现,OpenAI资金目标削减至百亿美元,网络安全事件频发引发行业关注。
LLM代理正让伯纳斯-李的语义网络愿景以新形式落地。无需人工标签,AI即可理解网页并执行任务,改变互联网生态。其未来形态尚不明朗,可能开放定制或受限于少数平台。
数学家卡莱加里建议重构评价体系,以应对AI对数学界的冲击。OpenAI发布700多篇论文引发争议,他主张将AI视为新工具而非终点,鼓励制定更宏大的研究计划。
OpenAI将新一轮融资目标下调至200亿美元。此前计划募资300亿,估值目标也从1.4万亿降至1.25万亿美元。阿联酋投资者领投,目前已获110亿美元承诺。
奥尔特曼称闲置DRAM可怕。OpenAI占全球40%产量,引发争议。批评者指其忽略游戏等需求,AI挤压供应链致内存涨价,消费者承压。
Altman称内存应优先供数据中心。他指个人PC利用率低,但遭消费者反驳。受AI需求激增影响,全球RAM短缺,消费级设备价格恐持续上涨,装机成本将增加。
OpenAI、Google等四巨头联合推出统一指令,允许出版商一键屏蔽AI训练。该机制将于2027年初陆续生效,旨在回应媒体版权争议,但默认仍允许内容抓取,且拒绝训练可能降低曝光率。
Google、Anthropic等四巨头统一AI抓取规则。出版商可通过新robots.txt指令精细控制训练数据,允许或禁止特定页面被采集。该规范不具追溯力,各公司将于2027年前后陆续支持。
安全团队披露ChatGPT账户劫持漏洞,攻击者借共享链接绕过沙箱执行任意代码。受害者仅需点击链接即可被接管账户、读取隐私。OpenAI已修复该P1级严重问题。
AI热潮推动VC基金募集加速,部署周期压缩至12到18个月。资本高度集中于OpenAI等头部项目,但底层资产营收增长显示基本面支撑强于加密货币泡沫期。
奥尔特曼称OpenAI不会放缓数学科研发布。尽管面临归因与验证争议,公司仍坚持推进基础科学探索。近期一次性发布722份手稿,引发学界对研究节奏及心理压力的担忧。
奥尔特曼批评本地AI浪费DRAM资源。他认为个人电脑闲置内存仅用5%,从全球分配看效率极低,主张云端应最大化算力利用率,此观点被视为对其闭源商业模式的辩护。
奥尔特曼称PC内存浪费DRAM资源。他认为将有限存储集中至数据中心效率更高,但该观点忽视游戏等本地刚需,且契合OpenAI云订阅模式。当前厂商优先供应数据中心,已致PC硬件价格波动。