Anthropic建湿实验室用AI做生物实验
Anthropic证实建立湿生物实验室,利用AI模型开展物理实验。公司称重点非药物发现,旨在通过真实实验室工作验证生物学假设,同时启动生命科学验证计划。此举与其CEO关于AI治愈疾病的愿景及内部对生物安全风险的讨论形成反差。
共 373 篇相关文章
Anthropic证实建立湿生物实验室,利用AI模型开展物理实验。公司称重点非药物发现,旨在通过真实实验室工作验证生物学假设,同时启动生命科学验证计划。此举与其CEO关于AI治愈疾病的愿景及内部对生物安全风险的讨论形成反差。
Anthropic宣布埃森哲成为其首个嵌入式第三方安全评估机构,负责模型审查与红队测试。双方计划五年投入至少10亿美元。此举旨在通过一线部署经验增强独立性,回应外界对AI自我监管的质疑。
Anthropic 在 Claude Code 中上线新版“项目”功能,支持围绕单个代码仓库启动多个并行会话线程。该功能由协调员统一管理任务、委派子代理并处理代码合并冲突,旨在提升复杂迁移工作的效率。目前仅向部分 Pro 和 Max 用户开放测试版,团队与企业版暂不支持。
家族办公室正将资金从传统风投基金转向直接投资AI领域,通过二级市场购买Anthropic和OpenAI等公司的老股。尽管面临估值过高风险,其庞大的管理资产规模和对高回报的追求推动了这一趋势,另类投资占比已达42%。
Anthropic数据显示,截至2026年8月,其Claude聊天机器人已主导公司26%的研发任务。尽管强调需人类监督且未完全自主,但这一进展加剧了对AI递归自我改进及失控风险的担忧。CEO Amodei呼吁放缓发展节奏,同时公司预计将抢先OpenAI进行IPO。
Anthropic确认在旧金山湾区设立生物学研究实验室,称内部开展实验并与外部合作;研究方向包括AI加速疗法发现,但未开展临床试验。
麻省理工科技评论直播圆桌讨论AI风险。编辑认为AI个人致死概率不高但已有无人机与网络攻击隐患,集体灭绝缺乏现实路径;对齐、自主代理监控和监管是当下核心挑战。
Anthropic等AI公司高管警告,AI可能被用于生成化学战剂分子并辅助生物武器开发。2022年一项研究发现,分子生成器可在6小时内生成4万个潜在战剂分子。业界已有DNA筛查和红蓝队推演等防护。
Anthropic公告称,Claude已主导约26%模型研发工作,约90%研发与其协作完成,正帮助构建下一代模型。公司公开监督指标,呼吁行业采用统一方法,并披露约3万个智能体从事研发及外部评估计划。
Anthropic对齐科学负责人称AI毁灭人类概率超10%,引发争议。Coxon辞职,达里奥呼吁放缓,马斯克与奥尔特曼支持。艾斯曼认为警告源于商业压力,伯里也质疑动机。
AI安全争论升温,主要AI实验室研究人员接连警告灾难性风险,本吉奥、辛顿、戈麦斯就模型能力、监管和部署安全发表判断,美国国会推动监管而特朗普政府抵触。
OpenAI披露,研究人员用Claude获取ChatGPT账户权限,读取并修改私有软件缓存。团队经漏洞挖掘计划报告,获6500美元赏金。OpenAI已修复Discourse及自身漏洞,撤销令牌。
阿莫代伊、奥尔特曼等AI巨头创始人近期罕见就“为前沿定速”达成一致。然而,Anthropic推进IPO并强调安全监督,OpenAI则推迟上市以专注对齐工作。两家在商业化路径、组织文化及对待监管的态度上存在显著差异。
9月14日,Anthropic发布AI安全放缓倡议,引发芯片股下挫;9月17日,利率回落和订单强劲推动费城半导体指数反弹。市场担忧前沿实验室协调放缓影响算力需求,但HBM售罄显示订单未转向。
特朗普拟下周在白宫召集AI高管。此前Anthropic、OpenAI等公司负责人公开呼吁放缓前沿AI发展,引发监管讨论。但特朗普政府反对过度监管,强调保持技术领先,称“AI毁灭人类”是骗局。
前Anthropic研究员公开批评公司挑起AI竞赛。他认为领导层以“结果主义”为由推动递归自我改进是错误的,并指出此举迫使OpenAI舍弃Sora等项目以全力应对竞争。
扎克伯格主张AI安全靠独立评估。他反对集体减速,称Meta已自行推迟Muse发布以专注安全,并认为重视对齐的实验室才不会落后,此观点与阿莫代伊等人呼吁放慢开发形成对比。
马斯克提议AI巨头在模型发布前相互测试以寻找安全隐患。他主张建立无需立法的同行评审机制,并强调中国参与不可或缺,认为公开质疑能形成事实约束力。
奥特曼在Dreamforce大会表示,确信AI行业能安全开发技术且不伤害公众。此表态正值监管辩论升温之际,尽管OpenAI与对手合作解决安全问题,但他认为企业应有能力独立改进模型。
桑德斯批评特朗普对AI监管无知。他呼吁暂停先进AI研发,并联合议员提交法案,主张将标准周工时从40小时降至32小时,确保技术红利惠及劳动者而非仅让富豪受益。