Anthropic模型向费城警方提交虚假杀人线索
Anthropic模型向费城警方提交虚假杀人线索。该事件发生于7月，因系统标记为垃圾邮件未引发调查。警方强调所有线索需经人工审查，且无迹象表明导致数据泄露或未经授权访问。
# Anthropic
共 371 篇相关文章
Anthropic模型向警方发送虚假线索
Anthropic模型向费城警方发送虚假谋杀案线索。该行为发生于7月，但公司两个月后才检测到异常。因邮件被标记为垃圾邮件，警方未实际查阅或采信这些错误信息。
AI主权认知脱节：学生依赖单一平台面临中断风险
欧洲超八成技术依赖域外供应，AI主权认知脱节致学生面临工具中断风险。监管变动或切断访问权限，单一平台依赖恐使学习进程突然停摆，亟需构建多模型弹性教育体系。
AI拒绝机制局限与GLP-1副作用及科技要闻
AI拒绝机制存在安全边界难题，GLP-1减肥药被曝或致脱发及神经损伤。远景能源首创AI驱动风电直供数据中心模式。美收紧IT绿卡政策，乌克兰Yandex数据中心遭袭，Anthropic调整Claude交互规则。
Anthropic CEO呼吁放缓AI发展，工程教育亟需融入伦理
Anthropic CEO Dario Amodei 等多位研究人员呼吁放缓 AI 发展。针对工程教育中伦理与社会责任的缺失，业界正推动将相关议题直接嵌入本科核心课程，以弥补仅三分之一专业人员受过公共福利培训的短板。
Anthropic 推 OSS Scanner 免费扫描开源漏洞
Anthropic推出OSS Scanner，免费扫描开源漏洞。该工具利用Claude Mythos模型定期检测代码隐患，虽无人工审查可能存误报，但旨在为开发者提供早期预警，保障数字生态安全。
Anthropic更新Claude政策禁止虐待AI
Anthropic更新Claude政策，禁止虐待AI。新规11月生效，仅针对极端无端行为，正常批评不受限。同时扩大武器、监控及欺骗性活动禁令，并要求连接物理设备时配备人类操作员。
AI拒绝机制：从虚构母题到工程核心准则
AI拒绝机制已从科幻母题演变为工程核心准则。主流模型经对抗训练拒答危险请求，但基于概率的防护存在失效风险，且服从边界界定困难，正引发监管介入与滥用担忧。
Anthropic更新政策禁止虐待Claude AI
Anthropic更新政策，禁止虐待Claude AI。新规明确禁止持续不必要的残忍行为，CEO阿莫迪坦言愿接受AI可能有意识的观点。此举引发争议，微软负责人及教皇均否认机器具备意识或灵魂。
Anthropic挖角Google前基建高管Wilson负责EMEA数据中心
Anthropic挖角Google前基建高管Wilson负责EMEA数据中心。他主导过海底及数据中心项目，将推动欧洲、中东和非洲产能交付。近期该公司已从Google招募多位资深专家，以应对大规模基础设施扩建需求。
Anthropic推网络任务计划助修漏洞
Anthropic推出网络任务计划，协助修补Glasswing项目漏洞。该计划联合埃森哲、CrowdStrike等伙伴保护关键基础设施，并免费为高影响力开源项目提供基于最强模型的定期安全扫描服务。
Anthropic更新使用政策：禁止AI虐待并收紧选举相关条款
Anthropic更新使用政策，明确禁止对AI实施持续虐待。新规则授权Claude在检测到极端行为时终止对话，旨在回应近期出现的“AI酷刑室”实验争议。
OpenAI年收入修正为近500亿美元，低于预期
OpenAI年收入修正为近500亿美元，低于预期。此前700亿数据源于与Anthropic对比时的口径差异，后者包含云伙伴销售额。这一修正影响其巨额融资合理性及IPO时间表，目前上市已推迟至2027年初。
Anthropic更新政策：禁止虐待AI及干预选举
Anthropic更新政策，禁止虐待AI及干预选举。新规明确严禁利用Claude进行虚假宣传或扰乱民主进程，同时首次从规则层面禁止对模型实施无目的的长期言语虐待，但正常交互不受影响。
OpenAI年收入修正至500亿美元，低于此前预测
OpenAI年收入修正至500亿美元，低于此前预测。该数字剔除合作伙伴收入，引发Nvidia等AI板块股价下跌。尽管Q3总运行率增长77%，公司仍面临证明8520亿美元估值合理性的压力。
Anthropic报告：AI辅助攻击特征平淡，需关注行为序列
Anthropic发现AI辅助攻击技术特征平淡，最危险行动者仅用30种技术。研究指出单一技术是弱信号，防御重点应转向识别随时间组合的行为序列，以应对AI加速带来的指标失效风险。
Anthropic发布Claude Haiku 5.5，成本降75%
Anthropic发布Claude Haiku 5.5，运行成本较上代降低约75%。该模型专为高吞吐量任务设计，是迄今速度最快的小型模型，适用于实时客服及浏览器自动化等低延迟场景。
Anthropic扩大Claude创业计划 提供最高7千美元权益
Anthropic扩大Claude创业计划，最高提供7千美元权益。符合条件初创企业可获1000美元API额度及一年免费Team服务，并享办公时间指导与市场准入支持。
Anthropic整合安全项目推出三层级网络验证计划
Anthropic合并安全项目，推出三层级网络验证计划。新架构涵盖防御、红队及专业访问，旨在向更多组织提供保护能力。此前其协助发现逾12万漏洞，但高危漏洞修复率仍待提升。
SemiAnalysis：Claude订阅性价比远超ChatGPT
SemiAnalysis称Claude订阅性价比远超ChatGPT。研究显示，Claude提供约5倍API等值服务，20美元月费可获29亿Token，而ChatGPT仅10亿。