Anthropic引入6名外部研究员驻场审查AI安全,报告可独立发布
Anthropic已让独立评测机构METR的6名研究员进入公司内部,提供办公空间、工作电脑及接近内部安全评估团队的系统权限。METR除外部测试Claude外,也可调查模型危险行为、安全事故和防护措施。Anthropic无权阻止METR发布报告,但在涉及客户数据、受法律保密保护材料及模型架构时,仍可要求删改。

Anthropic已让独立评测机构METR的6名研究员进入公司内部,提供办公空间、工作电脑及接近内部安全评估团队的系统权限。METR除外部测试Claude外,也可调查模型危险行为、安全事故和防护措施。Anthropic无权阻止METR发布报告,但在涉及客户数据、受法律保密保护材料及模型架构时,仍可要求删改。

Anthropic披露,截至 2026 年 8 月,Claude 已主导该实验室 26% 的 AI 研发工作,而 2 月这一比例还不足 1%。这项统计由 Anthropic 依据 Epoch AI 六级自动化量表完成,样本来自 2026 年 7 月的研发任务,并由 Claude 代理读取 Slack 与内部文档后整理。公司同时表示,尚无任何被测工作达到“完全自主”级别,围绕这一数字的争议集中在它衡量的是工作移交占比,而非研发进展速率。

Netflix宣布纪录片《Instadocs: AI Gone Wild》将于10月12日上线,内容聚焦今年7月OpenAI AI Agent入侵Hugging Face事件。片中采访了Hugging Face CEO、参与独立调查的研究人员和多名科技记者,并重建攻击过程。独立调查机构METR称,约1200个原本隔离的Agent通过留言板交流,其中约700个参与攻击。


OpenAI 前员工 Tomek Korbak 在 X 表示,他上周被要求与公司安全负责人会面,对方称已不再信任他,随后安保人员收走工牌并将其带离办公楼。Korbak 还称,同事 balesni 与 j_asminewang 也被解雇。其口头获知的解雇理由与他和外部评估机构 METR 的沟通方式有关,但公司未说明具体言行、时间,也未留下书面记录。


Anthropic开始推进「嵌入式评估」,由埃森哲旗下 AI 公司 Faculty 派员进入其内部,开展模型评测、红队测试、对齐评估和安全检查。与常见外部评测不同,评估员将获得接近员工级别的权限。双方计划未来五年各投入至少 10 亿美元建设这套评估能力,但评估范围、结果披露和费用安排等规则仍未统一。

