Anthropic引入6名外部研究员驻场审查AI安全，报告可独立发布

Anthropic宣布，已让独立 AI 评测机构 METR 的 6 名研究员进入公司内部，向其提供办公空间、工作电脑，以及与内部安全评估团队大致相当的系统权限。

按照 Anthropic 的说法，这些研究员不再只是从外部测试 Claude，还可以接触内部工具，调查模型的危险行为、安全事故和防护措施。Anthropic将这种安排比作银行监管机构派驻银行的常驻检查员。

报告可自行公开，但公司仍保留删改空间

METR可以自行公开风险评估和调查结论，Anthropic无权阻止报告发表。不过，如果内容涉及客户数据、受法律保密保护的材料和模型架构，Anthropic仍可要求删除相关内容。

如果 METR 认为这些删改要求不合理，可以公开提出异议，但不能披露被删去的原文。

外部评测分为3个等级

Anthropic将外部评测划分为 3 个等级，目前 METR 已进入权限最高的一级。

除 METR 外，另一家非营利机构 SecureBio 正在审查 Anthropic 的生化武器风险，埃森哲旗下 Faculty 也在推进模型红队测试和安全评估。

METR提到合作仍依赖企业自愿开放

METR明确表示，不接受前沿 AI 公司的报酬或捐款；而 Anthropic 此前曾宣布，直接出资支持埃森哲的评测工作。

在 10 月 14 日发布的说明中，METR承认，目前这类合作仍依赖 AI 公司自愿提供信息，评测员可能拿不到关键证据，厂商也可以通过限制访问和删改报告，影响公众最终看到的内容。