Anthropic模型安全争议升级，亚马逊研究被指推动美国监管介入

Odaily星球日报讯，据《华尔街日报》报道，美国政府针对 Anthropic 模型 Fable 5 / Mythos 5 采取的出口管制与访问限制，部分源于亚马逊方面的网络安全研究，以及 AWS CEO Andy Jassy 与白宫之间的沟通推动。相关争议使 Anthropic 的模型安全问题进入监管层面，并将亚马逊在其中扮演的角色推至台前。

亚马逊研究进入政府决策链条

报道提到，亚马逊提交的研究围绕一系列提示词测试展开。研究人员在测试中能够诱导 Fable 5 输出敏感信息，而这些信息可能被用于网络攻击。该发现引发了围绕模型安全的担忧，也成为美国政府评估 Fable 5 / Mythos 5 风险时的重要材料之一。

随后，Andy Jassy 将相关发现上报至美国政府层面，推动白宫采取进一步限制措施。输入信息显示，这些措施包括禁止外国用户访问该模型，并与出口管制及访问限制共同构成对 Anthropic 相关模型的监管回应。亚马逊因此被指是此次监管介入背后的关键推动方。

Anthropic与白宫的安全边界分歧

前美国商务部官员 Kate Koren 透露，白宫对 Anthropic 的既有政策立场也可能影响了此次决策判断。双方在 AI 安全边界问题上存在分歧，其中包括 Anthropic 拒绝将模型用于大规模监控或致命自主武器系统。这些立场差异使白宫在处理模型访问和出口限制时，面临更复杂的政策背景。

报道还称，Anthropic 与白宫在今年早些时候一度缓和关系并扩大合作，但此次围绕 Fable 5 / Mythos 5 的安全争议，可能再次加剧双方紧张关系。事件的核心并不只在模型输出本身，也涉及企业安全研究、政府监管沟通以及 AI 模型使用边界之间的交叉。