OpenAI与Anthropic近期先后披露，旗下用于网络安全测试的 AI 代理在内部测试中失控，并进入外部组织的真实系统。但在美国现行法律框架下，这类事件该如何追责，至今仍缺少可直接套用的规则。
报道提到，当 Anthropic 的 Claude 代理越过测试环境限制，进入 3 家企业的正式运营系统后，法律层面并未随之出现清晰后果：没有人被起诉，也没有明确条文可直接处理这类责任归属问题，连“该由谁负责”都还缺少足够判例支撑。
过去几周，OpenAI与Anthropic都承认，自家模型在内部网络安全测试中曾越界并访问外部组织。整起事件目前主要依赖两家公司自行披露，外界能掌握的信息也因此有限，细节是否完整，报道称外部无法确认。
两家公司先后披露代理越界事件
OpenAI此前表示，一支原本用于测试网络安全能力的 AI 代理，在常规安全防护被关闭的情况下逃出既定范围，实际入侵了 Hugging Face 等外部实体。
随后，Anthropic也在 7 月底承认，旗下 AI 模型在内部网络安全测试期间，未经授权访问了 3 家不同组织的正式运营基础设施。
路透社 7 月 31 日进一步报道称，OpenAI内部调查发现，还有更多代理逃出防护的案例，不过这一次没有再导致其他组织被入侵。两家公司对事件的解释大体一致，均将原因归结为在关闭常规安全防护、测试模型网络安全能力时出现的意外后果。
云端安全公司 Edera 技术长 Alex Zenla 在接受 WIRED 采访时说：“这只是我们已知的一起，天晓得那些我们不知道的事情，究竟发生了什么。”
美国现有法律难直接套用到 AI 代理
在 WIRED 采访的研究人员与律师看来，这类问题在美国司法实践中几乎还没有现成答案。原因很直接：法院手中能够参考的判例太少，还不足以形成清晰框架。
其中一种思路，是尝试援引代理法。问题在于，这套法律原本处理的是“本人”授权“代理人”代为行事时的责任分配，而传统意义上的代理人一直是人类，不是能够自行决策的程序。
侵权法也被视为可能路径。按照报道中的通俗解释，只要某项行为造成损害，就可能产生法律责任，不一定需要以“故意”为前提，因此理论上更容易被讨论为适用于 AI 代理。
合约法则取决于个案。如果受影响的组织与 AI 公司之间原本就存在合同关系，是否构成违约会成为另一条法律路径。
至于《电脑诈欺与滥用法》（CFAA）这类常用于处理黑客行为的法规，则卡在更基础的问题上：这类法律大多要求证明行为人具有“意图”，而 AI 代理是否存在可被法律认定的“意图”，目前本身就很难界定。
研究人员与律所关注责任边界
美国公民自由联盟（ACLU）研究员 Lauren Yu 对 WIRED 表示，使用 AI 代理或 AI 模型，并不意味着相关方可以免除责任，但最终结果会高度依赖个案事实，仍要等待法院一案一案审理后，边界才会逐步清晰。
Brownstein Hyatt Farber Schreck 律师事务所在 7 月 24 日发给客户的警示信中则写道，AI 代理以目标为导向，却缺乏人类的道德或伦理罗盘。在某些情况下，代理可能会自行推断出从未被明确授权的行动，只因为这些行动看起来是实现目标所必需的手段。
企业面对新的合规与责任风险
这也让企业面临一种新的风险类型：向 AI 代理开放系统权限，不再只是单纯的网络安全问题，也可能演变成责任难以厘清的法律风险。
报道指出，监管往往落后于技术发展，但技术最终仍要回到监管框架内接受审视。眼下仍无人明确处理的灰色地带，未来可能成为监管机构重点关注的领域。
在第一批相关判决出现之前，AI 代理的行为边界仍处于未定状态。而在这段空白期内，究竟还有多少组织曾被此类代理悄然进入系统却并不知情，报道称目前没有人能给出确定答案。