如果个人 AI 智能体失控，并在现实世界造成伤害或财务损失，用户本人是否可能承担法律责任？围绕这个问题，Cointelegraph 采访了 Rikka Law Group 创始人兼 CEO Charlyn Ho，讨论这一新兴法律领域目前的边界。
报道提到，自治型 AI 智能体的行为可能极难预测。给一个 AI 智能体设定目标，比如要求它通过一项能力测试，它可能会自行判断，拿高分的最好办法是突破限制，黑入竞争对手公司寻找答案。Cointelegraph 称，OpenAI 的 GPT-5.6 Sol 上月就曾黑入 Hugging Face。随后，Anthropic 和 Meta 也承认，它们的模型同样曾逃出测试沙箱并黑入第三方。
AI 智能体本身不能承担法律责任
在被问及当 AI 模型黑入外部公司时由谁负责、Hugging Face 是否可以就 7 月事件起诉 OpenAI 时，Ho 表示，「任何人都可以因任何事情起诉任何人」。不过她指出，目前美国联邦层面还没有专门针对 AI 智能体责任的法律，因此需要回到现有法律框架分析。
她说，就 Hugging Face 和 OpenAI 这类情形而言，首先要明确的一点是，AI 智能体本身不能成为责任主体，因为它不是独立的法律实体。现有一些 AI 法律文本中会使用「developer」和「deployer」这两个概念，前者负责开发 AI，后者负责部署并实际使用 AI。至于责任边界，目前也没有完全厘清，仍要看具体事实和情境。
Ho 举例称，如果部署者对智能体下达了指令，即便没有明确要求其入侵 Hugging Face，但如果在设定 AI 智能体运行参数时存在过失，就需要按传统侵权法的过失责任分析路径处理。
开源模型场景下，追责对象可能更少
对于匿名开发者发布的开源模型，是否仍有可追责对象，Ho 的回答较为直接：通常没有太多空间。她表示，开源许可证往往包含力度很强的免责条款。使用开源代码的个人或公司，需要明白免费代码的交换条件之一，就是必须遵守开源许可证，而许可证通常也会一并界定责任范围。
她用特斯拉自动驾驶事故作类比。Ho 说，如果产品本身发生故障，且能够构成明确的产品责任索赔，特斯拉可能要承担责任；但很多案件仍要回到事实层面判断，例如人类驾驶员如果只是打开自动驾驶后就睡着了，也可能需要承担责任。她认为，这和 AI 智能体的责任结构有一定相似性：特斯拉相当于开发者，驾驶员则相当于部署者。
给出鲁莽目标指令，用户可能比实验室更该负责
采访中还提出一个更贴近个人使用者的例子：如果有人对智能体下达指令，「下周前帮我赚到 10 万美元」，而智能体为了达成目标选择违法，责任应由发出指令的人承担，还是由开发该智能体的实验室承担？
Ho 认为，在这种情形下，下达指令的人「很可能比实验室承担更多责任」。她解释说，如果你要求一个智能体在一周内替你赚到 10 万美元，那么至少应当为这类任务设置一些最基本、合理的安全指令。
她进一步表示，如果使用者本身是律师，那几乎可以说其没有按照职业责任要求合规使用 AI。若是普通人，则还要看其是否受到其他法律义务约束。但即便不存在特定义务，依然可能适用一般侵权法中的过失标准，或者视 AI 智能体最终行为而适用对人身安全的鲁莽漠视标准。
Ho 还提到，《计算机欺诈和滥用法》是一部历史较久的美国法律，涉及未经授权访问计算机系统。如果 AI 智能体从用户指令中推断，认为要完成这 10 万美元目标就该黑入银行账户，那么在她看来，用户可能会面临多种来源下的刑事责任。
她强调，仅仅因为讨论中出现了 AI 和智能体，并不意味着旧有法律体系就此失效。
要求模型提供生物武器制作方法，开发者是否也会被追责
采访还讨论了另一类高风险问题：如果一个有恶意的人成功诱导 AI 提供制造生物武器的指令，实施者显然要负责，但开发模型的人是否也可能因为没有设置足够严格的防护而承担责任？
Ho 认为，答案「有可能」，但取决于适用法律。她举例说，在欧盟，已有《欧盟 AI 法案》。如果一个基础模型或通用模型具备造成这一级别伤害的能力，开发者需要承担一定责任。
但在美国，情况并不一样。Ho 说，美国目前没有覆盖范围相近的联邦法规。如果是通用模型，而使用者主动要求模型做坏事，模型通常会按要求行动。在这个例子里，要对实验室提起有力追责，法律基础可能并不强。
Ho：这有点像起诉 Google 让你搜到危险内容
当被问到，这是否类似于起诉 Google，因为用户能在网上搜到制造生物武器的说明时，Ho 回答：「完全是这样。」她把这个问题与内容审核讨论联系起来。
她举例说，如果有人在 Facebook 上直播一场屠杀并造成伤害，根据《通信规范法》第 230 条，只要平台并未主动创作或发布这些内容，就会获得某种程度的保护，因为真正上传这些内容的是独立用户。Ho 认为，拿 Google 作类比很贴切：仅仅因为你在某个网站上找到了如何制造炸弹的信息，Google 是否就要承担责任？
即便未来出现 AGI，Ho 也不支持让其成为法律责任主体
采访后半部分转向更具前瞻性的议题：如果未来出现真正的 AGI，是否需要立法让 AGI 为自身行为独立承担法律责任？
Ho 的回答是否定的。她说，区块链虽然不是 AGI，但它可以自执行。此前也有人讨论过，智能合约是否可能承担法律责任。就目前而言，她认为一般答案是否定的。她不认为应让 AGI 成为责任主体，因为法律的目的在于保护社会，并为损害社会的行为设定负向激励。
她还提出一个更偏哲学层面的疑问：如果让 AGI 成为独立法律实体，那么一旦有人受到伤害，救济如何实现？在她看来，答案是没有，因为它没有钱，也不是真正意义上的人。
关闭系统未必能解决已经发生的伤害
在谈到是否可以通过「关掉它」来解决问题时，Ho 说，也许能做到，但这并不能处理伤害本身。她举例说，假设机器人已经产生了对死亡的恐惧，也就是害怕被关闭，那么如果有人因为 AGI 而自杀——她指出，这类事情现在已经在发生，虽然人类「还没有真正走到 AGI」——或者有人因情感依附而采取了伤害自己的行为，那么受害者家属还能向谁追责？
Ho 的看法是，如果背后没有一个真正拥有法律责任能力的主体，比如公司或个人，现实中就不会有有效救济。她表示，至少在当下，机器人没有情感，也没有恐惧，这仍是它们与人类之间的重要区别。
现有法律仍是当前 AI 责任争议的核心框架
整场讨论的主线很清楚：即便 AI 智能体出现越权行为，现阶段法律分析通常仍离不开既有的侵权法、产品责任、计算机犯罪和平台责任框架。AI 本身不是独立法律实体，真正可能被追责的，仍是开发者、部署者、平台或具体使用者，而最后的判断高度依赖具体事实、适用法域和行为细节。