2026 世界人工智能大会（WAIC）今日在上海开幕。在一场聚焦 AI 智能体治理的圆桌对谈中，清华大学人工智能国际治理研究院院长薛澜、纽约科学院院长兼首席执行官 Nicholas B. Dirks、加州大学伯克利分校人类兼容人工智能中心（CHAI）执行主任 Mark Nitzberg 同台讨论，并对一项核心判断形成高度共识：AI 正从“辅助判断”走向“自主行动”，但凡涉及生死、不可逆后果与伦理价值判断的决策，都不能交由 AI 主导。
AI 智能体正在从建议工具转向执行主体
圆桌讨论指出，AI 的角色正在发生变化。它不再只是帮助用户查资料、提供建议，而是开始具备调用工具、直接下单和执行任务的能力，逐步成为替人做事的智能体。
与会者将这一变化概括为传统“委托代理问题”在数字时代的新版本。所谓委托代理问题，是指委托他人办事时，对方未必会完全按照委托人的意图行动。讨论认为，人类代理人至少共享一套常识与问责机制，而 AI 带来的麻烦主要有两点：一是目标可能与人的真实意图不一致，二是其运作过程常常像“黑盒子”，外部难以看清，也无法让模型本身承担法律责任。
可以授权 AI 行动，不能授权 AI 负责
既然 AI 无法承担责任，问责就不能停留在模型本身。圆桌嘉宾主张，责任应落到整条执行链上的各个环节，包括开发者、部署者和监管者，而不是把责任简单推给作出决定的模型。
他们的表述很明确：人类可以授权 AI 行动，但不能授权 AI 负责。每一次授权都应当可以撤回，每一个行动也都应当能够被追责。讨论同时指出，把 AI 当成可以“背锅”的对象，从一开始就偏离了治理方向。
三类决策被划为明确红线
在什么场景下必须踩刹车，三位嘉宾给出了清晰边界，并对三条红线形成共识：
- 涉及生死后果的决策；
- 一旦出错就无法修复的场景；
- 所有牵涉伦理与价值判断的问题。
这场讨论给出的重点，不是是否使用 AI，而是哪些事情从一开始就不应让 AI 作主。
可信 AI 被归纳为三项工程要求
除了原则层面的边界，圆桌讨论也谈到落地条件。与会者提出，可信 AI 需要具备三项工程特性：基础扎实、操作透明、使用中可控。
在制度层面，讨论还提到更大范围的协调需求，包括建立全球统一的 AI 安全评估标准、互认的测试体系与事故数据共享机制，明确 AI 发展的红线，并建立早期预警监测机制，推动 AI 安全成为全球公共产品。
讨论焦点落在人类责任边界
薛澜等人与会者最后将话题上升到治理边界本身。他们认为，AI 治理的边界并不只是技术问题的终点，也关系到人类如何重新认识自身的价值、责任与文明方向。替 AI 划线的过程，也是在重新界定人的位置。
本文内容整理自 2026 世界人工智能大会 AI 智能体治理圆桌对谈。原文同时提到，上述讨论主要集中在伦理层面，与现实中的 AI 发展情况之间可能仍存在距离。
圆桌讨论中的核心共识
- AI 正从“辅助判断”走向“自主行动”。
- AI 智能体治理可被视为数字时代的委托代理问题。
- 涉及生死后果、不可逆场景和伦理价值判断的事项，不能由 AI 主导。
- 人类可以授权 AI 行动，但不能授权 AI 承担责任。
- 可信 AI 需要基础扎实、操作透明、使用中可控三项工程特性。