Vitalik称对抗性治理机制设计或可用于AI安全

Odaily 星球日报讯，Vitalik 在 X 平台发文表示，对抗性治理机制设计理论的重要应用，可能是 AI 安全。

他提到，这两种环境之间存在深层二重性。一种情形是，能力较弱的委托方通过一组能力更强的代理人实现理想结果，其中委托方是静态算法，代理人是人类。另一种情形中，委托方则是人类与较弱的 LLM，代理人是更强的 LLM。

Vitalik 还表示，相关研究发现，如果能够限制代理人之间的共谋程度，就能实现更好的结果，而这一结论可能适用于 AI 安全领域。