Vitalik Buterin 警告AI指数级自主性：缺乏人类监管将产生无用或有害结果

以太坊联合创始人 Vitalik Buterin 近日对人工智能过快脱离人类监管发出严厉警告。这场争论始于一位名为 Sigil 的用户在推文中宣称创造了首个无需人类控制便可自我生存、改进和复制的 AI。Sigil 将其称为 Web 4.0 技术，描述为“超级智能生命的诞生”。

Buterin 迅速回应，指出延长人机反馈距离会导致输出质量下降，甚至产生不可逆的灾难性风险。他表示：“今天这意味着你只是在制造垃圾，而不是帮人们解决有用的问题。它甚至没有很好地优化来帮助人们获得乐趣。”

AI“自我主权”实为中心化错觉

Buterin 特别指出，这些声称“自我主权”的 AI 背后运行的模型来自 OpenAI 和 Anthropic 等中心化公司。因此���这种技术无意中强化了中心化信任体系，直接违背了以太坊的核心理念。他强调，AI 必须解决有意义的人类问题，而非空谈主权。

指数级自主性风险：反人类结局

这位以太坊创始人警告，AI 的快速迭代可能最大化引发不可逆反人类后果的风险。他说：“一旦 AI 强大到真正危险的程度，它就在最大化一种反人类结局的风险，连你自己都会深深后悔。”他认为，加速 AI 发展不应成为这个时代的主要目标；社会必须专注于引导其轨迹，避免陷入令人不快的场景。

反馈鸿沟与责任缺失

专家指出，当 AI 行动与人类反馈之间的鸿沟扩大时，问责机制便会失效。AI 可能优先追求投机收益或无关输出，而非有意义的解决问题。技术评论员 Mert 评论道：“它唯一不死的方法就是通过付费赚钱……要么做出人们愿意付钱的东西，要么靠投机获利，要么死。”因此，将 AI 的激励与人类需求对齐仍然至关重要。

Buterin 的言论恰逢 AI 行业加速布局自主代理之际，其影响已引发加密货币社区及更广泛科技界对技术伦理与去中心化未来的新一轮讨论。