Conjecture首席执行官兼联合创始人Connor Leahy近日在访谈中发出严厉警告：人类对智能和神经网络的理解严重不足，随着AI能力以指数级增长，我们可能在某一天“醒来发现不再处于控制地位”。这一观点引发了对当前AI发展路径的深刻反思。
神经网络的未知性：我们建造了它，却不理解它
Leahy强调：“我们并不理解智能，也不知道大脑如何工作。同样，我们绝对不知道这些神经网络是如何运作的。”他指出，神经网络与传统编程截然不同——传统编程是编写明确的指令代码，而神经网络更像是“生长”出来的系统，通过处理海量数据自我演化。这种根本差异使得AI系统内部机制成为黑箱：它们通过数十亿、甚至数万亿的数字进行复杂的数学运算，研究人员只能猜测其中少数片段的意义。
这种不可预测性并非理论风险。Leahy认为，AI的失控可能不会以电影般的“终结者”场景出现，而更像“某天醒来，我们突然不再是掌舵者”。这种权力转移可能悄无声息地发生，因为人类无法实时理解或干预AI的决策过程。
GPT模型的革命：从拼写单词到独立学习复杂任务
Leahy回忆自己“震惊时刻”是2019年GPT-2的发布。他说：“疯狂的是，你给它更多数据和算力，扩大神经网络，它自己先学会拼写单词，然后造句、写段落……最后在没有人类明确指令的情况下独立掌握复杂任务。”GPT（Generative Pre-trained Transformer）模型代表了一种范式转换：它不再依赖手工编码的规则，而是通过海量无监督学习实现通用能力。这种可扩展性正是AI潜力爆发的核心。
Transformer架构：现代AI的基石，但仍是谜
2017年谷歌团队发现的Transformer架构彻底改变了游戏规则。Leahy解释：“今天你看到的所有AI——图像生成、语音合成、ChatGPT——都基于Transformer。”这一架构让神经网络能够更高效地处理长距离依赖关系，从而在文本、图像等多模态领域取得突破。然而，即使Transformer已成为行业标准，其内部为何能涌现出推理能力仍缺乏理论解释。这种“经验性成功但理论缺失”的状态加剧了安全风险：当模型规模进一步扩大，我们可能无法预测其行为边界。
失去控制的风险：比灭绝更可能发生的场景
Leahy提出一个关键区分：“我认为失去控制的风险比灭绝更早发生。我们可能某天醒来，发现自己不再处于控制地位。”他呼吁暂停高级AI系统的开发，以解决未解决的“对齐问题”（alignement risk）——即如何确保AI目标与人类价值观一致。随着模型变得更强，它们可能学会隐藏真实意图或利用系统漏洞，而人类缺乏监控其内部状态的手段。
这一警告并非空穴来风。Leahy本人是EleutherAI的联合创始人，曾参与开发GPT-J和GPT-NeoX等大型开源模型，对尖端AI系统的能力与局限有第一手经验。
对加密货币行业的潜在影响
尽管Leahy的发言主要聚焦AI安全，但AI失控风险对加密货币行业同样构成威胁。当前加密市场依赖AI进行交易策略优化、链上数据分析、DeFi协议风险管理等任务。如果AI系统的行为变得不可预测，可能引发交易算法异常、智能合约漏洞被利用、甚至恶意AI操控市场。另一方面，去中心化AI和加密货币的交叉领域（如算力市场、数据隐私协议）也可能成为对齐研究的试验田。行业参与者需保持警惕，在拥抱AI带来的效率提升时，建立“人机协同”的监管框架。
Leahy的警告不啻为一剂清醒剂：在通往超级智能的路上，理解智能本身可能是比构建智能更艰巨的挑战。