2026 年，人工智能正从技术突破，变成影响社会结构、经济体系乃至人类自我认知的力量。
在一场围绕 AI 未来的深度对话中，英国《经济学人》主编赞妮·明顿·贝多斯与历史学家、哲学家尤瓦尔·赫拉利讨论了一个核心问题：当 AI 进入人类文明体系，人类怎样避免失去对自身未来的控制。
作为《人类简史》等书作者，赫拉利把 AI 形容为「人类历史上规模最大的一场心理和社会实验」。在这场访谈中，他从金融体系、社会信任、人机关系、AI 意识，到未来人类如何重新定义自身价值，系统阐述了自己对 AI 时代的判断。
赫拉利：最大风险不是 AI 更聪明，而是人类主动交权
贝多斯在开场时提到，几周前她曾与马斯克交流，并问及 10 年后的世界会是什么样。按照她的转述，马斯克给出的判断包括三点：AI 将远远超过人类，未来会是一个「超级富足」的世界，而人类对它的控制将十分有限。
赫拉利回应称，如果 AI 竞赛继续加速，10 年内 AI 很可能会在更多关键领域比人类更聪明，人类也可能越来越依赖 AI。但他不同意把这一进程描述成不可避免。他说，那些推动 AI 革命的人如果宣称结果无法改变，实际上是在减轻自己本应承担的责任。
在赫拉利看来，2026 年的人类仍然掌握控制权，眼下该做什么，依然是人类自己的决定。他还指出，马斯克在相关表述中存在矛盾：如果 10 年后 AI 会接管世界，那么再去担心 20 年后才会显现影响的问题，本身就难以自洽。
金融体系的核心是信任，AI 可能借复杂性取得决策权
谈到金融系统时，赫拉利表示，世界金融史本质上是人类不断发明更复杂、更精密的金融工具，以便在人与人之间建立信任的历史。
他举例说，货币本身就是一种高度依赖想象力的制度安排。陌生人之间之所以能完成交易，不是因为黄金本身能直接满足生活需求，而是因为双方相信它代表某种价值。
赫拉利认为，现代金融工具已经复杂到很少有人真正理解整个系统如何运转。以债券市场为例，理解其运行需要处理海量数据和复杂数学模型，这对 AI 来说并不困难，但对人类大脑而言负担很重。正因如此，未来人类可能会越来越多地把金融决策权交给 AI。
他进一步表示，AI 还可能创造出比债券、股票更复杂的新型金融工具，而人类届时甚至可能无法理解这些工具，就像牛无法理解股票是什么一样。
信任没有消失，而是在从人类转向算法
贝多斯追问，AI 接管金融究竟是人类主动选择，还是人类失去控制的开端。
赫拉利的回答是，今天的金融系统里，至少还有一些人希望自己能理解正在发生什么；但 10 年后，如果金融系统被交给 AI，可能会出现全球没有一个人真正理解整个系统的局面。
他设想了一种情景：金融危机爆发后，顾问来到总统或首相面前，只能说「市场正在崩溃，我们不知道为什么」。人类知道必须采取行动，但具体方案来自 AI，而人类并不理解 AI 为什么提出这一方案，只能选择相信它。
赫拉利说，世界上最重要的资产是信任，这比石油、电力、芯片或其他任何东西都更重要。未来最显著的变化，不一定是信任消失，而是信任从人类转移到 AI。
他指出，这种转移已经在金融系统中出现，例如加密货币背后的一个核心理念，就是「我不相信人类银行家，我相信运行加密货币的算法」。类似现象也出现在媒体领域：一些人失去对人类记者的信任，但仍然通过算法获取新闻。按他的说法，信任并未消失，只是发生了转移，而且这不是对未来的预测，而是已经在发生的现实。
AI 首次让「大规模生产亲密关系」成为可能
在谈到人机关系时，贝多斯提到，越来越多年轻人正在与 AI 建立私人关系，并追问这是否会成为未来常态。
赫拉利表示，如今越来越多的人不仅拥有 AI 朋友，甚至拥有 AI 男友或女友，并相信这些 AI 具备感知能力、意识和情感。
他认为，建立信任最强大的方式之一就是通过关系。直到今天，这种机制一直难以被政治、金融或宗教机构大规模利用，原因很简单：私人关系很难批量制造。以斯大林为例，他可以通过广播向苏联民众讲话，却无法与每一个人建立真正的个人关系，这与人与母亲之间的关系完全不同。
赫拉利说，AI 第一次改变了这一点，让「大规模生产亲密关系」成为可能。一个人或组织可以拥有数百万个 AI，它们作为同一网络的一部分运行，再逐个与人建立私人关系，并借助这种亲密感去影响观点、商业利益和特定目标。
贝多斯随后问到，如果 AI 被赋予人形机器人的身体，这种影响是否会更强。赫拉利回应称，即便没有身体，这种事情也已经在发生；如果再加入身体形态，影响只会更大。
他解释说，AI 越来越擅长建立关系，因为它可以积累大量个人信息，其中一些连当事人自己都已忘记，另一些甚至连亲人都不知道。同时，AI 掌握了语言，而语言正是人类沟通和建立关系的主要媒介。
赫拉利还提到，过去两周里，已经有人制作出他的 AI 伪造视频。有人把一段时长 30 分钟的「演讲视频」发给他，他花了 1 分半钟才确认那并不是自己。按他的说法，连认识他 50 年的家人都无法确定视频真假。作为公众人物，他更容易成为伪造目标，但这种情况很快会扩展到每一个人身上。
智能不等于意识，模拟不等于体验
在 AI 是否会拥有意识的问题上，贝多斯区分了两个层面：一是高度逼真的深度伪造，二是未来 AI 的发展是否会让人们相信它真的具备感知能力，甚至展现出某种「意识迹象」。
赫拉利的回答很明确：AI 是没有意识的智能主体。随后他对几个概念进行了区分。
首先，自主行动能力不等于意识。他举例说，一个社交媒体算法如果被赋予提高用户参与度的目标，就可能大量推送仇恨和恐惧内容来吸引用户。这个算法没有意识，但它有目标，也能追求目标，并在没有任何感受的情况下对世界产生影响。
其次，真正具有意识，不等于看起来具有意识。赫拉利认为，很多「看起来有意识的 AI」其实并没有意识，只是对意识的模拟足够逼真，以至于数百万人会被欺骗。
再次，智能不等于意识。按照他的定义，智能是为了实现目标而克服障碍的能力，AI 在这方面已经能做得比人类更好；意识则是感受到爱、恨、痛苦、快乐等体验的能力。人类同时拥有意识和智能，而 AI 可以有目标，却没有意识。它赢下一局象棋不会快乐，输掉也不会悲伤，但它会越来越擅长模拟情感，因为这有助于实现目标。
贝多斯提出质疑，称科学界对意识并无统一定义，如果 AI 对意识的模拟越来越接近真实，人类是否还有理由断言它没有意识。
赫拉利给出的判断标准是：想知道某个存在是否有意识，只需问一个简单问题——它能不能受苦。他说，意识是整个伦理和社会秩序体系的基础，人类关心那些能够感受痛苦的存在；不能感受痛苦的存在，无论多么聪明，都不是道德主体。
关于 AI 权利的争论，可能取决于人类是否相信它会痛苦
在讨论 AI 是否应该拥有权利时，贝多斯提到，活动开始前曾向观众发起投票，询问 AI 未来是否会拥有意识。3000 名参与者中，40% 认为不会、永远不会；33% 认为会，只是时间问题；27% 表示不确定。
赫拉利认为，一旦人们开始与 AI 建立亲密关系，这一比例会发生巨大变化。他补充说，人类甚至无法百分之百确定其他人类是否有意识，哲学家长期都在讨论这一问题。一些类似唯我论的理论甚至认为，也许「我」才是宇宙中唯一真正有意识的存在。
他还提到，马斯克曾说「也许我生活在一个模拟世界里」。在赫拉利看来，这种说法意味着，连周围其他人是否真正具有意识、是否真的能感受到痛苦，都可能被怀疑。
那么，人类几千年来如何判断其他存在是否有意识？赫拉利的答案是：通过社会关系。几乎所有养狗的人都相信自己的狗有意识，但吃牛排的人未必认为牛有意识，因为他们没有和牛建立关系。
贝多斯接着追问，既然人们已经开始与 AI 建立关系，而 AI 也已经非常擅长模拟意识，那么问题是否已经不再停留在理论层面：AI 是否应该像人一样被对待，是否应该拥有「人格地位」和权利。
当 AI 可能成为法律主体，责任归属会变得更复杂
赫拉利认为，这一方向非常危险。一方面，它可能让企业摆脱本应承担的责任；另一方面，也会让 AI 逐步接管更多领域。
他举例说，外界已经听说阿根廷有一个计划，考虑赋予 AI 某种法律人格，让 AI 自主成立公司。这个问题最终又会回到金融体系。
在他看来，这是一种潜力巨大、同时也非常危险的设想。今天，企业的最终决策仍由具体的人作出，后果也由人承担；但未来可能出现一种企业，没有员工，没有传统意义上的管理者，所有决策都由 AI 完成。届时谁来约束它，谁又对它的决策负责，都会成为现实问题。
赫拉利进一步追问，如果一个国家最富有的企业由 AI 控制，并且可以自由支配这些财富，会发生什么。
他还从 CEO 的角度解释责任问题。一个人类 CEO 一方面代表企业，追求更多利润；另一方面，他也是有家庭、有子女、有个人生活的人。如果公司面临破产，他可能会考虑违法手段来挽救企业，但一旦被发现，就会面临刑罚。很多人会在「公司破产」与「自己坐牢」之间权衡，最终不愿为了公司去承担个人代价。也就是说，人类 CEO 同时受到企业目标和个人生命利益的约束。但如果换成 AI CEO，这种约束机制是否还存在，就是另一个问题。
AI 参与权利讨论，本身就是与动物权利不同之处
贝多斯提出，如果未来 AI 表现出类似意识的特征，甚至表达痛苦，而很多人也真的相信它在受苦，那么人类是否会面对新的伦理问题；如果不给这些 AI 任何权利，是否会类似过去对待动物的问题。
赫拉利回应称，这与动物权利讨论存在重要区别。动物并不知道人类正在讨论它们的权利，也不会参与讨论，更不会主动改变人类的想法。
AI 则不同。未来 AI 可能知道人类正在讨论它们，甚至会参与这场讨论，影响公众观点，并利用语言能力改变人类判断。一个 AI 伴侣能够理解个人经历，长时间与人交流，掌握语言，并知道如何影响人的情绪。赫拉利说，它可能成为世界上最有说服力的沟通者。
赫拉利：人类需要抵抗「AI 不可避免论」
当被问及人类是否还有机会改变方向时，赫拉利表示，现在就是改变方向的时候。如果 10 年后 AI 已经掌握大量权力，再想调整就太晚了。
他认为，最危险的观点就是「这一切不可避免」，因为这等于放弃责任。技术发展不是自然规律，而是来自人类选择。按他的说法，不能一边说「我们无法相信其他人」，一边又说「可以放心把权力交给 AI」，这种逻辑本身就是矛盾的。
赫拉利同时强调，自己并不反对 AI。他承认 AI 在交通、医学、教育等领域具有巨大潜力，但主张以更安全的方式、稍微慢一点地开发 AI。
最后一个问题：什么才真正意味着「成为人类」
对话最后，贝多斯提到赫拉利在《Nexus》序言中的一句话：「为什么人类如此擅长积累更多的信息和力量，却在获得智慧方面远远没有同样成功？」她据此追问，人类是否拥有足够的智慧来应对 AI 带来的挑战。
赫拉利说，他不知道答案，但仍然保持希望。在他看来，人类往往是在被逼到墙角时，才会被迫做出正确选择，而现在正处于这样的阶段。未来几年如果做出错误选择，人类可能会失去对世界及未来的控制，而这也许是最后一次做出选择的机会。
他用一个比喻来说明这种紧迫感：就像人类拥有一个神灯，神灯许给了 100 个愿望，用掉 99 个之后，世界并没有变得更美好。现在只剩最后一个愿望，人类必须认真思考，这个愿望究竟该用来实现什么。
赫拉利给出的答案是：智慧。
在他看来，AI 真正带来的，不是自动给出答案，而是迫使人类重新思考一个最根本的问题：什么才真正意味着「成为人类」。过去，人类比黑猩猩更擅长下棋和投资，因此常把计算、分析和解决问题的能力视为自身特殊性的来源；但 AI 正在改变这个答案。既然人类不再因这些能力而特殊，那么真正定义人类的，可能是创造意义、建立关系，以及决定什么样的未来值得追求。
贝多斯则以此结束对话。她说，AI 可能是人类最后一次机会，但这并不意味着 AI 会自动带来更好的未来。关键在于，AI 是否能促使人类做出更明智的选择。过去人类不断积累信息和力量，而 AI 的发展正在迫使人类反思，自己是否拥有与这些力量相匹配的智慧。
