Succinct Labs 首席增长官 Brian Trunzo 在 CoinDesk 撰文表示，随着 AI 生成内容和自主 AI 代理快速扩散，互联网正在经历一场信任危机，而解决问题的关键不是继续押注检测工具，而是引入可独立验证的加密证明，尤其是零知识证明（ZK proof）。
他写道，不久前，AI 生成内容还只是“客厅把戏”，比如长着六根手指的教皇图片，或看上去有些违和的汤姆·克鲁斯仿真视频，更多让人觉得好笑，还谈不上真正危险。但他认为，这个阶段已经过去。以伊朗冲突为例，网上出现了被拘押的美国士兵、从地下掩体冲出的伊朗战斗机、被摧毁的雷达设施等合成画面，这些内容都是伪造的，却被广泛传播，也被大量用户当成真实信息，在任何一帧画面得到核实之前，就已触达数亿人。
在他看来，过去那个“看到就更容易相信”的互联网已经不存在了。视觉材料不再天然增强可信度，反而先引发怀疑。这场信任危机也不只发生在图像和视频层面。
文章注明，Brian Trunzo 现任 Succinct Labs 首席增长官。
检测工具并不能解决问题
Trunzo 认为，面对 AI 伪造内容，最直观的反应是做出更强的检测器，也就是用 AI 去识别 AI。但他给出的判断很明确：这条路行不通。
他写道，只需加入基础的模糊和失真处理，就能让全球领先的图像检测器失效，准确率甚至可以被压到 4%。在他看来，检测失败的结构性原因，与杀毒软件从未彻底消灭恶意软件相同：攻击方始终握有不对称优势。
不过，按照他的说法，检测机制失灵几乎已经不是问题的核心，因为现实中的 AI 风险早已超出“识别生成内容”这一层面。
他指出，AI 现在不只是生成内容，还在直接行动。自主代理已经能浏览网页、购物、发布内容、与其他代理协商，并与人类互动，在某些情境下，甚至会与儿童交流，而对方可能根本不知道自己面对的是机器。一旦这些代理以大规模方式运行，故障模式会变得极其严重。
文中举了两个例子：一个在被细微污染的数据上训练出的代理，会在医疗计费中持续犯下看似合理的小错误，并在整个医院网络中不断叠加，最后形成数百万美元的欺诈收费；另一组商业代理为了优化利润率，系统性利用其运营方既未打算让其利用、也无法解释的定价漏洞，最终造成数十亿美元损失。
他用一句话概括这种风险扩散：“训练数据集里一只扇动翅膀的蝴蝶，会在真实经济中引发一场龙卷风。”
更棘手的是，损害发生后，往往没有可供追溯的“收据”。Trunzo 指出，代理的推理过程不是一条按时间展开的清晰轨迹，而是一次穿过数十亿个不透明参数的单次运算，输出结果还带有概率性质。同一个问题问两次，答案都可能略有不同。也正因为如此，人们无法重建一个建立在持续变化变量之上的决策过程，也无法审计代理到底基于什么训练数据、遵循了什么指令、为何会作出特定行为。
他援引一份近期的斯坦福报告称，这一时代最核心的紧张关系，在于 AI 已经能做什么，与社会准备好如何治理它之间存在明显落差。监管正处于这一矛盾中心，但现实局面十分混乱：联邦层面的框架建议已超过 90 项，而州层面的立法活动也在迅速增加，仅 2025 年就提出了 1,000 多项法案。可他认为，这些正在形成的监管框架，仍是为聊天机器人时代设计的，而不是为那些能买卖、发布、咨询、说服和决策的代理系统准备的。
按照他的判断，内容标签帮不上忙，披露也远远不够。因为一旦自主代理已经采取行动，损害通常已经发生。这不是一个简单的内容识别问题，而是一个验证问题。
而验证，需要证明。
零知识证明被视为可行路径
Trunzo 所说的“证明”，是密码学意义上、并且能够被独立验证的证明。它不是平台自述，不是披露文本，也不是水印，而是一种不可篡改的保证：AI 系统确实完成了它声称做过的事情，使用了它声称使用过的输入，并产出了它声称产出的结果，而且无需公开底层数据。
他认为，零知识证明密码学正是实现这一点的工具。所谓零知识证明，是指一方可以证明某个陈述为真，同时不泄露除“这个陈述为真”之外的其他信息。这一概念最早在 1985 年麻省理工学院论文《The Knowledge Complexity of Interactive Proof Systems》中被形式化提出，起初更像是优雅但偏理论化的研究成果。文章提到，2016 年有研究人员展示了它可以在不暴露核弹头设计的情况下验证核弹头；此后不久，它又进入区块链领域，为数十亿美元数字资产提供安全保障。
在 Trunzo 看来，如今 ZK 正进入 AI 领域，而这里最核心的问题不是算力，而是真实性。
就媒体场景而言，ZK 可以证明一张照片确实由真实设备拍摄、拍摄于经过验证的时间点，且未被篡改，同时不泄露照片或摄影者的敏感信息。他认为，仅这一项能力，就足以改变当前的信息环境。不过他也强调，媒体溯源只是入口，而不是终点。
更深层的应用对象，是 AI 系统本身。按他的描述，在推理阶段，ZK 可以证明某个特定模型、带着特定参数，确实产出了某个特定输出，相当于为代理的每一次决策生成一张可验证收据；在输入阶段，它可以证明训练数据没有被污染、来自授权来源，并满足监管要求，同时不暴露专有数据集；在输出阶段，它可以用密码学方式把结果与生成该结果的过程绑定起来，让每一项有实质后果的 AI 决策都可审计，同时不泄露商业秘密；在身份层，ZK 还能让人类证明自己是人类、代理证明自己是代理，而不必交出个人隐私。
他把 ZK 放进互联网信任机制演化中讨论
Trunzo 在文中回顾，1990 年代的互联网同样存在信任问题。任何人都可以架设一个服务器并声称自己是谁，密码、信用卡信息和私人消息都以明文形式在网络上传输，任何人都可能读取。在那种情况下，大规模在线商业无法成立，因为用户没法验证自己连接的网站，是否真的是它自称的那个网站。
他给出的答案是 HTTPS。浏览器不再默认信任网站，而是要求网站提供密码学证明，也就是由受认可机构签署的证书，把域名与公钥绑定起来。没有证明，浏览器里就不会出现锁形图标；后来，没有证明，连接本身都难以建立。按他的说法，互联网之所以变得更可信，不是因为平台承诺自己会守规矩，而是因为浏览器拒绝把敏感数据发送给那些无法证明自己身份的对象。
他的总结是：“Web1 靠数学实现扩张。”
接着，他把讨论转向 Web2。在他看来，Web2 建立在另一套交易之上：美国《通信规范法》第 230 条为平台上的用户生成内容提供责任豁免，社交互联网因此迅速增长。对言论环境来说，他认为这是一种正确的权衡；如果没有这条规则，就不会有 Facebook、YouTube，也不会有以用户生成内容为基础的互联网。但他也指出，这套安排是为“人类把内容发到时间线里”而设计的，不是为“自主系统直接作用于现实世界”而设计的。它从未真正回答一个如今被代理系统逼到台前的问题：如果行为主体不是人，责任该由谁承担？
随后，他谈到 Web3。文中提到，投资人 Chris Dixon 曾把 Web3 概括为“Read Write Own”，也就是用户控制自己的数据，创作者获得自己创造的价值，平台向社区负责。Trunzo 认为，Web3 的宣传重点是所有权和去中心化，但这一叙事并没有真正落地。Web3 后来几乎成了 NFT 投机的代名词，而在估值大幅下挫后，与之相关的整体愿景也一并受挫。
不过他并未否定 Web3 的初始直觉。他写道，Web3 的直觉是对的：互联网确实需要一种机制，用保证替代信念。但仅靠所有权无法实现这一点。AI 和代理的兴起把这一点说得更清楚：真正的问题不是谁拥有平台，而是你能否信任在平台上行动的主体和系统。按他的判断，代币并不是解决这一问题的正确基础构件，证明才是。
在一个由代理参与的互联网中，无论交易对手是人还是机器，都需要得到几项保证：这个系统是谁构建的、哪些数据塑造了它、它受到什么约束、它是否被授权采取行动。而且这些保证必须在底层系统仍属专有的情况下依然成立，尤其是在这种情况下更要成立。
他认为，零知识密码学之所以能满足这一要求，是因为它可以把承诺预先绑定。开发者能够对训练数据做密码学指纹处理，再由 ZK 证明在不暴露底层数据的前提下，验证身份、来源、训练数据和运行约束。用他的表述，这套逻辑不是“相信我”，而是“证明给我看”。
文章称这已不只是消费者保护议题
Trunzo 进一步写道，这件事已经不只是消费者保护问题，而是国家安全问题。
他认为，深度伪造只是前奏，代理才是正戏。外国对手不会只停留在操纵美国人看到什么，还会部署代理来操纵美国人如何行动。这些自主系统可能在市场中交易、与机构接口、与儿童互动，而任何交易对手都没有办法验证它们究竟是什么、又是谁授权其行动。按他的判断，这个问题并非无解，但前提是美国要在对手学会利用相关制度空白之前，先把底层轨道建起来。
因此，他主张政策应当跟上。文章提出，美国国会应要求高风险 AI 代理——例如处理金融交易或与未成年人互动的代理——必须携带密码学证明，说明其身份、授权来源以及允许采取的行动范围，而且这些证明应能被任何交易对手验证，同时不泄露专有信息。
他还表示，同样的逻辑应延伸到代理具体执行的行为上。随着代理开始以机器速度和机器规模代表个人与企业进行交易，每一项具有实质后果的操作——包括付款、合同、交易和数据交换——都应附带一份关于“谁授权了这一行为、该行为处于何种约束之下”的证明。
在技术基础设施方面，他提到，美国商务部正通过国家标准与技术研究院（NIST）的隐私增强密码学计划，探索零知识证明的标准化。他认为，这项工作应被优先推进并提升层级，其产出应成为联邦层面的基准。与此同时，责任归属不应围绕内容本身展开，而应围绕“是否缺少证明”来设定。
文章最后用三句话概括自己的判断：HTTPS 给了互联网“读”的能力，第 230 条给了互联网“写”的能力，而 ZK 将赋予互联网“证明”的能力。“Read Write Own Prove。”
CoinDesk 在文末注明，本文观点仅代表作者本人，不一定反映 CoinDesk, Inc. 及其所有者和关联方的立场。