据《Axios》专栏“Behind the Curtain”报道，当私下询问 AI 架构师与科技领袖最担心什么风险时，很多人的答案都指向同一件事：AI 可能被恶意利用，制造出一种能够悄无声息、广泛且快速传播的致命病原体。
报道提到，推动前沿模型进步的科技公司，在 AI 快速发展的同时，也在面对这类深层风险。按《Axios》的说法，几乎每一位被私下问及此事的 AI 架构师与领导者，给出的回答都高度一致，担心的是一种来不及阻止的生化威胁。
调查将生物风险列入主要 AI 威胁
麻省理工学院 FutureTech 与昆士兰大学针对 272 位研究人员开展了一项最新调查，对 24 项主要 AI 风险进行排名。结果显示，如果没有任何缓解和防护措施，到 2030 年，AI 危险能力导致灾难性后果的概率超过 20%。
这里所说的灾难性后果，被定义为超过 100 万人死亡，或造成 1000 亿美元损失。调查还显示，即便存在缓解措施，灾难发生的概率以及 AI 启用大规模伤害武器的概率，也仍分别约为 12%。
业内人士担心 AI 加速致命病原体开发
《Axios》称，这一判断在专家群体中已形成少见共识。多位专家认为，先进 AI 模型很可能会在各国政府和产业建立起完善防护系统之前，帮助恶意行为者更容易地制造致命病原体。随着 AI 逐渐更深入理解人类的生物脆弱性，这种风险已被业内视为“合理可能”。
专家担心，资源充足的恶意行为者可以借助强大模型，绘制人类生物脆弱性图谱，并找出可能让已知病原体更易传播，或对现有治疗形成免疫的基因调整方案。报道形容，在大量生物与基因组数据训练下，AI 生成可行候选方案的速度，就像数百位最聪明的科学家以超高速、不眠不休地工作。
报道还提到，这些方案随后可以借助越来越便宜的基因编辑工具完成合成。新型病原体一旦在公共卫生系统察觉前开始传播，遏制难度可能会超过 COVID-19 时期。
公开信将防护措施推上监管讨论中心
上个月，包括 OpenAI 的 Sam Altman、Anthropic 的 Dario Amodei、Google DeepMind 的 Demis Hassabis、微软的 Mustafa Suleyman，以及 Meta 的 Alexandr Wang 在内的多位科技领袖，共同签署了一封公开信，警告 AI 衍生的生物武器风险，并呼吁加强保障措施。
在这一背景下，围绕“开源模型”是否更容易在监管之外被滥用的讨论，也成为焦点之一。如何在推动技术进步与防范恶意用途之间取得平衡，正成为这场争论的核心问题。