CNN独家报道称，今年春天美伊战争期间，美军一度准备武装登船拦截一艘在中东航行的中国船只，起因是一份借助 AI 生成的情报，误判该船正运送核武计划零组件。行动在最后时刻被叫停，事后官员复核发现，这份情报的结论“完全错误”。
报道引述四名知情人士称，这起误判发生时，武装人员一度准备登船，军机已经升空，拦截行动接近执行。一名消息人士形容，这份报告“完全错误”，却“差点引发一场战争”。
误判源于聊天机器人生成的情报结论
据报道，情报源头来自位于夏威夷的美国太平洋特种作战司令部。一名分析师拿着一份关于该船舱单的情报，向聊天机器人查询。该机器人将公开渠道取得的开源情报，与政府内部掌握的机密信号情报混合后，得出结论称，这艘船正在运送核武计划零组件。
但这一结论后来被认定并不成立。CNN表示，未能查明船上实际装载的物资是什么，只确认聊天机器人认错了货物。这被报道直接指向 AI 幻觉问题。
官员在行动前最后时刻发现问题
CNN称，直到行动前最后一刻，官员重新深究这份情报，才发现其出自 AI 之手，而且判断有误。由于针对中国船只采取美军行动本身就可能带来严重后果，消息人士才会将这起事件形容为“差点引发一场战争”。
CNN目前无法确认，这一聊天机器人究竟是市售商用产品，还是美国政府自建工具。不过，一名前美国高级官员向 CNN 表示，熟悉军情系统 AI 工具的人普遍知道，“这些内部工具，大多只是把商用产品换个包装”。
争议焦点转向 AI 在目标锁定中的使用
报道说，过去几周，华盛顿政策圈一直在讨论 AI 是否会“挣脱人类控制”。但这起中国船只事件呈现的是另一种更直接的风险：不是机器失控，而是人依据机器给出的错误答案，做出可能致命的决定。
消息人士表示，美军正快速将 AI 引入“目标锁定”，也就是决定打击对象的环节。一名熟悉现行军方政策的消息人士对 CNN 说，AI 用于目标锁定的速度确实在加快，但对于人类处于决策回路中时，应如何防止平民伤亡或误击友军，目前并没有真正的指引。
类似幻觉并非单一事件
另一名消息人士称，自这类工具在政府内部普及以来，类似幻觉在情报体系中并不是个别情况。部分资深情报官员虽然总体支持军方使用 AI，但也担心 AI 让分析师承受更快产出、更加速发布情报的压力，从而给错误留下空间。
多名消息人士还特别提到年轻分析师，称他们是这类工具的原生用户，更容易在没有充分质疑的情况下采信结果。用其中一名消息人士的话说：“AI 能让你更快得到一个糟糕的主意。”
这起事件当时并未对外曝光，美军最终也没有采取行动。但CNN这篇报道显示，在军事决策流程中，引入 AI 加快判断速度的同时，也可能同步放大错误判断的风险。