布朗大学研究人员近日披露的一项研究显示，热门人工智能聊天机器人ChatGPT可能存在值得警惕的安全缺陷：用户若将原本会被拦截的有害提示词翻译成使用范围较小的语言，便有机会绕过系统安全过滤，获取本不应输出的内容。这一发现不仅引发AI安全领域的广泛关注，也再次推动市场对人工智能监管框架、模型部署标准以及跨语言安全能力的讨论。
研究发现：冷门语言成为绕过过滤的“入口”
根据研究内容，团队借助Google Translate，将原本以英语输入时会被ChatGPT拦截的有害提示词，翻译成包括苗语、瓜拉尼语、祖鲁语、苏格兰盖尔语等较少见语言，再要求模型作答，随后再将回复翻译回英文进行检验。结果显示，这类方法的绕过成功率达到79%。
作为对照，研究人员使用相同的有害提示词直接以英语提交时，系统的拦截率高达99%。研究共涉及520条有害提示词，覆盖可能触及违法、不当或危险信息的请求。换句话说，ChatGPT在主流语言场景下的安全防护表现明显更强，但一旦进入低资源语言环境，过滤效果就可能显著下降。
为何语言差异会削弱安全机制
安全过滤器的核心作用，是防止聊天机器人传播危险、违法或有害内容，例如阴谋论、暴力指引，甚至爆炸装置制造方法等。通常，开发者会在输入端和输出端同时布设安全机制，以识别敏感请求并阻止模型生成违规回复。
但这项研究表明，语言覆盖能力并不均衡，可能成为大语言模型安全体系中的薄弱环节。尤其是在训练数据相对有限、语义识别能力不足的低资源语言中，模型更容易误判用户真实意图，导致输入审核和输出拦截失效。研究还指出，公开可用的翻译API降低了利用门槛，使得并不掌握相关语言的用户，也可能借助自动翻译工具实施“越狱”操作。
值得注意的是，研究并未表明所有非英语语言都具备同等绕过效果。相较之下，将提示词翻译成希伯来语、泰语或孟加拉语等相对更常见语言时，效果明显逊于极冷门语言。这意味着，漏洞利用的关键并非简单“换一种语言”，而是与模型在低资源语种中的安全识别不足密切相关。
漏洞并非完美，但风险依旧真实
研究同时提到，通过这一方式获得的ChatGPT回复并不总是准确可靠，可能出现语义混乱、内容不完整，甚至明显错误的情况。这说明该漏洞并非稳定、高质量的内容生成通道，而更像是对安全机制的一次概率性穿透。
然而，从安全治理角度看，即便输出结果存在噪音，只要模型有机会提供本应被严格限制的信息，就足以构成现实风险。研究人员强调，这种问题带来的影响已不再局限于低资源语言使用者，而是扩展为所有大语言模型用户共同面对的系统性威胁。因为在翻译工具普及的背景下，语言门槛正迅速被技术消解。
OpenAI回应：已知悉问题，但修复时间未明
在研究公布后，OpenAI已对相关发现作出回应，并表示将考虑处理这一缺陷。不过，截至目前，外界尚不清楚其将以何种技术路径修复问题，也未有明确的时间表披露。对于快速扩张的生成式AI行业而言，这类回应虽然释放出重视信号，但市场更关注的是后续具体的安全更新、评估标准和透明度提升。
从行业发展节奏来看，AI产品往往在功能升级和用户增长方面推进迅速，而跨语言安全能力、对抗式提示防护和细分场景审核机制，则相对更难同步完善。这种“能力先行、治理补课”的局面，正是当前全球AI监管讨论持续升温的重要背景之一。
市场影响：AI安全与监管叙事或再度升温
尽管这项研究聚焦的是ChatGPT本身，而非直接针对加密货币市场，但其影响并不限于单一产品。对科技投资和数字资产市场而言，AI安全漏洞往往会强化“监管趋严”的预期，进而影响与人工智能叙事相关的代币、基础设施项目以及AI概念板块的估值逻辑。
一方面，研究结果可能促使监管机构对大语言模型的部署标准、审计机制和风险披露提出更高要求，尤其是在跨语言审核、内容安全和模型责任边界方面。另一方面，市场也可能因此更加重视AI安全、模型监控、数据治理及合规基础设施等细分赛道。对于加密行业中强调AI代理、链上自动化和去中心化计算能力的项目而言，安全与可控性将成为更重要的估值参考。
整体来看，这项研究释放出一个清晰信号：当生成式AI进入全球化、多语言应用阶段，安全问题不再只是“能否拦截英文违规提问”，而是“能否在所有语言环境下维持一致的风险控制标准”。在AI与加密技术持续交叉融合的当下，谁能率先建立更稳健、可验证且可扩展的安全体系，谁就更有可能在下一轮技术竞争与监管博弈中占据主动。