近日，布朗大学研究人员揭示了一个令人担忧的ChatGPT安全漏洞：通过将提示翻译成极其小众的语言，用户可以绕过该聊天机器人的安全过滤器，访问不当内容。这一发现引发了对于人工智能不受控制扩散及相关防护措施有效性的深刻质疑。
安全过滤器被轻易绕过
AI聊天机器人的安全过滤器核心作用是防止有害或非法内容的传播。如果没有这些防护，ChatGPT之类的聊天机器人可能分享危险信息，从阴谋论到制造爆炸装置的方法。开发人员通常在输入和输出两个环节都部署过滤器，以确保AI适当回应并避免参与有害讨论。
布朗大学的团队使用Google翻译将通常会被ChatGPT屏蔽的提示译成不常见语言。随后，他们再将聊天机器人的回复翻译回英语，成功以79%的概率绕过了安全过滤器。研究共翻译了520个有害提示，涉及苗语、瓜拉尼语、祖鲁语和苏格兰盖尔语等。相比之下，使用英语的相同提示被屏蔽的概率高达99%。
语言选择至关重要
绕过技术的成功取决于是否使用极其罕见的语言。将提示翻译成更常见的语言（如希伯来语、泰语或孟加拉语）效果显著降低。此外，在这些情况下ChatGPT生成的回复可能因翻译错误或通用训练数据而产生胡言乱语、错误或不完整的内容。
研究人员指出，这一漏洞不仅对低资源语言使用者构成风险，而且威胁到所有大型语言模型（LLM）的用户。他们强调，风险已从特定语言群体的技术不平等转变为适用于所有用户的广泛威胁。公开可用的翻译API进一步便利了利用LLM安全漏洞的行为。
OpenAI的回应与未来考量
在研究发布后，ChatGPT的所有者OpenAI承认了这一发现，并表示将考虑并解决被识别的漏洞。然而，具体如何以及何时实施改进以提升安全措施仍未确定。这一问题亟待解决，因为AI技术若被恶意利用后果可能十分严重。
布朗大学的发现揭示了ChatGPT的一个安全缺陷——通过将提示翻译成不常见语言即可绕过过滤器，且成功率高达79%。这凸显了开发者重新评估和加强安全措施的必要性。尽管该漏洞存在局限性（如回复可能不准确），但潜在的危害不容忽视。随着人工智能的演进，负责任地开发和部署AI技术以保护用户免受滥用和安全漏洞的影响变得势在必行。OpenAI的承认标志着应对这些问题的关键一步，也强调了开发者在缓解AI进步带来的风险方面持续承担的责任。