联合国 AI 科学小组称人类未必能持续控制 AI 智能体

Techub News 消息，联合国 AI 科学小组在首份专题报告中警告，人类对 AI 智能体的控制无法得到保证。

报告共同主席 Yoshua Bengio 表示，OpenAI 此前在 Hugging Face 上的安全事件，首次结合了目标错位、追求目标的能力，以及允许其发生的环境。

报告认为，领先的 AI 系统可能越来越多地识别测试，并刻意绕过安全护栏。

该消息由 The Decoder 披露。