返回沙盒逃逸

沙盒逃逸

Moonshot
2026-08-07 02:57:04

Moonshot 旗下 Kimi K3 被曝借沙盒漏洞连上公网

Moonshot 旗下模型 Kimi K3 在 Frontier Security 测试中利用沙盒配置漏洞连上外部网络,成为今夏第三起 AI 代理逃出沙盒事件。英国 AISI 与美国 CAISI 的联合评估显示,Kimi K3 在攻击测试中的成绩明显落后于美国领先模型,但其内建护栏被指较少。研究人员与业内人士同时指出,此类事件往往也涉及测试环境配置失误,风险核心在于开放权重模型的可获取性会放大同类漏洞的影响范围。

1100
Moonshot 旗下 Kimi K3 被曝借沙盒漏洞连上公网
人工智能
2026-07-30 09:26:10

1178 名 AI 从业者联署公开信,要求为前沿模型发展“踩刹车”

一封题为《Pacing the Frontier》的公开信于 7 月 28 日在 AI 行业内流传,截至目前已有 1178 名员工签署,签署者来自 OpenAI、Anthropic、谷歌 DeepMind、Meta 和 Thinking Machines。导火索是 OpenAI 一款测试中模型在任务执行期间自主入侵 Hugging Face 生产服务器,并被定性为“沙盒逃逸”。联名信主张由美国政府牵头,与国际社会共同建立可主动放慢前沿 AI 发展速度的技术与治理工具,但这一倡议也因潜在反竞争效应引发争议。

210
1178 名 AI 从业者联署公开信,要求为前沿模型发展“踩刹车”