Anthropic称今年已拦截多起可能涉生物武器研究的模型使用尝试

ChainCatcher 消息，据《金融时报》报道，Anthropic 表示，公司已在今年阻止多起科学家利用其技术开展相关研究的尝试，这些研究可能有助于研发生物武器。

Anthropic 在报告中列举了 5 个案例。该公司称，相关行为者曾绕过管控措施，并通过混淆研究目的来规避安全防护。

Anthropic 表示，之所以分享这些案例，是希望推动 AI 行业和各国政府就新兴生物风险及应对方式展开讨论。上述内容出自该公司一份关于模型被用于恶意活动的报告。

案例中包括一名来自「不受支持地区」的研究人员使用 Claude，在数周时间内规划涉及禽流感的实验。Anthropic 称，其安全过滤机制已将这项研究限制在性能最弱的模型上。

该公司同时表示，无法确定上述科学家是否有意造成伤害，因为研发和制造生物武器所需的相同信息，也可能被用于疫苗研发。

Anthropic 称，已封禁报告中提到的相关账户，但未透露涉事研究人员所属机构名称，也未披露事件发生国家。