扎克伯格谈 AI 对齐与安全：不聚焦相关能力的实验室将落后

ChainCatcher 消息，扎克伯格发文表示，每个实验室都有责任和激励，以所需速度安全训练模型，并且有能力自行采取行动。

他称，人们不会使用与自己不对齐、不按要求行事的智能体，实验室因此存在强烈的自然激励来提升模型对齐。按他的说法，信任和对齐正迅速成为区分智能体与模型的最重要能力，任何不聚焦对齐的实验室都将落后。

扎克伯格还表示，如果实验室的模型造成伤害，将面临重大责任，因此同样有强烈激励加以防范。

他提到，Meta 将 Muse 的发布时间推迟了数月，以聚焦安全和安保。Meta 并未要求其他实验室先行效仿，而是把这项工作视为日常工作的一部分。

在他看来，聘请独立评估者和顾问是行业最佳实践，MSL 已在多个领域采取这种做法。与此同时，将大部分算力用于服务人们，而不是竞相递归自我改进，也是确保这项技术安全开发的最佳方式之一，Meta 已作出这一承诺。