Aleph Alpha开源Kolibri:3.46B激活参数,支持最高100万上下文
德国 AI 公司 Aleph Alpha 发布并开源英德双语模型 Kolibri。该模型采用 MoE 架构,总参数为 781 亿,每个 token 约激活 34.6 亿参数,权重已上传至 Hugging Face,并采用 Apache 2.0 协议。Kolibri 支持工具调用和可调推理模式,上下文最高可扩展至约 100 万 tokens,但官方建议日常部署控制在 26.2 万 tokens 以内。
1230
德国 AI 公司 Aleph Alpha 发布并开源英德双语模型 Kolibri。该模型采用 MoE 架构,总参数为 781 亿,每个 token 约激活 34.6 亿参数,权重已上传至 Hugging Face,并采用 Apache 2.0 协议。Kolibri 支持工具调用和可调推理模式,上下文最高可扩展至约 100 万 tokens,但官方建议日常部署控制在 26.2 万 tokens 以内。
欧洲 AI 公司 Aleph Alpha 发布开源 AI 模型 Kolibri。该模型拥有 780 亿参数,采用开放权重许可,并强调符合欧洲法规。消息称,这一模型后续可能影响国防和公共管理等领域。