返回模型压缩

模型压缩

人工智能
2026-08-25 20:53:47

研究人员提出AI模型缩小新技术,面向移动设备部署

Techub News 消息称,研究人员开发出一种新的 AI 模型缩小技术。该方法在压缩模型尺寸的同时提升了智能水平,打破了模型缩小后性能往往下降的惯例。报道认为,这项技术可能让手机等移动设备受益,也为资源受限环境部署高效 AI 模型提供了新途径。

20
研究人员提出AI模型缩小新技术,面向移动设备部署
人工智能
2026-08-25 20:46:03

研究团队将 AI 模型缩至 600 亿参数后性能反超同级版本

一组研究人员公布称,他们把 GPT-OSS 120B 压缩为 600 亿参数、4-bit 量化模型后,得到的版本在多数对比基准中优于同为 600 亿参数的全精度版本。论文将这一方法称为「量化感知修复」,核心做法是让小模型直接对齐未压缩的大模型输出,而不是学习已被压缩过的中间版本。团队已将 Hypernova-60B 以开放权重形式发布到 Hugging Face,但生成该模型的压缩工具仍属专有,测试范围也仅覆盖 GPT-OSS。

20
研究团队将 AI 模型缩至 600 亿参数后性能反超同级版本
技嘉
2026-08-21 09:59:37

技嘉发布搭载NVIDIA GB300 Ultra的W775桌上型AI超级电脑

技嘉于8月20日发布W775系列桌上型AI超级电脑,旗舰机型搭载NVIDIA GB300 Grace Blackwell Ultra芯片,主打把原本部署在大型数据中心机架中的算力压缩进办公室可放置的落地机箱。该机型最多可支持400人同时发问,峰值吞吐量达9,000 tok/s。公司同时上调全年资本支出预估至280亿至300亿元新台币。

290
技嘉发布搭载NVIDIA GB300 Ultra的W775桌上型AI超级电脑
Meta
2026-08-11 10:33:11

Meta重启开放权重路线,发布Muse Glimmer并预告开放Spark 1.2

Meta发布开放权重模型Muse Glimmer,并表示未来几周将开放更强的Muse Spark 1.2模型权重。Muse Glimmer采用Apache 2.0许可证,支持文本和图像输入,主打本地Agent场景。扎克伯格同步在官网为开放模型和蒸馏辩护,称应把强大且免费的AI交给数十亿人,而不是集中在少数大型机构手中。

910
Meta重启开放权重路线,发布Muse Glimmer并预告开放Spark 1.2
开源模型
2026-08-04 04:46:22

天风证券:开源模型冲击闭源垄断,云服务商或重掌 AI 定价权

天风证券在最新分析中指出,随着 Meta Llama 系列和 DeepSeek 等开源模型提升性能、压低推理成本,闭源模型对 AI 任务入口和定价权的控制正在减弱。报告认为,AI 产业利润并未消失,而是从模型公司转向具备路由决策和垂直整合能力的云服务商;分层路由、自托管开源模型和自研 ASIC,将成为云厂商提升算力货币化效率的关键。

1080
天风证券:开源模型冲击闭源垄断,云服务商或重掌 AI 定价权
开源模型
2026-08-03 15:53:55

Citrini:开源模型崛起或削弱闭源垄断,云厂商有望重握 AI 基础设施定价权

Citrini 分析师 Jukan 表示,开源 AI 模型持续进步、闭源模型垄断减弱,可能成为云计算行业的重要转折点。其核心判断是,AI 应用正从单一高性能模型转向分层模型路由,复杂任务仍由顶级闭源模型处理,普通任务则更多交给低成本小模型或开源模型。在这一变化下,云厂商有机会增强用户入口、流量调度和定价能力,而 AI 基础设施的长期增长仍取决于 Token 使用量增速能否超过算法与芯片效率提升。

810
Citrini:开源模型崛起或削弱闭源垄断,云厂商有望重握 AI 基础设施定价权
PrismML
2026-07-15 19:55:41

PrismML发布 Bonsai 27B,可在 iPhone 上本地运行

PrismML推出 Bonsai 27B,称其是首个突破消费级智能手机内存门槛的 27B 级 AI 模型。该模型压缩后最低仅 3.9 GB,可在 iPhone 17 Pro Max 上以 11 tokens/s 运行,三值版本为 5.9 GB,在 M5 Pro 笔记本上约 26 tokens/s。PrismML表示,Bonsai 27B 采用基于 Caltech 知识产权的压缩方法,并以 Apache 2.0 免费提供下载。公司 CEO Babak Hassibi 还向 CNBC 确认,PrismML 正与苹果进行早期接触,苹果在评估这项压缩技术是否适合端侧部署。

940
PrismML发布 Bonsai 27B,可在 iPhone 上本地运行