返回模型压缩

模型压缩

PrismML
2026-07-15 19:55:41

PrismML发布 Bonsai 27B,可在 iPhone 上本地运行

PrismML推出 Bonsai 27B,称其是首个突破消费级智能手机内存门槛的 27B 级 AI 模型。该模型压缩后最低仅 3.9 GB,可在 iPhone 17 Pro Max 上以 11 tokens/s 运行,三值版本为 5.9 GB,在 M5 Pro 笔记本上约 26 tokens/s。PrismML表示,Bonsai 27B 采用基于 Caltech 知识产权的压缩方法,并以 Apache 2.0 免费提供下载。公司 CEO Babak Hassibi 还向 CNBC 确认,PrismML 正与苹果进行早期接触,苹果在评估这项压缩技术是否适合端侧部署。

940
PrismML发布 Bonsai 27B,可在 iPhone 上本地运行
美国CPI
2026-07-15 04:22:00

美国6月CPI降温提振美股,芯片与银行走强,IBM单日跌超25%

美国6月CPI同比降至3.5%、环比下降0.4%,带动市场下调7月加息预期,美股三大指数收涨,VIX回落至16.50。资金回流AI硬件、存储、半导体与光通信,SK海力士ADR大涨27.29%,英伟达、英特尔、美光同步走高。大型银行财报整体好于预期,高盛、摩根大通表现突出;IBM则因二季度初步业绩不及预期暴跌25.21%,创公司115年历史最大单日跌幅。

900
美国6月CPI降温提振美股,芯片与银行走强,IBM单日跌超25%
DeepSeek
2026-07-06 03:29:56

清华特奖博士顾煜贤加入 DeepSeek,研究聚焦大模型效率优化

DeepSeek 在扩大招聘之际,清华大学 2021 级博士生顾煜贤已正式加入公司。公开资料显示,他曾获清华研究生特等奖学金、苹果博士奖学金和蚂蚁 In-Tech 奖学金,研究重点覆盖预训练数据筛选、知识蒸馏和高效模型架构。其代表工作包括 MiniLLM、MiniPLM 和 Jet-Nemotron,论文发表于 NeurIPS、ICLR、ACL 等顶会,部分方法已被谷歌、阿里和英伟达等采用。

130
清华特奖博士顾煜贤加入 DeepSeek,研究聚焦大模型效率优化
Coinbase
2026-07-03 16:05:29

Coinbase 采用中国 AI 模型压缩成本,AI 定价战延伸至加密行业

Coinbase 已开始采用中国 AI 模型 GLM 5.2 和 Kimi 2.7,以降低 AI 推理相关支出。报道显示,其通过自动路由、提升缓存命中率和优化上下文工程,将整体 AI 成本压缩约一半。除 Coinbase 外,Lindy 和 Snowflake 等公司也在转向更便宜的模型方案,反映出企业采购逻辑正从单纯追求头部模型性能,转向更重视性价比与成本控制。这一趋势意味着 AI 行业的定价体系正在重塑,OpenAI 与 Anthropic 等美国头部厂商面临更直接的价格竞争。

310
Coinbase 采用中国 AI 模型压缩成本,AI 定价战延伸至加密行业
Coinbase
2026-07-03 16:05:29

Coinbase 采用中国 AI 模型降本,AI 推理定价战升温

美国加密交易所 Coinbase 正在采用中国 AI 模型 GLM 5.2 和 Kimi 2.7,以降低 AI 相关支出。报道显示,Coinbase 通过自动路由、提升缓存命中率和上下文工程等方式,将模型使用成本压缩至原来的一半。除 Coinbase 外,Lindy 和 Snowflake 等公司也在转向更便宜的模型方案。这一变化表明,AI 行业的定价逻辑正在重塑,OpenAI 与 Anthropic 等头部厂商面临更直接的价格竞争压力。

280
Coinbase 采用中国 AI 模型降本,AI 推理定价战升温