返回量子位

量子位

大模型安全
2026-08-13 00:14:20

研究团队披露大模型推理块泄露漏洞:可借小模型还原隐藏思维链

一支来自 MATS Research、图宾根大学和马克斯·普朗克智能系统研究所等机构的团队在论文《Stealing Reasoning Traces from Proprietary LLM APIs》中称,Anthropic、OpenAI 和 Google 的模型家族曾存在可被同厂小模型复述加密推理块的问题。研究称,团队从 6708 条公开 Agent 轨迹中恢复出 315320 段隐藏推理,并识别出 API Key、密码、访问 Token、私钥等敏感信息。论文还估算,按当时 Haiku 4.5 的 API 定价,解码 1 万条推理轨迹的名义成本约为 720 美元。研究人员表示,相关厂商在收到披露后已采取措施,论文发布时原方法已无法复现。

530
研究团队披露大模型推理块泄露漏洞:可借小模型还原隐藏思维链
机器人维修
2026-08-10 05:25:11

机器人维修岗升温:第三方市场起步,熟练工月入可过万

随着人形机器人和机器狗出货增长,维修与保养岗位开始冒头。内蒙古从业者赵鑫通过直播拆解机器狗积累观众,也折射出第三方维修市场的早期状态。受访机构称,机器人维修技术门槛不算高,但配件受厂家控制、订单量有限,现阶段很难单靠维修盈利。培训业务已陆续展开,行业给出的新人月收入大致在 6000 元到 8000 元,熟练工人月收入可以过万。

630
机器人维修岗升温:第三方市场起步,熟练工月入可过万
Jeff Dean
2026-08-10 00:25:13

Jeff Dean创业公司Discovery Loop BP曝光,Khosla与Radical联合领投

Jeff Dean创业公司Discovery Loop的路演材料近日流出,内容重点展示4位创始人在Google搜索、Gemini、TensorFlow、GFS、MapReduce等产品、系统与AI研究上的履历,以及其带领的大规模团队和学术影响力。公司将使命定义为“自动化机器学习、科学和工程,加速发现与进步”,初期聚焦机器学习研究与工程。已确认投资方包括Khosla Ventures、Radical Ventures、Lightspeed Venture Partners、Kleiner Perkins、Doerr Capital,Alphabet也参与投资并签署长期云计算合作协议。

440
Jeff Dean创业公司Discovery Loop BP曝光,Khosla与Radical联合领投
Opus 5
2026-08-10 00:27:14

Opus 5 用 6.9 亿 token 生成竞速游戏,GPT-5.6 约 5 美元做出复刻版

网友 Vyom 用 Opus 5 通过单条提示词生成了一款名为《INK TIDE》的美式卡通水上竞速游戏,文中称其消耗 6.9 亿 token、423 美元。项目使用 Vite、TypeScript 和 Three.js 开发,模型、纹理和声音均由代码生成。随后,Anul Agarwal 在 Codex 中用 GPT-5.6 Sol Ultra 和 GPT-5.6 Luna Max 做出相似复刻版,耗时约 5 小时、输入 2 条提示词,折算成本约 5 美元。

550
Opus 5 用 6.9 亿 token 生成竞速游戏,GPT-5.6 约 5 美元做出复刻版
AI论文复现
2026-08-09 08:20:07

AI复核论文掀出高比例问题,顶会复现审计结果引发关注

针对 ICML 2026 论文的两项 AI 复现与核查项目显示,论文可复现性和客观错误问题正在被集中暴露。一项审计称,168 篇口头报告中有 92 篇具备至少 5 条可验证结论,其中 58 篇无法复现;另一项基于 GPT-5 的检查系统则称,顶级 AI 会议和期刊论文平均每篇检出 4.7 个客观错误,99.2% 的论文至少被标记出一个问题。不过,报道同时强调,无法复现并不等同于造假,AI 工具结果仍需人工复核。

710
AI复核论文掀出高比例问题,顶会复现审计结果引发关注
李飞飞
2026-08-06 08:13:13

李飞飞详解 World Labs 收购 SceniX:先为机器人搭建可规模化数字训练场

World Labs CEO 李飞飞与 SceniX 联合创始人李昀烛在 a16z 访谈中,首次系统解释双方合作逻辑。两人表示,机器人是空间智能落地的首个试金石,SceniX 正在构建 real-to-sim-to-real 技术栈,以解决训练数据和评估数据稀缺的问题。双方目前把重点放在为机器人提供不绑定具体模型或硬件形态的数字环境基础设施,并计划从半结构化场景切入,逐步推进整合。

660
李飞飞详解 World Labs 收购 SceniX:先为机器人搭建可规模化数字训练场
OpenAI4S
2026-08-04 10:14:07

北大与元空AI开源科研智能体 OpenAI4S,采用 MIT 协议

北京大学与元空AI Agent联合实验室开源科研智能体项目 OpenAI4S,项目于 2026 年 7 月 6 日在 GitHub 发布,采用 MIT 许可证。该项目沿着“代码即行动”思路,提供持续运行内核、host-RPC 协议、安全层、完整 Web 应用、30+ 科研 Skills、版本化科研产物以及自有算力接入能力,目标是让 AI 直接进入真实科研工作流,而不是只生成看起来正确的答案。

830
北大与元空AI开源科研智能体 OpenAI4S,采用 MIT 协议
英伟达
2026-08-04 13:37:10

AI 编程 Agent 10 小时搭出类 CUDA 软件,英伟达护城河先在推理侧承压

成立仅一年的 Infinity 用 AI 研究 Agent“Ignition”为 d-Matrix 在 10 小时内搭建了一套类 CUDA 软件,切入点集中在推理 Kernel 与底层软件能力,而非完整复制 CUDA 近 20 年积累的生态。文章指出,训练侧对稳定性、集群协同和验证工具链要求极高,CUDA 优势仍深;推理侧因更看重单次回答成本、可跨芯片运行,正成为 Rebellions、Cerebras、AMD、谷歌和亚马逊等玩家争夺的第二战场。多位业内人士也提醒,AI 能加快写代码,但验证、优化和迁移成本仍是核心门槛。

540
AI 编程 Agent 10 小时搭出类 CUDA 软件,英伟达护城河先在推理侧承压