SemiAnalysis:AI 推理更看重内存带宽,调度层成基础设施关键
SemiAnalysis 发布报告,拆解大模型推理服务底层架构。报告称,MoE 模型普及后,推理已演变为由 Prefill、Midfill、Decode Attention 和 Decode Experts 组成的复杂流水线,不同阶段对算力、内存带宽和网络需求并不相同。其判断是,在多数推理场景中,内存带宽比容量更具经济价值,调度层、缓冲机制和 KV 缓存分级管理将直接影响集群吞吐效率。

SemiAnalysis 发布报告,拆解大模型推理服务底层架构。报告称,MoE 模型普及后,推理已演变为由 Prefill、Midfill、Decode Attention 和 Decode Experts 组成的复杂流水线,不同阶段对算力、内存带宽和网络需求并不相同。其判断是,在多数推理场景中,内存带宽比容量更具经济价值,调度层、缓冲机制和 KV 缓存分级管理将直接影响集群吞吐效率。

美国初创公司 Antioch 于 9 月 8 日完成 3200 万美元 A 轮融资,累计融资达 4050 万美元,押注在接近现实的数字环境中训练和验证机器人。PANews 报道称,随着 Physical AI 成为新投资方向,围绕 3D 空间、数字孪生、物理仿真和合成数据的公司重新获得资本关注。文章同时回顾了 Omniverse 从“元宇宙基础”转向机器人仿真与工业数字孪生的路径,并提到 NavVis、NdotLight、Treble 等公司正从空间扫描、SimReady 资产和声学仿真等环节搭建新的虚拟世界基础设施。

Bitcoin News 在 X 平台披露,@DesobedienteTec 在将 SeedSigner 移植到一款 40 美元掌上游戏机后,又发布了可正常运行的 Sparrow Wallet 概念验证版本。该设备配有两个 microSD 卡槽,并支持摄像头、虚拟键盘,以及 Nintendo、SEGA、N64、PSP 和 PS1 游戏模拟器。

加拿大逆向工程玩家 DiscoStarslayer 表示,自己历时 4 年读出了 PS2 早期机型安全芯片 MechaCon 的固件。这颗芯片负责光盘验证、MagicGate 记忆卡加密和 KELF 解密,26 年来一直没人完整读出。GitHub 公开清单目前列出 22 份固件校验信息,覆盖 SCPH-15000 到 39000 系列,但 2000 年首发机型对应的 v1 固件仍未读出。参与者称,这批固件不会额外解锁游戏内容,主要价值更偏向模拟器、研究和维修。

GPT-6 Astra 上线后,OpenAI 开发者社群出现一批围绕 3D 建模、游戏和交互场景的案例。ABMedia 整理显示,开发者已用它拆解 2,234 个 3D 人体部件、在 Unreal Engine 中逐街重建曼哈顿、把 6 幅梵谷作品做成可步行小镇,也有人在 Blender 中生成 3,295 个可编辑火车物件、构建 Backrooms 场景,或直接做出浏览器游戏与可导出 .ldr 的 LEGO 设计。

谷歌研究团队联合 HHMI Janelia Research Campus 等发布成年雄性果蝇完整连接图谱 MaleCNS v1.0,识别出超过 16.6 万个神经元、约 1.25 亿个突触连接和约 1.17 万种神经元类型。图谱开源后,开发者很快把模拟果蝇接入《我的世界》、Doom、《Beat Saber》和浏览器交互实验,也有人让它刷短视频、参与利率决策,甚至在链上发币和交易 Meme 币。相关 Meme 币 FLYBRAIN 市值一度突破 5500 万美元,随后回落至约 2700 万美元。

围绕「世界模型」到底是什么,AI 领域至今没有统一定义。李飞飞与 World Labs 将其分为渲染器、模拟器和规划器,LeCun主张在抽象潜空间学习可预测的世界结构,清华大学朱军团队则从第一性原理提出「理解、想象、行动」三项核心能力,并给出从 L1 到 L5 的五级演进路线。论文同时讨论了视频生成、实时交互、机器人控制、数据金字塔、MoT 架构以及 Motus2 的闭环自进化路径。

研究团队发布 StudentSim,尝试用真实学生记录训练可评估、可复用的学生模拟器,让 AI tutor 在训练阶段获得更低成本的反馈。该方法围绕行为保真度和指导响应性两项能力展开,并在国际象棋、英语写作和基础数学三类任务中评估 60 位真实学生数据。论文还将 StudentSim 接入 AI tutor 强化学习流程,在国际象棋实验里,使用 StudentSim 作为奖励信号训练出的 tutor 在准确性、指导质量和个性化评分上均排第一。
