JEPA-Anything尝试用同一预测框架处理癌细胞与行星轨道

JEPA-Anything尝试用同一预测框架处理癌细胞与行星轨道

N
News Editor
2026-09-20 00:21:10
PhAI Labs联合牛津、斯坦福、普林斯顿和港中文等团队发布JEPA-Anything,尝试用跨领域世界模型学习不同系统的演化规律。论文在视觉、生物、临床、控制、分子、物理场和天气七类系统中测试同一预测核心,并引入OPF机制拆分目标状态。在肝癌研究中,模型内部因子被用于提出IL-18联合NT5E/CD73阻断的候选干预;在行星轨道实验中,模型从模拟轨迹中提取出的频率-半长轴关系斜率为-1.4991,接近开普勒第三定律理论值-1.5。

一篇技术报告里,同时出现患者来源类器官和行星轨道两个研究对象,并不常见。PhAI Labs联合牛津、斯坦福、普林斯顿、香港中文大学等高校团队最新发布的 JEPA-Anything,正是把这两个看起来相距甚远的案例放进同一套预测学习框架中。

JEPA-Anything尝试用同一预测框架处理癌细胞与行星轨道 2

论文给出的核心问题是:天气、分子、细胞、病人、机器人乃至行星,各自遵循不同规律,但 AI 在学习它们「如何变化」时,是否可能共享一套更底层的方法。

JEPA-Anything想解决什么问题

论文将 JEPA-Anything 描述为一个面向不同「世界」学习预测模型的跨领域框架。每个领域保留自己的观测形式、context-target 构造方式和编码器,但共享后续的预测核心,以及一套统一的 latent world-state interface。

在这项研究里,「世界模型」的定义并不局限于某一类任务。只要模型能根据已有信息建立内部状态,并据此预测同一系统中的另一个状态,就属于 latent world model 的范畴。这个「另一个状态」可以是时间上的未来,也可以是空间中的隐藏区域、不同视角,或施加干预后的结果。

论文提到,过去几年相关技术路径已逐步成熟。比如 DreamerV3 更强调先构建环境模型,再在模型内部设想行动后果;V-JEPA 2 则把视频表征学习与机器人控制结合,让机械臂在规划动作前先预测行为可能带来的物理反馈。

JEPA 即 Joint-Embedding Predictive Architecture,联合嵌入预测架构,是其中一条有代表性的路线。与直接在原始空间重建目标状态不同,JEPA 选择在表征空间进行预测,不必还原每个像素或所有细节。模型会先把观测编码为隐空间中的内部表征,再在表征空间内完成预测,把更多能力留给具有预测价值的结构,减少纹理和噪声等细节干扰。

JEPA-Anything尝试用同一预测框架处理癌细胞与行星轨道 3

单一路径预测不够,OPF用于拆分状态

标准 JEPA 通常让信息全部汇入同一个 target embedding,沿同一条预测路径前进。但论文认为,现实世界的变化并不是单线程的。

分子的整体平移可能伴随内部原子的微观振动;宏观气象系统的缓慢演变里,可能夹杂剧烈的局部扰动;生物系统中的变化则往往是多尺度、多通路同时发生。

当不同尺度、不同实体、不同难度的信号被放进同一条预测通路时,更容易预测、变化更显著的信号可能优先占据更多预测容量;较弱但同样关键的信息,则可能在梯度冲突中被抵消,或被强信号掩盖。研究团队把这归结为「预测容量如何分配」的问题。

JEPA-Anything的核心机制,是 OPF(Orthogonal Predictive Factorization,正交预测分解)。它把原本完整的目标状态切割为多个彼此互补的子空间,交给不同预测分支分别处理,最后再拼接成完整世界状态。

为了避免多分支退化成重复学习同一件事,OPF加入正交约束,让不同 factor 尽量占据互不重叠的预测方向,减少重复学习;同时通过因子活性约束和编码器方差约束,避免部分 factor 失活,并降低表示坍缩风险。

JEPA-Anything尝试用同一预测框架处理癌细胞与行星轨道 4

论文还强调,这些 factor 并不是预先指定「负责速度」「负责温度」或「负责某条生物通路」。它们究竟学到什么,由数据里的可预测结构决定。训练完成后,这些 factor 也保留下可供后续分析的内部接口。

同一预测核心,被放进七类系统测试

JEPA-Anything没有把验证范围局限在视频表征或机器人控制,而是把同一套 Predictive Core 直接放进视觉、生物、临床、控制、分子、物理场和天气七类系统中测试。

论文中「Anything」并不意味着把所有领域的数据统一改造成同一种输入格式。图像、单细胞序列、分子结构和气象数据,仍然保留各自适配的编码器与数据形态。真正统一的是:数据进入隐空间表征后,预测部分如何搭建、如何训练。

研究先在基于简化 Pong 构造的受控动态环境 CITRIS Interventional Pong 中验证,观察模型能否把复合变化拆开学习,再重新组合。训练阶段,模型只接触单一因子的变化数据;测试阶段,则要面对此前从未出现过的多因子组合干预。

如果模型只是记住训练集中的完整模式,面对新组合时就会失效;如果学到的是可复用的状态变化规律,就更可能在未见过的组合上重新拼接这些规律。结果显示,在分布内的单项干预中,JEPA-Anything较标准 JEPA 将预测误差降低约 11.7%;在未见过的多因子组合干预中,均方误差(MSE)也下降约 3.5%,并在 5 组配对训练 seed 中全部改善。

JEPA-Anything尝试用同一预测框架处理癌细胞与行星轨道 5

Matched Dynamics Benchmark中的十项任务

随后,研究进入更复杂的真实系统。论文构建了一套 Matched Dynamics Benchmark,在 10 项任务中让标准 JEPA 与 JEPA-Anything使用完全相同的训练数据、编码器、状态转移骨干网络、计算预算和评估切分。

在其中 9 项预测任务中,JEPA-Anything的性能指标都有提升。论文列举的结果包括:

  • PDEBench 的 Burgers 方程,MSE 下降 39.7%
  • 浅水方程,MSE 下降 39.3%
  • WeatherBench 2,MSE 下降 10.5%

研究还做了多步 rollout,让每次预测继续成为下一次预测的输入,以观察误差持续传递后的表现。

在分子系统里,预测时间线被进一步拉长。液态水、α-石英、对乙酰氨基酚和苯 4 种体系中,模型需要持续预测未来原子的位置和速度,并不断把自身输出回喂。最终,无论是一步预测的 MAE,还是 100 步自由 rollout 后的最终位置 RMSD,JEPA-Anything在 4 种分子系统里都取得最低误差。

并非所有任务都占优,长程预测误差仍会累积

论文没有把结果描述成单一机制对所有场景的全面压制。

在连续控制测试中,JEPA-Anything并非每项任务都更好。在 Walker2d 和 HalfCheetah 上,它的平均得分高于标准 JEPA;但在 Hopper 上,标准 JEPA 表现更好。

JEPA-Anything尝试用同一预测框架处理癌细胞与行星轨道 6

随着连续预测距离增加,误差仍会持续累积。论文提到,在额外的 Burgers 测试中,当预测长度从 20 步增加到 50 步时,JEPA-Anything虽然仍然领先,但优势已经明显缩小。

这组结果所验证的,是共同预测原则存在跨领域适用性,而不是已经实现一个统一所有领域的世界模型。不过,论文认为这些实验至少说明,这套预测原则具备跨领域复用潜力。

内部因子能不能成为科学分析接口

论文的第三组实验,进一步追问模型隐空间中形成的 factor 是否具备科学探索价值。也正是在这里,出现了文中最受关注的两个案例:肝癌研究和行星轨道分析。

案例一:从内部因子到候选干预

在肝癌研究中,研究人员没有把 JEPA-Anything只当作一个黑盒预测器,而是分析其内部形成的 Orthogonal Factor Coordinates,并从中筛出一个候选组合:IL-18 联合 NT5E/CD73 阻断。

研究团队随后把这一组合推进到 Huh7-PBMC 共培养体系,再到患者来源的肝细胞癌类器官和肿瘤组织碎片,并加入免疫健全小鼠验证。

JEPA-Anything尝试用同一预测框架处理癌细胞与行星轨道 7

实验数据显示,在 3 份患者类器官和 3 份肿瘤组织碎片中,IL-18 与 CD73 阻断剂组合都表现出最强的肿瘤细胞杀伤力,同时伴随显著增强的免疫细胞激活。

按照论文的表述,这意味着模型内部的 latent factor 不再只是让预测结果更准确,也开始成为研究者分析系统状态、提出可实验检验候选假设的接口,形成「模型内部结构—领域分析—候选干预—实验验证」的链条。

案例二:从隐模式到开普勒第三定律

行星轨道实验则反过来用已知物理规律检验模型内部学到的结构是否具备物理意义。研究者只向模型输入模拟得到的行星位置和速度轨迹,没有提供开普勒定律公式。

训练完成后,团队对模型的 latent modes 进行频谱分析,并将提取出的频率与轨道半长轴配对。结果显示,模型学到的 latent modes 中可以提取出与这组变量关系高度一致的尺度规律:拟合斜率为 -1.4991,开普勒第三定律理论值为 -1.5,R² 为 0.99999999。

一个案例从内部因子走向湿实验,另一个把内部模式拿出来与已知物理规律对照。论文借此说明,模型学到的内部结构有可能成为科学分析接口,而不只是终点上的预测数字。

JEPA-Anything尝试用同一预测框架处理癌细胞与行星轨道 8

PhAI Labs把它放在DFM框架的世界模型层

论文还把 JEPA-Anything放进 PhAI Labs 此前提出的「科学发现大模型」框架中。按照其设想,Discovery Foundation Models,简称 DFM,目标是推动 AI 参与更开放的科学探索,包括识别未知、形成假设、设计干预,并根据外部证据持续修正。

JEPA-Anything位于这套结构中的世界模型层。它尝试把科学 trajectory 和真实世界变化里可预测的部分,压缩成可以更快调用的预测能力,在耗时更长、成本更高的真实实验之前,提供一层近似判断。

因此,「从癌细胞到行星轨道」这组跨度,论文想展示的并不只是概念上的反差,而是两个更具体的问题:面对机制差异很大的复杂系统,AI 是否能共享一种学习演化逻辑的方法;这些变化被编码进内部状态后,这些内部结构能否被研究者拿出来分析,并接受实验结果和已知规律的检验。

从论文给出的结果看,这距离「AI理解万物」仍然很远。JEPA-Anything目前展示的更像是一种可能性:世界模型内部学到的结构,除了服务预测,也可以继续被研究者分析,并接受实验与既有规律的检验。

论文与代码信息

本文来自微信公众号「量子位」(ID:QbitAI),作者为衡宇。

本文最初由 Bit.Fan 发布。 欲了解更多加密货币新闻与市场洞察,请访问 www.bit.fan.
1000

免责声明:

本平台展示的市场信息、项目资料与第三方内容仅用于行业信息分享,不构成任何形式的投资建议或收益承诺。

加密资产交易具有较高风险,用户应充分评估自身风险承受能力并独立作出决策,相关盈亏及法律责任由用户自行承担。