同一个预测核心,七个不同的世界
JEPA-Anything 团队证明,同一套预测架构能学会细胞、分子、流体和行星的动态,无需预先告知物理定律。

机器学习通常走专业化路线。有的网络预测视频下一帧,有的预测机械臂动作,有的预测天气,还有的预测分子轨迹。JEPA-Anything 的作者反其道而行之:是否存在一条统一的建模原则,能应用于差异极大的系统?
什么是世界模型
在此定义下,世界模型指任何能根据现有信息构建内部状态,并据此预测同一系统另一状态的神经网络。这个“另一状态”可以是时间上的未来、被遮挡的空间区域、不同视角,或是干预后的结果。JEPA(Joint-Embedding Predictive Architecture)选择在表示空间而非原始像素空间进行预测。这样,模型容量用于捕捉真正具有预测力的结构,而非重建纹理和噪声。
当不同尺度和变化速度的信号汇入同一预测目标时,问题随之出现。容易且强烈的信号占据大部分容量,细微但关键的变化则被挤出。作者引入 OPF(orthogonal predictive factorization)机制应对:将目标状态分解为互补子空间,由独立预测分支处理后再合并。通过因子正交性、活跃度及编码器方差等约束,防止分支学习相同内容,避免表示塌缩。因子并非预先对应特定物理量,其含义由数据结构决定。
在七个系统上的测试
作者未局限于视频或控制领域。同一预测核心在七个领域接受检验:视觉、生物学、临床轨迹、控制、分子动力学、物理场及天气。各领域保留独特的观测方式、上下文-目标配对逻辑及编码器;共享的是预测层与统一的隐状态接口。
在受控环境(干预版 Pong)中,模型仅用单因素变化数据训练,却在未知因子组合上测试。训练分布上,预测误差较标准 JEPA 降低约 11.7%;未见组合上,均方误差降低约 3.5%。五组随机划分中均观察到改善。
在 Matched Dynamics Benchmark 中,两种架构使用完全相同的数据、编码器、状态转移骨干、算力预算及评估划分。JEPA-Anything 在十项任务中的九项表现更优,包括 Burgers 方程提升 39.7%、浅水方程提升 39.3%、WeatherBench 2 提升 10.5%。作者还单独测试了长程逐步预测,将自身输出反馈至输入。
天文学案例最具说服力。模型仅接收模拟的行星位置与速度,未获知开普勒定律。内部预测模式分析显示,轨道频率与半长轴存在依赖关系,斜率为 -1.4991,接近开普勒第三定律理论值 -1.5,拟合优度 R² 达 0.99999999。
生物学方面,模型习得的因子用于提出一种结合细胞因子与抗体阻断的干预方案。该方案经细胞系、患者来源类器官及小鼠实验验证。分子动力学检验涵盖液态水、α 石英、对乙酰氨基酚及苯。作者结论谨慎但明确:旨在提供共同预测学习层以承载领域知识,而非取代领域知识。
资料来源
2- 01量子位: AI离“理解万物”还有多远?先拿癌细胞和行星轨道试试水ZH
- 02JEPA-Anything: Learning Predictive Models across Different WorldsEN
本文所有数字与引语均来自下列来源,未添加来源之外的内容。
本内容由编辑部在人工智能辅助下制作完成。
评论
0- 还没有评论——来说两句吧。