李飞飞发布：全球首个多模态世界模型

「全球首个」多模态世界模型，来了！

来自李飞飞World Labs。World Labs对这个名为Atlas的新一代世界模型，用词可谓毫不克制，「全球首个」之外，slogan也明确强调出，这一次，可不只是生成一段可互动视频了哟： 建模世界，移动相机，模拟空间和时间。

建模世界，移动相机，模拟空间和时间。就是说，Atlas能够以像素级的相机控制生成图像和视频帧，并完成3D重建。并且空间和时间都能理解。李飞飞本人将其视作World Labs的「里程碑式」成果，直接一手置顶： Atlas为从视觉特效到机器人的众多应用场景打开了大门。

Atlas为从视觉特效到机器人的众多应用场景打开了大门。飞飞高徒、英伟达机器人主管Jim Fan也来捧场，指出：这是机器人领域Real-to-Sim的一大步。具体来说，Atlas是一个多模态自回归扩散Transformer，它的能力包括： 相机控制生成：仅需一张图片，Atlas即可生成具有像素级相机控制的图片和视频，最高可输出1分钟、1440p的视频。

空间重建：Atlas可以基于一张到数十张输入图像，重建真实世界场景。既可以生成新视角下的图像帧，也能输出显式3D表示，其效果超过当前专门针对3D重建训练的最先进模型。时空模拟：Atlas可以根据输入视频同时建模空间和时间，可以转换已有视频中的观察视角，制作具有戏剧性的视觉效果，同时支持机器人Real-to-Sim工作流。

图像生成：Atlas可以根据文本生成图片和360°全景图，能够遵循复杂Prompt、准确渲染文字，并生成大量不同的视觉风格。对于机器人模拟，仅需喂Atlas几张照片，它就能生成逼真的RGB和深度数据。这样一来，机器人就能在更多不同的模拟空间中进行训练和测试。

从头训练的多模态世界模型 技术细节上，Atlas是一个全能模型（omni model）。它的目标，是在一个统一的模型架构中，同时处理多任务、多种输入和输出数据。与此同时，空间控制是整个模型的核心。

为了实现这些目标，李飞飞团队设计了一种全新的基础架构，来作为未来世界模型的基础——多模态自回归扩散 Transformer。文本、图像、视频、3D数据……各种输入都会被锚定在三维空间中，从而形成一个空间上下文。然后，Atlas会根据这个上下文生成多模态输出。

这样一来，比如把两张毫无关系的参考图片放进同一个上下文中，再分别指定它们在3D空间中的位置，Atlas就能把它们缝合成一个空间自然、连续的世界。更具体地拆解一下，多模态，指的是Atlas可以原生处理多种不同的数据类型，包括文本、图像、相机位姿、3D深度图等。视频则被表示为图像序列。每一张图像和每一幅深度图，都对应一个明确的相机位姿。

自回归，指Atlas操作的是一系列元素组成的序列，序列中的每一个元素都可以属于前面提到的某一种数据模态。Atlas每次生成一个新的输出，都会以前面已经存在的序列内容作为条件。这种灵活的设计天然适用于各种不同任务。

每一种任务，本质上都只是一种不同类型的序列——前面是输入，后面是输出。扩散模型，指Atlas是一个Rectified Flow（校正流）模型，通过逐步去噪来生成输出。扩散模型尤其擅长对图片和视频这种高维连续数据进行建模。

同时，在推理时，只需要改变去噪步骤的数量，就可以实现速度和质量的平衡。而Transformer不必多说，在世界模型领域，Transformer也被证明是非常稳健的基础架构。也就是说，Atlas实际上融合了大语言模型和视频模型中的大量思想。

Atlas既可以利用大量原本服务于LLM推理和加速的技术，包括KV Cache、缓存感知路由、解耦式服务等等。另一方面，它又和现代图像、视频生成模型一样，是一个潜空间扩散模型，可以利用扩散蒸馏、无分类器引导、移位噪声调度等算法，并引入更先进的VAE架构。研究团队在相机控制生成和3D重建两个关键任务上对这个新一代世界模型进行了定量评估。

在相机控制生成上，结果显示，Atlas优于SOTA视频模型。并且相机轨迹越复杂，Atlas的优势越大。在根据稀疏输入视角进行3D重建的任务中，Atlas同样超过了表现最好的专业开源3D重建模型。（

分数越低表现越好） 值得一提的是，Atlas从设计之初就为Scaling做好了准备。李飞飞团队表示，已经看到了非常有利的证据，证明Atlas的能力会随着规模扩大而继续提高。目前，Atlas正在向部分合作伙伴开放早期访问。

也可以在官网申请访问权限。具身智能Real-to-Sim的关键一步 李飞飞新世界模型一出，关注的焦点，还是汇聚在具身智能上。把今年World Labs的动作联系起来，Atlas的意义也更加明朗。今年6月，李飞飞亲自下场定义世界模型，将其分类为渲染器、模拟器、规划器。

并明确指出，「最关键的是模拟器」。因为模拟器承担的是世界本身的几何、物理和动力学，是渲染和行动共同依赖的基础。紧接着，7月21日，World Labs收购机器人仿真公司SceniX。

7月28日，公开Real-to-Sim-to-Real系统，强调机器人最大瓶颈是缺乏廉价、可控、可规模化的训练经验。现在，Atlas来了。从真实照片/视频，到3D空间，再到机器人传感器视图和可变化的模拟环境，这一条路径被打通了。World Labs官方表示，接下来，Atlas会成为未来版Marble以及World Labs其他产品的底层模型。

参考链接：https://www.worldlabs.ai/blog/atlas 一键三连「点赞」「转发」「小心心」 欢迎在评论区留下你的想法！ — 完 — 🌟 点亮星标 🌟 内容中包含的图片若涉及版权问题，请及时与我们联系删除