跨越虚幻与物理世界的鸿沟 | 一张图生成一个 3D 游戏世界正在成为现实

收录于话题

#AI agent#大模型应用

李飞飞的World Labs 发布了他们空间智能的首个预览版本,上线了一个浏览器可访问的 AI 3D demo可以试玩。通过单张图片生成完整3D世界,而且还能与之交互就像是让你“走进”一张图片,探索其生成的三维场景. 

跨越虚幻与物理世界的鸿沟 | 一张图生成一个 3D 游戏世界正在成为现实

体验网站:https://www.worldlabs.ai/blog  

李飞飞的 AI 3D waitlis:https://docs.google.com/forms/d/e/1FAIpQLSf9jHsaDq1IwM_FADQP0Gbd82tbW4CBOI5YfUAdPfqrFrWEeA/viewform 

 

核心内容

跨越虚幻与物理世界的鸿沟 | 一张图生成一个 3D 游戏世界正在成为现实
  • 李飞飞空间智能首个项目发布,能够仅凭一张图片生成一个可交互的3D游戏世界。
    • 交互性:生成的3D世界可以像玩游戏一样自由移动相机探索,支持浅景深、希区柯克变焦等操作。
    • 实时渲染:场景在浏览器中实时渲染,支持摄像机效果和可调节的模拟景深(DoF)。
    • 动态调整:用户可以改变物体颜色、调整背景光影、插入其他对象。
    • 3D场景预测:与大多数生成模型不同,该AI系统直接预测3D场景,遵循3D几何物理规则。
    • 网友反响:评论区“难以置信”一词刷屏,知名人士如Shopify创始人Tobi Lutke等点赞。
    • VR应用:网友认为这为VR打开了新世界。


  • 官方表示这只是3D原生生成AI未来的一个缩影,并正在努力将技术尽快交到用户手中。
  • 李飞飞本人分享了这项成果,强调通过一张照片或一句话生成的3D场景互动体验难以用语言描述。

 

相机效果

场景生成后,将使用虚拟相机在浏览器中实时渲染。对相机的精确控制可实现艺术摄影效果。

我们可以模拟浅景深,其中只有距相机一定距离的物体才处于焦点: 

我们还可以模拟移动变焦,同时调整相机的位置和视野 

跨越虚幻与物理世界的鸿沟 | 一张图生成一个 3D 游戏世界正在成为现实
跨越虚幻与物理世界的鸿沟 | 一张图生成一个 3D 游戏世界正在成为现实

 

3D效果

大多数生成模型预测像素。预测 3D 场景有很多好处: 

  • 持久的现实:世界一旦生成,就会一直存在。即使你移开视线再回头看,场景也不会在你背后改变。
  • 实时控制:生成场景后,您可以实时在场景中移动。你可以停留在花朵的细节上,或者从角落里偷看,看看里面有什么。
  • 正确的几何形状:我们生成的世界遵循 3D 几何的基本物理规则。它们具有扎实感和深度感,与某些人工智能生成的视频的梦幻性质形成鲜明对比。

可视化 3D 场景的最简单方法是深度图,其中每个像素根据其到相机的距离进行着色: 

我们可以利用3D场景结构来构建交互效果——点击场景即可与之交互! 

跨越虚幻与物理世界的鸿沟 | 一张图生成一个 3D 游戏世界正在成为现实
跨越虚幻与物理世界的鸿沟 | 一张图生成一个 3D 游戏世界正在成为现实

worldlabs让您以新的方式体验标志性的艺术作品。从梵高、霍珀、修拉和康定斯基最喜欢的作品中生成了世界。 

原画中没有的任何东西都是由模型生成的。 

跨越虚幻与物理世界的鸿沟 | 一张图生成一个 3D 游戏世界正在成为现实

3D 世界生成自然地与其他 AI 工具组合在一起。这使得创作者可以使用他们已知的工具来实现新的体验。 

例如,我们可以通过首先使用文本到图像模型生成图像来从文本创建世界。不同的模型有自己的风格,我们的世界可以继承这些风格。 

在这里,我们使用不同的文本到图像模型生成同一场景的四个变体, ([4])全部使用相同的提示: 

一间充满活力的卡通风格的青少年卧室,里面有一张铺着彩色毯子的床,一张杂乱的桌子,上面有一台电脑,墙上贴着海报,还有散落的运动装备。一把吉他靠在墙上,中间是一张舒适的带图案的地毯。窗外的光线为房间增添了温暖、年轻的氛围。
跨越虚幻与物理世界的鸿沟 | 一张图生成一个 3D 游戏世界正在成为现实

我们已经让一些创作者提前了解了我们的技术,开始尝试 3D 原生生成 AI 工作流程带来的可能性。 

Eric Solorio展示了我们的模型如何填补他的创意工作流程中的空白,使场景中的角色轻松上演并指导精确的摄像机移动: 

Brittani Natali使用将 World Labs 技术与 Midjourney、Runway、Suno、ElevenLabs、Blender 和 CapCut 等工具相结合的工作流程,在我们生成的世界中精心设计了摄像机路径,以在三部短片中唤起不同的情绪: 

 

一张照片标志着旅程的开始,而一个栩栩如生、互动性强、充满活力的虚拟世界则是我们的目的地,World Labs 正在努力缩小这两者之间的差距。


【我是谁】

绛烨,enfp/infp,AI科技自媒体博主,公众号“AIGC新知”主理人(目前粉丝量10000+)

主业在一家教育公司做AI产品运营兼agent开发。

【我能提供】

(1)公众号文章合作,可友情or付费or资源置换

(2)社群相关资源

(3)AI头部KOL资源

(4)教育/agent开发等方面讨论交流

【我需要】

(1)AI教育相关认知/资源

(2)AI agent开发定制,课程培训合作等。

(3)商务合作可直接联系,期待多多交流,共同进步

加我探讨交流。

跨越虚幻与物理世界的鸿沟 | 一张图生成一个 3D 游戏世界正在成为现实

知识星球沉淀了很多AI的掘金素材集,欢迎加入!

跨越虚幻与物理世界的鸿沟 | 一张图生成一个 3D 游戏世界正在成为现实

如果觉得不错,欢迎点赞、在看、转发,您的转发和支持是我不懈创作的动力~

如果想第一时间收到推送,可以给我个星标?~

谢谢你挤出时间看我的文章推送,一眼万年,不胜感激。

  文章内容来自于网络,由百合树AI整理,如有侵权,联系删除。如需开始AI写作请返回主页。

上一篇:

下一篇:

相关推荐

发表回复

您的邮箱地址不会被公开。 必填项已用 * 标注