英伟达投的Sora竞品免费了!网友挤爆服务器,120秒120帧支持垫图

  西风发自凹非寺

  量子位公众号 QbitAI

  120 秒 120 帧高质量逼真视频,视频生成赛道新模型入场,火到服务器被挤爆!

  网友直呼这是 Sora 级别的视频生成 AI,关键是可以免费试用。

  话不多说,直接看效果。

  镜头拉近,爆炸场景非常自然:

  废墟真实感拉满:

  生成变换各种动作的视频也可以:

  二次元风格也不在话下:

  拿来做个动画小短片质感也很好:

  下面这个就很哈利:

  这个新推出的模型名为Dream Machine,现已推出免费公开测试版,支持文生视频、图生视频

  网友看过用过后直呼太疯狂:

  有网友更是嗅到了一丝威胁感:

  火爆了,甚至要排队几小时

  据了解,Dream Machine 基于Transformer构建,并直接用视频进行训练,因此能够生成物理准确、内容连贯且充满动感的场景。

  起初官方表示模型可以在 120 秒内生成 120 帧视频,但发布后的真实情况是太多人挤入,网站流量过大,现在生成一个视频甚至需要排队几个小时。

  产品负责人 Barkley Dai 在 Discord 上回应道:

目前需求太大,我们正努力提升处理能力,所有生成都不会丢失,只是会暂时留在队列中等候。

  排队时间现在已经逐渐缩短了,预计处理当前积压的生成请求仍需几个小时。正常情况,将提示转成视频只需2-3 分钟。

  我们也赶紧上手试了一下,操作起来非常简单。

  打开官网注册登录后直接点击右上角Try Now

  接着就可以上传图片、输入 Prompt,点击右边的箭头生成视频:

  然后就是等……

  好在用了不到一个小时,视频生成好了。

  Prompt:A cartoon-style little bird flying freely in the sky, colored in pastel macaron hues.(一只在天空中自由飞翔的小鸟,卡通风格,马卡龙色系)

  第一次生成的效果如下,大伙儿觉得如何:

  此外,在推出免费公开测试版前,已经有少数 AI 视频创作者和电影制作人测试上了 Dream Machine,他们也发布了不少作品。

  接下来再来看一波网友们的大作。

  有制片人直接用 Dream Machine 制作了一部电影预告片,使用了之前 Midjourney 创作的图像进行了生成:

  效果被网友称有印度导演 Tarsem Singh 的拍摄风格:

  这位网友同样“复活”了之前用 Midjourney 创作的一组图像:

  成片是这样婶儿的:

  还有网友制作出了在沙漠中变形穿梭的飞船:

  生成的雪山景深、运镜效果都很好:

  除了高质量视频的展示,官方也点明了 Dream Machine 目前存在的局限:

  画面主体可能会扭曲,处理动态对象时可能会出现问题,文本和视觉元素融合处理方面有限制,处理复杂或多变环境时效果不稳定。

  谁造出了 Dream Machine?

  Dream Machine 背后是一家致力于多模态模型开发的初创公司——Luma AI。

  联合创始人兼 CEO Amit Jain 是前苹果 AR/CV 工程师;联合创始人兼 CTO Alex Yu 2021 年毕业于加州伯克利,曾于 Angjoo Kanazawa 教授一起研究 NeRF 相关的 3D 计算机视觉。

  此外,团队成员还包括前英伟达研究科学家 Jiaming Song、NeRF 开山论文作者之一的 Matt Tancik 等。

  据 TechCrunch 消息,截至今年 1 月份,Luma AI已融资超 7000 万美元

  其中A轮,完成了 2000 万美元融资,投资方包括 Amplify Partners、NVIDIA、General Catalyst 等。

  B 轮融资 4300 万美元,a16z 领投,Anjey Midha、Amplify、Matrix、NVIDIA、South Park Commons 等参投。

  而在 Dream Machine 之前,Luma AI 凭借去年发布的一个文本到 3D 生成的模型Genie 1.0,已经打出了一波知名度。

  Genie 能够在 10 秒内创建 3D 物体,可生成四边形网格和材料,支持任意多边形数量的标准格式。Genie 现在可以通过网页版、Luma iOS APP 以及 Discord 社区使用。

  Luma iOS APP 量子位之前也有介绍过。基于 NeRF,小如 3D 装饰模型,兼具灯光和形状细节:

  大到整个墓园的 3D 场景渲染版,都能被很好捕捉:

  这次最新推出的 Dream Machine,是 Luma AI 打造的第一个视频生成 AI。

  感兴趣的家人们可以亲自上手试试~

  https://lumalabs.ai/dream-machine

  参考链接:

  [1]https://venturebeat.com/ai/we-dont-need-sora-anymore-lumas-new-ai-video-generator-dream-machine-slammed-with-traffic-after-debut/

  [2]https://x.com/LumaLabsAI/status/1800921380034379951

  [3]https://lumalabs.ai/team

  [4]https://x.com/minchoi/status/1800944734577336702

  [5]https://x.com/markgadala/status/1800947546656759929

  [6]https://x.com/thepaulmontreal/status/1800946280144773441

  [7]https://x.com/panaviscope/status/1800940733278622136