阿里深夜开源全球领先视频生成大模型万相2.1,网友:阿里才是真正的“源神”

最近大模型的开源圈子太卷了,前有deepseek开源5连发,后有阶跃星辰开源两款Step系列多模态大模型论,但是要说开源,国内怎么少的了阿里巴巴。

这不,就在昨晚,阿里云在官微上正式宣布视频生成大模型万相2.1(Wan)重磅开源,还说从2023年开始,阿里云就坚定大模型开源路线,千问(Qwen)衍生模型数量已超过10万个,是全球最大的AI模型家族。

再加上这次的万相的开源,阿里云已经实现了全模态、全尺寸大模型的开源,有网友直呼阿里才是真正的“源神”。

先看几个demo:

万相2.1是首个具备支持中文文字生成能力,且同时支持中英文文字特效生成的视频生成模型:

图片

图片

更稳定的复杂运动生成能力:

图片

图片

更灵活的运镜控制能力:

图片

图片

更好的物理规律理解、更好的模拟真实的世界:

图片

图片

高级质感、多种风格、多长宽比:

图片

图片

图生视频,让创作更可控:

图片

更牛逼的是,此次开源采用Apache2.0协议,14B和1.3B两个参数规格的全部推理代码和权重全部开源,同时支持文生视频和图生视频任务,全球开发者可在Github、HuggingFace、魔搭社区下载体验。

图片

此次开源的两个参数版本模型:

14B版本万相模型在指令遵循、复杂运动生成、物理建模、文字视频生成等方面表现突出,在权威评测集Vbench中,万相2.1以总分86.22%大幅超越Sora、Luma、Pika等国内外模型,稳居榜首位置。

1.3B版本万相模型不仅超过了更大尺寸的开源模型,甚至还和一些闭源的模型结果接近,同时能在消费级显卡运行,仅需8.2GB显存就可以生成480P视频,适用于二次模型开发和学术研究。

图片

万相2.1(Wan)模型技术解读

#模型性能

万相大模型在多个内部和外部基准测试中,均大幅超越现有的开源模型以及顶尖商业闭源模型。万相能够稳定展现各种复杂的人物肢体运动,如旋转、跳跃、转身、翻滚等;能够精准还原碰撞、反弹、切割等复杂真实物理场景。

图片

在指令遵循能力方面,能够准确理解中英文长文本指令,还原各种场景切换、角色互动。

图片

#关键技术

基于主流的DiT和线性噪声轨迹Flow Matching范式,万相大模型通过一系列技术创新实现了生成能力的重大进步。包括自研高效的因果3D VAE、可扩展的预训练策略、大规模数据链路构建以及自动化评估指标,这些创新共同提升了模型的最终性能表现。

高效的因果3D VAE:万相自研了一种专为视频生成设计的新型因果3D VAE架构,并结合多种策略来改进时空压缩、降低内存使用以及确保时间因果性。

图片

万相大模型视频VAE

视频Diffusion Transformer:万相模型架构基于主流的视频DiT结构,通过Full Attention机制确保长时程时空依赖的有效建模,实现时空一致的视频生成。

图片

万相视频模型架构图

模型训练和推理效率优化:训练阶段,对于文本、视频编码模块,阿里使用DP 和FSDP 组合的分布式策略;对于DiT模块,我们采用DP、FSDP、RingAttention、Ulysses混合的并行策略。在推理阶段,为了使用多卡减少生成单个视频的延迟,需要选择CP来进行分布式加速。此外,当模型较大时,还需要进行模型切分。

图片

DiT并行策略

#开源社区友好

万相已经在Github、HuggingFace、魔搭社区平台开源,全面支持了多种主流框架,已支持Gradio体验、xDiT并行加速推理,Diffusers和ComfyUI也在快速接入中,以方便开发者一键推理部署。这不仅降低了开发门槛,还为不同需求的用户提供了灵活的选择,无论是快速原型开发还是高效生产部署都能轻松实现。

  • 开源社区链接:

Github: https://github.com/Wan-Video

HuggingFace: https://huggingface.co/Wan-AI

魔搭社区:https://modelscope.cn/organization/Wan-AI

以上,如果觉得不错,随手点个赞、在看、转发三连吧,如果想第一时间收到推送,也可以给我个星标⭐,感谢你看我的文章。 投稿或爆料,请联系微信:karamos1018

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值