動画生成AIの整理

動画生成AIを整理してみる。
ただし、一枚の画像から3Dモデルを作り、3D回転する動画を作成するタイプのモデルは原理が異なるため除いた。
モデルパラメータ数は拡散モデルであるTransformer(DiT:Diffusion Transformer)だけを調べ、VAEやTextEncoderはカウントしていない。

# LLM for Videos
https://arxiv.org/pdf/2103.15691

https://arxiv.org/pdf/2212.05199

https://arxiv.org/pdf/2306.02858

https://arxiv.org/pdf/2310.05737

# Diffusion Transformers (DiTs)：2022/12

https://arxiv.org/pdf/2212.09748


# Gen-2(Runway：2023/08)
https://media.buzzconne.jp/runway-gen-2-ai-guide/

# MagicAnimate(ByteDance(TikTok)：2023/11)

https://showlab.github.io/magicanimate/

https://arxiv.org/pdf/2311.16498

https://www.magicanimate.org/jp/




# Stable Video Diffusion(Stability AI：2023/11/22)
オープンソース：
モデルパラメータ数：1.5B
1024x576、25フレーム


https://ja.stability.ai/blog/stable-video-diffusion

https://arxiv.org/pdf/2311.15127

https://huggingface.co/stabilityai/stable-video-diffusion-img2vid-xt-1-1

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/52397004-840d-e398-1e3b-4de316217a20.png)

この時の比較対象はrunwayのGen-2、Pika Art 1.0かと思われる。

# Pika Art 1.0(Pika Labs：2023/11/29)
動画の長さが3秒
# Pika Art 1.5(Pika Labs：2024/10/02)
動画の長さが5秒

https://weel.co.jp/media/innovator/pika1-5/
# Pika Art 2.0(Pika Labs：2024/12/14)
https://pika.art/login


# DynamiCrafter(Tencent：2024/02/05)
オープンソース：
モデルパラメータ数：2.6B
576x1024、2 seconds、FPS=8

https://huggingface.co/Doubiiu/DynamiCrafter_1024

https://huggingface.co/Doubiiu/DynamiCrafter

https://arxiv.org/pdf/2310.12190

https://weel.co.jp/media/tech/dynamicrafter/

論文にrunwayのGen-2、Pika Art 1.0との性能比較がある。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/b011ff75-c81c-7bd5-ebfd-e2c8ad673710.png)


# Sora(OpenAI：2024/02/15発表、2024/12/09公開)
1920x1080p、最長20秒

https://openai.com/index/sora/

https://openai.com/sora/

https://openai.com/index/video-generation-models-as-world-simulators/

# Open-Sora(：2024/03/18～)
Open-Sora 1.0：2024/03/18
Open-Sora 1.1：2024/04/25
Open-Sora 1.2：2024/06/17
オープンソース：
モデルパラメータ数：1.1B

https://github.com/hpcaitech/Open-Sora?tab=readme-ov-file

# Veo(Google：2024/05/15)
映像の解像度は1080p(1920×1080)で、1分を超える映像の出力も可能。

https://gigazine.net/news/20240515-google-generative-ai-veo/



# Dream Machine(Luma AI：2024/06)
5秒の動画

https://lumalabs.ai/dream-machine/creations

https://liginc.co.jp/646237

# Dream Machine 1.5(Luma AI：2024/08/20)

https://staffing.archetyp.jp/magazine/dream-machine-1-5/


# Gen-3 Alpha(Runway AI：2024/06/17)
720p (1280x768)、動画の尺は5秒 or 10秒

https://runwayml.com/research/introducing-gen-3-alpha

# Gen-3 Alpha Turbo(Runway AI：2024/08/15)

https://runwayml.com/news/introducing-the-runway-api


# Open-Sora Plan 1.2(：2024/07/24)
Open-Sora Plan 1.3(：2024/10/16)
オープンソース：
モデルパラメータ数：2.8B
93x640x640

https://huggingface.co/LanguageBind/Open-Sora-Plan-v1.2.0

https://huggingface.co/LanguageBind/Open-Sora-Plan-v1.3.0


# Vidu(生数科技(Shengshu Technology)：2024/08/04)
最高1080P(フルHD)(1920×1080)、4秒の動画。

https://www.vidu.studio/

https://media.dglab.com/2024/08/%E4%B8%AD%E5%9B%BD%E7%8B%AC%E8%87%AA%E9%96%8B%E7%99%BA%E3%81%AE%E5%8B%95%E7%94%BB%E7%94%9F%E6%88%90ai%E3%80%81%E4%B8%96%E7%95%8C%E3%81%AB%E5%90%91%E3%81%91%E3%81%A6%E6%8F%90%E4%BE%9B%E9%96%8B%E5%A7%8B/

# CogVideoX(Zhipu AI：2024/08/06)
オープンソース：
モデルパラメータ数：2B、5B

https://arxiv.org/pdf/2408.06072

Gen2やPika、Open Soraには勝っている。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/84e821cf-38cd-1580-fc3c-189a8ac87fa5.png)


# Kling 1.5(快手(Kuaishou)：2024/09/19)
・KLING 1.0：1280 x 720
・KLING 1.5：1920 x 1080
Standard(5s) : 10
Pro (5s) :35
Pro (10s) : 70

https://klingai.com/

https://klingai.com/release-notes

https://note.com/el_el_san/n/n1d9733ee0466

# Hailuo AI(MiniMax：2024/09)
720p(1280×720)の解像度と25fpsで6秒

https://hailuoai.video/

https://weel.co.jp/media/innovator/hailuo-ai/



# Movie Gen(Meta：2024/10/04)
モデルパラメータ数：30B
1080p(1920×1080)、最長16秒、16フレーム／秒

https://ai.meta.com/research/movie-gen/

https://arxiv.org/pdf/2410.13720

https://ledge.ai/articles/meta_movie_gen

オープンソースでないにも関わらずモデルパラメータ数が判明しているのはこれくらいである。他のモデルはパラメータ数は明らかになってない。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/cf2c0d43-cea0-03e0-e3bc-0f604774bb22.png)


Meta社CEOのマーク・ザッカーバーグ氏によれば、Movie Genは2025年にInstagram上で公開される可能性を示しています。

以下の表はMovie Genの(win rate－lose rate)性能評価でSoraに対して平均して勝っており、Kling1.5とはRealness, Aesthetics(現実感、美的評価)で大きく勝ってるがText-alignmentでは若干負けてる。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/c5a238fd-e19b-715c-aceb-d4183e0f0115.png)


# Pyramid Flow(快手(Kuaishou)：2024/10/10)
モデルパラメータ数：2B(SD3相当?)
10s, 768p, 24fps


https://huggingface.co/rain1011/pyramid-flow-sd3

https://arxiv.org/pdf/2410.05954

論文に性能比較がある。CogVideoX-5Bと同程度でKlingやGen-3 Alphaにはやや勝ててない。 
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/0a47a2be-488d-ccab-4219-5f7ac58e0203.png)

# Adobe Firefly Video Model(Adobe：2024/10/14)

https://www.adobe.com/jp/news-room/news/202410/20241014_firefly-videomodel.html



# Haiper-2.0(Haiper：2024/10/21)
1080p、2秒から4秒

https://haiper.ai/blog/haiper-2-0


# Allegro(Rhymes AI：2024/10/22)
オープンソース：
モデルパラメータ数：2.8B
720x1280x88、6 seconds @ 15 FPS

https://huggingface.co/rhymes-ai/Allegro

https://arxiv.org/pdf/2410.15458

論文に性能比較がある。CogVideoXと同程度でKlingやGen-3、Hailuo(MiniMax)には勝ててない。 
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/92346c69-7eb2-e759-de00-2c71ef80ba3e.png)


# Mochi 1(GenmoAI：2024/11/06)
オープンソース：
モデルパラメータ数：10B
480p(720×480)、最大5.4秒間

https://www.genmo.ai/

https://github.com/genmoai/mochi

https://huggingface.co/genmo/mochi-1-preview

https://www.genmo.ai/blog

KlingやDream Machine(Luma)、Gen-3あたりに評価で勝っている。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/996acc26-a3aa-d149-9155-d95600e86031.png)


# LXT-Video(Lightricks：2024/11/24)
オープンソース：
モデルパラメータ数：2B
768x512解像度で121フレーム

https://github.com/Lightricks/LTX-Video

https://huggingface.co/Lightricks/LTX-Video

https://note.com/npaka/n/nf4e589e53206

# Nova Reel(Amazon：2024/12/03)

https://www.itmedia.co.jp/news/articles/2412/04/news098.html

# HunyuanVideo(Tencent：2024/12/03)
オープンソース：
モデルパラメータ数：13B
1280x720解像度で129フレーム

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/6fb5fa23-55b4-fd59-24b4-b6e1876379b9.png)



https://aivideo.hunyuan.tencent.com/


https://huggingface.co/tencent/HunyuanVideo

https://www.arxiv.org/pdf/2412.03603

https://zenn.dev/robustonian/articles/hunyuanvideo_mac

性能比較でGEN-3 alphaやLuma1.6あたりに勝っている。評価方法に自信がないのかCNTopA、CNTopB、CNTopCは匿名モデルとなっているが名前を伏せる意味がよく分からない。「オープンソースではない」とあるためMovie Gen、Kling 1.5、Kling 1.0、Hailuo AI(MiniMax)、Soraあたりなのかと推察する。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/75bd6e6f-1dab-c16c-dc56-b374fc6555d0.png)

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/463aea79-f62b-afb4-5c36-02a007d058e1.png)


# Veo2(Google：2024/12/16)
最大4Kの解像度で数分尺の動画を作成できるという。

https://deepmind.google/technologies/veo/veo-2/

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/1746a230-e622-97e2-7397-91fc7517fe69.png)

性能比較でMovie Gen、Kling 1.5、Hailuo AI(MiniMax)、Sora相手に優位である。
SoraはVeo2に対してMovie Gen、Kling 1.5、Hailuo AI(MiniMax)あたりよりも負けてるが性的な描写やキャラクターの描写に制限が掛かると聞いたことがあるのでその制限でSoraの評価が若干不利なのかもしれない。

# FastHunyuan、FastMochi(Hao AI Lab：2024/12/18)
単なるオープンソースモデルの蒸留モデルなのか。

https://gigazine.net/news/20241218-fastvideo-video-ai-accelerator/

https://github.com/hao-ai-lab/FastVideo

# 動画生成AIのArena-Leaderboard

https://huggingface.co/spaces/ArtificialAnalysis/Video-Generation-Arena-Leaderboard

2024/12/24時点では以下。
Eloレート50差は5%程度しか勝率が変わらないので1050～1100あたりは割と僅差である。
Leaderboardになく他に高性能だと思われるのはMovie Gen(Meta)とVeo2(Google)が挙げられる。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/299928/9bac64ad-82e2-4f86-f5d8-e358d84a35d4.png)

# まとめ
オープンソースであるHunyuanVideoやMochi 1は意外と健闘している。Movie Gen(Meta)も今後公開される可能性はある。
この分野の技術の進歩はこの一年で目まぐるしく、特に中国勢の進捗が大きい。
画像生成AIと動画生成AIの違いは2D-VAEではなく3D-VAEでフレーム方向にも間引きされている点。拡散モデルは2次元のUnetモデルではなく、3次元データを1次元に変換した1次元のTransformerである点。DiTを通った1次元データを再び3次元に戻し、3D-VAEのDecoderで動画に変換する。