【個人開発】音楽生成AIで作った曲から、爆速で歌詞付き動画を作成できるツールを公開しました！

近年、Suno AIやUdio、GoogleのLyriaなどの音楽生成AIのが急速な進化を遂げています。

しかしせっかく作った音楽も、SNSでただ共有するだけではイマイチ魅力が伝わらないことも...

<br>

そこで今回、**生成した音楽から歌詞動画を作成し、音楽の魅力を高めるツール [lyrics-video-creator](https://github.com/Kogia-sima/lyrics-video-creator)** を個人開発しました。

![スクリーンショット 2025-06-21 175654.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/171615/316fea60-80f4-4c89-b791-96a68f1b1e7d.png)

実際に作成された歌詞動画の例が↓こちらです。

<blockquote class="twitter-tweet"><p lang="ja" dir="ltr"><a href="https://twitter.com/hashtag/%E4%BD%9C%E5%93%81%E7%B4%B9%E4%BB%8B?src=hash&amp;ref_src=twsrc%5Etfw">#作品紹介</a><br>52ヘルツの叫び (Silent Scream)<a href="https://t.co/BKrpIgUiHx">https://t.co/BKrpIgUiHx</a><br><br>「誰にも理解されない歌に、意味はあるのだろうか？」<br>世界で一番孤独な旋律が、今、あなたの心に響く。 <a href="https://t.co/vRIrXx2RpS">pic.twitter.com/vRIrXx2RpS</a></p>&mdash; ぷちくじら | AI MUSICクリエイター (@puchikujira9402) <a href="https://twitter.com/puchikujira9402/status/1921146075424956622?ref_src=twsrc%5Etfw">May 10, 2025</a></blockquote> <script async src="https://platform.twitter.com/widgets.js" charset="utf-8"></script>

このツールを使えば、オリジナル楽曲に同期した歌詞動画を作成し、より多くの人に、より魅力的に音楽を届けることができます。

この記事では、「lyrics-video-creator」の概要と仕組みについてご紹介します。

## 1. 概要

### 1.1. 背景

近年、Suno AIやUdioといった音楽生成AIの進化は本当に目覚ましいと感じています。GoogleからもLyriaという新たな音楽生成AIが発表され、誰でも簡単にハイクオリティな楽曲を生み出せる時代が到来しました。しかし、生成した楽曲をSNSなどで共有する際、単に音声ファイルだけでは、他のコンテンツに埋もれてしまいがちです。

そこで重要になるのが、**視覚的なアピール**です。特に、楽曲のメッセージを伝える歌詞は、動画として表示することで、リスナーの楽曲への没入感を高め、共感を呼びやすくなります。しかし、従来の方法で歌詞動画を制作するには、専門的な動画編集ソフトの知識や、字幕を微調整するなどの煩雑な作業が必要でした。

### 1.2. 解決策

今回開発した「lyrics-video-creator」は、この課題を解決するために生まれました。このツールは、**音楽生成AIによって生成された音楽とテキストを準備するだけで、歌詞のタイミング調整、翻訳（オプション）、そして動画生成までを半自動的に行うことができます。**

### 1.3. 効果

「lyrics-video-creator」を導入することで、以下のような効果が期待できます。

* **歌詞動画制作時間の大幅な短縮:** 手作業での編集に比べて、圧倒的な時間効率を実現します。
* **専門知識不要:** 動画編集のスキルがなくても、誰でも簡単に歌詞動画を作成できます。
* **魅力的なコンテンツ発信:** 生成した音楽をより多くの人に届け、エンゲージメントを高めることができます。
* **多言語対応:** 歌詞翻訳機能により、国境を越えてあなたの音楽を届ける手助けをします。

これまで「動画制作はハードルが高い…」と感じていた方も、このツールを使えば、手軽に自分の音楽の価値を高めることができるようになります！

## 2. 歌詞動画の自動生成の仕組み

## 2.1. 全体像

動画作成処理は、Pythonをベースとして、Music AI, 生成AI, FFMpegという3つの外部ツールと連携しています。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/171615/3c9bbaab-05e3-4ee0-96d5-dffb4e7aa3d6.png)

## 2.2. ①歌詞のタイミング調整（アラインメント）

まずは、歌詞の各行が音楽のどのタイミングで表示されるべきかを自動で推定します。

ここでは、主に2つの処理が行われています。

* **ボーカル音声の抽出:** 音楽データからボーカルの音声のみを抽出し、歌詞タイミング推定の精度を向上させます。
* **歌詞タイミング推定:** Lyrics-to-Audioという技術を用いて、各行の歌詞が歌われる正確なタイミングを推定します。

この2つの処理については、Music.ai上にワークフローを作成し、API経由でワークフローを呼び出す形で実装しています。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/171615/660a12ad-060d-42a8-8cef-46ac8a3fb07b.png)

## 2.3. ②歌詞の翻訳

OpenAI APIを利用して、もとと同じ行数になるように歌詞を翻訳します。
歌詞を翻訳することで、国境を越えて音楽を届けることができるだけでなく、動画自体の魅力も高めることが出来ます。
（英語が分からなくても、英語の字幕が付記されていると何故だかカッコイイと感じますよね）

<br>

この部分では、確実に同じ行数が出力されるようにするために、下記のような処理フローを実装しています。

1. プロンプトの中で、翻訳結果が同じ行数になるように指定
2. 翻訳結果が同じ行数でない場合は、Temperatureを上げて再度翻訳

## 2.4. ③歌詞動画の生成

音楽、タイミング調整（および翻訳）済みの歌詞、そして動画の背景として使用したい画像（JPG形式など）を指定して、動画を生成します。

この部分の処理は、 `moviepy`（ffmpegのラッパーライブラリ）を用いて実現しています。

## 3. 今後の展望

「lyrics-video-creator」はまだ生まれたばかりのツールですが、今後さらに使いやすく、高機能にしていきたいと考えています。

* **多彩なアニメーション効果:** 歌詞の表示にフェードイン・アウト以外の様々なアニメーション効果の追加。
* **背景動画のサポート:** 静止画だけでなく、ループ動画などを背景として利用できるようにする機能。
* **AIによる背景自動生成:** 楽曲の雰囲気や歌詞の内容に合わせて、AIが適切な背景画像や動画を生成してくれる機能。

## 4. まとめ

今回は、個人開発した歌詞動画自動生成ツール「lyrics-video-creator」についてご紹介しました。

この記事が、皆さんの音楽ライフを少しでも豊かにするきっかけになれば幸いです。最後までお読みいただき、ありがとうございました！

もしこの記事が少しでも役に立ったと思ったら、ぜひいいねをお願いします！