情報処理学会論文誌

データベースVol.17 No.2 28–39 (Apr. 2024)

ラップバトルにおける逆向き生成によるライムを含む返答バース生成
三林 亮太1,a) 山本 岳洋1,b) 佃 洸摂2,c) 渡邉 研斗2,d)
中野 倫靖2,e) 後藤 真孝2,f) 大島 裕明1,g)
受付日 2023年9月10日, 採録日 2023年12月25日

概要：ラップバトルとは，2 名のラッパーが即興のラップを交互に行う競技である．ラッパーが 1 ターン
内で行う即興のラップをバースと呼び，バースは複数のラップ文で構成される．本論文では，相手のバースに対するライム（韻）とアンサーを同時に考慮した返答のバース生成手法を提案する．提案手法では，生成モデルである BERT2BERT を用いてラップ文を生成し，それらの文を BERT を用いて適切に並べ替えることでバースを構成する．ラップ文を生成する際には，ライムとなる語を文末に含めることが重要である．しかし，文頭から順方向に文を生成する従来の文生成モデルでは，そのような語を文末に含めることが困難である．それに対して提案手法では，文末から逆方向に文を生成することで，文末にライムを含むラップ文を高い確率で生成することを実現した．ラップ文生成モデルを学習するために，我々は 6,791
バースからなる独自のラップバトルコーパスを作成した．そのうちの 100 件のバースに対して，提案手法
および順方向での文生成手法により，返答バースを生成して人手で評価を行い，バースの自然さ，ライムの質，アンサーの質のいずれも提案手法の方が優れていることを示した．
キーワード：ラップバトル，バース生成，BERT2BERT，ライム，アンサー

Response Verse Generation from Reverse Direction
Including Rhymes in Rap Battles
Ryota Mibayashi1,a) Takehiro Yamamoto1,b) Kosetsu Tsukuda2,c) Kento Watanabe2,d)Tomoyasu Nakano2,e) Masataka Goto2,f) Hiroaki Ohshima1,g)
Received: September 10, 2023, Accepted: December 25, 2023

Abstract: Rap battle is a competition in which two rappers improvise rap verses alternately. The rap thatis delivered in one turn is called a verse, and a single verse is generally composed of several rap sentences.
In this paper, we propose a verse generation method that simultaneously considers rhyme and answer in
response to the opponent’s verse. Our approach uses a language generation model BERT2BERT to generate
rap sentences and constructs a verse by appropriately arranging them using a BERT model. When generating
rap sentences, it is important to include words that rhyme with a specific word in the opponent’s verse, but
it is diﬃcult to include such words using a conventional sentence generation model that generates sentences
in a forward direction from the beginning of the sentence. To address this issue, our proposed method trains
the model to generate sentences in a reverse direction from the end of the sentence, which enables the model
to generate rap sentences that highly likely have rhymes at the end. To train the model, we constructed ourown rap battle corpus consisting of 6,791 verses. We generated verses for 100 input verses using both theproposed method and the conventional forward sentence generation method and evaluated them manually.
The results demonstrated that the proposed method outperformed the conventional method in terms of thenaturalness of verse, the quality of rhyme, and the quality of answer.
Keywords: rap battle, verse generation, BERT2BERT, rhyme, answer

c 2024 Information Processing Society of Japan⃝28

情報処理学会論文誌

データベースVol.17 No.2 28–39 (Apr. 2024)

1. はじめに
ラップバトルとは，2 名のラッパーが即興のラップを交互に行う競技である．ラッパーが 1 ターン内で行う即興のラップをバースと呼び，バースは複数のラップ文で構成される．図 1 にラップバトルの例を示す．ラッパー A の「まずはリズムに乗せる小節/俺のライムは特別」というバースに対して，ラッパー B は「一体お前のどこが特別/ラップ上手い順ならお前は後列」というバースを返答する．このようなやりとりを複数回繰り返すことでラップバトルは

図 1 ラップバトルの例

終了する．ラップバトルの勝敗は，観客や審査員による多Fig. 1 An example of a rap battle.

数決の評価によって決められる．ラップバトルでは，バースの質が勝敗の判断基準となる．

テレビ番組がある．日本では，「凱旋 MC battle」や「戦バースの質の判定には，一般的にフロー，ライム，アン

極 MCBATTLE」など，人気のラップバトル大会がある．

サーの 3 つの要素が重要な役割を担う [1]．フローとは，

ラップバトルには，これらのようなプロのラッパーが参加

ラッパーによるラップのリズムやアクセントなどの音声レする大会だけでなく，アマチュアのラッパーが参加する大ベルの表現を指す．一方，ライムとアンサーは，以下のよ会も多い．前述したとおり，ラップバトルでは相手のバー

うにテキストレベルの表現を指す．

スに対して，いかにライムを含んでアンサーをするかが重• ライムとは，同じ母音を持つ単語のペアを指す．たと要である．しかし，即興でそのような質の高いバースを思えば，図 1 のバース 1 の「特別」とバース 2 の「後列」

いつくのは，初心者には難しい．もし，相手のどのようなのペアは，どちらも同じ母音列 “oueu” を持っている

バースに対しても，自動的に質の高いバースを生成してくため，ライムのペアと見なされる．ライムはバース内

れるシステムがあれば，生成されたバースを参考にラップの任意の位置に含むことができるが，バース内のそれ

バトルの練習をすることができるようになる．

ぞれの文末に含めることが一般的である．

本論文では，そのようなシステムの実現に向けた第 1 歩• アンサーとは，相手のバースに関連する返答のことをとして，ラップバトルにおけるライムとアンサーを考慮し指す．たとえば，図 1 のバース 2 の「一体お前のどこた返答バースを生成する手法を提案する．なお，本手法でが特別」は，バース 1 の「俺のライムは特別」と意味

は，テキストレベルの表現であるライムとアンサーに着目的に関連しているため，アンサーが含まれていると見し，音声レベルの表現であるフローは扱わない．

なされる．

提案手法では，生成モデルである BERT2BERT [2] を用

質の高いバースでは，ライムとアンサーの両方が含まれていて複数のラップ文を生成し，それらを BERT を用いており，それがフローで表現されている．さらに，それらラ順番に並べる，という 2 つのステップで返答バースを生

イム，アンサー，フローの質の高さも勝敗の判断に影響す

成する．つまり，ラップ文の生成とラップ文の並べ替えのる．しかし，そのようなバースを即興で考える必要がある

2 つのステップでバースを構築する．1 つ目のステップでラップバトルでは，質の高いバースをつねに返答することは，相手のバース内の文を入力し，ライムを考慮したラッは熟達者であっても難しい課題である．

プ文を生成する．通常，文生成モデルは文頭から順方向に

ラップバトルの大会は多くの国で開催されている．た文を生成する．そのため，文末にライムを生成する場合，

とえば，アメリカでは「True Freestyle Rap Battle」，韓それまでの文脈に沿った単語を生成する必要があり，ライ

国では「UNPRETTY RAPSTAR」というラップバトルのムにできる単語の候補が制限されるという問題がある．詳細については，2 章で後述する．それに対して，本手法で

1

2

a)
b)
c)
d)
e)
f)
g)

兵庫県立大学情報科学研究科
Graduate School of Information Science, University of
Hyogo, Kobe, Hyogo 651–2197, Japan
産業技術総合研究所
National Institute of Advanced Industrial Science and Technology (AIST), Tsukuba, Ibaraki 305–8568, Japanaf22h007@guh.u-hyogo.ac.jp
t.yamamoto@gsis.u-hyogo.ac.jp
k.tsukuda@aist.go.jp
kento.watanabe@aist.go.jp
t.nakano@aist.go.jp
m.goto@aist.go.jp
ohshima@ai.u-hyogo.ac.jp

c 2024 Information Processing Society of Japan⃝は文末から逆方向にラップ文を生成することで，文末にライムを容易に含めることができるようにする．特定のライムを満たす単語は多数存在するが，本手法では意味類似性を考慮したライムも考慮できるように，相手のバースから適切な単語を検索する．2 つ目のステップでは，生成された複数のラップ文に基づいて，それらの連結確率を考慮す
る BERT [3] を学習し，それを用いて順番に並べて適切なバースを構成する．
本研究の貢献を以下に示す．

29

情報処理学会論文誌

データベースVol.17 No.2 28–39 (Apr. 2024)• ラップバトルにおいて，ライムとアンサーを考慮した達成する手法に取り組む．

返答バースの生成手法を提案した．

• 提案手法のモデルを学習するために，6,791 バースからなるラップバトルのコーパスを作成した．

2.3 ラップ生成
ラップの歌詞生成を目的とした研究では，生成された歌• 評価実験を行い，逆方向にラップ文を生成する提案手

詞内の単語を置き換えることでライムを考慮する方法 [12]法の方が，バースの自然さ，ライムの質，アンサーのや，ライムを含む歌詞データを学習して，ライムを含んだ質のいずれにおいても，順方向にラップ文を生成する

歌詞を生成する方法が提案されている [13], [14], [15], [16]．

手法を上回ることを示した．
本論文は，国際会議に採択された我々の英語論文 [4] に評価実験を追加し，日本語で記述したものである．

2. 関連研究2.1 テキスト生成
近年のテキスト生成手法は，ディープラーニングを用いた

Rapformer [12] では，Transformer [8] を用いてラップ文を生成し，生成された文末の単語を，母音が似ている他の単語に置き換えることでライムを考慮している．しかし，この置換方法では，置換する文末の単語はすでに生成された文の文脈に合った単語でなければならず，選択する単語が制限される．
歌詞内のライムを学習するラップ生成手法にも同じく制手法が一般的である．たとえば，初期の段階では，RNN [5]限がある [13], [14], [15]．Potash ら [13] は LSTM モデルをや LSTM [6] などの自己回帰構造を用いた seq2seq [7] モデ

使って既存のラップ歌詞データから新しいラップ歌詞を生ルが採用されていた．seq2seq モデルは，テキスト情報を成する GhostWriter という手法を提案した．Malmi ら [14]集約する Encoder と，集約された情報からテキストを生成が提案した DopeLearning は，生成されたラップ文と直前する Decoder を持ち，Encoder-Decoder モデルとも呼ばれのラップ文の類似度を比較することで，最適なラップ文をる．その後，テキスト情報を効果的に選択する Attention

選択する手法である．Manjavacas ら [15] も同様に LSTMと呼ばれる機構が提案された．さらに最近では，Attentionを用いてラップの歌詞を生成する手法を提案している．こを利用した Transformer [8] が提案されている．

れらの手法では，歌詞データを基にライムを文中に生成す

BERT [3] と GPT-2 [9] は Transformer の構造を利用したるようにモデルを学習している．モデルは，文頭の単語か

代表的なモデルである．BERT [3] はテキストの特徴抽出

ら文末の単語まで順方向に単語を生成し，ライムはいずれ器であり，Transformer を多層化した Encoder のみのモデかの位置に生成される．しかし，生成するライムは，前のルである．テキストの情報を双方向から考慮するため，テ

単語と文脈に合った単語でなければならず，生成する単語

キストの文脈を考慮することができる．GPT-2 [9] は，テの候補は制限される．また，これらの手法はライムが生成

キスト生成タスクでよく使われる Decoder のみのモデルでされる割合を向上させる制約を考慮しているが，ライムをある．BERT とは異なり，GPT-2 は単方向のテキスト情必ず生成するという制約は考慮していない．

報のみを考慮する．これらのモデルは一般的に，大規模な一方，Xue ら [16] は，Transformer-Decoder を用いて拍コーパスで事前学習して，汎用的な言語知識を獲得した後を考慮しながらラップを生成する DeepRapper という手法に使用される．事前学習モデルを特定のタスク用にファイを提案している．DeepRapper はバースを文末から逆方向

ンチューニングすることで，そのタスクに特化したモデルに生成するモデルを学習している点では，本研究の提案手法を学習することができる．

と似ている．しかし，DeepRapper を始めとした多くの既BERT2BERT [2] は，BERT の事前学習されたパラメー

存手法はバースのみを生成する Transformer-Decoder を学

タを Transformer の Encoder と Decoder の初期パラメー

習しているため，ラップバトルに対応することができない．

タとする生成モデルである．BERT [3] で得られた事前学

それに対して我々の提案手法は，ラップバトルを前提に入力

習重みを利用することが，生成タスクにおいて有効である

文からアンサーを生成する Transformer-Encoder-Decoder

ことが示されていることから，本研究では BERT2BERTを学習している点が異なる．また，DeepRapper では複数をラップ文生成に利用する．

文で構成されるバースを一度に生成するのに対して，我々の提案手法は入力文に対してライムを考慮したラップを 1

2.2 指定語句を含む文生成

文ずつ独立に生成した後に，生成された複数文を並べ替え

Yamada ら [10], [11] は，指定語句を中心に文を双方向ることで 1 つのバースを構成する．学習データが限られてに生成し，双方向に生成した文を結合することで，指定語いる場合，バース数よりもそれを構成する文数の方が多い

句を含む文を生成する手法を提案している．我々の研究でため，バース単位より文単位の方が学習をしやすい．

は，ラップバトルにおいて基本的な技法である，文末にララップバトルに焦点を当てた，ラップの生成に関すイムを含むことを目標としているため，双方向ではなく，る研究はいくつかある．Wu ら [17] は RNN の一種であ

文末のライムから逆方向への生成のみを行うことで目標をる，TRAAM（Transduction Recursive Auto-Associativec 2024 Information Processing Society of Japan⃝30

情報処理学会論文誌

データベースVol.17 No.2 28–39 (Apr. 2024)

表 1 提案手法と関連研究の違い

Table 1 Diﬀerences between the proposed method and related research.

Rapformer [12]GhostWriter [13]DopeLearning [14]Manjavacas et al. [15]DeepRapper [16]Wu et al. [17]Shimon [18]Ours

ライムを含むか√ラップバトルに向けたバース生成であるか

ラップバトルのデータを使用しているか

-

-

-

-

-

-

-

-

√

√

-

√

√

√

√

√
√
√
√

図 2

√

提案手法の全体図

Fig. 2 Overview of the proposed method.

Memory）と呼ばれるモデル構造を用いて，ラップバトル

研究は，文末にライムである任意の単語から逆方向にラッ用のチャットボットシステムを開発した．このシステムはプ文を生成するため，任意のライムを含んだ返答バース与えられたラップ文一文に対して，返答となるラップ文一を生成できる点が特徴である．また，本研究では，日本語文を生成することができる．Savery ら [18] によって提案

ラップバトルに特化したコーパスを独自に作成し，ラップされた Shimon は，既存のラップ歌詞データを LSTM で学

文生成モデルの学習に用いている．

習して，ラップ文を生成する．さらに，生成されたラップ
文を，ラップ文内のライムを基に並べ替えて歌詞を構築す

3. ラップバトルにおける返答バース生成手法

る．これらの研究では，独自のヒップホップ歌詞コーパス

ラップバトルにおける返答バース生成手法の概要を図 2に基づく学習と生成が対象であり，ラップバトルのコーパに示す．本手法では，一般的にラッパーが返答バースを生スからモデルを学習することを対象としてない．つまり，成する以下のプロセスを参考にする．まず，相手のバース

仮にラップバトルに関するコーパスがあっても，それを活からライムの対象となる単語を決める．その際，相手の用できる手法ではない．ラップバトルは対話の競技である

バースに対するアンサーとなる単語を選ぶことが重要であため，相手の発言に対する返答の対話関係や，歌詞には出る．そして，そのような単語に対してライムとなる単語を現しにくい，話し言葉の表現などをコーパスから学習する含むバースを生成する．

必要がある．
表 1 は上で紹介した研究をまとめたものである．我々のc 2024 Information Processing Society of Japan⃝

以上のプロセスにならい，本手法では，まず相手のバー
ス内のライムの対象となる単語に対して，ライムの候補

31

情報処理学会論文誌

データベースVol.17 No.2 28–39 (Apr. 2024)を見つける．そして，その中から意味的に関連するライム

表 2 ラップバトルコーパスの統計量の集合を検索する（3.2 節）．次に，得られた各ライムを用

Table 2 Statistics of the rap battle corpus.

いてラップ文を生成し，ラップ文の集合を得る（3.3 節）．

ラップバトルの総数

1,287

最後に，ラップのバースを構成するために，生成されたバースの総数

6,791

ラップ文を適切に並べ替える [14]．ラップ文の並べ替えでバース内の文の総数

52,422は，BERT を用いた隣接文予測により，バースを構築する（3.4 節）．

3.1 ラップバトルに関するコーパス作成

1 バースあたりの文の平均7.71

1 文あたりのトークン数の平均

15.40

3.1.2 ラップ文ペアデータ
ラップ文生成モデルを学習するには，ラップ文のペアが3.1.1 ラップバトルコーパス
本研究では，ラップバトルにおける返答バース生成のた必要である．そこで，1 つのバースの中の連続する 2 つのめに，独自のラップバトルコーパスを自作した．ラップバ

文を取り出し，ラップ文のペアを作成した．1 つのバース

トルコーパスは，クラウドソーシングサービス Lancers *1 をが 3 つの文で構成されている場合，2 つのラップ文のペア利用して，日本語のラップバトル動画を文字起こしして作が作成される．つまり，1 つ目と 2 つ目の文のペア，2 つ成した．文字起こしの対象とするラップバトルの動画は，

目と 3 つ目の文のペアが作成される．コーパスに含まれるチャンネル登録者数が 10 万人以上の YouTube のチャンネ

6,791 のバースから，合計 22,125 のラップ文のペアを作成

ルである以下の 3 つを選択した．

した．今後，このペアデータを「ラップ文ペアデータ」と• UMB *2

呼ぶ．

• 凱旋 MC battle *3• 戦極 MCBATTLE *4

3.2 ライム選択

Lancers で採用したワーカーは日本語を母国語とする者を提案手法では相手のバースを基に，ライムとして使用す対象とし，ラップバトルに精通しているかは問わなかった．

る単語を選択する．このプロセスは以下の 3 つのステップ

ワーカーは，我々が作成した文字起こし作業用のウェブからなる．

ページにアクセスし，指定されたラップバトル動画の文字

まず，相手のバースからライムの対象となる単語を抽出

起こしを行った．具体的には，ラップ動画を別ウィンドウする．ラップバトルでラッパーがアンサーを考慮する方法

で再生しながら，そのラップ文を作業用ウェブページに用の一種として，相手のバース内の単語をそのまま使用する意されたテキストボックスに入力する．文字起こしの対象

テクニックがある．相手のバースは事前に知ることができは動画内にあるラップバトルのすべてのバースである．広

ないため，相手のバース内の単語をライムとしてバースに告などのラップバトル以外の部分は文字起こしの対象外と含んだ場合，即興で相手への発言に対して返答したと見なした．合計 194 人のワーカーによって 691 件のラップバトせる．さらに，相手のバース内の最後の単語をライムとしルを文字起こしした．文字起こし結果には質が低いものもて使用する場合，より高い即興性が要求されるため，高く部分的に含まれていたが，それについては著者が修正した．

評価される．そこで本研究では，相手のバースを形態素に

また，コーパスのサイズを拡大するために，以下の番組

分割し，バースの最後の名詞をライム対象の単語として抽で放送されたラップバトル 596 件についても，大学生 1 名出する．
次に，ライム対象の単語と同じ母音を持つ単語を，ライが文字起こしを行った．

• BAZOOKA!!! 高校生 RAP 選手権

ムの候補として検索する．検索には AWD-J core 辞書*6 に• フリースタイルダンジョン

登録されている単語を使用する．AWD-J core 辞書は，日コーパスの統計は表 2 のとおりである．ラップバトルの常で良く使用される単語を 15,220 件収録した辞書である．

総数は 1,287 件で，それらに含まれるバースの総数は 6,791

ラップバトルは話し言葉で構成される傾向があるため，日件であった．ここでトークンとは，東北大学乾研が提供す

常的によく使用される語をライムの検索対象とした．辞書

る BERT モデルのトークナイザ*5 で分割したサブワードをに登録されている単語はあらかじめ母音列に変換しており，指す．動画内のラップはすべて日本語である．

対象となる単語と同じ母音列を持つ単語が検索される．検索制約を緩和するために，ライム対象の単語は末尾から 4

*1
*2
*3
*4
*5

https://www.lancers.jp/
https://www.youtube.com/user/umboﬃcial
https://www.youtube.com/channel/UCe
EvY8GrvYgx8PbwRBc75g
https://www.youtube.com/user/senritumc
https://huggingface.co/cl-tohoku/bert-base-japanesewhole-word-maskingc 2024 Information Processing Society of Japan⃝

つ目の母音まで上限として考慮して，それらが一致する単語のみを検索した．ライム対象の単語の母音数が 4 未満の場合は，その数と同じ母音を末尾に持つ単語が検索される．
最後に，検索された単語の中から，ライム対象の単語と*6

https://sociocom.naist.jp/awd-j/

32

情報処理学会論文誌

データベースVol.17 No.2 28–39 (Apr. 2024)

そして，学習したモデルを用いて，選択した単語を開始
トークンとしてラップ文を生成する（図 3 (c)）．
ラ ッ プ 文 生 成 に は ，BERT2BERT [2] を 用 い た ．

BERT2BERT は Transformer の Encoder と Decoder に
BERT [3] の事前学習済みパラメータを読み込ませた生成モデルである．本研究では，東北大学から公開されている事前学習済み BERT *8 のパラメータを，BERT2BERTの Encoder と Decoder のパラメータの初期値とする．

BERT2BERT をファインチューニングするために，3.1 節で作成したラップ文ペアデータを用いた．まず，図 3 (b)に示すように，事前学習モデルに対応したトークナイザ
を用いて，ペアの各文をトークンに分割する．次に，ペアの最初の文を Encoder の入力文として使用し，2 番目の文
はトークンを逆順に並べてから，Decoder の出力文として使用する．これにより，モデルは文を逆方向に生成することができる．Encoder と Decoder の学習には，以下のハイ
パーパラメータを使用した．

• Batch size：32• Optimizer：Adam [19]• ロス関数：Cross Entropy Loss
• 学習率：2e-7
図 3

順方向の生成と逆方向の生成の違い

Fig. 3 Diﬀerences between forward generation and reverse generation.

• Dropout：0.1• 最大文長（最大トークン数）：128• Early stopping：10 patience
モデルを学習するために，ラップ文のペアデータを 8 : 1 : 1

意味的に関連する単語を選択する．バース内に含むライムの割合で訓練データ，検証データ，テストデータに分割しは，ただ母音列が一致するだけでなく，単語間に意味的なた．学習は 224 エポックで終了した．

類似があると評価が高い．そこで本研究では，ライムに意

最後に，学習したモデルを用いて，相手のバースの最後

味類似性を考慮した．意味類似性の計算には，事前学習さの文を Encoder に入力し，3.2 節で選択されたライム対象

れた fastText *7 の日本語の単語埋め込みを用い，ライム対の単語 1 つを Decoder の初期トークンとして指定し，トー

象の単語とのコサイン類似度が高い順に上位 7 単語を選

クン列を生成する．生成されたトークン列を反転して連結択する．さらに，生成されたラップ文のいずれかが相手のすることで，選択された 8 つのライム対象の単語ごとにバースに対するアンサーとなるように，ライム対象の単語

ラップ文が生成される．生成に使用したパラメータは以下も追加し，合計 8 単語をライムとして使用する単語としてのとおりである．

選択する．

• 最大文長（最大トークン数）：30• Top-k：10

3.3 ラップ文生成
ライムとして使用する単語を 8 単語選択後，次はそれぞ• Top-p：0.95• No-repeat-n-gram-size：2れの単語を含むラップ文を生成する．一般に，Decoder を用いて文を生成する場合，文の先頭から末尾にかけて単語

3.4 バースを考慮したラップ文の並べ替えが出力される（図 3 (a)）．このようなモデルでは，任意の3.3 節では，8 つのラップ文が独立に生成されるため，そ単語で終わるような文を生成することは困難である．そこ

れらを適切な順番に並べてバースを構成する必要がある．

で，本研究では，Yamada ら [10], [11] と Xue ら [16] の手

そのために，与えられた 2 つのラップ文が，バースの文脈法を参考に，文の末尾から先頭にかけて，逆向きに単語を上連続した文として適切かどうかを予測する隣接文予測

出力して文を生成する．つまり我々の手法では，まず逆向タスクを，BERT モデルで学習する（図 4）．正例として

きの文を用いてラップ文生成モデルを学習する（図 3 (b)）．

ラップ文ペアデータの文ペアを使用し，負例はラップ文ペ*7*8

https://dl.fbaipublicfiles.com/fasttext/vectorscrawl/cc.ja.300.vec.gz

c 2024 Information Processing Society of Japan⃝

https://huggingface.co/cl-tohoku/bert-base-japanesewhole-word-masking

33情報処理学会論文誌

データベースVol.17 No.2 28–39 (Apr. 2024)

図 4

隣接文予測タスクの概要

Fig. 4 Overview of the next sentence prediction task.

アデータの各文ペアの 2 番目の文を，ランダムに選んだ別スと比較手法で生成した返答バースを比較した．

のペアの第 2 文に置き換えることで作成した．学習データ
として 10,748 組のペア（5,374 組の正例と 5,374 組の負例）

4.1 順方向の生成と逆方向の生成の比較を作成し，8 : 1 : 1 の割合で訓練データ，検証データ，テス

4.1.1 定量評価

トデータに分割した．隣接文予測にも，東北大学が公開し文末から逆方向に文を生成することの有用性を検証すている日本語学習済み BERT モデル *9 を使用した．学習るために，文頭から順方向に文を生成する方法との比較

時のハイパーパラメータは以下のとおりである．

を行った．比較手法のファインチューニング方法は，文の• Batch size：8

生成方向以外，3.3 節と同様の方法を用いた．すなわち，• Optimizer：Adam [19]3.3 節と同様の方法を用いて文を順方向に生成するモデル• ロス関数：Cross Entropy Loss

を学習し（図 3 (a)），隣接文予測モデルにより文を並べ替• 学習率：2e-7

えた．ただし，モデルの構造上，明示的なライムの生成は• Dropout：0.1

指定できない．ハイパーパラメータも同様とした．

• 最大文長（最大トークン数）：128• Early stopping：5 patience

返答バース生成のために，ラップバトルコーパスに含まれる 1,287 件のラップバトルの中からランダムに 100 件を

学習は 30 エポックで終了し，テストデータでの正解率は選択し，各ラップバトルの最後の文を入力文とした．これ

0.60 であった．

ら 1,287 件のすべてが学習に使用されたが，各ラップバト

学習した BERT モデルを使用して，ラップ文を並べ替

ルの最後の文は，それに続く文が存在していないため，学えることでバースを構築する．本手法では，まず，相手の習中に入力文として使用されていない未知のデータであバースの最後に使われている単語を含むラップ文を，返答る．そして，各入力文に対して，提案方法と比較手法を用

バースの最初の文として選択する．次に，学習済み BERT

いて 1 つのバースを生成した．結果として，入力文 100 件を使用して，残りの 7 文の中から，適切である確率が最もに対して合計 200 件のバースが生成された．評価は，バー

高い文を，バースの第 2 文として選択する．この選択プロスの自然さ，ライムの質，アンサーの質の 3 項目について，

セスを繰り返し，最も適切な残りの文を n 番目の文の次のラップバトル観戦歴 5 年以上の評価者 2 名による 7 段階評

n + 1 番目の文として選択する（2 ≤ n ≤ 7）．結果として，価（1：非常に悪い〜7：非常に良い）を行った．

8 つの文からなる返答バースが構成される．

4. 評価
提案手法の有用性を示すために定量評価と定性評価を

評価尺度はそれぞれが独立した評価となるように設計した．つまり，バースの自然さ，ライムの質，アンサーの質のそれぞれは，自身以外の 2 つの尺度から影響を極力受けないよう，以下のような教示により評価してもらった．

行った．定量評価では，バースの自然さ，ライムの質，ア• バースの自然さは，バース内のラップ文の順番の自然

ンサーの質の 3 つの観点から評価を行った．定性評価でさとラップ文の自然さ（文として破綻していないか）

は，ケーススタディとして，提案手法で生成した返答バーに基づいて評価する．

*9

https://huggingface.co/cl-tohoku/bert-base-japanesewhole-word-maskingc 2024 Information Processing Society of Japan⃝• ライムの質は，バース中にライムが含まれているか，

34情報処理学会論文誌

データベースVol.17 No.2 28–39 (Apr. 2024)

図 5 提案手法（逆方向の生成）と比較手法（順方向の生成）における 3 つの評価尺度のスコア
分布．横軸は 7 段階の評価スコアであり，縦軸は 2 名の評価者による評価の総数である

Fig. 5 Score distribution for three evaluation metrics in the proposed method (reverse
generation) and comparison method (forward generation). The horizontal axis
represents a 7-point evaluation score, and the vertical axis represents the total
number of evaluations by two evaluators.
表 3 提案手法（逆方向の生成）と比較手法（順方向の生成）における 3 つの評価尺度の平均スコア

逆方向に文を生成することは有効であることが示された．

4.1.2 定性評価

Table 3 Average scores for three evaluation metrics in the proposed method (reverse generation) and comparison
method (forward generation).

図 6 の上段と下段はそれぞれ提案手法と比較手法によって生成された返答バースの例である．上段の例では，相手のバースの中でライムに使用すべき単語の母音が赤色で強手法
順方向の生成バースの自然さ

ライムの質

アンサーの質

2.56

1.77

2.48

3.20

3.58

2.92

（比較手法）
逆方向の生成（提案手法）

調されている．提案手法では，返答バースの各文が “iou”の母音を持つ単語で終わるようにすることで，ライムを考慮する．提案手法は，各文にライムを考慮するという制約を課しているにもかかわらず，意味のある文を生成することができ，返答バースとして適している．対照的に，比較ライムに意味類似性があるかを評価する．

• アンサーの質は，相手のバースに対して返答となっているかを評価する．

手法の返答バースの文はどれも “iou” の母音を持つ単語で終わっていない．これらの結果からも，逆方向に学習して文を生成することの有用性が示された．

表 3 に，提案手法（逆方向の生成）と比較手法（順方向の生成）の 3 つの評価尺度の平均スコアを示す．表に示す

4.2 バース単位での生成手法との比較

ように，提案手法はすべての評価尺度において比較手法を

関連研究である DeepRapper [16] は，提案手法と同様に上回った．手法間の結果の違いをより詳細に分析するためラップの歌詞データを逆方向に生成するモデルを学習すに，3 つの評価尺度のスコア分布を図 5 に示す．表 3 にることで，文末にライムを含んだラップを生成している

おいて，提案手法が比較手法をライムの質で大きく上回っ

が，一方で，複数文で構成されたバース全体を生成単位とたように，図 5 において，提案手法はライムの質のスコしている点が提案手法と異なる．そのため，比較手法としアが 4 以上のバースを多く生成し，比較手法はライムの質て DeepRapper にならい，本研究では「バース単位でラッのスコアが 4 以上のバースをほとんど生成できなかった．

プを生成する手法」を用意した．具体的には，バース単位

これは順方向での生成において，ライムが生成されることでの生成モデルの学習方法は，3.3 節にて説明した提案手が少なかったことなどが原因で，質の低下につながった可法のモデルの学習に準じているが，生成単位が文ではなく能性がある．また，提案手法と比較手法では，ライムの生

バースとなっている点が異なる．ただし，DeepRapper の成方向以外は同じであるため，表 3 のライムの質よりも，実装に従い，文内の単語の生成順序は逆であるが，バース

バースの自然さやアンサーの質の方が点数差が小さい．し内の文の生成順序は元の順序とした．そのため，最初に生かし，図 5 に示すように，比較手法では，「バースの自然

成する 1 文目の末尾にはライムを指定できるが，それ以降

さ」と「アンサーの質」において，スコア 2 のバースが多くは文末にライムを指定することができない．また，学習時生成されたのに対し，提案手法ではスコア 2 のバースが少には，各バースの最後の文を入力文と見なして，その次のなく，提案手法は低品質なバースが生成されにくいというバース全体を正解データとして学習した．学習に用いたハ利点があることが示された．これらの結果から，文末からイパーパラメータは以下のとおりである．

c 2024 Information Processing Society of Japan⃝35

情報処理学会論文誌

データベースVol.17 No.2 28–39 (Apr. 2024)

図 6 提案手法（逆方向の生成）と比較手法（順方向の生成）によって生成された返答バースの例

Fig. 6 Examples of response verses generated by the proposed method (reverse generation) and comparison method (forward generation).
表 4 提案手法（文単位での生成）と比較手法（バース単位での生成）とテストデータ（ラップバトルコーパス）における 3 つの評価尺度の平均スコア

Table 4 Average scores for three evaluation metrics in the proposed method (sentencelevel generation), comparison method (verse-level generation) and test data
(rap battle corpus).
手法
文単位での生成

バースの自然さ

ライムの質

アンサーの質

4.59

4.81

3.58

2.50

1.70

1.65

バースの自然さ

ライムの質

アンサーの質

5.70

4.57

4.74

（提案手法）
バース単位での生成（比較手法）

参考
テストデータ †（ラップバトルコーパス）†

ラッパーによる実際のバース• Batch size：8の学習データとして，残りの 100 件の中からランダムに 50• Optimizer：Adam [19]

件を選んで，テストデータとして使用した．各テストデー• ロス関数：Cross Entropy Loss

タを入力して生成した結果の評価は，バースの自然さ，ラ• 学習率：2e-7

イムの質，アンサーの質の 3 項目について，4.1.1 項とは異• Dropout：0.1

なる評価者 2 名による 7 段階評価（1：非常に悪い〜7：非• 最大文長（最大トークン数）：512

常に良い）を行った．評価者は，各テストデータに対して• Early stopping：10 patience

提案手法あるいは比較手法が生成した結果のバースのテキ

モデルの学習は 458 エポックで終了した．バースの生成にストを見て評価した．さらに，参考のために，ラッパーに使用したパラメータは以下のとおりである．

よる実際のバースがどれぐらい高く評価されるのかを調べ• 最大文長（最大トークン数）：512

る目的で，生成結果ではなく入力側のテストデータ 50 件

• Top-k：10

に対しても，それぞれの 2 番目のバースを抜粋して，同様• Top-p：0.95の 7 段階評価を行った．

• No-repeat-n-gram-size：2

4.2.1 評価結果

本比較実験においては，実験条件を揃えるために提案手

表 4 に，提案手法による文単位での生成と，比較手法

法を学習し直すこととし，ラップバトルコーパスに含まれによるバース単位での生成，テストデータの 3 種類のバー

る 1,287 件のバトルのうち，1,187 件を提案手法と比較手法

スに対する 3 つの評価尺度の平均スコアを示す．その結c 2024 Information Processing Society of Japan⃝36

情報処理学会論文誌

データベースVol.17 No.2 28–39 (Apr. 2024)

図 7 提案手法（文単位での生成）と比較手法（バース単位での生成）によって生成された返答
バースの例

Fig. 7 Examples of response verses generated by the proposed method (sentence-level
generation) and comparison method (verse-level generation).

果，提案手法による文単位での生成ではバースの自然さ

は，人間が歌ったラップバトルコーパスよりも提案手法のが 4.59，ライムの質が 4.81，アンサーの質が 3.58 となり，方が上回っており，これは自明ではない結果で興味深い．

バース単位での生成でのバースの自然さが 2.50，ライムのまた，このように提案手法で各文末にライムが含まれてい質が 1.70，アンサーの質が 1.65 よりも，大きく上回ってるときに，比較手法より「アンサーの質」でスコアが 1.93

いた．ラップバトルコーパスのテストデータの評価では，高くなっている．前述の表 3 の結果でも，比較手法の「順バースの自然さが 5.70，ライムの質が 4.57，アンサーの質

方向の生成」より，各文末にライムが含まれる提案手法のが 4.74 と想定どおり全体的に高かった．

「逆方向の生成」の方が「アンサーの質」でスコアが 0.46

比較手法によるバース単位での生成手法のスコアが低い
原因を調査するために，提案手法と比較手法のそれぞれの生成結果を図 7 に示す．この図から分かるように，比較手高くなっており，その観点でも提案手法の有用性が分かる．

4.2.2 Shimon [18] との比較提案したラップ文の並べ替え手法の有用性を評価するた法が生成したバースの文長が長いだけでなく，バースの内

めに，関連する Shimon [18] の並べ替え手法と比較した．

容も意味不明な語や破綻した文が含まれているため，「バー

Shimon の並べ替え手法では，歌詞内のライムに着目した

スの自然さ」や「アンサーの質」が低くなったと考えられ並べ替えを行っており，まず，ラップ文 1 文内で，最もラる．これは同じラップバトルコーパスを学習データとしてイムを含んでいる文を最初の文として選択する．次に，残いるが，提案手法は文単位の生成であるため，52,422 文をりの 7 文の中から，最初の文に対して，最もライムを含ん学習できたのに対して，比較手法ではバース単位の生成ででいる文を 2 文目の候補として選択する．この選択プロセあるため，6,791 バースと少ないデータで学習する必要がスを繰り返し，最もライムを含んでいる残りの文を n 番目

あった．そのため，自然なバースを生成できなかったと考の文の次の n + 1 番目の文として選択する（2 ≤ n ≤ 7）
．

えられる．

この比較実験では，4.2 節で 7 段階評価をしたデータの「ライムの質」に関しては，バース単位の生成手法では，中から，以下の 2 種類を再利用して，並べ替えの対象デー

入力バースの最後の文末「ピータン」に対して，生成されタとした．

たバースの最初の文末では「ピーマン」とライムを考慮し• 提案手法で生成したバースているが，それ以外の文末ではライムを考慮できていな• ラップバトルコーパス内のバース

い．これは，バース単位の生成手法では，逆方向での生成

まず，提案手法で生成したラップ文を，提案手法と Shimon

でバースの最初のライムは考慮できても，バース内の単語の手法のそれぞれで並べ替えて比較する．ただし，生成しのライムを考慮できないのに対し，提案手法は文単位でのたラップ文の集合に文脈的なつながりがない可能性もある生成でバース内のすべての文末にライムを含むことができため，文脈的なつながりがある，ラップバトルコーパスのているからである．そのため，表 4 で「ライムの質」だけ

バースも並べ替えて比較する．

c 2024 Information Processing Society of Japan⃝37

情報処理学会論文誌

表 5

データベースVol.17 No.2 28–39 (Apr. 2024)

バースの並べ替えによるバースの自然さの平均スコア

Table 5 Average scores for the naturalness of verses throughverse reordering.
手法

ラップバトルコーパス

提案手法で生成したバース

提案手法

4.18

3.14

Shimon [18]

3.48

2.75

[5]

[6]

本比較では，バースの並び順が重要であるため，「バースの自然さ」のみを 7 段階評価した．その結果を表 5 に示

[7]す．この結果から，提案手法で生成したバースとラップバ
トルコーパスのいずれにおいても，提案手法の並べ替え手法の方が優れていることが分かった．これは，Shimon [18][8]の並べ替え手法ではライムのみに着目して文の意味を考慮できていないのに対し，提案手法ではラップバトルコーパ
スで学習した BERT で意味を考慮しながら並べ替えができているためだと考えられる．

5. まとめ[9][10]

本論文では，ラップバトルにおける，ライムとアンサーを考慮した返答バース生成手法を提案し，その有用性を検[11]証した．今回は日本語のラップバトルコーパスを用いたが，提案手法自体は言語に依存しないため，今後は英語な
どの他の言語においても有用性を検証したい．また，返答
バースをより柔軟に構築するために，手法を拡張する予定[12]である．特に，日本語ラップ [20] では，ライムの母音の類
似性だけではなく，子音の類似性 [21] も考慮することが望ましいため，今後の課題として取り組む予定である．最後[13]に，1 章で述べたように，本研究はラップバトルに馴染みのない人のラップ練習を支援することを目的としている．
そのため，提案手法を搭載したラップバトル対話システムを開発し，学習支援における有用性を検証したい．

[14]

謝辞 本研究は JSPS 科研費 JP21H03775，JP21H03774，

JP21H03554，JP22H03905 の助成を受けたものです．ここに記して謝意を表します．

[15]

参考文献
[1]

[2]

[3]

[4]

Venla, S.: Interactive oral composition: Resources,
strategies, and the construction of improvised utterances
in a Finnish freestyle rap battle, The Journal of American Folklore, Vol.132, No.523, pp.3–35 (2019).
Sascha, R., Shashi, N. and Aliaksei, S.: Leveraging pretrained checkpoints for sequence generation tasks, The
Journal of Transactions of the Association for Computational Linguistics, Vol.8, No.1, pp.264–280 (2020).
Devlin, J., Chang, M., Lee, K. and Toutanova, K.:
BERT: Pre-training of deep bidirectional transformers
for language understanding, Proc. 2019 Conference of
the North American Chapter of the Association for
Computational Linguistics, NAACL 2019, pp.4171–
4186 (2019).
Mibayashi, R., Yamamoto, T., Tsukuda, K., Watanabe,K., Nakano, T., Goto, M. and Ohshima, H.: Verse gen-c 2024 Information Processing Society of Japan
⃝

[16]

[17]

[18]

eration by reverse generation considering rhyme and answer in Japanese rap battles, Proc. 16th International
Symposium on Computer Music Multidisciplinary Research, CMMR 2023, pp.30–41 (2023).
Rumelhart, D., Hinton, G. and Williams, R.: Learninginternal representations by error propagation, Technical
Report, University of California, San Diego (1985).
Gers, F., Schmidhuber, J. and Cummins, F.: Learning
to forget: Continual prediction with LSTM, The Journal of Neural Computation, Vol.12, No.10, pp.2451–2471(2000).
Sutskever, I., Vinyals, O. and Le, Q.: Sequence to sequence learning with neural networks, Proc. 27th International Conference on Neural Information Processing
Systems, NIPS 2014, pp.3104–3112 (2014).
Vaswani, A., Shazeer, N., Parmar, N., Uszkoreit, J.,
Jones, L., Gomez, A.N., Kaiser, U. and Polosukhin,
I.: Attention is all you need. Proc. 31st International
Conference on Neural Information Processing Systems,
NIPS 2017, pp.6000–6010 (2017).
Radford, A., Wu, J., Child, R., Luan, D., Amodei, D.
and Sutskever, I.: Language models are unsupervised
multitask learners, Technical Report, OpenAI (2019).
山田康輔，人見雄太，田森秀明，岡崎直観，乾健太郎：指定語句を確実に含む見出し生成，言語処理学会第 27 回年次大会，言語処理学会 2021，pp.1070–1074 (2021).
Yamada, K., Hitomi, Y., Tamori, H., Sasano, R.,
Okazaki, N., Inui, K. and Takeda, K.: Transformerbased lexically constrained headline generation, Proc.
2021 Conference on Empirical Methods in Natural Language Processing, EMNLP 2021, pp.4085–4090 (2021).
Mikolov, T., Sutskever, I., Chen, K., Corrado, G. andDean, J.: Distributed representations of words andphrases and their compositionality, Proc. 26th International Conference on Neural Information Processing
Systems, NIPS 2013, pp.1–9 (2013).
Potash, P., Romanov, A. and Rumshisky, A.: GhostWriter: Using an LSTM for automatic rap lyric generation, Proc. 2015 Conference on Empirical Methods in
Natural Language Processing, EMNLP 2015, pp.1919–
1924 (2015).
Malmi, E., Takala, P., Toivonen, H., Raiko, T. andGionis, A.: DopeLearning: A computational approach to
rap lyrics generation, Proc. 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data
Mining, SIGKDD 2016, pp.195–204 (2016).
Manjavacas, E., Kestemont, M. and Karsdorp, F.: Generation of hip-hop lyrics with hierarchical modeling andconditional templates, Proc. 12th International Conference on Natural Language Generation, INLG 2019,
pp.301–310 (2019).
Xue, L., Song, K., Wu, D., Tan, X., Zhang, N., Qin, T.,
Zhang, W. and Liu, T.: DeepRapper: Neural rap generation with rhyme and rhythm modeling, Proc. 59th
Annual Meeting of the Association for Computational
Linguistics and the 11th International Joint Conference
on Natural Language Processing, ACL 2021, pp.69–81(2021).
Wu, D. and Addanki, K.: Learning to rap battle withbilingual recursive neural networks, Proc. 24th International Joint Conference on Artificial Intelligence,
IJCAI 2015, pp.2524–2530 (2015).
Savery, R., Zahray, L. and Weinberg, G.: Shimon therapper: A real-time system for human-robot interactive rap battles, Proc. 11th International Conference38情報処理学会論文誌

[19]

[20]

[21]

データベースVol.17 No.2 28–39 (Apr. 2024)

on Computational Creativity, ICCC 2020, pp.212–219(2020).
Kingma, D. and Ba, J.: Adam: A method for stochastic optimization, Proc. 3rd International Conference on
Learning Representation, ICLR 2015 (2015).
Manabe, N.: Globalization and Japanese creativity:
Adaptations of Japanese language to rap, The Journalof Ethnomusicology, Vol.50, No.1, pp.1–36 (2006).
Kawahara, S.: Half rhymes in Japanese rap lyrics andknowledge of similarity, The Journal of East Asian Linguistics, Vol.16, No.2, pp.113–144 (2007).

中野 倫靖 （正会員）
2008 年筑波大学大学院図書館情報メ
ディア研究科博士後期課程修了．博士（情報学）．現在，産業技術総合研
究所主任研究員．日本音響学会会員．

2009 年情報処理学会山下記念研究賞（音楽情報科学研究会），2013 年 Soundand Music Computing Conference（SMC 2013）The Best
Paper Award，2018 年 IEEE Pacific Visualization Symposium（PacificVis 2018）Honorable Mention Poster Award

三林 亮太 （学生会員）

等各受賞．

2022 年兵庫県立大学大学院応用情報科学研究科博士前期課程修了．修士

後藤 真孝 （正会員）（応用情報科学）．現在，兵庫県立大学
大学院情報科学研究科博士後期課程

1998 年早稲田大学大学院理工学研究在学中．日本データベース学会学生科博士後期課程修了．博士（工学）．

会員．

現在，産業技術総合研究所首席研究員．2009〜2017 年に IPA 未踏 IT 人
材発掘・育成事業 PM，2016〜2022 年

山本 岳洋 （正会員）
2011 年京都大学大学院情報学研究科
博士後期課程修了．博士（情報学）．
現在，兵庫県立大学大学院情報科学研
究科/社会情報科学部准教授．主に情報検索におけるユーザインタラクショ
ンやユーザ理解に関する研究に従事．

に JST ACT-I「情報と未来」研究総括を兼任．現在，JST 創発 PO，日本学術会議連携会員，
統計数理研究所客員教授，筑波大学大学院教授（連携大学院）等を兼任．日本学士院学術奨励賞，日本学術振興会賞，
ドコモ・モバイル・サイエンス賞基礎科学部門優秀賞，市村学術賞，FIT 船井業績賞，科学技術分野の文部科学大臣
表彰若手科学者賞，星雲賞等，65 件受賞．本会フェロー．

日本データベース学会，ACM，電子情報通信学会各会員．

大島 裕明 （正会員）佃 洸摂 （正会員）
2014 年京都大学大学院情報学研究科
博士後期課程修了．博士（情報学）．現在，産業技術総合研究所主任研究員．
主に音楽コンテンツおよびユーザ生成
コンテンツを対象とした情報推薦・情報探索の研究に従事．日本データベース学会会員．

2007 年京都大学大学院情報学研究科
博士後期課程修了．博士（情報学）．
現在，兵庫県立大学大学院情報科学研
究科/社会情報科学部准教授．主に情報検索，ソーシャルコンピューティン
グ，デザイン学の研究に従事．電子情報通信学会，ACM，日本データベース学会各会員．
（担当編集委員

白井 清昭）

渡邉 研斗 （正会員）2018 年東北大学大学院情報科学研究科博士後期課程修了．現在，産業技術総合研究所人間情報インタラクション
研究部門主任研究員．自然言語処理，
音楽情報処理，歌詞情報処理の研究に従事．言語処理会員．

c 2024 Information Processing Society of Japan⃝

39