DEIM Forum 2023 5b-8-3

料理名を考慮した Encoder-Decoder モデルを用いた魅力的なレシピタイトルの生成
山本 悠統†

風間 一洋††† 和歌山大学大学院システム工学研究科 〒 640–8510 和歌山県和歌山市栄谷 930†† 和歌山大学システム工学部 〒 640–8510 和歌山県和歌山市栄谷 930
E-mail: †{s236310,kazama}@wakayama-u.ac.jp
あらまし

近年，ユーザ投稿型レシピサイトでは，大量のレシピが投稿・閲覧されているが，同じ料理でも細部が異なるレシピが大量に存在するため，投稿したレシピを他のユーザに見てもらうためには，魅力的なタイトルを付与することが重要である．本稿では，Encoder-Decoder モデルを用いて，多くのユーザが見てくれるような魅力的なレシ
ピタイトルをレシピの概要から自動的に学習・生成する手法を提案する．ただし，Encoder-Decoder モデルではレシ
ピの内容と一致しないタイトルを生成することが多いために，レシピの元の題名から料理名を自動的に抽出して一緒にファインチューニングすることで，生成するタイトルの適合性を向上させる．実際に BERT2BERT や BERTShareなどの複数の Encoder-Decoder モデルを用いて実験を行い，提案手法の利点と問題点を明らかにする．
キーワード 食とレシピ，レシピ・料理，自然言語処理応用

1 はじめに2 関連研究インターネットや SNS の普及に伴い，クックパッドや楽天

2. 1 Transformer を用いた生成型要約モデルに関する研究

レシピなどのようなユーザ投稿型レシピサイトが広く利用されTransformer は，当初はニューラル機械翻訳用に Attention

るようになり，膨大なレシピがインターネット上で流通するよ機構を持つ深層学習モデルとして提案された [1]．従来は CNNうになった．例えば，クックパッドでは月間利用者数が約 5700

や RNN を用いた Encoder-Decoder モデルに Attention 機構

万人，レシピ数は約 360 万品，楽天レシピでは，月間利用者数を追加するという複雑なアーキテクチャが用いられていたが，が約 2000 万人，レシピ数は約 245 万品も投稿され，今も多く

Transformer では Attention 機構を中心にシンプルなアーキテのレシピが投稿され続けている．

クチャとして再構成したことで学習時間の短縮や高速化，高性

しかし，膨大な類似レシピが存在するために，逆に Web ペー

能化を実現でき，その後様々な分野で広く用いられるようにジに表示される類似レシピ群の中から自分のレシピを選んでなった．自然言語処理分野では，Transformer を用いた言語モ作ってもらうことは容易ではない．そこで，各レシピ投稿者は，デルとして，OpenAI の GPT（Generative Pre-Training）及びレシピの内容を簡潔でわかりやすく要約したり，
「簡単」
，
「ふわ

その後継 [2] と Google AI Language の BERT（Bidirectional

ふわ」等のレシピの特徴を簡潔・的確に示すアレンジ表現やオ

Encoder Representations from Transformer）[3] がよく用いら

ノマトペを使用したり，目に止まりやすい記号や強調表現を用れる．

いたりするなど，レシピタイトルに様々な工夫をしていると思GPT-2 は，Transformer の Decoder 部分のアーキテクチャ

われる．しかし，実際にどのような工夫をしているかは明確でを用いたテキスト生成のための言語モデルである．まず，ラベ

はなく，ユーザがそのような魅力的なレシピタイトルを考える

ル付けされていないテキストコーパスを用いて教師なしの事のは難しい．

前学習を行って初期パラメータを学習し，その後目的のタス

そこで，本稿では生成型要約モデルの一種である Encoder-

クに合わせて教師あり学習を行なってパラメータをファイン

Decoder モデルを用いて，ユーザが見て作りたくなるようなチューニングする．事前学習時には，入力された文章を一方向

魅力的なレシピタイトルの特徴を，料理を作ったことの報告の Attention 機構を用いて参照しながら，それに続く単語を予であるつくれぽ数が多い人気レシピから学習し，さらに投稿測するタスクを実行する．

するレシピから自動的に生成する手法を提案する．ただし，

BERT は，Transformer の Encoder 部分のアーキテクチャ

Encoder-Decoder モデルではレシピの内容と一致しないタイトを用いた言語モデルであり，GPT シリーズと同様の事前学

ルを生成することが多いために，レシピの元の題名から料理名

習とファインチューニングという 2 段階の処理を持つ．事前を自動的に抽出して一緒にファインチューニングし，生成時に学習時には，入力された文章を双方向の Attention 機構を用も料理名を与えることでタイトルの適合性を向上させる．

いて参照しながら，単語穴埋め問題を解く Masked Language

Model（MLM）と次の文章を予測する Next Sentence Predic-

tion（NSP）という 2 種類のタスクを用いて初期パラメータを成して欲しくても，そのキーワードが生成されるとは限らない．

学習する．ファインチューニング時には，入力テキストに対し

そこで，Fan らは入力する文章の前にキーワードを表すトークて出力される最終層の埋め込み表現を用いて，分類問題などのンを挿入し，学習することでキーワードを考慮する文の生成を

様々な自然言語処理タスクを最適化する．事前学習と比べると，行った [11]．結果として，キーワードを挿入しない場合と比べファインチューニングに用いるデータは少なく，計算回数も少てキーワードが生成される割合が向上した．

なくても良い特徴を持つ．BERT には，様々な派生モデルが存

また，黒木らは, キーワードを含めるために，キーワードを在し，例えば RoBERTa [4] のように事前学習を改良して性能[MASK] トークンに置き換えて出力するよう学習する手法とを向上させたモデルも存在する．

キーワードの生成確率を上げる手法の提案を行い，既存の文にTransformer ベ ー ス の 生 成 型 要 約 モ デ ル に は ，BART [5]比べてよりキーワードを多く含む文の生成に成功した [12]．

や BERT2BERT [6] がある．Lewis らが提案した BART は，

本稿では，Fan らのように入力文の前にキーワードである料

BERT を Seq2Seq [7] の形にした汎用的な事前学習モデルであ理名を挿入することで，異なる調理名が生成されることを防止る．Roth らが提案した BERT2BERT は，BERT を Encoder

し，料理名を考慮したレシピタイトルの生成をおこなう．

と Decoder の両方に用いた文章生成のための Encoder-Decoder
モデルである．ただし，Decoder 側の BERT の Attention 機構
は，一方向化されている．また，同研究では BERTShare と呼ばれる Encoder の重みを Decoder と共有したモデルや，BERTの代わりに RoBERTa を用いた RoBERTa2RoBERTa も提案されている．
本稿では，これらの BERT 及びその派生手法を用いて実現した Encoder-Decoder モデルを対象とする．

3 提案手法3. 1 レシピタイトル生成の特殊性
すでに述べたように，文章のタイトル生成に要約手法を用いる研究が存在するが，レシピのタイトル生成に関しては，以下のような特殊性が存在する．
まず，ニュース記事のタイトル生成に用いるのは記事の本文のテキストデータであるが，レシピデータは表 1 に示すように

2. 2 タイトルの生成に関する研究

概要，材料，調理手順など複数の項目に分けて構造化されてい2. 2. 1 ニュースタイトル生成ることである．タイトル生成に特に有効だと考えられる情報は，ニュースや新聞記事のタイトル生成では，必要な情報は全て

レシピの料理の特徴を表す概要，調理方法を表す調理手順，使記事本文にあり，最初の一文目を要約とみなすことができるた

用する食材を表す材料であるが，概要は一般的な説明文である

め，抽出型要約による生成が可能である．石原らの研究では，のに対して，調理手順は調理作業を段階ごとに分けて順番に記

このことを利用し生成型要約モデルを抽出型要約のデータセッ

述した手順文，材料は食材のリストであるように，特性が異なトで事前学習した後に事前学習したモデルをファインチューニ

るテキストデータであり，単純に結合しても良い結果は得られングし，新聞記事の見出し生成を行った [8]．

ない上に，BERT を用いる場合には最大トークン数を越えてし2. 2. 2 レシピタイトル生成

まうことも多い．さらに，この中でレシピの特徴が一番よく記

難波らの研究では，レビュー情報に基づいて目的別の料理レ

述されている概要のテキストを用いても，調理方法に関しては

シピカテゴリに分類されているレシピを分析し，各カテゴリの調理手順に，食材に関しては材料に書かれているために，逆に特徴を明らかし，レシピを投稿した際に自動でタイトルを生成

概要ではそれらの情報が省略され，必要な情報が得られないこ

できるシステムの構築を目指している [9] [10]．この研究では，とがある．

クックパッドのレビューに，料理の特徴を示すタグを自動付与

次に，文章としての適切性や自然言語処理の難易度が異なるする手法を提案し，目的別料理レシピカテゴリに分類する．目ことである．ニュース記事は文章を書く専門家が執筆し，複数

的別料理カテゴリに，料理レシピを自動分類し，投稿されたレ

回の校正を経た上で公開されることから，適切な文書構造を

シピをカテゴリごとに分類しレビュー情報から特徴を抽出を行持つ．しかし，ユーザ投稿型レシピサイトに投稿されたレシピ

う．そして抽出した特徴からレシピタイトルの生成を行おうとは，料理本やレシピ集を出版しているような専門家や記者ではした．

ない一般ユーザが執筆するために，誤字や文法の誤りが多く存

本稿では，レビュー情報からではなくレシピの特徴等が記載

在し，必ずしも文章として適切な構造や構成であるとは限らなされているレシピの概要からレシピタイトルの生成をおこなう．

い上に，アピール力を高めるために記号類・顔文字・絵文字な

しかし，レシピの概要には料理名が含まれていないことが多く

どの装飾が活用されており，自然言語処理における難易度がは

レシピの概要そのままでは誤ったレシピタイトルが生成される

るかに高いと考えられる．

可能性がある．

2. 3 キーワードを考慮した文章生成に関する研究
生成型要約モデルでは，入力文にない単語や表現を生成する
ことができる．しかし，情報が不足していると異なる内容の文章を生成してしまう．また，あるキーワードを含めて文章を生

さらに，レシピのタイトルは，末尾が料理名で終わり，その前にその修飾句が来るなどの独特のパターンを持つことである．
このようなパターンは一般的な説明文にはあまり出現しない上に，このパターンに従わないタイトルは，ユーザ投稿型レシピ
サイトの検索結果で違和感を感じさせたり，タイトルからのレシピの特徴の推測を難しくする可能性がある．

以上の特殊性から，例えば，ニュース記事の場合は読者が概要を一目で把握できるように冒頭部分に概要をまとめることがあった．そこで，本稿では概要に加えて料理名も与えてファイ
ンチューニングする．

多いことから，抽出型要約でも比較的妥当なタイトルを生成でなお，料理名を調理手順から機械学習で判定する方法も考えきることが知られているが，レシピの場合は抽出型要約では適られるが，対応する料理の追加コストが高いことから，料理の切なタイトルを生成できない．また，より柔軟性が高い生成型

追加コスト低減と手順の簡略化のために，タイトルの末尾（た要約を用いると，一見レシピらしいタイトルが生成できるもの

だし記号類は無視する）に料理名を配置することが多いというの，概要のテキストを入力とするだけでは，情報不足により料経験則を利用して，次のように料理名を抽出する．

理や食材が異なる問題が発生し，さらに調理手順のテキストを（ 1 ） 処理前に，料理名とその正規形（存在する場合）を含加えたとしてもこの問題は改善されない．

む辞書データを読み込み，単語の文字を逆順に格納したトライ

3. 2 提案手法の概要
魅力的なレシピタイトルとは何かという規則を演繹的に求めるのは難しく，さらに求めた規則が他の人にも当てはまるとは限らない．そこで，本稿ではユーザ投稿型レシピサイトで人気があるレシピのデータから帰納的に魅力的なタイトルの生成方法を学習したモデルを作成し，そのモデルに基づいて与えられたレシピのタイトルを生成するアプローチを採用する．提案手

木と，単語から正規形の変換表を作成しておく．
（ 2 ） タイトルの末尾から，ひらがな，カタカナ，漢字以外の文字を読み飛ばす．
（ 3 ） 登録されている単語と一致するかをトライ木を用いて逆順に調べる．一致しない場合は終了する．
（ 4 ） 一致した単語に正規形が定義されている場合には正規形を，そうでなければその単語を返す．
辞書に関しては，最初にレシピのタイトルを日本語形態素解法の概要を図 1 に，タイトルの生成手順を以下に示す．

析してから，一番最後の名詞を抽出した後に，人手で選別して（ 1 ） レシピ群から人気レシピを抽出する．

初期辞書を作成する．次に，上記の手法でレシピのタイトルを（ 2 ） 人気レシピから料理名を抽出する．

再処理し，抽出できなかったレシピのタイトルから人手で単語（ 3 ） 人気レシピを用いて Encoder-Decoder モデルをファを登録する．さらに，かたかなとひらがな，漢字などの文字種

インチューニングする．
（ 4 ） レシピの概要と料理名から魅力的なレシピタイトルを生成する．
レシピデータからタイトルを生成するためには，入力文を解釈して低次元の潜在表現に変換する Encoder と，さらにその潜在表現から出力文を生成する Decoder を組み合わせた BERT
ベースの Encoder-Decoder モデルを用いる．
モデルのファインチューニングには，日本国内の代表的な
ユーザ投稿レシピサイトであるクックパッドのレシピデータを使用する．

3. 3 人気レシピの抽出
ユーザ投稿型レシピサイトは多くの人に利用されるが，レシピ投稿者のモチベーション維持のために，クックパッドのつく
れぽや，楽天レシピのつくったよレポートのように，料理した
事実や感想，コメントをレシピ投稿者に報告するようなフィードバック機能を備えていることが多い．
そこで，そのようなレポート数が多い人気レシピのタイトルには，多くの類似レシピの中から選んで調理してもらうだけの魅力があると仮定して，報告数が多いレシピを抽出してファイ
ンチューニングに使用する．これを人気レシピと呼ぶ．

の違いや，表記のゆれなどを統一するために，人手で正規形も登録する．対応する料理を増やすためには，この辞書に新しい料理名を追加するだけでよく，既存の料理辞書を用いれば，正規形の定義などのコストもあるものの，比較的容易に対応できると思われる．
なお，この辞書に登録する料理名は「パスタ」
，
「サラダ」
，
「ご
はん」などの基本的な単語で，料理種別に近い．一般的には，これらの単語の前に修飾句や名詞が付与されて「キノコのクリー
ムパスタ」のような，より詳細な料理名が使用されるが，それらは生成型要約によって生成することを想定している．
実際に評価用のデータに適用したところ，8 割以上のレシピのタイトルから料理名を抽出できた．実際に料理名を抽出した例を表 2 に示す．
抽出できなかった場合は，倒置法の使用（例，新玉ねぎのサラダ♪ツナ缶で），補足説明（コク旨*きゅうり塩こんぶ*おつま
みにも!），文章としての記述（例，タコがうまい），内容が料理ではなく調理法や保存方法の場合（例，キレイに桃がむけちゃうよ♪）などであった．ファインチューニングが目的なので料理名を抽出できなかったレシピは使用しなければよく，ユーザ
投稿型レシピサイトには膨大なレシピが投稿されていることを考慮すると，簡単な実装で比較的高い抽出率を実現できたと言3. 4 レシピタイトルからの料理名の抽出
単に Encoder-Decoder モデルを用いてレシピの概要からタイトルを生成した場合には，実際のレシピとは料理名や食材が異なるタイトルを生成することが多い．既に述べたように，この原因は概要には，調理手順からわかる料理名や，材料からわかる特徴的な食材を重複を避けるために含めないことも多く，
適切なタイトルを生成するための情報が不足していたためで

える．

3. 5 人気レシピによるファインチューニング
近年，生成型要約モデルを用いて新聞記事などの見出しや広告文を生成する研究が行われているが，Encoder-Decoder モデ
ルを用いた場合には，入力文と出力文を 1 対 1 に対応させて学習させるために，重要なキーワードが出力文に含まれなかった
り，内容が異なった文が生成されるなどの問題があり，生成結表1

レシピデータの例

レシピのタイトル

簡単もやしの卵♪中華あんかけ

レシピの概要フライパン１つ♪もやしでボリュームたっぷりの１品です。２００７、７，２０に話題入りさせて頂き調度２ヶ月９，１９に１００人の方に作って頂きました
皆さま本当にありがとうございました (o*。 。)o ペコッ

レシピのコツ・ポイント

お好みでニラ、キクラゲ、豚などをプラスしても美味しい。
※塩コショウはタップリがお勧め。

レシピの生い立ち家の定番です。

レシピの公開日

07/07/05

材料の名前

もやし 卵 . . .

材料の分量

1 袋 1 つ. . .

手順の内容

フライパンにごま油を入れもやしを入れ塩コショウ〈分量外）をして強火でサッと炒める。お皿に取り出しておく。

つくれぽ投稿

レシピ投稿

レシピ調理者

レシピ作成者
⼈気レシピ抽出

新規レシピ

⼈気レシピ
料理名抽出
タイトル
料理名，概要汎⽤⾃然⾔語
モデル

料理名，概要ファインチューニング

図1

表2

レシピタイトル
⽣成モデル

料理名

タイトル
タイトル⽣成提案手法の概要

料理名の抽出外のレシピの項目は既に入力済みであり，料理名は別途人手でレシピタイトル

料理名

淡い初恋ゼリー☆.。.:*・ゼリー

大根で!シーチキン梅しそサンドフライ♪

フライ

HB でふわふわバターロール♪

バターロールマドレーヌ***

マドレーヌ

指定するか，レシピの手順などから自動判別することを想定しているが，既存レシピを用いた評価時には，( 3. 4 節) の手法を用いて自動的に取得する．
なお，既存手法では与えたキーワードが必ず出力に含まれることを想定して手法を構築しているが，提案手法ではタイトルが適切であれば，与えた料理名が必ずしも含まれなくてもかま果の制御に関する研究が盛んに行われている [12], [13]．
本稿では，Fan らの手法 [11] を用いて，料理の種別が変わらないような生成結果の制御を試みる．ファインチューニングの概要図を図 2 に示す．実際には，Encoder 部に [CLS] トークンと，その直後に ( 3. 4 節) である人気レシピから抽出した料理名

わない．これは料理名が地域や国によって異なったり，歴史的経緯で特別な名前が与えられていることがあるからである．例
えば，唐辛子とニンニクを用いたパスタのレシピの場合に，料理名として「パスタ」を与えたが，出力ではその代わりに「ペペロンチーノ」が含まれていてもよいと考えている．

を挿入し，さらに特殊トークン [SEP] でそのレシピの概要文を連結したものを入力する．Decoder 部には，[CLS] という特殊トークンの直後にその人気レシピのタイトルを付与したものを与えて，そのタイトルが生成できるようにファインチューニン
グする．

3. 6 レシピの概要からのタイトル生成
タイトル生成時には，レシピの料理名と概要をファインチュー
イング時と同様の方法で Encoder 部に与えて，Decoder 部からタイトルを取得する．
本稿では，タイトル生成時には，レシピ投稿者はタイトル以4 評

価

4. 1 データセット
クックパッド株式会社と国立情報学研究所が提供する 1998
年 4 月 23 日から 2014 年 9 月 30 日までの 1,715,595 件のレシ
ピデータ [14] からつくれぽ数が 100 以上のレシピデータ 11,855件を抽出し，さらに料理名が抽出できた 9,560 件を人気レシピとして用いた．

図 2 Encoder-Decoder モデルによるファインチューニング

∑4. 2 Encoder-Decoder モデル

ROU GE-N =Encoder-Decoder モデルとして，Roths らの BERT, GPT-2,∑∑

S∈Ref Sgrn ∈S∑S∈Ref SCountmatch (grn )grn ∈SCount(grn )(1)

RoBERTa などの Transformer ベースの Encoder-Decoder モ

ここで，n は N-gram の長さを，Countmatch (grn ) は S と Ref S

デルに関する性能評価の論文 [6] で，Gigaward データセット，で一致した N-gram 数を示す．本稿では，uni-gram の ROUGE-

CNN/DailyMail データセット，BBC データセットを用いた文

1 と bi-gram の ROUGE-2 を用いて評価した．

書要約の評価において比較的性能の良かった以下の 4 つのモデ

また，ROUGE-L も評価に用いた．ROUGE-L は，要約モルを用いた．

デルが生成した要約 X と元の要約 Y の最長共通部分単語列（ 1 ） BERT2BERT（Longest Common Subsequence）を用いて次式の Flcs として（ 2 ） BERTShare

計算する．

（ 3 ） RoBERTa2RoBERTa

LCS(X, Y )m
LCS(X, Y )Plcs =n(1 + β 2 )Rlcs Plcs
Flcs =
Rlsc + β 2 Plcs

Rlcs =（ 4 ） RoBERTaShare
この中のどれかを用いてレシピの概要のみでファインチュー
ニング・生成を行う手法をベースライン手法，レシピの概要に加えて料理名を用いた手法を提案手法と呼ぶ．
事前学習済み BERT モデルとして，東北大学が公開している事

(2)
(3)
(4)

前学習済み BERT 1 を用いた．このモデルは日本語 Wikipedia

ここで，m は元となる要約の単語数，n は生成された要約の単のテキストデータにより事前学習しており，MeCab により日語数である．

本語形態素解析をした後に，WordPiece によりサブワードに分

人気レシピデータのうち 8604 件を学習データとしてファイ
ンチューニングし，残りの 956 件をテストデータとして評価に割してトークン化している．
また，事前学習済み RoBERTa モデルとして，rinna 社が公用いた．

を用いた．このモデルは日本語

ROUGE に よ る 評 価 結 果 を 表 3 に 示 す ．ROUGE-1，

CC-100 と日本語 Wikipedia のテキストデータで事前学習してROUGE-2，ROUGE-L のいずれの場合も，提案手法の方がおり，SentencePiece でトークン化している．

明らかにスコアが高かった．これは，提案手法の方が生成され開している事前学習モデル

2

パラメータは，Hugging Face の実装

3を参考に，両モデル

とも同じパラメータを使用した．ただし，メモリ不足の問題

たタイトルに料理名が含まれる割合が大きくなり，さらにその料理名に適した表現が生成されたからと考えられる．

を避けるためバッチサイズは 8 とした．また，最大入力長は

次 に ，提 案 手 法 に 注 目 す る と ，ROUGE-1，ROUGE-2，

Encoder 部と Decoder 部それぞれにおける入力長を求め，最もROUGE-L のいずれの場合も，BERTShare が一番スコアが入力が長い文章に合わせた．最大入力長は Encoder 部で 100，高かった．なお，BERT2BERT より RoBERTa2RoBERTa の

Decoder 部で 25 とし，タイトルを生成する際の最大の文長も方が，BERTShare より RoBERTaShare の方がスコアが若干25 とした．文長が短い場合は [PAD] トークンで埋める処理を低いが，今回利用した事前学習済みモデルは用いたテキスト

行った．

データやトークン化の方法が異なるために，これらの結果から

4. 3 ROUGE による評価

必ずしも RoBERTa より BERT の方が性能が良いとは言えないことに注意する必要がある．

まず，自然言語処理分野において自動要約を評価するために使用されている指標である ROUGE [15] を用いて各モデルの評価をおこなった．評価する際には，各タイトル生成モデルが人

4. 4 生成されたタイトルの評価
ROUGE では，単語の一致度しか評価をしないので，次に生気レシピのタイトルを再現できると仮定し，人気レシピのタイ成されたタイトルの質を，既存研究 [16] を参考にした正確性とトルを元の要約，生成されたタイトルを生成した要約とした．

流暢性と，本稿で注目している魅力性という 3 つの基準に基づ

ROUGE-N は，要約モデルが生成した要約 S と元の要約

いて人手で評価した．

Ref S の N-gram の一致度に関する指標で，次式で計算する．

a) 正 確 性
レシピタイトルとして妥当かどうか．レシピタイトルとして

1：https://huggingface.co/cl-tohoku/bert-base-japanese-v2
2：https://huggingface.co/rinna/japanese-roberta-base
3：https://huggingface.co/blog/warm-starting-encoder-decoder

妥当とは，料理名と材料が誤っておらず一致している場合である．それぞれ，元の料理名と生成タイトルに含まれる料理名が表 3 ROUGE による評価結果
モデル

ROUGE-1 ROUGE-2 ROUGE-L

BERT2BERT（概要）

25.9

10.6

BERTShare（概要）

26.0

10.6

24.1

RoBERTa2RoBERTa（概要）

24.8

9.4

24.0

RoBERTaShare（概要）

25.4

10.2

23.6

BERT2BERT（料理名＋概要）

35.5

16.8

33.7

BERTShare（料理名＋概要）

36.8

17.6

34.8

RoBERTa2RoBERTa（料理名＋概要）

34.4

16.0

32.7

RoBERTaShare（料理名＋概要）

36.5

16.7

33.4

24.2

一致している割合（料理名）材料が一致している割合（材料）

魅力性に関しては，記号，特徴の項目では，ベースライン手（材料が生成されたタイトルにない場合は一致しているとみな法のほうが高かった．この理由は，提案手法では，料理名が正す）に分けて示す．

確になると反面，同時に使用できる表現が制限されてしまうかb) 流 暢 性
レシピタイトルとして流暢かどうか．レシピタイトルとして流暢とは，日本語の文章として違和感がなく，読みやすい場合

らだと考えられる．

4. 5 生成されたタイトルの分析である．それぞれ，日本語として適切な単語だけが生成されてROUGE による評価と生成されたタイトルの評価が高かったいる割合（単語）と，同じ単語が連続するなどの構文的な問題

BERTShare モデルと RoBERTaShare モデルを用いて，実際がない割合（構文）に分けて示す．

に表 4 のデータからベースライン手法と提案手法で生成したタc) 魅 力 性
レシピタイトルとして魅力的かどうか．レシピタイトルとして魅力的とは，「オノマトペ」，「固有名詞」，「アレンジ表現」のようなレシピの特徴が表現されている場合，またはレシピでよく使われている記号（☆，！，♪，♡，*）が含まれている場合と定義した．それぞれ，記号が適切に使われている割合（記号），レシピの特徴が表現されている割合（特徴）に分けて示す．ただし，この評価では主観性を排除するために，レシピの特徴が実際のレシピと合致しているかについては評価しない．
評価データとして, 人気レシピを除く既存レシピからランダ
ムに 50 件抽出し，そのレシピから生成されたタイトルを評価した．タイトルはベースライン手法と提案手法を使った場合の 2 種類を生成した．評価は著者が一人で行った．評価に用いた一部のレシピの元のタイトルと抽出された料理名，概要を，
表 4 に示す．これらは，評価データの中から，概要に料理名が含まれているもの，料理名が含まれないものや概要が短いものなど様々な事例をカバーするように人手で選択した．
評価結果を表 5 に示す．正確性に関しては，料理名の項目でイトルを表 6 と表 7 に示す．なお，表の波線は異なる料理名を，
下線は異なる材料を，二重線は「オノマトペ」や「アレンジ表
現」のようなレシピの特徴を的確に表す表現を表す．
生成されたレシピタイトルを比較すると，正確性に関して
は，料理名は BERTShare と RoBERTaShare どちらの場合も，ベースライン手法では，概要に料理名が含まれていても，波線で示すように異なる料理名が生成されることがあり，概要に含
まれない場合はタイトルにも含まれないことが多い．一方で，提案手法では，正しい料理名が含まれることが確認できる．
材料に関しては，概要に材料が含まれる場合には，生成されたタイトルに含まれることが比較的多かったが，概要に材料が含まれない場合は，生成されたタイトルに下線で示すようなレ
シピで使用されていない材料が含まれることが多いことがわかる．
流暢性に関しては，RoBERTaShare で，「ササククッキー」などのおかしな単語が生成されていることが確認できる．この理由として，東北大学の事前学習済み BERT モデルが日本語
形態素解析と Whole Word Masking という言語依存のトーク

は，提案手法の値がベースライン手法と比べて大幅に向上してン化と MLM を用いているのに対し，rinna 社の事前学習済み

おり，料理名を与えた効果を確認できた．材料名の項目では，

RoBERTa モデルは言語非依存の SentencePiece でトークン化

BERT2BERT 以外の提案手法の値が若干向上していた．今回は材料に関する情報は与えていないが，正しい料理名が生成さしているために，不自然なトークン化により存在しない単語を生成した可能性が考えられる．また，同じ単語の繰り返しに関れたことで，その料理に適した材料が選ばれたことが理由だとしては，タイトル生成に用いられている Beam Search は Beam

考えられる．

Search では同じ単語を繰り返し生成することがあるからだとと流暢性に関しては，単語と構文のどちらの項目もどのモデル
でも大きく変わらなかったが，単語に関してはベースライン手法の方が若干高かった．ベースライン手法の BERT2BERT とRoBERTa2RoBERTa 以外では，適切ではない単語が含まれる傾向があった．また，構文に関しては，どのモデル，手法でも同じ単語が連続する傾向があった．

考えられる．
魅力性に関しては，記号は，名詞句の前後に挿入される傾向があり，レシピタイトルを魅力的にするために役立っていることが確認できる．レシピの特徴を表す表現は，二重線で示すよ
うなオノマトペやアレンジ表現が用いられていることが確認できる．なお，元のレシピの概要の「食欲がなくなりがちな夏にピッタリ」のような表現が，「夏バテにならない」，「夏バテ知ら

表4

評価に用いたレシピのタイトルと料理名，概要の例

元のタイトル

料理名

ウルトラ簡単なりんごのコンポート

コンポート 赤いリンゴを皮つきのまま電子レンジで柔らかくしたコンポートです。レーズンも概要

たっぷりハヤシソースのオムレツ

オムレツ

カスタードプリンプリン

柔らかくなって、おいしいですよ 。
ボリューム満点でご飯が進んじゃいます♪ガーリックライスを添えても相性ばっち
し!
スがいらない超ー簡単です♪今は家でブームです¿¡だから太るんだとかその辺触れないで下さい orz
さばと野菜のカレー炒め

炒め

時間が無いときにもちゃちゃっと出来ます♪カレー味なので、お魚苦手な子どもに

夏バテ防止☆冷やし中華&冷麺風そうめん

素麺

簡単:レンジ 1 分:青梗菜の生姜酢醤油和え

和え

激ウマです。

もやしと油揚げのあんかけ焼きそば♪

焼きそば

あさり、もやし、ネギだけなのに絶品です☆いいダシだしてくれるあさりちゃんに

自家製食べドレ「キムマヨ」で♪ディップ

ディップ

作りおきの可能の万能「食べドレ」です!

ミックス粉で☆簡単☆カフェオレスコーン♪

スコーン

ノンバターでサクサク（ˆ ˆ）食べ過ぎるかも（ˆ ˆ;）

好きな具材でドロップクッキー

クッキー

ゴロゴロだったりサクサクだったりもいいかも。。。
いつものそうめんをピリ辛に!食欲がなくなりがちな夏にピッタリ☆特別な調味料はいりません。

は頭があがりませ ん!!

表5生成されたタイトルの評価結果

モデル

正確性（%） 流暢性（%） 魅力性（%）
料理名

材料 単語

構文

記号

特徴

BERT2BERT（概要）

30

38

100

96

54

44

BERTShare（概要）

34

40

98

96

72

46

RoBERTa2RoBERTa（概要）

34

20

100

98

42

34

RoBERTaShare（概要）

28

36

96

94

52

58

BERT2BERT（料理名＋概要）

86

36

96

98

52

36

BERTShare（料理名＋概要）

90

46

96

98

58

44

RoBERTa2RoBERTa（料理名＋概要）

84

26

90

96

58

50

RoBERTaShare（料理名＋概要）

94

38

92

96

52

46

ず」
，
「夏バテに！」などとうまく言い換えられていることが確

ただし，魅力性に関しては，今回は評価対象としなかったが，認できる．ただし，ベースライン手法では，「簡単」という単語

レシピの内容とは必ずしも一致しない頻出表現が用いられていが頻出していることが確認できる．これはクックパッドのレシる可能性があった．

ピでも非常によく使われるアレンジ表現であり，本稿ではそれ今後の課題は，よりメモリ量が大きい GPU と事前学習済み

らの表現とレシピの内容が合致するかは確認しないために，実BERT-large モデルを用いた評価を行うこと，レシピにおける際のレシピの内容を表していなくても，単に頻出する表現であメインの食材の情報も利用すること，今回行ったような客観的るという理由で使用されている可能性が高い．今回の評価ではな評価ではなく，元のレシピのタイトルと生成されたタイトル

客観性を重視して，あえて主観性を排除したが，さらに主観的に関する主観的な評価に関する被験者実験を行うことである．

な評価も検討する必要がある．

謝

5 ま と め

辞本研究では，国立情報学研究所の IDR データセット提供サー

本稿では，レシピの概要とタイトルから自動抽出した料理名

ビスによりクックパッド株式会社から提供を受けた「クックを用いてレシピのタイトルを生成するようにファインチューニ

パッドデータセット」[14] を利用した．また，本研究は JSPS

ングした Encoder-Decoder モデルを用いて，レシピの概要から

科研費 21H03557 の助成を受けた.

魅力的なレシピのタイトルを自動的に生成する手法を提案した．

ROUGE による評価では，ROUGE-1，ROUGE-2，ROUGE-Lのいずれの場合も提案手法と BERTShare の組み合わせが一番性能がよく，生成されたタイトルの人手による評価でも料理名に関する正確性が向上することがわかった．しかし，今回対象としなかった材料の正確性の性能向上はわずかであり，流暢性はほぼ変わらず，魅力性はベースライン手法の方が高かった．

文

献[1] Ashish Vaswani, Noam Shazeer, Niki Parmar, Jakob Uszkoreit, Llion Jones, Aidan N. Gomez, Lukasz Kaiser, and Illia
Polosukhin. Attention is all you need. In Proceedings ofthe 31st International Conference on Neural Information
Processing Systems (NIPS’17), pp. 6000–6010, 2017.
[2] Alec Radford, Jeﬀrey Wu, Rewon Child, David Luan,
Dario Amodei, and Ilya Sutskever. Language models are表 6 BERTShare によるタイトル生成例
元のタイトル

生成されたタイトル (概要)

生成されたタイトル (料理名＋概要)

ウルトラ簡単なりんごのコンポート

レンジで簡単☆りんごのキッシュ::::::

りんごたっぷり☆りんごのコンポート

たっぷりハヤシソースのオムレツ

炊飯器で簡単☆ガーリックライス::::::::::::

我が家の定番☆オムレツ

カスタードプリン

簡単すぎ!ヘルシー♪豚キムチ☆
::::

とろとろ!簡単!なめらかプリン♪

さばと野菜のカレー炒め

我が家の定番!おばあちゃんの:::::::
おにぎり

ご飯がすすむ!茄子のカレー炒め♪

夏バテ防止☆冷やし中華&冷麺風そうめん

夏バテにならない☆そうめん☆

夏バテ知らずの夏野菜とツナのそうめん

簡単:レンジ 1 分:青梗菜の生姜酢醤油和え

鶏もも肉と長芋の和風:::::スープ

人参の塩昆布和え。

簡単☆絶品☆あさりの塩焼きそば!!

ネギたっぷり☆あさりのおかか和え:::

もやしと油揚げのあんかけ焼きそば♪

自家製食べドレ「キムマヨ」で♪ディップ

お弁当にも簡単!大葉のごま和え:::

超簡単!白菜とベーコンのディップ♪

ミックス粉で☆簡単☆カフェオレスコーン♪

ノンオイルで簡単♪ノンバターで::::::::
ヨーグルト

ノンオイル☆スコーン☆彡彡

好きな具材でドロップクッキー

カリカリベーコンのサクサク:::焼き

ザクザク!ザクサククッキー☆

表 7 RoBERTaShare によるタイトル生成例
元のタイトル

生成されたタイトル (概要)

生成されたタイトル (料理名＋概要)

ウルトラ簡単なりんごのコンポート

レンジで簡単!アップルポテト::::パイ*りんごのコンポート**

たっぷりハヤシソースのオムレツ

牛肉と挽き肉のガーリックライス♪
::::::::::::

キャベツとチーズのオムレツ

カスタードプリン

簡単!かぼちゃのマヨチーズケーキ:::::

簡単☆とろ〜りチョコプリン☆

さばと野菜のカレー炒め

レンジで簡単♪鶏むね肉のカレー炒め

鶏肉とキャベツの塩レモン炒め

夏バテ防止☆冷やし中華&冷麺風そうめん

夏バテに!夏野菜のピリ辛ピビン風焼き:::

ごま油で簡単♪ピリ辛そうめん

簡単:レンジ 1 分:青梗菜の生姜酢醤油和え

鶏肉と玉ねぎの甘酢炒め:::

ほうれん草のゴマ和え。

簡単☆絶品☆あさりの塩焼きそば!!

簡単!もやしの照り焼き♪
:::

ハマる!和風ねぎ焼きそば♪

自家製食べドレ「キムマヨ」で♪ディップ

簡単!なすのマカロニ:::::
サラダ

朝ごはんにおつまみに☆きのこディップ

ミックス粉で☆簡単☆カフェオレスコーン♪

簡単サクサク♪サクっさくさくクッキー::::::

材料 3 つ!簡単サクサク!サク♪スコーン

好きな具材でドロップクッキー

塩麹さんでサクサク!ササククッキー

サクサク☆サラダ油でクッキー

[3]

[4]

[5]

[6]

[7]

[8]

[9]

unsupervised multitask learners. https://d4mucfpksywv.
cloudfront.net/better-language-models/language_models_
are_unsupervised_multitask_learners.pdf, 2019.
Jacob Devlin, Ming-Wei Chang, Kenton Lee, and Kristina
Toutanova. BERT: Pre-training of deep bidirectional transformers for language understanding. In Proceedings of the2019 Conference of the North American Chapter of the Association for Computational Linguistics: Human Language
Technologies (NAACL-HLT’19), pp. 4171–4186, 2019.
Yinhan Liu, Myle Ott, Naman Goyal, Jingfei Du, Mandar Joshi, Danqi Chen, Omer Levy, Mike Lewis, Luke
Zettlemoyer, and Veselin Stoyanov. RoBERTa: A robustly
optimized BERT pretraining approach. arXiv:1907.11692[cs.CL], 2019.
Mike Lewis, Yinhan Liu, Naman Goyal, Marjan
Ghazvininejad, Abdelrahman Mohamed, Omer Levy, Ves
Stoyanov, and Luke Zettlemoyer.
BART: Denoising
sequence-to-sequence pre-training for natural language generation, translation, and comprehension. In Proceedings of
the 58th Annual Meeting of the Association for Computational Linguistics, pp. 7871–7880, 2020.
Sascha Rothe, Shashi Narayan, and Aliaksei Severyn. Leveraging pre-trained checkpoints for sequence generation tasks.
Transactions of the Association for Computational Linguistics, Vol. 8, pp. 264–280, 2020.
Ilya Sutskever, Oriol Vinyals, and Quoc V. Le. Sequence tosequence learning with neural networks. In Proceedings ofthe 27th International Conference on Neural Information
Processing Systems (NIPS’14), pp. 3104–3112, 2014.
石原慧人, 石原祥太郎, 白井穂乃. BertSum を用いた日本語
ニュース記事の抽象型要約手法の検討. 第 35 回人工知能学会全国大会, 1D4-OS-3c-02, 2021.
金内萌, 難波英嗣, 角谷和俊. 投稿型レシピサイトにおけるレ
ビュー情報に基づく料理タイトル自動生成. 第 8 回データ工学と情報マネジメントに関するフォーラム (DEIM Forum 2016),
P3-2, 2016.

[10] 金内萌, 難波英嗣, 角谷和俊. レビュー情報を用いた料理レシピの特徴分析によるカテゴリ生成およびレシピタイトルの自動生
成. 第 9 回データ工学と情報マネジメントに関するフォーラム(DEIM Forum 2017), P8-2, 2017.
[11] Angela Fan, David Grangier, and Michael Auli. Controllable abstractive summarization. In Proceedings of the 2nd
Workshop on Neural Machine Translation and Generation(WNMT’18), pp. 45–54, 2018.
[12] 黒木開, 川上孝介, 岩井大志, 石塚湖太, 中田和秀. キーワードを考慮した BERT2BERT による広告文生成. 人工知能学会第 35
回全国大会, 2D3-OS-7a-02, 2021.
[13] 山田康輔, 人見雄太, 田森秀明, 岡崎直観, 乾健太郎. 指定語
句を確実に含む見出し生成. 言語処理学会第 27 回年次大会(NLP2021), pp. 1339–1343, 2021.
[14] クックパッド株式会社. クックパッドデータ. 国立情報学研究所情報学研究データリポジトリ, (データセット), 2015.
https://doi.org/10.32130/idr.5.1.
[15] Chin-Yew Lin. ROUGE: A package for automatic evaluation of summaries. In Text Summarization Branches Out,
pp. 74–81. Association for Computational Linguistics, 2004.
[16] Dandan Huang, Leyang Cui, Sen Yang, Guangsheng Bao,
Kun Wang, Jun Xie, and Yue Zhang. What have weachieved on text summarization? In Proceedings of the2020 Conference on Empirical Methods in Natural Language Processing (EMNLP2020), pp. 446–469, 2020.