LLMの推論で推論パラメータの値を変化させ出力の変化を確認してみた

この記事は、[NTTテクノクロス Advent Calendar 2024 シリーズ2](https://qiita.com/advent-calendar/2024/ntt-tx) の15日目の記事になります。

こんにちは、NTTテクノクロスの大坂です。普段はLLMで要約タスクに関するチューニング、評価などの業務に従事しています。
LLMという社内でも貴重な業務をさせていただいていることもあり、今回、初めて投稿させていただきます。

私は、業務内でLLMを用いて、推論させることが良くあります。
推論する際に推論パラメータの値を変更すると出力が変化するのですが、どのパラメータを変えた際に、具体的にどのように出力が変わるのかを、今回検証して紹介したいと思います。

# 推論のタスクに関して

今回は物語生成のタスクで推論を実施しました。
物語生成で使用するプロンプトは以下で固定しました。

伝説のドラゴンを探す旅に出るファンタジーものの物語を生成させてみようと思います。

```
あなたは優秀な物語を作成する専門家です。要求を適切に満たす応答を書きなさい。

### 指示:
以下の「### シチュエーション」を満たす物語を作成してください。

### シチュエーション
・ファンタジーもの。
・ある男の子が伝説のドラゴンを探す旅に出る物語。
```

# 使用するLLM
今回、使用するLLMは[東京大学松尾・岩澤研究室（松尾研）](https://weblab.t.u-tokyo.ac.jp/)が公開している[「Tanuki-8x8b」のAWQ 4bit量子化](https://huggingface.co/team-hatakeyama-phase2/Tanuki-8x8B-dpo-v1.0-AWQ)モデルを使用しました。

- [Tanuki](https://huggingface.co/weblab-GENIAC/Tanuki-8x8B-dpo-v1.0)に関して
    - フルスクラッチで約1.7Tトークン事前学習を行った8x8Bパラメータ（総パラメータ約47B、アクティブパラメータ約13B）の大規模言語モデル。




# 使用したライブラリ
[Huggingface Transformers](https://huggingface.co/docs/transformers/ja/index)を使用しています。


# 今回対象とするパラメータと説明
パラメータの説明*1に関して以下のhaggingfaceのサイト（Generation>GenerationConfig）から引用しました。
以下のhaggingfaceのサイトに関しては英語での表記のため、日本語に訳して使用しています。
引用元：https://huggingface.co/docs/transformers/v4.47.1/en/main_classes/text_generation

temperatureとrepetition_penaltyの説明*2 *3に関してQiitaの@xxyc様の記事（LLMのトレーニングでよく調整するパラメータについて）から引用しました。
引用元：https://qiita.com/xxyc/items/8f5c2a91df8ea71a9a93

num_beamsの説明*4に関して以下のhaggingfaceのサイト（Text generation strategies>Customize text generation）から引用しました。
引用元：https://huggingface.co/docs/transformers/ja/generation_strategies


物語の作成を行うにあたり、人では思いつかない創造性豊かな物語が作成できると良いのではないかと考えており、その際に関わってきそうなパラメータを選んでみました。

| パラメータ | 説明 |
|:-|:-|
| do_sample *1 | ・サンプリングを使用するかどうか |
| temperature *2  |  ・ランダムサンプリングの強さを調整（0に近づけば近いほど回答が安定、1か１以上の場合は創造性が高い）|
| repetition_penalty *3  | ・重複ペナルティ（1以上だと重複しないようにモデルを調整する。１以下の場合は重複の結果が出てくる。おすすめは:1.1-1.5）   |
| num_beams *4  |  ・1よりも大きなビーム数を指定することで、貪欲検索からビームサーチに切り替えることができます。この戦略では、各時間ステップでいくつかの仮説を評価し、最終的に全体のシーケンスに対する最も高い確率を持つ仮説を選択します。これにより、初期の確率が低いトークンで始まる高確率のシーケンスが貪欲検索によって無視されることがなくなります。|
| num_beam_groups *1 |  ・num_beams を分割するグループの数<br>・ビームの異なるグループ間で多様性を確保するために分割する |
| diversity_penalty *1 | ・この値は、特定の時点で他のグループのビームと同じトークンを生成した場合に、ビームのスコアから減算されます。diversity_penaltyは、グループビーム探索が有効になっている場合のみ有効であることに注意してください。 |

# 今回検証するパラメータの値
max_new_tokensは2048とし、その他のパラメータはデフォルトで実施しました。

- temperature(do_sample = True)
    - 0.1、0.5、 1
- repetition_penalty(do_sample = True)
    - 0.5、1、1.5、2
- num_beams(do_sample = False)
    - 1、4、6
- diversity_penalty(全てnum_beam_groups=3、num_beams=6で実施)(do_sample = False)
    - diversity_penalty=0.1
    - diversity_penalty=0.5
    - diversity_penalty=1.0


# temperatureを変更
temperatureに関して、1回のみの推論では変化が分かりずらいと思うので、3回推論させてみました。
評価はtemperatureを上げた際に多様性、創造性が上がっているか主観評価を行いました。

- temperature = 0.1

1回目
```
昔々、エルドラという広大な王国がありました。この王国には、古くから伝わる伝説がありました。それは、天空を舞う巨大なドラゴンが存在し、そのドラゴンは「星の守護者」と呼ばれ、王国に平和と繁栄をもたらしているというものでした。しかし 、ある日突然、そのドラゴンは姿を消し、王国は混乱に陥りました。

主人公のリオは、小さな村に住む普通の少年でした。彼は幼い頃から冒険心に満ちており、村の古老から伝説のドラゴンの話を聞くたびに胸を躍らせていました。ある日、古老はリオに言いました。「リオ、お前が伝説のドラゴンを探し出し、再び王国 に平和をもたらすのだ。」

リオは決意を固め、旅の準備を始めました。彼は村を出発し、広大な森や険しい山々を越え、さまざまな試練に立ち向かいました。途中で出会った仲間たち—勇敢な戦士のカイン、知恵深い魔法使いのエリス、そして心優しい盗賊のリナ—と共に、彼ら は数々の困難を乗り越えていきました。

旅の途中、リオたちは古代の遺跡を発見し、そこでドラゴンの秘密に関する手がかりを見つけました。それは、ドラゴンが実は人間の姿に変身できる能力を持っているというものでした。さらに、ドラゴンの居場所を示す地図も見つかりました。

最終的に、リオたちはドラゴンの住むと言われる「星の洞窟」にたどり着きました。洞窟の中は美しく輝く星々で満たされており、中央には巨大なドラゴンが眠っていました。ドラゴンは目覚め、リオたちに試練を課しました。それは、真の勇気と友情 を試すものでした。

リオたちは力を合わせて試練を乗り越え、ついにドラゴンと対面しました。ドラゴンは彼らの心の強さと絆を認め、再び王国に平和をもたらすために協力することを約束しました。

リオたちはドラゴンと共に王国に戻り、その力を使って新たな時代を築きました。エルドラ王国は再び平和と繁栄を取り戻し、リオたちは英雄として語り継がれることとなりました。

この物語は、勇気と友情、そして信じる心が奇跡を起こすことを示しています。リオたちの旅は、どんな困難にも立ち向かう力を教えてくれるのです。
```
    
2回目

```
昔々、エルドラという広大な王国がありました。この王国には、古くから伝わる伝説がありました。それは、天空を舞う美しいドラゴンが存在し、そのドラゴンは「星の涙 」と呼ばれる特別な宝石を守っているというものでした。この宝石は、持つ者に無限の力を与えると言われており、王国の平和と繁栄の象徴でした。

主人公の名前はリオ。彼は小さな村で生まれ育ちましたが、幼い頃から冒険心に満ちていました。ある日、村の古老から「星の涙」の伝説を聞き、その神秘的な力に心を奪 われました。リオは決意しました。「僕が伝説のドラゴンを探し出し、星の涙を手に入れるんだ!」と。

旅の準備を整えたリオは、村を出発しました。彼の最初の目的地は、エルドラの北に位置する「霧の森」でした。この森は、常に濃い霧が立ち込め、迷い込んだ者は二度と 戻れないと言われています。しかし、リオは恐れずに進みました。森の奥深くで、彼は不思議な光を放つクリスタルを見つけました。そのクリスタルは、森の守護者である 精霊のものでした。精霊はリオの勇気と純粋な心を感じ取り、彼に道を示しました。

次にリオが向かったのは、「炎の山」でした。この山は、常に溶岩が流れる危険な場所で、多くの冒険者が命を落としています。リオは、山の頂上に住むと言われるドラゴ ンの存在を信じ、山頂を目指しました。途中、彼は巨大な火の精霊と出会い、試練を乗り越えることで友情を築きました。火の精霊は、リオに炎の剣を授け、彼を助けまし た。

最後にリオがたどり着いたのは、「星の涙」が眠ると言われる「天空の洞窟」でした。洞窟の入口は、深い谷の底にあり、そこには強力な守護者が待ち受けていました。そ れは、巨大なドラゴンでした。ドラゴンは、星の涙を守るために何世代にもわたってその場所に留まっていたのです。

リオは、これまでの冒険で得た力と知恵を駆使し、ドラゴンと対峙しました。激しい戦いの末、リオはドラゴンの心に触れることができました。実は、ドラゴンは孤独を感 じており、誰かに理解してもらいたかったのです。リオはドラゴンに星の涙を渡す代わりに、その力を平和のために使うことを約束しました。

こうして、リオは伝説のドラゴンと共にエルドラに戻り、星の涙を使って王国に平和と繁栄をもたらしました。彼の勇気と優しさは、王国中に広まり、人々は彼を英雄とし て称えました。そして、リオの冒険は、新たな世代の冒険者たちにとって永遠のインスピレーションとなったのでした。

この物語は、勇気と友情、そして自己犠牲の大切さを教えてくれます。リオの旅は、ただの伝説ではなく、現実の中で私たちが学ぶべき教訓を含んでいるのです。
```

3回目

```
昔々、エルドラという広大な王国がありました。この王国には、古くから伝わる伝説がありました。それは、天空を舞う美しいドラゴンが存在し、そのドラゴンは「星の涙 」と呼ばれる特別な宝石を守っているというものでした。この宝石は、持つ者に無限の力を与えると言われており、王国の平和と繁栄の象徴でした。

主人公の名前はリオ。彼は小さな村で生まれ育ちましたが、幼い頃から冒険心に満ちていました。ある日、村の古老から「星の涙」の伝説を聞き、その神秘的な力に心を奪 われました。リオは決意しました。「僕が伝説のドラゴンを探し出し、この宝石を手に入れるんだ。」

旅の準備を整えたリオは、村を出発しました。彼の最初の目的地は、エルドラの北に位置する「霧の森」でした。この森は、常に濃い霧に包まれており、迷い込んだ者は二 度と戻ってこないと言われています。しかし、リオは恐れずに進みました。森の奥深くで、彼は不思議な光を放つクリスタルを見つけました。そのクリスタルは、森の守護 者である精霊のものでした。精霊はリオに試練を与えましたが、彼の勇気と誠実さを認め、道を示してくれました。

次にリオが向かったのは、「炎の山」でした。この山は、常に溶岩が流れる危険な場所で、多くの冒険者が命を落としています。リオは、山の頂上に住むと言われるドラゴ ンの住処を目指しました。途中、彼は炎の精霊と出会い、その力を借りて山を登りました。山頂で待っていたのは、巨大なドラゴンでした。ドラゴンは最初は警戒していま したが、リオの真摯な態度と勇気に心を打たれ、彼に星の涙の在り処を教えてくれました。

最後にリオが向かったのは、「深淵の洞窟」でした。この洞窟は、最も危険で暗い場所とされていました。洞窟の中で、リオは数々の罠や怪物と戦いながら進みました。そ して、ついに洞窟の最深部で、伝説のドラゴンと対面しました。ドラゴンは、星の涙を守るために長い間孤独に過ごしていたのです。

リオはドラゴンに自分の目的を伝え、星の涙を手に入れるための試練を受けました。ドラゴンは彼に知恵と勇気、そして真心を試しました。リオは見事に試練を乗り越え、 星の涙を手に入れました。

村に戻ったリオは、星の涙を使ってエルドラをさらに豊かで平和な国にしました。彼の冒険は、エルドラの人々にとって永遠に語り継がれる伝説となりました。リオ自身も また、一人前の冒険者として成長し、新たな冒険へと旅立つ準備をしていました。

こうして、リオの物語は終わりを迎えましたが、彼の勇気と誠実さは、未来の世代にも受け継がれていくのでした。
```

名詞が異なっていたり、言い方が異なっていたりするが、内容としては3つとも大きく変わっていない印象。




- temperature = 0.5

1回目
```
昔々、エルドラという広大な王国がありました。この王国には、古くから伝わる伝説がありました。

それは、天空を舞う美しいドラゴンが存在し、そのドラゴンは「星の涙」と呼ばれる神秘的な宝石を守っているというものでした。

その宝石は、持つ者 に無限の力を与えると言われ、長い間、王国の人々にとっての夢であり、希望でした。

主人公のリオは、小さな村で育った普通の少年でしたが、彼の心には常に冒険への憧れがありました。ある日、リオは村の古老から「星の涙」の伝説を聞き、その話に心を奪われました。彼は決意しました。「僕が伝説のドラゴンを探し出し、この宝石 を手に入れるんだ」と。

リオの旅は、険しい山々を越え、深い森を抜け、広大な砂漠を横断するものでした。途中、彼は様々な試練に立ち向かいました。巨大な蜘蛛の巣を避け、暗い洞窟で迷子になりながらも、彼は決して諦めませんでした。彼の心には、村の人々の笑顔や、 自分の夢を叶えたいという強い意志がありました。

旅の途中で、リオは賢者エルダと出会いました。エルダは、星の涙の在り処を知る唯一の存在であり、リオに試練を与えました。それは、心の中の恐怖や疑念を克服することでした。リオは何度も挫けそうになりましたが、エルダの教えと自らの決意を 胸に、一歩一歩進んでいきました。

ついに、リオは伝説のドラゴンが住むと言われる「星の洞窟」にたどり着きました。洞窟の中は、無数の星々が輝く幻想的な空間が広がっていました。リオはドラゴンと対峙し、自分の勇気と信念を試されました。ドラゴンは巨大で恐ろしい姿をしてい ましたが、リオは恐れずに立ち向かいました。

激しい戦いの末、リオはドラゴンの心に触れることができました。ドラゴンは、星の涙がただの宝石ではなく、人々の希望と夢を象徴していることを理解していました。リオはドラゴンに、自分が村の人々のためにこの宝石を探す旅をしていることを伝 えました。ドラゴンはその真摯な心に感動し、星の涙を授けました。

リオは村に戻り、星の涙を使って村を豊かにしました。人々は彼を英雄として称え、彼の勇気と優しさを永遠に語り継ぎました。リオもまた、自分の夢を叶えただけでなく、多くの人々に希望と勇気を与える存在となりました。

こうして、リオの冒険は終わりを迎えましたが、彼の物語は永遠に語り継がれ、エルドラの人々の心に深く刻まれました。星の涙は、今もなお、エルドラの空に輝き続け、未来へと続く希望の象徴となっています。
```

2回目

```
昔々、エルフの森と呼ばれる美しい森の奥深くに、小さな村がありました。この村には、勇敢で心優しい少年、リオが住んでいました。リオは幼い頃から伝説のドラゴン、 「フェニックス」の話を聞いて育ちました。フェニックスは炎を操り、どんな困難も乗り越える力を持つと言われていました。

ある日、村の長老から重大な知らせが届きました。「フェニックスが復活し、再び闇の力が世界を覆おうとしている。しかし、フェニックスの居場所は誰も知らない。勇敢 な者だけがその居場所を見つけられるだろう。」

リオは決意しました。「僕がフェニックスを見つけて、村を守るんだ!」と。彼は旅の準備を整え、村を出発しました。

旅の途中で、リオは様々な仲間と出会いました。まず出会ったのは、知恵者の魔法使い、エリサでした。彼女は古代の地図を持っており、その地図がフェニックスの居場所 を示していると言いました。次に会ったのは、勇敢な戦士、カインでした。彼は強力な剣を持ち、リオの護衛を買って出ました。最後に出会ったのは、不思議な力を持つ妖 精、リリィでした。彼女は自然の声を聞くことができ、道案内をしてくれる存在でした。

四人は力を合わせ、数々の試練を乗り越えました。暗い洞窟を抜け、危険な山を越え、深い谷を渡りました。その過程で、彼らは友情を深め、互いの強みを認め合うように なりました。

ついに、彼らは古代の神殿にたどり着きました。神殿の奥には、巨大な石の扉があり、その扉には複雑なルーン文字が刻まれていました。エリサは古代の言葉を解読し、扉 を開ける方法を見つけ出しました。扉が開くと、中には美しい炎のドラゴンが眠っていました。その名はフェニックス。

フェニックスは目覚め、リオたちに感謝の意を表しました。「あなたたちが私を見つけてくれたおかげで、闇の力は再び封じ込められた。」

リオはフェニックスに村を守るための力を借りました。そして、フェニックスは再び眠りにつき、リオたちは村へと戻りました。村は再び平和を取り戻し、リオは英雄とし て称えられました。

この冒険を通じて、リオは勇気、友情、そして信じる心の大切さを学びました。そして、彼の心には新たな夢が芽生えました。それは、いつかまた訪れるかもしれない危機 に備え、さらに多くの仲間と共に世界を救うことです。

こうして、リオの冒険は終わりを迎えましたが、彼の物語は永遠に語り継がれることとなりました。
```

3回目

```
昔々、エルドラという広大な王国がありました。この王国には、古の時代から伝わる伝説がありました。それは、天空を舞うドラゴンが存在し、そのドラゴンは「星の守護 者」として王国を守っているというものでした。しかし、そのドラゴンは長い間姿を消し、人々の記憶からも忘れ去られていました。

主人公の名前はリオ。彼は小さな村で生まれ育ち、幼い頃から祖父から聞かされたこの伝説に心を奪われていました。リオは勇敢で心優しい少年で、村の人々からも信頼さ れていました。ある日、祖父がリオに一つの古びた地図を手渡しました。その地図には、ドラゴンの隠れ家とされる場所が描かれていました。

「この地図を持って、ドラゴンを探しに行け。」祖父はそう言って、リオの肩を叩きました。リオの心は興奮と不安でいっぱいでしたが、彼は決意を固めました。「必ずド ラゴンを見つけて、エルドラ王国を救うんだ。」

旅の始まりは、リオにとって大きな挑戦でした。彼は村を出発し、険しい山々を越え、深い森を抜け、数々の試練に立ち向かいました。途中、彼は賢者と呼ばれる老人と出 会い、彼からドラゴンの伝説や試練についての知識を学びました。また、リオは仲間となるキャラクターたちとも出会いました。勇敢な戦士のカイン、知恵を持つ魔法使い のリリア、そして心優しい盗賊のゼファー。彼らはそれぞれの理由でドラゴンを探しており、共に旅をすることになりました。

旅の途中で、リオたちは数々の困難に直面しました。暗い洞窟での魔物との戦い、迷宮のような森での迷子、そして古代の遺跡での謎解き。しかし、リオとその仲間たちは 互いに助け合い、困難を乗り越えていきました。彼らの友情と信頼は次第に深まり、それぞれの個性が輝きを増していきます。

最終的に、リオたちはドラゴンの隠れ家にたどり着きました。そこには、美しい光を放つドラゴンが眠っていました。ドラゴンは目覚め、リオたちの勇気と誠実さを認め、 彼らに試練を与えました。それは、真の勇気とは何かを問うものでした。リオたちは力を合わせ、試練を乗り越え、ついにドラゴンと対面しました。

ドラゴンはリオたちに感謝の意を示し、エルドラ王国を守るための力を授けました。リオたちはその力を持ち帰り、王国に平和をもたらしました。人々は再びドラゴンの伝 説を信じ、リオたちの勇気を称えました。

リオの冒険は終わりましたが、彼の心には新たな夢と希望が芽生えていました。それは、エルドラ王国をさらに繁栄させ、未来の世代に平和と繁栄を伝えることでした。こ うして、リオとその仲間たちの物語は、永遠に語り継がれることとなりました。
```

1回目は主人公のリオがドラゴンが持っている「星の涙」と言われる宝石を探す旅に出る話。
「星の涙」は持つ者に無限の力を与えると言われている。

2回目は主人公のリオがフェニックスというドラゴンを探す旅に出る話。
フェニックスは炎を操り、どんな困難も乗り越える力を持つようで、村を守るために探すようだ。

3回目は主人公のリオが天空を舞うドラゴンを探す旅に出る話。
ドラゴンは「星の守護者」として王国を守っているようで、エルドラ王国と言われている王国を救うために探すようだ。

上記3つはそれぞれ内容が違っており、temperature = 0.1よりも多様性や創造性が上がっていました。

- temperature = 1

1回目

```
昔々、遠い山々に囲まれたエルドラ王国物語がありました。この王国には、人々の心に深く刻まれた伝説がありました。それは、かつて世界を恐怖に陥れた巨大なドラゴン が、勇敢な英雄によって倒されたという話でした。しかし、そのドラゴンは実は完全な死を迎えたわけではなく、深い眠りについていたのです。

主人公のリオは、小さな村で育った普通の少年でした。彼の家族は代々この村で農業を営んでおり、特別なことは何もない平凡な生活を送っていました。しかし、ある日、 リオの村に不思議な老人が訪れました。この老人は、古びた地図を握りしめ、リオにこう告げました。「リオ、お前がこのドラゴンを目覚めさせるカギを持っている者だ。 伝説のドラゴンを見つけ出し、世界に平和を取り戻すのだ。」

リオは最初、半信半疑でしたが、老人の真剣な眼差しと地図の謎めいた模様に心を動かされました。彼は冒険の旅に出ることを決意し、村を出ました。道中でリオは、様々 な仲間と出会いました。賢者のエルフ、弓の名手である戦士、そして謎めいた魔法使いの少女。彼らはそれぞれ異なる背景を持ちながらも、共通の目的のために力を合わせ ることになりました。

旅の途中、リオたちは数々の試練に立ち向かいました。暗い森を抜け、古代の遺跡を探索し、恐ろしい怪物たちと戦いました。その過程で、リオは自分自身の弱さや恐怖と 向き合い、仲間たちとの絆を深めていきました。

ついに、リオたちは伝説のドラゴンの住処とされる「永遠の山」にたどり着きました。そこで彼らは、ドラゴンがただの化け物ではなく、かつての英雄が残した最後の希望 であることを知りました。ドラゴンは人々の心から恐怖が消え去った時だけ目を覚ますと言いますが、そのためには純粋な心と勇気が必要でした。

リオたちの行動が実を結び、ついにドラゴンが目覚めました。ドラゴンは最初、人間たちに怒りを示しましたが、リオの勇気と仲間たちの忠誠心が彼に届くと、次第に心を 開いてくれました。ドラゴンは、人間たちが真に平和を求めるならば、共に歩む道があることを告げました。

エルドラ王国は再び平和を取り戻し、リオとその仲間たちは英雄として称えられました。しかし、彼らにとって最も大切なものは、その平和を守るために力を合わせること でした。リオはその後も旅を続け、世界中の人々に希望と勇気を与える存在となりました。そして、彼の名は永遠に語り継がれることとなったのです。

こうして、リオの冒険は終わりを迎えましたが、彼の心には新たな使命が生まれていました。それは、未来の世代もまた、自分と同じように勇気と友情を持って困難を乗り 越えていくように導くことでした。

これが、リオと仲間たちが織りなす壮大なファンタジーの物語です。彼らの旅は、ただの伝説ではなく、現実の世界にも通じる教訓を教えてくれます。
```

2回目

```
昔々、エルドラという広大な王国がありました。その王国の中心には、美しい森と神秘的な湖が広がっていました。しかし、その美しさの背後には、古代から伝わる恐ろし い伝説が存在していました。それは、伝説のドラゴンが住む「ドラゴンの洞窟」の存在でした。このドラゴンは、千年もの間、人々を恐怖に陥れてきました。

主人公のリオは、小さな村に住む12歳の少年でした。彼は幼い頃から祖父から聞かされたドラゴンの伝説に魅了され、いつかそのドラゴンに会い、その力を借りて王国を救 うことを夢見ていました。ある日、リオの祖父が突然倒れ、彼に遺言を残しました。「リオ、お前がドラゴンを探し、村を守ってくれ。」

祖父の言葉を胸に、リオは旅の準備を始めました。彼はまず、村の賢者であるエルダのもとを訪れました。エルダはリオの決意を聞き、彼に古びた地図と魔法の矢を授けま した。「この地図は、ドラゴンの洞窟への道を示している。魔法の矢は、ドラゴンとの戦いで役立つだろう。」

準備を整えたリオは、森の奥深くへと足を踏み入れました。道中で彼は様々な試練に直面しました。巨大な蜘蛛の巣を避け、暗い洞窟の中で迷子になりながらも、彼は決し て諦めませんでした。やがて、リオは地図に記された「ドラゴンの目印」にたどり着きました。そこには、古びた石碑が立っていました。石碑には、ドラゴンが眠る場所を 示す謎めいた詩が刻まれていました。

詩を解読したリオは、さらに深い森の奥へと進む決意を固めました。そして、ついにドラゴンの眠る洞窟の入口にたどり着きました。洞窟の中は暗く、冷たい風が吹き抜け ていました。リオは魔法の矢を構え、心の中で祖父の声に応えました。「ドラゴンよ、目覚めるがいい。村を守るために!」

洞窟の最深部で、リオは巨大なドラゴンと対峙しました。ドラゴンはその巨大な翼を広げ、炎を吐きました。しかし、リオは勇敢にも立ち向かい、エルダに授かった知恵と 魔法の矢を駆使しました。激しい戦いの末、リオはドラゴンを説得し、その力を借りることで、王国に平和を取り戻すことができました。

リオの冒険が終わり、彼は再び村へと戻りました。村は彼の勇気と知恵を称え、彼の名は永遠に語り継がれるものとなりました。リオはその後も、村の守護者としてドラゴ ンの伝説を守り続けました。そして、彼の物語は、次の世代へと受け継がれていくのでした。
```

3回目

```
昔々、エルドラという広大な王国がありました。この王国の北端には、古の伝説が語り継がれる森が広がっていました。その森には、かつて天空の神々から選ばれた勇者に よって封印された「天龍カイダロン」が眠っていると言われていました。しかし、その封印は長い年月の中で弱まり、今では再び目覚めの時を迎えようとしているのです。

主人公は、小さな村に住む少年リオでした。リオは幼い頃から冒険心に溢れており、村の大人たちからもその好奇心と勇気を称賛されていました。ある日、村の長老である エルダーがリオを呼び出し、深刻な表情で話し始めました。「リオよ、村の北にある古い森には、ドラゴンが眠っていると言われている。もしそのドラゴンが再び目覚めた ら、王国は滅びの危機に瀕するだろう。伝説によれば、ドラゴンを封じるためには、勇者だけが持つと言われる『ドラゴンスレイヤーの剣』が必要だ。」

長老はリオに剣の在り処を示す地図を渡し、「この地図を持って、北の森へ向かい、ドラゴンを再び封印してこい。それができれば、あなたは真の勇者となるだろう。」と 言いました。

決意を固めたリオは、必要な装備を整え、旅に出ました。道中、彼はさまざまな困難に直面しました。暗い洞窟を抜け、恐ろしい怪物と戦い、時には知恵を絞って難題を解 決しなければなりませんでした。しかし、リオの心の中にはいつも村の人々や家族の笑顔がありました。それが彼の原動力となっていました。

数週間後、ついにリオは古い森にたどり着きました。森の奥深く、巨大な洞窟の入り口には、錆びついた剣が輝いていました。リオは慎重に剣を手に取り、その力を感じま した。伝説の剣は、ただの武器ではなく、カイダロンを封じる力を持っていたのです。

洞窟内を進むうちに、リオはカイダロンの意識と対面することになりました。カイダロンは長い眠りから目覚め、自分がなぜ封印されたのかを語り始めました。そして、王 国を守るために、もう一度カイダロンの力が必要であることを告げました。リオはカイダロンの願いを聞き入れ、剣を使って再び封印を施しました。

ドラゴンが完全に封印されると、王国には再び平和が戻りました。リオは村に戻り、英雄として迎えられました。彼の勇気と知恵は、村人たちに希望と勇気を与え続けまし た。そして、リオ自身もまた、新たな伝説の一部となり、未来へと語り継がれていくのでした。

こうして、リオの冒険は終わりを迎えましたが、彼の物語は永遠にエルドラの人々の心に刻まれました。勇気と絆があれば、どんな困難も乗り越えられるという教訓を、彼 は次の世代に伝えていくのでした。
```

temperature=0.5の時同様、多様性や創造性があるように見えました。
しかし、以下のように日本語が少し変になってしまうこともありました。
temperatureを上げすぎると、ランダム性が上がるので、日本語が変になる可能性もあるのかなと思いました。


```
遠い山々に囲まれたエルドラ王国物語がありました。
```

```
リオはカイダロンの意識と対面することになりました。
```

temperature=0.5付近が日本語も正しく、多様性や創造性があったと感じました。


# repetition_penaltyを変更
repetition_penaltyの値を上げることで、繰り返しが抑制されているのかを主観評価してみました。

- repetition_penalty=0.5

1回目
```
### ドラゴンの伝説

### 物語の書き

### 物語の書き

### 物語の書き

### 物語の書き

### 物語の書き

### 物語の書き

### 物語の書き
・・・・・
```
「### 物語の書き」という文が繰り返されている。
repetition_penaltyを下げすぎると繰り返しが起きてしまいました。

- repetition_penalty=1.0
```
昔々、エルドラという王国に、小さな村に住む少年アレンが住んでいました。アレンは好奇心旺盛で、村の図書館で多くの古い書物を読むのが大好きでした。ある日、彼は 一冊の古びた本を見つけました。その本は「ドラゴンの遺産」と題され、古代の伝説について書かれていました。

本の中には、エルドラの地に古くから伝わる伝説が書かれていました。それは、かつてこの地には強大なドラゴンが存在し、その力を封じ込めるために特別な遺産が隠され ているというものでした。その遺産は、ドラゴンが残したと言われる「ドラゴンの鱗」という宝石で、持つ者に無限の力を与えると言われています。

アレンはこの伝説に心を奪われ、ドラゴンの鱗を探しに行くことを決意しました。彼は村の賢者であるエルダーに相談しましたが、エルダーは慎重な姿勢を見せました。「 ドラゴンは恐ろしい存在だ。しかし、その力を正しく使えば、世界をより良くすることもできるのだ。」

アレンはエルダーの助言を胸に、旅の準備を始めました。彼にはいくつかの友人がいました。リナは薬草に詳しい少女で、カインは優れた剣士として知られていました。彼 らはアレンの勇気と決意に感銘を受け、共に旅をすることを決めました。

旅の途中、彼らは数々の試練に立ち向かいました。暗い森を抜け、険しい山を登り、深い洞窟を探検しました。ある夜、キャンプファイヤーを囲んで、アレンはリナからド ラゴンについての話を聞きました。リナは、ドラゴンは善悪どちらにもなり得る存在であり、その行いが世界にどんな影響を与えるかは持ち主次第だと語りました。

やがて、彼らはエルドラの北に位置する「ドラゴンの遺跡」にたどり着きました。そこには、巨大な石像があり、その口にはドラゴンの鱗がはめ込まれていました。しかし 、その鱗を手に入れるためには、遺跡の守護者である「守護者の試練」を乗り越えなければなりませんでした。

アレンと仲間たちは力を合わせて試練に挑みました。カインの剣技とリナの薬草の知識が役立ち、彼らは見事に試練を突破しました。そして、ついにドラゴンの鱗を手に入 れることに成功しました。

アレンはドラゴンの鱗を持ち帰り、村に戻りました。村の人々は彼の勇気と知恵を称賛し、鱗の力を使って村の生活を豊かにする方法を考えました。アレンはその力を平和 と繁栄のために使い、エルドラは再び輝きを取り戻しました。

この冒険を通じて、アレンは真のリーダーとなりました。彼はただ伝説を追い求めるだけでなく、その力をどう使うべきかを深く考え、村全体のためにその力を使ったので す。そして、彼の名は永遠に語り継がれることとなりました。
```
日本語に誤りもなく、正しく物語が生成できているように見える。

- repetition_penalty=1.5
```
昔々、広大なエルドラ王国には美しい森と神秘的な湖が広がっていましたで育ちます》その名もアレックス（Alex)という少年がいました。アレクスはいつも絵本や冒険談の中から抜け出したような壮大な世界に憧れていましたが、現実はまだ見ぬ異界への扉でした。しかし彼にとって運命とも言えるべき日がついにやってまいりました。「古文 書によるとね...」年老いた賢者エルダー老人がある夜遅くまで語り続けたのです、「遠き山脈の間に住むと言われる『光竜』ルミナリオンこそ、真なる力を持つ存在なのだよ」と。この話をきっかけにして、アレクサンダー(略称アレク= Alexonder)こと通称えらぶ君は一大決心しましたーそれは伝説の龍“ルミナス”探しの旅へ!💫✨
さてここはどこでしょう?まず最初の手掛かりとして手に入れた地図によればq山岳地帯へと向かう途中の森を通らなければならないようです⛰そこで出会ったのは不思議な ししたち...ではなくって小さな妖精姉妹三人組!「一緒にも行けるけどどうする?」なんて言ってくれたものだから迷わず同行することに決定～。彼女たちは実は古代魔法により目覚めたばかりのご近所さんだったのです~♪さあ準備万端だ、いざ出発じゃ!!🚀```python``html"""`https://example.com/img123 # このリンク先画像参照 http//www.unsplash.com
```
repetition_penaltyを1.5まで上げてしまうと、なるべく繰り返しを起こさないようにしているのか、絵文字などを使い始めました。


- repetition_penalty=2.0
```
昔々、エルフと人間の間に生まれた少年リオナがいました
```

自己紹介文のようなもののみ出力されるようになってしまいました。



repetition_penaltyの値を上げるにつれて、繰り返しは抑制されていきました。
しかし、上げすぎると絵文字の使用や話の口調なども変わっていきなるべく繰り返しを起こさずに生成されているということが分かりました。

# num_beamsを変更
num_beamsの値を変更した際に出力の変化があるかを主観評価しました。

- num_beams=1
```
昔々、エルドラという広大な王国がありました。この王国には、古くから伝わる伝説がありました。それは、天空を舞う巨大なドラゴンが存在し、そのドラゴンは「星の守 護者」と呼ばれ、王国に平和と繁栄をもたらしているというものでした。しかし、ある日突然、そのドラゴンは姿を消し、王国は混乱に陥りました。

主人公のリオは、小さな村に住む普通の少年でした。彼は幼い頃から冒険心に満ちており、村の古老から伝説のドラゴンの話を聞くたびに胸を躍らせていました。ある日、 古老はリオに言いました。「リオ、お前が伝説のドラゴンを見つけ出し、再び王国に平和をもたらすのだ。」

リオは決意を固め、旅に出ることを決めました。彼は村を出発し、険しい山々を越え、深い森を抜け、広大な砂漠を横断しました。道中、彼は様々な仲間と出会いました。 勇敢な戦士のカイン、知恵者の魔法使いエリサ、そして心優しい盗賊のリナ。彼らはそれぞれ異なる背景を持ちながらも、共通の目的のために力を合わせることを決意しま した。

旅の途中で、リオたちは数々の試練に立ち向かいました。暗い洞窟での謎解きや、強力な魔物との戦い、そして裏切りと友情の狭間での葛藤。しかし、彼らはお互いを信じ 、助け合いながら前進し続けました。

やがて、リオたちは伝説のドラゴンが住むと言われる「星の洞窟」にたどり着きました。洞窟の奥深くで、彼らはついにドラゴンと対面しました。ドラゴンは巨大で威厳に 満ちていましたが、その瞳には悲しみが宿っていました。実は、ドラゴンは人間の欲望によって傷つけられ、孤独を感じていたのです。

リオたちはドラゴンに、自分たちの欲望が他者を傷つけることを理解し、真の平和と繁栄をもたらすためには何が必要かを説きました。ドラゴンは彼らの言葉に心を動かさ れ、再び王国に平和をもたらすために協力することを誓いました。

こうして、リオとその仲間たちはドラゴンと共に王国に戻り、新たな時代を築きました。彼らの冒険は終わりではなく、新たな始まりでした。王国は再び平和と繁栄を取り 戻し、人々は彼らの勇気と友情を称えました。

リオはその後も冒険を続け、多くの人々に希望と勇気を与え続けました。彼の物語は、世代を超えて語り継がれ、エルドラ王国の伝説として永遠に輝き続けるのでした。
```
主人公のリオがドラゴンを見つけ出す旅に出る話です。
古老に言われて旅に出ていますね。

- num_beams=4
```
昔々、エルドラという広大な王国がありました。この王国には、古くから伝わる伝説がありました。それは、天空を舞う巨大なドラゴンが存在し、そのドラゴンは「星の守 護者」と呼ばれ、王国に平和と繁栄をもたらしているというものでした。しかし、ある日突然、そのドラゴンは姿を消し、王国は混乱に陥りました。

主人公のリオは、小さな村に住む普通の少年でした。彼は幼い頃から冒険心に満ちており、村の図書館で古い書物を読み漁るのが大好きでした。その中でも特に興味を引か れたのは、「星の守護者」の伝説でした。リオは、ドラゴンが再び現れ、王国を救う日が来ることを信じていました。

ある日、リオは村の長老から特別な地図を見せられました。その地図には、ドラゴンが最後に目撃された場所とされる「星の洞窟」への道筋が描かれていました。リオは決 意を固め、旅に出ることを決めました。

旅の途中、リオは様々な試練に立ち向かいました。険しい山々を越え、深い森を抜け、暗い洞窟を探検しました。その過程で、リオは仲間たちと出会いました。勇敢な戦士 のカイン、知恵者の魔法使いのエリス、そして心優しい盗賊のリナ。彼らはそれぞれ異なる背景を持ちながらも、共通の目的のために力を合わせることを決意しました。

星の洞窟にたどり着いたリオたちは、そこで驚くべき光景を目にしました。洞窟の奥深くには、美しい光を放つドラゴンが眠っていました。しかし、そのドラゴンはただ眠 っているだけではなく、強力な魔法で守られていました。リオたちは力を合わせてドラゴンを目覚めさせ、その力を借りて王国に平和を取り戻す方法を見つけ出しました。

最終的に、リオたちはドラゴンと共に王国に戻り、その力を使って邪悪な魔法使いを打ち破りました。王国は再び平和と繁栄を取り戻し、人々はリオとその仲間たちを英雄 として称えました。

リオの冒険は終わりましたが、彼の心には新たな夢が芽生えていました。それは、もっと多くの人々に希望と勇気を与えることでした。そして、彼はこれからも新たな冒険 へと旅立つことを決意しました。

こうして、リオとその仲間たちの物語は、永遠に語り継がれることとなりました。彼らの勇気と友情は、エルドラの人々にとって永遠の灯火となったのです。
```

こちらも主人公のリオがドラゴンを探す旅に出る話です。
こちらは、主人公自身でドラゴンを探す旅に出ると決めていると感じました。

- num_beams=6

```
昔々、エルドラという広大な王国がありました。この王国には、古くから伝わる伝説がありました。それは、天空を舞う巨大なドラゴンが存在し、そのドラゴンは「星の守 護者」と呼ばれ、王国に平和と繁栄をもたらしているというものでした。しかし、ある日突然、そのドラゴンは姿を消し、王国は混乱に陥りました。

主人公のリオは、小さな村に住む普通の少年でした。彼は幼い頃から冒険心に満ちており、村の図書館で古い書物を読み漁るのが大好きでした。その中でも特に興味を引か れたのは、「星の守護者」の伝説でした。リオは、ドラゴンが再び現れ、王国を救う日が来ることを信じていました。

ある日、リオは村の長老から特別な地図を見せられました。その地図には、ドラゴンが最後に目撃された場所とされる「星の洞窟」への道筋が描かれていました。リオは決 意を固め、旅に出ることを決めました。

旅の途中、リオは様々な試練に立ち向かいました。深い森を抜け、険しい山を越え、暗い洞窟を探検しました。途中で出会った仲間たち—勇敢な戦士のカイン、知恵者の魔 法使いエリサ、そして心優しい盗賊のリナ—と共に、彼らは数々の困難を乗り越えていきました。

ついに、リオたちは「星の洞窟」にたどり着きました。洞窟の中は暗く、冷たい空気が漂っていましたが、リオの心は希望に満ちていました。洞窟の奥深くで、彼らはつい に伝説のドラゴン、ルミナに出会いました。ルミナは美しい鱗を持ち、その瞳には無限の知恵と優しさが宿っていました。

ルミナはリオの勇気と誠実さを認め、彼に王国を救う使命を託しました。リオは仲間たちと共に、王国に戻り、ドラゴンの力を借りて闇の勢力を打ち破りました。王国は再 び平和を取り戻し、人々はリオとその仲間たちを英雄として称えました。

リオの冒険は終わりましたが、彼の心には新たな夢が芽生えていました。それは、もっと多くの人々に勇気と希望を与えることでした。彼はこれからも、新たな冒険を求め て旅を続けることを決意しました。

こうして、リオとその仲間たちの物語は、永遠に語り継がれることとなりました。彼らの勇気と友情は、エルドラの人々にとって永遠の灯火となったのです。
```

こちらも内容はnum_beamsが1と4の時と大きく変わりませんでした。


num_beamsの値を変化させると大きな出力の変化はありませんでしたが、旅の途中の洞窟の話に違いが見られました。
num_beamsの値を6にした際、6つのビームから一番確率が高いものをとってきているため、Tanuki的にはnum_beams=6の物語が一番良いということなんですかね。

# diversity_penaltyを変更(num_beam_groups=3、num_beams=6で実施)
今回、num_beam_groups = 3、num_beams=6としてdiversity_penaltyの値を上げていった際にどのように多様性や創造性が強くなっていくのか見ていきました。
変化が分かりやすいようにそれぞれ2回ずつ推論させてみました。
diversity_penaltyの値を変化させた際に多様性や創造性が上がったかを主観評価しました。

- num_beam_groups = 3、diversity_penalty=0.1(num_beams=6)

1回目

```
昔々、エルドラという広大な王国がありました。この王国には、古くから伝わる伝説がありました。それは、天空を舞う巨大なドラゴンが存在し、そのドラゴンは「星の守護者」と呼ばれ、王国に平和と繁栄をもたらしているというものでした。しかし、ある日突然、そのドラゴンは姿を消し、王国は混乱に陥りました。

主人公のリオは、小さな村に住む普通の少年でした。彼は幼い頃から冒険心に満ちており、村の古老から伝説のドラゴンの話を聞くたびに胸を躍らせていました。ある日、古老はリオに言いました。「リオ、お前が伝説のドラゴンを見つけ出し、再び王国に平和をもたらすのだ。」

リオは決意を固め、旅に出ることを決めました。彼は村を出発し、険しい山々を越え、深い森を抜け、広大な砂漠を横断しました。途中で出会った仲間たち—勇敢な戦士のカイン、知恵者の魔法使いエリサ、そして心優しい盗賊のリナ—と共に、彼らは数々の試練を乗り越えていきました。

ある日、リオたちは古代の遺跡にたどり着きました。そこには、ドラゴンの居場所を示すと言われる「星の石」が隠されているという伝説がありました。遺跡の中で、リオたちは数々の罠や謎を解き明かし、ついに「星の石」を手に入れることに成功しました。

その瞬間、空が暗くなり、巨大なドラゴンが姿を現しました。ドラゴンは星の守護者であり、長い間眠りについていたのです。リオは勇気を振り絞り、ドラゴンに話しかけました。「私はリオ、あなたを探しに来ました。王国に平和を取り戻すために。」

ドラゴンは静かにうなずき、リオたちに試練を与えました。それは、真の勇気と友情を試すものでした。リオたちは力を合わせて試練を乗り越え、ついにドラゴンと心を通わせることができました。

ドラゴンはリオたちに感謝の意を示し、再び王国に平和をもたらすための力を授けました。リオたちは王国に戻り、ドラゴンと共に新たな時代を築きました。エルドラ王国は再び繁栄し、人々は平和と幸福を享受することができました。

リオの冒険は終わりましたが、彼の心には新たな夢が芽生えました。それは、もっと多くの人々に希望と勇気を与えることでした。そして、彼はこれからも仲間たちと共に、新たな冒険へと旅立つことを誓ったのです。

こうして、リオとその仲間たちの物語は、永遠に語り継がれることとなりました。エルドラ王国は、彼らの勇気と友情によって、いつまでも輝き続けるのでした。
```

2回目

```
昔々、エルドラという広大な王国がありました。この王国には、古くから伝わる伝説がありました。それは、天空を舞う巨大なドラゴンが存在し、そのドラゴンは「星の守護者」と呼ばれ、王国に平和と繁栄をもたらしているというものでした。しかし、ある日突然、そのドラゴンは姿を消し、王国は混乱に陥りました。

主人公のリオは、小さな村に住む普通の少年でした。彼は幼い頃から冒険心に満ちており、村の古老から伝説のドラゴンの話を聞くたびに胸を躍らせていました。ある日、古老はリオに言いました。「リオ、お前が伝説のドラゴンを見つけ出し、再び王国に平和をもたらすのだ。」

リオは決意を固め、旅に出ることを決めました。彼は村を出発し、険しい山々を越え、深い森を抜け、広大な砂漠を横断しました。途中で出会った仲間たち—勇敢な戦士のカイン、知恵者の魔法使いエリサ、そして心優しい盗賊のリナ—と共に、彼らは数々の試練を乗り越えていきました。

ある日、リオたちは古代の遺跡にたどり着きました。そこには、ドラゴンの居場所を示すと言われる「星の石」が隠されているという伝説がありました。遺跡の中で、リオたちは数々の罠や謎を解き明かし、ついに「星の石」を手に入れることに成功しました。

その瞬間、空が暗くなり、巨大なドラゴンが姿を現しました。ドラゴンは星の守護者であり、長い間眠りについていたのです。リオは勇気を振り絞り、ドラゴンに話しかけました。「私はリオ、あなたを探しに来ました。王国に平和を取り戻すために。」

ドラゴンは静かにうなずき、リオたちに試練を与えました。それは、真の勇気と友情を試すものでした。リオたちは力を合わせて試練を乗り越え、ついにドラゴンと心を通わせることができました。

ドラゴンはリオたちに感謝の意を示し、再び王国に平和をもたらすための力を授けました。リオたちは王国に戻り、ドラゴンと共に新たな時代を築きました。エルドラ王国は再び繁栄し、人々は平和と幸福を享受することができました。

リオの冒険は終わりましたが、彼の心には新たな夢が芽生えました。それは、もっと多くの人々に希望と勇気を与えることでした。そして、彼はこれからも仲間たちと共に、新たな冒険へと旅立つことを誓ったのです。

こうして、リオとその仲間たちの物語は、永遠に語り継がれることとなりました。エルドラ王国は、彼らの勇気と友情によって、いつまでも輝き続けるのでした。
```

今まで通りのドラゴンを探す旅に出る話ですね。

- num_beam_groups = 3、diversity_penalty=0.5(num_beams=6)

1回目

```
昔々、エルドラという広大な王国がありました。この王国には、古くから伝わる伝説がありました。それは、天空を舞う巨大なドラゴンが存在し、そのドラゴンは「星の守護者」と呼ばれ、王国に平和と繁栄をもたらしているというものでした。しかし、ある日突然、そのドラゴンは姿を消し、王国は混乱に陥りました。

主人公のリオは、小さな村に住む普通の少年でした。彼は幼い頃から冒険心に満ちており、村の古老から伝説のドラゴンの話を聞くたびに胸を躍らせていました。ある日、古老はリオに言いました。「リオ、お前が伝説のドラゴンを見つけ出し、再び王国に平和をもたらすのだ。」

リオは決意を固め、旅に出ることを決めました。彼は村を出発し、険しい山々を越え、深い森を抜け、広大な砂漠を横断しました。途中で出会った仲間たち—勇敢な戦士のカイン、知恵者の魔法使いエリサ、そして心優しい盗賊のリナ—と共に、彼らは数々の試練を乗り越えていきました。

ある日、リオたちは古代の遺跡にたどり着きました。そこには、ドラゴンの居場所を示すと言われる「星の石」が隠されているという伝説がありました。遺跡の中で、リオたちは数々の罠や謎を解き明かし、ついに「星の石」を手に入れることに成功しました。

その瞬間、空が暗くなり、巨大なドラゴンが姿を現しました。ドラゴンは星の守護者であり、長い間眠りについていたのです。リオは勇気を振り絞り、ドラゴンに話しかけました。「私はリオ、あなたを探しに来ました。王国に平和を取り戻すために。」

ドラゴンは静かにうなずき、リオたちに試練を与えました。それは、真の勇気と友情を試すものでした。リオたちは力を合わせて試練を乗り越え、ついにドラゴンと心を通わせることができました。

ドラゴンはリオたちに感謝の意を示し、再び王国に平和をもたらすための力を授けました。リオたちは王国に戻り、ドラゴンと共に新たな時代を築きました。エルドラ王国は再び繁栄し、人々は平和と幸福を享受することができました。

リオの冒険は終わりましたが、彼の心には新たな夢が芽生えました。それは、もっと多くの人々に希望と勇気を与えることでした。そして、彼はこれからも仲間たちと共に、新たな冒険へと旅立つことを誓ったのです。

こうして、リオとその仲間たちの物語は、永遠に語り継がれることとなりました。エルドラ王国は、彼らの勇気と友情によって、いつまでも輝き続けるのでした。
```

2回目

```
昔々、エルドラという広大な王国がありました。この王国には、古くから伝わる伝説がありました。それは、天空を舞う巨大なドラゴンが存在し、そのドラゴンは「星の守護者」と呼ばれ、王国に平和と繁栄をもたらしているというものでした。しかし、ある日突然、そのドラゴンは姿を消し、王国は混乱に陥りました。

主人公のリオは、小さな村に住む普通の少年でした。彼は幼い頃から冒険心に満ちており、村の古老から伝説のドラゴンの話を聞くたびに胸を躍らせていました。ある日、古老はリオに言いました。「リオ、お前が伝説のドラゴンを見つけ出し、再び王国に平和をもたらすのだ。」

リオは決意を固め、旅に出ることを決めました。彼は村を出発し、険しい山々を越え、深い森を抜け、広大な砂漠を横断しました。途中で出会った仲間たち—勇敢な戦士のカイン、知恵者の魔法使いエリサ、そして心優しい盗賊のリナ—と共に、彼らは数々の試練を乗り越えていきました。

ある日、リオたちは古代の遺跡にたどり着きました。そこには、ドラゴンの居場所を示すと言われる「星の石」が隠されているという伝説がありました。遺跡の中で、リオたちは数々の罠や謎を解き明かし、ついに「星の石」を手に入れることに成功しました。

その瞬間、空が暗くなり、巨大なドラゴンが姿を現しました。ドラゴンは星の守護者であり、長い間眠りについていたのです。リオは勇気を振り絞り、ドラゴンに話しかけました。「私はリオ、あなたを探しに来ました。王国に平和を取り戻すために。」

ドラゴンは静かにうなずき、リオたちに試練を与えました。それは、真の勇気と友情を試すものでした。リオたちは力を合わせて試練を乗り越え、ついにドラゴンと心を通わせることができました。

ドラゴンはリオたちに感謝の意を示し、再び王国に平和をもたらすための力を授けました。リオたちは王国に戻り、ドラゴンと共に新たな時代を築きました。エルドラ王国は再び繁栄し、人々は平和と幸福を享受することができました。

リオの冒険は終わりましたが、彼の心には新たな夢が芽生えました。それは、もっと多くの人々に希望と勇気を与えることでした。そして、彼はこれからも仲間たちと共に、新たな冒険へと旅立つことを誓ったのです。

こうして、リオとその仲間たちの物語は、永遠に語り継がれることとなりました。エルドラ王国は、彼らの勇気と友情によって、いつまでも輝き続けるのでした。
```

diversity_penalty=0.1の時と変化なしでした。


- num_beam_groups = 3、diversity_penalty = 1.0(num_beams=6)

1回目

```
昔々、エルドラという広大な王国がありました。この王国には、古くから伝わる伝説がありました。それは、天空を舞う巨大なドラゴンが存在し、そのドラゴンは「星の守護者」と呼ばれ、王国に平和と繁栄をもたらしているというものでした。しかし、ある日突然、そのドラゴンは姿を消し、王国は混乱に陥りました。

主人公のリオは、小さな村に住む普通の少年でした。彼は幼い頃から冒険心に満ちており、村の古老から伝説のドラゴンの話を聞くたびに胸を躍らせていました。ある日、古老はリオに言いました。「リオ、お前が伝説のドラゴンを見つけ出し、再び王国に平和をもたらすのだ。」

リオは決意を固め、旅に出ることを決めました。彼は村を出発し、険しい山々を越え、深い森を抜け、広大な砂漠を横断しました。途中で出会った仲間たち—勇敢な戦士のカイン、知恵者の魔法使いエリサ、そして心優しい盗賊のリナ—と共に、彼らは数々の試練を乗り越えていきました。

ある日、リオたちは古代の遺跡にたどり着きました。そこには、ドラゴンの居場所を示すと言われる「星の石」が隠されているという伝説がありました。遺跡の中で、リオたちは数々の罠や謎を解き明かし、ついに「星の石」を手に入れることに成功しました。

その瞬間、空が暗くなり、巨大なドラゴンが姿を現しました。ドラゴンは星の守護者であり、長い間眠りについていたのです。リオは勇気を振り絞り、ドラゴンに話しかけました。「私はリオ、あなたを探しに来ました。王国に再び平和をもたらすために。」

ドラゴンは静かにうなずき、リオたちに試練を与えました。それは、真の勇気と友情を試すものでした。リオたちは力を合わせて試練を乗り越え、ついにドラゴンと心を通わせることができました。

ドラゴンはリオたちに感謝の意を示し、再び王国に平和をもたらすための力を授けました。リオたちは王国に戻り、ドラゴンの助けを借りて新たな時代を築きました。エルドラ王国は再び繁栄し、人々は平和と幸福を享受することができました。

リオの冒険は終わりましたが、彼の心には新たな夢が芽生えていました。それは、もっと多くの人々に希望と勇気を与えることでした。そして、彼はこれからも仲間たちと共に、新たな冒険へと旅立つことを誓ったのでした。

こうして、エルドラ王国には再び平和と繁栄が訪れ、リオの伝説は永遠に語り継がれることとなりました。
```

2回目

```
昔々、エルドラという広大な王国がありました。この王国には、古くから伝わる伝説がありました。それは、天空を舞う巨大なドラゴンが存在し、そのドラゴンは「星の守護者」と呼ばれ、王国に平和と繁栄をもたらしているというものでした。しかし、ある日突然、そのドラゴンは姿を消し、王国は混乱に陥りました。

主人公のリオは、小さな村に住む普通の少年でした。彼は幼い頃から冒険心に満ちており、村の古老から伝説のドラゴンの話を聞くたびに胸を躍らせていました。ある日、古老はリオに言いました。「リオ、お前が伝説のドラゴンを見つけ出し、再び王国に平和をもたらすのだ。」

リオは決意を固め、旅に出ることを決めました。彼は村を出発し、険しい山々を越え、深い森を抜け、広大な砂漠を横断しました。途中で出会った仲間たち—勇敢な戦士のカイン、知恵者の魔法使いエリサ、そして心優しい盗賊のリナ—と共に、彼らは数々の試練を乗り越えていきました。

ある日、リオたちは古代の遺跡にたどり着きました。そこには、ドラゴンの居場所を示すと言われる「星の石」が隠されているという伝説がありました。遺跡の中で、リオたちは数々の罠や謎を解き明かし、ついに「星の石」を手に入れることに成功しました。

その瞬間、空が暗くなり、巨大なドラゴンが姿を現しました。ドラゴンは星の守護者であり、長い間眠りについていたのです。リオは勇気を振り絞り、ドラゴンに話しかけました。「私はリオ、あなたを探しに来ました。王国に再び平和をもたらすために。」

ドラゴンは静かにうなずき、リオたちに試練を与えました。それは、真の勇気と友情を試すものでした。リオたちは力を合わせて試練を乗り越え、ついにドラゴンと心を通わせることができました。

ドラゴンはリオたちに感謝の意を示し、再び王国に平和をもたらすための力を授けました。リオたちは王国に戻り、ドラゴンの助けを借りて新たな時代を築きました。エルドラ王国は再び繁栄し、人々は平和と幸福を享受することができました。

リオの冒険は終わりましたが、彼の心には新たな夢が芽生えていました。それは、もっと多くの人々に希望と勇気を与えることでした。そして、彼はこれからも仲間たちと共に、新たな冒険へと旅立つことを誓ったのでした。

こうして、エルドラ王国には再び平和と繁栄が訪れ、リオの伝説は永遠に語り継がれることとなりました。
```

diversity_penalty = 0.5の時と大きく変化はありませんでしたが、一番最後の行に変化がありました。


diversity_penaltyはnum_beam_groupsでビームをいくつかのグループに分けた際、グループ間で同じトークンが選ばれたら、ペナルティを与えるものです。
そのため、diversity_penalty = 1.0の際にその効果が働き、一番確率の高いビームがdiversity_penalty = 0.5の時と異なっているんだと思います。

# 最後に
今回、LLMで推論させる際の推論パラメータに着目して、推論パラメータの値を変えた際の出力の変化を見てみました。
普段、推論パラメータに着目して、推論することはあまりなかったため、とても良い勉強になりました。
今回、物語生成のタスクで実施しましたが、他のタスクでも活用できると思いますので、参考にしていただければと思います。
推論パラメータは今回検証した以外にもあるので、今後他の推論パラメータについても検証していけたらなと思います。
ここまで読んでいただきありがとうございました。


# 参考文献
[^1]:https://huggingface.co/docs/transformers/v4.47.1/en/main_classes/text_generation
[^2]:https://qiita.com/xxyc/items/8f5c2a91df8ea71a9a93
[^3]:https://huggingface.co/docs/transformers/ja/generation_strategies