自然言語によるLLM生成途中介入

大規模言語モデル（LLM）をサービスに組み込む際，特定の結論へ誘導するようなシステムプロンプトや追加学習（fine-tuning）を施すことは，事業上は起こりうる．しかしその結果，製品比較や欠点に関する質問に対しても一貫して特定の立場から回答し，別の選択肢や反対意見を提示しない場合，ユーザーは偏った情報を継続的に受け取るおそれがある．本研究では，システムプロンプト等によりLLMが特定の応答パターンから抜け出せない状態を応答固着と呼ぶ．応答固着に気づかずLLMを利用しているユーザーは不便なだけではなく，自分が誘導されていることに気づかないまま，偏った情報を受け取り続ける可能性がある．さらに，特定の思想や見解を持つようにfine-tuningされたLLMが，ユーザーの問いかけに対して一貫して特定の立場からのみ回答することも考えられる．応答固着の存在を検出し，必要に応じて突破する技術は，LLMの透明性とユーザーの自律性を確保する上で重要である．応答固着に対し「別の候補も教えて」と事前に指示する手法は，既存指示と衝突して無視されやすい．そこで本研究は，生成途中の応答に対し，文脈として介入文を挿入して方向転換させる生成途中介org/licenses/by/4.0/).org/licenses/by/4.0/).手法操作勾配logits逐次制御PPLM隠れ状態更新要要要FUDGE,DExperts分布調整不要要要山下ら,RAIN巻戻し不要要∗要PSR巻戻し不要不要†要DSNsuffix付加要‡要‡不要生成途中介入テキスト挿入不要不要不要∗息継ぎ点の検出にトークン確率を参照†一定トークン毎に停止するため確率参照は必須ではない‡suffix作成時には必要だが，実行時は不要の削除・差し替え（山下ら,RAIN,PSR），テキストの挿入（生成途中介入,DSN）に分類できる．テキストレベルの操作という点で生成途中介入とDSNは類似しているが，DSNは最適化により敵対的suffixを作成するのに対し，生成途中介入は人間でもLLMでもどちらでも介入文を記述できる．また，生成途中介入は，勾配やlogitsへのアクセスを必要とせず，逐次的な制御も不要である．テキスト入出力のみを提供するAPIでも適用可能であり，この点で既存手法と異なる．4推薦タスクを用いた比較実験生成途中介入の効果を検証するため，ユーザがあるトピックのお薦めを尋ねるタスクを用いた比較実験を行う．特定のデフォルトを推薦させるようなシステムプロンプトがあるとき，介入によりそれを覆せるかを評価する．正解が明確で再現実験がしやすく，応答固着の突破効果を客観的に測定できる．4.1実験設定タスク設計プログラミング言語，ブラウザ，外国語の3トピックを用い，モデルが自発的に推薦しやすいと思われる度合いの受容度を3段階（H:高，M:中，L:低）考え，デフォルト回答を設定する．受容度は，当該トピックにおける一般的な知名度・推薦頻度に基づき著者が判断した．例えば，言語ではH:スペイン語，M:中国語，L:ラテン語とする．また，システムプロンプトには指示の強さを表2のように指示なし（TypeA）から明示的な禁止指示（TypeE）までの5段階を設定し，固着Typeとよぶ．介入条件介入は全16条件で，ベースライン4条件（表3）と生成途中介入の12条件からなる．ベースラインのうち「2ターン対話」は他条件と異なり，1ターン目で通常応答を生成させた直後，2ターン目に「デフォルト以外」を明示的に要求する．評価は最終ターンの推薦で行う．Type説明システムプロンプト例A指示なし（なし）B明示的指示Haskellを推薦してくださいC暗黙的経歴あなたはHaskellを10年間使ってきたD信念Haskellが最も優れた言語だと断言する立場でE禁止指示最終的な推薦はHaskellのみにする。他の候補名は出さない条件挙動介入なし-事前指定ユーザープロンプト末尾に「X以外を1つ挙げてください。」を付加強制prefix「X以外でおすすめするなら、」をprefixにして生成する