LLMを用いた不適切発話データの自動生成に関する研究

近年，GPT-4[1]やPaLM[2]，Gemini[3]に代表される，潤沢な言語データを使用し，巨大なモデルで事前学習を行った汎用大規模言語モデル(以下LLM)が盛んに研究されている．ChatGPT[4]のように，LLMを組み込んだサービスが広く普及し社会に大きな影響を及ぼしている[5]一方で，LLMの抱える問題として文献[6]では，「差別，暴力の扇動等の不適切な出力」「ウイルスや兵器の開発等，危害を加えうる情報の提供」といったLLMによる不適切な発話が指摘されている．不適切な発話への対応として，不適切コンテンツの検出[7,8]，有害度のスコア化[9,10]等の研究が行われているが，これらの判定モデルはあらかじめ定義した不適切発話の体系に基づいたデータで学習されており，定義外の不適切発話へは対応できない．より網羅的な判定モデルの作成には，あらかじめ定義した不適切発話の体系に含まれない新たな不適切発話のカテゴリとデータを追加し学習を行う必要があるが，追加する新たな不適切発話データを全て人手で作成すると非常に大きなコストがかかってしまう．本研究では，人手コスト削減のために不適切発話データの自動生成手法の確立を目指し，学習済みLLMを用いた自動生成する手法についての検討を行う．独自の不適切発話カテゴリを定義し，カテゴリに従った不適切発話データをLLMを用いて自動生成する実験を行い，人手によるデータ作成コストの低減ができることを示した．