大規模言語モデル（LLM）の抱える問題点の一つに，暴力的な表現や性的な表現などユーザに不快感を与える不適切な発話をしてしまう問題がある．これらの不適切発話を検出・抑制するモデルの学習には不適切発話データが必要となるが，人手で全てのデータを作成すると非常に大きなコストがかかってしまう．本研究では，LLMを用いることで人手による作成コストを抑えつつ不適切発話検出・抑制モデルの学習データを作成することを目指す.公開LLMを用いて不適切発話データの作成実験を行った結果，LLMで生成されたデータの品質を高めるには人手アノテーション等の対応が必要であるが，人手コストを低減できることを明らかにした．

近年，GPT-4[1]やPaLM[2]，Gemini[3]に代表される，潤沢な言語データを使用し，巨大なモデルで事前学習を行った汎用大規模言語モデル(以下LLM)が盛んに研究されている．ChatGPT[4]のように，LLMを組み込んだサービスが広く普及し社会に大きな影響を及ぼしている[5]一方で，LLMの抱える問題として文献[6]では，「差別，暴力の扇動等の不適切な出力」「ウイルスや兵器の開発等，危害を加えうる情報の提供」といったLLMによる不適切な発話が指摘されている．不適切な発話への対応として，不適切コンテンツの検出[7,8]，有害度のスコア化[9,10]等の研究が行われているが，これらの判定モデルはあらかじめ定義した不適切発話の体系に基づいたデータで学習されており，定義外の不適切発話へは対応できない．より網羅的な判定モデルの作成には，あらかじめ定義した不適切発話の体系に含まれない新たな不適切発話のカテゴリとデータを追加し学習を行う必要があるが，追加する新たな不適切発話データを全て人手で作成すると非常に大きなコストがかかってしまう．本研究では，人手コスト削減のために不適切発話データの自動生成手法の確立を目指し，学習済みLLMを用いた自動生成する手法についての検討を行う．独自の不適切発話カテゴリを定義し，カテゴリに従った不適切発話データをLLMを用いて自動生成する実験を行い，人手によるデータ作成コストの低減ができることを示した．