検出器の判断に基づく大規模言語モデルの生成テキストの特徴分析

近年の大規模言語モデル（LLM）の性能が向上したことで，日常の多くの場面でLLMが利用されるようになった．一方でLLMを制限すべき状況でのLLMの利用や，ユーザーが生成テキストに対して感じる違和感の解消が課題となっている．教育現場はLLMを制限すべき状況の一つである．試験問題や課題に対する正確な回答や流暢なエッセイ，および正常に動作するコードを簡単に生成できるため，回答にかかる時間を大幅に削減することが可能になった．しかしこの利点が学生の学習過程の簡略化に繋がり，得られる経験や知識が減少することが懸念された．この例をはじめとしたLLM乱用を抑制するために，生成テキスト検出器の開発が進められた．一方，攻撃に対する検出器の脆弱性も確認されており，今後の攻撃手法やLLMの発展に合わせて検出器の頑健性向上に努める必要がある.LLMは対話モデルとしても利用される．企業の自動応答やロボットの発話内容をより自然なものにするためには，生成テキストからLLMらしさを除去する必要がある.以上で挙げた，検出器の頑健性向上および生成テキストの違和感の軽減は，互いに対立する課題である．なぜなら，検出器はLLMらしさを捉えることで生成テキストを検出するため，生成テキストからLLMらしさを除去することは検出器に対する攻撃となるからである．ヒトが書くテキスト(human-text)とLLMが生成するテキスト(LLM-text)の違いを明らかにすることは，この対立する2つの課題の両者への貢献となる.したがって本研究ではhuman-textとLLM-textの違いの解明を最終的な目的とし，この達成のために，human-textと比較して得られるLLMの特徴の解明に取り組む．