chakoshiFine:多層防御に基づくLLM向けガードレールの設計と実装および評価

近年，生成AIは業務システムにも広く組み込まれ，テキストの入出力を介して幅広い業務を支援している．一方で，テキスト入出力には，機密情報の送信や漏えい，敵対的な入力による意図的な制御（プロンプトインジェクション），有害コンテンツの生成など，様々なリスクがある．また，何をリスクとみなすかは，利用文脈によって変わり，静的な基準だけではリスクの判定そのものが難しい．我々の研究グループは，これまでに，LLM向けガードレール「chakoshi」を開発してきた[1][2]．一方で，旧来のchakoshiには以下の課題が存在した．•過剰検知による副作用がユーザ体験や業務効率を損なう恐れがある•曖昧な個人，機密情報に対する検知漏れが残る•特定ドメインに固有のキーワードや表現を識別できないこれらは，単一モデルに複数の役割を担わせることの構造的な制約に起因する．そのため，異なる性質を持つ複数のリスクに対して，単一のモデルで網羅的，かつ，高精度な検知を実現することは難しい．本論文では，これらの課題を解決するため，5つの独立した防御機構（ポリシ）を組み合わせ，多層のアーキテクチャから構築されたガードレール「chakoshiFine」を提案する．chakoshiFineは，それぞれのポリシを段階的，かつ，選択的に適用し，各ポリシを特定のリスクに特化させることで，検知精度の向上をめざす．多層構成のポリシにより，あるポリシの弱点を他のポリシで相互補完する．また，利用者の要件に応じて，各ポリシの適用可否や，新たに検知項目を定義できる設計にすることで，変動的なリスクにも対応できる．このように，chakoshiFineでは，高い検知精度の維持と，日常的な業務タスクを阻害しないことの両立をめざす．