chakoshiFine:多層防御に基づくLLM向けガードレールの設計と実装および評価

本研究では，生成AIの入出力向けガードレールである「chakoshiFine」を提案する．従来のガードレールは，単一のLLMモデルで複数リスクを同時に対処する構成が多く，リスクごとの検知精度が伸びにくいことや，過剰検知が業務に与える影響が課題となりやすい．chakoshiFineでは，複数のリスクに対応する独立の防御機構(ポリシ)を設計し，必要に応じて段階的・選択的に適用できる構成とした．これにより，各ポリシの専門性を高めつつ，取りこぼしたリスクを別のポリシで補完できる．評価実験の結果，既存の商用ガードレールサービスと比較して，最高の検知精度を達成した．また，擬似業務のタスク実施による有用性評価実験では，提案群と比較群において，業務タスクの正答率に統計的な差分が認められず，検知精度と有用性の両立を示した．