chakoshi:カテゴリのカスタマイズが可能な日本語に強いLLM向けガードレール

本研究では，日本語特有のニュアンスに対応したLLM向けのガードレールモデルである「chakoshi」を開発し，その有効性を検証した．chakoshiは，複数のオープンデータセットを再編成し，独自の学習データセットでファインチューニングした，軽量なLLMである．gemma-2-9b-itをベースとしたchakoshiモデルは，複数のテストデータセットにおけるF1スコアで平均0.92以上を達成し，既存のモデルと比較して高い性能を示した．さらに，防ぎたい話題を自然言語でカスタマイズできる機能を実装し，実験によってその有効性を確認した．