ConstitutionalAIにおける原則適用順序と有害転化現象の分析

本研究は、ConstitutionalAI(CAI)の教師あり学習段階(SL-CAI)における原則選択と応答安全性の関係を分析する。特に、批評・改訂の反復過程で本来無害であった応答が有害化する「有害転化」現象に着目し、原則の抽象度と適用順序が与える影響を定量的に評価した。HarmBenchを用いた実験の結果、抽象度の高い原則を先行して適用するTOP-DOWN手法が安全率を向上させる一方、抽象的原則の後段適用は有害転化を誘発しやすいことを明らかにした。