Rationaleの自動生成によるCoTデータセット構築

本論文ではLLMの推論性能の向上に利用できるChain-of-Thoughtのデータセットの構築について述べる．rationale(思考過程)を人手で作成することは困難であるため，既存のインストラクションデータに対してLLMによるrationaleの自動生成と，生成したrationaleのLLMと人手による二段階のフィルタリングを行うことで人手の作業コストの軽減を図った．また，JEMHopQAを用いて構築したデータセットによる追加学習の影響を分析した．