推論時スケーリングにおける検証戦略の比較分析

大規模言語モデルの推論時スケーリングでは、生成された応答集合から最適な応答を選択できるかが性能向上の鍵となっている。本研究では、大規模言語モデルによって応答を評価する検証に焦点を当て、検証性能の改善に必要な要素について網羅的な分析を行った。具体的には、典型的な2つの戦略である複数の検証結果を並列に生成する戦略と、単一の検証結果を逐次的に延長する戦略、そして両者を組み合わせる戦略を比較した。実験の結果、並列に生成する戦略がより効果的であることがわかった。さらに、検証性能の向上には、検証時に生成されるトークン数ではなく、生成された検証が有する多様性と強く関連していることを明らかにした。