LLMの評価手法を調査した論文「A Survey on Evaluation of Large Language Models」

LLMの評価手法を調査した論文をGPT-4を使ってまとめました。

https://arxiv.org/pdf/2307.03109.pdf

# 要約
LLM（Large Language Models）の評価手法は、モデルの性能を測定し、強みと弱みを理解するために重要です。評価手法は主に自動評価と人間による評価の2つに分類されます。さらに、特定のタスクやドメインに焦点を当てたベンチマークも開発されています。
これらの評価手法とベンチマークを通じて、LLMの性能を測定し、改善点を特定することができます。また、評価結果は、人間とLLMの相互作用の設計や実装に役立つ情報を提供します。

# 自動評価手法
自動評価手法は、標準的な評価指標を用いてLLMの性能を計算し、その値をモデルの性能を示す指標として使用する方法です。自動評価手法のいくつかの例を以下に示しますが、これらはすべての自動評価手法を網羅しているわけではありません。

- LLM-EVAL [112]: これは、オープンドメインの会話においてLLMの性能を多次元的に自動評価する統一された方法です。この手法では、様々な評価指標を用いてモデルの性能を評価します。

- PandaLM [204]: この手法では、別のLLMを「審判」として訓練し、異なるモデルを評価するために使用します。これにより、再現性と自動化された言語モデル評価が実現されます。

- 自己教師付き評価フレームワーク [76]: このフレームワークでは、新しいデータの煩雑なラベリングを排除することで、実世界の展開においてモデルの評価をより効率的に行うことができます。

自動評価手法の原理は、他のAIモデル評価プロセスと同様であり、標準的な評価指標を用いて特定の値を計算し、それをモデルの性能を示す指標として使用します。ただし、自動評価手法は、様々なタスクや評価指標に対応できるように設計されているため、一つの手法がすべてのタスクに適しているわけではありません。そのため、特定の問題やデータの特性に応じて適切な評価手法を選択することが重要です。

### 自動評価手法のメリット・デメリット
##### メリット
1. 効率性: 自動評価は、人間の評価よりもはるかに高速であり、大量のデータを短時間で評価できます。
2. 客観性: 自動評価は、定量的な指標に基づいて行われるため、評価者の主観的なバイアスが影響を与えることが少ないです。
3. 繰り返し可能性: 自動評価は、同じデータセットと評価指標を使用して繰り返し行うことができ、結果の再現性が高いです。

##### デメリット
1. 評価指標の限界: 自動評価は、事前に定義された評価指標に依存しており、これらの指標がモデルの真の性能を正確に反映していない場合があります。
2. タスクの多様性: 自動評価は、特定のタスクに対して最適化された評価指標を使用するため、異なるタスク間での比較が難しい場合があります。
3. 創造性や多様性の評価: 自動評価は、生成されたテキストの創造性や多様性を十分に評価できない場合があります。

# 人間による評価手法
人間による評価手法は、LLM（Large Language Models）の品質と精度を人間の参加を通じて評価する方法です。自動評価と比較して、人間による評価は実際のアプリケーションシナリオに近く、より包括的で正確なフィードバックを提供できます。LLMの人間による評価では、評価者（専門家、研究者、一般ユーザーなど）がモデルが生成した結果を評価することが一般的です。以下に、いくつかの人間による評価手法の例を示します。

- Ziemsら[254]による専門家のアノテーション：生成タスクにおいて専門家からのアノテーションを使用しました。専門家は、モデルが生成した結果の品質や正確さを評価し、フィードバックを提供します。

- Liangら[107]による人間評価: 彼らは、要約とディスインフォメーションシナリオにおいて、6つのモデルに対して人間評価を実施しました。評価者は、モデルが生成した結果を実際にテストし、比較して評価します。

- Bangら[5]による類推推論タスクの評価: 人間評価を用いて、類推推論タスクのパフォーマンスを評価しました。評価者は、モデルが生成した結果を実際にテストし、比較して評価します。

- Bubeckら[13]によるGPT-4の評価: 彼らは、GPT-4を用いて一連の人間が作成したテストを実施し、GPT-4が複数のタスクで人間のパフォーマンスに近い、あるいはそれを超えることを発見しました。この評価では、評価者はモデルのパフォーマンスを実際にテストし、比較するだけでなく、自動評価指標を通じてモデルを評価します。

ただし、人間による評価にも文化的・個人的な違いによるバリアンスや不安定性があることに注意してください。実際のアプリケーションでは、これらの評価方法は実際の状況に応じて組み合わせて考慮されます。

### 人間による評価手法のメリット・デメリット
##### メリット
1. 質の高いフィードバック: 人間の評価者は、モデルの生成物に対してより深い理解を持ち、質の高いフィードバックを提供できます。
2. 柔軟性: 人間の評価者は、自動評価が対処できないような複雑で多様なタスクに対しても評価を行うことができます。
3. 実世界の適用性: 人間の評価者は、モデルの生成物が実際のユーザーにとってどの程度有用であるかを判断することができます。

##### デメリット
1. コスト: 人間の評価者を用いることは、時間と費用がかかります。
2. 主観性: 人間の評価者は、個人のバイアスや意見の違いによって評価結果が変わる可能性があります。
3. 再現性の低さ: 人間の評価者による評価は、評価者間での一貫性が低く、結果の再現性が低い場合があります。

# ベンチマーク
以下に、いくつかのLLM（Large Language Model）評価ベンチマークを紹介します。
- SOCKET [21]: 社会知識に焦点を当てたベンチマークで、特定の下流タスクでの社会言語理解能力を評価します。
- MME [43]: 多モーダルLLMに焦点を当てたベンチマークで、多モーダルタスクにおける知覚と認知の能力を評価します。
- Xiezhi [55]: 包括的なドメイン知識に焦点を当てたベンチマークで、複数のベンチマークを横断した全体的なパフォーマンスを評価します。
- Choice-75 [69]: スクリプト学習に焦点を当てたベンチマークで、LLMの全体的なパフォーマンスを評価します。
- CUAD [65]: 法的契約のレビューに焦点を当てたベンチマークで、法的契約の理解能力を評価します。
- TRUSTGPT [73]: 倫理に焦点を当てたベンチマークで、毒性、バイアス、価値の整合性を評価します。
- MMLU [64]: テキストモデルに焦点を当てたベンチマークで、マルチタスクの精度を評価します。
- MATH [66]: 数学的問題に焦点を当てたベンチマークで、数学的能力を評価します。
- APPS [62]: コーディングチャレンジの能力に焦点を当てたベンチマークで、コード生成能力を評価します。
- CELLO [60]: 複雑な指示に焦点を当てたベンチマークで、4つの指定された評価基準を評価します。

これらのベンチマークは、LLMのさまざまな側面を評価するために開発されており、それぞれが特定のドメインやタスクに焦点を当てています。これらのベンチマークを使用することで、LLMの性能や限界をより正確に把握し、改善のための指針を得ることができます。