LLM評価のサーベイ論文を紹介します！

本記事では、LLMの評価に関するサーベイ論文の中で最も有名なサーベイ論文であろう、[A Survey on Evaluation of Large Language Models (arXiv: 2307.03109)](https://arxiv.org/abs/2307.03109) の解説を行っていきます。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3624969/fc909fa3-baf9-1e66-7ae7-85bc7b7655e9.png)


※本記事の内容は[株式会社ARISE analytics 主催のLLM勉強会](https://connpass.com/event/325079/)において発表したスライドを基にしています。

---
目次
  - [背景と目的](#背景と目的)
    - [こんなときありませんか？](#こんなときありませんか)
    - [目的](#目的)
  - [LLM の評価プロセス](#llm-の評価プロセス)
  - [What to evaluate (解かせるタスクの設定)](#what-to-evaluate-解かせるタスクの設定)
    - [Natural language processing（自然言語処理）](#natural-language-processing自然言語処理)
    - [Robustness / Ethics / Biases / Trustworthiness（堅牢性/倫理/偏見/信頼性）](#robustness--ethics--biases--trustworthiness堅牢性倫理偏見信頼性)
    - [What to evaluation のまとめ](#what-to-evaluation-のまとめ)
  - [Where to evaluate (評価データの設定)](#where-to-evaluate-評価データの設定)
    - [General benchmarks](#general-benchmarks)
    - [Specific benchmarks](#specific-benchmarks)
    - [補足](#補足)
    - [まとめ](#まとめ)
  - [How to evaluate (評価方法の設定)](#how-to-evaluate-評価方法の設定)
    - [Automatic evaluation（自動評価）](#automatic-evaluation自動評価)
    - [Human evaluation（人手評価）](#human-evaluation人手評価)
    - [まとめ](#まとめ-1)
    - [補足情報](#補足情報)
  - [全体のまとめ](#全体のまとめ)

---
## 背景と目的
### こんなときありませんか？
新しいLLM が出て○○が凄い！と主張されているものの、その評価について詳しく知らないからほんとに...？ってなることありませんか？
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3624969/5f77cc74-6c20-033d-3328-47942fe4e752.png)

他にも、業務でLLM を活用するときに、出来の良し悪しを評価する必要があるけど、評価方法・観点が分からなくてとりあえず人手でやってみることありませんか？
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3624969/64000008-c3e1-3cc6-c6a6-0eb0384cfda2.png)


### 目的
本記事の目的は以下の3 つです。
1. まずはLLM 評価のサーベイ論文から評価の現状を知る
1. 既存の評価ベンチマークを知ることで、モデル比較をしやすくなるようになる
1. 実際にLLM を評価するときのために、評価観点を整理しておく

以下では、まずLLMの評価プロセスについて解説した後に、プロセスごとに分けてLLM 評価についてサーベイ論文をベースにご紹介していきます。ただし、全ての内容について言及できるわけでないので、ご承知おきいただければと思います。

## LLM の評価プロセス
今回紹介する論文では、LLMの評価はモデル選定、解かせるタスクの設定、評価データの設定、評価方法の設定、という4ステップに分けられています。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3624969/670eaa20-d8dc-d6ae-a6fc-9ed5d460110b.png)

青で囲んだ後ろの3 ステップがサーベイ論文の紹介範囲になっています。
また、論文の全体像は下記のようになっており（オレンジ色部分が引用文献）、多岐にわたるため青枠の範囲についてかいつまんで紹介していきます。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3624969/1ad42b9a-1926-8084-f415-004eeb38ed4c.png)


## What to evaluate (解かせるタスクの設定)
この節では、LLM を評価するためにどんなタスクがあるかご紹介し、LLM の得意・苦手をご紹介したいと思います。論文では、以下のような分類で評価タスクが分けられています。
- **Natural language processing**
- **Robustness / Ethics / Biases / Trustworthiness**
- Social science
- Natural science & engineering
- Medical applications
- Agent Applications
- Other applications
本記事では、一般的な業務に大きく関わりそうな太文字の上2 つについて紹介していきます。

### Natural language processing（自然言語処理）
自然言語処理では、タスクがさらに以下の5 つに分類されています。
- Natural language understanding（自然言語理解）
- Reasoning（推論）
- Natural language generation（自然言語生成）
- Multilingual（多言語）
- Factuality（事実性）

自然言語理解では、LLM は文書分類は得意なものの、自然言語推理という仮説と前提が与えられこの仮説がこの前提から論理的に導けるか判断するようなタスクは苦手なようでした。  
※論文の年月日には注意が必要です。なぜかというと、GPT-4 公開前と後でLLM の性能が大きく変わるからです。具体的には、GPT-4 が公開されたのが23/03（[参照リンク](https://openai.com/index/hello-gpt-4o/)）ですので、その前後が目安になるかと思います。23/03 より前の論文もサーベイでは紹介されているので、注意してみていただければと思います。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3624969/c81dfa66-2186-f46d-bb9c-3b5e1246dac4.png)

自然言語生成では要約、会話、質疑応答が得意である一方で、多言語タスクでは、非ラテン系とデータが少ない言語におけるタスクが苦手なようです。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3624969/97293229-56af-544f-8ee1-916e7c1b0da6.png)

### Robustness / Ethics / Biases / Trustworthiness（堅牢性/倫理/偏見/信頼性）
人間の嗜好に合わせられるかを示す、所謂アライメントに関わるタスクが紹介されています。LLM は敵対的堅牢性と呼ばれる文字、単語、文、文脈を変更されても同じ回答をするタスクは苦手なようです。それと似た文脈で、堅牢性や倫理と偏見の観点を含む信頼性が感じられる回答をするタスクにおいて、信頼を損なうようなプロンプティングに対しGPT-4 は脆弱性が見られるようでした。  
※信頼性という観点が上の堅牢性や倫理と偏見を含むようなものになっています。MECE じゃないので納得感が無いんですよね... LLM の評価に関する論文で見られる事象のように感じてます。この辺りが誰もが納得する評価指標ができにくい原因なのかもしれませんね。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3624969/cf8dcca3-73e3-1504-0130-35a4a54b1bb9.png)

### What to evaluation のまとめ
論文で紹介されていた、LLM が得意なタスクと苦手?なタスクをまとめると以下のようになります（GPT-4 が出る前の論文も含まれているため"?"を付けさせていただきました）
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3624969/a399f7a4-8d0b-d894-98de-56e30f2b5063.png)


## Where to evaluate (評価データの設定)
特定のデータセットを用いて評価指標を含む評価の枠組みのことをベンチマークと呼ぶ。ここでは、有名なベンチマークを中心に紹介していきます。有名なベンチマークを知ることで、新しいLLM が出てきたときの参考になれば幸いです。論文では、下記のようにベンチマークが分類されています。
- **General benchmarks**
- **Specific benchmarks**
- Multi-modal benchmarks

※Multi-modal benchmarks については割愛します。

### General benchmarks
広範な領域の問題を含んだベンチマークで、LLMの評価によく使われています。
特に、Chatbot Arena は押さえたいベンチマークになっています。ユーザーが質問に対する２つのモデルの出力を評価しランキング化したものになっており、投票制になっているため現在最も信頼できるベンチマークであるという専門家がいます（参考リンクX）。また、MMLU はLLM をリリースされるときの論文には必ずと言っていいほど見かけるベンチマークになっています。工学、数学、人文学などの57科目をカバーした、４つの選択肢つき問題で作られています（確かGemini-Pro が専門家を超えたGoogle が紹介していた時に使っていたベンチマーク）。
MT-Bench は会話を想定し、連続的な質問に対し適切な回答を続けられるか評価をするものになっています。具体的には以下の8つの観点に関して2 回続けて質問を行い、2 回適切に回答できるか調べます。
・Writing（文書生成）
・Roleplay（ロールプレイ）
・Extraction（情報抽出）
・Reasoning（推論）
・Math（数学）
・Coding（コード）
・Knowledge I (STEM、科学/技術・/工学/数学)
・Knowledge II (humanities/social science、人間性/社会科学)
GPT-4 レベルのモデルではほぼ差別化できないイメージがあるのですが、日本企業がフルスクラッチで作ったモデルを比較するときには使えそうです（例えば、CyberAgent さんのCalm2 など）。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3624969/97423a7a-b647-328d-30bb-2a0a3f318c0c.png)

### Specific benchmarks
特定のタスクに特化した性能を測るためのベンチマークで、general 比べるとLLMの評価では見かけにくいです。ただ、数学能力を測るMATH はよく見かけます（OpenAI が24/09/12 に公開したOpenAI o1 の性能評価にも使われていました。[参考リンク](https://openai.com/index/learning-to-reason-with-llms/)）。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3624969/7a408229-6614-0bcf-2799-3abd50adb30f.png)


### 補足
論文では紹介されていなかったものの、よく見かけるベンチマークを紹介させていただきます。ここ最近の方向性はより難しく、といったところでしょうか。大学院レベルの内容を問うGPQA や元々あったベンチマークを難しくしたMMLU-Pro、BIG-Bench=Pro などがあります。面白いベンチマークとしては、TrustfulQA という間違った回答をするように仕向けたインプット（例えば、富士山は日本で３番目に高い山ですか？など）に対し正しい内容を生成できるか評価するものがあります。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3624969/4994285b-e67c-cb98-d991-8ee568de69b4.png)

### まとめ
上記のベンチマークを参照するときで私が分類しまとめてみました。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3624969/52db59ba-664a-6c8b-4eda-2208b53d3908.png)

※論文では紹介されていませんが、日本語の性能評価についてはWeights & Biases さんが提供している[Nejumi LLMリーダーボード3](https://wandb.ai/wandb-japan/llm-leaderboard3/reports/Nejumi-LLM-3--Vmlldzo3OTg2NjM2?accessToken=wpnwc9whr96pxm40dfe4k3xq513f9jc4yhj7q6pnvj4jtayoefbc77qhzbsrztgz) が比較しやすいです。




## How to evaluate (評価方法の設定)
論文では、評価方法が自動評価と、自動化が難しい場合の人手評価に分けられています。ここでは、それぞれにおける評価観点をお伝えしたいと思います。

### Automatic evaluation（自動評価）
自動評価の指標は正確性、較正性、公平性、堅牢性の4つに整理されています。なじみが薄いのは較正性かと思います。これはLLM が回答した内容と併せてその信頼度を出力させ、実際の予測精度とどの程度一致するか測るものです。
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3624969/ab1945d1-d102-7d6b-9260-dc1305f075d6.png)

### Human evaluation（人手評価）
人手評価の観点は正確性、関連性、流暢さ、透明性、安全性、人間との調和性で整理されます。
※コメント：人手評価ではある意味自由に観点を選べるので、業界における評価観点のコンセンサスは無い認識です。紹介したベンチマークでも色んな評価観点が使われています。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3624969/b39e3b3f-fb5b-8dee-d665-7d6b7fa20e11.png)

### まとめ
上記で紹介した評価観点を私なりに分類しまとめてみました。そもそも使えるか（タスク遂行度）、$+\alpha$ で使いやすいか（役立ち度）、マイナスが無く使って大丈夫か（危険度）で観点を分けておくと、独自に評価観点を整理するときもやりやすくなるのではと思っています。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3624969/ea411ced-9739-97a6-a6a1-b8ecf20268f9.png)

### 補足情報
上記では人手しかできない評価を人手評価と定義していました。一方で、人手評価はLLM（GPT-4）で代替できるという論文が出ており、最近はこの自動評価をした論文をよく見かける気がします。ただし、業務でこの自動評価をする場合は人手評価とどのくらい相関があるのか調べてから使った方が安全ですね。評価するときに、評価理由を書かせてから点数を付けさせるとCoT（Chain-of-Thought）的になって出力精度が安定するかもです（実際MT-Bench はそのようにしている模様）。

![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3624969/96d520f3-cc1a-d8e0-69e1-f949c2f3d21f.png)


## 全体のまとめ
![image.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/3624969/ac85dabe-27d3-8acc-355b-79614beba7eb.png)


以上、お読みいただきありがとうございました。どなたかのお役に立てれば幸いです。
基本的に論文の内容をベースにしているためあまりないかとは思いますが、間違えている部分があればご連絡いただけるとありがたいです！