日本語LLMの評価に使われるデータセット


[Weights & Biases（wandb）Nejumi LLMリーダーボード](https://wandb.ai/wandb/LLM_evaluation_Japan/reports/LLM-JGLUE---Vmlldzo0NTUzMDE2?accessToken=u1ttt89al8oo5p5j12eq3nldxh0378os9qjjh14ha1yg88nvs5irmuao044b6eqa)と[Stability\-AI/lm\-evaluation\-harness](https://github.com/Stability-AI/lm-evaluation-harness/tree/jp-stable#jp-language-model-evaluation-harness)で使われている、日本語の生成に対応した大規模言語モデルを評価するのに使われているデータセットをまとめました。

## 概要

各タスクのLlama2におけるスコアをまとめます。

|  | 概要 | wandb[^wandb-score] | StabilityAI[^stability-ai-score] |
|:--|:--|--:|--:|
| MARC-ja | 文章分類 | 52.4 | 59.9 |
| JSTS | 類似性 | - | - |
| JNLI | 含意関係認識 | 33.3 | 35.6 |
| JSQuAD | 機械読解 | 9.0 | 67.7 |
| JCommonsenseQA | 常識推論 | 19.3 | 72.6 |
| JAQKET | 知識 | - | 48.2 |
| XLSum-ja | 要約 | - | 15.1 |
| XWinograd | 照応解析 | - | 63.8 |
| MGSM | 算数 | - | 13.2 |

wandbとStabilityAIのリーダーボードとでは各タスクの評価方法が異なり、全体的にwandbのほうが厳し目になっている点に注意が必要です。

[^wandb-score]: [Weights & Biases（wandb）Nejumi LLMリーダーボード](https://wandb.ai/wandb/LLM_evaluation_Japan/reports/LLM-JGLUE---Vmlldzo0NTUzMDE2?accessToken=u1ttt89al8oo5p5j12eq3nldxh0378os9qjjh14ha1yg88nvs5irmuao044b6eqa)の `meta-llama/Llama-2-7b-chat-hf` のスコアを100倍した

[^stability-ai-score]: [Stability\-AI/lm\-evaluation\-harness](https://github.com/Stability-AI/lm-evaluation-harness/tree/jp-stable#jp-language-model-evaluation-harness)の `llama2-13b-chat` のスコア

慣習として様々なタスクにおけるスコアの平均点を取ってモデルの優劣が測られますが、スコアの評価指標はタスクによって異なるため平均値を見る際には注意が必要だと思います。
多くのタスクはaccuracy scoreで評価されますが、異なる場合は以下で説明します。

## JGLUE
https://github.com/yahoojapan/JGLUE

JGLUEは日本語言語理解のベンチマークで、Yahoo! JAPAN（当時）と早稲田大学との共同研究で発表されました。
2022年6月に公開され、当時はおもにBERTを評価するために使われていたようですが、本記事ではGPTの評価に焦点を当てています。

JGLUEは以下の複数のタスクからなります。

### MARC-ja
[Multilingual Amazon Reviews Corpus（MARC）](https://docs.opendata.aws/amazon-reviews-ml/readme.html)の日本語版を利用したタスクです。
Amazonのレビューを入力として、positive（高評価）かnegative（低評価）かを **分類** します。
評価指標はAccuracyですが、クラスごとの不均衡が大きいためBalanced Accuracyを使うほうが良いようです。[^marc-ja-balanced-acc]

[^marc-ja-balanced-acc]: https://wandb.ai/wandb/LLM_evaluation_Japan/reports/LLM-JGLUE---Vmlldzo0NTUzMDE2?accessToken=u1ttt89al8oo5p5j12eq3nldxh0378os9qjjh14ha1yg88nvs5irmuao044b6eqa#marc-ja

### JSTS
Semantic Textual Samerityの日本語版です。意味の類似性の判定です。ふたつの文が与えられ、どれくらい類似しているかを0から5までで判定します。

GPTのようなtext2textにおいては実用性能との相関が低いとされ評価が省かれるようです。[^jsts-text2text]BERTの評価には有効だと思われます。

[^jsts-text2text]: https://wandb.ai/wandb/LLM_evaluation_Japan/reports/LLM-JGLUE---Vmlldzo0NTUzMDE2?accessToken=u1ttt89al8oo5p5j12eq3nldxh0378os9qjjh14ha1yg88nvs5irmuao044b6eqa#jsts

### JNLI
**Natural Language Inference（NLI、自然言語推論）** や **Recognizing Textual Entailment（RTE、含意関係認識）** と呼ばれるタスクです。ふたつの文が与えられ、その関係が含意（entailment）・矛盾 （contradiction）・中立（neutral）のいずれになるかを判定します。

評価指標はAccuracyですが、クラスごとの不均衡が大きいためBalanced Accuracyを使うほうが良いようです。[^jnli-balanced-acc]
wandbリーダーボードでもStability AIリーダーボードでもLlama2のスコアが30台となっており、3択のAccuracyとしては低い値になっています。比較的難しいタスクのようです。

[^jnli-balanced-acc]: https://wandb.ai/wandb/LLM_evaluation_Japan/reports/LLM-JGLUE---Vmlldzo0NTUzMDE2?accessToken=u1ttt89al8oo5p5j12eq3nldxh0378os9qjjh14ha1yg88nvs5irmuao044b6eqa#jnli

### JSQuAD
The Stanford Question Answering Dataset（SQuAD）の日本語版です。与えられた文から答えになる部分を抜き出すタスクです。Wikipediaの段落とそれに関する質問が与えられ、回答になる部分を抜き出します。

評価指標はexact_matchやF1が用いられます。

### JCommonsenseQA
[CommonsenseQA](https://www.tau-nlp.sites.tau.ac.il/commonsenseqa)の日本語版です。
常識的な **推論** の能力をはかるタスクです。問題は5択問題になっています。

## Stability AI LM Evaluation Harness

Stability AIが公開している、言語モデル評価のためのフレームワークです。
上記のJGLUEが含まれていますが、それ以外にも以下の追加タスクを含みます。

[GitHub - Stability-AI/lm-evaluation-harness: A framework for few-shot evaluation of autoregressive language models.](https://github.com/Stability-AI/lm-evaluation-harness/tree/jp-stable)

### JAQKET
https://www.nlp.ecei.tohoku.ac.jp/projects/jaqket/

Wikipediaのタイトルを答えとしたクイズです。

exact_matchで評価されますが、Stability AIリーダーボードではLlama2-13bのスコアが48.2となっており、他のタスクよりも少し難しいのではないかと思います。

### XLSum-ja
https://huggingface.co/datasets/csebuetnlp/xlsum/viewer/japanese?row=0

テキストの **要約** 能力をはかるデータセットです。

Stability AIリーダーボードではLlama2-13bのスコアが約15と低い値になっていますが、これは評価指標にROUGE-2が使われているため、タスクの難易度ではなく評価の難しさが出てしまっているのではないかと思います。

### XWinograd
https://huggingface.co/datasets/Muennighoff/xwinograd/viewer/jp?row=0

Winograd Schema Challenge（WSC）の日本語版で、**照応解析**のタスクです。文中にある代名詞が何を指しているかを答えるものです。

Accuracyで評価されますが、回答は基本的に2択のため他のタスクよりも高いスコアになりやすいものだと思います。

### MGSM
https://huggingface.co/datasets/juletxara/mgsm/viewer/ja?row=0

Multilingual Grade School Math（MGSM）は、小学校レベルの算数の問題を解くタスクです。問題は整数の解になるようになっています。

Stability AIリーダーボードではLlama2-13bのスコアが13.2と低い値になっており、これは比較的難しいタスクのようです。

## 参考
- [日本語言語理解ベンチマークJGLUEの構築 〜 自然言語処理モデルの評価用データセットを公開しました \- Yahoo\! JAPAN Tech Blog](https://techblog.yahoo.co.jp/entry/2022122030379907/)
- [オープンソースLLMの日本語評価結果 \- W&Bローンチで誰でも再現可能に｜Weights & Biases Japan](https://note.com/wandb_jp/n/n2464e3d85c1a)
- [日本語大規模言語モデル「Japanese Stable LM Beta」シリーズをリリースしました — Stability AI Japan](https://ja.stability.ai/blog/japanese-stable-lm-beta)
- [JGLUE: 日本語言語理解ベンチマーク](https://www.anlp.jp/proceedings/annual_meeting/2022/pdf_dir/E8-4.pdf)