機械学習による試験問題の自動採点（Automated Scoring）関連情報まとめ

# タスク概要

これまで研究されてきた自動採点（Automated Scoring）はおおまかに以下の2つのタスクに分かれている。

- Essay Scoring
    - 小論文のような長い記述問題を自動採点するタスク。1,2文ではなく、複数の文が集まって解答となる問題である
- Short Answer Scoring
    - 解答が1文ほどの長さ（多くても20~30文字程度）で、いくつかの採点基準がありそれに沿って得点が採点される問題である

# 自動採点タスクの特性

自動採点では、以下のような観点がタスクの特性としてある。

- 教師データのアノテーションが高コストである
    - ドメイン固有のデータに対して自動採点が求められることが多く、少量の教師データしかない・作れない
    - 試験・テストの問題数が多くなるほど、複数問題に渡って使用可能な汎用的な手法が求めれられる
- 機械学習モデルによってだた予測返すだけでなく、どう修正したらよいかのフィードバックがあると効果的である
    - 解答のどの箇所が間違っていたのかといった根拠を示すことにより、どのように直したらよいかわかる

# Papers

大きく分けて、教師あり学習のもの、テキストの類似度を使っているものに分類できる。（また、その両方の組み合わせ）

- [AUTOMATIC SHORT ANSWER GRADING AND FEEDBACK USING TEXT MINING METHODS](https://arxiv.org/pdf/1807.10543.pdf)
- [Automated Essay Scoring: A Siamese Bidirectional LSTM Neural Network Architecture](https://www.mdpi.com/2073-8994/10/12/682)
- [Co-Attention Based Neural Network for Source-Dependent Essay Scoring](https://arxiv.org/abs/1908.01993)
- [Pre-Training BERT on Domain Resources for Short Answer Grading](https://www.aclweb.org/anthology/D19-1628.pdf)
- [Analytic Score Prediction and Justification Identification in Automated Short Answer Scoring](https://www.aclweb.org/anthology/W19-4433/)
- [Inject Rubrics into Short Answer Grading System](https://www.aclweb.org/anthology/D19-6119/)
- [Investigating neural architectures for short answer scoring](https://www.aclweb.org/anthology/W17-5017/)
- [Identifying Current Issues in Short Answer Grading](https://www.anlp.jp/proceedings/annual_meeting/2018/pdf_dir/E3-4.pdf)
- [A Neural Approach to Automated Essay Scoring](https://www.aclweb.org/anthology/D16-1193/)
    - Code: https://github.com/nusnlp/nea
- [Fast and Easy Short Answer Grading with High Accuracy](https://www.aclweb.org/anthology/N16-1123/)
    - Code: https://github.com/ma-sultan/short-answer-grader
- [Automatic Text Scoring Using Neural Networks](https://www.aclweb.org/anthology/P16-1068/)
    - Code: https://github.com/mankadronit/Automated-Essay--Scoring
- [A Memory-Augmented Neural Model for Automated Grading](http://siyuanzhao.com/publication/aes/)
    - Code: https://github.com/siyuanzhao/automated-essay-grading
- [Automated Scoring: Beyond Natural Language Processing](https://www.aclweb.org/anthology/C18-1094/)
- [Investigating Active Learning for Short-Answer Scoring](https://www.aclweb.org/anthology/W16-0535/)
- [The Impact of Training Data on Automated Short Answer Scoring Performance](https://www.aclweb.org/anthology/W15-0610/)
- [Generative Grading: Neural Approximate Parsing for Verifiable Automated Student Feedback](https://arxiv.org/abs/1905.09916)
- [Learning to Grade Short Answer Questions using Semantic Similarity Measures and Dependency Graph Alignments](https://www.aclweb.org/anthology/P11-1076/)
- [Unsupervised Learning of Discourse-Aware Text Representation for Essay Scoring](https://www.aclweb.org/anthology/P19-2053/)
- [Effective Feature Integration for Automated Short Answer Scoring](https://www.aclweb.org/anthology/N15-1111/)
- [Earth Mover’s Distance Pooling over Siamese LSTMs for Automatic Short Answer Grading](https://s3.amazonaws.com/academia.edu.documents/54246799/0284.pdf?response-content-disposition=inline%3B%20filename%3DEarth_Movers_Distance_Pooling_over_Siame.pdf&X-Amz-Algorithm=AWS4-HMAC-SHA256&X-Amz-Credential=AKIAIWOWYYGZ2Y53UL3A%2F20200302%2Fus-east-1%2Fs3%2Faws4_request&X-Amz-Date=20200302T070237Z&X-Amz-Expires=3600&X-Amz-SignedHeaders=host&X-Amz-Signature=b85e89ed5cfdd22c7050c7b3df3b4fb5910241a8c47a9a719a767212e532df7c)
- [短答式記述答案の採点支援ツールの開発と評価](https://www.anlp.jp/proceedings/annual_meeting/2011/pdf_dir/P3-8.pdf)
- [Reducing Annotation Efforts in Supervised Short Answer Scoring](https://www.aclweb.org/anthology/W15-0615.pdf)
- [Paraphrase Detection for Short Answer Scoring](https://www.aclweb.org/anthology/W14-3505/)
- [記述答案採点の自動化に関する研究](https://aip-nlu.gitlab.io/projects/sas-j)
- [Doc2Vec を用いた国語記述式答案の自動評価](https://ipsj.ixsq.nii.ac.jp/ej/?action=repository_uri&item_id=196790&file_id=1&file_no=1)
- [参照データと idf を利用した事前採点不要な小論文評価手法](http://ousar.lib.okayama-u.ac.jp/en/56446)
- [採点ミス発見支援システムの開発 ～部分点と採点記号の認識を用いた採点ミス発見手法～](https://www.ipsj.or.jp/award/9faeag0000004f1r-att/RO-019.pdf)

# Survey

- [Automated Essay Scoring: A Survey of the State of the Art](https://www.ijcai.org/proceedings/2019/879)
- [Qiita: Automated Essay Scoring: A Survey of the State of the Art](https://qiita.com/r-takahama/items/8f87aa1425cabb5d9a26#4-evaluation)
- [Machine Learning Approach for Automatic Short Answer Grading: A Systematic Review](https://www.researchgate.net/publication/328821973_Machine_Learning_Approach_for_Automatic_Short_Answer_Grading_A_Systematic_Review_16th_Ibero-American_Conference_on_AI_Trujillo_Peru_November_13-16_2018_Proceedings)

# 言語処理学会

- NLP2020（論文公開されたら、リンク追加する）
    - [写真を用いた英文記述問題の低コストな自動採点方法の検討]()
    - [アノテータのバイアスに頑健な小論文自動採点手法]()
    - [ベイジアンニューラルネットワークを用いた記述式答案の自動採点]()
    - [記述式答案自動採点のための確信度推定手法の検討]()
    - [評価データのクラスタリングを用いた記述式答案自動採点のためのトランズダクティブ学習]()
    - [項目反応理論に基づく能力推定値を活用した短答記述式問題自動採点手法]()

- NLP2019
    - [NLP2019 E4:テーマセッション: 試験問題をベンチマークとする言語処理](https://www.anlp.jp/proceedings/annual_meeting/2019/index.html#E4)
    - [小論文採点支援システムにおける文字誤り検出モジュールの構築](https://www.anlp.jp/proceedings/annual_meeting/2019/pdf_dir/C4-3.pdf)
    - [英語ライティング学習支援のための前置詞誤り解説生成](https://www.anlp.jp/proceedings/annual_meeting/2019/pdf_dir/C4-9.pdf)
    - [大規模実データにおける記述式問題自動採点システムの検証](https://www.anlp.jp/proceedings/annual_meeting/2019/pdf_dir/E4-2.pdf)
    - [採点基準を利用した記述式答案の自動採点](https://www.anlp.jp/proceedings/annual_meeting/2019/pdf_dir/P1-37.pdf)
- NLP2018
    - [小論文自動採点データ構築と理解力および妥当性評価手法の構築](https://www.anlp.jp/proceedings/annual_meeting/2018/pdf_dir/E2-5.pdf)
    - [採点項目に基づく国語記述式答案の自動採点](https://anlp.jp/proceedings/annual_meeting/2018/pdf_dir/P4-17.pdf)
- NLP2017
    - [自動採点スピーキングテストSJ-CATの能力推定の検証](https://www.anlp.jp/proceedings/annual_meeting/2017/pdf_dir/E5-1.pdf)
    - [小論文の自動採点に向けたオープンな基本データの構築および現段階での自動採点手法の評価](https://www.anlp.jp/proceedings/annual_meeting/2017/pdf_dir/E5-2.pdf)
    - [学習者英語のための綴り誤り訂正手法と綴り誤り分析への応用](https://www.anlp.jp/proceedings/annual_meeting/2017/pdf_dir/E6-3.pdf)
    - [文法誤り訂正のためのリファレンスレス評価](https://www.anlp.jp/proceedings/annual_meeting/2017/pdf_dir/E6-5.pdf)
- NLP2016
    - [ニューラルネットワークを用いた記述式問題の自動採点](https://www.anlp.jp/proceedings/annual_meeting/2016/pdf_dir/A2-1.pdf)
    - [述語項構造解析を用いた英語長文読解問題の自動解法](https://www.anlp.jp/proceedings/annual_meeting/2016/pdf_dir/C3-3.pdf)
   
# 書籍

- [Handbook of Automated Scoring: Theory into Practice](https://www.amazon.co.jp/Handbook-Automated-Scoring-Statistics-Behavioral/dp/1138578274)

# Dataset

- [Kaggle ASAP dataset](https://www.kaggle.com/c/asap-sas/data)
    - 多くの論文でベンチマークとして使われている（英語のデータセット）
- [Dataset for Japanese Short Answer Scoring](https://aip-nlu.gitlab.io/resources/sas-japanese) （公開予定）

# 最近の動向をつかむための個人的おすすめ論文

以下の論文を読めば最近の動向はおそらく把握できると思われる。
Automated Scoringタスクとして、BERTなどによる転移学習の手法を使うことでなるべく少ないデータでより高精度を達成することが課題としてあるだろう。また、Active Learningなどの手法も合わせて使うことでより効果的なアプリケーションを作ることができると考えられる。

## Neural network based methods

- [Analytic Score Prediction and Justification Identification in Automated Short Answer Scoring](https://www.aclweb.org/anthology/W19-4433/)
    - Attentionにより、採点項目+全体のスコアを合わせて予測する手法を検証した論文
    - [採点項目に基づく国語記述式答案の自動採点](https://anlp.jp/proceedings/annual_meeting/2018/pdf_dir/P4-17.pdf)
- [Inject Rubrics into Short Answer Grading System](https://www.aclweb.org/anthology/D19-6119/)
    - 採点基準として用意されたsentenceと、解答のsentenceの類似度を測る機構を組み込んだ手法を提案した論文
    - [採点基準を利用した記述式答案の自動採点](https://www.anlp.jp/proceedings/annual_meeting/2019/pdf_dir/P1-37.pdf)
- [Investigating neural architectures for short answer scoring](https://www.aclweb.org/anthology/W17-5017/)
    - 複数アーキテクチャのニューラルネットでどれが性能が良いのかを検証した論文
- [A Neural Approach to Automated Essay Scoring](https://www.aclweb.org/anthology/D16-1193/)
    - RNN basedなニューラルネットをAutomated Essay Scoringに適用した論文
    - Code: https://github.com/nusnlp/nea
- [Fast and Easy Short Answer Grading with High Accuracy](https://www.aclweb.org/anthology/N16-1123/)
    - Code: https://github.com/ma-sultan/short-answer-grader
- [Automatic Text Scoring Using Neural Networks](https://www.aclweb.org/anthology/P16-1068/)
    - Code: https://github.com/mankadronit/Automated-Essay--Scoring
- [A Memory-Augmented Neural Model for Automated Grading](http://siyuanzhao.com/publication/aes/)
    - 自動採点にMemory機構を使った論文
    - Code: https://github.com/siyuanzhao/automated-essay-grading

## データ量、少量データに関連した論文

- [Pre-Training BERT on Domain Resources for Short Answer Grading](https://www.aclweb.org/anthology/D19-1628.pdf)
- [The Impact of Training Data on Automated Short Answer Scoring Performance](https://www.aclweb.org/anthology/W15-0610/)
    - データ量に応じて、精度のパフォーマンスがどう変化するか検証した論文
- [Investigating Active Learning for Short-Answer Scoring](https://www.aclweb.org/anthology/W16-0535/)
- [Reducing Annotation Efforts in Supervised Short Answer Scoring](https://www.aclweb.org/anthology/W15-0615.pdf)