北海道地区

教育システム情報学会 2016年度学生研究発表会

Deep Learning を用いた中途退学者推論に関する一検討
Research on Inference of Dropout Students using Deep Learning*1*2

髙橋 良貴 , 小松川 浩*1*2
Yoshitaka Takahashi , Hiroshi Komatsugawa*1
千歳科学技術大学 総合光科学部*1
Chitose Institute of Science and Technology*2
千歳科学技術大学 理工学部
*2
Faculty of Science and Technology, Chitose Institute of Science and Technology
mail: taakhashi213@kklab.spub.chitose.ac.jp
あらまし：本稿では限られたデータの中で Deep Learning の教育分野での有用性について検討した. 具体
的には Deep Learning を用いた中途退学者を推論するプログラムを作成し, A 大学の学生の学習履歴などのデータを用いて中途退学者の推論を行った. 推論をする際の学習回数とデータを学習と推論に用いる割合を変更し推論結果の変化を調べた. 推論の結果は推論精度が約 30%となった.
キーワード：Deep Learning，データ活用，中途退学者

1.

中途退学者の推論には Java 言語の Deep Learning
用フレームワークである DL4J を用いた. DL4J から提供されている CSVExampleEvalutionMetaData.java
を改変し中途退学者を推論するプラグラムを作成した. 推論プログラムが中途退学者を推論した人数と実際に退学した人数で割った数を推論精度とする.
Deep Learning が推論した中途退学者の数が実際に退学した学生の数に近いと推論精度が高くなる. 推
論精度は推論に用いるデータの量や学習の設定や層の構成によって決まる.

はじめに近年, Deep Learning が注目されており画像認識だ
けではなく経済や医療の分野など様々な分野での活躍が期待されている. 一方で教育の分野において中途退学者の増加が問題となっており, これまでは学生の SNS(Social Networking Service)の投稿を構文解析したり LMS(Learning Management System)の学習履歴を分析したりしてデータを活用していた. Deep
Learning ではビックデータなどの多量のデータを用いて学習を行うが, 個別の教育機関単位ではデータはそれほど多くない. 本研究ではこうした限られたデータの中での Deep Learning の教育分野における有用性の検証を目的とし A 大学を事例に, 中途退学者の推論の可能性について調べた.

2.2 活用データ

本研究で用いたデータは本研究チームの先行研究において主成分分析と SOM (Self-OrganizingMap) によって中途退学者をクラスタリングした

2.

推論際に用いた既にある程度中途退学者の傾向がわ

本研究における Deep Learning を用いた中途退学者の推論をする流れを図 1 に示す. 本研究では Deep
Learning を用いた中途退学者を推論するプログラムを作成し, A 大学のデータを用いて推論を行った.
推論では学習の設定を変えて推論の結果の変化を調査した.

かるデータを採用した(1) . データは A 大学における, 2013 から 2015 年度の入学前教育を受けた学生群の計 539 名の学習履歴などである.

A 大学における, 2013 から 2015 年度の入学前教育を受けた学生の在学状況を表 1 に示す.
おける 2013

A 大学に

から 2015 年度の入学前教育を受けた学生の退学率は 7.2 %である.
表 1 A 大学の在学状況

図 1. 推論プログラムの流れ

2013 年度

2014 年度

2015 年度

在学生 204 名

在学生 163 名

在学生 133 名

退学者 25 名

退学者 9 名退学者 4 名データは e ラーニングの学習履歴(演習時間) や,授業の出席率などのデータ全 7 項目を標準化し2.1 推論プログラム

7

北海道地区

教育システム情報学会 2016年度学生研究発表会

Learning では早期停止と呼ばれる現象があり, 学習に用いるデータと学習回数の割合によっては学習の精度が収束せずに低下することがある(3). 今回の結果から推論精度が低下せずに早期停止の状態にならなかったことからデータ量と学習回数の設定が妥当であったと言える.
学習比率は学習に 8 割のデータを用いて推論に 2割のデータを用いたときであることがわかった.
学習回数を 400 回に設定し学習と推論に用いるデータを 8:2 に設定した推論を 1000 回繰り返して行った. さらにその推論を 3 回繰り返したときの標準偏差を表 2 に示す.

たものを用いる. 入力データから学生の特徴を学習し, 在学生か中途退学者のどちらかが推論結果として出力される.
2.3 試行実験

本研究では学習回数と学習の割合による推論精度の変化に注目した. 推論精度が高くなる学習回数と推論の割合の設定を検証し, 推論精度が高かった設定で繰り返し推論を行いその時の変化を調査した. 学習回数の調査では学習回数を 50 回から 2000 回まで変化させた時の推論精度の変化を調べた.

表 2 繰り返し推論を行ったときの推論精度
1 回目
2 回目
3 回目
31.57%
31.72%
31.45%

学習の割合の調査では, 入力データの学習に用いるデータと推論に用いるデータに分ける割合を変動させて推論結果の変化を調べた. 例えば,

表 3 繰り返し推論を行ったときの標準偏差1 回目と 2 回目 2 回目と 3 回目 1 回目と 3 回目
0.00100.00110.0001

入力データから 8 割のデータを学習に用いて 2 割のデータを推論に用いるときは, 539 名の 8 割である 431 名を学習に用いて残りの 108 名を推論に用繰り返し推論を行った結果, 今回は約 31%の推論精度であることがわかった.

いる. 推論に用いる 108 名の中でも在学生と中途退学者の比率が 8 : 2 となっており, 108 名の 2 割4.

にあたる 22 名からさらに 2 割の 8 名の中途退学

今回は限られたデータの中で推論を行ったため推者を推論に用いる. 学習と推論に用いる在学生と論精度が約 30%であった. 推論精度を向上するため中途退学者の割合を変えて推論精度の変化を調にデータ量の増加と推論プログラムの深層化があげべた.

られる. データ量に関しては毎年データが蓄積され学習回数と学習の割合で推論精度が高かったるため毎年増えることが期待できる.学習回数の調組み合わせの設定で繰り返し推論した時の推論査においては早期停止が見られなかったことから,結果を調べた.

3.

今後の課題

データ量と学習回数を増やすことで推論精度が向上する可能性がある. 本研究では本研究チームの先行推論結果研究が用いた 7 つの項目で推論を行ったが, 今後は学習回数の変化を図 2 に示す. 青い線が推論の精度を示しており, オレンジ色の線が A 大学の退学率である 7.2%を示している.

項目を変えることで中途退学者の推論精度の向上に期待できる. これまでの主成分分析や SOM では扱わなかったデータを用いた推論の結果を示す可能性がある. また, 項目数の増加にともない, 学習の設定と層の変更が必要となるため, あらためて最適な設定を調査し中途退学者の推論精度の向上が期待できる.
参考文献(1) 高橋駿嗣:”自己組織化マップを用いた退学者特性発見システムに関する研究”,
千歳科学技術大学, 修士論文, 2016(2) SKYMAIND 社:”Early Stopping”,
https://deeplearning4j.org/earlystopping(2017 年 2 月 12 日アクセス)

図 2. 学習回数による推論精度の変化
図 2 の通り学習回数を 50 回から 2000 回までの推論結果の変化を調査したところ, 学習回数が 400 回を
超 え る と 推 論 精 度 が 約 30% に 収 束 し た . Deep8