IoT 機能を搭載した筆記具を用いた学習支援システムの研究事業

Team-Pen1

目次○ 「民学産公」共同研究事業の概要・目的

P3○ 申請団体/参加団体のプロフィール

P4○ 共同研究事業の期間

P4○ 共同研究事業の背景

P5○ 共同研究事業の内容と実験結果

P6～26◇ 共通の内容

P6～7◇子供の学習意欲向上の実証実験

P8～18◇ 大人の学習意欲向上の実証実験

P19～20◇ 加速度データの解析

P21～25◇ その他

P26○ 実験の考察P27○ 今後の計画

P28

○ 謝辞

P28

2

「民学産公」共同研究事業の概要・目的
学生に学習する意欲を持たせることができないという課題がある。学習する必要性自体は理解しているが、やる気にならない。そもそも、何のために学習するかわからないなどが、その課題の要因になっている。
我々は、正確な学習記録に基づく、学習支援システムで、その課題を解決する。現在、学生の多くの学習は、紙と筆記具を基本として行われており、簡単に学習記録を残すことができない。本研究では、それを解決するために、IoT 機能を搭載した筆記具を用いる。この筆記具を用いて、加速度データを取り、機械学習/AI を使うことによって、落書きを除外し、学習科目を判別したうえで、学習記録を残す。スマートフォン上で、あとで確認することもできるし、親や先生にデータを送付し、褒めるという前向きなフィードバックを得ることや、友達とランキングを競うこともできる。また、この学習記録とゲーミフィケーションの技術を用いて、学習する意味を伝えることも可能となる。これらにより、学習の意欲を持たせることができる。
今回、本研究では、IoT 機器とソフトウエアを試作し、学習意欲が高まるのかの検証と、学習した時のデータ取得を行う。このデータを元に、機械学習/AI を用いて、どの程度落書きを除外できるか、学習課目を判別出来るか、文字の丁寧さは判別可能か、集中力は判別可能かなどの研究を行っていく。これらが可能になれば、IoT 機能を搭載した筆記具で、学習意欲向上だけではなく、集中力を高めることや、文字を丁寧に書くことを促すことも可能となる。
こういった研究は、過去、江木氏などにより行われているが 1)、筆記動作の把握のみであり、機械学習/AI の観点では行われておらず、近年の機械学習/AI の進化により、新たに研究を行う価値がある。また、この 6 月にコクヨ株式会社が IoT 機能を搭載した筆記具の開発を発表したが、機械学習の視点の開発に関しては述べられておらず 2)、かつ、特許出願
も我々の方が早い 3)。
参考ホームページ（https://peraichi.com/landing_pages/view/ikpen）
1)

江木啓訓、尾澤重知：学習者センシングシステムのための筆記行為の検知手法，情報処理学会インタラクション 2012 pp.275-280 20102)https://readyfor.jp/projects/yaruki-pen3)

特願 2017- 47237（特願 2018-106808/106809/106810）

3

申請団体/参加団体のプロフィール
申請団体名：Team-Pen
学習のモチベーションを上げるというコンセプトに共感して、会社を超えて集まり、現在はプ
ロトタイプ試作、実証実験を行っている。下記が主要メンバー
田谷圭司：イメージセンサ/カメラモジュール開発を行うハードウエアエンジニア ProjectManager/Project Leader を経験。現在は、ソニー株式会社に所属。
大坪崇志：スマホアプリ/IoT システム開発を行うソフトウエアエンジニア。
重野貴 家電製品、情報機器等のデザイナー。
アドバイザーとして、電気通信大学 江木先生、元中学校教諭 笠島さんにも参画いただいている。
参加団体：小中学生向け学習塾、老人ホーム、電気通信大学

共同研究事業の期間
平成 30 年 7 月 25 日～

平成 31 年 2 月 8 日

4

共同研究事業の背景
小中学生に学習する意欲を持たせることができないという課題がある。子供自身も学習する必要性自体は理解しているが、やる気にならない。そもそも、何のために学習するかわからないなどが、その課題の要因になっている。そういったことをなくし、モチベーションを高く学習し、継続的に学ぶ習慣がつくことができるようにしたいと考えている。
その課題を解決するために、我々は、正確な学習記録に基づく、学習支援システムを作りたいと考えている。現在、小中学生の多くの学習は、紙と筆記具を基本として行われており、簡単に学習記録を残すことができない。それを解決するために、IoT 機能を搭載した筆記具を用いる。この筆記具を用いて、加速度データを取り、機械学習/AI を使うことによって、落書きを除去し、学習科目を判別したうえで、学習記録を残す。スマートフォン上で、あとで確認することもできるし、親や先生にデータを送付し、褒めるという前向きなフィードバッ
クを得ることや、友達とランキングを競うこともできる。また、この学習記録とゲーミフィケーションの技術を用いて、学習する意味を伝えることも可能となる。これらにより、学習の意欲を持たせることができる。初めの顧客は、小中学生の親もしくは、学習塾を想定しており、子供に学習意欲を持たせることができるという理由で、このサービスを利用する。
現状、学習記録を手作業で入力するスマートフォンのアプリケーションは存在するが、その都度、手作業で入力が必要であり、手軽に学習記録を残すことができない。その問題を我々は、IoT 機能を搭載した筆記具と、機械学習/AI の技術により、優位にビジネスを展開する。特許も出願済みである（特願 2017-0472337・PCT/JP2018/009535）。
IoT 機器の小型化、低消費電力化が進んでおり、アプリケーションのリリースも容易になってきているため、実現性は非常に高い。また、特許に関しても出願済みである。
上記システムに関しては、はじめは小中学生をターゲットとしているが、高校生やシニアにも展開していきたい。モチベーションを高めるシステムとそれを助ける IoT 機器が一般化すれば、大きな市場があると考えている。
今回、そのための一歩として、下記のことを検証した。
◇ 学習意欲が高まるかの検証
今回の IoT 機能搭載の筆記具とアプリケーションにより、学習意欲が高まるか、楽しく勉強できるかの検証を行う。この検証は、学習時間自体や、対象者へのアンケートによって行う。
◇学習した時のデータ取得と機械学習による分析
学習塾や大学でのデータ取得を行う。さらにそのデータを使って、機械学習/AI に導入し、どの程度落書きを除外できるなどを判断する。

5

共同研究事業の内容◇共通の内容実証実験に使用した機器としては、下記を用いた。
(1) 加速度センサ、Bluetooth(通信手段)、メモリを搭載した小型基板(2) (1)を搭載したシャープペンシル(3) タブレット/スマートフォンでのデータ取得と子供のモチベーション UP のためのアプリケーション(1) 加速度センサ、Bluetooth(通信手段)、メモリを搭載した小型基板
加速度センサUSB 端子メモリ

Bluetooth/マイコン
13mm

18mm
充電部
切り離し可能47mm

図1(2) (1)を搭載したシャープペンシル(1)の基板を搭載

図26

(3) タブレット/スマートフォンでの￥データ取得と子供のモチベーション向上のためのアプリ
ケーション

モチベーション向上のためのアプリケーション

データ取得用のアプリケーション
図37◇子供の学習意欲向上の実証実験◆目的：
本試作品を用いて、子供自身の日頃の学習意欲と、本試作品を用いて学習意欲が高まるかを検証すること。また、同時に本試作品が商品となった際に欲しいかを知ること。さらに、試作品に対する意見やアイデアをもらうこと。
また、親に対しては、子供の学習意欲に対する認識を調査すること。また、本試作作品が商品になった時の購入意思、課金の方法の調査をすること。さらに、試作品に対する意見やアイデアをもらうこと。
合わせて、機械学習で、判別するための加速度データを取得すること。
◆ 実証実験を行った場所と特徴：
個人塾（田園都市線青葉台駅周辺）、Maker Fair、IoTLT ファミリーテック、Edvation x
Summit 2018、コンテンツエキスポ JAPAN など
・ 個人塾（田園都市線青葉台駅周辺）
学習塾の修了後に、4 人ほどに残ってもらい、ユーザーテストを実施。その場で意見を聞きながら、試作品を使ってもらった。

8

・ Maker Fair 2018
企業、個人が参加する「ものづくり」のイベント。ガジェット好きの親子が多数参加。多くのかたに体験して、意見をいただけた。

・ Edvation x Summit 2018

・ IoTLT ファミリーテック9◆ 仮説：・子供自身
日頃の学習意欲：あまりなく、テレビを見たり、ゲームをしたりしてしまう
本試作品での学習意欲向上：ある程度ある（試作品のため）製品になった際欲しいか：欲しい・親
子供の学習意欲への不満：あり製品になった際の購入意思：アプリケーションに効果があれば欲しい
課金：形態によっては課金可能◆ 子供へのアンケート結果
・モニター
アンケートに答えてもらった人数
ユーザーテスト自体は 100 人程度に実施。
性別
男

956%

女

744%

Total

16100%

幼稚園

00%

小学 1,2 年

319%

小学 3,4 年

850%

小学 5,6 年

319%

中学生

00%

高校以上

213%

Total

16100%

学年10

・勉強より先に遊んでしまうことはありますか？

ない 6%
よくある44%
たまにある50%

・欲しいですか？
いらない0%
学習意欲が高まれば欲しい12%
19%
ゲームが面白ければ欲しい
69% 欲しい・これがあれば、遊ぶより先に勉強するか？

いいえ
44%

はい
56%

11

・いきものが弱るなら毎日使うか？
いいえ

6%

はい
94%

・意見/コメント
私ならこんなペンが欲しい
字がきれいになるペン
ペンでアイパッドにお絵かきして、アイパッドから紙につながるペン持ち方が正しくなるペン
バトル形式。育てたモンスターとバトル

気に入ったところはありますか？
勉強しながら面白いことができるからいいと思った。
どんどん育つどうぶつ
ゲームにつながるところ
成長していくところわからなかったところ、かんそうなど
ペンとアプリが連動しているのか知りたかった。
おもしろかったです。
楽しかったです。
もっとやりたかった（兄弟で交互にやっていたため）

12

◆親へのアンケート結果
・モニター
アンケートに答えてもらった人数
性別
男

2576%

女

824%

10 歳代

26%

20 歳代

1030%

30 歳代

1030%

40 歳代

824%

50 歳代

26%

60 歳以上

13%

いる

824%

いない

2576%

Total

33

100%

親の年代

子供はいますか？

・ 早く勉強しなさい。と思うことはよくありますか？（子供のいる方）
あまりな
い, 13%

時々ある,
25%

全くない,
0%

よくある,
63%

13

・子供の勉強時間と科目がわかるペンがあれば使いたいか？（子供のいる方）
いない,
0%

いる,
100%

・学習支援機能や、ユニークなキャラクターに課金の可能性はありますか？（子供のいる方）
ない,13%

ある,88%・買っても良い / 子供に買い与えても良いと思いましたか？（子供のいる方）
いらな
い, 0%

はい,
13%

学習効果
があれば,38%
ゲームが面白ければ,50%

14・いくらなら買いますか？（全員）10000円～, 3%～1000円, 6%～10000円, 6%～5000円,22%～2000円, 38%

・意見/コメント
改善ポイントをご指摘ください。
ずるができないと良いと思う
書いた内容（文字の違いとか科目とか）で、生まれて進化の仕方が変化すると面白いと思います。
文字を書くとき、動きがゆっくりだと、反応してくれないことがある
もう少し書いているときだけ反応すると良い書いた文字の正否うまくかけたかどうか評価して欲しい
すごろく的な感じで進めるといいかも
文字だけに反応するようにして欲しい
書いている文字認識までできるとさらに良い
加速度センサなので、振るだけで育ちそう
ソフトウエア側のゲーミング性
内容とリンクしたい
子供の想像力を鍛えるなにかが欲しい
鉛筆でも対応できると良い振っても成長するのがばれるとまずいですね
画面を見なくても楽しめるようにして欲しいです15気に入ったポイントをご記入ください。
キャラに課金する可能性はある
子供が欲しいと言ったら買ってしまいそう
子供が楽しめ、大人にもメリットがあるところ
普段使いできるようなペンの大きさであること
ゲームと紐付けるのが面白いと思います
書き取りは非常に苦痛だったので、少しでもこれで楽しんでもらえるといいなと思う
かわいい
いきものがかわいい
ご褒美があるところ
書くのが楽しくなる！
子供の飽きを抑止できそう
ペン IF として、可能性がとてもあると思う
今ある文房具に違和感なく実装されているのがすばらしいです
ペンの技術の信頼性の高さ育てる楽しみコレクション要素
やりたくない勉強にご褒美が与えられるという点が非常によいと思います
1 回で覚えられるのに 10 回書くとか、今はまだ難しすぎる問題でもとりあえず解かなきゃという状況に子供はペンを取らないため楽しくかけるところ
3 歳の子供は動物が好きなので楽しそうでした
次のキャラクターを見たい気持ちが次の問題に進む力になって、早く宿題をやりそう付け足した方がいい機能
戦うとか、科目によってステータスがあるとかご褒美の部分が子供の年齢や興味に応じてバリエーションが増えると良いと思いました。
ゲーム的な要素がもっとあるとよい
もっと進化が見たい音があると良い
ペンが紙に触れて、書いていることがわかれば効果的なものになるかもしれないです
何文字かけたかわかると、レポート作成とかで役立つかも算数などでもできれば良いと思う
ペンの部分の加圧センサ

16不明点や、ご意見・ご要望
私立の小学校に売り込んでみてはどうか
アナログなところがいい
勉強に関する豆知識がでてもいいかも
書いたときに音がでるようにしてほしい
ローテクとハイテクの融合が面白い
小さいうちに書くクセを付けておくのが大事
どんなペンでも使えるようなアタッチメント
実際のビジネスモデルについて
小学生の時にこれがあれば、良かった
わくわくする
画期的
すごい
鉛筆化
英語の単語練習に使いたい
正しいと育って欲しい
ただし、タブレット教材みたいに正確性を求めすぎると、こどものやる気がなくなってダメ17◆ 実験で取得した加速度データ
多量のデータのため、ここには一例を示す。詳細は後述の「加速度データ解析」を参照。

18

◇大人の学習意欲向上の実証実験◆目的：
本試作品を用いて、老人やリハビリを行っている方が、学習やリハビリの意欲が向上するかを検証すること。合わせて、職員の方の意見を伺うこと。
◆ 実証実験を行った場所と特徴：
・ 老人ホーム（埼玉県熊谷市）
老人ホームとリハビリテーションを兼ね備えた施設。先進的な機器への導入の意欲有り。
かなり大規模な施設。

◆ 仮説：
老人も、リハビリテーションをされる方も、ある程度興味を持って使っていただける。
◆ユーザーテストの結果
職員の方：かなり大きい施設なので、人がつける記録などを肩代わりしてくれるだけでもありがたい。
ユーザーテストなどの協力はいくらでも OK なので、また来てください。
リハビリテーションの方（麻痺など）：
シャーペンだと折れる。いまの子供向けコンテンツだと飽きる。
叱咤激励して欲しい。丁寧さなどを判別して欲しい。
興味に応じたコンテンツが必要（お城巡り、世界遺産巡りなど）。

19認知症（老人）：
育成ゲームは良いが、ゲームの意図が伝わらない。
ペンとタブレット、スマートフォンが連携することの意味がわからない。
手が震えるなど、文字を書くのが難しい。

◆ 実験で取得した加速度データ
後述の「加速度データの解析」の項で示す。

20

◇加速度データの解析◆目的：
加速度データを用いて、学習中などの筆記具の加速度データの取得を行う。その特徴を理解し、機械学習によって、書いているかどうかなどの判別が行えるか実験を行う。
◆加速度データのグラフ化

21◆取得した加速度データの種別

22

など多数
なお、筆記具の方向は下記。

↑Y
←Z
◎X

23

◆取得した加速度データの解析（人間による見た目の分析）
・数学など勉強を行っている時は、重力加速度を感じる Y 方向に-0.98G がかかっている。
時々筆記具を上げ下げするので、Y 方向の重力が変化
X 方向と Z 方向は頻繁に細かく動きを繰り返す。

・同じ所に円を書き続けるような落書きは、X 方向、Y 方向共に単調な動きをする。
ペンを上げることも少ないので、Y 方向も重力加速度を感じている。

・持ち歩いている時などは、Y 方向にもランダムな動きをする。

24

◆機械学習による解析
・今回は、書いている（WRITING）、（動かしているが、書いていない（MOVING BUT NOTWRITING）、机の上に置き動かしていない（OT MOVING）に関して、機械学習にラーニングさせて、正解する確率を測定した。

正しいデータ（子供本人による記録）

その結果、90%以上の確率で正解することがわかった。

機械学習による予測結果

25

◇その他
◆知財権の獲得
特許庁に本事業の特許を出願（特願 2017- 47237）している。その後、拒絶通知が戻ってきたため、対応を行った。担当していただいている弁理士とともに、特許庁に伺い、担当審査官とうち合わせ。特許性は十分に存在するが、はじめの明細書の範囲が広すぎることから、請求項を狭める範囲を相談。本事業で実施している範囲は、押さえられる範囲で、拒絶通知に対応する方針を決定。
※権利化前のため、詳細は割愛◆量産仕様の策定
量産仕様は、ペンへのアタッチメントで行うことを決定。必要は部品の選定とモックアップを作成した。

◆量産工場の選定
福岡と中国深センの工場に出張して、量産品の作成の相談を行った。量産開発の際のコミュニケーションの問題や、コスト面の課題を確認。福岡での量産が有力であるが、最終決定は今後行っていく。

26

実験の考察◇子供の学習意欲向上
子供と親の反応やアンケート結果から、現在は学習意欲に問題を抱えており、事業家の可能性は十分にあると考えている。親の課題認識も大きく、学習のために IoT 機器やスマートフォンのアプリケーションを使う心理的なハードルも低い。
今後は、下記がポイントになってくる。
・ 学習意欲を維持できるアプリケーション
・ バッテリーを含めて使い勝手の良い大きさにできるか・充電などの手間がかかるため、自然に充電ができ、継続的な使用につながるような仕組み作り。

◇大人の学習意欲向上
老人やリハビリテーション用途へ使うことを期待したが、参入は子供以上の難易度があると考えている。理由は、大人は子供と違い多彩なコンテンツを求めること、また、老人にとってはスマートフォンの使用にハードルがあることからである。
この領域への参入は、ハードウエアの販売をある程度行った後、オープンなプラットフォームを作成することにより、狙いに行きたい。

◇加速度データの解析
加速度データの取得とグラフ化を通じて、少なくとも、書いている、書いていないが動かしている、どこかに置いて動かしていない、落書きか勉強かの区別がつくことは確認できた。この範囲であれば、機械学習により 90%以上の確率で判別が可能。この領域における加速度の使用と機械学習の有効性を確認できた。

27

今後の計画◇アプリケーションのブラッシュアップ
より継続的な学習意欲が上がるようなアプリケーションを作成していく。親のスマホに勉強の様子が通知される機能や、長く使っても楽しいゲーム機能などを盛り込んでいく予定。

◇ユーザーテストの継続
上記、アプリケーションを使って、ユーザーテストを実施し、長期間の学習意欲継続のテストをしていく。

◇データ判別のブラッシュアップ
データをさらに積んで、学習課目の判別や丁寧さの判別を機械学習で行えるようにしていく。

◇知財権の取得拒絶通知に対応し、確実に権利化を目指す。

◇資金調達と量産試作/量産品の製造
上記、ユーザーテストやデータ判別、知財権などをベースに資金の調達を行い、量産化に結びつける。

謝辞
本機会を与えてくださった「民学産公」共同研究事業の関係者の皆様ならびに、電気通
信大学 江木先生に感謝の意を表します。また、ユーザーテストに参加していただいた学習塾、老人ホームの皆様、展示会などでブースに足を運んでくださった皆様、本当にありがとうございました。試作品の作成に協力いただいた河野さん並びにメンバーには大変お世話になりました。これからも引き続き、よろしくお願いします。

28