東ロボくん
囲碁AIのAlphaGoで絶大な効果を上げた「深層学習」は、英語学習にも効果的だと予想されていたが、予想とは異なり、東ロボくんは文章の意味が分からないまま、可能性が高そうな解答を出すだけの学力しか持てなかった。一方で、数学や世界史では偏差値60を超える好成績を収め、5教科8科目の総合偏差値では57.1をマーク。高校生の8割が東ロボくん以下の成績となったことに開発者の新井紀子は衝撃を受け、これからのAI時代において人間が人間らしくあるために「AIの性能を上げている場合ではない」「東ロボくんの性能を上げるよりも、中高生の読解力向上が直近の課題」との結論に至る。
新井は著書『コンピュータが仕事を奪う』において、AIによって人間のホワイトカラーの仕事の一部(中間部分)が奪われ、人間の仕事は「AIには難しい人間ならではの高度なクリエイティビティを発揮する労働」と「AIには難しいが人間なら誰でもできる低賃金の下層労働」に二極化し、社会が分断されると予測していたが、「東ロボくんは文章の意味を理解できない」「東ロボくんは東大は無理でもMARCH程度なら入学できる」という結果は、その予測を支持するものであった。
東ロボくんの開発凍結後は、「計算」と「記憶」というAIが得意な分野でのAIの能力の向上を進めるほか、AIを使う人間の方でもAIと差別化するため、「読解力」や「意味理解」というAIが苦手な分野での中高生の能力を向上させる試みが、国立情報学研究所によって進められる方針である。