AIヒューマンエクスペリエンスの進化パス

![glasses.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/566223/79f03b76-f1aa-701b-6acc-6099d5db8b0e.png)


「広義の人工知能」はすでに私たちの生活と業務の中に深く入り込んでいると言っても過言ではありません。毎日使っているスマートフォン、スマートテレビなどの電子製品、電子メール、検索エンジンなどのサービスには、知らず知らず様々な人工知能技術が適用されています。

しかし、それぞれの事業者は自社の技術開発の方向、確保された技術やロードマップなどに合わせて製品やサービスを出しているだけで、全体生態系の観点から「エンドユーザー」が使う人工知能製品とサービスがどのような形で発展、進化すべきかについて議論する枠組みはないのが現実です。

Element AIとLG電子は昨年から、家庭や会社、車両、都市一般など多様な空間においてユーザーと人工知能製品・サービスの相互作用がどのような段階に進化すべきかについて共通のFrameworkを提案する共同プロジェクトを進めており、これをCES　2020で同時に発表しています。(参考：https://www.verdict.co.uk/lg-electronics-element-ai/)

このFramework―Level of AIX: The Future of AI and the Human Experience―は、Element AIとLG電子が行ったHome SpaceにおけるAI基盤製品やサービスの将来の見通しに関する研究や最新のAI技術の研究方向およびAI技術が内包する社会的意味に対する綿密な検討、多様な専門家のインタビューなどによって作り上げたものです。 ここでユーザーと相互作用する人工知能の発展段階を４段階(Efficiency - Personalization - Reasoning - Exploration)に分けて定義し、各段階はユーザーおよび社会に新たな利益をもたらす、前段階の機能を持ちながら進化する、人工知能の差別的Value Propositionを示しています。そして、それぞれの段階が実生活および人工知能が使われるうえで どのような意味合いを持つのか説明するために、4つの次元概念 ―Environmental Awareness、 Collaboration、 User Understanding、 Autonomy ―を導入しました。

このような枠組みの究極の目標は、エンドユーザーを対象にする様々な人工知能製品およびサービスを提供する生態系(Ecosystem)を構成する多様なプレイヤー(製造会社、プラットフォーム事業者、サービス提供者など)がユーザーに提供する機能と利益を段階毎に有機的に構成できるようにし、そのための効果的な協業または、競争の枠組みを提案することにあると思います。また、ユーザーに対しては自ら購入して使う製品やサービスがどのような機能を提供するのか、「段階」という概念で直観的にわかるようにすることにも大きな意味があります。(自動運転車購入において、「自動運転車の発展段階」という概念がその機能に関するユーザーの理解を助けるのと似ています。)

この「Level of AIX」は、多様な空間で様々な製品とサービスがユーザーとどのように相互作用するのかについての上位レベルのFrameworkなだけに、これから、それぞれの空間と製品、サービスの脈絡に基づいた具体化が必要です。Element AIがLG電子とスタートしたこの試みが今後、様々な事業者との議論、協業などを行うことで、より豊かな内容と視点を取り入れることを期待します。

「Level of AIX」について、韓国情報通信技術協会のTTA Journal 第187号(2020年3月)にLG電子の研究員と共同で「人工知能学習アルゴリズムの動向」というタイトルのコラム(https://www.tta.or.kr/ebook/ecatalog.jsp?catimage=1&Dir=70&start=54)を寄稿しています。技術的な内容は少なくなっていますので、よかったらご参考にしてください。


###人工知能学習アルゴリズムの動向


チョン・ヘジョンLG電子未来技術センター人工知能研究所研究委員
ハン・ジョンウLG電子未来技術センター人工知能研究所責任研究員
ウム・ビョンチャンElement AI北東アジア総括


###１．はじめに

人工知能は我々の生きる世界に影響を及ぼしており、私たちは、毎日使っているシステムやサービス、装置などでそれを見つけることができる。人工知能が特定の応用において興味深い発展を遂げたが、道路や家庭、職場、公共場所など、多様な領域にわたっての人工知能の発展方向に関する研究は多くない。

こうした理由からLG電子とElement AIは、2020年CESのLG電子プレスカンファレンス(Press Conference)で、人工知能の発展について共有できる定義を提案するために、人工知能の発展段階を研究開発して発表した。人工知能の発展段階は、技術自体の発展だけに焦点を合わせるのではなく、技術と共に人間の経験がどのように変わるのか、その方向性を示している。すなわち、段階が上がるにつれて顧客のより良い生活を目指す。

人工知能の発展段階は、人工知能科学と工学の最先端技術に対する予知と研究の想像力を土台にして、明確な４段階で構成されている。 各段階は人工知能により駆動される製品やサービスがユーザーと社会に新しい恩恵をもたらす機能の段階的変化を示している。人工知能の未来が人間中心のデザインに焦点を合わせるべきだという観点から、人工知能の発展段階を人工知能経験(AIX、AI Experience)の段階と名付けており、この観点から学習アルゴリズムの動向を考えたい。


###２．人工知能の発展段階

工場は数十年間、人間の身体能力を向上させたり代替したりする機械を統合し、機械的な能力の変化は、工場の物理的な配置を持続的に再構成させてきた。例えば、中央集中式モーターがつながっている数多くの機械を動かすグループ駆動システムから、個々の電気モーターがそれぞれのツールを作動させる装置駆動システムに転換され、1920年代から生産は線形組立ラインに細分化した。

より複雑な機械を作るのに数十年がかかったにもかかわらず、低いレベルの自律性を持つ工場は、まだ組み立てラインに沿って動くように最適化されていて、固定された位置の作業者は機械の限られた特殊性を扱えるように訓練された。しかし、認識と移動能力を備えた自律型ロボットが多くなるほどますます柔軟になり、これで空間と工程を単純な線形の流れよりは人間と機械の協業に最適化できる。家庭では、ユーザーが家電に合わせて固定された位置で作業するわけではないが、家電の機能が持つ時間・空間の限界に合わせなければならない。 料理のためにオーブンの予熱を待つ必要があって、外出するにはかけている洗濯機やロボット掃除機はその動作が終わるまで待たなければならない。しかし、人工知能でユーザーの料理過程に合わせて事前にオーブンを予熱したり、日程に合わせて自律的に洗濯機とロボット掃除機を動作させることができたり、人工知能のおかげで作りたい料理を専門料理家のように作れたり、洗濯や掃除中に起こりうるコースのエラー、障害物による掃除停止などの問題点まで解決できれば、より余裕があって価値のある暮らしになるだろう。

![AIX_Picture1.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/566223/46132a9f-c9aa-80e9-e5f9-f2ee987b1a31.png)



###２.１　段階1：効率化(Efficiency)

人工知能が事前に定義された命令や条件に応じてシステムと製品を動作させ、ユーザーの利便性を高める段階だ。 一般的な機械学習(Machine learning)アルゴリズムを適用し、ユーザーが音声で命令を出したり、特定の環境条件が満たされると動作する。現存するほとんどの人工知能製品は段階1の技術を搭載している。

段階1の人工知能エアコンは、スマート検知センサーを利用して室内に人がいるかどうかを把握し、人がいるところに自動で冷気を送り、あらかじめ設定された温度で冷房運転をすることができる。ユーザーは音声でエアコンの動作を制御できる。

一定の周期で作動するスプリンクラーに段階1の人工知能を適用すると、スプリンクラーのセンサーは最近、雨が降ったことを検知して、予定された作動をスキップすることで水を節約できる。


![AIX_Picture2.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/566223/49e9d377-74b7-7a3b-cfc7-4946a9fd45a1.png)



###２.２　段階２：個人化(Personalization)

段階２の人工知能は「個人化」ができるため、ユーザーと累積した相互作用を通じてパターン学習(Patternlearning)をすることができる。段階２の人工知能は、ユーザーの過去の行動を分析しパターンを探して未来の行動を予測する。一つの製品やサービスを複数の人が同時に使用しても、各々の声や顔、使い方などを分析して固有のパターンを探す。そのため、ユーザーがログインしなくても、人工知能はユーザーが誰なのか分かる。

段階２にある人工知能冷蔵庫は、ユーザーが過去にどんな料理を好んでいたのか理解してそのシーンに合ったレシピをお勧めできる。一方、段階１に属する人工知能冷蔵庫はユーザーの「辛い料理のレシピを教えて」という命令に応じて、過去の経験は考慮せずに一般的なレシピをお勧めしてくれる。

スマートミラーは段階２の人工知能を利用して、ユーザーのウェアラブル機器や各種センサーから入力されたバイオ情報(Biometric Data)を表示する。また、ユーザーが薬を服用する状態なら忘れずに服用できるようにリマインドしてくれる。

![AIX_Picture3.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/566223/3213611f-6892-fc62-41b3-4de4b8e96047.png)



###２.３　段階３：推論(Reasoning)

「推論」段階の人工知能は因果学習(Causality learning)により、各種の製品やサービスを使いながら発見される特定のパターンや行動の原因などを把握する。これを基に、新しい状況でもユーザーが必要とする結果を予測して動作する。

ユーザーにカスタマイズサービスを提供するためには、様々な接点による情報収集が不可欠になる。人工知能の段階２でユーザーと製品、ユーザーとサービスなどに対する個別の相関関係を把握していたのなら、段階３ではそれぞれ異なる製品とサービスから収集された情報を取りまとめて総合的な因果関係を把握できるようになる。

ユーザーがボイラーの電源を入れて、センサーがついたタンスから厚い服を取り出して着て、熱いドリップコーヒーを淹れて飲むと、「推論」段階の人工知能はユーザーの行動が温度や体温を高めるためだと把握する。後に、気温がグッと下がっているという天気予報が出たら人工知能は、稼働中のエアコンを消して暖房を準備したり、ユーザーに厚着をするよう提案したり、「熱いコーヒーを淹れましょうか」と聞いたりできる。

![AIX_Picture4.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/566223/e9bfb53c-b5f2-063c-0508-a5866feee43f.png)



###２.４　段階４：探求(Exploration)

「探求」段階は、実験学習(Experimental learning)によってユーザーの生活をより豊かにする段階だ。実験学習とは、人工知能が自ら論理的に推論し、仮説を立てて検証することにより良いソリューションを見つけ出す作業だ。人工知能は、次々と新しいアイデアを見つけて知識を習得しながら新しい情報がユーザーの生活に価値をもたらすように意味のある実験を繰り返して行う。

例えば、睡眠時に周辺の温度が17度程度なら快適に睡眠できるという新しい情報を入手した人工知能は、ユーザーに「天井冷却ファンを回すと涼しい空気を循環させ、睡眠に快適な 体温の維持に役立ちます。睡眠時に冷却ファンを回したらどうですか。」と先に提案することができる。

また、段階４の人工知能基盤のスマートシティは、車両やトラフィックセンサーなどを通じて入ってくる情報を収集して交通システムを最適化する。スマートシティは自ら最適化する過程を経て、人々が効率的で安全に生活できるよう手助けする。

![AIX_Picture5.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/566223/e6440610-ca88-58e3-94ac-d4a40b2b0578.png)



###３．人工知能段階のための4つの次元

これらの段階の違いが実際に何を意味するのか、明確にするために各段階の違いを表現することができる基本的な次元を導き出して、全ての段階において人工知能を安全かつ信頼できる方法を考慮した。それぞれの次元に対する発展は、製品やサービス、さらに高い段階の人工知能の実現に必要だ。

各段階における次元の特徴を「図6」に示す。

![AIX_Picture6.png](https://qiita-image-store.s3.ap-northeast-1.amazonaws.com/0/566223/8b5dcbe4-acd3-fb01-52ff-46e8c7d8a1c2.png)


###３.１自律性(Autonomy)

ユーザーや作業者は、直接的または間接的な方法で機器を制御することができる。例えば、飛行機パイロットが希望する高度を直接設定すると、自動パイロットシステムはセンサーと制御アルゴリズムを用いて、指定された媒介変数である設定の高度値を満足させることができ、スマートウォッシャー(Smartwasher)はユーザーが指定した掃除のレベルに応じて適切な水の量を選択できる。

これとは対照的に、自動運転車では乗客が最終目的地を設定するだけで、車両が全体の任務を、速力や方向などの直接的な媒介変数に変換する下位の目標や車線維持などのような作業に細かく分ける。同じように、先端のスマートグリッドは、さまざまな省エネと分配戦略を行うことで、全体または部分的な停電を最小化する方法を提案できる。

ユーザーが直接制御する必要性をなくし、ユーザーが人工知能により多くの自律権を与えることで、より複雑な作業を効率よく遂行できるため、さらに効率を高められる。より多くの自律性を得るために人工知能は、抽象的または高いレベルの命令の文脈上の曖昧性を明確に理解し、最適調整をするための文脈に変換して理解しなければならない。同じ任務でも、それぞれ違うコストとリスクを持つ様々な計画で解決できるため、高度に進化した人工知能は、ユーザー自ら持つ短期目標と長期目標の衝突のような矛盾を探索して、より広範囲の目的を達成できるようサポートする必要がある。

人々の興味と影響力は、数ヶ月、数年、さらに長く続くものなので、真の個人化された生涯学習プログラムの実現といった任務を遂行するためには、人々の子ども時代の記憶のような過去や職業展望のような未来を考慮する必要があるかもしれない。


###３.２ 環境認識(Environmental Awareness)

最も簡単な作業は、固定された環境で起こる繰り返し作業だ。この段階では、作業に対するプロセスの知識と環境の基本マッピングを備えた人工知能システムだけが求められる。例えば、スマートインフラは雪が降ったことを検知して、道路状態を改善するために熱や塩を自動で適用することができる。

しかし、人工知能システムのメリットは学習して適応する能力だ。人工知能の駆動システムは、道路が濡れていると滑りやすいという現象に適応すれば、より一層役立つものになる。 例えば、雪が降って道路が濡れていたら、車がすぐ止まらなくなったことを予想して、黄色信号の点灯時間を長くすることができる。

システムの進化に伴って、人工知能は社会的または生物学的な過程にうまく関与できるほど、ユーザー環境について十分学習することができる。例えば、スマートキッチンシステムが発酵や腐敗といった過程を理解したら、適時に食品の解凍を始めたり、日持ちを伸ばすために塩を入れたり、さらには肉と野菜にあらかじめ作られたタレを適切なタイミングでつけておくと食事の支度に役立てる。

このタイプの適応性を実現するためには、システムが日常的な物理現象または、因果関係の内部モデルに関する様々な種類のセンサーと理解能力を持っていなければならない。社会や生物的システムにおけるパターンは複雑であるため、人工知能は、モノのごく少ない事例を見てから一般化したり推論してその知識を新しい領域に適用できる子どものように進化する必要なある。

この理解は、最も高い段階の進化において、さらなる探求と成長を遂げるための土台に過ぎない。優れた学生や探検家のように、高度に進化した人工知能は、理解と仮定を試すために新しい洞察力を鍛えていくだろう。


###３.３ ユーザー理解(User Understanding)

今日、人工知能により駆動される製品やサービスは、そのほとんどが以前好きだったもの、または次にクリックしやすいなど人々の行動パターンによって個人化する。人々は相互作用に成功することで、より良い選択ができるようになる。彼らは行動だけでなく、人が考えたり感じたりするような内部の状態も推論するからだ。

例えば、ドライバーは他のドライバーが不注意であると推論したら交差点で止まらないことを予想できる。同じように人工知能も個人の行動だけに反応していたのが、精神状態や気分を考慮して反応するまで進化できる。例えば、キッチンの調理制御システムは、ユーザーが注意散漫で調理機器の表面が熱いことに気づかないことを推論すると、警告を出したり予防的に調理機器の表面の温度を下げることができる。

人工知能は、社会関係を解釈して推論できる真のパートナーになるために、外部に表れない知恵を学習して、理解するものにならなければならない。例えば、ビジネスマナーで、新しく交換した名刺をミーティング中にテーブルの上において見えるようにする国もあれば、受け取った名刺をしまっておくようにする国もある。人々は自分の行動に対して表に出る点数や褒賞をほとんど受けることができず、他人を観察することで「ゲーム」の目標が何かを類推しなければならず、より進化した人工知能も似たような能力を持つ必要がある。

進歩した人工知能の応用事例には、認知症の人や視覚障害者のような少数人口に提供される服薬リマインダー、または道案内のようなサービスなどがあるが、人工知能がその実現のためにどのように認知して、違う考え方をするのかを考慮できる。しかし、人工知能がこのようにより敏感な作業を行うために、ユーザーには人工知能の提案や決定がユーザーの最善の利益にあることを信用して、より幅広い目的をサポートしなければならない理由が必要だ。

例えば、ユーザーは料理メニューを選ぶために食品アレルギーに関するデータを簡単に共有できるが、また別の理由から宗教的または文化的慣行による食品制限に関するデータはそうではない。したがって、高度に進化した人工知能は、感情的により直観的であるだけでなく、ユーザーに対して彼らの考えと感情をどのように理解して解釈するのか、その証拠を提示して説明する方法も探さなければならないだろう。


###３.４ 協業形態(Collaboration)

機械は自らますます能力を高めてより機能的になることができるが、専門化に対する論理と利点は、ほとんどの家庭、職場や他の空間には様々なスマート装置が含まれることを意味する。同時に、多くの作業は様々なモノやシステムにわたっての調整が必要だ。例えば、家庭やオフィスを安全にするのは、多くの物理的、デジタル資産とエントリ―ポイントを保護することと関連した仮想-現実の挑戦だ。

独立した作業から機械グループとの成功的な作業へ進むために、人工知能は、それを達成するための自らの行動だけでなく、その行動が他の機械の行動にどう影響するのかも考慮しなければならない。 厳格なプロトコルを使わなくても、作業に関わる概念や指示を伝える情報の流れとして、他の機器やアプリケーションと効果的に通信できる柔軟な手法が必要なシステムレベルでの理解が求められる段階だ。

人と協力することで作業がより容易になることもある。例えば、コスト削減のために、人間のドライバーに追従する自動運転トラックの小隊方式は、完全な自動運転トラックより比較的精度の低い車両でも達成できる。しかし、一般的に人と機械のチームが協力することは、より進化した人工知能システムを必要とするだろう。チームメンバーらの状態や意図、目標を観察して解析し、チーム内で興味や調整コストを管理して、学習目標を共有するようなことができなければならないからだ。最も発展した人工知能システムは、このような共有能力間の違いを認識して、グループをより効果的に作れる手法を積極的に模索することになる。


###４. 人工知能論文との関連性

このような人工知能の発展段階に関する主要論文の動向を以下のように示す。

段階１の効率化のための既存のディープラーニング学習方法は、主により高い認識性能やより速い計算のための学習設定値の最適化(Hyper-parameter optimization)に関する研究だ。 以前、こうした問題を解決するために、人間が一つ一つ多くのケースを実験して最適の学習設定値を見つけ出したが、最近はデータ中心に動作する自動学習(AutoML)分野の開発が活発に行われている。特に、中でも強化学習を適用したネットワーク構造の探索(Network architecture search)系の手法[2][3]を用いると、効率的かつ高い認識性能を持つモデルを学習できる。

段階２の個人化(Personalization)を達成するためには、すべてのデータを中心に学習したモデルの転移学習(Transfer learning)が必要だ。特に、実環境においては、学習データに含まれていない状況が頻繁に発生するため、ユーザー個人の使用環境において発生したデータを活用した再学習の過程が重要になる。このように異なる二つのドメイン間の学習はドメイン適応学習(Domainadaptation)[4]と呼ばれる。また、ユーザー環境は学習環境のように多様なデータを確保することができないため、メタ学習(Meta-learning) [5] など少数のデータを用いた学習技術の開発が重要だ。

段階３の推論(Reasoning)は、ある結果に及ぼした原因を探る原因推論(Causal inference)としてデータ科学(Data　science)分野で活発に研究されていた問題だ。ある因果関係が確実に分かれば、当該の因果関係から学習ドメインではない他のドメインで起こることも簡単に予測できる。したがって、原因推論は、近年、機械学習分野で活発に取り入れられており[6]～[9]、これに基づいてドメイン適応学習や強化学習の性能の改善が進んでいる。

段階４の探求(Exploration)に関連する学習手法は、その研究がまだ活発に行われているわけではない。既存の能動的学習(Active learning)は、現在の学習状態で役立つデータを選別するという面では似ているが、確保した学習データを再活用するだけで、新たに必要なデータを生成することはない。モデル基盤の強化学習[10]においても、モデルが完璧だという仮定のもと、任意あるいは不確実性の高いデータについて学習を再度行うことはできるが、これはベイズ推定(Bayesian)手法など、統計に基づいて行われ[11]、段階４で提案する原因(Causality)に基づく探求(Exploration)と概念が完璧に一致するわけではない。逆に、敵対的攻撃(Adversarial attack)に強いモデルを学習する理論[12]の方が、どのような原因が間違いを大きくするのかを分析して、実際、データを生成して学習する側面で似ている。既存の統計基盤の探求手法による原因分析を用いることで、「こうしたらどうだろうか。(What　if?)」という仮定を立てることができれば、これは学習性能を大きく改善できる鍵となるため、今後、さらに活発な研究が行われるものと期待される。


###５．おわりに

機械と統合するために人間の空間と作業の流れを再構成した以前の自動化の波と違って、人工知能における真の変化の潜在力は、人間の役割を縮小させるのではなく、逆に人間の役割に関心を持ってその活動により多くの時間をかけるようにすることにある。例えば、私たちは家庭で人工知能により駆動される未来の製品やサービスが、家事を減らすだけでなく、新しいやり方で人間の健康や教育、そしてエンターテイメントにも役立つと信じている。

このように人間と人間のニーズに応える装置、システム、空間、インフラを作り上げることで、より高精度な人工知能は生産性と福祉の新しい流れを作ると思われる。人工知能の学習アルゴリズムもこうした観点から今後の研究の方向性を検討すれば、製品とサービスに適用できる機会がさらに増えるものと予想される。

代表的な国際人工知能学会で、以前のアルゴリズムの性能を改善したり、新しい学習アルゴリズムを提案する論文が多数出されている。 産業界では、製品やサービスに適用可能なレベルなのか、解決したい難題を解決できるソリューションが盛り込まれているかといったの視点で、学習アルゴリズムの動向とレベルを分析するようになる。これからは、人工知能の発展段階の観点から、顧客に新しい価値を提供する経験の変化を引き起こせる、より高い段階の学習アルゴリズムになっているのか、関心を持って見ていきたい。


####参考文献

[1] http://www.lgnewsroom.com/2020/01/lg-unveils-new-framework-for-advancing-ai-technology-at-ces-2020/
[2] Neural Architecture Search with Reinforcement Learning, ICLR2017
[3] EfficientNet: Rethinking Model Scaling for Convolutional Neural Networks, ICML2019
[4] Domain-Adversarial Training of Neural Networks, Journal of Machine Learning Research 2016
[5] Model-Agnostic Meta-Learning for Fast Adaptation of Deep Networks, ICML2017
[6] Causal Inference and Stable Learning, ICML2019 Tutorial
[7] NeurIPS 2018 Workshop on Causal Learning
[8] NeurIPS 2019 Workshop on ‘Do the right thing’: machine learning and causal inference for improved decision making
[9] A Meta-Transfer Objective for Learning to Disentangle Causal Mechanisms, arxiv2019
[10] Exploration in Model-based Reinforcement Learning by Empirically Estimating Learning Progress, NIPS2012
[11] Efficient Exploration through Bayesian Deep Q-Networks, arxiv2019
[12] Explaining and Harnessing Adversarial Examples, ICLR2015