(57)【要約】  オープンな環境における情報交換をアシストまたは自律的に行う機能を含む第１の人工知能モジュール（３０）と、第１の人工知能モジュール（３０）の動作をモニターし、情報交換に伴う処理をクローズドな環境で自律的に行う第２の人工知能モジュール（５０）とを有するシステム（１）を提供する。第１の人工知能モジュール（３０）が、学習したり、推論したりするためには、インターネットなどを介して外界（外部）のリソースを使用することが可能であり、その反面、外部からの不正アクセスに対して防御できるシステム（１）を提供できる。
2018008605.tif 000002
【特許請求の範囲】
【請求項１】
オープンな環境における情報交換をアシストまたは自律的に行う機能を含む第１の人工知能モジュールと、
前記第１の人工知能モジュールの動作をモニターし、前記情報交換に伴う処理をクローズドな環境で自律的に行う第２の人工知能モジュールとを有するシステム。
【請求項２】
請求項１において、
前記オープンな環境は、ユーザーインターフェイス、オープンネットワークサービスへ接続するための第１のネットワーク接続インターフェイス、および前記ユーザーインターフェイスまたは第１のネットワーク接続インターフェイスとの間で交換する情報を格納する第１のメモリとを含み、
前記クローズドな環境は、前記第１の人工知能モジュールがアクセスし得ない第２のメモリを含み、
前記第２の人工知能モジュールは、前記情報交換に伴い要求される情報であって、前記第２のメモリに格納された秘匿情報を暗号化した情報を前記第１のメモリに供給する機能を含む、システム。
【請求項３】
請求項２において、
前記クローズドな環境は、クローズドネットワークサービスへ接続するための第２のネットワーク接続インターフェイスを含む、システム。
【請求項４】
請求項１ないし３のいずれかにおいて、
前記第２の人工知能モジュールは、前記第１の人工知能モジュールの異常を監視する機能を含む、システム。
【請求項５】
請求項１ないし４のいずれかにおいて、
前記オープンな環境をサポートする第１のＯＳであって、前記第１の人工知能モジュールが稼働する第１のＯＳと、
前記クローズドな環境をサポートする第２のＯＳであって、前記第２の人工知能モジュールが稼働する第２のＯＳとを有する、システム。
【請求項６】
請求項５において、
保安領域と非保安領域とを含むメモリ、および前記保安領域へのアクセスを禁止する支援機構を含むプロセッシングユニットと、
前記プロセッシングユニット上で稼働するハイパーバイザーとを有し、
前記ハイパーバイザーは、前記第２のＯＳに対して前記保安領域および前記非保安領域へのアクセスを許可し前記オープンな環境へのアクセスを禁止する機構と、前記第１のＯＳに対して前記非保安領域および前記非保安デバイスに対するアクセスを許可し、前記支援機構を用いて前記保安領域へのアクセスを禁止する機構とを含む、システム。
【請求項７】
請求項６において、
前記プロセッシングユニットは、少なくとも１つの主プロセッシングユニットと、少なくとも１つのグラフィックスプロセッシングユニットとを含み、
前記ハイパーバイザーは、前記少なくとも１つの主プロセッシングユニットおよび前記少なくとも１つのグラフィックスプロセッシングユニットの仮想化支援機能を含む、システム。
【請求項８】
請求項１ないし７のいずれかにおいて、
前記第１の人工知能モジュールは、複数の機械学習モジュールと、それぞれの機械学習モジュールに用いられる複数の機械学習データと、前記複数の機械学習モジュールの間の通信を行う機械学習モジュール間通信ユニットと、前記複数の機械学習データの混在を抑制する分離ユニットとを含む、システム。
【請求項９】
請求項８において、
前記第１の人工知能モジュールは、ユーザーに対する応答の失敗と成功とを判断するユニットと、
ユーザーに対する応答を成功に導くための機械学習モジュールおよび機械学習データを前記オープンな環境から自動収集して前記第１の人工知能モジュールに組み込むユニットとを含む、システム。
【請求項１０】
請求項１ないし８のいずれかにおいて、
前記第１の人工知能モジュールは、ユーザーに対する応答の失敗と成功とを判断するユニットと、
ユーザーに対する応答を成功に導くためのデータを前記オープンな環境から自動収集してパーソナルデータベースを自動構築するユニットとを含む、システム。
【請求項１１】
請求項１ないし１０のいずれかにおいて、
前記第１の人工知能モジュールおよび前記第２の人工知能モジュールを搭載した制御モジュールを有する、システム。
【請求項１２】
請求項１ないし１１のいずれかにおいて、
当該システムは、前記第１の人工知能モジュールに接続されたユーザーインターフェイスを含む、パーソナルアシスタンスシステムである、システム。
【請求項１３】
請求項１ないし１１のいずれかにおいて、
当該システムは、前記第１の人工知能モジュールに接続されたユーザーインターフェイスと、前記第２の人工知能モジュールに接続された家庭内ＬＡＮおよび／または機器制御インターフェイスとを含む、ホームゲートウェイシステムである、システム。
【請求項１４】
請求項１ないし１１のいずれかにおいて、
当該システムは、前記第１の人工知能モジュールに接続されたユーザーインターフェイスと、前記第２の人工知能モジュールに接続された車載ＬＡＮおよび／または機器制御インターフェイスとを含む、車載ゲートウェイシステムである、システム。
【請求項１５】
請求項１ないし１１のいずれかにおいて、
当該システムは、前記第１の人工知能モジュールに接続されたインターネットインターフェイスと、前記第２の人工知能モジュールに接続された工場内ＬＡＮおよび／または機器インターフェイスを含む、ＩｏＴゲートウェイである、システム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、人工知能を有するシステムに関するものである。
【背景技術】
【０００２】
日本国特許公開公報２０１４−２２２５１７号には、デバイスとのユーザ対話を容易にし、ローカルサービスおよび／またはリモートサービスをより効果的に使用しやすくすることが記載されている。この文献のインテリジェント自動アシスタントシステムは、自然言語ダイアログを使用して統合対話によりユーザーと関わり、情報を取得するのに適するか又は種々の行動を実行するのに適する場合に外部サービスを呼び出す。ウェブ、電子メール及びスマートフォン等、あるいはそれらのあらゆる組み合わせ等の多くの種々のプラットフォームのいずれかを使用して実現される。相互に関係付けられたドメイン及びタスクの集合に基づき、システムが対話できる外部サービスにより電力供給される追加の機能性を採用する。【０００３】
日本国特許公開公報２００８−１６５８２４号には、顧客と販売業者との間の電子商取引における不正取引リスクを評価するための方法及びシステムを提供することが記載されている。この文献においては、電子商取引または電子購買の注文が受け取られ、それぞれの注文にともなうリスクのレベルが測定されて、リスク採点値が返される。データ検証、極めて予測性の高い人工知能パターンマッチング、ネットワークデータ総合及びネガティブファイルチェックが、不正取引リスクを計算するための極めて多数の要因を試験するために用いられる。その他の分析には、過去の既知の不正取引に対する今回の取引の比較対照及び、異常な速力パターン、姓名及び住所変更並びに既知の詐取者を識別するための、取引履歴データベースの検索がある。システムにより提供されるサービスの、新しいかまたは変化する不正取引パターンに適合させるための微調整を可能にする。
【発明の開示】
【０００４】
人工知能（Artificial Intelligence,  ＡＩ）を、ユーザーインターフェイス、不正行為の発見など様々な処理、あるいは機能を実行したり、アシストしたりするために用いられており、今後、さらに様々な分野に人工知能（人工知能技術）が適用されると予想されている。人工知能は、例えば、学習・推論・判断といった人間の知能のもつ機能を備えたコンピューターシステムを示す。人間の補助者として有能なシステムとして開発が進められており、たとえば、医学・理学・工学などの専門分野における困難な問題をその分野の人間の専門家と同等のレベルで解決するシステム、多言語間の翻訳をするシステム、知能的作業を行うロボットを操作するシステム、ウェブのなかから有用な情報を発掘するシステムなどがあり、これらに限定されない。
【０００５】
言語の理解や推論、問題解決などの知的行動を人間に代わって人工知能に行わせる場合、人工知能が正常に、不正アクセスされることなく動作していることは重要である。人工知能が、学習したり、推論したりするためには、インターネットなどを介して外界（外部）のリソースを使用することは必須であり、その反面、外部からの不正アクセスに対して防御することは難しくなりつつある。
【０００６】
本発明の一態様は、オープンな環境における情報交換をアシストまたは自律的に行う機能を含む第１の人工知能モジュールと、第１の人工知能モジュールの動作をモニターし、情報交換に伴う処理をクローズドな環境で自律的に行う第２の人工知能モジュールとを有するシステムである。第１の人工知能モジュール（フロントサイド人工知能）はオープンな環境で外部のリソースを含めた情報に基づき、ユーザーあるいはホストが要望する情報交換をアシストしたり、自律的に行うことができる。第２の人工知能モジュール（バックサイド人工知能）は、クローズドな環境で動作し、外部からの不正アクセスに晒される可能性はなく、第１の人工知能モジュールの動作をモニターする。このシステムにおいて、第２の人工知能モジュールは、間接的にユーザーあるいはホストが要望する情報交換を把握することが可能であり、クローズドでセキュアな環境で情報交換に基づく処理を自律的に行う。したがって、第１の人工知能モジュールと第２の人工知能モジュールとを含むシステムは、情報の漏洩や、不正アクセスによる誤動作など、オープンな環境で心配される障害を防いだ安全な状態で、オープンな環境で提供される多くのリソースを有効に活用しながらユーザーまたはホストの要求に答えることが可能となる。
【０００７】
オープンな環境は、ユーザーインターフェイス、インターネットなどのオープンネットワークサービスへ接続するための第１のネットワーク接続インターフェイス、およびユーザーインターフェイスまたは第１のネットワーク接続インターフェイスとの間で交換する情報を格納する第１のメモリとを含んでもよい。クローズドな環境は、第１の人工知能モジュールがアクセスし得ない第２のメモリを含んでもよく、第２の人工知能モジュールは、情報交換に伴い要求される情報であって、第２のメモリに格納された秘匿情報を暗号化した情報を第１のメモリに供給する機能を含んでもよい。カード情報、口座情報などの支払いに関する個人情報、ユーザーＩＤ、パスワードなどの個人情報を秘匿情報として第２の人工知能モジュールを用いて安全に管理できる。
【０００８】
クローズドな環境は、家庭内ＬＡＮ、車載ＬＡＮ、工場内ＬＡＮ、店舗内ＬＡＮなどのオープンネットワークとは分離されたクローズドネットワークサービスへ接続するための第２のネットワーク接続インターフェイスを含んでもよい。ホームゲートウェイ、車載ゲートウェイ、ファクトリゲートウェイとして、オープンなネットワークからのアクセスに対しては第１の人工知能モジュールで対応し、分離されたネットワークに対しては第２の人工知能モジュールで対応できる。このシステムにより、分離されたネットワークの保安性を担保しながら、外部ネットワークとの接続応答を行うことができる。第２の人工知能モジュールは、第１の人工知能モジュールの異常を監視する機能を含んでもよい。
【０００９】
このシステムは、オープンな環境をサポートする第１のＯＳであって、第１の人工知能モジュールが稼働する第１のＯＳと、クローズドな環境をサポートする第２のＯＳであって、第２の人工知能モジュールが稼働する第２のＯＳとを有していてもよい。第１のＯＳに対し、分離された、セキュアな環境で動作する第２のＯＳにより第２の人工知能モジュールの安全性を確保できる。
【００１０】
典型的には、保安領域と非保安領域とを含むメモリ、および保安領域へのアクセスを禁止する支援機構を含むプロセッシングユニットと、プロセッシングユニット上で稼働するハイパーバイザーとを有するアーキテクチャを使用できる。ハイパーバイザーは、第２のＯＳに対して保安領域および非保安領域へのアクセスを許可しオープンな環境へのアクセスを禁止する機構と、第１のＯＳに対して非保安領域および非保安デバイスに対するアクセスを許可し、支援機構を用いて保安領域へのアクセスを禁止する機構とを含む。
【００１１】
ハイパーバイザーは、第１のＯＳおよび第２のＯＳに対して、プロセッシングユニットに含まれるハードウェア（デバイス）を仮想化して提供する仮想化支援機構を含んでもよい。プロセッシングユニットは、１または複数の主プロセッシングユニット（ＣＰＵ）と、１または複数のグラフィックスプロセッシングユニット（ＧＰＵ）とを含んでもよい。ハイパーバイザーは、少なくとも１つのＣＰＵおよび少なくとも１つのＧＰＵの仮想化支援機能を含んでもよい。
【００１２】
第１の人工知能モジュールは、複数の機械学習モジュールと、それぞれの機械学習モジュールに用いられる複数の機械学習データと、複数の機械学習モジュールの間の通信を行う機械学習モジュール間通信ユニットと、複数の機械学習データの混在を抑制する分離ユニットとを含んでもよい。機械学習モジュール（技法）としては、ＩＤ３（Iterative Dichotomiser 3）や、ランダムフォレスト（Random Forest, Randomized trees）などの決定木学習、創刊ルール学習、各種のニューラルネットワーク（ＡＮＮ(人工ニューラルネットワーク、Artificial Neural Network)、ＤＮＮ（ディープニューラルネットワーク、Deep Neural Network)、ＣＮＮ（畳み込みニューラルネットワーク、Convolutional Neural Network)、ＲＮＮ（再帰型ニューラルネットワーク、Recurrent Neural Network)など）、遺伝的プログラミング（ＧＰ、Genetic Programming）、帰納論理プログラミング（ＩＬＰ、Inductive Logic Programming）、サポートベクターマシン（ＳＶＭ、Support Vector Machine）、クラスタリング（Clustering）、ベイジアンネットワーク（Bayesian Network）など、様々なものが提案されており、それぞれに長所がある。
【００１３】
このシステムの人工知能モジュールとして、複数の機械学習モジュールと、複数の機械学習データと、モジュール間通信ユニットと、分離ユニットとを含む機械学習統合プラットフォームを用いてもよい。適材適所の、複数のタイプの機械学習モジュールを統合した人工知能モジュールを提供することが可能となり、パーソナライズに適した人工知能モジュールを提供できる。特に、多種多様な目的で使用される可能性が高い第１の人工知能モジュールに、機械学習統合プラットフォームを含む人工知能モジュールは適している。第２の人工知能モジュールが機械学習統合プラットフォームを含んでいてもよい。
【００１４】
第１の人工知能モジュールは、ユーザーに対する応答の失敗と成功とを判断するユニットと、ユーザーに対する応答を成功に導くためのデータをオープンな環境から自動収集してパーソナルデータベースを自動構築するユニットとを含んでもよい。人工知能のパーソナライズを自律的に進めることができる。統合プラットフォームを備えた人工知能モジュールにおいては、ユーザーに対する応答を成功に導くための機械学習モジュールおよび機械学習データをオープンな環境から自動収集して第１の人工知能モジュールに組み込むユニットを含んでいてもよい。
【００１５】
第１の人工知能モジュールおよび第２の人工知能モジュールはサーバー上に構築されてもよいが、オープンな環境とクローズドな環境とを分け、第２の人工知能モジュールによる第１の人工知能モジュールの動作のトレーサビリティを確保するためには、単一のチップまたはチップセットに第１の人工知能モジュールおよび第２の人工知能モジュールを搭載した制御モジュールであることが望ましい。
【００１６】
このシステムの一例は、第１の人工知能モジュールに接続されたユーザーインターフェイスを含む、パーソナルアシスタンスシステム、例えば、ＰＤＰ、ＰＤＡ、スマートフォンなどである。システムの他の例の２つは、第１の人工知能モジュールに接続されたユーザーインターフェイスと、第２の人工知能モジュールに接続された家庭内ＬＡＮおよび／または機器制御インターフェイスとを含む、ホームゲートウェイシステムである。このシステムの他の例の１つは、第１の人工知能モジュールに接続されたユーザーインターフェイスと、第２の人工知能モジュールに接続された車載ＬＡＮおよび／または機器制御インターフェイスとを含む、車載ゲートウェイシステム。このシステムの他の例の１つは、第１の人工知能モジュールに接続されたインターネットインターフェイスと、第２の人工知能モジュールに接続された工場内ＬＡＮおよび／または機器インターフェイスを含む、ＩｏＴゲートウェイである。
【図面の簡単な説明】
【００１７】
【図１】ノーマルＡＩとセキュアＡＩとを含むシステムのブロック図である。
【図２】ＣＰＵおよびＧＰＵを含むシステムのブロック図である。
【図３】パーソナルアシスタンスシステムに適用した例を示す図。
【図４】不正に対応する状態を示す図。
【図５】ホームゲートウェイシステムに適用した例を示す図。
【図６】ＡＩ統合プラットフォームを示すブロック図。
【図７】ディープラーニングのマップ。
【図８】初期学習および動的学習を示す図。
【図９】初期学習および動的学習の一例を示す図。
【図１０】初期学習および動的学習の他の例を示す図。
【図１１】初期学習および動的学習の他の例を示す図。
【図１２】対話による動的学習の例を示す図。
【図１３】音声認識の動的学習の例を示す図。
【発明の実施の形態】
【００１８】
図１に、２つの人工知能を備えたシステムの一例を示している。このシステム１は、パーソナルアシスタンス端末、例えばスマートフォン、ノートパソコン、家電製品、産業機械、自動車などに組み込まれるコンピューターシステムであり、典型的にはＳｏＣ（システムオンチップ）に組み込まれたシステムである。システム１は、プロセッサユニット１１を含むハードウェアプラットフォーム１０と、その上で稼働するハイパーバイザー２０と、ハイパーバイザー２０が提供する仮想化環境で稼働する第１のＯＳ（非セキュアＯＳ、ノンセキュアＯＳ、汎用ＯＳ、リッチＯＳ）２１と、第２のＯＳ（セキュアＯＳ）２２とを含む。
【００１９】
プロセッサユニット１１は、複数の実行モード（実行環境）を提供するが、本実施形態では、メモリに保安領域を設定し、その保安領域へのアクセスを禁止する支援機能（メモリ保護機能）により実現されるセキュアモード６と、セキュアモード６より保安レベルが低い低セキュアモード（以降では非セキュアモード、ノンセキュアモードまたはノーマルモードと呼ぶ）７との２つの実行モードを想定する。非セキュアモード７においてはプロセッサユニット１１の支援機能によりメモリの保安領域へのアクセスが禁止される。
【００２０】
システム１は、セキュアモード６で稼働するセキュアＯＳ２２の上のセキュアであるがクローズドな環境（セキュアワールド、クローズドワールド）８で動くトラステッドアプリケーション群（セキュアアプリ）５７と、非セキュアモード７で稼働するリッチＯＳなどの非セキュアＯＳ２１の上のオープンではあるが非セキュアな環境（非セキュアワールド、ノーマルワールド、オープンワールド）９で動くクライアントアプリケーション群（非セキュアアプリ）４７とを有する。
【００２１】
非セキュアアプリ４７は、リッチＯＳ２１の上で動く第１の人工知能モジュール（ノーマルＡＩ、フロントサイドＡＩ、オープンＡＩ）３０と、ノーマルＡＩ３０がサポートする各種の機能モジュール（アプリケーション）４１〜４４とを含む。セキュアアプリ５７は、セキュアワールドの第２のＯＳ２２で動く第２の人工知能モジュール（セキュアＡＩ、バックサイドＡＩ、クローズドＡＩ）５０と、セキュアＡＩ５０がサポートする各種の機能モジュール（アプリケーション）５１〜５５とを含む。システム１は、さらに、ノーマルＡＩ３０とは独立してリッチＯＳ２１の上で動くアプリケーションを備えていてもよく、セキュアＡＩ５０とは独立してセキュアＯＳ２２の上で動くアプリケーションを備えていてもよい。
【００２２】
ノーマルＡＩ３０がサポートするアプリケーションは、音声処理機能４１、画像処理機能４２、各種サービス機能４３、各種検索機能４４を含む。音声処理機能４１は、例えば、音声認識、音声合成及び対話機能を含む。画像処理機能４２は、画像を介した認証機能、例えば、顔認証、周りの環境の認識機能、屋内外、場所、昼夜などの認識機能を含む。サービス機能４３は、ショップアプリや、インターネットなどのオープンな環境のネットワーク接続サービスを含む。検索機能４４は、このシステム１に格納されている情報を検索したり、ネットを介して外部の情報を検索したりする機能を含む。
【００２３】
ノーマルＡＩ３０がサポートするアプリケーションおよび機能は、上記に限定されることはなく、さらに、パーソナライズおよび／またはカスタマイズにより、アプケーションの数および種類を増加させたり減少させたりすることができる。ノーマルＡＩ３０は、そのために、ユーザーに対する応答の失敗と成功とを判断するユニット３８と、ユーザーに対する応答を成功に導くためのデータ（情報）をオープンな環境から自動収集してパーソナルデータベースを自動構築するユニット３９とを含む。
【００２４】
セキュアＡＩ５０がサポートするアプリケーションは、支払い（決済）を行う機能（ペイメント機能ユニット）５１と、カード情報などの個人データ（個人情報）およびその他の秘密情報または秘匿情報（以下においてはこれらを含めて秘匿情報と呼ぶ）を管理する機能（ユニット）５２と、家庭内、車載、工場内などの監視用、特に、個人あるいはその他の保全（機密）管理することが望ましい情報を取得するセンサーを制御しデータを取得する機能（ユニット）５３、家庭内、車載、工場内などに設置された各種機器のスイッチなどの制御、特に、防犯用の機器、保安または安全に影響を与える機器の制御を行う機能（ユニット）５４、秘匿情報を暗号化する機能（ユニット）５５を含む。
【００２５】
ハイパーバイザー２０の一例は、メモリの保安領域（セキュア領域）への書き込みを制御する支援機構に対応したハイパーバイザーであって、本願の出願人が提供するＦＯＸｖｉｓｏｒである。他の一例は、支援機構に対応するとともに、後述する機械学習間通信機能を備えたハイパーバイザーであって、出願人が提供するＶＡＩＯＸである。これらは、ベアメタルタイプ（タイプＩ）のハイパーバイザーである。
【００２６】
図１に示すように、ＶＡＩＯＸ２０は、プロセッサ（プロセッシングユニット）１１がハードウェアとして持つ支援機構１２を用いて複数のＯＳを分離することができる。支援機構１２は、ＡＲＭ系のＩＰが組み込まれたプロセッサではＴｒｕｓｔＺｏｎｅ（以下ではＴＺ機構と呼称）を用いることができ、ＭＩＰＳ系のＩＰが組み込まれたプロセッサではＶＺ機構を用いることができ、Ｉｎｔｅｌ系のプロセッサではＶＴ機構を用いることができる。支援機構１２は、仮想化拡張機能であってもよく、ＡＲＭ系のＩＰが組み込まれたプロセッサではバーチャルエクステンション（Virtualization Extension）およびＬＰＡＥ（Large Physical Address Extension）を挙げることができる。たとえば、ＴＺ機構１２においては、ノーマルワールドのメモリ空間１２ａとセキュアワールドのメモリ空間１２ｂとを分離でき、またはこれらのメモリ空間１２ａおよび１２ｂに対するアクセスを分離でき、ノーマルワールドからセキュアワールドのメモリ空間１２ｂが見えず、アクセスできない（アクセスが禁止された）環境を構築できる。
【００２７】
したがって、ＶＡＩＯＸ２０が強固なファイアウォールとして機能し、ノーマルワールドのノーマルＡＩ３０と、セキュアワールドのセキュアＡＩ５０とが分離された状態で稼働することを可能とする。一方、セキュアＡＩ５０は、セキュアワールドのメモリ空間１２ｂの書き換えを保護した状態で、メモリ空間１２ｂのみならずノーマルワールドのメモリ空間１２ａも含めて入出力できる。このため、セキュアＡＩ５０は、ノーマルＡＩ３０の入出力を監視でき、ノーマルＡＩ３０に対して情報を提供することが可能となる。本例のセキュアＡＩ５０は、ノーマルＡＩ３０の動作をモニターするモニター機能５９を含む。モニター機能５９は、ノーマルＡＩ３０の動作異常を監視する機能５８を含む。ノーマルＡＩ３０は、非セキュアワールド９で稼働するアプリケーション群４７の各アプリケーションの異常を監視する機能を含む。したがって、ノーマルＡＩ３０の動作の異常を監視することにより、非セキュアワールド９において、アプリケーションが何らかの原因により動作が異常になることを確実に監視でき、それによる被害の発生を未然に防止したり、最小限に留めることができる。異常の発生は、例えば、アノマリ検出、予測分析、予兆監視などが知られており、これらの技法と機械学習とを組み合わせることにより予め規定されている異常のみならず、予測されていない異常の発生も高い確率で検出できる。
【００２８】
ハードウェアプラットフォーム１０は、メモリ１３を含み、メモリ１３は、オープン（ノーマル、ノンセキュア）な環境で使用されるメモリ１３ａと、セキュアな環境でのみ使用されるメモリ１３ｂとを含む。ハードウェアプラットフォーム１０は、さらに、オープンな環境（非セキュアワールド）９で使用される各種のインターフェイス、例えば、視覚・聴覚などを用いたユーザーインターフェイス１４、インターネットなどのオープンネットワークに様々な通信規格を介して接続するネットワークインターフェイス（第１のネットワークインターフェイス）１５、オープンな環境で使用できる外部機器との接続インターフェイス１６などを含む。
【００２９】
ハードウェアプラットフォーム１０は、また、クローズドな環境（セキュアワールド）８で使用される各種のインターフェイス、例えば、家庭内ＬＡＮ、車載ＬＡＮなどのクローズドなネットワークに接続するネットワークインターフェイス（第２のネットワークインターフェイス）１７、クローズドな環境で使用される外部機器との接続インターフェイス１８などを含む。
【００３０】
ハイパーバイザーであるＶＡＩＯＸ２０が、メモリ１３およびインターフェイス１４〜１８の接続および制御をリッチＯＳ２１およびセキュアＯＳ２２にそれぞれ割り当てることにより、オープンな環境９とクローズドな環境８とをシステム１の中に構築し、ノーマルＡＩ３０およびセキュアＡＩ５０は、それぞれオープンな環境とクローズドな環境とで稼働する。
【００３１】
ノーマルＡＩ３０は、一般的に利用されるＡＩであり、乗っ取られてもダメージが少ない物（情報）を取り扱う。例えば、ノーマルＡＩ３０は、ユーザーの言葉や動きを認識し、認識した内容がネットワークサービスの場合クラウド側へ繋ぐ。ノーマルＡＩ３０は、通常のネットワークサービスのサポート、アドバイザとして機能し、天候、飲食関連、情報検索関連など、大量かつ随時変わっていく情報であって、ユーザーが、その時々に要求するであろう情報を提供する。また、ノーマルＡＩ３０は、サードパーティが提供するアプリケーションの制御を行う。例えば、ビデオオンデマンドなどの映像コンテンツやサービス、ネットショッピング系アプリケーションを挙げることができる。
【００３２】
一方、セキュアＡＩ５０は、ゲートウェイとして乗っ取られてはダメージの大きい物（情報）を取り扱う。例えば、セキュアＡＩ５０は、家庭内の機器制御（センサー５３やスイッチ５４などの制御）、ユーザーの個人データ（ライフログ、例えば、行動履歴、制御機器の挙動や、ユーザーの言動、購入履歴）５２、ライフログに基づくパーソナルなサービスを行う。セキュアＡＩ５０は、さらに、課金／ショッピングなどクレジットカードのデータの取り扱いや履歴管理などの個人情報（秘匿情報）の蓄積及び管理を行い、それらをノーマルＡＩ３０にデータを引き渡す際に、暗号化する機能５５を含む。さらに、セキュアＡＩ５０は、ノーマルＡＩ３０を監視する機能５８を含み、ユーザー行動などに紐づかないアタックなどを検知したり、通常の動きと異なるか否かを判断することにより、ノーマルＡＩ３０が乗っ取られていないかを監視する。
【００３３】
ハイパーバイザー（ＶＡＩＯＸ）２０は、ノーマルＡＩ３０およびセキュアＡＩ５０の間の通信を仲介し、開発者が設定したインターフェイスを介してのみデータの引き渡しが可能な構成を担保する。本例においては、ハードウェアの仮想化技術（Hardware Virtualization）を利用しセキュアＡＩ５０側への不正アクセスを抑制する。
【００３４】
図２に、システム１の一例として、ＧＰＧＰＵ（ＧＰＵによる汎用計算、General Purpose computing on Graphics processing units）をサポートする仮想化支援機構２０ｖを含むハイパーバイザー２０を含むシステムの概略構成を示している。車載機器を主な適用先として想定されるＳｏＣ（システムオンチップ）のプロセッシングユニット１１は、ハードウェアプラットフォームとして複数のＣＰＵ（主プロセッシングユニット）１０１と、ＧＰＵ（グラフィックスプロセッシングユニット）１０２と、それらに制御されるネットワークインターフェイスデバイスなどの他の機能（ユニット）を含むコンピュータ資源１０５とを含む。
【００３５】
ナビゲーションシステム４９ｂなどのＩＶＩ（車載情報機器、In Vehicle Infotainment）は広域ネットワークに接続することも多く、リナックス（登録商標）、アンドロイドのような汎用ＯＳ（リッチＯＳ）２１ｂを使ってシステムが構成される。グラフィックメーターなどの安全系システム４９ｃは機能安全を認証された軽量かつコンパクトなＲＴＯＳ（Real-TimeＯＳ）２１ｃを使ってシステムが構成される。ＲＴＯＳ２１ｃは汎用ＯＳとは全く異なる用途に適応したＯＳ（オペレーティングシステム）であり、ＣＰＵ１０１に加えて、グラフィックな表示を行う部分はＧＰＵ１０２を使うなど、リッチＯＳ上で動く画像系のアプリと類似するところがある。しかしながら、安全系システム４９ｃは、機能安全が重要であるため、それらをリッチＯＳ上で動作させることはない。
【００３６】
ＡＤＡＳ（先進運転支援システム、Advanced Driver Assistance System）４９ｄのような運転支援系システムは、リッチＯＳ２１ｄ上で動き、外部カメラから入力される大量のデータをリアルタイムで処理する必要があり、ＣＰＵ１０１に加えて、画像認識の計算のためにＧＰＵ１０２を使用する。ノーマルＡＩ３０もリッチＯＳ２１ａの上で稼働し、ＣＰＵ１０１に加えて、画像認識や、高速処理のためにＧＰＵ１０２を使用できることが望ましい。
【００３７】
ハイパーバイザー２０の仮想化支援機能２０ｖは、異なるＯＳ２１ａ〜２１ｄ上で動作するシステムまたはアプリケーション３０、４９ｂ〜４９ｄに対し、ＣＰＵ１０１およびＧＰＵ１０２を仮想化することにより、ＣＰＵ１０１およびＧＰＵ１０２を含む資源を、それぞれのＯＳ２１ａ〜２１ｄで管理した状態で使用可能とし、複数ゲスト（アプリケーション）からのＧＰＧＰＵ利用を可能とする。
【００３８】
ハイパーバイザー２０は、セキュアモード６と、非セキュアモード７とを切り替える機能を含み、セキュアモード６において、本例では、ＣＰＵ１０１を仮想化・準仮想化することによりリソースとして割当、セキュアＯＳ２２の上で、セキュアＡＩ５０やセキュアアプリ５７を稼働させる。セキュアモード６において、ＣＰＵ１０１のみならずＧＰＵ１０２をリソースとして、セキュアＯＳ２２に割り当てることも可能である。
【００３９】
図３に、ノーマルＡＩ３０およびセキュアＡＩ５０を備えたシステム１をパーソナルアシスタンスデバイス、例えば、スマートフォン７１に実装した例を示している。ノーマルＡＩ３０は、ユーザー２が発話したことをユーザーインターフェイスである音声認識機能４１ｂにより認識し、音声合成・対話エージェント４１ａによりユーザー２へ情報を提供することによりユーザー２と会話を行う。セキュアＡＩ５０は、ＶＡＩＯＸ２０を介してモニター機能５９により会話内容をウォッチング（監視）し、ノーマルＡＩ３０の行動を監視するとともに、会話内容に対してセキュアＡＩ５０側の処理が必要か否かを自律的に判断する。
【００４０】
例えば、ユーザー２とノーマルＡＩ３０との会話において商品「ＸＸ」を購入することが決まると、セキュアＡＩ５０は、その会話をウォッチングすることにより、ユーザー２の正常な（意図的な）判断により商品「ＸＸ」が購入されることを認識する。ノーマルＡＩ３０においては、音声認識された会話の内容がテキストコマンドに変換され、ショップアプリ４３ａに転送され、ショップアプリ４３ａは、ネットワーク接続機能を用いてクラウドサービス５にアクセスして商品「ＸＸ」の購入を行う。その際に、ショップアプリ４３ａに対しクレジットカードデータ、ビットコインデータまたはその認証データなどが必要になると、セキュアＡＩ５０においては、個人データ５２が管理する保安領域のメモリ１３ｂに格納された秘匿情報の中から、支払い機能５１が購入に要する情報（決済用の情報）を引き出し、暗号化機能５５が暗号化して、ノーマルＡＩ３０がアクセスできる非保安領域のメモリ１３ａに書き込む。
【００４１】
ショップアプリ４３ａまたはノーマルＡＩ３０は、セキュアＡＩ５０の動作を意識する必要はない。ショップアプリ４３ａまたはノーマルＡＩ３０は、メモリ１３ａに、セキュアＡＩ５０が自律的に用意した暗号化された決済用の情報を用いて、商品「ＸＸ」の購入の決済を行い、その情報（購入情報）をメモリ１３ａに書き込む。セキュアＡＩ５０は、購入情報の記録をセキュア領域に保持することが必要であり、ユーザー２とノーマルＡＩ３０との取引を監視した結果、その動作に不正がなく、購入情報が安全であると判断すると、購入情報を取り込んで個人データ５２に追加する。したがって、ノーマルＡＩ３０は、セキュアＡＩ５０の存在を意識することなく、自動的に用意された決済用の情報を用いて購入処理を進めることができる。
【００４２】
図４に、スマートフォン７１に、屋外（外部）から不正アクセスがあった場合を示している。ノーマルＡＩ３０が、ネットワークサービス４３ｂを介して侵入した不正アクセスに気が付かずに、ショップアプリ４３ａに不正アクセスを繋いだとする。セキュアＡＩ５０は、ユーザー２との会話をウォッチングし、さらに、ネットワークサービス４３ｂの通信内容をウォッチングすることにより、不正アクセスが発生していることを認識できる可能性が高い。さらに、セキュアＡＩ５０がショップアプリ４３ａの挙動を監視し、ユーザー２の会話内容と合致しない場合は、決済用の情報を用意しない。したがって、ノーマルＡＩ３０は、決済用の情報がないので、購入処理を進めることができず、ユーザー２に異常を通知することができる。セキュアＡＩ５０は、ユーザー２とノーマルＡＩ３０との間で購入が確認されるまで、決済用の情報を用意しない。セキュアＡＩ５０のこの動作により、不正アクセスにより、ノーマルＡＩ３０が予期せぬ行動を起こすことを防止でき、同時に、カード情報などの個人情報が漏えいすることを防止できる。
【００４３】
図５に、ノーマルＡＩ３０およびセキュアＡＩ５０を備えたシステム１をゲートウェイシステム、例えば、ホームゲートウェイシステム（ホームゲートウェイ）７３に実装した例を示している。このホームゲートウェイ７３は、ノーマルＡＩ（第１の人工知能モジュール）３０に接続されたユーザーインターフェイス４１（４１ｂ）と、セキュアＡＩ（第２の人工知能モジュール）５０に接続された家庭内ＬＡＮおよび／または機器制御インターフェイス（スイッチング機能）５４とを含む。
【００４４】
ホームゲートウェイ７３においては、ノーマルＡＩ３０は、ユーザー２が発話したこと、例えば「涼しくしてほしい」という発話をユーザーインターフェイスである音声認識機能４１ｂにより認識し、発話内容をテキストコマンドに変換して、スイッチングを指示する非保安領域のメモリ１３ａに書き込む。セキュアＡＩ５０は、ＶＡＩＯＸ２０およびモニター機能５９を介して会話をウォッチングし、メモリ１３ａに書き込まれたスイッチング指示の情報が会話と合致していれば、その指示に基づきスイッチング機能５４を制御して、ノンセキュアな領域のメーカアプリ４３ｃを駆動させて、家電、例えば、空調機４の発停または調整を行う。
【００４５】
セキュアＡＩ５０は、メモリ１３ａに書き込まれたスイッチング指示の情報が会話と矛盾していれば、メモリ１３ａに書き込まれたスイッチング指示を無視し、スイッチング機能５４を制御せず、家電、例えば、空調機４の発停または調整を行わない。セキュアＡＩ５０は、ユーザー２との会話をウォッチングし、ノーマルＡＩ３０の不正利用を防止する。その他に、セキュアＡＩ５０が、過去の事例、人間の行動原理外のアクションをウォッチングして対策を行うことができる。また、セキュアＡＩ５０は、ノーマルＡＩ３０から、ありえない設定や異常なコマンドが繰り返されるとスイッチング機能５４をオフし、ユーザー２から再設定が指示されるまで家電の動作を停止する機能を備えていてもよい。
【００４６】
セキュアＡＩ５０は、ＶＡＩＯＸ２０により、ハードウェアの仮想化技術、例えば、トラストゾーンなどを用いてノーマルエリアからの侵入が遮断されている。このため、ノーマルＡＩ３０の動作をウォッチングするが、ノーマルＡＩ３０と同様に不正侵入されたり、ノーマルＡＩ３０の異常動作に影響されることなく、ノーマルＡＩ３０の動作を監視し、ノーマルＡＩ３０が正常な場合は、ノーマルＡＩ３０の意図を実現する動作を自律的に行い、ノーマルＡＩ３０が異常な場合は、ノーマルＡＩ３０の意図を無視したり、ノーマルＡＩ３０の異常な意図を正常化する処理を自律的に行う。
【００４７】
ホームゲートウェイ７３に対して屋外の外部端末、例えば、スマートフォン３から指示（操作）が入力されるケースがある。セキュアＡＩ５０は、スマートフォン３から通信を、ネットワークサービス４３ｂを介して監視し、その通信がＶＰＮなどのセキュアが担保された経路を介して受信したものであれば、正常な指示であると認識してスマートフォン３が家電を操作することを許可する。スマートフォン３からの通信がノンセキュアな経路を介して受信したものであれば、スマートフォン３からの指示を無視することにより、ホームゲートウェイ７３を介した不正アクセスを阻止する。
【００４８】
このホームゲートウェイ７３の構成と共通な構成を備えた車載ゲートウェイまたはＩｏＴゲートウェイを提供できる。車載ゲートウェイの場合は、ノーマルＡＩ３０に制御または接続されたユーザーインターフェイスと、セキュアＡＩ５０に制御または接続された車載ＬＡＮおよび／または機器制御インターフェイスとを有する。ノーマルＡＩ３０はネットワーク接続を含めた、多種多様なインターフェイスを備えていてもよい。
【００４９】
ＩｏＴゲートウェイの場合は、ノーマルＡＩ３０に制御または接続されたインターネットインターフェイスと、セキュアＡＩ５０に制御または接続された工場内ＬＡＮおよび／または機器インターフェイスを含み、工場内ＬＡＮなどから得られた情報をセキュアなフォーマットで、ノーマルＡＩ３０およびインターネットを介して収集センターに提供できる。また、セキュアＡＩ５０は収集センターからセキュアなフォーマットで取得した情報のみを工場内ＬＡＮを含めたセキュアワールドに取り込むことができる。
【００５０】
ノーマルＡＩ３０およびセキュアＡＩ５０は、学習、推論および判断が可能なコンピューターシステム（ソフトウェア）であればよく、タイプは問わない。人工知能の体系化は種々あるが、例えば、決定木、帰納論理プログラミング（ＩＬＰ）、強化学習、ベイジアンネットワーク（ＢＮ）、サポートベクターマシン（ＳＶＭ）などを含むデータ・知識型ＡＩ（線形型）であってもよく、ニューラルネットワーク（ＮＬ）、ディープニューラルネットワーク（ＤＮＮ）を含む脳型ＡＩであってもよく、ファジィアルゴリズム、遺伝的アルゴリズム、進化的アルゴリズムを用いたものであってもよく、それらを深層学習（Ｄｅｅｐ  Ｌｅａｒｉｎｉｎｇ）の技術を用いて進化させたものであってもよい。
【００５１】
図６に、ノーマルＡＩ３０に、本出願人が提供する機械学習統合プラットフォーム（ＶＡＩＯＬＩＮプラットフォーム、ＡＩ統合プラットフォーム）８０を採用した例を示している。なお、以下において機械学習（ＭＬ）とは、人工知能としての機能を発揮させるために提案または提唱されている種々の技術、アーキテクチャを含むものである。このＡＩ統合プラットフォーム８０は、複数のＭＬを１つのＡＩ３０の学習、推論および判断に寄与させることが可能であり、さらに、様々な問題解決に適したタイプの異なるＭＬを搭載し統合する。
【００５２】
ＡＩ統合プラットフォーム８０は、複数の機械学習モジュール８１ａ〜８１ｄ（代表するときはＭＬモジュール８１とする）と、それぞれの機械学習モジュール８１ａ〜８１ｄに用いられる複数の機械学習データ８２ａ〜８２ｄ（代表するときは学習データ８２とする）と、複数の機械学習モジュール（ＭＬモジュール）８１の間の通信を行う機械学習モジュール間通信ユニット（ＶＡＩＯＸ）８５（２０）と、複数の機械学習データ８２ａ〜８２ｄの混在を抑制する分離ユニット（ＶＡＩＯＬＥＴ）８３と、ユーザーインターフェイスである音声処理機能８４（４１）と、ユーザーに対する応答の失敗と成功とを判断する成否判断ユニット８８（３８）と、成否判断ユニット８８の結果により機械学習モジュール８１および機械学習データ８２をネットワーク（オープン環境）から収集して自動構築（自動生成）する自律拡張ユニット８９（３９）とを含む。モジュール間通信ユニット８５（２０）は、オープン（ノンセキュア）な空間のみでＭＬモジュール８１間の通信を制御してもよく、上述したように、ノンセキュアな空間とセキュアな空間とを分離し、セキュアな空間からノンセキュアな空間をモニタリングできるようにＭＬモジュール８１間の通信を制御してもよい。
【００５３】
例えば、機械学習モジュール８１ａは、ＤＮＮ、ＣＮＮおよびＧＳＮなどの各種ニューラルネットワークを含み、機械学習モジュール８１ｂは、ブースティング（Boosting）、ＤＡＥ（Denoising Autoencoder）、パーセプション（Perception）などを含み、機械学習モジュール８１ｃは、ＳＶＭ（サポートベクタマシン）、ＲＦ（ランダムフォレスト）、ＧＭＭ（混合ガウスモデル、Gaussian Mixture Model）を含み、機械学習モジュール８１ｄは、ベイズモデル（Bayes NP）、サムプロダクトネットワーク、ＤＢＮ（Deep Belief Network）を含む。機械学習の手法はこれらに限定されない。
【００５４】
なお、カッコ内の番号は、図１を参照したシステム１において共通の機能を果たすユニット（モジュール）の番号を示している。例えば、複数の機械学習モジュール８１の間の通信を行う機械学習モジュール間通信ユニット８５としての機能はハイパーバイザー２０が備えていてもよく、ＣＰＵ、ＧＰＵおよびその他のコンピュータ資源のみならず、複数の機械学習モジュール８１を仮想化して、ＡＩ統合プラットフォーム８０により提供される各種機能に割り当てることができる。
【００５５】
このＡＩ統合プラットフォーム（ＶＩＯＬＩＮプラットフォーム）８０により提供できる機能のいくつかの例は、アクセス解析／データ可視化／ユーザーモデル構築を含むデータマイニング８７ａ、各データの属性と特徴をクラスタリング／コールドスタート（０データ）対応する属性データクラスタリング８７ｂ、ネットデータ収集／ＭＬと属性データクラスタリングへのデータ引き渡しを含むネット検索８７ｃ、ネットや言動学習で出たノイズをフィルターするノイズフィルタ８７ｄ、ユーザーに対するタスク実行を行うタスクエージェント８７ｅ、タスクエージェントの結果から各ユーザーの履歴を記憶する言動履歴８７ｆ、新しい言葉に対して混合文型／語彙モデルを形成し確率的に文を生成する文型／語彙特徴分析８７ｇ、センサーなどの物理インターフェイスを提供するセンサーＩ／Ｆ８７ｈである。
【００５６】
図７にディープラーニングの地図（アレンジ）を示している。ディープラーニングに関して提唱されている機械学習モジュール（ＭＬモジュール）のみをマッピングしても、学習の深さ、複雑な情報処理に適しているニューラルネット系、大量データの処理に適している確率モデル系などがある。ＡＩ統合プラットフォーム８０は、図７に示した多種類のＭＬモジュール８１を、各種類のＭＬモジュール８１が１つであっても、多数であっても含むことができる。ＡＩ統合プラットフォーム８０においては、ＭＬ間通信ユニット８５（２０）により、多種多様なＭＬモジュール８１間の通信を統合して１つのＡＩ３０として機能させることができる。その一方で、分離ユニット（ＶＡＩＯＬＥＴ）８３によりそれぞれのＭＬモジュール８１が構築した学習データ８２を分離することにより、学習データのコンタミを防止し、多数のＭＬモジュール８１が所望の機能を発揮できるようにしている。したがって、パーソナルアシスタンスシステム７１、各種ゲートウェイシステム７３などとして適したノーマルＡＩ３０として最適なソリューション（ＭＬモジュール）８１を組み合わせることができる。セキュアＡＩ５０を、ＡＩ統合プラットフォーム８０を用いて構築してもよい。
【００５７】
このＡＩ統合プラットフォーム８０は、ユーザー２に対する応答の失敗と成功とを判断する成否判断ユニット８８（３８）と、必要に応じて新たなＭＬモジュール８１を追加する自律拡張ユニット８９（３９）とを含み、失敗することによりパーソナライズを加速できる。
【００５８】
図８に示すように、このＡＩ統合プラットフォーム８０は、教師データに基づく初期学習９１からパーソナル向け学習を含む動的学習９２を行い、進化するＡＩ３０を提供するのに適している。例えば、ＡＩ統合プラットフォーム８０を備えたＡＩ３０は、初期学習９１の開始時（０歳）は最小のＭＬモジュール８１でスタートし、教師データを用いた教育により、基本的な意図推定、予測支援、タスクエージェント、自律学習の機能を取得する。その後、動的学習９２においてユーザー２の下で動作することにより、成否判断ユニット８８がユーザー２に対する応答の失敗と成功とを判断し、失敗から自律拡張ユニット８９が、必要に応じて新たなＭＬモジュール８１を追加することによりパーソナライズを加速することができる。特に、初期のＭＬモジュール８１の特性に限られず、特性の異なるＭＬモジュール８１を追加することにより、いっそうフレキシブルにパーソナライズが可能なＡＩ３０を提供できる。
【００５９】
図９に、ＡＩ３０および５０を含むシステム１を搭載した車載ゲートウェイ７５の一例を示す。この車載ゲートウェイ７５は、自動判別を行い、よりユーザー視点の正解を判別する機能を含む。ＡＩ統合プラットフォーム８０の成否判断ユニット８８が失敗と正解をデータ化して判断し、自律拡張ユニット８９がその結果をシステム１に反映し、ＡＩ３０の基本性能を大きく向上させる。特に、このシステム１は、チップ搭載のシステムであり、ＡＩ統合プラットフォーム８０にＭＬモジュール８１と学習データ８２とをコンバインすることにより、ローカルな環境で、システム１が単独でＡＩ３０が発揮できる性能を大幅に向上させる。したがって、情報を個別に所有するローカルな環境と、情報を集中して所有するセンターとに、ユーザーの情報を個別に収集することが可能であり、ネットワークの接続環境が悪い状況においても、確実にユーザー２をアシストしたり、車載の機器を正常に動作させることができる。
【００６０】
図１０に、初期学習９１における集合知によるベースモデル構築と、動的学習９２におけるパーソナライズ特徴量による推薦を示している。初期学習９１においては、ＡＩ統合プラットフォーム８０の基礎的な構成となる集合知によるベースモデル構築と、特徴空間のベースモデルが生成される。動的学習９２においては、パーソナライズにより、ＡＩ統合プラットフォーム８０においては個人特徴量のマッピングと類型選択モデルの更新とが行われ、個人の嗜好と行動に即した各種推薦が可能となる。
【００６１】
図１１に、初期学習９１におけるビッグデータから、動的学習９２において個人特徴の定義を行う過程を示している。このＡＩ統合プラットフォーム８０においては、ローカルに学習データ８２を生成してローカルのみでの性能を発揮することができる。それとともに、サーバーとの組み合わせでハイブリッドな対応も可能であり、サーバー側に蓄積されたビッグデータへのアクセスを初期学習９１において行い、動的学習９２においてビッグデータから個人データを抽出して個人特徴を取得することも可能である。また、危険を回避するなどの要因でパーソナライズから一般アシストにＡＩ３０の思考を変更することも可能である。例えば、車載ゲートウェイにおいては、パーソナライズの危険運転を一般アシストに変更して危険を回避したり、ナビなどの危険情報をベースに一般アシストに変更したりすることが可能である。
【００６２】
図１２に、ノーマルＡＩ３０およびセキュアＡＩ５０を含むシステム１を搭載した車載ゲートウェイ７５が音声処理機能４１の音声対話プラットフォーム４１ｃによりユーザー２と会話しながら、ユーザー行動を学習し、ＡＩ統合プラットフォーム８０の構成を自律的に拡張し、さらに、不正行為が行われないようにセキュアＡＩ５０がノーマルＡＩ３０の処理をモニタする様子を示している。
【００６３】
この対話プラットフォーム４１ｃは、車内でのユーザー２が喋る情報収集を目的とした音声対話プラットフォームであり、ユーザー２が車内で喋る内容を収集し、センターでビッグデータ化する。対話プラットフォーム４１ｃは、ユーザー２との喋る回数を減らし、より短時間で目的を提供できるように一問一答を設定し、ユーザーとの自然な対話を実現するプラットフォームである。対話に含まれるコンテンツ（例：予約、ショッピング、情報案内など）に対して、ユーザーニーズを満たすタスク指向対話を実現する。さらに、雑談対話をタスク指向対話に交えることで、自然なやり取りを可能とする。
【００６４】
この際、成否判断ユニット８８がユーザー２に対する対話を成功に導くために、現在のＡＩ統合プラットフォーム８０に搭載されているＭＬモジュール８１では不足であると判断すると、自律拡張ユニット８９が、インターネット（クラウド）などのオープンな環境から、対話を成功に導くためのＭＬモジュール８１とベースとなる学習データ８２とを自動収集してＡＩ統合プラットフォーム８０に組み込んでもよい。例えば、ユーザー２が興味を示した分野の音楽についての応答が可能なＭＬモジュール８１が初期学習９１で組み込まれていなければ、動的学習９２で組み込むことができる。このＡＩ統合プラットフォーム８０に組み込まれるように、種々の分野の応答に適したＭＬモジュール８１と、そのＭＬモジュール８１を初期学習させた学習データ８２とを予め準備したストアをクラウドに設け、システム１は必要に応じてストアにアクセスしてＭＬモジュール８１を拡張できるようにしてもよい。
【００６５】
対話プラットフォーム４１ｃは、雑談対話でユーザーの幅広い興味関心に対応しつつ、タイミングを見計らって特定のタスク指向対話、例えばショッピングに転換する。誘導に比べて、幅広いテーマに対して自然なレコメンドを提供する可能性が見込める。
【００６６】
セキュアＡＩ５０は、ノーマルＡＩ３０によるこれらの会話をモニタリングする。会話により誘導された結果がショッピングであれば、セキュアＡＩ５０は、それを認識して、ショッピングに必要な決済情報をセキュアな状態、例えば暗号化して準備し、ノーマルＡＩ３０がショッピングに使えるようにする。
【００６７】
ＭＬモジュール８１の変更あるいは追加は、音声認識の機能向上にも有効である。例えば、図１３に示すように、入力音声に対して、音声認識によるタスクの成功率が低い場合、成否判断ユニット８８および自律拡張ユニット８９が、初期にＡＩ統合プラットフォーム８０に搭載されたルールベースの意図理解エンジン８１ｘを、統計的な意図理解エンジン８１ｙに変更することにより、音声認識エンジン８１ｖの認識正解率が変わらなくてもタスクの成功率を向上することができる。
【００６８】
以上にノーマルＡＩ３０およびセキュアＡＩ５０を含むシステム１の幾つかの例を用いて本発明を説明したが、これらは例示であり、本発明はこれらに限定されず、人工知能（ＡＩ）が適用される、あるいはＡＩがサポートする可能性がある、すべての分野、アプリケーション、機器、端末、ネットワークを介して提供されるサービスに好適に用いられる。
【図１】
2018008605.tif 000003
【図２】
2018008605.tif 000004
【図３】
2018008605.tif 000005
【図４】
2018008605.tif 000006
【図５】
2018008605.tif 000007
【図６】
2018008605.tif 000008
【図７】
2018008605.tif 000009
【図８】
2018008605.tif 000010
【図９】
2018008605.tif 000011
【図１０】
2018008605.tif 000012
【図１１】
2018008605.tif 000013
【図１２】
2018008605.tif 000014
【図１３】
2018008605.tif 000015
【手続補正書】
【提出日】平成30年1月17日(2018.1.17)
【手続補正１】
【補正対象書類名】明細書
【補正対象項目名】０００７
【補正方法】変更
【補正の内容】
【０００７】
オープンな環境は、ユーザーインターフェイス、インターネットなどのオープンネットワークサービスへ接続するための第１のネットワーク接続インターフェイス、およびユーザーインターフェイスまたは第１のネットワーク接続インターフェイスとの間で交換する情報を格納する第１のメモリとを含む。クローズドな環境は、第１の人工知能モジュールがアクセスし得ない第２のメモリを含み、第２の人工知能モジュールは、情報交換に伴い要求される情報であって、第２のメモリに格納された秘匿情報を暗号化した情報を第１のメモリに供給する機能を含む。カード情報、口座情報などの支払いに関する個人情報、ユーザーＩＤ、パスワードなどの個人情報を秘匿情報として第２の人工知能モジュールを用いて安全に管理できる。
【手続補正２】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
オープンな環境における情報交換をアシストまたは自律的に行う機能を含む第１の人工知能モジュールと、
前記第１の人工知能モジュールの動作をモニターし、前記情報交換に伴う処理をクローズドな環境で自律的に行う第２の人工知能モジュールとを有し、
前記オープンな環境は、ユーザーインターフェイス、オープンネットワークサービスへ接続するための第１のネットワーク接続インターフェイス、および前記ユーザーインターフェイスまたは第１のネットワーク接続インターフェイスとの間で交換する情報を格納する第１のメモリとを含み、
前記クローズドな環境は、前記第１の人工知能モジュールがアクセスし得ない第２のメモリを含み、
前記第２の人工知能モジュールは、前記情報交換に伴い要求される情報であって、前記第２のメモリに格納された秘匿情報を暗号化した情報を前記第１のメモリに供給する機能を含む、システム。
【請求項２】
請求項１において、
前記クローズドな環境は、クローズドネットワークサービスへ接続するための第２のネットワーク接続インターフェイスを含む、システム。
【請求項３】
請求項１または２において、
前記第２の人工知能モジュールは、前記第１の人工知能モジュールの異常を監視する機能を含む、システム。
【請求項４】
請求項１ないし３のいずれかにおいて、
前記オープンな環境をサポートする第１のＯＳであって、前記第１の人工知能モジュールが稼働する第１のＯＳと、
前記クローズドな環境をサポートする第２のＯＳであって、前記第２の人工知能モジュールが稼働する第２のＯＳとを有する、システム。
【請求項５】
請求項４において、
保安領域と非保安領域とを含むメモリ、および前記保安領域へのアクセスを禁止する支援機構を含むプロセッシングユニットと、
前記プロセッシングユニット上で稼働するハイパーバイザーとを有し、
前記ハイパーバイザーは、前記第２のＯＳに対して前記保安領域および前記非保安領域へのアクセスを許可し前記オープンな環境へのアクセスを禁止する機構と、前記第１のＯＳに対して前記非保安領域および前記非保安デバイスに対するアクセスを許可し、前記支援機構を用いて前記保安領域へのアクセスを禁止する機構とを含む、システム。
【請求項６】
請求項５において、
前記プロセッシングユニットは、少なくとも１つの主プロセッシングユニットと、少なくとも１つのグラフィックスプロセッシングユニットとを含み、
前記ハイパーバイザーは、前記少なくとも１つの主プロセッシングユニットおよび前記少なくとも１つのグラフィックスプロセッシングユニットの仮想化支援機能を含む、システム。
【請求項７】
請求項１ないし６のいずれかにおいて、
前記第１の人工知能モジュールは、複数の機械学習モジュールと、それぞれの機械学習モジュールに用いられる複数の機械学習データと、前記複数の機械学習モジュールの間の通信を行う機械学習モジュール間通信ユニットと、前記複数の機械学習データの混在を抑制する分離ユニットとを含む、システム。
【請求項８】
請求項７において、
前記第１の人工知能モジュールは、ユーザーに対する応答の失敗と成功とを判断するユニットと、
ユーザーに対する応答を成功に導くための機械学習モジュールおよび機械学習データを前記オープンな環境から自動収集して前記第１の人工知能モジュールに組み込むユニットとを含む、システム。
【請求項９】
請求項１ないし７のいずれかにおいて、
前記第１の人工知能モジュールは、ユーザーに対する応答の失敗と成功とを判断するユニットと、
ユーザーに対する応答を成功に導くためのデータを前記オープンな環境から自動収集してパーソナルデータベースを自動構築するユニットとを含む、システム。
【請求項１０】
請求項１ないし９のいずれかにおいて、
前記第１の人工知能モジュールおよび前記第２の人工知能モジュールを搭載した制御モジュールを有する、システム。
【請求項１１】
請求項１ないし１０のいずれかにおいて、
当該システムは、前記第１の人工知能モジュールに接続されたユーザーインターフェイスを含む、パーソナルアシスタンスシステムである、システム。
【請求項１２】
請求項１ないし１０のいずれかにおいて、
当該システムは、前記第１の人工知能モジュールに接続されたユーザーインターフェイスと、前記第２の人工知能モジュールに接続された家庭内ＬＡＮおよび／または機器制御インターフェイスとを含む、ホームゲートウェイシステムである、システム。
【請求項１３】
請求項１ないし１０のいずれかにおいて、
当該システムは、前記第１の人工知能モジュールに接続されたユーザーインターフェイスと、前記第２の人工知能モジュールに接続された車載ＬＡＮおよび／または機器制御インターフェイスとを含む、車載ゲートウェイシステムである、システム。
【請求項１４】
請求項１ないし１０のいずれかにおいて、
当該システムは、前記第１の人工知能モジュールに接続されたインターネットインターフェイスと、前記第２の人工知能モジュールに接続された工場内ＬＡＮおよび／または機器インターフェイスを含む、ＩｏＴゲートウェイである、システム。
【手続補正書】
【提出日】平成30年3月6日(2018.3.6)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】請求項５
【補正方法】変更
【補正の内容】
【請求項５】
請求項４において、
保安領域と非保安領域とを含むメモリ、および前記保安領域へのアクセスを禁止する支援機構を含むプロセッシングユニットと、
前記プロセッシングユニット上で稼働するハイパーバイザーとを有し、
前記ハイパーバイザーは、前記第２のＯＳに対して前記保安領域および前記非保安領域へのアクセスを許可し前記オープンな環境へのアクセスを禁止する機構と、前記第１のＯＳに対して前記非保安領域および前記オープンな環境へのアクセスを許可し、前記支援機構を用いて前記保安領域へのアクセスを禁止する機構とを含む、システム。
【国際調査報告】
2018008605.tif 000016
2018008605.tif 000017
2018008605.tif 000018
2018008605.tif 000019