(57)【要約】【課題】人工知能を監視できるようにする。【解決手段】確認部２４は、人工知能が複数の装置を含むネットワークに繋がれているか否かを確認する。確認部２４が、当該人工知能が当該ネットワークに繋がれていることを確認した場合、許可部２６は、当該人工知能が外部装置に指示を出力することを許可する。【選択図】図３
2020204833.tif 000002
【特許請求の範囲】
【請求項１】
複数の装置を含むネットワークに人工知能が繋がれているか否かを確認する確認手段と、
前記確認手段が、前記人工知能が前記ネットワークに繋がれていることを確認した場合、前記人工知能が外部装置に指示を出力することを許可する許可手段と、
を有する情報処理装置。
【請求項２】
前記ネットワークを構成する前記複数の装置は互いにデータを同期する、
ことを特徴とする請求項１に記載の情報処理装置。
【請求項３】
前記複数の装置が、予め定められた数、減った場合、警告を出力する警告手段を更に有する、
ことを特徴とする請求項２に記載の情報処理装置。
【請求項４】
前記複数の装置の数が、予め定められた閾値以下になった場合、警告を出力する警告手段を更に有する、
ことを特徴とする請求項２に記載の情報処理装置。
【請求項５】
前記ネットワークは、ブロックチェーンを用いたネットワークである、
ことを特徴とする請求項２から請求項４のいずれか一項に記載の情報処理装置。
【請求項６】
前記ブロックチェーンは、前記人工知能によって実行された処理の履歴を示す複数の履歴情報が連鎖した情報であり、
前記ブロックチェーンに含まれる履歴情報に基づいて、前記人工知能の異常動作の有無を判定する判定手段を更に有する、
ことを特徴とする請求項２から請求項５のいずれか一項に記載の情報処理装置。
【請求項７】
前記判定手段は、前記履歴情報の容量に基づいて、前記人工知能の異常動作の有無を判定する、
ことを特徴とする請求項６に記載の情報処理装置。
【請求項８】
前記人工知能が前記ネットワークに繋がれなくなった場合、前記人工知能の動作を停止させる処理、又は、前記人工知能を削除する処理を実行する処理手段を更に有する、
ことを特徴とする請求項１から請求項７のいずれか一項に記載の情報処理装置。
【請求項９】
前記人工知能の動作が停止させられた場合、又は、前記人工知能が削除された場合、前記人工知能が搭載されていた装置に関する情報を管理装置に送信する送信手段を更に有する、
ことを特徴とする請求項８に記載の情報処理装置。
【請求項１０】
前記管理装置から前記人工知能が搭載されていた装置に、復旧用の人工知能プログラムが送信される、
ことを特徴とする請求項９に記載の情報処理装置。
【請求項１１】
前記複数の装置の中の少なくとも１つの装置は、人工知能を搭載していない、
ことを特徴とする請求項１から請求項１０のいずれか一項に記載の情報処理装置。
【請求項１２】
前記人工知能は、外部装置に動作の実行指示を出力する機能を有し、
前記人工知能の認証が終わるまで、前記人工知能による前記外部装置への実行指示の出力を制限する制限手段を更に有する、
ことを特徴とする請求項１から請求項１１のいずれか一項に記載の情報処理装置。
【請求項１３】
人工知能から動作の実行指示を受け付ける受付手段と、
前記受付手段が、複数の装置を含むネットワークに繋がれている人工知能が出力した前記実行指示を受け付けた場合、前記実行指示に従って動作を実行する実行手段と、
を有する情報処理装置。
【請求項１４】
前記ネットワークを構成する前記複数の装置は互いにデータを同期する、
ことを特徴とする請求項１３に記載の情報処理装置。
【請求項１５】
前記ネットワークは、ブロックチェーンを用いたネットワークである、
ことを特徴とする請求項１４に記載の情報処理装置。
【請求項１６】
前記ネットワークに繋がれていない人工知能の情報を他の装置と共有する第１共有手段を更に有する、
ことを特徴とする請求項１３から請求項１５のいずれか一項に記載の情報処理装置。
【請求項１７】
前記受付手段は、前記ネットワークに繋がれていない人工知能から前記実行指示を受け付けない、
ことを特徴とする請求項１３から請求項１６のいずれか一項に記載の情報処理装置。
【請求項１８】
前記受付手段が、前記ネットワークに繋がれていない人工知能から前記実行指示を受け付けた場合、前記実行手段は、前記実行指示に従った動作を実行しない、
ことを特徴とする請求項１３から請求項１６のいずれか一項に記載の情報処理装置。
【請求項１９】
前記受付手段が前記人工知能から前記実行指示を受け付けた場合、前記受付手段が前記人工知能から前記実行指示を受け付けたことを示す情報を他の装置と共有する第２共有手段を更に有する、
ことを特徴とする請求項１３から請求項１８のいずれか一項に記載の情報処理装置。
【請求項２０】
コンピュータを、
人工知能が複数の装置を含むネットワークに繋がれているか否かを確認する確認手段、
前記確認手段が、前記人工知能が前記ネットワークに繋がれていることを確認した場合、前記人工知能が外部装置に指示を出力することを許可する許可手段、
として機能させるプログラム。
【請求項２１】
コンピュータを、
人工知能から動作の実行指示を受け付ける受付手段、
前記受付手段が、複数の装置を含むネットワークに繋がれている人工知能が出力した前記実行指示を受け付けた場合、前記実行指示に従った動作を実行する実行手段、
として機能させるプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、情報処理装置及びプログラムに関する。
【背景技術】
【０００２】
特許文献１には、人工知能を育成し、育成した人工知能を取り出すシステムが記載されている。
【０００３】
特許文献２には、オープンな環境における情報交換をアシスト又は自律的に行う機能を含む第１人工知能モジュールと、当該第１人工知能モジュールの動作をモニターし、当該情報交換に伴う処理をクローズな環境で自律的に行う第２人工知能モジュールと、を有するシステムが記載されている。
【０００４】
特許文献３には、学習済みの人工知能を用いて顧客が所望する支援情報を提供する装置が記載されている。
【先行技術文献】
【特許文献】
【０００５】
【特許文献１】特開２０１７−１１７２２６号公報
【特許文献２】特開２０１８−８５１３６号公報
【特許文献３】特開２０１８−１７３７１１号公報
【発明の概要】
【発明が解決しようとする課題】
【０００６】
本発明の目的は、人工知能を監視できるようにすることにある。
【課題を解決するための手段】
【０００７】
請求項１に係る発明は、複数の装置を含むネットワークに人工知能が繋がれているか否かを確認する確認手段と、前記確認手段が、前記人工知能が前記ネットワークに繋がれていることを確認した場合、前記人工知能が外部装置に指示を出力することを許可する許可手段と、を有する情報処理装置である。
【０００８】
請求項２に係る発明は、前記ネットワークを構成する前記複数の装置は互いにデータを同期する、ことを特徴とする請求項１に記載の情報処理装置である。
【０００９】
請求項３に係る発明は、前記複数の装置が、予め定められた数、減った場合、警告を出力する警告手段を更に有する、ことを特徴とする請求項２に記載の情報処理装置である。
【００１０】
請求項４に係る発明は、前記複数の装置の数が、予め定められた閾値以下になった場合、警告を出力する警告手段を更に有する、ことを特徴とする請求項２に記載の情報処理装置である。
【００１１】
請求項５に係る発明は、前記ネットワークは、ブロックチェーンを用いたネットワークである、ことを特徴とする請求項２から請求項４のいずれか一項に記載の情報処理装置である。
【００１２】
請求項６に係る発明は、前記ブロックチェーンは、前記人工知能によって実行された処理の履歴を示す複数の履歴情報が連鎖した情報であり、前記ブロックチェーンに含まれる履歴情報に基づいて、前記人工知能の異常動作の有無を判定する判定手段を更に有する、ことを特徴とする請求項２から請求項５のいずれか一項に記載の情報処理装置である。
【００１３】
請求項７に係る発明は、前記判定手段は、前記履歴情報の容量に基づいて、前記人工知能の異常動作の有無を判定する、ことを特徴とする請求項６に記載の情報処理装置である。
【００１４】
請求項８に係る発明は、前記人工知能が前記ネットワークに繋がれなくなった場合、前記人工知能の動作を停止させる処理、又は、前記人工知能を削除する処理を実行する処理手段を更に有する、ことを特徴とする請求項１から請求項７のいずれか一項に記載の情報処理装置である。
【００１５】
請求項９に係る発明は、前記人工知能の動作が停止させられた場合、又は、前記人工知能が削除された場合、前記人工知能が搭載されていた装置に関する情報を管理装置に送信する送信手段を更に有する、ことを特徴とする請求項８に記載の情報処理装置である。
【００１６】
請求項１０に係る発明は、前記管理装置から前記人工知能が搭載されていた装置に、復旧用の人工知能プログラムが送信される、ことを特徴とする請求項９に記載の情報処理装置である。
【００１７】
請求項１１に係る発明は、前記複数の装置の中の少なくとも１つの装置は、人工知能を搭載していない、ことを特徴とする請求項１から請求項１０のいずれか一項に記載の情報処理装置である。
【００１８】
請求項１２に係る発明は、前記人工知能は、外部装置に動作の実行指示を出力する機能を有し、前記人工知能の認証が終わるまで、前記人工知能による前記外部装置への実行指示の出力を制限する制限手段を更に有する、ことを特徴とする請求項１から請求項１１のいずれか一項に記載の情報処理装置である。
【００１９】
請求項１３に係る発明は、人工知能から動作の実行指示を受け付ける受付手段と、前記受付手段が、複数の装置を含むネットワークに繋がれている人工知能が出力した前記実行指示を受け付けた場合、前記実行指示に従って動作を実行する実行手段と、を有する情報処理装置である。
【００２０】
請求項１４に係る発明は、前記ネットワークを構成する前記複数の装置は互いにデータを同期する、ことを特徴とする請求項１３に記載の情報処理装置である。
【００２１】
請求項１５に係る発明は、前記ネットワークは、ブロックチェーンを用いたネットワークである、ことを特徴とする請求項１４に記載の情報処理装置である。
【００２２】
請求項１６に係る発明は、前記ネットワークに繋がれていない人工知能の情報を他の装置と共有する第１共有手段を更に有する、ことを特徴とする請求項１３から請求項１５のいずれか一項に記載の情報処理装置である。
【００２３】
請求項１７に係る発明は、前記受付手段は、前記ネットワークに繋がれていない人工知能から前記実行指示を受け付けない、ことを特徴とする請求項１３から請求項１６のいずれか一項に記載の情報処理装置である。
【００２４】
請求項１８に係る発明は、前記受付手段が、前記ネットワークに繋がれていない人工知能から前記実行指示を受け付けた場合、前記実行手段は、前記実行指示に従った動作を実行しない、ことを特徴とする請求項１３から請求項１６のいずれか一項に記載の情報処理装置である。
【００２５】
請求項１９に係る発明は、前記受付手段が前記人工知能から前記実行指示を受け付けた場合、前記受付手段が前記人工知能から前記実行指示を受け付けたことを示す情報を他の装置と共有する第２共有手段を更に有する、ことを特徴とする請求項１３から請求項１８のいずれか一項に記載の情報処理装置である。
【００２６】
請求項２０に係る発明は、コンピュータを、人工知能が複数の装置を含むネットワークに繋がれているか否かを確認する確認手段、前記確認手段が、前記人工知能が前記ネットワークに繋がれていることを確認した場合、前記人工知能が外部装置に指示を出力することを許可する許可手段、として機能させるプログラムである。
【００２７】
請求項２１に係る発明は、コンピュータを、人工知能から動作の実行指示を受け付ける受付手段、前記受付手段が、複数の装置を含むネットワークに繋がれている人工知能が出力した前記実行指示を受け付けた場合、前記実行指示に従った動作を実行する実行手段、として機能させるプログラムである。
【発明の効果】
【００２８】
請求項１，２０に係る発明によれば、人工知能を監視することができる。
【００２９】
請求項２に係る発明によれば、互いにデータを同期する複数の装置によって人工知能を監視することができる。
【００３０】
請求項３，４に係る発明によれば、人工知能の監視が弱まったことをユーザに知らせることができる。
【００３１】
請求項５に係る発明によれば、ブロックチェーンを用いて人工知能を監視することができる。
【００３２】
請求項６，７に係る発明によれば、ブロックチェーンを用いて人工知能の異常動作の有無を判定することができる。
【００３３】
請求項８に係る発明によれば、監視されていない人工知能が動作することを防止することができる。
【００３４】
請求項９に係る発明によれば、動作が停止させられた人工知能が搭載されている装置、又は、削除された人工知能が搭載されていた装置を管理することができる。
【００３５】
請求項１０に係る発明によれば、人工知能を再度利用することができる。
【００３６】
請求項１１に係る発明によれば、人工知能が搭載されていない装置を含むネットワークによって人工知能を監視することができる。
【００３７】
請求項１２に係る発明によれば、認証されていない人工知能が外部装置に実行指示を出力することを防止することができる。
【００３８】
請求項１３，２１に係る発明によれば、監視されている人工知能が出力した実行指示に従って動作を実行することができる。
【００３９】
請求項１４に係る発明によれば、互いにデータを同期する複数の装置によって監視されている人工知能が出力した実行指示に従って動作を実行することができる。
【００４０】
請求項１５に係る発明によれば、ブロックチェーンを利用して監視されている人工知能が出力した実行指示に従って動作を実行することができる。
【００４１】
請求項１６に係る発明によれば、監視されていない人工知能の情報を他の装置と共有することができる。
【００４２】
請求項１７，１８に係る発明によれば、監視されていない人工知能から出力された実行指示に従って動作が実行されることを防止することができる。
【００４３】
請求項１９に係る発明によれば、受付手段が人工知能から実行指示を受け付けたことを示す情報を他の装置と共有することができる。
【図面の簡単な説明】
【００４４】
【図１】本実施形態に係る情報処理システムの構成を示すブロック図である。
【図２】ブロックチェーンの一例を示す図である。
【図３】本実施形態に係る情報処理装置の構成を示すブロック図である。
【図４】本実施形態に係る機器の構成を示すブロック図である。
【図５】本実施形態に係る処理の流れを示すフローチャートを示す図である。
【発明を実施するための形態】
【００４５】
図１を参照して、本発明の実施形態に係る情報処理システムについて説明する。図１には、本実施形態に係る情報処理システムの一例が示されている。
【００４６】
本実施形態に係る情報処理システムは、情報処理装置１０Ａ，１０Ｂ，１０Ｃ，１０Ｄを含む監視システム１２と、情報処理装置１０Ｅと、１又は複数のサーバ１４と、１又は複数の機器１６とを含む。これら以外の装置が、本実施形態に係る情報処理システムに含まれてもよい。
【００４７】
以下、情報処理装置１０Ａ，１０Ｂ，１０Ｃ，１０Ｄ，１０Ｅを区別する必要がない場合には、各情報処理装置を「情報処理装置１０」と称することとする。
【００４８】
監視システム１２には４つの情報処理装置１０が含まれているが、この数は一例に過ぎず、監視システム１２には複数の情報処理装置１０が含まれていればよい。また、情報処理装置１０以外の装置が監視システム１２に含まれてもよい。
【００４９】
情報処理装置１０Ｅは、監視システム１２に含まれていない。監視システム１２に含まれていない１又は複数の情報処理装置１０が、情報処理システムに含まれてもよいし、監視システム１２に含まれていない情報処理装置１０は、情報処理システムに含まれていなくてもよい。また、サーバ１４や機器１６は、情報処理システムに含まれていなくてもよい。
【００５０】
情報処理装置１０、サーバ１４及び機器１６は、通信経路Ｎを介して他の装置と通信してもよい。通信経路Ｎは、例えば、ＬＡＮ（Local Area Network）等のネットワークやインターネット等である。通信経路Ｎは、有線通信によって構築されてもよいし、Ｗｉ−Ｆｉ（登録商標）等の無線通信によって構築されてもよい。情報処理装置１０、サーバ１４及び機器１６は、例えば、無線通信又は有線通信を利用して通信経路Ｎに接続し、通信経路Ｎを介して他の装置と通信する。情報処理装置１０、サーバ１４及び機器１６は、通信経路Ｎを介さずに近距離無線通信等を利用して他の装置と通信してもよい。近距離無線通信は、例えば、Ｂｌｕｅｔｏｏｔｈ（登録商標）やＲＦＩＤ（Radio Frequency Identifier）やＮＦＣ等である。
【００５１】
監視システム１２は、人工知能（つまりＡＩ）を監視するように構成されている。つまり、監視システム１２に含まれている情報処理装置１０Ａ，１０Ｂ，１０Ｃ，１０Ｄによって人工知能が監視される。
【００５２】
人工知能は、監視システム１２に含まれている１又は複数の情報処理装置１０に搭載されていてもよいし、監視システム１２に含まれていない情報処理装置１０（例えば情報処理装置１０Ｅ）に搭載されていてもよいし、サーバ１４に搭載されていてもよいし、機器１６に搭載されていてもよい。つまり、人工知能を実現するプログラムは、情報処理装置１０に記憶されていてもよいし、サーバ１４に記憶されていてもよいし、機器１６に記憶されていてもよい。これら以外の装置に人工知能が搭載され、当該人工知能が監視システム１２によって監視されてもよい。また、人工知能が搭載されている装置以外の装置にて、当該人工知能が利用されてもよい。例えば、人工知能がサーバ１４に搭載され、当該人工知能がＰＣ等の装置にて利用されてもよい。例えば、ＰＣ等の装置にて、サーバ１４に搭載されている人工知能の機能や、人工知能が提供するサービス等が利用されてもよい。
【００５３】
人工知能に用いられるアルゴリズムは特に限定されず、どのようなアルゴリズムが用いられてもよい。アルゴリズムとして、例えば機械学習が用いられる。機械学習として、教師あり学習が用いられてもよいし、教師なし学習が用いられてもよいし、強化学習が用いられてもよい。具体的には、ディープラーニング（例えば、多層パーセプトロン、畳み込みニューラルネットワーク、再帰型ニューラルネットワーク、オートエンコーダ、制限ボルツマンマシン等）、パーセプトロン、バックプロパゲーション、アソシアトロン、サポートベクタマシン、決定木、ｋ近傍法、線形回帰、自己組織マップ、ボルツマンマシン、主成分分析、クラスタ分析、又は、Ｑラーニング等が用いられてもよい。なお、機械学習以外のアルゴリズムとして、遺伝的アルゴリズムや山登り法等が用いられてもよい。もちろん、これら以外のアルゴリズムが用いられてもよい。
【００５４】
情報処理装置１０は、例えば、パーソナルコンピュータ（以下、「ＰＣ」と称する）、タブレットＰＣ、スマートフォン、携帯電話、又は、その他の装置（例えば印刷機能等を有する複合機等）である。もちろん、これら以外の装置が情報処理装置１０であってもよい。
【００５５】
サーバ１４は、データを記憶したり、データを他の装置に送信したり、データを他の装置から受信したりするように構成されている装置である。
【００５６】
機器１６は、例えば、情報機器、映像機器、音響機器、又は、その他の機器である。機器１６の概念の範疇には、機器全般が含まれてもよい。具体的には、機器１６は、画像形成機能を有する画像形成装置、ＰＣ、タブレットＰＣ、スマートフォン、携帯電話、ロボット（人型ロボット、人以外の動物型ロボット、それら以外のロボット等）、プロジェクタ、液晶ディスプレイ等の表示装置、記録装置、再生装置、カメラ等の撮像装置、冷蔵庫、炊飯器、電子レンジ、コーヒーメーカー、掃除機、洗濯機、空調機、照明機器、時計、監視カメラ、自動車、二輪車、航空機（例えば無人航空機（いわゆるドローン））、ゲーム機、又は、各種のセンシング機器（例えば温度センサ、湿度センサ、電圧センサ、電流センサ等）等である。
【００５７】
監視システム１２は、例えば、情報処理装置１０Ａ，１０Ｂ，１０Ｃ，１０Ｄが互いに通信を行うＰ２Ｐ（Peer to Peer）型の構成を有する。情報処理装置１０Ａ，１０Ｂ，１０Ｃ，１０Ｄは、互いに通信してデータを同期することで、同じ内容を有するデータを共有する。ここでは、情報処理装置１０Ａ，１０Ｂ，１０Ｃ，１０Ｄは、人工知能を監視するための情報を互いに同期することで同じ情報を共有する。このように、人工知能を監視するための情報が情報処理装置１０Ａ，１０Ｂ，１０Ｃ，１０Ｄによって共有されることで、人工知能が監視される。
【００５８】
情報処理装置１０Ａ，１０Ｂ，１０Ｃ，１０Ｄは、例えば、ブロックチェーンを用いた分散型のネットワークを構成し、ブロックチェーンを用いることで人工知能を監視する。つまり、ブロックチェーンが、人工知能を監視するための情報として用いられる。ブロックチェーンは、人工知能によって実行された処理の履歴を示す複数の履歴情報（例えばトランザクション情報）が連鎖した情報である。例えばハッシュ関数と公開鍵暗号方式とを用いることで、履歴情報の真正性が担保される。履歴情報は、マイナー（採掘者）と称される装置によって真正性が検証され、承認されるとブロックにまとめられ、ブロックチェーンに記録される。例えば、情報処理装置１０Ｅに人工知能が搭載されている場合において、当該人工知能によって処理が実行された場合、当該処理の履歴を示す履歴情報が、情報処理装置１０Ｅから監視システム１２に送信される。承認後、当該履歴情報はブロックにまとめられ、ブロックチェーンに記録される。ブロックチェーンは、情報処理装置１０Ａ，１０Ｂ，１０Ｃ，１０Ｄの間で、同一の内容を有する情報として共有される。つまり、情報処理装置１０Ａ，１０Ｂ，１０Ｃ，１０Ｄは、ブロックチェーンを共有することで、同一の内容を有するブロックチェーンを共有する。このように、履歴情報が情報処理装置１０Ａ，１０Ｂ，１０Ｃ，１０Ｄによって共有されることで、人工知能が監視される。
【００５９】
情報処理装置１０Ａ，１０Ｂ，１０Ｃ，１０Ｄには、監視ソフトウェアがインストールされており、情報処理装置１０Ａ，１０Ｂ，１０Ｃ，１０Ｄは、履歴情報の検証や承認を行う。例えば、情報処理装置１０Ａ，１０Ｂ，１０Ｃ，１０Ｄが、履歴情報に基づいて、人工知能の動作が正常か否かを判断する。人工知能を監視する情報処理装置１０の数が多いほど、人工知能の監視が強化される。
【００６０】
なお、監視システム１２にて扱われる一部の情報が、Ｐ２Ｐ型の通信によって情報処理装置１０Ａ，１０Ｂ，１０Ｃ，１０Ｄ間で同期されずに、中央集権型の装置（例えばサーバ１４等）によって収集されてもよい。
【００６１】
人工知能によって実行された処理の履歴を示す履歴情報は、ブロックチェーンとして、監視システム１２全体で分散して管理される。つまり、１又は複数の履歴情報を含むブロックが、そのブロックの１つ前に生成されたブロックと順次結ばれており、このように結ばれた各ブロックが、情報処理装置１０Ａ，１０Ｂ，１０Ｃ，１０Ｄのそれぞれによって共有される。
【００６２】
以下、図２を参照してブロックについて説明する。図２には、ブロックの一例が示されている。図２に示す例においては、ブロックＮ−１、ブロックＮ、ブロックＮ＋１の順番に、各ブロックが順次接続されている。ブロックＮには、ブロックＮの１つ前のブロックであるブロックＮ−１のハッシュ値と、人工知能によって実行された処理の履歴を示す履歴情報（トランザクション情報）と、ノンスと称されているデータとが含まれている。なお、履歴情報には、処理を実行した人工知能を識別するための人工知能識別情報等が含まれている。これら３つのデータを用いて演算を行うことで、ブロックＮのハッシュ値が生成される。そして、ブロックＮの次のブロックであるブロックＮ＋１に、このハッシュ値が引き継がれる。このようにして、ブロックが順次接続されていく。ブロック内のデータが改ざんされた場合、ハッシュ値が変わる。ブロックのハッシュ値はすべて異なる値になるため、改ざん箇所の特定が容易である。
【００６３】
ブロックＮのトランザクション情報には、例えば、ある人工知能によって実行された処理の内容を示す情報、当該処理が実行された時間を示す情報、当該人工知能を識別するための人工知能識別情報、当該人工知能が搭載されている装置を識別するための装置識別情報、及び、当該処理の実行を指示したユーザを識別するためのユーザ識別情報等が含まれる。情報処理装置１０Ａ，１０Ｂ，１０Ｃ，１０Ｄは、１又は複数の履歴情報を集めて１つのブロックとして管理する。
【００６４】
以下、図３を参照して、情報処理装置１０の構成について詳しく説明する。図３には、情報処理装置１０の構成の一例が示されている。
【００６５】
通信部１８は通信インターフェースであって、他の装置に情報を送信する機能、及び、他の装置から情報を受信する機能を有する。通信部１８は、無線通信機能を有していてもよいし、有線通信機能を有していてもよい。通信部１８は、無線通信又は有線通信を利用することで通信経路Ｎを介して他の装置と通信してもよい。通信部１８は、近距離無線通信等を利用することで通信経路Ｎを介さずに他の装置と通信してもよい。
【００６６】
ＵＩ部２０はユーザインターフェースであって、表示部と操作部とを含む。表示部は、液晶ディスプレイ等の表示装置である。操作部は、キーボードや入力キーや操作パネル等の入力装置である。ＵＩ部２０は、表示部と操作部とを兼ね備えたタッチパネル等のＵＩ部であってもよい。
【００６７】
記憶部２２は、各種の情報を記憶する１又は複数の記憶領域である。各記憶領域は、例えば、情報処理装置１０に設けられている１又は複数の記憶装置（例えばハードディスクドライブやメモリ等の物理ドライブ）によって構成されている。記憶部２２には、人工知能を実現するためのプログラムが記憶されていてもよい。
【００６８】
確認部２４は、複数の装置を含むネットワークに人工知能が繋がれているか否かを確認するように構成されている。当該装置の一例は情報処理装置１０であり、当該ネットワークの一例は監視システム１２である。つまり、確認部２４は、人工知能が監視システム１２に繋がれているか否かを確認するように構成されている。人工知能が監視システム１２に繋がれている場合、当該人工知能は監視システム１２によって監視されていると推定される。当該人工知能が監視システム１２に繋がれていない場合、当該人工知能は監視システム１２によって監視されていないと推定される。
【００６９】
確認部２４は、例えば、ユーザによって確認対象の人工知能として指定された人工知能が、監視システム１２に繋がれているか否かを確認してもよいし、人工知能が装置に新たに搭載された場合に、当該人工知能が監視システム１２に繋がれているか否かを確認してもよい。
【００７０】
人工知能が監視システム１２に繋がれているとは、当該人工知能が搭載されている装置が、監視システム１２と通信することができる状態（つまり、当該人工知能が搭載されている装置が、監視システム１２に接続されて情報処理装置１０Ａ，１０Ｂ，１０Ｃ，１０Ｄのいずれかと通信することができる状態）、又は、当該人工知能自体が、監視システム１２と通信することができる状態（つまり、当該人工知能自体が、監視システム１２に接続されて情報処理装置１０Ａ，１０Ｂ，１０Ｃ，１０Ｄと通信することができる状態）である。なお、人工知能が搭載されている装置と直接的に通信することができる情報処理装置１０の数が多いほど、人工知能の監視が強化されているといえる。
【００７１】
例えば、ｐｉｎｇ公知の技術を用いることで、人工知能が搭載されている装置が監視システム１２と通信することができるか否かを確認することができる。例えば、確認部２４は、確認対象の人工知能が搭載されている装置に、監視システム１２宛て（例えば情報処理装置１０Ａ，１０Ｂ，１０Ｃ，１０Ｄのいずれか）に送信情報を送信させる。そして、確認部２４は、当該送信情報に応じた返信情報が、監視システム１２から当該装置に送信されて、当該装置が当該返信情報を受信したか否かを確認する。確認部２４は、当該装置が当該返信情報を受信した場合（例えば当該装置が予め定められた期間中に当該返信情報を受信した場合）、当該装置は監視システム１２と通信することができると判断し、当該装置が当該返信情報を受信しなかった場合（例えば当該装置が予め定められた期間中に当該返信情報を受信しなかった場合）、当該装置は監視システム１２と通信することができないと判断する。
【００７２】
例えば、情報処理装置１０Ｅに人工知能が搭載されており、情報処理装置１０Ｅの確認部２４が、当該人工知能が監視システム１２に繋がれているか否かを確認するものとする。
【００７３】
情報処理装置１０Ｅの確認部２４は、送信情報を監視システム１２に送信する。当該送信情報に応じた返答情報が監視システム１２から情報処理装置１０Ｅに送信され、情報処理装置１０Ｅの通信部１８が当該返答情報を受信した場合、情報処理装置１０Ｅの確認部２４は、情報処理装置１０Ｅに搭載されている人工知能が監視システム１２に繋がれていると判断する。つまり、情報処理装置１０Ｅの確認部２４は、情報処理装置１０Ｅに搭載されている人工知能が監視システム１２によって監視されていると判断する。
【００７４】
情報処理装置１０Ｅの通信部１８が返答情報を受信しなかった場合、情報処理装置１０Ｅの確認部２４は、情報処理装置１０Ｅに搭載されている人工知能は監視システム１２に繋がれていないと判断する。つまり、情報処理装置１０Ｅの確認部２４は、情報処理装置１０Ｅに搭載されている人工知能は監視システム１２によって監視されていないと判断する。
【００７５】
情報処理装置１０Ａ，１０Ｂ，１０Ｃ，１０Ｄのいずれかに人工知能が搭載されている場合に、当該人工知能が監視システム１２に繋がれているか否かが確認されてもよい。情報処理装置１０Ａ，１０Ｂ，１０Ｃ，１０Ｄのそれぞれは、監視システム１２に含まれている装置であるため、当該人工知能は、監視システム１２に繋がれていると判断される。この判断は、情報処理装置１０Ａ，１０Ｂ，１０Ｃ，１０Ｄの中で当該人工知能が搭載されている情報処理装置１０の確認部２４によって行われてもよいし、情報処理装置１０Ａ，１０Ｂ，１０Ｃ，１０Ｄの中で当該人工知能が搭載されていない情報処理装置１０の確認部２４によって行われてもよい。
【００７６】
サーバ１４に人工知能が搭載されている場合に、当該人工知能が監視システム１２に繋がれているか否かが確認されてもよい。例えば、情報処理装置１０Ｅが、通信経路Ｎを介してサーバ１４と通信することができる場合、情報処理装置１０Ｅの確認部２４が、サーバ１４に搭載されている人工知能が監視システム１２に繋がれているか否かを確認する。情報処理装置１０Ｅの確認部２４は、サーバ１４に、監視システム１２宛てに送信情報を送信させる。情報処理装置１０Ｅの確認部２４は、サーバ１４が当該送信情報に応じた返答情報を監視システム１２から受信したか否かを確認する。例えば、サーバ１４が当該返答情報を監視システム１２から受信した場合、その旨を示す情報がサーバ１４から情報処理装置１０Ｅに送信される。この場合、情報処理装置１０Ｅの確認部２４は、サーバ１４に搭載されている人工知能が監視システム１２に繋がれていると判断する。その旨を示す情報がサーバ１４から情報処理装置１０Ｅに送信されなかった場合、情報処理装置１０Ｅの確認部２４は、サーバ１４に搭載されている人工知能が監視システム１２に繋がれていないと判断する。機器１６に人工知能が搭載されている場合も同様である。
【００７７】
確認部２４は、監視システム１２に繋がれていない人工知能を識別するための識別情報を警告リストに登録してもよい。警告リストのデータは、例えば、情報処理装置１０の記憶部２２に記憶されていてもよいし、情報処理装置１０以外の装置（例えばサーバ１４等）に記憶されていてもよい。
【００７８】
許可部２６は、人工知能が外部装置に指示を出力することを許可し、又は、許可しないように構成されている。確認部２４が、確認対象の人工知能が監視システム１２に繋がれていると判断した場合、許可部２６は、当該人工知能が外部装置に指示を出力することを許可する。この場合、許可部２６は、人工知能が外部装置に指示を出力することが許可されることを示す許可情報を当該人工知能に紐付けてもよい。例えば、許可部２６は、許可情報を付帯情報として人工知能に付す。確認部２４が、確認対象の人工知能が監視システム１２に繋がれていないと判断した場合、許可部２６は、当該人工知能が外部装置に指示を出力することを許可しない。この場合、許可部２６は、人工知能が外部装置に指示を出力することが許可されないことを示す不許可情報を当該人工知能に紐付けてもよい。例えば、許可部２６は、不許可情報を付帯情報として人工知能に付す。
【００７９】
外部装置は、本実施形態に係る情報処理システムに含まれている装置であってもよいし、本実施形態に係る情報処理システムに含まれていない装置であってもよい。外部装置は、例えば機器１６であってもよい。
【００８０】
確認対象の人工知能が、情報処理装置１０に搭載されている人工知能である場合、判断対象の人工知能が搭載されている情報処理装置１０の許可部２６は、当該情報処理装置１０Ｅの確認部２４による確認の結果に応じて、当該情報処理装置１０に搭載されている人工知能が外部装置に指示を出力することを許可し、又は、許可しない。判断対象の人工知能が、サーバ１４や機器１６に搭載されている人工知能である場合、情報処理装置１０Ｅの許可部２６が、情報処理装置１０Ｅの確認部２４による確認の結果に応じて、サーバ１４や機器１６に搭載されている人工知能が外部装置に指示を出力することを許可し、又は、許可しない。
【００８１】
警告部２８は、監視システム１２に含まれている情報処理装置１０の数に応じて警告を出力するように構成されている。警告部２８は、例えば、監視システム１２に含まれている情報処理装置１０が、予め定められた数、減った場合に、警告を出力してもよいし、監視システム１２に含まれている情報処理装置１０の数が、予め定められた閾値以下になった場合に、警告を出力してもよい。人工知能を監視する情報処理装置１０の数が減ると、その分、人工知能の監視が弱まる可能性がある。警告を出力することで、人工知能の強化が弱まる可能性があることをユーザに通知することができる。
【００８２】
警告部２８は、例えば、警告を示す情報をＵＩ部２０の表示部に表示させてもよいし、スピーカから警告音を発生させてもよいし、警告を示す情報を情報処理装置１０以外の装置（例えば確認対象の人工知能が搭載されている装置や、その他の装置等）に送信してもよい。
【００８３】
例えば、監視システム１２に含まれている情報処理装置１０Ａ，１０Ｂ，１０Ｃ，１０Ｄのそれぞれの警告部２８が、監視システム１２に含まれている情報処理装置１０の数をカウントし、そのカウントの結果に応じて警告を出力してもよい。また、情報処理装置１０Ｅが、監視システム１２に含まれている情報処理装置１０の数をカウントし、そのカウントの結果に応じて警告を出力してもよい。
【００８４】
判定部３０は、ブロックチェーンに含まれている履歴情報に基づいて、監視システム１２によって監視されている人工知能の異常動作の有無を判定するように構成されている。判定部３０は、例えば、各ブロックに含まれている履歴情報の容量や、履歴情報の有無に応じて、人工知能の異常動作の有無を判定する。判定部３０は、履歴情報に基づいて、人工知能を監視してもよい。
【００８５】
例えば、ブロックに含まれている履歴情報の容量が、予め定められた閾値以上である場合、判定部３０は、当該履歴情報が示す処理を実行した人工知能の動作は異常であると判定する。閾値は、人工知能が実行した処理の内容に応じた閾値であってもよい。人工知能の動作が異常である場合、人工知能の動作が正常なときよりも、履歴情報の容量が増大する可能性がある。例えば、実行されるべきではない処理が実行される等して、履歴情報の容量が増大する可能性がある。履歴情報の容量と処理に応じた閾値とを比較することで、人工知能の動作が異常であるか否かを判定することができる。
【００８６】
また、処理が実行されたのであれば、当該処理に関する情報が履歴情報としてブロックに含まれるはずであるが、当該処理に関する情報がブロックに含まれていない場合、判定部３０は、人工知能の動作が異常であると判定してもよい。
【００８７】
判定部３０による判定結果を示す情報は、例えば、ＵＩ部２０の表示部に表示されてもよいし、音声として出力されてもよいし、他の装置に送信されてもよい。
【００８８】
処理部３２は、人工知能が監視システム１２に繋がれなくなった場合、当該人工知能の動作を停止させる処理、又は、当該人工知能を削除する処理を実行するように構成されている。動作が停止した人工知能は、処理の実行指示を受けても当該処理を実行しない。人工知能を削除する処理は、当該人工知能を実現するためのプログラムを、当該人工知能が搭載されている装置から削除する処理である。動作を停止させる処理、又は、人工知能を削除する処理のいずれかを実行するかは、ユーザによって指定されてもよいし、予め指定されていてもよい。人工知能が監視システム１２に繋がれなくなったか否かは、確認部２４によって確認される。確認部２４が、人工知能が監視システム１２に繋がれなくなったと判断した場合、処理部３２は、当該人工知能の動作を停止させる処理、又は、当該人工知能を削除する処理を実行する。確認部２４による確認は、予め定められたタイミングで実行されてもよいし、定期的に実行されてもよいし、人工知能を利用するユーザによって指定されたタイミングで実行されてもよい。人工知能が監視システム１２に繋がれなくなった場合とは、人工知能が監視システム１２に繋がれていたが、確認部２４が確認した時点では繋がれていない場合、又は、人工知能が監視システム１２に元々繋がれていない場合である。監視されていない人工知能を停止又は削除することで、監視されていない人工知能が動作することを防止することができる。
【００８９】
処理部３２によって、人工知能の動作が停止させられた場合、又は、人工知能が削除された場合、通信部１８は、当該人工知能が搭載されていた装置に関する情報を管理装置に送信してもよい。この場合、通信部１８は送信手段の一例に相当する。
【００９０】
管理装置は、サーバ１４であってもよいし、その他の装置であってもよい。人工知能が搭載されていた装置に関する情報を管理装置に送信することで、人工知能の動作が停止させられたこと、又は、人工知能が削除されたことを、管理者に通知することができる。
【００９１】
人工知能が搭載されていた装置に関する情報は、例えば、当該装置を識別するための装置識別情報（例えばＭＡＣアドレスや型番号やＩＰアドレス等）や、当該装置を利用するユーザを識別するためのユーザ識別情報（例えばユーザの氏名やユーザＩＤ等）である。
【００９２】
管理装置には、復旧用の人工知能プログラムが記憶されている。復旧用の人工知能プログラムは、動作が停止した人工知能を復旧させるプログラム、又は、削除された人工知能を装置に再度搭載するためのプログラムである。復旧の人工知能プログラムが管理装置から、人工知能が搭載されていた装置に送信されて当該装置にインストールされると、動作が停止していた人工知能が動作し、又は、削除された人工知能が当該装置に再度搭載される。管理装置は、当該装置が監視システム１２に接続された場合に、復旧用の人工知能プログラムを当該装置に送信してもよい。例えば、当該装置が、当該装置が監視システム１２に接続したことを示す情報を管理装置に送信すると、管理装置は、復旧用の人工知能プログラムを当該装置に送信する。
【００９３】
監視システム１２に含まれている情報処理装置１０Ａ，１０Ｂ，１０Ｃ，１０Ｄの中の少なくとも１つの装置は、人工知能を搭載していない装置であってもよい。こうすることで、人工知能を搭載していない情報処理装置１０を含む監視システム１２によって、人工知能を監視することができる。人工知能によって別の人工知能を監視する場合、監視する人工知能の性能が、監視される当該別の人工知能の性能よりも劣っていることがある。この場合、当該別の人工知能を適切に監視することができない可能性がある。人工知能を搭載していない情報処理装置１０を含む監視システム１２によって人工知能を監視することで、このような問題の発生を防止又は抑制することができる。
【００９４】
例えば、監視システム１２に含まれている複数の情報処理装置１０の半数以上の情報処理装置１０が、人工知能が搭載されていない情報処理装置１０であってもよい。監視システム１２に含まれている複数の情報処理装置１０の中の予め定められた数以上の情報処理装置１０が、人工知能が搭載されていない情報処理装置１０であってもよい。監視システム１２に含まれている複数の情報処理装置１０の中の予め定められた数以下の情報処理装置１０が、人工知能が搭載されている情報処理装置１０であってもよい。
【００９５】
制限部３４は、認証対象の人工知能の認証が終わるまで、当該人工知能による外部装置への動作の実行指示の出力を制限するように構成されている。外部装置は、認証対象の人工知能が搭載されている装置以外の他の装置（例えば機器１６等）である。
【００９６】
例えば、外部装置への動作の実行指示が許可される人工知能を識別するための識別情報が、情報処理装置１０や他の装置（例えばサーバ１４や認証サーバ等）に記憶されている。制限部３４は、認証対象の人工知能の識別情報を受けて、当該識別情報に基づいて人工知能の認証を行う。認証対象の人工知能の識別情報が、外部装置への動作の実行指示が許可される人工知能の識別情報として、情報処理装置１０や他の装置に記憶されている場合、認証は成功し、制限部３４は、認証対象の人工知能による実行指示の出力を許可する。認証対象の人工知能の識別情報が、外部装置への動作の実行指示が許可される人工知能の識別情報として、情報処理装置１０や他の装置に記憶されていない場合、認証は失敗し、制限部３４は、認証対象の人工知能による実行指示の出力を許可しない。制限部３４は、認証処理の結果を示す情報を、認証対象の人工知能が搭載されている装置に送信する。
【００９７】
認証が成功した場合、認証対象の人工知能は、外部装置への動作の実行指示を出力することが許可される。この場合、認証対象の人工知能は、動作の実行指示を外部装置へ出力する。認証が失敗した場合、認証対象の人工知能は、外部装置への動作の実行指示を出力することが許可されない。この場合、認証対象の人工知能は、動作の実行指示を外部装置へ出力することができない。これにより、認証されていない人工知能が外部装置に実行指示を出力することを防止することができる。なお、人工知能の認証処理は、情報処理装置１０以外の他の装置（例えばサーバ１４や認証サーバ等）によって行われてもよい。
【００９８】
例えば、人工知能が搭載されている装置には、人工知能が起動したことを検知する検知手段が設けられており、人工知能が起動した場合、人工知能の認証を行うために、当該人工知能の識別情報が、当該装置から情報処理装置１０に送信される。制限部３４は、当該人工知能の識別情報に基づいて認証処理を実行する。当該人工知能は、例えば、外部装置に対して動作の実行指示を自立的に出力する人工知能（例えば、ユーザからの指示を受けずに人工知能自身で判断して動作の実行指示を出力する人工知能）である。もちろん、当該人工知能は、情報を受信して動作する人工知能であってもよい。なお、人工知能が搭載されている装置の電源がオンになった場合に、当該人工知能の識別情報が当該装置から情報処理装置１０に送信されて、認証処理が実行されてもよい。
【００９９】
制御部３６は、情報処理装置１０の各部の動作を制御するように構成されている。
【０１００】
以下、機器１６の構成について説明する。複数の装置を含むネットワークに人工知能が繋がれているときに、当該人工知能が機器１６の動作の実行指示を機器１６に出力し、機器１６が、当該実行指示を受け付けた場合、機器１６は、当該実行指示に従って動作を実行するように構成されている装置である。人工知能は、動作の実行指示を受け付ける機器１６以外の他の装置（例えばＰＣやサーバ１４等）に搭載されていてもよいし、動作の実行指示を受け付ける機器１６以外の他の機器１６に搭載されていてもよいし、動作の実行指示を受け付ける機器１６自体に搭載されていてもよい。
【０１０１】
以下、図４を参照して、機器１６の構成について詳しく説明する。図４には、機器１６の構成の一例が示されている。
【０１０２】
通信部３８は通信インターフェースであって、他の装置に情報を送信する機能、及び、他の装置から情報を受信する機能を有する。通信部３８は、無線通信機能を有していてもよいし、有線通信機能を有していてもよい。通信部３８は、無線通信又は有線通信を利用することで通信経路Ｎを介して他の装置と通信してもよい。通信部３８は、近距離無線通信等を利用することで通信経路Ｎを介さずに他の装置と通信してもよい。
【０１０３】
ＵＩ部４０はユーザインターフェースであって、表示部と操作部とを含む。表示部は、液晶ディスプレイ等の表示装置である。操作部は、キーボードや入力キーや操作パネル等の入力装置である。ＵＩ部４０は、表示部と操作部とを兼ね備えたタッチパネル等のＵＩ部であってもよい。
【０１０４】
記憶部４２は、各種の情報を記憶する１又は複数の記憶領域である。各記憶領域は、例えば、機器１６に設けられている１又は複数の記憶装置（例えばハードディスクドライブやメモリ等の物理ドライブ）によって構成されている。記憶部４２には、人工知能を実現するためのプログラムが記憶されていてもよい。
【０１０５】
受付部４４は、自装置である機器１６の動作の実行指示を受け付けるように構成されている。受付部４４は、自装置である機器１６以外の装置（例えば他の機器１６やサーバ１４や情報処理装置１０等）から実行指示を受け付けてもよいし、自装置である機器１６自体から実行指示を受け付けてもよい。例えば、人工知能が、自装置である機器１６の動作の実行指示を自装置である機器１６に出力した場合、受付部４４は、当該実行指示を受け付ける。
【０１０６】
実行部４６は、受付部４４が実行指示を受け付けた場合、当該実行指示に従って、機器１６が有する機能を実行するように構成されている。例えば、自装置である機器１６が印刷装置である場合において、受付部４４が、印刷の実行指示を受け付けた場合、実行部４６は、印刷を実行する。
【０１０７】
受付部４４が、監視システム１２に繋がれている人工知能が出力した動作の実行指示を受け付けた場合、実行部４６は、当該実行指示に従って動作を実行してもよい。一方、受付部４４が、監視システム１２に繋がれていない人工知能が出力した動作の実行指示を受け付けた場合、実行部４６は、当該実行指示に従った動作を実行しなくてもよい。つまり、自装置である機器１６に対して動作の実行指示を出力した人工知能が監視システム１２に繋がれていることが確認されている場合、換言すると、当該人工知能が外部装置に指示を出力することが、情報処理装置１０の許可部２６によって許可されている場合、実行部４６は、当該実行指示に従って動作を実行する。一方、自装置である機器１６に対して動作の実行指示を出力した人工知能が監視システム１２に繋がれていることが、情報処理装置１０の確認部２４によって確認されていない場合、換言すると、当該人工知能が外部装置に指示を出力することが、情報処理装置１０の許可部２６によって許可されていない場合、実行部４６は、当該実行指示に従った動作を実行しない。
【０１０８】
例えば、許可情報が紐付けられている人工知能が実行指示を機器１６に出力する場合、当該人工知能は、当該許可情報と共に動作の実行指示を機器１６に出力する。受付部４４が、当該許可情報と共に実行指示を受け付けると、実行部４６は、当該実行指示に従って動作を実行する。
【０１０９】
一方、許可情報が紐付けられていない人工知能が実行指示を機器１６に出力する場合、当該人工知能は、許可情報を出力することができず、許可情報を伴わない実行指示を機器１６に出力する。受付部４４が、許可情報を伴わない実行指示を受け付けると、実行部４６は、当該実行指示に従った動作を実行しない。
【０１１０】
受付部４４は、監視システム１２に繋がれている人工知能が出力した動作の実行指示を受け付け、監視システム１２に繋がれていない人工知能が出力した動作の実行指示を受け付けなくてもよい。つまり、自装置である機器１６に対して動作の実行指示を出力した人工知能が監視システム１２に繋がれていることが、情報処理装置１０の確認部２４によって確認されている場合、換言すると、当該人工知能が外部装置に指示を出力することが、情報処理装置１０の許可部２６によって許可されている場合、受付部４４は、当該人工知能が出力した動作の実行指示を受け付ける。一方、自装置である機器１６に対して動作の実行指示を出力した人工知能が監視システム１２に繋がれていることが、情報処理装置１０の確認部２４によって確認されていない場合、換言すると、当該人工知能が外部装置に指示を出力することが、情報処理装置１０の許可部２６によって許可されていない場合、受付部４４は、当該人工知能が出力した動作の実行指示を受け付ける。
【０１１１】
例えば、許可情報が紐付けられている人工知能が実行指示を機器１６に出力する場合、当該人工知能は、当該許可情報と共に動作の実行指示を機器１６に出力する。受付部４４は、許可情報を伴う実行指示を受け付ける。
【０１１２】
一方、許可情報が紐付けられていない人工知能が実行指示を機器１６に出力する場合、当該人工知能は、許可情報を出力することができず、許可情報を伴わない実行指示を機器１６に出力する。受付部４４は、許可情報を伴わない実行指示を受け付けない。
【０１１３】
共有部４８は、第１共有部５０と第２共有部５２とを含み、情報を他の装置と共有するように構成されている。他の装置は、本実施形態に係る情報処理システムに含まれている装置（例えば、情報処理装置１０やサーバ１４や他の機器１６等）であってもよいし、情報処理システムに含まれていない装置であってもよい。情報を共有する他の装置は予め設定されて、当該他の装置に関する情報は記憶部４２に予め記憶されている。他の装置に関する情報は、例えば、当該他の装置のアドレスを示す情報（例えばＩＰアドレスやＭＡＣアドレス等）等を含む情報である。
【０１１４】
第１共有部５０は、監視システム１２に繋がれていない人工知能の情報（例えば当該人工知能の識別情報）を他の装置と共有するように構成されている。例えば、受付部４４が、監視システム１２に繋がれていない人工知能から実行指示を受け付けた場合、つまり、受付部４４が、許可情報が伴わない実行指示を人工知能から受け付けた場合、第１共有部５０は、当該人工知能の識別情報を他の装置に送信し、当該人工知能の識別情報と他の装置と共有する。第１共有部５０は、例えば、他の装置のアドレスを示す情報を用いて、人工知能の識別情報を他の装置に送信し、当該人工知能の識別情報を他の装置と共有する。
【０１１５】
第２共有部５２は、受付部４４が人工知能から実行指示を受け付けた場合、受付部４４が当該人工知能から動作の実行指示を受け付けたことを示す通知情報を他の装置と共有するように構成されている。当該人工知能は、監視システム１２に繋がれている人工知能であってもよいし、監視システム１２に繋がれていない人工知能であってもよい。通知情報には、例えば、人工知能の識別情報及び動作の内容を示す情報等が含まれる。第２共有部５２は、例えば、他の装置のアドレスを示す情報を用いて通知情報を他の装置に送信し、当該通知情報を他の装置と共有する。
【０１１６】
以下、図５を参照して、本実施形態に係る処理の流れについて説明する。図５には、本実施形態に係る処理の流れの一例を示すフローチャートが示されている。
【０１１７】
確認対象の装置に人工知能（図５中のＡＩ）が搭載されていない場合（Ｓ０１，Ｎｏ）、処理は終了する。確認対象の装置は、例えばユーザによって指定される。確認対象の装置は、情報処理装置１０であってもよいし、サーバ１４であってもよいし、機器１６であってもよいし、その他の装置であってもよい。
【０１１８】
確認対象の装置に人工知能が搭載されている場合（Ｓ０１，Ｙｅｓ）、確認部２４は、確認対象の装置に搭載されている人工知能が監視システム１２に繋がれているか否かを確認する（Ｓ０２）。つまり、確認部２４は、確認対象の装置に搭載されている人工知能が監視システム１２によって監視されているか否かを確認する。
【０１１９】
確認対象の装置に搭載されている人工知能が監視システム１２に繋がれている場合、つまり、確認対象の装置に搭載されている人工知能が監視システム１２によって監視されている場合（Ｓ０２，Ｙｅｓ）、処理は終了する。この場合、許可部２６は、当該人工知能による外部装置への指示の出力を許可する。
【０１２０】
確認対象の装置に搭載されている人工知能が監視システム１２に繋がれていない場合、つまり、確認対象の装置に搭載されている人工知能が監視システム１２によって監視されていない場合（Ｓ０２，Ｎｏ）、確認部２４は、当該人工知能の識別情報を警告リストに登録する（Ｓ０３）。
【０１２１】
また、許可部２６は、確認対象の装置に搭載されている人工知能による外部装置への指示の出力を許可しない（Ｓ０４）。
【０１２２】
また、処理部３２は、確認対象の装置に搭載されている人工知能の動作を停止させる、又は、当該人工知能のプログラムを削除する（Ｓ０５）。
【０１２３】
動作が停止させられた人工知能や削除された人工知能が正常に復旧した場合、人工知能が再起動させられる（Ｓ０６）。例えば、動作が停止させられた人工知能が監視システム１２に繋げられた場合、許可部２６は、当該人工知能による外部装置への指示の出力を許可する。この場合、当該人工知能が正常に復旧したとして、当該人工知能が再起動させられる。また、削除された人工知能のプログラムが、削除された人工知能が搭載されていた装置に送信されて当該装置にインストールされた場合、当該人工知能が正常に復旧したとして、当該人工知能が再起動させられる。
【０１２４】
なお、人工知能が搭載されている装置が、予め定められている動作とは異なる動作を行った場合、情報処理装置１０の制御部３６は、当該人工知能の動作を停止させてもよいし、当該人工知能のプログラムを削除してもよい。例えば、監視システム１２に繋がれている人工知能が搭載されている装置が、予め定められている動作とは異なる動作を行った場合、制御部３６は、当該人工知能の動作を停止させてもよいし、当該人工知能のプログラムを削除してもよい。人工知能が搭載されている装置は、当該装置の動作を示す情報を情報処理装置１０に送信し、制御部３６は、当該動作を示す情報に基づいて当該装置の動作を認識する。機器１６に人工知能が搭載されている場合、当該機器１６が、予め定められている動作と異なる動作を行った場合、当該機器１６の制御部５４は、当該人工知能の動作を停止させてもよいし、当該人工知能のプログラムを削除してもよい。
【０１２５】
上記の各装置（情報処理装置１０、サーバ１４及び機器１６）は、一例としてハードウェアとソフトウェアとの協働により実現される。具体的には、各装置は、図示しないＣＰＵ等の１又は複数のプロセッサを備えている。当該１又は複数のプロセッサが、図示しない記憶装置に記憶されたプログラムを読み出して実行することにより、各装置の各部の機能が実現される。上記プログラムは、ＣＤ又はＤＶＤ等の記録媒体を経由して、又は、ネットワーク等の通信経路を経由して、記憶装置に記憶される。別の例として、各装置の各部は、例えばプロセッサ、電子回路又はＡＳＩＣ（Application Specific Integrated Circuit）等のハードウェア資源により実現されてもよい。その実現においてメモリ等のデバイスが利用されてもよい。更に別の例として、各装置の各部は、ＤＳＰ（Digital Signal Processor）又はＦＰＧＡ（Field Programmable Gate Array）等によって実現されてもよい。
【符号の説明】
【０１２６】
１０Ａ，１０Ｂ，１０Ｃ，１０Ｄ，１０Ｅ  情報処理装置、１２  監視システム、１４  サーバ、１６  機器。
【図１】
2020204833.tif 000003
【図２】
2020204833.tif 000004
【図３】
2020204833.tif 000005
【図４】
2020204833.tif 000006
【図５】
2020204833.tif 000007