(57)【要約】【課題】エージェント機能による発話の認識状態を直感的に確認させることができるエージェント装置、エージェント装置の制御方法、およびプログラムを提供すること。【解決手段】車両の乗員により発せられ、音収集部により収集された音声を音声認識した結果に応じたサービスを提供する少なくとも１つのエージェント機能部と、音収集部により収集された音声に関連するレベル情報を、エージェント機能部を表すキャラクタ画像に関連させて表示部に表示させる表示制御部と、を備えるエージェント装置。【選択図】図２
2020157864.tif 000002
【特許請求の範囲】
【請求項１】
車両の乗員により発せられ、音収集部により収集された音声を音声認識した結果に応じたサービスを提供する少なくとも１つのエージェント機能部と、
前記音収集部により収集された音声に関連するレベル情報を、前記エージェント機能部を表すキャラクタ画像に関連させて表示部に表示させる表示制御部と、
を備えるエージェント装置。
【請求項２】
前記音声に関連するレベル情報は、前記音収集部により収集された音声の音量レベルに関する情報である、
請求項１に記載のエージェント装置。
【請求項３】
前記音声に関連するレベル情報は、前記音収集部により収集された音声に含まれるノイズのノイズレベルに関する情報である、
請求項１または請求項２に記載のエージェント装置。
【請求項４】
前記音声に関連するレベル情報は、前記音収集部により収集された音声の音量レベルに関する情報と、前記音収集部により収集された音声に含まれるノイズのノイズレベルに関する情報とを含み、
前記表示制御部は、前記音量レベルに関する情報と前記ノイズレベルに関する情報とを異なる形態で前記表示部に表示させる、
請求項１から請求項３のうちいずれか１項に記載のエージェント装置。
【請求項５】
前記音声に関連するレベル情報は、前記音収集部により収集された音声に含まれるノイズのノイズレベルに関する情報であり、
前記表示制御部は、前記ノイズレベルが所定のレベル以上である場合には、前記キャラクタ画像の目の部分を、前記ノイズレベルが所定のレベル未満である場合と異ならせて前記表示部に表示させる、
請求項１から請求項４のうちいずれか１項に記載のエージェント装置。
【請求項６】
前記表示制御部は、前記音収集部、または前記音収集部により収集された音声を音声認識する構成要素の故障によって前記音収集部により収集された音声を音声認識することができない場合に、故障を表す画像を、前記キャラクタ画像に組み合わせて前記表示部に表示させる、
請求項１から請求項５のうちいずれか１項に記載のエージェント装置。
【請求項７】
前記故障を表す画像は、前記キャラクタ画像の横に壁を表す画像を配置した画像である、
請求項６に記載のエージェント装置。
【請求項８】
前記故障を表す画像は、前記キャラクタ画像の横にクエスチョンマークを配置した画像である、
請求項６または請求項７に記載のエージェント装置。
【請求項９】
前記表示制御部は、乗員を表す画像を、前記キャラクタ画像と組み合わせて前記表示部に表示させる、
請求項１から請求項８のうちいずれか１項に記載のエージェント装置。
【請求項１０】
前記音声に関連するレベル情報は、前記音収集部により収集された音声に含まれるノイズのノイズレベルに関する情報であり、
前記表示制御部は、前記ノイズレベルが所定のレベル未満である場合には、前記キャラクタ画像と前記乗員を表す画像との間に発話を表す画像を配置した画像を前記表示部に表示させ、前記ノイズレベルが所定のレベル以上である場合には、前記キャラクタ画像と前記乗員を表す画像との間にノイズを表す画像を配置した画像を前記表示部に表示させる、
請求項９に記載のエージェント装置。
【請求項１１】
車両の乗員により発せられ、音収集部により収集された音声を予め設定した言語で音声認識した結果に応じたサービスを提供する少なくとも１つのエージェント機能部と、
前記音声認識の前提とした言語を表すキャラクタ画像を表示部に表示させる表示制御部と、
を備えるエージェント装置。
【請求項１２】
前記表示制御部は、前記音声認識の前提とした言語に対応する国旗を模擬した形態の前記キャラクタ画像を、前記表示部に表示させる、
請求項１１に記載のエージェント装置。
【請求項１３】
エージェント装置のコンピュータが、
少なくとも１つのエージェント機能部として、車両の乗員により発せられ、音収集部により収集された音声を音声認識した結果に応じたサービスを提供し、
前記音収集部により収集された音声に関連するレベル情報を、前記エージェント機能部を表すキャラクタ画像に関連させて表示部に表示させる、
エージェント装置の制御方法。
【請求項１４】
エージェント装置のコンピュータに、
少なくとも１つのエージェント機能部として、車両の乗員により発せられ、音収集部により収集された音声を音声認識した結果に応じたサービスを提供させ、
前記音収集部により収集された音声に関連するレベル情報を、前記エージェント機能部を表すキャラクタ画像に関連させて表示部に表示させることを行わせる、
プログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、エージェント装置、エージェント装置の制御方法、およびプログラムに関する。
【背景技術】
【０００２】
従来、車両の乗員と対話を行いながら、乗員の要求に応じた運転支援に関する情報や車両の制御、その他のアプリケーション等を提供するエージェント機能に関する技術が開示されている（例えば、特許文献１参照）。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特開２００６−３３５２３１号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
ところで、エージェント機能が搭載された車両では、エージェント機能に対して乗員が発話する声の大きさ（音量レベル）やエージェント機能を構成するマイクに収音されるノイズの大きさ（ノイズレベル）が変化することが想定される。しかしながら、特許文献１に開示されたエージェント機能に関する技術では、上述したようなエージェント機能に入力される音の状況についての検討が十分になされていない。このため、特許文献１に開示されたエージェント機能に関する技術では、エージェント機能に対する乗員の発話を正しく認識することができない場合があるが、このことを乗員に直感的に示すことができない。この場合、乗員は、エージェント機能に対して同じ発話や指示を繰り返し行うことが必要となり、エージェント機能の使用に煩わしさを感じてしまうことになる。
【０００５】
本発明は、上記の課題認識に基づいてなされたものであり、エージェント機能による発話の認識状態を直感的に確認させることができるエージェント装置、エージェント装置の制御方法、およびプログラムを提供することを目的としている。
【課題を解決するための手段】
【０００６】
この発明に係るエージェント装置、エージェント装置の制御方法、およびプログラムは、以下の構成を採用した。
（１）：本発明の一態様に係るエージェント装置は、車両の乗員により発せられ、音収集部により収集された音声を音声認識した結果に応じたサービスを提供する少なくとも１つのエージェント機能部と、前記音収集部により収集された音声に関連するレベル情報を、前記エージェント機能部を表すキャラクタ画像に関連させて表示部に表示させる表示制御部と、を備えるものである。
【０００７】
（２）：上記（１）の態様において、前記音声に関連するレベル情報は、前記音収集部により収集された音声の音量レベルに関する情報であるものである。
【０００８】
（３）：上記（１）または（２）の態様において、前記音声に関連するレベル情報は、前記音収集部により収集された音声に含まれるノイズのノイズレベルに関する情報であるものである。
【０００９】
（４）：上記（１）〜（３）のうちいずれか一態様において、前記音声に関連するレベル情報は、前記音収集部により収集された音声の音量レベルに関する情報と、前記音収集部により収集された音声に含まれるノイズのノイズレベルに関する情報とを含み、前記表示制御部は、前記音量レベルに関する情報と前記ノイズレベルに関する情報とを異なる形態で前記表示部に表示させるものである。
【００１０】
（５）：上記（１）〜（４）のうちいずれか一態様において、前記音声に関連するレベル情報は、前記音収集部により収集された音声に含まれるノイズのノイズレベルに関する情報であり、前記表示制御部は、前記ノイズレベルが所定のレベル以上である場合には、前記キャラクタ画像の目の部分を、前記ノイズレベルが所定のレベル未満である場合と異ならせて前記表示部に表示させるものである。
【００１１】
（６）：上記（１）〜（５）のうちいずれか一態様において、前記表示制御部は、前記音収集部、または前記音収集部により収集された音声を音声認識する構成要素の故障によって前記音収集部により収集された音声を音声認識することができない場合に、故障を表す画像を、前記キャラクタ画像に組み合わせて前記表示部に表示させるものである。
【００１２】
（７）：上記（６）の態様において、前記故障を表す画像は、前記キャラクタ画像の横に壁を表す画像を配置した画像であるものである。
【００１３】
（８）：上記（６）または（７）の態様において、前記故障を表す画像は、前記キャラクタ画像の横にクエスチョンマークを配置した画像であるものである。
【００１４】
（９）：上記（１）〜（８）のうちいずれか一態様において、前記表示制御部は、乗員を表す画像を、前記キャラクタ画像と組み合わせて前記表示部に表示させるものである。
【００１５】
（１０）：上記（９）の態様において、前記音声に関連するレベル情報は、前記音収集部により収集された音声に含まれるノイズのノイズレベルに関する情報であり、前記表示制御部は、前記ノイズレベルが所定のレベル未満である場合には、前記キャラクタ画像と前記乗員を表す画像との間に発話を表す画像を配置した画像を前記表示部に表示させ、前記ノイズレベルが所定のレベル以上である場合には、前記キャラクタ画像と前記乗員を表す画像との間にノイズを表す画像を配置した画像を前記表示部に表示させるものである。
【００１６】
（１１）：また、本発明の一態様に係るエージェント装置は、車両の乗員により発せられ、音収集部により収集された音声を予め設定した言語で音声認識した結果に応じたサービスを提供する少なくとも１つのエージェント機能部と、前記音声認識の前提とした言語を表すキャラクタ画像を表示部に表示させる表示制御部と、を備えるものである。
【００１７】
（１２）：上記（１１）の態様において、前記表示制御部は、前記音声認識の前提とした言語に対応する国旗を模擬した形態の前記キャラクタ画像を、前記表示部に表示させるものである。
【００１８】
（１３）：また、本発明の一態様に係るエージェント装置の制御方法は、エージェント装置のコンピュータが、少なくとも１つのエージェント機能部として、車両の乗員により発せられ、音収集部により収集された音声を音声認識した結果に応じたサービスを提供し、前記音収集部により収集された音声に関連するレベル情報を、前記エージェント機能部を表すキャラクタ画像に関連させて表示部に表示させるものである。
【００１９】
（１４）：また、本発明の一態様に係るプログラムは、エージェント装置のコンピュータに、少なくとも１つのエージェント機能部として、車両の乗員により発せられ、音収集部により収集された音声を音声認識した結果に応じたサービスを提供させ、前記音収集部により収集された音声に関連するレベル情報を、前記エージェント機能部を表すキャラクタ画像に関連させて表示部に表示させることを行わせるものである。
【発明の効果】
【００２０】
上述した（１）〜（１４）の態様によれば、エージェント機能による発話の認識状態を直感的に確認させることができる。
【図面の簡単な説明】
【００２１】
【図１】エージェント装置１００を含むエージェントシステム１の構成図である。
【図２】エージェント装置１００の構成と、車両Ｍに搭載された機器とを示す図である。
【図３】表示・操作装置２０の配置例を示す図である。
【図４】エージェントサーバ２００の構成と、エージェント装置１００の構成の一部とを示す図である。
【図５】表示・操作装置２０にエージェント画像ＡＧを表示させた一例を示す図である。
【図６】エージェント画像ＡＧの第１例を示す図である。
【図７】エージェント画像ＡＧの第２例を示す図である。
【図８】エージェント画像ＡＧの第３例を示す図である。
【図９】エージェント画像ＡＧの第４例を示す図である。
【図１０】エージェント画像ＡＧの第５例を示す図である。
【図１１】エージェント画像ＡＧの第６例を示す図である。
【発明を実施するための形態】
【００２２】
以下、図面を参照し、本発明のエージェント装置、エージェント装置の制御方法、およびプログラムの実施形態について説明する。エージェント装置は、エージェントシステムの一部または全部を実現する装置である。以下では、エージェント装置の一例として、車両（以下、車両Ｍ）に搭載され、複数種類のエージェント機能を備えたエージェント装置について説明する。エージェント機能とは、例えば、車両Ｍの乗員と対話をしながら、乗員の発話の中に含まれる要求（コマンド）に基づく各種の情報提供を行ったり、ネットワークサービスを仲介したりする機能である。複数種類のエージェントはそれぞれに果たす機能、処理手順、制御、出力態様・内容がそれぞれ異なってもよい。また、エージェント機能の中には、車両Ｍ内の機器（例えば、運転制御や車体制御に関わる機器）の制御等を行う機能を有するものがあってよい。
【００２３】
エージェント機能は、例えば、乗員の音声を認識する音声認識機能（音声をテキスト化する機能）に加え、自然言語処理機能（テキストの構造や意味を理解する機能）、対話管理機能、ネットワークを介して他装置を検索し、或いは自装置が保有する所定のデータベースを検索するネットワーク検索機能等を統合的に利用して実現される。これらの機能の一部または全部は、ＡＩ（Artificial Intelligence）技術によって実現されてよい。また、これらの機能を行うための構成の一部（特に、音声認識機能や自然言語処理解釈機能）は、車両Ｍの車載通信装置または車両Ｍに持ち込まれた汎用通信装置と通信可能なエージェントサーバ（外部装置）に搭載されてもよい。以下の説明では、構成の一部がエージェントサーバに搭載されており、エージェント装置とエージェントサーバが協働してエージェントシステムを実現することを前提とする。また、エージェント装置とエージェントサーバが協働して仮想的に出現させるサービス提供主体（サービス・エンティティ）をエージェントと称する。
【００２４】
＜全体構成＞
図１は、エージェント装置１００を含むエージェントシステム１の構成図である。エージェントシステム１は、例えば、エージェント装置１００と、複数のエージェントサーバ２００−１、２００−２、２００−３、…とを備える。符号の末尾のハイフン以下数字は、エージェントを区別するための識別子であるものとする。いずれのエージェントサーバであるかを区別しない場合、単にエージェントサーバ２００と称する場合がある。図１では３つのエージェントサーバ２００を示しているが、エージェントサーバ２００の数は１つや２つであってもよいし、４つ以上であってもよい。それぞれのエージェントサーバ２００は、互いに異なるエージェントシステムの提供者が運営するものである。従って、本発明におけるエージェントは、互いに異なる提供者により実現されるエージェントである。提供者としては、例えば、自動車メーカー、ネットワークサービス事業者、電子商取引事業者、携帯端末の販売者や製造者などが挙げられ、任意の主体（法人、団体、個人等）がエージェントシステムの提供者となり得る。
【００２５】
エージェント装置１００は、ネットワークＮＷを介してエージェントサーバ２００と通信する。ネットワークＮＷは、例えば、インターネット、セルラー網、Ｗｉ−Ｆｉ網、ＷＡＮ（Wide Area Network）、ＬＡＮ（Local Area Network）、公衆回線、電話回線、無線基地局などのうち一部または全部を含む。ネットワークＮＷには、各種ウェブサーバ３００が接続されており、エージェントサーバ２００またはエージェント装置１００は、ネットワークＮＷを介して各種ウェブサーバ３００からウェブページを取得することができる。
【００２６】
エージェント装置１００は、車両Ｍの乗員と対話を行い、乗員からの音声をエージェントサーバ２００に送信し、エージェントサーバ２００から得られた回答を、音声出力や画像表示の形で乗員に提示する。
【００２７】
［車両］
図２は、エージェント装置１００の構成と、車両Ｍに搭載された機器とを示す図である。車両Ｍには、例えば、一以上のマイク１０と、表示・操作装置２０と、スピーカユニット３０と、ナビゲーション装置４０と、車両機器５０と、車載通信装置６０と、乗員認識装置８０と、エージェント装置１００とが搭載される。また、スマートフォンなどの汎用通信装置７０が車室内に持ち込まれ、通信装置として使用される場合がある。これらの装置は、ＣＡＮ（Controller Area Network）通信線等の多重通信線やシリアル通信線、無線通信網等によって互いに接続される。なお、図２に示す構成はあくまで一例であり、構成の一部が省略されてもよいし、更に別の構成が追加されてもよい。
【００２８】
マイク１０は、車室内で発せられた音声を収集する収音部である。マイク１０は、例えば、車室内の互いに異なる位置に配設された複数のマイクを含んでもよい。マイク１０は、収音した車室内で発せられた音声をエージェント装置１００に出力する。なお、マイク１０が出力する音声には、乗員が発話した音声のみではなく、車室内のノイズ（例えば、車室内に流れている音楽や、車室内に漏れ込んだ車室外の雑音など）も含まれる。本実施形態において、マイク１０は、音収集部の一例である。
【００２９】
表示・操作装置２０は、画像を表示すると共に、入力操作を受付可能な装置（或いは装置群）である。表示・操作装置２０は、例えば、タッチパネルとして構成されたディスプレイ装置を含む。表示・操作装置２０は、更に、ＨＵＤ（Head Up Display）や機械式の入力装置を含んでもよい。本実施形態において、表示・操作装置２０は、表示部の一例である。
【００３０】
図３は、表示・操作装置２０の配置例を示す図である。表示・操作装置２０は、例えば、第１ディスプレイ２２と、第２ディスプレイ２４と、操作スイッチＡＳＳＹ２６とを含む。表示・操作装置２０は、更に、ＨＵＤ２８を含んでもよい。
【００３１】
車両Ｍには、例えば、ステアリングホイールＳＷが設けられた運転席ＤＳと、運転席ＤＳに対して車幅方向（図中Ｙ方向）に設けられた助手席ＡＳとが存在する。第１ディスプレイ２２は、インストルメントパネルにおける運転席ＤＳと助手席ＡＳとの中間辺りから、助手席ＡＳの左端部に対向する位置まで延在する横長形状のディスプレイ装置である。第２ディスプレイ２４は、運転席ＤＳと助手席ＡＳとの車幅方向に関する中間あたり、且つ第１ディスプレイの下方に設置されている。例えば、第１ディスプレイ２２と第２ディスプレイ２４は、共にタッチパネルとして構成され、表示部としてＬＣＤ（Liquid Crystal Display）や有機ＥＬ（Electroluminescence）、プラズマディスプレイなどを備えるものである。操作スイッチＡＳＳＹ２６は、ダイヤルスイッチやボタン式スイッチなどが集積されたものである。
【００３２】
表示・操作装置２０は、乗員によってなされた操作の内容をエージェント装置１００に出力する。第１ディスプレイ２２または第２ディスプレイ２４が表示する内容は、エージェント装置１００によって決定されてよい。表示・操作装置２０は、エージェント装置１００とナビゲーション装置４０とで共用されてもよい。
【００３３】
図２に戻り、スピーカユニット３０は、例えば、車室内の互いに異なる位置に配設された複数のスピーカ（音出力部）を含む。
【００３４】
ナビゲーション装置４０は、ナビＨＭＩ（Human machine Interface）と、ＧＰＳ（Global Positioning System）などの位置測位装置と、地図情報を記憶した記憶装置と、経路探索などを行う制御装置（ナビゲーションコントローラ）とを備える。マイク１０、表示・操作装置２０、およびスピーカユニット３０のうち一部または全部がナビＨＭＩとして用いられてもよい。ナビゲーション装置４０は、位置測位装置によって特定された車両Ｍの位置から、乗員によって入力された目的地まで移動するための経路（ナビ経路）を探索し、経路に沿って車両Ｍが走行できるように、ナビＨＭＩを用いて案内情報を出力する。ナビゲーション装置４０における経路探索機能は、ネットワークＮＷを介してアクセス可能なナビゲーションサーバにあってもよい。この場合、ナビゲーション装置４０は、ナビゲーションサーバから経路を取得して案内情報を出力する。なお、エージェント装置１００は、ナビゲーションコントローラを基盤として構築されてもよく、その場合、ナビゲーションコントローラとエージェント装置１００は、ハードウェア上は一体に構成される。
【００３５】
車両機器５０は、例えば、エンジンや走行用モータなどの駆動力出力装置、エンジンの始動モータ、ドアロック装置、ドア開閉装置、窓、窓の開閉装置及び窓の開閉制御装置、シート、シート位置の制御装置、ルームミラー及びその角度位置制御装置、車両内外の照明装置及びその制御装置、ワイパーやデフォッガー及びそれぞれの制御装置、方向指示灯及びその制御装置、空調装置、走行距離やタイヤの空気圧の情報や燃料の残量情報などの車両情報装置などを含む。
【００３６】
車載通信装置６０は、例えば、セルラー網やＷｉ−Ｆｉ網を利用してネットワークＮＷにアクセス可能な無線通信装置である。
【００３７】
乗員認識装置８０は、例えば、着座センサ、車室内カメラ、画像認識装置などを含む。着座センサは座席の下部に設けられた圧力センサ、シートベルトに取り付けられた張力センサなどを含む。車室内カメラは、車室内に設けられたＣＣＤ（Charge Coupled Device）カメラやＣＭＯＳ（Complementary Metal Oxide Semiconductor）カメラである。画像認識装置は、車室内カメラの画像を解析し、座席ごとの乗員の有無、顔向きなどを認識する。
【００３８】
［エージェント装置］
エージェント装置１００は、例えば、管理部１１０と、エージェント機能部１５０−１、１５０−２、１５０−３と、ペアリングアプリ実行部１５２とを備える。管理部１１０は、例えば、音響処理部１１２と、エージェントごとＷＵ（Wake Up）判定部１１４と、表示制御部１１６と、音声制御部１１８とを備える。いずれのエージェント機能部であるか区別しない場合、単にエージェント機能部１５０と称する。３つのエージェント機能部１５０を示しているのは、図１におけるエージェントサーバ２００の数に対応させた一例に過ぎず、エージェント機能部１５０の数は、１つや２つであってもよいし、４つ以上であってもよい。図２に示すソフトウェア配置は説明のために簡易に示しており、実際には、例えば、エージェント機能部１５０と車載通信装置６０の間に管理部１１０が介在してもよいように、任意に改変することができる。
【００３９】
エージェント装置１００の各構成要素は、例えば、ＣＰＵ（Central Processing Unit）などのハードウェアプロセッサがプログラム（ソフトウェア）を実行することにより実現される。これらの構成要素のうち一部または全部は、ＬＳＩ（Large Scale Integration）やＡＳＩＣ（Application Specific Integrated Circuit）、ＦＰＧＡ（Field-Programmable Gate Array）、ＧＰＵ（Graphics Processing Unit）などのハードウェア（回路部；circuitryを含む）によって実現されてもよいし、ソフトウェアとハードウェアの協働によって実現されてもよい。プログラムは、予めＨＤＤ（Hard Disk Drive）やフラッシュメモリなどの記憶装置（非一過性の記憶媒体を備える記憶装置）に格納されていてもよいし、ＤＶＤやＣＤ−ＲＯＭなどの着脱可能な記憶媒体（非一過性の記憶媒体）に格納されており、記憶媒体がドライブ装置に装着されることでインストールされてもよい。
【００４０】
管理部１１０は、ＯＳ（Operating System）やミドルウェアなどのプログラムが実行されることで機能する。
【００４１】
管理部１１０の音響処理部１１２は、エージェントごとに予め設定されているウエイクアップワードを認識するのに適した状態になるように、入力された音に対して音響処理を行う。例えば、音響処理部１１２は、マイク１０から入力された音声のレベル調整やノイズ除去などを行う。
【００４２】
エージェントごとＷＵ判定部１１４は、エージェント機能部１５０−１、１５０−２、１５０−３のそれぞれに対応して存在し、エージェントごとに予め定められているウエイクアップワードを認識する。エージェントごとＷＵ判定部１１４は、音響処理が行われた音声（音声ストリーム）から音声の意味を認識する。まず、エージェントごとＷＵ判定部１１４は、音声ストリームにおける音声波形の振幅と零交差に基づいて音声区間を検出する。エージェントごとＷＵ判定部１１４は、混合ガウス分布モデル（ＧＭＭ；Gaussian mixture model）に基づくフレーム単位の音声識別および非音声識別に基づく区間検出を行ってもよい。
【００４３】
次に、エージェントごとＷＵ判定部１１４は、検出した音声区間における音声をテキスト化し、文字情報とする。そして、エージェントごとＷＵ判定部１１４は、テキスト化した文字情報がウエイクアップワードに該当するか否かを判定する。ウエイクアップワードであると判定した場合。エージェントごとＷＵ判定部１１４は、対応するエージェント機能部１５０を起動させる。
【００４４】
なお、上述したように、マイク１０が出力する音声には、乗員が発話した音声のみではなく、車室内のノイズも含まれる。このため、音響処理部１１２によって音響処理が行われた音声ストリームにも乗員が発話した声の大きさ（音量レベル）の音声と、車室内のノイズの大きさ（ノイズレベル）の音声とが含まれる。従って、エージェントごとＷＵ判定部１１４は、音声ストリームから必ずしもウエイクアップワードを認識することができるとは限らない。また、エージェントごとＷＵ判定部１１４がウエイクアップワードを認識することができない要因としては、乗員（発話者）の位置がマイク１０と離れている場合や、近すぎる場合も考えられる。また、エージェントごとＷＵ判定部１１４がウエイクアップワードを認識することができない要因としては、さらに、マイク１０が故障している場合も考えられる。また、エージェントごとＷＵ判定部１１４がウエイクアップワードを認識することができない要因としては、音響処理部１１２やエージェントごとＷＵ判定部１１４の不具合や故障も考えられる。このため、エージェントごとＷＵ判定部１１４は、ウエイクアップワードを認識することができたか否か、すなわち、テキスト化した文字情報がウエイクアップワードに該当するか否かを判定した結果を出力する。そして、後述する表示制御部１１６が、エージェントごとＷＵ判定部１１４がウエイクアップワードを判定した結果を乗員に通知する。このウエイクアップワードを判定した結果の乗員への通知方法の詳細については、後述する。
【００４５】
なお、エージェントごとＷＵ判定部１１４に相当する機能がエージェントサーバ２００に搭載されてもよい。この場合、管理部１１０は、音響処理部１１２によって音響処理が行われた音声ストリームをエージェントサーバ２００に送信し、エージェントサーバ２００がウエイクアップワードを判定した結果を返信する。そして、エージェントサーバ２００がウエイクアップワードであると判定した場合、エージェントサーバ２００からの指示に従ってエージェント機能部１５０が起動する。なお、各エージェント機能部１５０は、常時起動しており且つウエイクアップワードの判定を自ら行うものであってよい。この場合、管理部１１０がエージェントごとＷＵ判定部１１４を備える必要はなく、ウエイクアップワードを判定した結果は、各エージェント機能部１５０が出力する。
【００４６】
エージェント機能部１５０は、対応するエージェントサーバ２００と協働してエージェントを出現させ、車両の乗員の発話に応じて、音声による応答を含むサービスを提供する。エージェント機能部１５０には、車両機器５０を制御する権限が付与されたものが含まれてよい。また、エージェント機能部１５０には、ペアリングアプリ実行部１５２を介して汎用通信装置７０と連携し、エージェントサーバ２００と通信するものがあってよい。例えば、エージェント機能部１５０−１には、車両機器５０を制御する権限が付与されている。エージェント機能部１５０−１は、車載通信装置６０を介してエージェントサーバ２００−１と通信する。エージェント機能部１５０−２は、車載通信装置６０を介してエージェントサーバ２００−２と通信する。エージェント機能部１５０−３は、ペアリングアプリ実行部１５２を介して汎用通信装置７０と連携し、エージェントサーバ２００−３と通信する。
【００４７】
ペアリングアプリ実行部１５２は、例えば、Ｂｌｕｅｔｏｏｔｈ（登録商標）によって汎用通信装置７０とペアリングを行い、エージェント機能部１５０−３と汎用通信装置７０とを接続させる。なお、エージェント機能部１５０−３は、ＵＳＢ（Universal Serial Bus）などを利用した有線通信によって汎用通信装置７０に接続されるようにしてもよい。
【００４８】
以下、エージェント機能部１５０−１とエージェントサーバ２００−１が協働して出現させるエージェントをエージェント−１、エージェント機能部１５０−２とエージェントサーバ２００−２が協働して出現させるエージェントをエージェント−２、エージェント機能部１５０−３とエージェントサーバ２００−３が協働して出現させるエージェントをエージェント−３と称する場合がある。
【００４９】
表示制御部１１６は、エージェント機能部１５０からの指示に応じて第１ディスプレイ２２または第２ディスプレイ２４に画像を表示させる。以下では、第１ディスプレイ２２を使用するものとする。表示制御部１１６は、一部のエージェント機能部１５０の制御により、例えば、車室内で乗員とのコミュニケーションを行う擬人化されたエージェントのキャラクタ画像を生成し、生成したキャラクタ画像をエージェント画像として第１ディスプレイ２２に表示させる。また、表示制御部１１６は、エージェントごとＷＵ判定部１１４がウエイクアップワードを判定した結果を、第１ディスプレイ２２に表示させることによって乗員に通知する。このとき、表示制御部１１６は、エージェント画像によってウエイクアップワードを判定した結果を乗員に通知してもよい。
【００５０】
エージェントのキャラクタ画像は、例えば、乗員に対して話しかける態様の画像である。エージェントのキャラクタ画像は、例えば、少なくとも観者（乗員）によって表情や顔向きが認識される程度の顔画像を含んでよい。例えば、エージェントのキャラクタ画像は、顔領域の中に目や鼻に擬したパーツが表されており、顔領域の中のパーツの位置に基づいて表情や顔向きが認識されるものであってよい。また、エージェントのキャラクタ画像は、立体的に感じられ、観者によって三次元空間における頭部画像を含むことでエージェントの顔向きが認識されたり、本体（胴体や手足）の画像を含むことで、エージェントの動作や振る舞い、姿勢等が認識されるものであってもよい。また、エージェントのキャラクタ画像は、アニメーション画像であってもよい。
【００５１】
音声制御部１１８は、エージェント機能部１５０からの指示に応じて、スピーカユニット３０に含まれるスピーカのうち一部または全部に音声を出力させる。また、音声制御部１１８は、エージェントごとＷＵ判定部１１４がウエイクアップワードを判定した結果を、スピーカユニット３０に含まれるスピーカのうち一部または全部に音声を出力させることによって乗員に通知してもよい。音声制御部１１８は、複数のスピーカユニット３０を用いて、エージェント画像の表示位置に対応する位置にエージェント音声の音像を定位させる制御を行ってもよい。エージェント画像の表示位置に対応する位置とは、例えば、エージェント画像がエージェント音声を喋っていると乗員が感じると予測される位置であり、具体的には、エージェント画像の表示位置付近（例えば、２〜３［ｃｍ］以内）の位置である。また、音像が定位するとは、例えば、乗員の左右の耳に伝達される音の大きさを調節することにより、乗員が感じる音源の空間的な位置を定めることである。なお、本発明においては、音像が定位する位置を定める方法や構成に関しては特に規定しない。従って、音像の定位する位置は、音源が元々保有している音特性や、車室内環境の情報、頭部伝達関数（ＨＲＴＦ；Head-related transfer function）に基づいて定まるため、音声制御部１１８は、予め官能試験などで得られた最適な出力配分でスピーカユニット３０を制御することで、音像を所定の位置に定位させてもよい。
【００５２】
［エージェントサーバ］
図４は、エージェントサーバ２００の構成と、エージェント装置１００の構成の一部とを示す図である。以下、エージェントサーバ２００の構成と共にエージェント機能部１５０等の動作について説明する。ここでは、エージェント装置１００からネットワークＮＷまでの物理的な通信についての説明を省略する。
【００５３】
エージェントサーバ２００は、通信部２１０を備える。通信部２１０は、例えば、ＮＩＣ（Network Interface Card）などのネットワークインターフェースである。更に、エージェントサーバ２００は、例えば、音声認識部２２０と、自然言語処理部２２２と、対話管理部２２４と、ネットワーク検索部２２６と、応答文生成部２２８とを備える。これらの構成要素は、例えば、ＣＰＵなどのハードウェアプロセッサがプログラム（ソフトウェア）を実行することにより実現される。これらの構成要素のうち一部または全部は、ＬＳＩやＡＳＩＣ、ＦＰＧＡ、ＧＰＵなどのハードウェア（回路部；circuitryを含む）によって実現されてもよいし、ソフトウェアとハードウェアの協働によって実現されてもよい。プログラムは、予めＨＤＤやフラッシュメモリなどの記憶装置（非一過性の記憶媒体を備える記憶装置）に格納されていてもよいし、ＤＶＤやＣＤ−ＲＯＭなどの着脱可能な記憶媒体（非一過性の記憶媒体）に格納されており、記憶媒体がドライブ装置に装着されることでインストールされてもよい。
【００５４】
エージェントサーバ２００は、記憶部２５０を備える。記憶部２５０は、上記の各種記憶装置により実現される。記憶部２５０には、パーソナルプロファイル２５２、辞書ＤＢ（データベース）２５４、知識ベースＤＢ２５６、応答規則ＤＢ２５８などのデータやプログラムが格納される。
【００５５】
エージェント装置１００において、エージェント機能部１５０は、音声ストリーム、或いは圧縮や符号化などの処理を行った音声ストリームを、エージェントサーバ２００に送信する。エージェント機能部１５０は、ローカル処理（エージェントサーバ２００を介さない処理）が可能な音声コマンドを認識した場合は、音声コマンドで要求された処理を行ってよい。ローカル処理が可能な音声コマンドとは、エージェント装置１００が備える記憶部（不図示）を参照することで回答可能な音声コマンドであったり、エージェント機能部１５０−１の場合は車両機器５０を制御する音声コマンド（例えば、空調装置をオンにするコマンドなど）であったりする。従って、エージェント機能部１５０は、エージェントサーバ２００が備える機能の一部を有してもよい。
【００５６】
音声ストリームを取得すると、音声認識部２２０が音声認識を行ってテキスト化された文字情報を出力し、自然言語処理部２２２が文字情報に対して辞書ＤＢ２５４を参照しながら意味解釈を行う。辞書ＤＢ２５４は、文字情報に対して抽象化された意味情報が対応付けられたものである。辞書ＤＢ２５４は、同義語や類義語の一覧情報を含んでもよい。音声認識部２２０の処理と、自然言語処理部２２２の処理は、段階が明確に分かれるものではなく、自然言語処理部２２２の処理結果を受けて音声認識部２２０が認識結果を修正するなど、相互に影響し合って行われてよい。
【００５７】
自然言語処理部２２２は、例えば、認識結果として、「今日の天気は」、「天気はどうですか」等の意味が認識された場合、標準文字情報「今日の天気」に置き換えたコマンドを生成する。これにより、リクエストの音声に文字揺らぎがあった場合にも要求にあった対話をし易くすることができる。また、自然言語処理部２２２は、例えば、確率を利用した機械学習処理等の人工知能処理を用いて文字情報の意味を認識したり、認識結果に基づくコマンドを生成してもよい。
【００５８】
対話管理部２２４は、自然言語処理部２２２の処理結果（コマンド）に基づいて、パーソナルプロファイル２５２や知識ベースＤＢ２５６、応答規則ＤＢ２５８を参照しながら車両Ｍの乗員に対する発話の内容を決定する。パーソナルプロファイル２５２は、乗員ごとに保存されている乗員の個人情報、趣味嗜好、過去の対話の履歴などを含む。知識ベースＤＢ２５６は、物事の関係性を規定した情報である。応答規則ＤＢ２５８は、コマンドに対してエージェントが行うべき動作（回答や機器制御の内容など）を規定した情報である。
【００５９】
また、対話管理部２２４は、音声ストリームから得られる特徴情報を用いて、パーソナルプロファイル２５２と照合を行うことで、乗員を特定してもよい。この場合、パーソナルプロファイル２５２には、例えば、音声の特徴情報に、個人情報が対応付けられている。音声の特徴情報とは、例えば、声の高さ、イントネーション、リズム（音の高低のパターン）等の喋り方の特徴や、メル周波数ケプストラム係数（Mel Frequency Cepstrum Coefficients）等による特徴量に関する情報である。音声の特徴情報は、例えば、乗員の初期登録時に所定の単語や文章等を乗員に発声させ、発声させた音声を認識することで得られる情報である。
【００６０】
対話管理部２２４は、コマンドが、ネットワークＮＷを介して検索可能な情報を要求するものである場合、ネットワーク検索部２２６に検索を行わせる。ネットワーク検索部２２６は、ネットワークＮＷを介して各種ウェブサーバ３００にアクセスし、所望の情報を取得する。「ネットワークＮＷを介して検索可能な情報」とは、例えば、車両Ｍの周辺にあるレストランの一般ユーザによる評価結果であったり、その日の車両Ｍの位置に応じた天気予報であったりする。
【００６１】
本実施形態において、音声認識部２２０や、自然言語処理部２２２、対話管理部２２４は、エージェントサーバ２００における音声認識部の一例である。
【００６２】
応答文生成部２２８は、対話管理部２２４により決定された発話の内容が車両Ｍの乗員に伝わるように、応答文を生成し、エージェント装置１００に送信する。応答文生成部２２８は、乗員がパーソナルプロファイルに登録された乗員であることが特定されている場合に、乗員の名前を呼んだり、乗員の話し方に似せた話し方にした応答文を生成してもよい。
【００６３】
エージェント機能部１５０は、応答文を取得すると、音声合成を行って音声を出力するように音声制御部１１８に指示する。また、エージェント機能部１５０は、音声出力に合わせてエージェントの画像を表示するように表示制御部１１６に指示する。このようにして、仮想的に出現したエージェントが車両Ｍの乗員に応答するエージェント機能が実現される。
【００６４】
なお、エージェントサーバ２００は、取得した音声ストリームに含まれる乗員が発話した音声の音声認識を正常に行えなかった場合、このことを表す情報を応答文として生成し、エージェント装置１００に送信する。具体的には、取得した音声ストリームに対して音声認識を行ったが、乗員が発話した音声の意味解釈をすることができなかった場合、音声認識部２２０は、意味解釈が不可であることを表す認識結果を出力し、自然言語処理部２２２が、このことを表す処理結果（コマンド）を出力する。これにより、応答文生成部２２８は、音声認識ができなかったことを表す応答文を生成し、エージェント装置１００に送信する。この場合、エージェント機能部１５０は、音声認識ができなかったことを表す音声合成をするように音声制御部１１８に指示し、音声出力に合わせてエージェントの画像を表示するように表示制御部１１６に指示する。
【００６５】
［音声認識結果の通知］
以下、エージェント装置１００において音声認識の結果を乗員に通知する方法について説明する。エージェント装置１００では、表示制御部１１６によるエージェント画像の表示と、音声制御部１１８による音声合成とによって、音声認識の結果を乗員に通知する。このとき、エージェント装置１００は、音声認識した音声に関連するレベルの情報（レベル情報）も併せて通知する。なお、エージェントごとＷＵ判定部１１４がウエイクアップワードを判定した結果、つまり、ウエイクアップワードの認識結果を乗員に通知する方法も同様である。以下は、表示制御部１１６がエージェント画像を表示することによって、音声認識の結果を乗員に通知する場合を例示したものである。以下の説明では、表示制御部１１６が、第１ディスプレイ２２を使用して音声認識の結果を乗員に通知するものとする。
【００６６】
図５は、表示・操作装置２０にエージェント画像ＡＧを表示させた一例を示す図である。図５には、運転席ＤＳに着座して車両Ｍを運転している乗員（運転者）が発話者である場合において、この運転者の発話の音声を音声認識した結果を通知するために、例えば、エージェントを擬人化したキャラクタ画像をエージェント画像ＡＧとして第１ディスプレイ２２に表示させた場合の一例を示している。ここでは、第１ディスプレイ２２内の車両Ｍの車幅方向（図中Ｙ方向）の運転席ＤＳに近い位置に、エージェント画像ＡＧを表示させている。なお、エージェント画像ＡＧは、運転席ＤＳの方を向いているように感じられるグラフィックでエージェントを擬人化したキャラクタ画像が形成されてもよい。このようにエージェント画像ＡＧを表示させることによって、エージェントを使用する機会が多いと考えられる運転席ＤＳに着座した運転者は、エージェントが自身の発話を認識したか否かを直感的に確認して、エージェント機能を利用することができる。
【００６７】
なお、図５では、エージェント画像ＡＧを第１ディスプレイ２２に表示させた場合を示したが、エージェント画像ＡＧは、例えば、第２ディスプレイ２４やＨＵＤ２８に表示させてもよい。
【００６８】
（第１例）
ここで、エージェント画像ＡＧによって音声認識の結果を通知する例について説明する。図６は、エージェント画像ＡＧの第１例を示す図である。図６の（ａ）には、運転者が発した音声を正常に音声認識した場合のエージェント画像ＡＧの一例を示し、図６の（ｂ）には、運転者が発した音声の音声認識が不可である場合のエージェント画像ＡＧの一例を示している。より具体的には、図６の（ａ）には、エージェントを擬人化したキャラクタ画像の一例であるキャラクタ画像ＣＡと、運転者（発話者）を表すキャラクタ画像の一例であるキャラクタ画像ＣＳと、発話者の音声を表すキャラクタ画像の一例であるキャラクタ画像ＣＶとの組み合わせで、運転者が発した音声を正常に音声認識したことを表すエージェント画像ＡＧを示している。なお、キャラクタ画像ＣＶは、運転者が発話した声の大きさ（音量レベル）もレベル情報として表す。例えば、図６の（ａ）に示したキャラクタ画像ＣＶでは、キャラクタ画像ＣＶの大きさや、キャラクタ画像ＣＶに含まれる円弧の数によって、音量レベルを表す。また、図６の（ｂ）には、キャラクタ画像ＣＡと、キャラクタ画像ＣＳと、ノイズレベルが所定のレベル以上であるため、発話者の音声がノイズとして認識されたことを表すキャラクタ画像の一例であるキャラクタ画像ＣＮとの組み合わせで、運転者が発した音声の音声認識が不可であることを表すエージェント画像ＡＧを示している。つまり、図６の（ｂ）に示したエージェント画像ＡＧでは、図６の（ａ）に示したノイズレベルが所定のレベル未満であるエージェント画像ＡＧにおけるキャラクタ画像ＣＡとキャラクタ画像ＣＳとの間のキャラクタ画像ＣＶに代えて、キャラクタ画像ＣＮを示している。なお、キャラクタ画像ＣＮは、運転者が発話した声とともに含まれるノイズ（例えば、車室内のノイズ）の大きさ（ノイズレベル）もレベル情報として表す。例えば、図６の（ｂ）に示したキャラクタ画像ＣＮでは、キャラクタ画像ＣＮの大きさや、キャラクタ画像ＣＮの形状によって、ノイズレベルを表す。エージェント装置１００は、このようなエージェント画像ＡＧを第１ディスプレイ２２に表示させることによって、音声認識した結果を発話者（運転者）に通知する。この結果、発話者（運転者）は、エージェントが自身の発話を認識したか否かを直感的に確認することができる。そして、発話者（運転者）は、確認した状態に応じて、再度エージェントに対して発話するなど、エージェントが正しく音声を認識することができるようにして、エージェント機能を利用することができる。
【００６９】
（第２例）
図７は、エージェント画像ＡＧの第２例を示す図である。図７の（ａ）には、運転者が発した音声を正常に音声認識した場合のエージェント画像ＡＧの一例を示し、図７の（ｂ）および図７の（ｃ）には、運転者が発した音声の音声認識が不可である場合のエージェント画像ＡＧの一例を示している。より具体的には、図７の（ａ）には、キャラクタ画像ＣＡが表す向きとキャラクタ画像ＣＶとの組み合わせで、運転者が発した音声を正常に音声認識したことを表すエージェント画像ＡＧを示している。また、図７の（ｂ）には、キャラクタ画像ＣＡが表す向きとキャラクタ画像ＣＮとの組み合わせで、運転者が発した音声の音声認識が不可であることを表すエージェント画像ＡＧを示している。また、図７の（ｃ）には、音声認識の状態を表す記号（図７の（ｃ）ではクエスチョンマーク「？」）が追加されたキャラクタ画像ＣＡとキャラクタ画像ＣＮとの組み合わせで、運転者が発した音声の音声認識が不可であることを表すエージェント画像ＡＧを示している。エージェント装置１００は、図７に示したようなエージェント画像ＡＧを第１ディスプレイ２２に表示させることによっても、音声認識した結果を発話者（運転者）に通知する。この結果、発話者（運転者）は、エージェントが自身の発話を認識したか否かを直感的に確認することができる。そして、発話者（運転者）は、確認した状態に応じて、再度エージェントに対して発話するなど、エージェントが正しく音声を認識することができるようにして、エージェント機能を利用することができる。
【００７０】
（第３例）
図８は、エージェント画像ＡＧの第３例を示す図である。図８の（ａ）には、運転者が発した音声を正常に音声認識した場合のエージェント画像ＡＧの一例を示し、図８の（ｂ）および図８の（ｃ）には、運転者が発した音声の音声認識が不可である場合のエージェント画像ＡＧの一例を示している。より具体的には、図８の（ａ）には、キャラクタ画像ＣＡと複数のキャラクタ画像ＣＶとの組み合わせで、運転者が発した音声を正常に音声認識したことを表すエージェント画像ＡＧを示している。また、図８の（ｂ）には、ノイズレベルが所定のレベル以上であることを表すために目の部分を通常の丸のマークと異なるクエスチョンマーク「？」としたキャラクタ画像ＣＡが表す表情と、異なる形状の複数のキャラクタ画像ＣＮとの組み合わせで、運転者が発した音声の音声認識が不可、あるいは、ノイズが大きい状態であることを表すエージェント画像ＡＧを示している。また、図８の（ｃ）には、ノイズレベルが所定のレベル以上であることを表すために目の部分をクエスチョンマーク「？」としたキャラクタ画像ＣＡが表す向きおよび表情とキャラクタ画像ＣＶとの組み合わせで、運転者が発した音声は取得することができたが音声認識が不可であることを表すエージェント画像ＡＧを示している。つまり、図８の（ｂ）および図８の（ｃ）に示したエージェント画像ＡＧでは、図８の（ａ）に示したノイズレベルが所定のレベル未満であるエージェント画像ＡＧにおけるキャラクタ画像ＣＡの目の部分をクエスチョンマーク「？」に代えて、ノイズが大きい状態であるため音声認識が不可であることを示している。エージェント装置１００は、図８に示したようなエージェント画像ＡＧを第１ディスプレイ２２に表示させることによっても、音声認識した結果を発話者（運転者）に通知する。この結果、発話者（運転者）は、エージェントが自身の発話を認識したか否かを直感的に確認することができる。そして、発話者（運転者）は、確認した状態に応じて、ノイズが少ない状態にして再度エージェントに対して発話するなど、エージェントが正しく音声を認識することができるようにして、エージェント機能を利用することができる。
【００７１】
（第４例）
図９は、エージェント画像ＡＧの第４例を示す図である。図９の（ａ）には、運転者が発した音声を正常に音声認識した場合のエージェント画像ＡＧの一例を示し、図９の（ｂ）〜図９の（ｆ）には、運転者が発した音声の音声認識が不可である場合のエージェント画像ＡＧの一例を示している。より具体的には、図９の（ａ）には、キャラクタ画像ＣＡが表す表情とキャラクタ画像ＣＶとの組み合わせで、運転者が発した音声を正常に音声認識したことを表すエージェント画像ＡＧを示している。また、図９の（ｂ）には、キャラクタ画像ＣＡが表す表情とキャラクタ画像ＣＶとの組み合わせで、運転者が発した音声の音声認識が不可、あるいは、運転者が発した音声が小さい状態であることを表すエージェント画像ＡＧを示している。また、図９の（ｃ）には、キャラクタ画像ＣＡが表す表情と、キャラクタ画像ＣＶおよびキャラクタ画像ＣＮとの組み合わせで、運転者が発した音声は取得することができたがノイズが大きい状態であるため音声認識が不可であることを表すエージェント画像ＡＧを示している。また、図９の（ｄ）には、キャラクタ画像ＣＡが表す表情と、音声認識の状態を表す記号（図９の（ｄ）では「×△☆□」）が追加されたキャラクタ画像ＣＶとの組み合わせで、運転者が発した音声は取得することができたが発話内容を認識することができない状態であるため音声認識が不可であることを表すエージェント画像ＡＧを示している。また、図９の（ｅ）には、キャラクタ画像ＣＡが表す表情と、異なる形状のキャラクタ画像ＣＮとの組み合わせで、車室外からのノイズが大きい状態であるため音声認識が不可であることを表すエージェント画像ＡＧを示している。また、図９の（ｆ）には、キャラクタ画像ＣＡが表す表情によって音声認識が不可であることを表すエージェント画像ＡＧを示している。エージェント装置１００は、図９に示したようなエージェント画像ＡＧを第１ディスプレイ２２に表示させることによっても、音声認識した結果を発話者（運転者）に通知する。この結果、発話者（運転者）は、エージェントが自身の発話を認識したか否かを直感的に確認することができる。そして、発話者（運転者）は、確認した状態に応じて、ノイズが少ない状態にして再度エージェントに対して発話するなど、エージェントが正しく音声を認識することができるようにして、エージェント機能を利用することができる。
【００７２】
（第５例）
上述した音声認識の結果を乗員に通知する方法の第１例から第４例では、音声認識の可否の状態を乗員に通知する場合について説明した。しかし、エージェント装置１００は、発話者（運転者）に通知する音声認識の結果として、音声認識の可否以外の状態も通知するようにしてもよい。図１０は、エージェント画像ＡＧの第５例を示す図である。図１０の（ａ）には、マイク１０の故障や音声認識機能の不具合などによって運転者が発した音声を収音することができない状態である場合のエージェント画像ＡＧの一例を示し、図１０の（ｂ）には、何らかの異常によって運転者が発した音声を収音することができない状態である場合のエージェント画像ＡＧの一例を示している。より具体的には、図１０の（ａ）には、音声認識の状態を表す記号（図１０の（ａ）ではクエスチョンマーク「？」）が追加されたキャラクタ画像ＣＡと、音声が遮断されていることを表す壁などのキャラクタ画像の一例であるキャラクタ画像ＣＭと、キャラクタ画像ＣＶとの組み合わせで、運転者が発した音声を収音することができないため音声認識が不可の状態であることを表すエージェント画像ＡＧを示している。また、図１０の（ｂ）には、キャラクタ画像ＣＡが表す表情と、異なる形状のキャラクタ画像ＣＶとの組み合わせで、運転者が発した音声を正常に音声認識することができない状態であることを表すエージェント画像ＡＧを示している。エージェント装置１００は、このようなエージェント画像ＡＧを第１ディスプレイ２２に表示させることによって、音声認識する際の異常状態を発話者（運転者）に通知する。この結果、発話者（運転者）は、エージェントが自身の発話を認識することができる状態であるか否かを直感的に確認することができる。そして、発話者（運転者）は、確認した状態に応じて、マイク１０の修理を行ったり、明確な口調で再度エージェントに対して発話するなど、エージェントが正しく音声を認識することができるような状態にして、エージェント機能を利用することができる。
【００７３】
なお、音声認識機能の不具合の要因としては、例えば、音声認識部２２０、自然言語処理部２２２、対話管理部２２４、記憶部２５０の故障や不具合、記憶部２５０に格納されたデータ（パーソナルプロファイル２５２、辞書ＤＢ２５４、知識ベースＤＢ２５６、応答規則ＤＢ２５８）の不具合などが考えられる。
【００７４】
（第６例）
図１１は、エージェント画像ＡＧの第６例を示す図である。図１１の（ａ）には、運転者が発した音声を日本語として音声認識した場合のエージェント画像ＡＧの一例を示し、図１１の（ｂ）には、運転者が発した音声を英語として音声認識した場合のエージェント画像ＡＧの一例を示している。より具体的には、図１１の（ａ）には、エージェントを日本国国旗を模擬したキャラクタ画像の一例であるキャラクタ画像ＣＪとキャラクタ画像ＣＶとの組み合わせで、運転者が発した音声を日本語として正常に音声認識したことを表すエージェント画像ＡＧを示している。また、図１１の（ｂ）には、エージェントを英国国旗を模擬したキャラクタ画像の一例であるキャラクタ画像ＣＥとキャラクタ画像ＣＶとの組み合わせで、運転者が発した音声を英語として音声認識したことを表すエージェント画像ＡＧを示している。また、図１１の（ｂ）に示したエージェント画像ＡＧでは、キャラクタ画像ＣＥに問い合わせを表す記号（図１１の（ｂ）ではクエスチョンマーク「？」）を追加することによって、音声を英語として音声認識したことが正しいか否かを問い合わせている状態を示している。エージェント装置１００は、このようなエージェント画像ＡＧを第１ディスプレイ２２に表示させることによって、音声認識した言語を発話者（運転者）に通知する。この結果、発話者（運転者）は、エージェントが自身の発話を、エージェントと対話するために予め設定した言語（以下、対話言語と称する）で正しく認識することができたか否かを直感的に確認することができる。そして、発話者（運転者）は、確認した状態に応じて、例えば、明確な言語で再度エージェントに対して発話するなど、エージェントが正しく音声を認識することができるようにして、エージェント機能を利用することができる。なお、予め設定した対話言語が日本語であり、発話者（運転者）が日本語で発話してエージェントに要求（コマンド）を出している場合において図１１の（ｂ）に示したエージェント画像ＡＧが第１ディスプレイ２２に表示されたときには、例えば、「いいえ」と発話することによってエージェントの音声認識が正しくないことを知らせ、正しく音声認識するように再度エージェントに要求する発話を行うことができる。一方、予め設定した対話言語が英語であり、発話者（運転者）が英語で発話してエージェントに要求（コマンド）を出している場合において図１１の（ｂ）に示したエージェント画像ＡＧが第１ディスプレイ２２に表示されたときには、例えば、「Ｙｅｓ」と発話することによってエージェントの音声認識が正しいことを知らせることができる。
【００７５】
なお、上述した第１例から第６例に示したエージェント画像ＡＧはあくまで一例であり、エージェント装置１００が発話者に通知する内容に応じてエージェント画像ＡＧの構成や形式は適宜変更されてもよい。また、音声認識した際の認識の程度（音声認識の確度や度合い）に応じてエージェント画像ＡＧの構成や形式は適宜変更されてもよい。例えば、第１例において図６の（ａ）に示した運転者が発した音声を正常に音声認識したことを示す場合でも、キャラクタ画像ＣＡとキャラクタ画像ＣＳとの間の距離を長くしたり、キャラクタ画像ＣＶの大きさを小さくしたり、キャラクタ画像ＣＶの波の数を少なくしたりすることによって、運転者の位置とマイク１０とが離れている、あるいは、運転者が発話した声の大きさ（音量レベル）が小さいことを示してもよい。また、例えば、第１例において図６の（ａ）に示した運転者が発した音声を正常に音声認識したことを示す場合でも、キャラクタ画像ＣＡとキャラクタ画像ＣＳとの間の距離を短くしたり、キャラクタ画像ＣＶの大きさを大きくしたり、キャラクタ画像ＣＶの波の数を多くしたりすることによって、運転者の位置とマイク１０とが近すぎる、あるいは、運転者が発話した声の大きさ（音量レベル）が大きすぎることを示してもよい。これにより、運転者は、自身が発話した声の大きさ（音量レベル）が、エージェントが容易に認識することができる音量レベルであるか否かを直感的に確認することができる。そして、発話者（運転者）は、自身が発話する際の声の大きさを調整して再度エージェントに対して発話するなど、エージェントが正しく音声を認識することができるようにして、エージェント機能を利用することができる。
【００７６】
上記に述べたとおり、本発明を実施するための形態によれば、エージェント装置１００は、車両Ｍの乗員が発話した音声をエージェント機能部１５０が認識した結果を、エージェント画像ＡＧを表示・操作装置２０に表示させることによって通知する。これにより、発話者は、エージェントが自身の発話を認識したか否かを直感的に確認して、エージェント機能を利用することができる。
【００７７】
なお、本発明を実施するための形態では、音声認識した結果を通知するエージェント機能部１５０を区別せずに説明した。これは、エージェント装置１００に１つのエージェント機能（エージェント機能部１５０）を備えている場合と同様である。しかしながら、図２に示したエージェント装置１００の構成では、複数種類のエージェント機能（エージェント機能部１５０）を備えている。このため、エージェント装置１００は、それぞれのエージェント機能を区別するため、それぞれのエージェント機能ごとに、エージェントのキャラクタ画像を変更したエージェント画像ＡＧを表示・操作装置２０に表示させてもよい。例えば、それぞれのエージェント機能ごとに、エージェント画像ＡＧを構成するキャラクタ画像ＣＡの形状を異なる形状にしてもよい。これにより、発話者は、意図したエージェントが自身の発話を認識したか否かを直感的に確認することができる。
【００７８】
以上、本発明を実施するための形態について実施形態を用いて説明したが、本発明はこうした実施形態に何ら限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々の変形および置換を加えることができる。
【符号の説明】
【００７９】
１・・・エージェントシステム
１０・・・マイク
２０・・・表示・操作装置
２２・・・第１ディスプレイ
２４・・・第２ディスプレイ
２６・・・操作スイッチＡＳＳＹ
２８・・・ＨＵＤ
３０・・・スピーカユニット
４０・・・ナビゲーション装置
５０・・・車両機器
６０・・・車載通信装置
７０・・・汎用通信装置
８０・・・乗員認識装置
１００・・・エージェント装置
１１０・・・管理部
１１２・・・音響処理部
１１４・・・エージェントごとＷＵ判定部
１１６・・・表示制御部
１１８・・・音声制御部
１５０，１５０−１，１５０−２，１５０−３・・・エージェント機能部
１５２・・・ペアリングアプリ実行部
２００，２００−１，２００−２，２００−３・・・エージェントサーバ
２１０・・・通信部
２２０・・・音声認識部
２２２・・・自然言語処理部
２２４・・・対話管理部
２２６・・・ネットワーク検索部
２２８・・・応答文生成部
２５０・・・記憶部
２５２・・・パーソナルプロファイル
２５４・・・辞書ＤＢ
２５６・・・知識ベースＤＢ
２５８・・・応答規則ＤＢ
３００・・・各種ウェブサーバ
ＮＷ・・・ネットワーク
Ｍ・・・車両
ＳＷ・・・ステアリングホイール
ＤＳ・・・運転席
ＡＳ・・・助手席
ＡＧ・・・エージェント画像
ＣＡ・・・キャラクタ画像
ＣＳ・・・キャラクタ画像
ＣＶ・・・キャラクタ画像
ＣＮ・・・キャラクタ画像
ＣＭ・・・キャラクタ画像
ＣＪ・・・キャラクタ画像
ＣＥ・・・キャラクタ画像
【図１】
2020157864.tif 000003
【図２】
2020157864.tif 000004
【図３】
2020157864.tif 000005
【図４】
2020157864.tif 000006
【図５】
2020157864.tif 000007
【図６】
2020157864.tif 000008
【図７】
2020157864.tif 000009
【図８】
2020157864.tif 000010
【図９】
2020157864.tif 000011
【図１０】
2020157864.tif 000012
【図１１】
2020157864.tif 000013