(57)【要約】【課題】移動体に関する情報を表示し、表示された情報にユーザが注目する状態に対応する。【解決手段】報知制御装置は、移動体の操作に関する案内情報を表示部および音出力部によって報知させる報知部と、撮像部と、撮像部の撮像画像をもとに、表示部に対する移動体の搭乗者の注視状態を検知する注視状態検知部と、表示部によって案内情報が報知された際に注視状態検知部により検知された注視状態に基づき、案内情報の内容または報知状態を変更する報知調整処理を行う報知制御部と、を備える。【選択図】図２
2020153679.tif 000002
【特許請求の範囲】
【請求項１】
移動体の操作に関する案内情報を表示部および音出力部によって報知させる報知部と、
撮像部と、
前記撮像部の撮像画像をもとに、前記移動体の搭乗者が前記表示部を注視する注視状態を検知する注視状態検知部と、
前記表示部によって前記案内情報が報知された際に前記注視状態検知部により検知された注視状態に基づき、前記案内情報の内容または報知状態を変更する報知調整処理を行う報知制御部と、
を備えることを特徴とする報知制御装置。
【請求項２】
前記報知制御部により前記報知調整処理において変更される前記報知状態は、前記報知部により前記案内情報を報知する回数、および、前記報知部によって前記案内情報を報知するタイミングのうち少なくともいずれかを含むこと、
を特徴とする請求項１記載の報知制御装置。
【請求項３】
前記報知制御部は、前記表示部によって前記案内情報が報知された後、前記搭乗者が継続して前記表示部を注視した時間が第１基準時間以上の場合に、前記報知調整処理を実行すること、
を特徴とする請求項１または２に記載の報知制御装置。
【請求項４】
前記報知制御部は、前記表示部によって前記案内情報が報知された後、前記搭乗者が継続して前記表示部を注視した時間が第２基準時間以上の場合、または、第３基準時間内に前記搭乗者が前記表示部を注視した回数が第１閾値に達した場合に、前記報知部により前記表示部による報知を停止して前記音出力部による音声の報知を実行させること、
を特徴とする請求項１から３のいずれか１項に記載の報知制御装置。
【請求項５】
前記撮像部の撮像画像をもとに前記搭乗者による操作を検知する操作検知部を備え、
前記報知制御部は、前記表示部によって前記案内情報が報知された後、前記注視状態検知部によって特定の注視状態が検知され、かつ、前記操作検知部によって特定の操作が検知された場合に、前記報知調整処理において前記特定の操作に対応して前記案内情報の内容または報知状態を変更すること、
を特徴とする請求項１から４のいずれか１項に記載の報知制御装置。
【請求項６】
前記搭乗者の音声を検知して、前記搭乗者の発話内容を認識する音声認識部を備え、
前記報知制御部は、前記表示部によって前記案内情報が報知された後、前記注視状態検知部によって特定の注視状態が検知され、かつ、前記音声認識部によって特定の発話が認識された場合に、前記報知調整処理において前記特定の発話に対応して前記案内情報の内容または報知状態を変更すること、
を特徴とする請求項１から５のいずれか１項に記載の報知制御装置。
【請求項７】
前記撮像部の撮像画像をもとに、前記搭乗者を特定する搭乗者特定部と、
前記搭乗者特定部により特定された前記搭乗者に対応する前記案内情報を生成する案内情報生成部と、を備えること、
を特徴とする請求項１から６のいずれか１項に記載の報知制御装置。
【請求項８】
前記撮像部の撮像画像をもとに、前記搭乗者を特定する搭乗者特定部と、
前記報知調整処理で変更された前記案内情報と、前記報知調整処理を実行する要因となった情報とを、前記搭乗者特定部により特定された前記搭乗者に対応づけて記憶する履歴記憶部と、を備えること、
を特徴とする請求項５または６記載の報知制御装置。
【請求項９】
移動体の操作に関する案内情報を表示部および音出力部によって報知する報知制御方法であって、
前記移動体の搭乗者を撮像した撮像画像をもとに、前記搭乗者が前記表示部を注視する注視状態を検知する注視状態検知ステップと、
前記表示部によって前記案内情報が報知された際に、前記注視状態検知ステップで検知された注視状態に基づき、前記案内情報の内容または報知状態を変更する報知調整処理を行う報知制御ステップと、
を含むことを特徴とする報知制御方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、報知制御装置、および、報知制御方法に関する。
【背景技術】
【０００２】
従来、車両等の移動体において情報を表示する装置が、カメラを利用して乗員の視線の方向を検出する提案があった（例えば、特許文献１参照）。特許文献１には、バーチャル画像情報を現実の風景に重畳する装置が開示されている。この装置は、カメラを用いて検出した乗員の視線の方向と、車両の現在の位置および向きとに基づいて、視認されている現実の風景中の所定位置にバーチャル画像が配置されるように、バーチャル画像の表示位置を決める。
【先行技術文献】
【特許文献】
【０００３】
【特許文献１】特開２００５−９８９１２号公報
【発明の概要】
【発明が解決しようとする課題】
【０００４】
特許文献１には、バーチャル画像情報の表示を乗員の視線に対応させる例の開示はあるが、ユーザが注目しているか否かに関する処理は、何ら開示はない。このように、従来、視覚的に提供される情報にユーザが注目することについて、対応する例は無かった。
本発明は、上述した事情に鑑みてなされたものであり、移動体に関する情報を表示し、表示された情報にユーザが注目する状態に対応することを目的とする。
【課題を解決するための手段】
【０００５】
本発明の一の態様は、移動体の操作に関する案内情報を表示部および音出力部によって報知させる報知部と、撮像部と、前記撮像部の撮像画像をもとに、前記移動体の搭乗者が前記表示部を注視する注視状態を検知する注視状態検知部と、前記表示部によって前記案内情報が報知された際に前記注視状態検知部により検知された注視状態に基づき、前記案内情報の内容または報知状態を変更する報知調整処理を行う報知制御部と、を備えることを特徴とする報知制御装置である。
本発明の他の態様によると、前記報知制御部により前記報知調整処理において変更される前記報知状態は、前記報知部により前記案内情報を報知する回数、および、前記報知部によって前記案内情報を報知するタイミングのうち少なくともいずれかを含む。
本発明の他の態様によると、前記報知制御部は、前記表示部によって前記案内情報が報知された後、前記搭乗者が継続して前記表示部を注視した時間が第１基準時間以上の場合に、前記報知調整処理を実行する。
本発明の他の態様によると、前記報知制御部は、前記表示部によって前記案内情報が報知された後、前記搭乗者が継続して前記表示部を注視した時間が第２基準時間以上の場合、または、第３基準時間内に前記搭乗者が前記表示部を注視した回数が第１閾値に達した場合に、前記報知部により前記表示部による報知を停止して前記音出力部による音声の報知を実行させる。
本発明の他の態様によると、前記撮像部の撮像画像をもとに前記搭乗者による操作を検知する操作検知部を備え、前記報知制御部は、前記表示部によって前記案内情報が報知された後、前記注視状態検知部によって特定の注視状態が検知され、かつ、前記操作検知部によって特定の操作が検知された場合に、前記報知調整処理において前記特定の操作に対応して前記案内情報の内容または報知状態を変更する。
本発明の他の態様によると、前記搭乗者の音声を検知して、前記搭乗者の発話内容を認識する音声認識部を備え、前記報知制御部は、前記表示部によって前記案内情報が報知された後、前記注視状態検知部によって特定の注視状態が検知され、かつ、前記音声認識部によって特定の発話が認識された場合に、前記報知調整処理において前記特定の発話に対応して前記案内情報の内容または報知状態を変更する。
本発明の他の態様によると、前記撮像部の撮像画像をもとに、前記搭乗者を特定する搭乗者特定部と、前記搭乗者特定部により特定された前記搭乗者に対応する前記案内情報を生成する案内情報生成部と、を備える。
本発明の他の態様によると、前記撮像部の撮像画像をもとに、前記搭乗者を特定する搭乗者特定部と、前記報知調整処理で変更された前記案内情報と、前記報知調整処理を実行する要因となった情報とを、前記搭乗者特定部により特定された前記搭乗者に対応づけて記憶する履歴記憶部と、を備える。
本発明の他の態様は、移動体の操作に関する案内情報を表示部および音出力部によって報知する報知制御方法であって、前記移動体の搭乗者を撮像した撮像画像をもとに、前記搭乗者が前記表示部を注視する注視状態を検知する注視状態検知ステップと、前記表示部によって前記案内情報が報知された際に、前記注視状態検知ステップで検知された注視状態に基づき、前記案内情報の内容または報知状態を変更する報知調整処理を行う報知制御ステップと、を含むことを特徴とする報知制御方法である。
【発明の効果】
【０００６】
本発明によれば、ユーザが情報に注目する状態に対応して、移動体の操作に関する情報の内容や報知状態を調整することができ、ユーザの満足度の向上を図ることができる。
【図面の簡単な説明】
【０００７】
【図１】第１実施形態に係るナビゲーション装置の設置例を示す図。
【図２】ナビゲーション装置のブロック図。
【図３】ユーザモデルと報知内容との設定例を示す図。
【図４】案内シナリオの例を示す図。
【図５】ユーザモデルデータの例を示す図。
【図６】ユーザモデルデータの適用例を示す説明図。
【図７】ナビゲーション装置の動作を示すフローチャート。
【図８】ナビゲーション装置の動作を示すフローチャート。
【図９】ナビゲーション装置の動作を示すフローチャート。
【図１０】ナビゲーション装置の動作を示すフローチャート。
【図１１】第２実施形態のナビゲーションシステムの構成を示す図。
【発明を実施するための形態】
【０００８】
以下、図面を参照して本発明の実施形態について説明する。
［１．第１実施形態］
［１−１．ナビゲーションシステムの構成］
図１は、本発明を適用した第１実施形態として、移動体に搭載されるナビゲーションシステム１００の構成例を示す図である。
【０００９】
図１には、移動体としての車両１の車室１０を平面視で示す。車両１は移動体の一例であり、四輪の乗用自動車を示す。本発明を適用する移動体は、乗用自動車に限定されず、列車、貨物自動車、自動二輪車、耕運機や建設機械などの作業用車両等であってもよく、その他、人間の操作により移動するものであればよい。
図１には、車両１が走行する場合の進行方向を符号ＤＲで示し、以下の説明では進行方向ＤＲを車両１の前方とする。
【００１０】
車室１０にはシート２１、２３、および後部シート２５が設置されている。車両１の乗員を以下では搭乗者と呼ぶ。搭乗者のうち、シート２１に着座して車両１の運転操作を行う搭乗者を、以下の説明ではユーザＵとする。ユーザＵはいわゆる運転者である。
【００１１】
車室１０には、前部パネル１２が配置される。前部パネル１２は、車両１に固定される車室１０の内装部材であり、例えば、ダッシュボード、インストゥルメントパネル、センターコンソール、およびこれらを支持する不図示のフレーム等を含む。
ナビゲーションシステム１００は、前部パネル１２に設置されるナビゲーション装置１２０を含んで構成される。
【００１２】
ナビゲーション装置１２０は、ディスプレイ１０１を備える。ディスプレイ１０１は、液晶表示パネル等の表示パネルで構成され、ナビゲーション装置１２０が内蔵する処理部１３０の制御に従って、各種の画像や文字を表示する。
【００１３】
ナビゲーションシステム１００は、カメラ１１１を備える。カメラ１１１は、シート２１に着座する搭乗者を向くように設置されるデジタルカメラである。カメラ１１１の撮像範囲にシート２１に着座する搭乗者の頭部が含まれるように、カメラ１１１の位置および角度が調整されている。カメラ１１１は、ナビゲーション装置１２０に有線または無線で接続され、後述する処理部１３０の制御に従って撮像を実行し、撮像画像データを出力する。カメラ１１１は、本発明の撮像部の一例に対応する。
【００１４】
ナビゲーションシステム１００は、音声を入出力するマイク１１３およびスピーカ１１５を備える。マイク１１３およびスピーカ１１５は、有線または無線によりナビゲーション装置１２０に接続される。
マイク１１３は、前部パネル１２など、車室１０の音声を集音可能な位置に配置される。スピーカ１１５は、例えば、図１に示すように、車両１のドアトリム等に設置される。マイク１１３およびスピーカ１１５の位置や数は図１の例に限定されない。
【００１５】
ナビゲーションシステム１００は、ナビゲーション装置１２０の制御により、車両１の経路を案内するナビゲーションを実行する。ナビゲーションとは、指定された目的地まで車両１が到達するための経路を決定し、決定した経路の通りにユーザＵが車両１を走行させるために情報を提供する動作であり、経路案内とも呼ばれる。
【００１６】
ナビゲーション装置１２０は、車両１の現在位置を含む範囲の地図を含むナビゲーション画面を、ディスプレイ１０１に表示させる。ナビゲーション画面は、車両１の現在位置を示すアイコン等のシンボル、および、車両１が進行する経路を地図に重畳した画像を含む。また、ナビゲーション画面には、車両１の現在位置、目的地、経由地等の位置を示す位置情報、目的地への到着予想時刻、渋滞の発生状況や交通規制等の交通情報等を、地図とともに含んでもよい。ディスプレイ１０１は、本発明の表示部の一例に対応する。
【００１７】
また、ナビゲーション装置１２０は、車両１の走行に関してユーザＵが行う操作を案内する情報を、スピーカ１１５から音声または音として出力させる。例えば、ナビゲーション装置１２０は、車両１の右折、左折、直進等の走行方向を示す情報を、自然言語で読み上げる音声により、或いは、上記情報を示す音を出力する。ユーザＵは、スピーカ１１５から発される音または音声の通りに車両１を操作することで、車両１の経路に沿って、目的地まで車両１を走行させることができる。スピーカ１１５は、本発明の音出力部の一例に対応する。
【００１８】
ナビゲーション動作においてディスプレイ１０１およびスピーカ１１５から出力される情報は、本発明の案内情報の一例であり、案内情報を出力する動作は、本発明の報知に相当する。ディスプレイ１０１による案内情報の表示は、視覚的な報知ということができ、スピーカ１１５による案内情報の音声出力は、聴覚的な報知ということができる。
ナビゲーション装置１２０は、本発明の報知制御装置として機能し、案内情報の報知を制御する。
【００１９】
ナビゲーション装置１２０は、ディスプレイ１０１へのタッチ操作を検出するタッチセンサ１０３を備えている。ユーザＵは、ディスプレイ１０１にタッチすることでナビゲーション装置１２０を操作できる。
また、ナビゲーション装置１２０は、マイク１１３が集音した音声に基づき音声コマンドを検知し、音声コマンドに従って動作する。ユーザＵは、音声によってナビゲーション装置１２０を操作できる。
【００２０】
［１−２．ナビゲーションシステムの制御系］
図２は、ナビゲーションシステム１００の制御系の構成を示すブロック図である。
ナビゲーション装置１２０には、カメラ１１１、マイク１１３、スピーカ１１５、車速センサ１１７、およびＧＰＳ１１９が接続される。車両１にＣＡＮ（Ｃｏｎｔｒｏｌｌｅｒ  Ａｒｅａ  Ｎｅｔｗｏｒｋ）等の通信ネットワークが敷設されている場合、この通信ネットワークによって複数の装置を接続することにより、ナビゲーションシステム１００が構成されてもよい。また、車両１が搭載する不図示のＥＣＵ（Ｅｌｅｃｔｒｏｎｉｃ  Ｃｏｎｔｒｏｌ  Ｕｎｉｔ）等の他の装置と、ナビゲーション装置１２０とが、通信ネットワークにより接続された構成であってもよい。
【００２１】
車速センサ１１７は、車両１の車速パルス信号に基づいて、車両１の車速を示すデータを生成し、ナビゲーション装置１２０に出力する。
ＧＰＳ（Ｇｌｏｂａｌ  Ｐｏｓｉｔｉｏｎｉｎｇ  Ｓｙｓｔｅｍ）１１９は、不図示のアンテナによりＧＰＳ信号を受信して、受信したＧＰＳ信号に基づき車両１の位置を算出する。ＧＰＳ１１９は、車両１の現在位置を示す位置データを生成し、ナビゲーション装置１２０に出力する。
【００２２】
ナビゲーション装置１２０は、ディスプレイ１０１、タッチセンサ１０３、処理部１３０、記憶部１４０、および音声処理回路１５１を備える。
【００２３】
タッチセンサ１０３は、例えば静電容量式や感圧式のセンサであり、接触操作や押圧操作を検出する。タッチセンサ１０３は、ディスプレイ１０１に重畳して配置され、ディスプレイ１０１に対する接触操作や押圧操作を検出し、操作を検出した位置を示す信号を処理部１３０に出力する。
【００２４】
音声処理回路１５１は、マイク１１３およびスピーカ１１５に接続される。マイク１１３は、音声処理回路１５１に音声信号を出力し、音声処理回路１５１は、マイク１１３から入力される信号をデジタルデータに変換して、処理部１３０に出力する。
音声処理回路１５１は、処理部１３０が出力するデジタル音声データに基づきスピーカ１１５に音声信号を出力し、スピーカ１１５から音を出力させる。
【００２５】
また、ナビゲーション装置１２０は、通信部１５３を備えてもよい。通信部１５３は、例えば、携帯電話回線網、Ｗｉ−Ｆｉ（登録商標）、Ｂｌｕｅｔｏｏｔｈ（登録商標）等の通信規格に準拠した無線通信を実行する通信モジュールである。通信部１５３は、処理部１３０の制御に従って、車室１０に設置された装置または車両１の外の装置との間で、各種データを送受信する。
【００２６】
処理部１３０は、例えば、ＣＰＵ（Ｃｅｎｔｒａｌ  Ｐｒｏｃｅｓｓｉｎｇ  Ｕｎｉｔ）等のプロセッサを備えるコンピュータである。処理部１３０には、記憶部１４０が接続される。記憶部１４０は、処理部１３０が実行するコンピュータプログラムである制御プログラム、および、処理部１３０によって処理される各種データを、処理部１３０によって読み取り可能に記憶する。
【００２７】
処理部１３０および記憶部１４０を構成するハードウェアは特定の態様に限定されない。例えば、処理部１３０は、単一のプロセッサで構成されてもよい。また、処理部１３０は、プロセッサと、ＲＯＭ（Ｒｅａｄ  Ｏｎｌｙ  Ｍｅｍｏｒｙ）、ＲＡＭ（Ｒａｎｄｏｍ  Ａｃｃｅｓｓ  Ｍｅｍｏｒｙ）等を統合したデバイスであってもよい。記憶部１４０は、プログラムやデータを不揮発的に記憶する不揮発性記憶装置で構成されてもよく、具体的には、ハードディスク等の磁気的記憶装置や、フラッシュＲＯＭ等の半導体記憶デバイスを備えてもよい。また、記憶部１４０は、処理部１３０が実行するプログラムやデータ等を一時的に記憶する揮発性記憶装置を備えてもよい。また、処理部１３０と記憶部１４０とは統合された１つのデバイスであってもよい。
【００２８】
処理部１３０は、記憶部１４０が記憶するプログラムを実行することにより、記憶部１４０が記憶するデータに基づいて、ナビゲーション装置１２０の各部を制御する。
処理部１３０は、機能要素又は機能ユニットとして、注視状態検知部１３１、操作受付部１３２、音声認識部１３３、表示制御部１３４、ユーザ特定部１３５、案内情報生成部１３６、報知部１３７、報知制御部１３８、および、ユーザモデル生成部１３９を備える。処理部１３０が備えるこれらの機能要素は、コンピュータである処理部１３０が、記憶部１４０に記憶される制御プログラムを実行することにより実現される。
なお、処理部１３０が実行する制御プログラムは、コンピュータ読み取り可能な任意の記憶媒体に記憶させておくことができる。これに代えて、処理部１３０が備える上記機能要素の全部又は一部を、それぞれ一つ以上の電子回路部品を含むハードウェアにより構成することもできる。
【００２９】
記憶部１４０は、記憶部１４０の記憶領域を利用するデータベースとして、地図ＤＢ（データベース）１４１、経路ＤＢ１４２、音声認識ＤＢ１４３、ユーザモデルデータ記憶部１４４、および、履歴記憶部１４５を格納する。
【００３０】
地図ＤＢ１４１および経路ＤＢ１４２は、ナビゲーション用のデータを格納したデータベースである。地図ＤＢ１４１は地図データを格納する。経路ＤＢ１４２は、車両１を含む自動車が走行可能な道路を示す情報、渋滞発生確率や渋滞発生状況を示す情報、交通規制に関する情報など、車両１の経路を決定する場合に使用されるデータを格納する。
【００３１】
また、地図ＤＢ１４１は、車両１が走行可能な道路に関するＰＯＩ（Ｐｏｉｎｔ  Ｏｆ  Ｉｎｔｅｒｅｓｔ）に関する情報を含む。具体的には、ＰＯＩは、地理的ランドマーク、商業施設、公共施設、飲食店、その他の設置物等である。地図ＤＢ１４１は、ＰＯＩの位置情報とＰＯＩの種類や名称とを対応づけて格納する。
【００３２】
音声認識ＤＢ１４３は、音声処理回路１５１が出力する音声データを音声コマンドとして認識するためのデータを格納する。音声認識ＤＢ１４３は、例えば、ナビゲーション装置１２０で使用可能な音声コマンドと、ナビゲーション装置１２０が音声コマンドとして認識する音声を特定するデータとを含む。音声を特定するデータは、例えば、音声データの周波数成分、音量レベルの変化等を抽出した音声特徴量を用いることができるが、その他のデータであってもよい。また、音声認識ＤＢ１４３は、音声データをテキスト認識するための辞書データと、音声コマンドのテキストデータとを含んでいてもよい。この場合、音声認識ＤＢ１４３は、マイク１１３が集音した音声をテキストに変換し、テキストデータに基づき音声コマンドとして認識するためのデータとして利用できる。
【００３３】
ユーザモデルデータ記憶部１４４は、後述するユーザモデル設定データ１６１、案内シナリオ、および、ユーザモデルデータ１６７を記憶する。
履歴記憶部１４５は、後述する履歴情報を記憶する。
【００３４】
注視状態検知部１３１は、カメラ１１１が出力する撮像画像データを取得し、ユーザＵのディスプレイ１０１への注視状態を検知する。例えば、注視状態検知部１３１は、撮像画像データから、パターンマッチング等の処理により、シート２１に着座する人間の顔の画像を抽出する。注視状態検知部１３１は、抽出した顔の画像を解析し、ユーザＵの顔の方向または目が向いている方向が、ディスプレイ１０１を注目する方向に該当するか否かを判定する。注視状態検知部１３１は、判定結果に基づき、ユーザＵの注視状態を示すデータを生成する。
【００３５】
例えば、注視状態検知部１３１は、ユーザＵがディスプレイ１０１を注視しているか否かを示すデータを逐次生成してもよい。また、注視状態検知部１３１は、ユーザＵがディスプレイ１０１を注視している状態が継続した時間をカウントしてもよい。また、注視状態検知部１３１は、予め設定された時間内にユーザＵがディスプレイ１０１を注視した回数をカウントしてもよい。また、注視状態検知部１３１は、これらのカウント値が設定された閾値を超えたか否かを判定してもよい。
【００３６】
操作受付部１３２は、タッチセンサ１０３に対するユーザＵの接触操作を検出し、操作位置を特定することにより、ユーザＵの操作内容を取得する。
また、操作受付部１３２は、カメラ１１１の撮像画像データをもとに、ユーザＵのジェスチャ操作を検知する。例えば、操作受付部１３２は、パターンマッチング等の処理によりカメラ１１１の撮像画像データから物体の動きを検出し、予め設定されたジェスチャに該当する動きであるか否かを判定する。操作受付部１３２は、ジェスチャを検知する処理を行う場合に、本発明の操作検知部の一例に対応する。
【００３７】
音声認識部１３３は、音声処理回路１５１が出力するデジタル音声データを解析し、マイク１１３が集音した音声に含まれる人間の発話内容を認識する。音声認識部１３３は、例えば、音声処理回路１５１が出力する音声データの周波数解析を行い、音声特徴量を算出し、算出した音声特徴量に基づき音声認識ＤＢ１４３を参照して、集音した音声に該当する音声コマンドの有無を判定し、音声コマンドを特定する。音声認識部１３３は、例えば、ユーザＵがナビゲーション装置１２０に対する指示を発話した場合に、この発話の内容を認識する。
【００３８】
表示制御部１３４は、ディスプレイ１０１に表示信号を出力して、画像や文字を含む各種画面を表示させる。
【００３９】
ユーザ特定部１３５は、カメラ１１１の撮像画像データに基づき、ナビゲーション装置１２０を操作するユーザＵを特定する。ユーザ特定部１３５は、例えば、予め登録された複数の人の中から、カメラ１１１により撮像された一人のユーザＵを特定する。この場合、ナビゲーション装置１２０は、予め登録された複数の人の顔画像に関するデータを記憶部１４０に記憶する。また、ユーザＵを特定するための具体的な処理は公知の技術を用いればよい。例えば、カメラ１１１の撮像画像データから人間の顔の画像を抽出し、抽出した画像の特徴量を算出し、予め記憶したユーザＵの顔画像の特徴量と照合することにより、ユーザＵを特定する。ユーザ特定部１３５は、本発明の搭乗者特定部の一例に対応する。
【００４０】
案内情報生成部１３６は、車両１のナビゲーション動作を実行する際に、車両１が進行する経路を決定する。例えば、ユーザＵの操作によって指定される目的地、経由地、出発地等の位置を特定し、地図ＤＢ１４１および経路ＤＢ１４２に格納されたデータを利用して、車両１が出発地または現在位置から目的地に到達するための経路を決定する。
【００４１】
また、案内情報生成部１３６は、決定した車両１の経路の通りに車両１を走行させるための案内情報を生成する。
案内情報生成部１３６は、視覚的に提供される案内情報として、ディスプレイ１０１に表示されるナビゲーション画面を表示するための表示データを生成する。また、案内情報生成部１３６は、スピーカ１１５により聴覚的に報知される案内情報として、自然言語により車両１の操作を案内するメッセージを生成する。
案内情報生成部１３６は、メッセージを出力する回数、およびタイミングを決定する。
【００４２】
案内情報生成部１３６が生成するメッセージは、車両１の経路上の地点に対応する。例えば、案内情報生成部１３６は、車両１の直進、右折、左折などの操作を指示するメッセージを生成するが、これらの操作は、車両１の経路における特定の地点で実行される操作である。案内情報の対象となっている地点を、以下の説明では案内地点という。案内地点は、本発明の報知位置の一例に対応する。例えば、交差点において車両１を右折させる指示を含む案内情報を報知する場合、この交差点が案内地点に相当する。報知の回数は、１つの案内地点について１回に限られず、複数回であってもよい。例えば、ナビゲーション装置１２０は、車両１が案内位置の１０００ｍ前に到達したとき、６００ｍ前に到達したとき、３００ｍ前に到達したとき、および、１００ｍ前に到達したときに報知を行う。
案内情報生成部１３６は、案内情報を生成する際に、報知を行うタイミングを指定する。
【００４３】
１つの案内地点について報知を行う回数は、ユーザＵの習熟度によって調整することが望ましい。例えば、報知の回数が多いと、報知の音声を聞き逃しても支障がないため、道順に不案内なユーザＵにとっては満足度が高い。これに対し、ユーザＵが道順を熟知している場合、報知の回数が多いとユーザＵが報知を煩雑に感じ、ナビゲーションに対する満足度が低下することが懸念される。報知を行うタイミング、および、報知の際に提供される情報量についても同様のことがいえる。
【００４４】
ナビゲーション装置１２０は、ユーザＵに適した頻度で報知を行えるように、ユーザモデルを利用する。ユーザモデルは、車両１を操作するユーザＵが、ナビゲーション装置１２０のナビゲーションを必要とする度合いを反映する仮想のモデルである。例えば、道順に不案内なユーザＵには、ナビゲーションを必要とする度合いが高いユーザモデルを設定し、道順を熟知しているユーザＵにはナビゲーションを必要とする度合いが低いユーザモデルを設定する。ナビゲーション装置１２０は、ユーザＵに報知する報知状態や案内情報の内容を、ユーザモデルに対応して設定すれば、ユーザＵの習熟度に適した報知を行うことができ、ユーザＵの高い満足度を得ることができる。
【００４５】
本実施形態で、ナビゲーション装置１２０は、ユーザモデルに対応して案内情報の内容および報知状態を変更する報知調整処理を実行する。案内情報の内容は、具体的には、報知する情報の種類および情報量である。情報量の多寡は、情報の詳しさと言い換えることができる。また、報知状態は、具体的には、報知のタイミングおよび回数である。
報知調整処理では、視覚的に報知される案内情報、および、聴覚的に報知される案内情報のいずれか一方を変更してもよいし、両方を変更してもよい。本実施形態では、音声により聴覚的に報知される案内情報を対象とする例を説明する。
【００４６】
図３は、ユーザモデルと報知内容との設定例を示す図であり、ユーザモデルごとの報知内容を規定するユーザモデル設定データ１６１の構成例を示す。図３の例では、報知を行うタイミングが、案内地点と車両１との間の距離により規定されている。また、ユーザモデルがナビゲーションを必要とする度合いを、ナビゲーション利用度と表現している。
【００４７】
図３のユーザモデル設定データ１６１を用いると、３種類のユーザモデルＡ、Ｂ、Ｃが設定可能である。ユーザモデルＡは、道順に不案内であるユーザＵなど、ナビゲーション利用度が高いユーザＵを想定したモデルである。報知を行うタイミングは、案内地点の１０００ｍ前、６００ｍ前、３００ｍ前、１００ｍ前、０ｍを合わせた５回に決められている。ここで、０ｍとは案内地点に車両１が到達するタイミングを表す。
ユーザモデルＣは、道順に習熟しているユーザＵなど、ナビゲーション利用度が低いユーザＵを想定したモデルであり、ユーザモデルＡよりも報知を行うタイミングが少ない。ユーザモデルＢは、ナビゲーション利用度が標準的なユーザＵを想定したモデルである。ユーザモデルＢは、例えば、デフォルトのユーザモデルとして使用される。
図３に示す報知タイミングは、報知のタイミングと報知の回数の両方を定める情報である。
【００４８】
ユーザモデル設定データ１６１は、ユーザモデルに対応づけて案内情報の内容を規定する。例えば、ユーザモデルＡに対しては案内情報の情報量を多くすること、ユーザモデルＣに対して情報量を少なくすること、ユーザモデルＢに対しては情報量を標準的な内容にすることが、それぞれ指定される。
【００４９】
図３は一つの設定例に過ぎず、ユーザモデル設定データ１６１の内容は適宜に変更可能である。例えば、ユーザモデル設定データ１６１は、ユーザモデルごとに報知回数のみを設定する情報であってもよい。この場合、設定された報知回数に従って報知タイミングが自動的に決定される構成とすればよい。また、ユーザモデル設定データ１６１とは別の設定データにより、報知回数に対応づけて報知タイミングが予め設定されていてもよい。
また、ユーザモデル設定データ１６１は、報知タイミングおよび報知回数を含まず、案内情報の内容をユーザモデルごとに設定するデータであってもよい。この場合、報知回数および報知のタイミングは、例えば、全てのユーザモデルに共通する１つのパターンが適用される。
【００５０】
図４は、ユーザモデルに基づき生成される案内情報の例を示している。
ナビゲーション装置１２０は、報知のタイミング指定する情報と案内情報の内容とが対応づけられたシナリオ形式の案内情報を生成する。この案内情報を、以下では案内シナリオと呼ぶ。本実施形態では、音声により報知される案内情報に関する案内シナリオが生成される。
【００５１】
図４には、ユーザモデルＡに対応して案内情報生成部１３６が生成する案内シナリオ１６３を符号Ａで示す。また、ユーザモデルＣに対応して案内情報生成部１３６が生成する案内シナリオ１６５を符号Ｂで示す。
【００５２】
案内シナリオ１６３、１６５は、報知タイミングと案内情報の内容とを含み、さらに、案内地点の位置情報を含む。
案内シナリオ１６３は、報知回数が多く、案内情報の情報量が多い。図４の例では、案内情報はＰａｒｔ．Ａ、Ｂ、Ｃの３つの情報で構成され、Ｐａｒｔ．Ａは車両１の現在位置と案内地点との間の距離を示す情報であり、Ｐａｒｔ．Ｃは車両１の操作を指示する情報である。Ｐａｒｔ．Ｂは案内地点の目安となるランドマークを知らせる情報である。Ｐａｒｔ．Ａ、Ｃは必須の情報といえる。これに対し、Ｐａｒｔ．Ｂは補助的な情報である。案内シナリオ１６３は、Ｐａｒｔ．Ａ、Ｂ、Ｃの全ての情報を含むので、案内地点に関して予備知識や経験の少ないユーザＵに適している。
【００５３】
案内シナリオ１６５は、報知回数が少なく、案内情報に含まれる情報量が少ない。案内シナリオ１６５は、案内地点に関して詳細な案内を必要としない、ナビゲーション利用度の低いユーザＵに適している。
【００５４】
ナビゲーション装置１２０は、ユーザ特定部１３５によりユーザＵを特定する。ユーザ特定部１３５は、車両１を操作するユーザＵの個人識別を行う。本実施形態では、各々のユーザＵに対し、個人を特定可能な識別情報としてユーザＩＤが付与される。ユーザ特定部１３５は、ユーザＵがナビゲーション装置１２０を操作する際に、ユーザＵを識別してユーザＩＤを特定する。ユーザＵの識別情報は、ユーザＩＤに限らず、ユーザＵの氏名、ニックネーム、或いはその他の情報を用いてもよい。
【００５５】
ナビゲーション装置１２０では、１人のユーザＵに対応づけて１つのユーザモデルが設定されてもよい。例えば、１つのユーザＩＤに１つのユーザモデルが対応づけて設定されてもよい。また、１人のユーザＵに対応づけて複数のユーザモデルが設定されてもよい。例えば、ユーザＵが詳しい知識を持っている地域や道路を車両１が走行する場合と、ユーザＵが不案内な地域を車両１が走行する場合とで、異なるユーザモデルを適用することが考えられる。
【００５６】
図５は、ユーザモデルデータ１６７の例を示す図である。ユーザモデルデータ１６７は、ユーザＩＤごとにユーザモデルを設定するデータであり、ユーザモデルデータ記憶部１４４に記憶される。ユーザモデルデータ１６７は、１つのユーザＩＤに１つのユーザモデルを対応づけてもよい。また、図５に示すように、１つのユーザＩＤに複数のユーザモデルを対応づけてもよい。
【００５７】
図５の例では、１つのユーザＩＤに対して、場所ごとに、ユーザモデルが設定されている。例えば、ユーザＩＤ「０００１」に対しては、４つの地域のそれぞれに対応するユーザモデルが設定されている。
【００５８】
一般に、自動車の運転者は、走行機会の多い地域では道順に詳しく、走行機会の少ない地域では、道順に不案内である傾向がある。走行機会の多い地域は、例えば、居住地、勤務先、通勤経路等を含む地域である。このため、地域ごとにユーザモデルを設定することで、ユーザＵが不案内な地域と、ユーザＵが詳しく知っている地域とのそれぞれで、ユーザＵに適した報知を行うことができる。図５のユーザモデルデータ１６７では、ユーザＩＤ「０００１」に対し、居住地を含む「地域１」および勤務先を含む「地域２」では、ナビゲーション利用度の低いユーザモデルＣが対応づけられる。
【００５９】
図６は、ユーザモデルデータ１６７の適用例を示す説明図である。図６には、地図上に、ユーザＵの居住地である地点Ｈ１、ユーザＵの勤務先である地点Ｈ２を示す。図において、経路ＰはユーザＵの通勤経路を示す。地域Ｃ１、Ｃ２、Ｃ３は行政区分を示しており、市、町、村、郡、県等に相当する。
【００６０】
ユーザモデルデータ１６７においてユーザモデルに対応づけられる地域は、地域Ｃ１、Ｃ２、Ｃ３を単位としてもよい。また、地点Ｈ１、Ｈ２、経路Ｐ１を含む特定地域Ａ１、Ａ２、Ａ３に、ユーザモデルを対応づけることもできる。特定地域Ａ１、Ａ２は、それぞれ地点Ｈ１、Ｈ２を中心とする半径１ｋｍ以内の範囲である。特定地域Ａ３は、経路Ｐから２００ｍ以内の範囲である。これらの距離は勿論一例に過ぎない。
【００６１】
特定地域Ａ１、Ａ２、Ａ３は、ユーザＵが道順等を詳しく知っている可能性の高い地域であるから、ユーザＵが道順に詳しいと想定される。これに対し、地点Ｈ１、Ｈ２および経路Ｐから離れた地域Ｃ３は、ユーザＵが不案内な地域と考えられる。このような地域ごとの差に対応して、ユーザモデルデータ１６７にユーザモデルを対応づけることで、ユーザＵの習熟度や適性に合ったナビゲーションを行える。
【００６２】
ユーザモデルデータ１６７は、ナビゲーション装置１２０とは異なる装置により生成されて、ユーザモデルデータ記憶部１４４に記憶されてもよいが、ナビゲーション装置１２０が生成してもよい。この場合、ナビゲーション装置１２０は、ユーザＵの操作によって自宅位置や勤務先位置として登録された位置情報に基づき、地点Ｈ１、Ｈ２の位置情報を取得できる。ナビゲーション装置１２０は、車両１が走行する頻度が高い経路を検索する処理や、車両１の移動の履歴を記録する処理により、経路Ｐの情報を取得できる。また、ユーザＵがナビゲーション装置１２０を操作して登録した経路を、経路Ｐとしてもよい。また、地域Ｃ１、Ｃ２、Ｃ３の範囲および境界位置は、地図ＤＢ１４１に記憶されたデータから特定可能である。従って、地域Ｃ１、Ｃ２は、地点Ｈ１、Ｈ２の位置情報と地図ＤＢ１４１のデータに基づき、ナビゲーション装置１２０が判定できる。
【００６３】
ナビゲーション装置１２０は、ユーザＩＤごと、および、地域ごとに設定されたユーザモデルに基づき案内シナリオを生成する。ここで、ユーザモデルデータ１６７は、ユーザＩＤごと、および、時間帯ごとにユーザモデルを設定してもよい。具体的には、昼間と夜間のそれぞれにユーザモデルを設定してもよく、通勤・通学時間帯と、それ以外の時間帯とに分けてユーザモデルを設定してもよい。また、ユーザモデルデータ１６７は、天候や、積雪などの道路状況の分類ごとにユーザモデルを設定してもよい。
【００６４】
案内情報生成部１３６は、車両１の経路、ユーザモデル設定データ１６１、および、ユーザモデルデータ１６７に基づき、案内シナリオを生成する。
【００６５】
報知部１３７は、ディスプレイ１０１およびスピーカ１１５による報知を実行する。報知部１３７は、案内情報をディスプレイ１０１に出力する場合、案内情報生成部１３６が生成する表示データに基づいて、表示制御部１３４に制御を実行させ、ディスプレイ１０１にナビゲーション画面を表示させる。
【００６６】
また、報知部１３７は、案内シナリオに従って、音声による案内情報の報知を行う。報知部１３７は、案内シナリオの音声を発音するための音声データを生成し、音声処理回路１５１に出力する。これにより、案内シナリオの通りに、スピーカ１１５から音声が出力される。
【００６７】
報知制御部１３８は、報知部１３７が音声データを音声処理回路１５１に出力するタイミングを、案内シナリオに従って制御する。詳細には、報知制御部１３８は、車両１の現在位置の位置情報と、案内シナリオに設定された案内地点の位置情報と、案内シナリオに設定された報知タイミングとをもとに、音声データを出力するタイミングを決定する。報知制御部１３８は、決定したタイミングで報知部１３７を動作させる。
【００６８】
報知制御部１３８は、注視状態検知部１３１が検知するユーザＵの注視状態が、予め設定された特定の注視状態に該当する場合に、報知調整処理を行う。特定の注視状態とは、ユーザＵがディスプレイ１０１を強く注視している状態を指す。
【００６９】
ユーザＵの注視状態の具体的な態様として、（１）ユーザＵがディスプレイ１０１を注視する姿勢が設定された時間以上、継続している状態、および、（２）設定された時間内にユーザＵがディスプレイ１０１を注視した回数が閾値に達した状態が挙げられる。ナビゲーション装置１２０には、（１）の態様を判定する閾値として第１基準時間、および、第２基準時間が設定され、（２）の態様を判定する閾値として第３基準時間および第１閾値が設定されている。
【００７０】
第１基準時間および第２基準時間は時間の長さの閾値であり、第２基準時間は第１基準時間より長い。（１）の態様ではユーザＵがディスプレイ１０１を注視する姿勢の継続時間を判定する。継続時間が第２基準時間以上である場合、報知制御部１３８は、ディスプレイ１０１による報知を停止する。また、継続時間が第２基準時間未満で、第１基準時間以上である場合、報知制御部１３８は案内シナリオを変更する。
（２）の態様では第３基準時間内にユーザＵがディスプレイ１０１を注視した回数を判定する。回数が第１閾値に達した場合、報知制御部１３８は、ディスプレイ１０１による報知を停止する。
【００７１】
さらに、報知制御部１３８は、報知部１３７が報知を行った後、注視状態検知部１３１がユーザＵのジェスチャ操作を検知した場合に、案内シナリオを変更する。
【００７２】
また、報知制御部１３８は、報知部１３７が報知を行った後、ユーザＵが、報知された案内情報に対して要求や指示を行った場合に、案内シナリオを変更する。
【００７３】
ユーザモデル生成部１３９は、ユーザモデルデータ１６７を生成する。また、ユーザモデル生成部１３９は、報知制御部１３８が報知調整処理を実行した場合に、ユーザモデルデータ１６７を変更する。
【００７４】
［１−３．ナビゲーション装置の動作］
図７、図８および図９は、ナビゲーション装置１２０の動作を示すフローチャートである。これら各図の動作はナビゲーション装置１２０の処理部１３０により実行され、詳細には、ステップＳ１０１の処理はユーザ特定部１３５が実行し、ステップＳ１０２−Ｓ１０４、Ｓ１２１−Ｓ１２７、Ｓ１３１の処理は、案内情報生成部１３６が実行する。ステップＳ１０５−Ｓ１０７、Ｓ１３０の処理は報知制御部１３８が実行する。ステップＳ１０８の処理は注視状態検知部１３１が実行し、ステップＳ１０９の処理は操作受付部１３２が実行し、ステップＳ１１０の処理は音声認識部１３３が実行する。ステップＳ１２８の処理は、報知部１３７および報知制御部１３８が実行する。
【００７５】
ステップＳ１２９の処理は、図９および図１０に詳細に示される。ステップＳ１４０−Ｓ１４２の処理は、注視状態検知部１３１および報知制御部１３８が実行する。ステップＳ１４４、Ｓ１５２の処理は、操作受付部１３２および報知制御部１３８が実行する。ステップＳ１４８、Ｓ１６４、Ｓ１６７、Ｓ１７１の処理は、報知部１３７および報知制御部１３８が実行する。ステップＳ１４６、Ｓ１４７、Ｓ１５３、Ｓ１６２、Ｓ１６６、Ｓ１６９、Ｓ１７０の処理は案内情報生成部１３６が実行する。ステップＳ１４９、Ｓ１５０の処理は、報知制御部１３８が実行し、ステップＳ１５１の処理はユーザモデル生成部１３９が実行する。
【００７６】
処理部１３０は、ナビゲーション装置１２０を使用するユーザＵを特定する（Ｓ１０１）。ステップＳ１０１で、処理部１３０は、カメラ１１１の撮像画像データに基づき、ナビゲーション装置１２０を操作するユーザＵを特定する。ステップＳ１０１で、ユーザＵを特定できない場合、処理を停止してもよいし、ユーザＵが特定できない状態に対応する仮のユーザＩＤを付与して処理を進めてもよい。
【００７７】
続いて、処理部１３０は、ナビゲーションの条件の入力を受け付ける（Ｓ１０２）。ナビゲーションの条件とは、車両１の経路を決定するための条件であり、少なくとも目的地の位置情報を含み、そのほかに、経由地、出発地等の位置情報、有料道路を使用するか否か、狭隘路を回避するか否か等を含んでもよい。
【００７８】
処理部１３０は、ステップＳ１０２で入力された条件に基づき、車両１の経路探索を実行し（Ｓ１０３）、車両１の経路を決定する（Ｓ１０４）。
処理部１３０は、ユーザモデルデータ記憶部１４４に記憶されたユーザモデルデータ１６７を参照し、ステップＳ１０１で特定したユーザＵに対応するユーザモデルデータ１６７があるか否かを判定する（Ｓ１０５）。該当するユーザモデルデータ１６７がある場合（Ｓ１０５；ＹＥＳ）、処理部１３０は、ユーザモデルデータ１６７を選択する（Ｓ１０６）。また、該当するユーザモデルデータ１６７がないか、ユーザモデルが設定されていない場合（Ｓ１０５；ＮＯ）、処理部１３０は、デフォルトのユーザモデルを利用する設定を行う（Ｓ１０７）。
【００７９】
ステップＳ１０６またはステップＳ１０７の設定後、処理部１３０は、注視状態検知部１３１によるユーザＵの注視状態の検知を開始し（Ｓ１０８）、操作受付部１３２によるジェスチャの検知を開始する（Ｓ１０９）。また、処理部１３０は、音声認識部１３３による音声の検知および音声認識を開始する（Ｓ１１０）。
【００８０】
処理部１３０は、ステップＳ１０４で決定した経路に従って、車両１のナビゲーションを開始する（Ｓ１２１）。処理部１３０は、ＧＰＳ１１９を利用して車両１の現在位置を特定して位置情報を取得する（Ｓ１２２）。
【００８１】
処理部１３０は、案内シナリオの作成に使用するユーザモデルを選択する（Ｓ１２３）。ステップＳ１２３では、ステップＳ１０６で選択されたユーザモデルデータ１６７に設定されたユーザモデルのうち、ステップＳ１２２で特定した位置に対応するユーザモデルが選択される。また、ステップＳ１０８でデフォルトのユーザモデルが設定された場合には、ステップＳ１２３においてデフォルトのユーザモデルが採用される。
【００８２】
処理部１３０は、ステップＳ１０４で決定した経路における案内地点を探索し（Ｓ１２４）、車両１の現在位置に近い案内地点の有無を判定する（Ｓ１２５）。詳細には、ステップＳ１２５では、車両１の進行方向において、車両１の現在位置から所定範囲内に、ステップＳ１２７の処理対象となっていない案内地点があるか否かが判定される。
【００８３】
該当する案内地点がないと判定した場合（Ｓ１２５；ＮＯ）、処理部１３０はステップＳ１２２に戻る。該当する案内地点があると判定した場合（Ｓ１２５；ＹＥＳ）、処理部１３０は、ステップＳ１２３で選択したユーザモデルに対応する報知回数、報知タイミング、および案内情報の内容を決定する（Ｓ１２６）。ステップＳ１２６で、処理部１３０は、例えば、ユーザモデル設定データ１６１を参照する。処理部１３０は、ステップＳ１２６で決定した内容に従って、案内シナリオを生成する（Ｓ１２７）。
【００８４】
処理部１３０は、ステップＳ１２７で生成した案内シナリオに従って、報知を実行する（Ｓ１２８）。ステップＳ１２８では、案内シナリオで指定された報知タイミングのうち１回の報知を実行する。ステップＳ１２８で、処理部１３０は、車両１の位置が報知タイミングに該当する位置になるまで待機する。
【００８５】
報知を実行した後、処理部１３０は、ユーザＵのディスプレイ１０１に対する注視状態、ユーザＵのジェスチャ操作、および、ユーザＵの発話の状態に対応する操作検知処理を実行する（Ｓ１２９）。
【００８６】
操作検知処理の実行後、処理部１３０は、ステップＳ１２７で生成した案内シナリオの報知が完了したか否かを判定する（Ｓ１３０）。例えば、案内シナリオで複数回の報知タイミングが指定されている場合であって、報知が実行されていない報知タイミングがある場合には、処理部１３０は、報知を完了していないと判定する。報知を完了していない場合（Ｓ１３０；ＮＯ）、処理部１３０はステップＳ１２８に戻る。
【００８７】
報知が完了したと判定した場合（Ｓ１３０；ＹＥＳ）、処理部１３０は、ナビゲーションを終了するか否かを判定する（Ｓ１３１）。処理部１３０は、ユーザＵの操作によりナビゲーションの終了が指示された場合、車両１が目的地に到着した場合、ナビゲーション装置１２０の電源がシャットダウンされる場合等に、ナビゲーションを終了する（Ｓ１３１；ＹＥＳ）。ナビゲーションを終了しない場合（Ｓ１３１；ＮＯ）、処理部１３０はステップＳ１２２に戻る。
【００８８】
ステップＳ１２９の操作検知処理の詳細を図９に示す。操作検知処理において、ステップＳ１４２、Ｓ１５２−Ｓ１５３、Ｓ１５６、Ｓ１４６−Ｓ１５１は、報知調整処理に該当する。
【００８９】
操作検知処理において、処理部１３０は、注視状態検知部１３１の検知結果に基づき、ユーザＵがディスプレイ１０１を注視した姿勢の継続時間が、第１基準時間以上か否かを判定する（Ｓ１４０）。継続時間が第１基準時間未満である場合（Ｓ１４０；ＮＯ）、処理部１３０は、ユーザＵが第３基準時間内にディスプレイ１０１を注視した注視回数が第１閾値以上であるか否かを判定する（Ｓ１４１）。ここで、注視回数が第１閾値以上の場合（Ｓ１４１；ＹＥＳ）、処理部１３０は、ディスプレイ１０１による案内情報の報知を停止し、スピーカ１１５のみによる報知を行う状態への切替を実行し（Ｓ１４２）、後述するステップＳ１４９に移行する。ステップＳ１４２では、ディスプレイ１０１に表示中のナビゲーション画面の表示を停止する処理や、ディスプレイ１０１が表示する画面の中で案内情報に該当する画像や文字を消す等の処理が行われる。また、注視回数が第１閾値未満の場合（Ｓ１４１；ＮＯ）、処理部１３０はステップＳ１３０（図８）に移行する。
【００９０】
ユーザＵがディスプレイ１０１を注視した姿勢の継続時間が、第１基準時間以上である場合（Ｓ１４０；ＹＥＳ）、処理部１３０は、継続時間が第２基準時間以上であるか否かを判定する（Ｓ１４３）。継続時間が第２基準時間以上である場合（Ｓ１４３；ＹＥＳ）、処理部１３０は、ステップＳ１４２の動作を実行する。
【００９１】
また、継続時間が第２基準時間未満の場合（Ｓ１４３；ＮＯ）、処理部１３０は、操作受付部１３２より、設定されたジェスチャ操作が検知されたか否かを判定する（Ｓ１４４）。本実施形態の操作受付部１３２は、報知に対して否定的なジェスチャを検知する。具体的には、ユーザＵが報知の中断や停止を望んでいる場合に自然に行う動作や、報知が不要であることの意思表示としてユーザＵが行う動作であり、例えば、ユーザＵが手を振り払う動作や、ディスプレイ１０１に掌を向ける動作が挙げられる。
【００９２】
ジェスチャ操作が検知されていない場合（Ｓ１４４；ＮＯ）、処理部１３０は、マイク１１３により集音された音声から、ユーザＵの指示の発話を認識したか否かを判定する（Ｓ１４５）。ステップＳ１４５では、スピーカ１１５から案内情報の音声が報知された後のユーザＵの発話を判定するが、案内情報を報知中にマイク１１３により集音された音声を対象としてもよい。
【００９３】
指示の音声を認識していないと判定した場合（Ｓ１４５；ＮＯ）、処理部１３０は、ステップＳ１２７で生成された案内シナリオを変更する（Ｓ１４６）。ステップＳ１４６で、処理部１３０は、報知回数および／または報知タイミングが、ナビゲーション利用度の高いユーザモデルに対応する値となるように、案内シナリオを変更する。例えば、処理部１３０は、案内シナリオに含まれる報知タイミングの数を増大させる。処理部１３０は、ステップＳ１４６の変更を反映するように案内シナリオを再生成し（Ｓ１４７）、再生成した案内シナリオに従って報知を実行する（Ｓ１４８）。
【００９４】
報知を実行した後、処理部１３０は、履歴情報を生成する（Ｓ１４９）。履歴情報は、報知調整処理を実行した履歴に関する情報であり、少なくとも、変更された案内シナリオ、案内シナリオに含まれる案内地点、および、報知調整処理の要因となった事象を示す情報を含む。要因となった事象を示す情報とは、ステップＳ１４０、Ｓ１４２、Ｓ１４３の判定結果等である。また、ステップＳ１４４、Ｓ１４５の判定結果に関する情報を含んでもよい。また、後述するステップＳ１５４の判定結果や、音声認識部１３３により認識した発話内容に関する情報を含んでもよい。
【００９５】
処理部１３０は、ステップＳ１４９で生成した履歴情報を、ユーザＵのユーザＩＤに対応づけて履歴記憶部１４５に記憶させる（Ｓ１５０）。さらに、処理部１３０は、履歴記憶部１４５に記憶された履歴情報に基づいて、ユーザモデルデータ１６７を生成または更新し（Ｓ１５１）、ステップＳ１３０に移行する。
【００９６】
処理部１３０は、ジェスチャを検知した場合（Ｓ１４４；ＹＥＳ）、ステップＳ１２７で生成された案内シナリオを変更する（Ｓ１５２）。ステップＳ１５２で、処理部１３０は、報知回数および／または報知タイミングが、ナビゲーション利用度の低いユーザモデルに対応する値となるように、案内シナリオを変更する。例えば、処理部１３０は、案内シナリオに含まれる報知タイミングの数を減少させる。処理部１３０は、ステップＳ１５２の変更を反映するように案内シナリオを再生成し（Ｓ１５３）、ステップＳ１４９に移行する。
【００９７】
また、処理部１３０は、ユーザＵの発話を認識した場合（Ｓ１４５；ＹＥＳ）、認識した発話が、報知調整処理の対象となる発話か否かを判定する（Ｓ１５４）。報知調整処理の対象となる発話は、報知回数、タイミング、案内情報の内容、またはその他の報知に関する指示である。
【００９８】
ユーザＵの発話が、報知調整処理の対象となる発話でないと判定した場合（Ｓ１５４；ＮＯ）、処理部１３０は、発話された指示に対応する処理を実行し（Ｓ１５５）、ステップＳ１４９に移行する。
【００９９】
ユーザＵの発話が、報知調整処理の対象となる発話であると判定した場合（Ｓ１５４；ＹＥＳ）、処理部１３０は、ユーザＵの発話に対する報知調整処理である、音声対応調整処理を実行し（Ｓ１５６）、実行後にステップＳ１４９に移行する。
【０１００】
図１０は、音声対応調整処理を詳細に示すフローチャートである。
処理部１３０は、ユーザＵの発話が、報知に対し否定的な内容の発話であるか否かを判定する（Ｓ１６１）。報知に対し否定的な内容の発話とは、例えば、「もういいよ」、「案内やめて」等、報知の拒否または報知が不要であることを示す発話が挙げられる。また、発話が認識されたタイミングが案内情報の音声と重なる場合に、報知に対し否定的な内容の発話として判定してもよい。報知に対し否定的な内容の発話であると判定した場合（Ｓ１６１；ＹＥＳ）、処理部１３０は、ステップＳ１２７で生成された案内シナリオを、報知回数および／または報知タイミングが減少するよう変更する。ステップＳ１５２の後、処理部１３０はステップＳ１４９に移行する。
【０１０１】
報知に対し否定的な内容の発話でないと判定した場合（Ｓ１６１；ＮＯ）、処理部１３０は、案内情報の再度の報知を求める発話であるか否かを判定する（Ｓ１６３）。案内情報の再度の報知を求める発話であると判定した場合（Ｓ１６３；ＹＥＳ）、処理部１３０は、案内シナリオを参照し、ステップＳ１２８で報知した案内情報を再び報知し（Ｓ１６４）、ステップＳ１４９に移行する。
【０１０２】
案内情報の再度の報知を求める発話でないと判定した場合（Ｓ１６３；ＮＯ）、処理部１３０は、ステップＳ１２８で報知した案内情報の内容に関する発話であるか否かを判定する（Ｓ１６５）。具体的には、ステップＳ１２８で、交差点で車両１を右折させる内容の音声を出力した場合に、ユーザＵが「交差点のランドマークを教えて」と発話する例が挙げられる。案内情報の内容に関する発話であると判定した場合（Ｓ１６５；ＹＥＳ）、処理部１３０は、ステップＳ１２７で生成された案内シナリオを、案内情報の内容を増加させるように変更する（ステップＳ１６６）。処理部１３０は、変更した案内シナリオに従って報知を実行し（Ｓ１６７）、ステップＳ１４９に移行する。
【０１０３】
案内情報の内容に関する発話でないと判定した場合（Ｓ１６５；ＮＯ）、処理部１３０は、ステップＳ１２８で報知した案内情報に関連する情報を要求する発話であるか否かを判定する（Ｓ１６８）。例えば、ステップＳ１２８で、高速道路のインターチェンジを案内する音声を出力した場合に、ユーザＵが、インターチェンジの前にガソリンスタンドがあるかどうか質問する例が挙げられる。案内情報に関連する情報の要求であると判定した場合（Ｓ１６８；ＹＥＳ）、処理部１３０は、地図ＤＢ１４１および経路ＤＢ１４２において、要求された情報を探索する（Ｓ１６９）。処理部１３０は、ステップＳ１２７で生成された案内シナリオに、ステップＳ１６９で探索した情報を追加して、案内シナリオを更新する（Ｓ１７０）。処理部１３０は、更新した案内シナリオに従って報知を実行し（Ｓ１７１）、ステップＳ１４９に移行する。
【０１０４】
また、案内情報に関連する情報を要求する発話でないと判定した場合（Ｓ１６８；ＮＯ）、処理部１３０は、図１０の動作を終了して、ステップＳ１４９に移行する。
【０１０５】
［２．第２実施形態］
図１１は、本発明を適用した第２実施形態のデータ管理システム２００の構成を示す概略平面図である。
データ管理システム２００は、ナビゲーションシステム１００と、サーバー装置２０１とを通信可能に接続して構成される。
【０１０６】
データ管理システム２００は、ユーザモデルデータ記憶部１４４に相当するユーザモデルデータ記憶部２１１、および、履歴記憶部１４５に相当する履歴記憶部２１２を、サーバー装置２０１が備えている。ユーザモデルデータ記憶部２１１は、ナビゲーション装置１２０が生成または更新するユーザモデルデータ１６７を、ユーザモデルデータ記憶部２１１に記憶する。また、履歴記憶部２１２は、ナビゲーション装置１２０が生成する履歴情報を記憶する。
【０１０７】
ナビゲーション装置１２０は、ステップＳ１４９で履歴情報を生成した場合に、通信部１５３によって履歴情報をサーバー装置２０１に送信する。また、ナビゲーション装置１２０は、ステップＳ１５１でユーザモデルデータ１６７を生成または更新した場合に、ユーザモデルデータ１６７を通信部１５３によってサーバー装置２０１に送信する。
【０１０８】
データ管理システム２００では、ナビゲーション装置１２０により生成または更新されたユーザモデルデータ１６７をサーバー装置２０１が記憶する。このため、ユーザＩＤに対応するユーザモデルデータ１６７を、複数のナビゲーション装置１２０において共通して利用できる。
【０１０９】
例えば、ナビゲーション装置１２０が、図７−図１０に示す動作を実行する際に、ステップＳ１０５で、データ管理システム２００から、ユーザＩＤに対応するユーザモデルデータ１６７をダウンロードする構成が考えられる。この構成では、複数のナビゲーションシステム１００で、最新のユーザモデルデータ１６７を共通して利用できる。
【０１１０】
このため、ユーザＵが車両１を含む各種の移動体を操作する際に、この移動体に設置されるナビゲーション装置１２０が、サーバー装置２０１が記憶する最新のユーザモデルデータ１６７に従って、ナビゲーション動作を実行できる。従って、ユーザＵがどの移動体を操作するときも、ユーザＵに適した報知を行うことができ、ユーザＵの満足度をより一層高めることができる。
【０１１１】
サーバー装置２０１は、履歴記憶部２１２に記憶される履歴情報に基づいて、ユーザモデルデータ１６７を更新する機能を備えてもよい。すなわち、図９のステップＳ１５１の処理を、サーバー装置２０１が実行してもよい。
【０１１２】
また、サーバー装置２０１が、様々な移動体を操作する多数のユーザＵに対応する履歴情報を収集できる場合、複数のユーザＵに共通する傾向を分析できる。例えば、履歴情報に含まれる案内地点の情報に基づき、案内地点毎に、複数のユーザＵに共通する発話の傾向を分析できる。これにより、案内地点に関する複数のユーザＵの傾向に対応して、ユーザモデルデータ１６７を更新することで、この案内地点を通行したことのないユーザＵに対し、適切な報知を行うことができる。
【０１１３】
［３．他の実施形態］
なお、本発明は上記実施形態の構成に限られるものではなく、その要旨を逸脱しない範囲において種々の態様において実施することが可能である。
【０１１４】
例えば、上記各実施形態では、音声による報知を対象として報知調整処理を実行する例に挙げて説明したが、本発明はこれに限定されない。例えば、案内情報をディスプレイ１０１に表示する場合の報知回数、報知タイミング、および案内情報の内容を対象として、報知調整処理を実行してもよい。また、案内情報の内容を、表示および音声出力の両方によって実行する構成としてもよい。すなわち、案内シナリオに含まれる案内情報のテキストを、案内情報の音声出力と同じタイミングでディスプレイ１０１に表示してもよい。この場合、処理部１３０は、案内シナリオを変更した場合には、変更後の案内シナリオに従って表示と音声出力の両方を行えばよい。
【０１１５】
また、ナビゲーション装置１２０は、ディスプレイ１０１に代えて、或いはディスプレイ１０１に加えて、ＨＵＤ（Ｈｅａｄ  Ｕｐ  Ｄｉｓｐｌａｙ）による表示を行う構成としてもよい。この場合、ナビゲーション装置１２０は、案内情報の内容に対応する文字や画像をＨＵＤに表示し、報知を行ってもよい。
【０１１６】
また、ユーザ特定部１３５は、ユーザＩＤの入力を操作受付部１３２によって受け付けることにより、ユーザＵを特定する例を示したが、本発明はこれに限定されない。例えば、マイク１１３により集音したユーザＵの音声のデータを対象として、声紋分析や、音声特徴量の解析を行うことにより、ユーザＵの声をもとにユーザＵを特定してもよい。
【０１１７】
また、操作受付部１３２が検知するジェスチャの種類や数に制限はなく、例えば、ユーザＵの手のほか、ユーザＵが首を傾げる動作やユーザＵが上半身を動かす動作を、ジェスチャとして検知してもよい。また、操作受付部１３２は、報知に対して否定的なジェスチャに限らず、例えば、報知の再実行を要求するジェスチャを検知してもよい。
また、複数種類のジェスチャを操作受付部１３２が検知可能である場合に、ジェスチャの形態とジェスチャにより指示できる内容とを説明する画面を、ディスプレイ１０１の表示やスピーカ１１５から出力される音声によって、ユーザＵに案内してもよい。
【０１１８】
また、上記各実施形態で説明した案内シナリオには、より多くの情報を含ませることが可能である。例えば、案内情報の内容として、Ｐａｒｔ．Ａ、Ｂ、Ｃ以外に、車両１の操作に特に注意を要する場所であることを示す情報などを付加してもよい。また、人間の声を模した音声によって報知を行う場合に、報知音声の声調、音量、情報を読み上げる速さ等の情報を案内シナリオに含めてもよく、これらの情報がユーザモデルに合わせて設定されてもよい。
【０１１９】
また、上記各実施形態で示したユーザＵの発話の例は、あくまで一例である。報知に対し否定的な内容の発話、案内情報の再度の報知を求める発話、案内情報の内容に関する発話、案内情報に関連する情報を要求する発話の各分類に該当する具体的な発話内容は、任意に設定可能である。また、ユーザＵの発話を、上述した分類以外の発話であると判定して、ユーザモデルデータ１６７を更新してもよい。
【０１２０】
さらに、上記各実施形態において、車両１の位置の軌跡をもとにユーザモデルデータ１６７を更新する構成としてもよい。例えば、処理部１３０は、車両１が経路から逸脱したことを検知した場合に、逸脱が発生した案内地点を特定し、特定した案内地点におけるユーザモデルを、よりナビゲーション利用度が高いユーザモデルに変更してもよい。
【０１２１】
カメラ１１１は、ナビゲーション装置１２０とは別体として構成されるものに限定されず、ナビゲーション装置１２０に一体に設けられた構成であってもよい。
マイク１１３およびスピーカ１１５は、車両１に固定的に設置されるマイク１１３およびスピーカ１１５に限定されず、ユーザＵの身体に装着されるヘッドセットを利用する構成であってもよい。また、マイク１１３およびスピーカ１１５は、ナビゲーション装置１２０に一体に設けられてもよい。
【０１２２】
本発明の適用対象は、車両１に固定的に設置されるナビゲーション装置１２０に限定されない。例えば、ナビゲーション装置１２０は、車両１から取り外して持ち運ぶことが可能な、いわゆるポータブルナビゲーション装置であってもよい。また、スマートフォンやパーソナルコンピュータ等の汎用コンピュータを、車室１０に設置して、ナビゲーション装置１２０として機能させてもよい。
【０１２３】
また、上記各実施形態では、ナビゲーション装置１２０を搭載する移動体の具体的な態様は任意である。少なくとも１人のユーザＵが搭乗し、移動体の操縦に関与する移動体であれば、本発明を適用可能である。
【０１２４】
［４．まとめ］
以上説明したように、実施形態のナビゲーション装置１２０は、移動体である車両１の操作に関する案内情報をディスプレイ１０１およびスピーカ１１５によって報知させる報知部１３７と、カメラ１１１と、を備える。ナビゲーション装置１２０は、カメラ１１１の撮像画像をもとに、車両１の搭乗者であるユーザＵがディスプレイ１０１を注視する注視状態を検知する注視状態検知部１３１と、ディスプレイ１０１によって案内情報が報知された際に注視状態検知部１３１により検知された注視状態に基づき、案内情報の内容または報知状態を変更する報知調整処理を行う報知制御部１３８と、を備える。
【０１２５】
また、ナビゲーション装置１２０は、車両１の操作に関する案内情報をディスプレイ１０１およびスピーカ１１５によって報知する報知制御方法を実行する。この報知制御方法は、ユーザＵを撮像した撮像画像をもとに、ユーザＵがディスプレイ１０１を注視する注視状態を検知する注視状態検知ステップと、ディスプレイ１０１によって案内情報が報知された際に、注視状態検知ステップで検知された注視状態に基づき、案内情報の内容または報知状態を変更する報知調整処理を行う報知制御ステップと、を含む。注視状態検知部１３１の動作は注視状態検知ステップの一例に対応し、報知制御部１３８の動作は報知制御ステップの一例に対応する。
【０１２６】
ナビゲーション装置１２０、および、ナビゲーション装置１２０が実行する報知制御方法によれば、車両１の操作に関する案内情報を報知する場合に、ユーザが案内情報に注目する状態に対応して、案内情報の内容や報知状態を調整できる。これにより、ユーザＵがタッチセンサ１０３等の操作をしなくても、案内情報の内容や報知状態をユーザＵに合わせることができる。従って、ユーザＵの承認欲求を満たし、ユーザＵの満足度を向上させることができる。
【０１２７】
報知制御部１３８により報知調整処理において変更される報知状態は、報知部１３７により案内情報を報知する回数、および、報知部１３７によって案内情報を報知するタイミングのうち少なくともいずれかを含む。
これにより、ユーザＵに報知する回数や報知タイミングを、ユーザＵに合わせて適切に調整できる。
【０１２８】
報知制御部１３８は、ディスプレイ１０１によって案内情報が報知された後、ユーザＵが継続してディスプレイ１０１を注視した時間が第１基準時間以上の場合に、報知調整処理を実行する。
これにより、ユーザＵがディスプレイ１０１を注視する状態が継続したことに対応して、報知調整処理を行う。従って、ユーザＵ自身が意図しない姿勢や状態をもとに、報知の態様をユーザＵに合わせて調整できる。
【０１２９】
報知制御部１３８は、ディスプレイ１０１によって案内情報が報知された後、ユーザＵが継続してディスプレイ１０１を注視した時間が第２基準時間以上の場合、または、第３基準時間内にユーザＵがディスプレイ１０１を注視した回数が第１閾値に達した場合に、報知部１３７によりディスプレイ１０１による報知を停止してスピーカ１１５による音声の報知を実行させる。
これにより、ユーザＵの注意力や視線が強くディスプレイ１０１に集中していると思われる状態に対応して、ディスプレイ１０１への注視を逸らすことができる。このため、ユーザＵが意図せずにディスプレイ１０１を強く注視している状態になっても、車両１の操作に支障を生じないように対処できる。また、スピーカ１１５による報知を行うので、案内情報をユーザＵに伝達でき、ユーザＵによる車両１の操作を適切に補助できる。
【０１３０】
ナビゲーション装置１２０は、カメラ１１１の撮像画像をもとにユーザＵによる操作を検知する操作受付部１３２を備える。報知制御部１３８は、ディスプレイ１０１によって案内情報が報知された後、注視状態検知部１３１によって特定の注視状態が検知され、かつ、操作受付部１３２によって特定の操作が検知された場合に、報知調整処理において特定の操作に対応して案内情報の内容または報知状態を変更する。
これにより、ユーザＵがディスプレイ１０１を注視する状態と、カメラ１１１の撮像画像から検知されるユーザＵの操作とに対応して、案内情報の内容または報知状態を変更できる。従って、ユーザＵに煩雑な操作をさせることなく、よりユーザＵに適した案内情報の報知を行うことができる。
【０１３１】
ナビゲーション装置１２０は、ユーザＵの音声を検知して、ユーザＵの発話内容を認識する音声認識部１３３を備える。報知制御部１３８は、ディスプレイ１０１によって案内情報が報知された後、注視状態検知部１３１によって特定の注視状態が検知され、かつ、音声認識部１３３によって特定の発話が認識された場合に、報知調整処理において特定の発話に対応して案内情報の内容または報知状態を変更する。
これにより、ユーザＵがディスプレイ１０１を注視する状態と、ユーザＵの発話とに対応して、案内情報の内容または報知状態を変更できる。従って、ユーザＵに煩雑な操作をさせることなく、よりユーザＵに適した案内情報の報知を行うことができる。
【０１３２】
ナビゲーション装置１２０は、カメラ１１１の撮像画像をもとに、ユーザＵを特定するユーザ特定部１３５と、ユーザ特定部１３５により特定されたユーザＵに対応する案内情報を生成する案内情報生成部１３６と、を備える。
これにより、ユーザＵに特別な操作を求めることなく、個人に適した案内情報の報知を行うことができる。
【０１３３】
ナビゲーション装置１２０は、ユーザ特定部１３５と、報知調整処理で変更された案内情報と、報知調整処理を実行する要因となった情報とを、ユーザ特定部１３５により特定されたユーザＵに対応づけて記憶する履歴記憶部１４５と、を備える。
これにより、ユーザＵの注視状態に対応して実行した処理の履歴を、ユーザＵに対応づけて履歴記憶部１４５に記憶する。このため、履歴情報を利用して、過去にユーザＵに対して行った処理を反映した報知を行うことができる。
【符号の説明】
【０１３４】
１…車両（移動体）、１００…ナビゲーションシステム、１０１…ディスプレイ（表示部）、１０３…タッチセンサ、１１１…カメラ（撮像部）、１１３…マイク、１１５…スピーカ（音出力部）、１１７…車速センサ、１１９…ＧＰＳ、１２０…ナビゲーション装置（報知制御装置）、１３０…処理部、１３１…注視状態検知部、１３２…操作受付部（操作検知部）、１３３…音声認識部、１３４…表示制御部、１３５…ユーザ特定部（搭乗者特定部）、１３６…案内情報生成部、１３７…報知部、１３８…報知制御部、１３９…ユーザモデル生成部、１４０…記憶部、１４１…地図ＤＢ、１４２…経路ＤＢ、１４３…音声認識ＤＢ、１４４…ユーザモデルデータ記憶部、１４５…履歴記憶部、１５１…音声処理回路、１５３…通信部、１６１…ユーザモデル設定データ、１６３、１６５…案内シナリオ、１６７…ユーザモデルデータ、２００…データ管理システム、２０１…サーバー装置、２１１…ユーザモデルデータ記憶部、２１２…履歴記憶部。
【図１】
2020153679.tif 000003
【図２】
2020153679.tif 000004
【図３】
2020153679.tif 000005
【図４】
2020153679.tif 000006
【図５】
2020153679.tif 000007
【図６】
2020153679.tif 000008
【図７】
2020153679.tif 000009
【図８】
2020153679.tif 000010
【図９】
2020153679.tif 000011
【図１０】
2020153679.tif 000012
【図１１】
2020153679.tif 000013