(57)【特許請求の範囲】
【請求項１】
音韻系列の学習を行なう情報処理システムにおいて、
フィルタ関数Ｋを用いて話者毎の音韻系列（ｓ、ｓ’）を基準周波数の逓倍の中心周波数を持つ複数の成分で構成される音韻系列ｕに変換する蝸牛特性フィルタと、
学習関数Ｈを用いて音韻系列（ｕ）を音声合成パラメータ（ｙ）に変換するとともに、音韻系列（ｕ）から変換した音声合成パラメータ（ｙ）と音韻系列（ｕ）の聞き真似をして発生する音声合成パラメータ（ｙo）との関係を学習又は評価する音声信号学習手段と、
音声合成関数Ｇを用いて音声合成パラメータ（ｙ）から音韻系列（ｓ）を生成する音声合成手段と、
を具備し、
前記音声合成手段が前記音声合成関数Ｇを用いて当該システムに入力された音声信号の音声合成パラメータ（ｙ）から音韻系列（ｓ）を生成し、
前記蝸牛特性フィルタが前記フィルタ関数Ｋを用いて前記の生成した音韻系列（ｓ）を音韻系列（ｕ）に変換し、
前記音声信号学習手段が前記学習関数Ｈを用いて音韻系列（ｕ）から聞き真似をするための音声合成パラメータ（ｙo）を生成するとともに、前記音声合成手段が前記音声合成関数Ｇを用いて聞き真似をするための音声合成パラメータ（ｙo）から聞き真似をした音韻系列を合成し、
前記音声信号学習手段が、当該システムへの入力としての音声合成パラメータ（ｙ）と聞き真似をするための音声合成パラメータ（ｙo）との相違を評価して前記学習関数Ｈを学習する、
ことを特徴とする情報処理システム。
【請求項２】
前記音声信号学習手段は、フィードフォワード型ニューラル・ネットワークで構成される、
ことを特徴とする請求項１に記載の情報処理システム。
【請求項３】
フィルタ関数Ｋを用いて話者毎の音韻系列（ｓ、ｓ’）を基準周波数の逓倍の中心周波数を持つ複数の成分で構成される音韻系列ｕに変換する蝸牛特性フィルタと、
学習関数Ｈを用いて音韻系列（ｕ）を音声合成パラメータ（ｙ）に変換するとともに、音韻系列（ｕ）から変換した音声合成パラメータ（ｙ）と音韻系列（ｕ）の聞き真似をして発生する音声合成パラメータ（ｙo）との関係を学習又は評価する音声信号学習手段と、
内部状態又は身体的制約（ｘ）を生成する内部状態生成手段と、
写像関数Ｆを用いて内部状態又は身体的制約（ｘ）から内部状態又は身体的制約（ｘ）を表す音声合成パラメータ（ｙ）に変換する写像手段と、
音声合成関数Ｇを用いて音声合成パラメータ（ｙ）から音韻系列（ｓ）を生成する音声合成手段と、
を具備し、
前記写像手段が、前記写像関数Ｆを用いて、前記内部状態生成手段が生成した現在の内部状態又は身体的制約（ｘ）から内部状態又は身体的制約（ｘ）を表す音声合成パラメータ（ｙ）に変換し、
前記音声合成手段が、前記音声合成関数Ｇを用いて、前記現在の内部状態又は身体的制約（ｘ）から内部状態又は身体的制約（ｘ）を表す音声合成パラメータ（ｙ）から音韻系列（ｓ）を生成し、
前記蝸牛特性フィルタが前記フィルタ関数Ｋを用いて前記の生成した音韻系列（ｓ）を音韻系列（ｕ）に変換し、
前記音声信号学習手段が前記学習関数Ｈを用いて音韻系列（ｕ）から聞き真似をするための音声合成パラメータ（ｙo）を生成するとともに、前記音声合成手段が前記音声合成関数Ｇを用いて聞き真似をするための音声合成パラメータ（ｙo）から聞き真似をした音韻系列を合成し、
前記音声信号学習手段が、前記現在の内部状態又は身体的制約（ｘ）から内部状態又は身体的制約（ｘ）を表す音声合成パラメータ（ｙ）と聞き真似をするための音声合成パラメータ（ｙo）との相違を評価して前記学習関数Ｈを学習する、
ことを特徴とする情報処理システム。
【請求項４】
ケアギバが発する音韻系列（ｓ’）を前記蝸牛特性フィルタが前記フィルタ関数Ｋを用いて音韻系列（ｕ’）に変換し、
前記音声信号学習手段が前記学習関数Ｈを用いて前記ケアギバの音韻系列（ｕ’）から聞き真似をするための音声合成パラメータ（ｙ’）を生成し、
前記写像手段は、前記写像関数Ｆの逆関数Ｆ-1を用いて、前記ケアギバの音韻系列（ｕ’）に基づく音声合成パラメータ（ｙ’）に相当する内部状態（ｘ’）を逆推定する、
ことを特徴とする請求項３に記載の情報処理システム。
【請求項５】
情報処理装置上で音韻系列の学習を行なう情報処理方法において、
前記情報処理装置が備える蝸牛特性フィルタが、フィルタ関数Ｋを用いて話者毎の音韻系列（ｓ、ｓ’）を基準周波数の逓倍の中心周波数を持つ複数の成分で構成される音韻系列ｕに変換するフィルタリング・ステップと、
前記情報処理装置が備える音声信号学習手段が、学習関数Ｈを用いて音韻系列（ｕ）を音声合成パラメータ（ｙ）に変換するとともに、音韻系列（ｕ）から変換した音声合成パラメータ（ｙ）と音韻系列（ｕ）の聞き真似をして発生する音声合成パラメータ（ｙo）との関係を学習又は評価する音声信号学習ステップと、
前記情報処理装置が備える音声合成手段が、音声合成関数Ｇを用いて音声合成パラメータ（ｙ）から音韻系列（ｓ）を生成する音声合成ステップと、
を有し、
前記音声合成ステップで前記音声合成関数Ｇを用いて当該システムに入力された音声信号の音声合成パラメータ（ｙ）から音韻系列（ｓ）を生成し、
前記フィルタリング・ステップで前記フィルタ関数Ｋを用いて前記の生成した音韻系列（ｓ）を音韻系列（ｕ）に変換し、
前記音声信号学習ステップで前記学習関数Ｈを用いて音韻系列（ｕ）から聞き真似をするための音声合成パラメータ（ｙo）を生成するとともに、前記音声合成ステップで前記音声合成関数Ｇを用いて聞き真似をするための音声合成パラメータ（ｙo）から聞き真似をした音韻系列を合成し、
前記音声信号学習ステップで当該システムへの入力としての音声合成パラメータ（ｙ）と聞き真似をするための音声合成パラメータ（ｙo）との相違を評価して前記学習関数Ｈを学習する、
ことを特徴とする情報処理方法。
【請求項６】
音韻系列の学習を行なうロボット装置において、
複数の可動部と、
前記可動部を駆動する駆動手段と、
前記駆動手段を制御する駆動制御手段と、
フィルタ関数Ｋを用いて話者毎の音韻系列（ｓ、ｓ’）を基準周波数の逓倍の中心周波数を持つ複数の成分で構成される音韻系列ｕに変換する蝸牛特性フィルタと、
学習関数Ｈを用いて音韻系列（ｕ）を音声合成パラメータ（ｙ）に変換するとともに、音韻系列（ｕ）から変換した音声合成パラメータ（ｙ）と音韻系列（ｕ）の聞き真似をして発生する音声合成パラメータ（ｙo）との関係を学習又は評価する音声信号学習手段と、
音声合成関数Ｇを用いて音声合成パラメータ（ｙ）から音韻系列（ｓ）を生成する音声合成手段と、
を具備し、
前記音声合成手段が前記音声合成関数Ｇを用いて当該システムに入力された音声信号の音声合成パラメータ（ｙ）から音韻系列（ｓ）を生成し、
前記蝸牛特性フィルタが前記フィルタ関数Ｋを用いて前記の生成した音韻系列（ｓ）を音韻系列（ｕ）に変換し、
前記音声信号学習手段が前記学習関数Ｈを用いて音韻系列（ｕ）から聞き真似をするための音声合成パラメータ（ｙo）を生成するとともに、前記音声合成手段が前記音声合成関数Ｇを用いて聞き真似をするための音声合成パラメータ（ｙo）から聞き真似をした音韻系列を合成し、
前記音声信号学習手段が、当該システムへの入力としての音声合成パラメータ（ｙ）と聞き真似をするための音声合成パラメータ（ｙo）との相違を評価して前記学習関数Ｈを学習する、
ことを特徴とするロボット装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、自律的な動作を行ないユーザとのリアリスティックなコミュニケーションを実現する情報処理システム、ロボットの行動制御システム及び行動制御方法、並びにロボット装置に係り、特に、視覚や聴覚などの外部環境の認識結果や本能や感情などの内部状態などのロボットが置かれている状況を統合的に判断して適当な行動を選択する情報処理システム、ロボットのための行動制御システム及び行動制御方法、並びにロボット装置に関する。
【０００２】
さらに詳しくは、本発明は、外部環境や内部状態に基づいて本能的、反射的な状況依存型の行動、又はその他の形態により発現される行動を選択する情報処理システム、ロボットの行動制御システム及び行動制御方法、並びにロボット装置に係り、特に、模倣や学習などのメカニズムを取り入れ、自己発達により進化を遂げる情報処理システム、ロボットの行動制御システム及び行動制御方法、並びにロボット装置に関する。
【背景技術】
【０００３】
電気的若しくは磁気的な作用を用いて人間の動作に似せた運動を行う機械装置のことを「ロボット」という。ロボットの語源は、スラブ語のＲＯＢＯＴＡ（奴隷機械）に由来すると言われている。わが国では、ロボットが普及し始めたのは１９６０年代末からであるが、その多くは、工場における生産作業の自動化・無人化などを目的としたマニピュレータや搬送ロボットなどの産業用ロボット（ｉｎｄｕｓｔｒｉａｌ ｒｏｂｏｔ）であった。
【０００４】
最近では、イヌやネコのように４足歩行の動物の身体メカニズムやその動作を模したペット型ロボット、あるいは、ヒトやサルなどの２足直立歩行を行う動物の身体メカニズムや動作を模した「人間形」若しくは「人間型」のロボット（ｈｕｍａｎｏｉｄ ｒｏｂｏｔ）など、脚式移動ロボットの構造やその安定歩行制御に関する研究開発が進展し、実用化への期待も高まってきている。これら脚式移動ロボットは、クローラ式ロボットに比し不安定で姿勢制御や歩行制御が難しくなるが、階段の昇降や障害物の乗り越えなど、柔軟な歩行・走行動作を実現できるという点で優れている。
【０００５】
また、最近では、ロボット装置は、産業上の用途以外に、生活密着型、すなわち人間との「共生」あるいは「エンターティンメント」という目的で使用されることが多くなってきている。従来の玩具機械では、ユーザ操作と応答動作との関係が固定的で、玩具の動作をユーザの好みに合わせて変更することはできないため、ユーザは同じ動作の繰り返しにやがては飽きてしまう。これに対し、知能型のロボット装置は、動作に起因する行動モデルや学習モデルを備え、外部からの音声や画像、触覚などの入力情報に基づいてモデルを変化させて動作を決定し、自律的な思考及び動作制御を実現することができる。また、人間とのインターフェースとして画像認識処理や音声認識処理などの認識技術を導入し、より高度でリアリスティックなコミュニケーションが可能となる。
【０００６】
ロボットあるいはその他のリアリスティックな対話システムでは、視覚や聴覚など外部環境の変化に応じて逐次的に行動を選択していくのが一般的である。また、行動選択メカニズムの他の例として、本能や感情といった情動をモデル化してシステムの内部状態を管理して、内部状態の変化に応じて行動を選択するものを挙げることができる。
【０００７】
ここで、内部状態には、例えば生体で言えば大脳辺縁系へのアクセスに相当する本能のような要素や、大脳新皮質へのアクセスに相当する内発的欲求や社会的欲求などのように動物行動学的モデルで捉えられる要素、さらには喜びや悲しみ、怒り、驚きなどのような感情と呼ばれる要素などで構成される。
【０００８】
勿論、システムの内部状態は、外部環境の変化によっても変化するし、選択された行動を発現することによっても変化する。
【０００９】
例えば、視覚や聴覚などの外部環境の認識結果や本能や感情などの内部状態など、ロボットが置かれている状況を総合的に判断して行動を選択するロボット装置について提案されている（例えば、特許文献１を参照のこと）。
【００１０】
この場合のロボット装置は、内部状態又は外部入力に応じた前記ロボット装置の行動評価を出力する行動評価手段と、前記ロボット装置の行動命令を出力する行動命令出力手段とをそれぞれ備えた複数の行動モジュールを備えている。そして、各行動モジュールの行動評価手段から得られる評価を基にして、外部刺激と内部状態の変化に応じて最適な行動モジュールを統合的な判断すること、すなわちＣｏｎｃｕｒｒｅｎｔな評価を行なうことができる。また、前記階層構造の下位層の行動モジュールから上位層の行動モジュールへ出力される行動評価及び前記ロボット装置の使用リソースに基いて行動モジュールを選択するという、リソースを考慮した行動選択、すなわちＣｏｎｃｕｒｒｅｎｔな実行を実現することができる。
【００１１】
ここで、ロボット装置のさらなるインテリジェント化を考察した場合、上述したような行動の発現方法にとどまらず、ロボットが自律的に学習し、さらに自己発達により進化を遂げることが期待される。
【００１２】
ロボットやその他の自動機械における学習メカニズムは、一般に、ニューラル・ネットワークやその他の数学モデルを用いて実現される。
【００１３】
ここで、ニューラル・ネットワークとは、人間の脳における神経回路網を簡略化したモデルであり、神経細胞ニューロンが一方向にのみ信号を通過するシナプスを介して結合されているネットワークを意味する。ニューロン間の信号の伝達はシナプスを介して行なわれ、シナプスの抵抗、すなわち重みを適当に調整することによりさまざまな情報処理が可能となる。各ニューロンは、他の１以上のニューロンからの出力をシナプスによる重み付けをして入力し、それら入力値の総和を非線型応答関数の変形を加え、再度他のニューロンへ出力する。ニューラル・ネットワークによる制御では、摩擦や粘性などの非線型問題にそのまま対応することができるとともに、学習機能を備えているので、パラメータの設定変更が不要になる。
【００１４】
例えば、ニューラル・ネットワークを用い、教示された動作パターンを音声などの入力シンボルと連想して記憶することができる（例えば、特許文献２を参照のこと）。この場合、ロボットは、比較的長い教示動作やその他の行動を分節化するとともに、分節化された各動作を、音声認識などにより認識された入力シンボルと連想して記憶することができる。動作再生時においては、比較的長い動作パターンを容易に指示することができる。また、直接的には同一のものを学習していない行動であっても、音声指示により入力されたシンボルから連想していくことにより、指示により近い行動を発現することができる。また、リカレント・ニューラル・ネットワークを適用することで、内部にフィードバック結合を備え、１周期前の情報をネットワーク内に持ち、これによって時系列データの履歴を把握することができる。
【００１５】
他方、ロボットのモデルである人間やその他の動物自体は、模倣、すなわち親（若しくはケアギバ（ｃａｒｅ  ｇｉｖｅｒ））や周囲の環境の物まねを通じて学習するのが一般的である。
【００１６】
【特許文献１】特開２００３−３３４７８５号公報
【特許文献２】特開２００２−３３７０７５号公報
【発明の開示】
【発明が解決しようとする課題】
【００１７】
本発明の目的は、自律的な動作を行ないユーザとのリアリスティックなコミュニケーションを実現することができる、優れた情報処理システム、ロボットの行動制御システム及び行動制御方法、並びにロボット装置を提供することにある。
【００１８】
本発明のさらなる目的は、視覚や聴覚などの外部環境の認識結果や本能や感情などの内部状態などのロボットが置かれている状況を統合的に判断して適当な行動を選択することができる、優れた情報処理システム、ロボットの行動制御システム及び行動制御方法、並びにロボット装置を提供することにある。
【００１９】
本発明のさらなる目的は、外部環境や内部状態に基づいて本能的、反射的な状況依存型の行動、又はその他の形態により発現される行動を選択することができる、優れた情報処理システム、ロボットの行動制御システム及び行動制御方法、並びにロボット装置を提供することにある。
【００２０】
本発明のさらなる目的は、模倣や学習などのメカニズムを取り入れ、自律的に学習し、自己発達により進化を遂げることができる、優れた情報処理システム、ロボットの行動制御システム及び行動制御方法、並びにロボット装置を提供することにある。
【課題を解決するための手段】
【００２１】
本発明は、上記課題を参酌してなされたものであり、その第１の側面は、音韻系列の学習を行なうロボットの行動制御システムにおいて、
音韻系列を入力する音声入力手段と、
音韻系列を音声合成パラメータに変換するとともに、自己が生成した音韻系列に関する音声合成パラメータと聞き真似をする音声合成パラメータとの関係を学習又は評価する音声信号学習手段と、
前記音声信号学習手段による音声合成パラメータに基づいて音韻系列を生成する音声合成手段と、
を具備することを特徴とするロボットの行動制御システムである。ここで、前記音声入力手段は蝸牛特性フィルタ・バンクを備えていてもよい。
【００２２】
但し、ここで言う「システム」とは、複数の装置（又は特定の機能を実現する機能モジュール）が論理的に集合した物のことを言い、各装置や機能モジュールが単一の筐体内にあるか否かは特に問わない。
【００２３】
本発明の第１の側面に係るロボットの行動制御システムによれば、音韻系列の素となる音声合成パラメータが音声合成手段に投入されると、音声信号からなる音韻系列ｓが出力される。この音韻系列ｓは蝸牛特性フィルタ・バンクにより話者間の相違が吸収された音韻系列ｕに変換される。そして、音声信号学習手段は、この音韻系列ｕから、聞き真似をするための音声合成パラメータｙoを生成する。さらに、この音声合成パラメータｙoが音声合成手段に投入されると、聞き真似をした音韻系列が発されることになる。
【００２４】
そして、音声信号学習手段は、当該システムへの入力としての音声合成パラメータｙと、聞き真似するための音声合成パラメータｙoとの相違を評価して、学習を行なうことができる。
【００２５】
本発明の第１の実施形態に係るロボットの行動制御システムは、内部状態又は身体的制約を生成する内部状態生成手段と、内部状態を音声合成パラメータに変換する写像手段とをさらに備えることにより、内部状態又は身体的制約を考慮し、これらにより特性の異なる発音内容を生成することができる。
【００２６】
この場合、内部状態生成手段により内部状態ｘが生成されると、写像手段により、内部状態を表した音韻系列を生成するための音声合成パラメータｙに変換される。そして、音声合成パラメータｙが音声合成手段に投入されると、音声信号ｓからなる音韻系列が出力される。そして、この音韻系列ｓが蝸牛特性フィルタ・バンクに入力され、話者間の相違が吸収された音韻系列ｕに変換される。音声信号学習手段は、この音韻系列ｕから、聞き真似をするための音声合成パラメータｙoを生成する。さらに、この音声合成パラメータｙoが音声合成手段に投入されると、聞き真似をした音韻系列が発されることになる。
【００２７】
このような行動制御システムによれば、ロボット装置は、ランダムな発生に対して、自分で入力を分析して学習（予測誤差、あるいは相関学習）することができる。また、人間が意味を感じた音に対して同じ音を出すと、それを分析して同じく学習（個人性を吸収する学習＋発生の強化学習）することができる。すなわち、ロボット装置は、聞いた声が自分の発生でどのパラメータに相当するかを覚えることができ、意味のある発生を覚えることができるようになる。
【００２８】
また、このような行動制御システムによれば、写像手段が写像時の逆関数を用いて、入力された音声合成パラメータに相当する内部状態を逆推定することができる。すなわち、人の声を聞いたときに、自分の内部状態が逆写像で求まるという、身体的理解を実現することができる。
【００２９】
また、本発明の第２の側面は、内部状態と外部環境に基づいて発現すべき行動を決定するとともに、予測学習を行なうロボットの行動制御システムにおいて、
前記ロボットは、駆動指令に基づいて動作する駆動手段と、内部状態を管理する内部状態管理手段と、外部刺激又は物理環境を計測する計測手段を備えており、
前記行動制御システムは、前記ロボットの駆動指令、内部状態、物理環境に関する現在の観測値と現在の目標値を入力し、次の時刻におけるこれらの推定値を推定する予測学習手段を備える、
ことを特徴とするロボットの行動制御システムである。
【００３０】
ロボット装置は、現在観測されている世界、現在目標とする世界、次の時刻において予測される世界、並びに実ロボットが動作した結果観測される次の時刻における世界という４つの世界に取り囲まれている。ここでは、各世界をロボットの駆動指令、内部状態、物理環境というパラメータで記述することにしている。
【００３１】
この予測学習手段は、例えば、フィードフォワード型ニューラル・ネットワークや相関学習器により構成することができる。
【００３２】
そして、予測学習手段は、次の時刻における前記ロボットの駆動指令、内部状態、物理環境の推定値と、次の時刻におけるこれらの観測値との偏差や相関などに基づいて予測学習を行なうことができる。
【００３３】
また、本発明の第２の側面に係る行動制御システムによれば、ロボット装置は、ロボット単体の身体的ダイナミクス以外に、道具を使った道具ダイナミクスを実現することもできる。後者の場合、ロボット装置は、外部環境に対し道具を用いたインタラクションを行なう。
【００３４】
このような場合、予測学習手段は、物理環境を操作するために使用した道具と、道具を介した物理環境の操作結果としてのボディー・イメージと、物理環境を取り扱うことで、上述とは同じ枠組みで、道具の力学系を学習し、それを“道具”として使うことが可能になる。
【００３５】
また、学習のメカニズムを利用してロボット装置の自己発達を実現する場合、過大なテーマが与えられると、学習の結果がなかなか収束せず、学習効率が上がらないという問題がある。そこで、本発明では、学習メカニズムに発達のシナリオの概念を取り入れることができる。
【００３６】
発達のシナリオは、複数の学習フェーズで構成される。各学習フェーズでは、ロボット装置が実現する自由度構成（関節の可動角やトルク限界など）や取るべき行動リスト（本能的行動、反射行動など）を、学習の進行に従って定義している。学習フェーズ毎にファイルで管理することにより、学習の進行に応じたファイルをアクセスし、発達のシナリオを実現することができる。
【００３７】
学習フェーズの遷移は、時間の経過でコントロールしてもよいが、予測学習手段における推定値と現実の観測値との偏差や相関に基づいてコントロールすることができる。すなわち、推定値通りに実ロボットが行動できるようになれば、現在の学習フェーズをクリアしたとみなし、次の学習フェーズへ遷移させるようにすればよい。
【発明の効果】
【００３８】
本発明によれば、自律的な動作を行ないユーザとのリアリスティックなコミュニケーションを実現することができる、優れた情報処理システム、ロボットの行動制御システム及び行動制御方法、並びにロボット装置を提供することができる。
【００３９】
また、本発明によれば、視覚や聴覚などの外部環境の認識結果や本能や感情などの内部状態などのロボットが置かれている状況を統合的に判断して適当な行動を選択することができる、優れた情報処理システム、ロボットの行動制御システム及び行動制御方法、並びにロボット装置を提供することができる。
【００４０】
また、本発明によれば、外部環境や内部状態に基づいて本能的、反射的な状況依存型の行動、又はその他の形態により発現される行動を選択することができる、優れた情報処理システム、ロボットの行動制御システム及び行動制御方法、並びにロボット装置を提供することができる。
【００４１】
また、本発明によれば、模倣や学習などのメカニズムを取り入れ、自律的に学習し、自己発達により進化を遂げることができる、優れた情報処理システム、ロボットの行動制御システム及び行動制御方法、並びにロボット装置を提供することができる。
【００４２】
本発明のさらに他の目的、特徴や利点は、後述する本発明の実施形態や添付する図面に基づくより詳細な説明によって明らかになるであろう。
【発明を実施するための最良の形態】
【００４３】
以下、図面を参照しながら本発明の実施形態について詳解する。
【００４４】
Ａ．システム構成
図１には、本発明に実施に供されるロボット装置１の機能構成を模式的に示している。同図に示すように、ロボット装置１は、全体の動作の統括的制御やその他のデータ処理を行なう制御ユニット２０と、入出力部４０と、駆動部５０と、電源部６０とで構成される。以下、各部について説明する。
【００４５】
入出力部４０は、入力部としてロボット装置１の目に相当するＣＣＤカメラ１５や、耳に相当するマイクロフォン１６、頭部や背中などの部位に配設されてユーザの接触を感知するタッチ・センサ１８、あるいは五感に相当するその他の各種のセンサを含む。また、出力部として、口に相当するスピーカ１７、あるいは点滅の組み合わせや点灯のタイミングにより顔の表情を形成するＬＥＤインジケータ（目ランプ）１９などを装備している。これら出力部は、音声やランプの点滅など、脚などによる機械運動パターン以外の形式でもロボット装置１からのユーザ・フィードバックを表現することができる。
【００４６】
ここで、カメラ１５や、マイクロフォン１６、タッチ・センサ１８などの入力機器は、検出信号をデジタル変換並びにデジタル信号処理を行なうものとする。例えば、マイクロフォン１６は、蝸牛特性フィルタ・バンクによるフィルタリングやその他のデジタル信号処理を行なうＤＳＰ（Ｄｉｇｉｔａｌ  Ｓｉｇｎａｌ  Ｐｒｏｃｅｓｓｏｒ）を含んでいる。
【００４７】
ロボット装置１は、カメラ１５を含むことで、作業空間上に存在する任意の物体の形状や色彩を認識することができる。また、ロボット装置１は、カメラのような視覚手段の他に、赤外線、音波、超音波、電波などの発信波を受信する受信装置をさらに備えていてもよい。この場合、各伝送波を検知するセンサ出力に基づいて発信源からの位置や向きを計測することができる。
【００４８】
駆動部５０は、制御部２０が指令する所定の運動パターンに従ってロボット装置１の機体動作を実現する機能ブロックであり、行動制御による制御対象である。駆動部５０は、ロボット装置１の各関節における自由度を実現するための機能モジュールであり、それぞれの関節におけるロール、ピッチ、ヨーなど各軸毎に設けられた複数の駆動ユニットで構成される。各駆動ユニットは、所定軸回りの回転動作を行なうモータ５１と、モータ５１の回転位置を検出するエンコーダ５２と、エンコーダ５２の出力に基づいてモータ５１の回転位置や回転速度を適応的に制御するドライバ５３の組み合わせで構成される。
【００４９】
駆動ユニットの組み合わせ方によって、ロボット装置１を例えば２足歩行又は４足歩行などの脚式移動ロボットとして構成することができる。
【００５０】
電源部６０は、その字義通り、ロボット装置１内の各電気回路などに対して給電を行なう機能モジュールである。本実施形態に係るロボット装置１は、バッテリを用いた自律駆動式であり、電源部６０は、充電バッテリ６１と、充電バッテリ６１の充放電状態を管理する充放電制御部６２とで構成される。
【００５１】
充電バッテリ６１は、例えば、複数本のリチウムイオン２次電池セルをカートリッジ式にパッケージ化した「バッテリ・パック」の形態で構成される。また、充放電制御部６２は、バッテリ６１の端子電圧や充電／放電電流量、バッテリ６１の周囲温度などを測定することでバッテリ６１の残存容量を把握し、充電の開始時期や終了時期などを決定する。充放電制御部６２が決定する充電の開始及び終了時期は制御ユニット２０に通知され、ロボット装置１が充電オペレーションを開始及び終了するためのトリガとなる。
【００５２】
制御部２０は、「頭脳」に相当し、例えばロボット装置１の頭部ユニットあるいは胴体部ユニットに搭載される。
【００５３】
図２には、制御ユニット２０の構成をさらに詳細に図解している。同図に示すように、制御ユニット２０は、メイン・コントローラとしてのＣＰＵ（Ｃｅｎｔｒａｌ Ｐｒｏｃｅｓｓｉｎｇ Ｕｎｉｔ）１２１が、メモリその他の各回路コンポーネントや周辺機器とバス接続された構成となっている。バス２８は、データ・バス、アドレス・バス、コントロール・バスなどを含む共通信号伝送路である。
【００５４】
ＲＡＭ（Ｒａｎｄｏｍ Ａｃｃｅｓｓ Ｍｅｍｏｒｙ）２２は、ＤＲＡＭ（Ｄｙｎａｍｉｃ ＲＡＭ）などの揮発性メモリで構成された書き込み可能メモリであり、ＣＰＵ２１が実行するプログラム・コードをロードしたり、実行プログラムによる作業データの一時的に保存したりするために使用される。
【００５５】
ＲＯＭ（Ｒｅａｄ Ｏｎｌｙ Ｍｅｍｏｒｙ）２３は、プログラムやデータを恒久的に格納する読み出し専用メモリである。ＲＯＭ２３に格納されるプログラム・コードには、ロボット装置１の電源投入時に実行する自己診断テスト・プログラムや、ロボット装置１の動作を規定する動作制御プログラムなどが挙げられる。
【００５６】
本実施形態に係るロボット装置１は、動作制御プログラムによって、外部刺激の認識結果や内部状態の変化に応じて行動制御を行なうことができるが、行動制御のシステム構成については後述に譲る。
【００５７】
不揮発性メモリ２４は、例えばＥＥＰＲＯＭ（Ｅｌｅｃｔｒｉｃａｌｌｙ Ｅｒａｓａｂｌｅ ａｎｄ Ｐｒｏｇｒａｍｍａｂｌｅ ＲＯＭ）のように、電気的に消去再書き込みが可能なメモリ素子で構成され、逐次更新すべきデータを不揮発的に保持するために使用される。逐次更新すべきデータには、例えば、製造番号や暗号鍵などのセキュリティ情報などが挙げられる。
【００５８】
インターフェース２５は、制御ユニット２０外の機器と相互接続し、データ交換を可能にするための装置である。インターフェース２５は、例えば、カメラ１５やマイクロフォン１６、スピーカ１７との間でデータ入出力を行なう。また、インターフェース２５は、駆動部５０内の各駆動回路５３−１…との間でデータやコマンドの入出力を行なう。
【００５９】
また、インターフェース２５は、ＲＳ（Ｒｅｃｏｍｍｅｎｄｅｄ Ｓｔａｎｄａｒｄ）−２３２Ｃなどのシリアル・インターフェース、ＩＥＥＥ（Ｉｎｓｔｉｔｕｔｅ ｏｆ Ｅｌｅｃｔｒｉｃａｌ ａｎｄ Ｅｌｅｃｔｒｏｎｉｃｓ Ｅｎｇｉｎｅｅｒｓ）１２８４などのパラレル・インターフェース、ＵＳＢ（Ｕｎｉｖｅｒｓａｌ Ｓｅｒｉａｌ Ｂｕｓ）インターフェース、ｉ−Ｌｉｎｋ（ＩＥＥＥ１３９４）インターフェース、ＳＣＳＩ（Ｓｍａｌｌ Ｃｏｍｐｕｔｅｒ Ｓｙｓｔｅｍ Ｉｎｔｅｒｆａｃｅ）インターフェース、メモリ・カード・インターフェースなどのような、コンピュータの周辺機器接続用の汎用インターフェースを備え、ローカル接続された外部機器との間でプログラムやデータの移動を行なうようにしてもよい。
【００６０】
また、インターフェース２５の他の例として、赤外線通信（ＩｒＤＡ）インターフェースを備え、外部機器と無線通信を行なうようにしてもよい。
【００６１】
さらに、制御ユニット２０は、無線通信インターフェース２６を含み、Ｂｌｕｅｔｏｏｔｈのような近距離無線データ通信やＩＥＥＥ８０２．１１ｂのような無線ネットワークにより機体の数メートル以内に配設されたアクセスポイント（図示しない）との間で無線データ通信を行なうことができる。アクセスポイントは、さらにＬＡＮなどの小規模ネットワークやインターネットなどの広域ネットワークに相互接続され、ロボット装置１をネットワーク上の情報提供空間へと導くことができる。
【００６２】
Ｂ．行動制御システム
ロボットの行動は、本能的行動、反射的行動、条件反応的行動、学習行動、学習済み行動などに分類することができる。学習行動は、行動の順序を覚える（すなわち運動計画を立てる）、あるいはダイナミクス（ロボット単体の身体的ダイナミクス、道具を使った道具ダイナミクス（後述）を含む）を覚えることを含み、探索学習や、物まね学習などが含まれる。また、条件反応的行動、学習行動、学習済み行動は、本能行動と反射行動に基づいて実装することが可能である。
【００６３】
ロボットの行動制御システムを実装する上で、これらの行動を統一的に扱う仕組みが重要であると、本発明者らは思料する。例えば、どういうときに「ものまね」を行ない、どういうときに「因果行動」をとるべきかである。
【００６４】
図３には、本発明の実施形態に係るロボット装置１の行動制御システム１００の機能構成を模式的に示している。ロボット装置１は、外部刺激の認識結果や内部状態の変化に応じて行動制御を行なうことができる。さらには、長期記憶機能を備え、外部刺激から内部状態の変化を連想記憶することにより、外部刺激の認識結果や内部状態の変化に応じて行動制御を行なうことができる。
【００６５】
図示の行動制御システム１００にはオブジェクト指向プログラミングを採り入れて実装することができる。この場合、各ソフトウェアは、データとそのデータに対する処理手続きとを一体化させた「オブジェクト」というモジュール単位で扱われる。また、各オブジェクトは、メッセージ通信と共有メモリを使ったオブジェクト間通信方法によりデータの受け渡しとＩｎｖｏｋｅを行なうことができる。
【００６６】
行動制御システム１００は、外部環境（Ｅｎｖｉｒｏｎｍｅｎｔｓ）を認識するために、視覚認識機能部１０１と、聴覚認識機能部１０２と、接触認識機能部１０３を備えている。
【００６７】
視覚認識機能部（Ｖｉｄｅｏ）５１は、例えば、ＣＣＤカメラのような画像入力装置を介して入力された撮影画像を基に、顔認識や色認識などの画像認識処理や特徴抽出を行なう。視覚認識機能部５１は、後述する"ＭｕｌｔｉＣｏｌｏｒＴｒａｃｋｅｒ"，"ＦａｃｅＤｅｔｅｃｔｏｒ"，"ＦａｃｅＩｄｅｎｔｉｆｙ"といった複数のオブジェクトで構成される。
【００６８】
聴覚認識機能部（Ａｕｄｉｏ）５２は、マイクなどの音声入力装置を介して入力される音声データを音声認識して、特徴抽出したり、単語セット（テキスト）認識を行ったりする。聴覚認識機能部５２は、後述する"ＡｕｄｉｏＲｅｃｏｇ"，"ＡｕｔｈｕｒＤｅｃｏｄｅｒ"といった複数のオブジェクトで構成される。
接触認識機能部（Ｔａｃｔｉｌｅ）５３は、例えば機体の頭部などに内蔵された接触センサによるセンサ信号を認識して、「なでられた」とか「叩かれた」という外部刺激を認識する。
【００６９】
内部状態管理部（ＩＳＭ：Ｉｎｔｅｒｎａｌ Ｓｔａｔｕｓ Ｍａｎａｇｅｒ）１０４は、本能や感情といった数種類の情動を数式モデル化して管理しており、上述の視覚認識機能部１０１と、聴覚認識機能部１０２と、接触認識機能部１０３によって認識された外部刺激（ＥＳ：ＥｘｔｅｒｎａｌＳｔｉｍｕｌａ）に応じてロボット装置１の本能や情動といった内部状態を管理する。
【００７０】
感情モデルと本能モデルは、それぞれ認識結果と行動履歴を入力に持ち、感情値と本能値を管理している。行動モデルは、これら感情値や本能値を参照することができる。
【００７１】
本実施形態では、情動についてその存在意義による複数階層で構成され、それぞれの階層で動作する。決定された複数の動作から、そのときの外部環境や内部状態によってどの動作を行なうかを決定するようになっている。また、それぞれの階層で行動は選択されるが、より低次の行動から優先的に動作を発現していくことにより、反射などの本能的行動や、記憶を用いた動作選択などの高次の行動を１つの個体上で矛盾なく発現することができる。
【００７２】
ロボット装置１は、外部刺激の認識結果や内部状態の変化に応じて行動制御を行なうために、時間の経過とともに失われる短期的な記憶を行なう短期記憶部１０５と、情報を比較的長期間保持するための長期記憶部１０６を備えている。短期記憶と長期記憶という記憶メカニズムの分類は神経心理学に依拠する。
【００７３】
短期記憶部（ＳｈｏｒｔＴｅｒｍＭｅｍｏｒｙ）１０５は、上述の視覚認識機能部１０１と、聴覚認識機能部１０２と、接触認識機能部１０３によって外部環境から認識されたターゲットやイベントを短期間保持する機能モジュールである。例えば、カメラ１５からの入力画像を約１５秒程度の短い期間だけ記憶する。
【００７４】
長期記憶部（ＬｏｎｇＴｅｒｍＭｅｍｏｒｙ）１０６は、物の名前など学習により得られた情報を長期間保持するために使用される。長期記憶部１０６は、例えば、ある行動モジュールにおいて外部刺激から内部状態の変化を連想記憶することができる。
【００７５】
また、本実施形態に係るロボット装置１の行動制御は、反射行動部１０９によって実現される「反射行動」と、状況依存行動階層１０８によって実現される「状況依存行動」と、熟考行動階層１０７によって実現される「熟考行動」と、行動の学習と評価を行なう学習行動部１１０によって実現される「学習行動」に大別される。
【００７６】
反射的行動部（ＲｅｆｌｅｘｉｖｅＳｉｔｕａｔｅｄＢｅｈａｖｉｏｒｓＬａｙｅｒ）１０９は、上述の視覚認識機能部１０１と、聴覚認識機能部１０２と、接触認識機能部１０３によって認識された外部刺激に応じて反射的な機体動作を実現する機能モジュールである。
【００７７】
反射行動とは、基本的に、センサ入力された外部情報の認識結果を直接受けて、これを分類して、出力行動を直接決定する行動のことである。例えば、人間の顔を追いかけたり、うなずいたりといった振る舞いは反射行動として実装することが好ましい。
【００７８】
状況依存行動階層（ＳｉｔｕａｔｅｄＢｅｈａｖｉｏｒｓＬａｙｅｒ）１０８は、短期記憶部１０５並びに長期記憶部１０６の記憶されている外部環境や、内部状態管理部１０４によって管理される内部状態を基に、ロボット装置１が現在置かれている状況に即応した本能的行動又はその他の形態の状況依存型の行動を制御する。
【００７９】
状況依存行動階層１０８は、各行動毎にステートマシン（又は状態遷移モデル）を用意しており、それ以前の行動や状況に依存して、センサ入力された外部情報の認識結果を分類して、行動を機体上で発現する。また、状況依存行動階層１０８は、内部状態をある範囲に保つための行動（「ホメオスタシス行動」とも呼ぶ）も実現し、内部状態が指定した範囲内を越えた場合には、その内部状態を当該範囲内に戻すための行動が出現し易くなるようにその行動を活性化させる（実際には、内部状態と外部環境の両方を考慮した形で行動が選択される）。状況依存行動は、反射行動に比し、反応時間が遅い。
【００８０】
熟考行動階層（ＤｅｌｉｂｅｒａｔｉｖｅＬａｙｅｒ）１０７は、短期記憶部１０５並びに長期記憶部１０６の記憶内容に基づいて、ロボット装置１の比較的長期にわたる行動計画などを行なう。
【００８１】
熟考行動とは、与えられた状況あるいは人間からの命令により、推論やそれを実現するための計画を立てて行なわれる行動のことである。例えば、ロボットの位置と目標の位置から経路を探索することは熟考行動に相当する。このような推論や計画は、ロボット装置１がインタラクションを保つための反応時間よりも処理時間や計算負荷を要する（すなわち処理時間がかかる）可能性があるので、上記の反射行動や状況依存行動がリアルタイムで反応を返しながら、熟考行動は推論や計画を行なう。
【００８２】
熟考行動階層１０７や状況依存行動階層１０８、反射行動部１０９は、ロボット装置１のハードウェア構成に非依存の上位のアプリケーション・プログラムとして記述することができる。これに対し、ハードウェア依存層制御部（ＣｏｎｆｉｇｕｒａｔｉｏｎＤｅｐｅｎｄｅｎｔＡｃｔｉｏｎｓＡｎｄＲｅａｃｔｉｏｎｓ）１１１は、これら上位アプリケーション（「スキーマ」と呼ばれる行動モジュール）からの命令に応じて、関節アクチュエータの駆動などの機体のハードウェア（外部環境）を直接操作する。
【００８３】
学習行動部１１０は、行動の順序を覚える（すなわち運動計画を立てる）、あるいはダイナミクス（ロボット単体の身体的ダイナミクス、道具を使った道具ダイナミクス（後述）を含む）を覚えることを含み、探索学習や、物まね学習などを行なう。
【００８４】
図３に示したようなロボット１の行動制御システム１００における各機能モジュールは、オブジェクトとして構成される。各オブジェクトは、メッセージ通信と共有メモリを使ったオブジェクト間通信方法によりデータの受け渡しとＩｎｖｏｋｅを行なうことができる。図４には、本実施形態に係る行動制御システム１００のオブジェクト構成を模式的に示している。
【００８５】
視覚認識機能部１０１は、”ＦａｃｅＤｅｔｅｃｔｏｒ”、”ＭｕｌｉｔＣｏｌｏｔＴｒａｃｋｅｒ”、”ＦａｃｅＩｄｅｎｔｉｆｙ”という３つのオブジェクトで構成される。
【００８６】
ＦａｃｅＤｅｔｅｃｔｏｒは、画像フレーム中から顔領域を検出するオブジェクトであり、検出結果をＦａｃｅＩｄｅｎｔｉｆｙに出力する。ＭｕｌｉｔＣｏｌｏｔＴｒａｃｋｅｒは、色認識を行なうオブジェクトであり、認識結果をＦａｃｅＩｄｅｎｔｉｆｙ及びＳｈｏｒｔＴｅｒｍＭｅｍｏｒｙ（短期記憶ブ１０５を構成するオブジェクト）に出力する。また、ＦａｃｅＩｄｅｎｔｉｆｙは、検出された顔画像を手持ちの人物辞書で検索するなどして人物の識別を行ない、顔画像領域の位置、大きさ情報とともに人物のＩＤ情報をＳｈｏｒｔＴｅｒｍＭｅｍｏｒｙに出力する。
【００８７】
聴覚認識機能部１０２は、”ＡｕｄｉｏＲｅｃｏｇ”と”ＳｐｅｅｃｈＲｅｃｏｇ”という２つのオブジェクトで構成される。ＡｕｄｉｏＲｅｃｏｇは、マイクなどの音声入力装置からの音声データを受け取って、特徴抽出と音声区間検出を行なうオブジェクトであり、音声区間の音声データの特徴量及び音源方向をＳｐｅｅｃｈＲｅｃｏｇやＳｈｏｒｔＴｅｒｍＭｅｍｏｒｙに出力する。ＳｐｅｅｃｈＲｅｃｏｇは、ＡｕｄｉｏＲｅｃｏｇから受け取った音声特徴量と音声辞書及び構文辞書を使って音声認識を行なうオブジェクトであり、認識された単語のセットをＳｈｏｒｔＴｅｒｍＭｅｍｏｒｙに出力する。
【００８８】
触覚認識記憶部１０３は、接触センサからのセンサ入力を認識する”ＴａｃｔｉｌｅＳｅｎｓｏｒ”というオブジェクトで構成され、認識結果はＳＨｏｒｔＴｅｒｍＭｅｍｏｒｙや内部状態を管理するオブジェクトであるＩｎｔｅｒｎａｌＳｔａｔｅＭｏｄｅｌ（ＩＳＭ）に出力する。
【００８９】
ＳｈｏｒｔＴｅｒｍＭｅｍｏｒｙ（ＳＴＭ）は、短期記憶部１０５を構成するオブジェクトであり、上述の認識系の各オブジェクトによって外部環境から認識されたターゲットやイベントを短期間保持（例えばカメラ１５からの入力画像を約１５秒程度の短い期間だけ記憶する）する機能モジュールであり、ＳＴＭクライアントであるＳｉｔｕａｔｅｄＢｅｈａｖｉｏｒｓＬａｙｅｒに対して外部刺激の通知（Ｎｏｔｉｆｙ）を定期的に行なう。
【００９０】
ＬｏｎｇＴｅｒｍＭｅｍｏｒｙ（ＬＴＭ）は、長期記憶部１０６を構成するオブジェクトであり、物の名前など学習により得られた情報を長期間保持するために使用される。ＬｏｎｇＴｅｒｍＭｅｍｏｒｙは、例えば、ある行動モジュールにおいて外部刺激から内部状態の変化を連想記憶することができる。
【００９１】
ＩｎｔｅｒｎａｌＳｔａｔｕｓＭａｎａｇｅｒ（ＩＳＭ）は、内部状態管理部１０４を構成するオブジェクトであり、本能や感情といった数種類の情動を数式モデル化して管理しており、上述の認識系の各オブジェクトによって認識された外部刺激（ＥＳ：ＥｘｔｅｒｎａｌＳｔｉｍｕｌａ）に応じてロボット装置１の本能や情動といった内部状態を管理する。
【００９２】
ＳｉｔｕａｔｅｄＢｅｈａｖｉｏｒｓｌａｙｅｒ（ＳＢＬ）は状況依存型行動階層１０８を構成するオブジェクトである。ＳＢＬは、ＳｈｏｒＴｅｒｍＭｅｍｏｒｙのクライアント（ＳＴＭクライアント）となるオブジェクトであり、ＳｈｏｒＴｅｒｍＭｅｍｏｒｙからは定期的に外部刺激（ターゲットやイベント）に関する情報の通知（Ｎｏｔｉｆｙ）を受け取ると、スキーマ（ｓｃｈｅｍａ）すなわち実行すべき行動モジュールを決定する（後述）。
【００９３】
ＲｅｆｌｅｘｉｖｅＳｉｔｕａｔｅｄＢｅｈａｖｉｏｒｓＬａｙｅｒは、反射的行動部１０９を構成するオブジェクトであり、上述した認識系の各オブジェクトによって認識された外部刺激に応じて反射的・直接的な機体動作を実行する。例えば、人間の顔を追いかけたり、うなずいたり、障害物の検出により咄嗟に避けたりといった振る舞いを行なう。
【００９４】
ＳｉｔｕａｔｅｄＢｅｈａｖｉｏｒｓｌａｙｅｒは、外部刺激や内部状態の変化などの状況に応じて行動を選択する。これに対し、ＲｅｆｌｅｘｉｖｅＳｉｔｕａｔｅｄＢｅｈａｖｉｏｒｓＬａｙｅｒは、外部刺激に応じて反射的を行動する。これら２つのオブジェクトによる行動選択は独立して行なわれるため、互いに選択された行動モジュール（スキーマ）を機体上で実行する場合に、ロボット１のハードウェア・リソースが競合して実現不可能なこともある。Ｒｅｓｏｕｒｃｅｍａｎａｇｅｒというオブジェクトは、ＳｉｔｕａｔｅｄＢｅｈａｖｉｏｒｓｌａｙｅｒとＲｅｆｌｅｘｉｖｅＳｉｔｕａｔｅｄＢｅｈａｖｉｏｒｓＬａｙｅｒによる行動選択時のハードウェアの競合を調停する。そして、調停結果に基づいて機体動作を実現する各オブジェクトに通知することにより機体が駆動する。
【００９５】
ＳｏｕｎｄＰｅｒｆｏｒｍｅｒ、ＭｏｔｉｏｎＣｏｎｔｒｏｌｌｅｒ、ＬｅｄＣｏｎｔｒｏｌｌｅｒは、機体動作を実現するオブジェクトである。ＳｏｕｎｄＰｅｒｆｏｒｍｅｒは、音声出力を行なうためのオブジェクトであり、ＲｅｓｏｕｒｃｅＭａｎａｇｅｒ経由でＳｉｔｕａｔｅｄＢｅｈａｖｉｏｒＬａｙｅｒから与えられたテキスト・コマンドに応じて音声合成を行ない、ロボット１の機体上のスピーカから音声出力を行なう。また、ＭｏｔｉｏｎＣｏｎｔｒｏｌｌｅｒは、機体上の各関節アクチュエータの動作を行なうためのオブジェクトであり、ＲｅｓｏｕｒｃｅＭａｎａｇｅｒ経由でＳｉｔｕａｔｅｄＢｅｈａｖｉｏｒＬａｙｅｒから手や脚などを動かすコマンドを受けたことに応答して、該当する関節角を計算する。また、ＬｅｄＣｏｎｔｒｏｌｌｅｒは、ＬＥＤ１９の点滅動作を行なうためのオブジェクトであり、ＲｅｓｏｕｒｃｅＭａｎａｇｅｒ経由でＳｉｔｕａｔｅｄＢｅｈａｖｉｏｒＬａｙｅｒからコマンドを受けたことに応答してＬＥＤ１９の点滅駆動を行なう。
【００９６】
Ｃ．状況依存行動
本実施形態に係るロボット装置は、外部環境や内部状態に基づいて、状況に即応した本能的行動又はその他の形態の状況依存型の行動を制御することができる。
【００９７】
図５には、状況依存行動階層（ＳＢＬ）１０８（但し、反射行動部１０９を含む）による状況依存行動制御の形態を模式的に示している。認識系１０１〜１０３による外部環境の認識結果は、外部刺激として状況依存行動階層１０８（反射行動部１０９を含む）に与えられる。また、認識系による外部環境の認識結果に応じた内部状態の変化も状況依存行動階層１０８に与えられる。そして、状況依存行動階層１０８では、外部刺激や内部状態の変化に応じて状況を判断して、行動選択を実現することができる。
【００９８】
状況依存行動階層１０８は、行動モジュール毎にステートマシンを用意しており、それ以前の行動や状況に依存して、センサ入力された外部情報の認識結果を分類して、行動を機体上で発現する。行動モジュールは、機体動作を記述し行動実行に伴う状態遷移（ステートマシン）を実現するＡｃｔｉｏｎ機能と、Ａｃｔｉｏｎ機能において記述された行動の実行を外部刺激や内部状態に応じて評価して状況判断を行なうＭｏｎｉｔｏｒ機能とを備えたスキーマ（ｓｃｈｅｍａ）として記述される。図６には、状況依存行動階層１０８が複数のスキーマによって構成されている様子を模式的に示している。
【００９９】
状況依存行動階層１０８（より厳密には、状況依存行動階層１０８のうち、通常の状況依存行動を制御する階層）は、複数のスキーマが階層的に連結されたツリー構造として構成され、外部刺激や内部状態の変化に応じてより最適なスキーマを統合的に判断して行動制御を行なうようになっている。ツリーは、例えば動物行動学的（Ｅｔｈｏｌｏｇｉｃａｌ）な状況依存行動を数式化した行動モデルや、感情表現を実行するためのサブツリーなど、複数のサブツリー（又は枝）を含んでいる。
【０１００】
各スキーマは外部刺激と内部状態を入力している。また、各スキーマは、少なくともＭｏｎｉｔｏｒ関数とＡｃｔｉｏｎ関数を備えている。図７には、スキーマの内部構成を模式的に示している。同図に示すように、スキーマは、所定の事象の発生に従がって状態（又はステート）が移り変わっていく状態遷移モデル（ステートマシン）の形式で機体動作を記述したＡｃｔｉｏｎ関数と、外部刺激や内部状態に応じてＡｃｔｉｏｎ関数の各状態を評価して活動度レベル値として返すＭｏｎｉｔｏｒ関数と、Ａｃｔｉｏｎ関数のステートマシンをＲＥＡＤＹ（準備完了）、ＡＣＴＩＶＥ（活動中），ＳＬＥＥＰ（待機中）いずれかの状態としてスキーマの状態を記憶管理する状態管理部で構成されている。
【０１０１】
Ｍｏｎｉｔｏｒ関数は、外部刺激と内部状態に応じて当該スキーマの活動度レベル（Ａｃｔｉｖａｔｉｏｎ Ｌｅｖｅｌ：ＡＬ値）を算出する関数である。図６に示すようなツリー構造を構成する場合、上位（親）のスキーマは外部刺激と内部状態を引数として下位（子供）のスキーマのＭｏｎｉｔｏｒ関数をコールすることができ、子供のスキーマはＡＬ値を返り値とする。また、スキーマは自分のＡＬ値を算出するために、さらに子供のスキーマのＭｏｎｉｔｏｒ関数をコールすることができる。そして、ルートのスキーマには各サブツリーからのＡＬ値が返されるので、外部刺激と内部状態の変化に応じた最適なスキーマすなわち行動を統合的に判断することができる。
【０１０２】
例えばＡＬ値が最も高いスキーマを選択したり、ＡＬ値が所定の閾値を越えた２以上のスキーマを選択して並列的に行動実行したりするようにしてもよい（但し、並列実行するときは各スキーマ同士でハードウェア・リソースの競合がないことを前提とする）。
【０１０３】
図７で示す例では、スキーマすなわち行動モジュールの管理を行なう行動状態制御部（仮称）は、Ｍｏｎｉｔｏｒ関数からの戻り値に基づいて、実行すべき行動を選択し、該当するスキーマのＡｃｔｉｏｎ関数をコールし、あるいは状態管理部に記憶されているスキーマの状態の移行を指示する。例えば行動誘発評価値としての活動度レベルが最も高いスキーマを選択したり、リソースが競合しないように優先順位に従って複数のスキーマを選択したりする。また、行動状態制御部は、より優先順位の高いスキーマが起動し、リソースの競合が生じた場合、優先順位が下位のスキーマの状態をＡＣＴＩＶＥからＳＬＥＥＰに退避させ、競合状態が解かれるとＡＣＴＩＶＥに回復するなど、スキーマの状態を制御する。
【０１０４】
Ｄ．ロボットの内部状態管理
本実施形態に係るロボットの行動制御システム１００では、状況依存行動階層１０８は内部状態と外部環境によって行動を決定する。
【０１０５】
ロボット装置１の内部状態は、本能や感情といった数種類の情動で構成され、数式モデル化して扱われる。内部状態管理部（ＩＳＭ：Ｉｎｔｅｒｎａｌ Ｓｔａｔｕｓ Ｍａｎａｇｅｒ）１０４は、上述した各認識機能部１０１〜１０３によって認識された外部刺激（ＥＳ：ＥｘｔｅｒｎａｌＳｔｉｍｕｌａ）と、時間的経過に基づいて、内部状態を管理する。
【０１０６】
図８には、内部状態管理部１０４と他の機能モジュールとの通信経路を模式的に示している。
【０１０７】
短期記憶部１０５は、外部環境の変化を認識する各認識機能部１０１〜１０３からの認識結果を、内部状態管理部１０４と状況依存行動階層１０８に出力する。  内部状態管理部１０４は、状況依存行動階層１０８に内部状態を通知する。これに対し、状況依存行動階層１０８は、連想又は決定した本能や感情の情報を返す。
【０１０８】
また、状況依存行動階層１０８は、内部状態と外部環境から算出される活動度レベルを基に行動を選択するとともに、選択した行動の実行と完了を短期記憶部１０５経由で内部状態管理部１０４に通知する。
【０１０９】
内部状態管理部１０４は、行動毎に内部状態を長期記憶部１０６に出力する。これに対し、長期記憶部１０６は、記憶情報を返す。
【０１１０】
バイオリズム管理部は、バイオリズム情報を内部状態管理部１０４に供給する。
【０１１１】
内部状態の指標は時間経過により変化する。例えば、１次情動すなわち本能であるＨｕｎｇｅｒ（空腹感）、Ｆａｔｉｇｕｅ（疲労）、Ｓｌｅｅｐ（眠気）は、時間経過によりそれぞれ以下のように変化する。
【０１１２】
Ｈｕｎｇｅｒ：おなかが減る（仮想値又はバッテリ残量）
Ｆａｔｉｇｕｅ：疲れがたまる
Ｓｌｅｅｐ：眠気がたまる
【０１１３】
また、本実施形態では、ロボットの２次情動すなわち感情（Ｅｍｏｔｉｏｎ）の要素としてＰｌｅａｓａｎｔｎｅｓｓ（満足度），Ａｃｔｉｖａｔｉｏｎ（活動度），Ｃｅｒｔａｉｎｔｙ（確信度）を定義しているが、時間経過によりそれぞれ以下のように変化する。
【０１１４】
Ｐｌｅａｓａｎｔｎｅｓｓ：Ｎｅｕｔｒａｌ（中立）に向かって変化する
Ａｃｔｉｖａｔｉｏｎ：バイオリズムやＳｌｅｅｐ（眠気）に依存する
Ｃｅｒｔａｉｎｔｙ：Ａｔｔｅｎｔｉｏｎに依存する
【０１１５】
また、内部状態は、ロボットが動作を実行することによっても変化する。
【０１１６】
例えば、「眠る」という行動を行なうスキーマは、下位の１次情動としてのＳｌｅｅｐ（眠気）を満たす行動が最終目標としている。状況依存行動階層１０８では、１次情動としてのＳｌｅｅｐと２次情動としてのＡｃｔｉｖａｔｉｏｎを基に各スキーマの活動度レベルを算出・比較して、「眠る」スキーマを選択し、この結果、眠るという行動が実現される。
【０１１７】
一方、状況依存行動階層１０８は、眠るという行動の実行完了を短期記憶部１０５経由で内部状態管理部１０４に伝達する。これに対し、内部状態管理部１０４は、「眠る」行動の実行により、１次情動であるＳｌｅｅｐの指標値を変更する。
【０１１８】
そして、状況依存行動階層１０８では、Ｓｌｅｅｐが満たされた度合いと２次情動としてのＡｃｔｉｖａｔｉｏｎを基に各スキーマの活動度レベルを改めて算出・比較する。この結果、優先度が高くなった他のスキーマを選択し、眠るというスキーマから抜ける。
【０１１９】
また、内部状態は、ロボットが動作を実行したときに得られるセンサ情報によっても変化する。
【０１２０】
ロボットが動作を実行したときのその動作程度は、各認識機能部１０１〜１０３によって認識され、短期記憶部１０５経由で内部状態管理部１０４に通知される。内部状態管理部１０４は、この動作程度を例えばＦａｔｉｇｕｅ（疲労）として１次情動の変化に反映させることができる。また、この１次情動の変化に応答して、２次情動も変化させることができる。
【０１２１】
Ｅ．聞き真似をするシステム
ロボット装置の自己発達、行動創発を実現する上で、模倣のメカニズムを採り入れることは効果的であると本発明者らは思料する。
【０１２２】
これまで、物まねやジェスチャ認識を行なうロボット装置の研究開発はなされてきた。ロボット装置同士で物まねやジェスチャ認識を行なうこともできるが、人間すなわちケアギバを直接真似ることきできれば、ロボット装置の学習や自己発達はより効率的となり、進歩の速度も向上するであろう。
【０１２３】
ここで、人間の模倣メカニズムを実現するには、なぜロボットが人間の模倣を行なうか（動機付け）、人体が持つ自由度の相違のため、適する動きをどのように選択するか、どうやって対応をとっていくのか、といった問題を解決しなければならない。
【０１２４】
また、聞き真似を考えた場合、同じ音韻を発する場合であっても、ケアギバとロボット装置における周波数特性の相違や、ケアギバの個体差の問題がある。さらに、人間の場合、同じ音韻であっても、そのときの感情などの内部状態又は身体的制約により特性の異なる発音内容となる。人間の肉声の聞き真似を行なうロボット装置に関する事例は皆無に等しい。
【０１２５】
以下では、ロボットが人間の肉声を基に音韻系列を学習するメカニズムについて提案する。この聞き真似メカニズムによれば、身体的制約を考慮して、意味のある音韻系列のみを学習することができる。
【０１２６】
図９には、本発明の実施形態に係る聞き真似システムの構成を模式的に示している。図示の聞き真似システム１０００は、蝸牛特性フィルタ・バンク１００１と、音声信号学習器１００２と、音声合成器１００３で構成される。
【０１２７】
蝸牛特性フィルタ・バンク１００１は、音韻が基準周波数の逓倍の中心周波数を持つ複数の成分で構成されるという性質を利用して、話者間での同じ音韻系列の相違を見え易くする機能モジュールである。以下では、蝸牛特性フィルタ・バンク１００１を、話者毎の音韻系列ｓ並びにｓ’を入力とし、ｓとｓ’の相違を見え易い形式の系列ｕに変換する関数Ｋとして扱う。蝸牛特性フィルタ・バンク１００１は、例えば、マイクロフォン１６に付随するＤＳＰ（前述）内に実装することができる。
【０１２８】
なお、蝸牛特性フィルタ・バンクは、人間の聴覚末梢系である内耳の蝸牛特性を擬似化したもので、Ｊ．Ｍ．Ｋａｔｅｓの提案による（ＩＥＥＥ ＴＲＡＮＳＡＣＴＩＯＮＳ ＯＮ ＳＩＧＮＡＬ ＰＲＯＣＥＳＳＩＮＧ．ＶＯＬ．３９，ＮＯ．１２，ＤＥＣＥＭＢＥＲ １９９１及びＩＥＥＥ ＴＲＡＮＳＡＣＴＩＯＮＳ ＯＮ ＳＰＥＥＣＨ ＡＮＤ ＡＵＤＩＯ ＰＲＯＣＥＳＳＩＮＧＮ ＶＯＬ．１，ＮＯ．４， ＯＣＴＯＢＥＲ １９９３）。一般に、蝸牛には周波数解析機能があると言われており、本実施形態ではデジタル蝸牛モデル中のフィルタ・バンク部分を使用して、音声の周波数解析を行なう。
【０１２９】
音声信号学習器１００２は、入力された音声信号の音声合成パラメータｙと、ロボット装置自身がこれを聞き真似して発生する音声合成パラメータｙoとの関係を評価・学習する機能モジュールである。以下では、音声信号学習器１００２を、ｙをｙoに変換する学習の評価画数Ｈとして扱う。この評価関数Ｈは、音韻系列ｕを入力とし、これを音声合成のパラメータとなるｙに変換する。なお、学習メカニズムとして、例えばフィードフォワード型ニューラル・ネットワークを適用することができる。音声信号学習器１００２は、例えば、認識系のオブジェクトであるＳｐｅｅｃｈＲｅｃｏｇ（前述）内に組み込むことができる。
【０１３０】
音声合成器１００３は、入力された音声合成パラメータｙに基づいて、出力する音声信号ｓを合成する機能モジュールであり、以下では、ｙを入力としｓを出力する関数Ｇとして扱う。音声合成器１００３は、例えば出力系のオブジェクトＳｏｕｎｄＰｅｒｆｏｒｍｅｒ（前述）内に組み込むことができる。
【０１３１】
図９に示したシステムによる聞き真似のメカニズムは、下式のように記述することができる。
【０１３２】
（１）ｙ  →  Ｇ  →  ｓ
（２）ｓ  →  Ｋ  →  ｕ
（３）ｕ  →  Ｈ  →  ｙo
【０１３３】
すなわち、音韻系列の素となる音声合成パラメータｙが音声合成関数Ｇに投入されると、音声信号ｓからなる音韻系列が出力される。そして、この音韻系列ｓが蝸牛特性フィルタ・バンク１００１に入力されると、そのフィルタ関数Ｋにより話者間の相違が吸収された音韻系列ｕに変換される。音声信号学習器１００２としての学習関数Ｈは、この音韻系列ｕから、聞き真似をするための音声合成パラメータｙoを生成する。さらに、この音声合成パラメータｙoが音声合成関数Ｇに投入されると、聞き真似をした音韻系列が発されることになる。
【０１３４】
ここで、音声信号学習器１００２としての学習関数Ｈは、当該システムへの入力としての音声合成パラメータｙと、聞き真似するための音声合成パラメータｙoとの相違を評価して、学習を行なう。
【０１３５】
人間の場合、同じ音韻であっても、そのときの感情などの内部状態又は身体的制約により特性の異なる発音内容となるが、図９に示したシステム構成では、このような身体的制約は考慮されない。
【０１３６】
図１０には、このような身体的制約を考慮し、内部状態を理解することができる聞き真似システムの構成例を模式的に示している。図示の聞き真似システム１０００は、蝸牛特性フィルタ・バンク１００１と、音声信号学習器１００２と、音声合成器１００３に加えて、内部状態生成器１００４と、写像器１００５を備えている。
【０１３７】
蝸牛特性フィルタ・バンク１００１は、音韻が基準周波数の低倍の中心周波数を持つ複数の成分で構成されるという性質を利用して、話者間での同じ音韻系列の相違を見え易くする機能モジュールであり、関数Ｋとして扱う。
【０１３８】
音声信号学習器１００２は、入力された音声信号の音声合成パラメータｙと、ロボット装置自身がこれを聞き真似して発生する音声合成パラメータｙoとの関係を評価・学習する機能モジュールであり、評価画数Ｈとして扱う。
【０１３９】
音声合成器１００３は、入力された音声合成パラメータｙに基づいて、出力する音声信号ｓを合成する機能モジュールであり、関数Ｇとして扱う。
【０１４０】
内部状態生成器１００４は、息や身体伸ばしなどの信号からなる現在の内部状態ｘを生成する。
【０１４１】
写像器１００５は、現在の内部状態ｘを音声合成パラメータｙに射影する。以下では、写像器１００５を、入力ｘをｙに変換する関数Ｆとして扱う。
【０１４２】
図１０に示したシステムにおいて、ロボット自身の声から内部状態を理解するメカニズムは、下式のように記述することができる。
【０１４３】
（１）ｘ  →  Ｆ  →  ｙ
（２）ｙ  →  Ｇ  →  ｓ
（３）ｓ  →  Ｋ  →  ｕ
（４）ｕ  →  Ｈ  →  ｙo
【０１４４】
内部状態生成器１００４により内部状態ｘが生成されると、写像器１００５により、内部状態を表した音韻系列を生成するための音声合成パラメータｙに変換される。そして、音声合成パラメータｙが音声合成関数Ｇに投入されると、音声信号ｓからなる音韻系列が出力される。そして、この音韻系列ｓが蝸牛特性フィルタ・バンク１００１に入力されると、そのフィルタ関数Ｋにより話者間の相違が吸収された音韻系列ｕに変換される。音声信号学習器１００２としての学習関数Ｈは、この音韻系列ｕから、聞き真似をするための音声合成パラメータｙoを生成する。さらに、この音声合成パラメータｙoが音声合成関数Ｇに投入されると、聞き真似をした音韻系列が発されることになる。上式のうち、（２）〜（４）は上述した聞き真似のメカニズムに相当する。
【０１４５】
図１０に示したシステムでは、ランダムな発声に対して、自分で入力を分析して学習（予測誤差、あるいは相関学習）することができる。また、人間が意味を感じた音に対して同じ音を出すと、それを分析して同じく学習（個人性を吸収する学習＋発生の強化学習）することができる。
【０１４６】
したがって、このようなメカニズムによれば、聞いた声が自分の発声でどのパラメータに相当するかを覚えることができる。すなわち、ロボット装置は、意味のある発声を覚えることができる。
【０１４７】
また、図１０に示したシステムにおいて、ケアギバの声からその内部状態を理解するメカニズムは、下式のように記述することができる。
【０１４８】
（１）ｓ’  →  Ｋ  →  ｕ’
（２）ｕ’  →  Ｈ  →  ｙo’
（３）ｙo’  →  ｙ’
（４）ｙ’  →  Ｇ  →  ｓ
（５）ｙ’  →  Ｆ-1  →  ｘ’
【０１４９】
ケアギバが発する音韻系列ｓ’が蝸牛特性フィルタ・バンク１００１に入力されると、そのフィルタ関数Ｋにより話者間の相違が吸収された音韻系列ｕ’に変換される。音声信号学習器１００２としての学習関数Ｈは、この音韻系列ｕ’から、聞き真似をするための音声合成パラメータｙo’を生成する。
【０１５０】
ここで、音声信号学習器１００２としての学習関数Ｈは、ケアギバの音韻系列に基づく音声合成パラメータｙ’と、聞き真似するための音声合成パラメータｙo’との相違を評価して、学習を行なう。
【０１５１】
そして、音声合成パラメータｙ’が音声合成関数Ｇに投入されると、ケアギバの聞き真似としての音韻系列ｓが出力される。
【０１５２】
また、写像器１００５では、逆関数Ｆ-1を用いて、音声合成パラメータｙ’に相当する内部状態ｘ’を導き出す。これは、内部状態を逆推定することに相当する。すなわち、人の声を聞いたときに、自分の内部状態が逆写像で求まるという、身体的理解を実現することができる訳である。
【０１５３】
Ｆ．学習行動
学習とは、作業上における知識の増大と技能の習熟の過程を表すものであり、ロボット装置の自己発達を実現する上で欠くことができない機能と言える。
【０１５４】
ロボット装置の学習行動は、行動の順序を覚える（すなわち運動計画を立てる）、あるいはダイナミクス（ロボット単体の身体的ダイナミクス、道具を使った道具ダイナミクス（後述）を含む）を覚えることを含み、探索学習や、物まね学習などが含まれる。また、条件反応的行動、学習行動、学習済み行動は、本能行動と反射行動に基づいて実装することが可能である。
【０１５５】
本発明に係るロボット装置は、環境（すなわち外部刺激）とロボット自身の内部状態を含む力学構造を学習するとともに、これを予測に用い、コマンド・シーケンスを決定するという予測学習型の学習行動システムを実現する。
【０１５６】
Ｇ−１．予測学習システム
図１１には、本発明に係るロボット装置が備える予測学習器のシステム構成を模式的に示している。
【０１５７】
ここで、ロボット装置自身すなわち実ロボットは、人やその他のモデルとなる動物の筋肉や骨格に相当するアクチュエータ及びフレーム、並びに外部刺激を検出する感覚に相当するセンサを備えている。また、ロボット装置の行動制御システムは、現在の内部状態を保持するとともに、センサ入力により外部環境を認識し、内部状態と外部環境に基づいて発現すべき行動を決定することができる（例えば、図３、図５を参照のこと）。そして、行動制御は、実ロボットに対するモータ・コマンドという形態で外部に表出される。
【０１５８】
一方、予測学習器は、現在観測されている世界、現在目標とする世界、次の時刻において予測される世界、並びに実ロボットが動作した結果観測される次の時刻における世界という４つの世界に取り囲まれている。
【０１５９】
ここで言う世界とは、ロボット装置の内部状態、ロボット装置の行動を制御するモータ・コマンド、及び、行動実行時にセンサで検出される外部環境を表す各パラメータでそれぞれ記述される。言い換えれば、予測学習器は、上述の各世界を記述する（内部状態，モータ・コマンド，センサ出力）を入力し、それぞれの世界を理解することができる。
【０１６０】
予測学習は一般に、現在の観測値に基づいて次の時刻における観測値（推定値）を推定するとともに、次の時刻における実際の観測値を測定し、次の時刻における予測された推定値と実際の観測値との偏差や相関などに基づいて、予測を学習し、コマンド・シーケンスの決定に利用していくものである。本実施形態に係る予測学習器は、現在の観測値以外に、現在の目標値を入力に持つという点で特徴がある。すなわち、予測学習器は、目標とする世界すなわち目標値と、現在観測されている世界すなわち観測値を入力として学習と評価を行なう。予測学習器自体は、フォワード型ニューラル・ネットワークやリカレントニューラルネットワーク、又は相関学習器を用いて構成することができる。
【０１６１】
本実施形態に係る予測学習器による学習過程について、図１２を参照しながら説明する。
【０１６２】
同図において、現実のロボット装置に相当する実ロボットは、全身の筋肉や骨格など駆動部分の総称としてのモータと、感情や情動などの内部状態と、周囲の物理環境を外部刺激として計測するセンサを備えている。モータは、行動制御システムなどから供給されるモータ・コマンドによって動作する。また、センサは、モータ・コマンド実行時すなわち実ロボットが動作したときの物理環境を検出する。そして、内部状態は、モータによる動作結果と、センサの検出結果に基づいて変化していく（図８を参照のこと）。
【０１６３】
現在時刻Ｔにおいて、実ロボットは、投入されたモータ・コマンドを実行し、そのときのモータの実行結果（関節角度やモータ・トルクなど）と、物理環境若しくは外部刺激を計測したセンサ出力と、モータの実行結果とセンサ出力に基づいて変化した内部状態を、現在の観測値Ｏｂ（Ｔ）として、予測学習器に入力する。
【０１６４】
また、目標値生成器は、現在時刻Ｔにおける目標となるモータの実行結果、センサ出力、及び内部状態からなる目標値Ｔａ（Ｔ）を生成し、予測学習器に入力する。
【０１６５】
そして、予測学習器は、次の時刻Ｔ＋ΔＴにおけるモータの実行結果、センサ出力、及び内部状態の推定値Ｐｒ（Ｔ＋ΔＴ）を推定する。この推定は、例えばフォワード型ニューラル・ネットワーク、リカレントニューラルネットワーク又は相関学習に基づく。
【０１６６】
一方、実ロボットでは、外部環境と内部状態に応じた行動制御（前述）に基づいて、次の時刻Ｔ＋ΔＴにおける行動すなわちモータ・コマンドが生成され、この結果、次の時刻Ｔ＋ΔＴにおけるモータの実行結果と、物理環境若しくは外部刺激を計測したセンサ出力と、モータの実行結果とセンサ出力に基づいて変化した内部状態を、次の時刻の観測値Ｏｂ（Ｔ＋ΔＴ）として、予測学習器に入力する。
【０１６７】
そして、予測学習器では、次の時刻Ｔ＋ΔＴにおける推定値Ｐｒ（Ｔ＋ΔＴ）と現実の観測値Ｏｂ（Ｔ＋ΔＴ）に基づいて、予測学習を行なう。予測学習器は、例えば、推定値Ｐｒ（Ｔ＋ΔＴ）と現実の観測値Ｏｂ（Ｔ＋ΔＴ）との偏差や相関に基づいて学習を行なう。
【０１６８】
なお、目標生成器は、ユーザ入力に基づいて目標値Ｔａ（Ｔ）を生成してもよいし、ロボット装置の内部状態と外部環境に基づいて状況依存により目標値Ｔａ（Ｔ）を生成するようにしてもよい。
【０１６９】
Ｇ−２．道具を用いたインタラクションの学習
本実施形態に係るロボット装置は、ロボット単体の身体的ダイナミクス以外に、道具を使った道具ダイナミクスを実現することもできる。後者の場合、ロボット装置は、外部環境に対し道具を用いたインタラクションを行なう。
【０１７０】
図１３には、ロボット装置が道具を使った道具ダイナミクスを学習する予測学習器のシステム構成を模式的に示している。図示の予測学習器は、図１１に示したシステム構成と同じ枠組みで、道具の力学系を学習し、それを“道具”として使う。
【０１７１】
図１１に示した例では、予測学習器は、実ロボットがモータ・コマンドを実行したときのモータの実行結果（関節角度やモータ・トルクなど）と、物理環境を計測したセンサ出力と、内部状態を取り扱っていた。これに対し、図１３に示すシステム構成では、物理環境を操作するために使用した道具と、道具を介した物理環境の操作結果としてのボディー・イメージと、物理環境を取り扱う。これによって、予測学習器には、道具のモデルが学習される。ここで、実ロボットがどの道具を用いたかは、モータ・コマンド及びセンサ出力により検出することができる。
【０１７２】
現在時刻Ｔにおいて、実ロボットは、投入されたモータ・コマンドを実行し、そのときの道具を使ったインタラクションの結果（関節角度やモータ・トルクなど）をボディー・イメージとして、使った道具、及びセンサ出力からなる物理環境とともに、現在の観測値Ｏｂ（Ｔ）として、予測学習器に入力する。
【０１７３】
また、目標値生成器は、現在時刻Ｔにおける目標となるボディー・イメージと、使う道具、及び物理環境に関する目標値Ｔａ（Ｔ）を生成し、予測学習器に入力する。
【０１７４】
そして、予測学習器は、次の時刻Ｔ＋ΔＴにおけるボディー・イメージと、使う道具、及び物理環境に関する推定値Ｐｒ（Ｔ＋ΔＴ）を推定する。この推定は、例えばフォワード型ニューラル・ネットワーク、又は相関学習に基づく。
【０１７５】
一方、実ロボットでは、外部環境と内部状態に応じた行動制御（前述）に基づいて、次の時刻Ｔ＋ΔＴにおける行動が生成され、この結果、次の時刻Ｔ＋ΔＴにおけるボディー・イメージと、使う道具、及び物理環境に関する観測値Ｏｂ（Ｔ＋ΔＴ）として、予測学習器に入力する。
【０１７６】
そして、予測学習器では、次の時刻Ｔ＋ΔＴにおける推定値Ｐｒ（Ｔ＋ΔＴ）と現実の観測値Ｏｂ（Ｔ＋ΔＴ）に基づいて、予測学習を行なう。予測学習器は、例えば、推定値Ｐｒ（Ｔ＋ΔＴ）と現実の観測値Ｏｂ（Ｔ＋ΔＴ）との偏差や相関に基づいて学習を行なう。この結果、予測学習器には、道具のモデルが学習される。
【０１７７】
Ｇ−３．発達のシナリオを持った学習
上述したように、本発明では、学習のメカニズムを取り入れることにより、ロボット装置の自己発達を実現する。
【０１７８】
ここで、過大なテーマが与えられると、学習の結果がなかなか収束せず、学習効率が上がらないという問題がある。そこで、本発明では、学習メカニズムに発達のシナリオの概念を取り入れることにした。
【０１７９】
発達のシナリオは、複数の学習フェーズで構成される。各学習フェーズでは、ロボット装置が実現する自由度構成（関節の可動角やトルク限界など）や取るべき行動リスト（本能的行動、反射行動など）を、学習の進行に従って定義している。
【０１８０】
学習フェーズ毎にファイルで管理することにより、学習の進行に応じたファイルをアクセスし、発達のシナリオを実現することができる。
【０１８１】
また、学習フェーズの遷移は、時間の経過でコントロールしてもよいが、予測学習器における推定値Ｐｒ（Ｔ＋ΔＴ）と現実の観測値Ｏｂ（Ｔ＋ΔＴ）との偏差や相関に基づいてコントロールすることができる。すなわち、推定値通りに実ロボットが行動できるようになれば、現在の学習フェーズをクリアしたとみなし、次の学習フェーズへ遷移させる。
【０１８２】
図１４には、発達のシナリオを持つ予測学習器のシステム構成を模式的に示している。
【０１８３】
ロボット装置自身すなわち実ロボットは、人やその他のモデルとなる動物の筋肉や骨格に相当するアクチュエータ及びフレーム、並びに外部刺激を検出する感覚に相当するセンサを備えている。また、ロボット装置の行動制御システムは、現在の内部状態を保持するとともに、センサ入力により外部環境を認識し、内部状態と外部環境に基づいて発現すべき行動を決定する。
【０１８４】
予測学習器は、目標とする世界すなわち目標値と、現在観測されている世界すなわち観測値を入力として学習と評価を行なう。予測学習器自体は、フォワード型ニューラル・ネットワーク、又は相関学習器を用いて構成することができる。
【０１８５】
現在時刻Ｔにおいて、実ロボットは、投入されたモータ・コマンドを実行し、そのときのモータの実行結果（関節角度やモータ・トルクなど）と、物理環境若しくは外部刺激を計測したセンサ出力と、モータの実行結果とセンサ出力に基づいて変化した内部状態を、現在の観測値Ｏｂ（Ｔ）として、予測学習器に入力する。
【０１８６】
ここで、発達のシナリオには、学習フェーズに応じた自由度構成（関節の可動角やトルク限界など）や取るべき行動リスト（本能的行動、反射行動など）を記述した学習フェーズ・ファイルが格納されている。選択器は、実ロボットの現在の学習の度合いに適合した学習フェーズ・ファイルを取り出す。そして、実ロボットは、このファイルの記述内容に従って、モータ・コマンドの実行を行なう。
【０１８７】
また、目標値生成器は、現在時刻Ｔにおける目標となるモータの実行結果、センサ出力、及び内部状態からなる目標値Ｔａ（Ｔ）を生成し、予測学習器に入力する。
【０１８８】
そして、予測学習器は、次の時刻Ｔ＋ΔＴにおけるモータの実行結果、センサ出力、及び内部状態の推定値Ｐｒ（Ｔ＋ΔＴ）を推定する。この推定は、例えばフォワード型ニューラル・ネットワーク、又は相関学習に基づく。
【０１８９】
一方、実ロボットでは、外部環境と内部状態に応じた行動制御（前述）に基づいて、次の時刻Ｔ＋ΔＴにおける行動すなわちモータ・コマンドが生成され、この結果、次の時刻Ｔ＋ΔＴにおけるモータの実行結果と、物理環境若しくは外部刺激を計測したセンサ出力と、モータの実行結果とセンサ出力に基づいて変化した内部状態を、次の時刻の観測値Ｏｂ（Ｔ＋ΔＴ）として、予測学習器に入力する。但し、モータ・コマンドの実行は、学習フェーズの定義に従う（同上）。
【０１９０】
そして、予測学習器では、次の時刻Ｔ＋ΔＴにおける推定値Ｐｒ（Ｔ＋ΔＴ）と現実の観測値Ｏｂ（Ｔ＋ΔＴ）に基づいて、予測学習を行なう。予測学習器は、例えば、推定値Ｐｒ（Ｔ＋ΔＴ）と現実の観測値Ｏｂ（Ｔ＋ΔＴ）との偏差や相関に基づいて学習を行なう。
【０１９１】
また、選択器は、時間の経過、又は、推定値Ｐｒ（Ｔ＋ΔＴ）と現実の観測値Ｏｂ（Ｔ＋ΔＴ）との偏差や相関に基づいて、学習フェーズの遷移をコントロールする。すなわち、推定値通りに実ロボットが行動できるようになれば、現在の学習フェーズをクリアしたとみなし、発達のシナリオから、次の学習フェーズに相当するファイルを取り出し、学習を進行させる。
【０１９２】
Ｇ−４：報酬評価と目標生成
報酬評価は、内部状態及び内部状態をどのような状態にすることが評価が高いか、に基づいて行なうことができる。本能行動や反射行動は、この設計された報酬評価に基づいて行動が選択されていく。一方、目標生成をこの報酬評価に基づいて行なうことができる。高い評価を得た状態を目標として記憶することで、本能反射行動で探索を行ないながら高い評価の状態を目標とし、以降探索を行なわずにこの状態を目標とする行動生成を予測学習器に学習させることができる。
【０１９３】
Ｇ−５：リハースとプランニング
目標に対して学習された予測学習器を用いて、現在の状態から目標の状態までを実際に行動を生成せずに、予測学習器の出力を入力にフィードバックして時刻Ｔ、Ｔ＋１、Ｔ＋２、…と生成し、リハースすることが可能である。この結果を用いて実際の行動を選択し、効率的に目標達成の行動を行なうことができる（図１５を参照のこと）。
【０１９４】
Ｇ−６：行動出力の調停
本能反射行動と予測学習器の生成する行動のどちらを実際の行動として出力するかを調停することにより、探索や模倣などが本能反射行動として実装されている場合には、本能反射行動の出力を用いて学習しながら行動し、学習が進んだ段階では、偏差を利用することで予測学習器の出力を利用するように調停を行なうことができる。これにより、学習を行ないながら、学習が進んだ状態では予測学習期の出力を利用する自律行動を実現することができる。
【産業上の利用可能性】
【０１９５】
以上、特定の実施例を参照しながら、本発明について詳解してきた。しかしながら、本発明の要旨を逸脱しない範囲で当業者が該実施例の修正や代用を成し得ることは自明である。
【０１９６】
本発明の要旨は、必ずしも「ロボット」と称される製品には限定されない。すなわち、電気的若しくは磁気的な作用を用いて人間の動作に似せた運動を行なう機械装置であるならば、例えば玩具等のような他の産業分野に属する製品であっても、同様に本発明を適用することができる。
【０１９７】
要するに、例示という形態で本発明を開示してきたのであり、本明細書の記載内容を限定的に解釈するべきではない。本発明の要旨を判断するためには、冒頭に記載した特許請求の範囲の欄を参酌すべきである。
【図面の簡単な説明】
【０１９８】
【図１】図１は、本発明に実施に供されるロボット装置１の機能構成を模式的に示した図である。
【図２】図２は、制御ユニット２０の構成を示した図である。
【図３】図３は、本発明の実施形態に係るロボット装置１の行動制御システム１００の機能構成を模式的に示した図である。
【図４】図４は、行動制御システム１００のオブジェクト構成を模式的に示した図である。
【図５】図５は、状況依存行動階層（ＳＢＬ）１０８（但し、反射行動部１０９を含む）による状況依存行動制御の形態を模式的に示した図である。
【図６】図６は、状況依存行動階層１０８が複数のスキーマによって構成されている様子を模式的に示した図である。
【図７】図７は、スキーマの内部構成を模式的に示した図である。
【図８】図８は、内部状態管理部１０４と他の機能モジュールとの通信経路を模式的に示した図である。
【図９】図９は、本発明に係る聞き真似システムの構成を模式的に示した図である。
【図１０】図１０は、本発明に係る聞き真似システムについての他の構成を模式的に示した図である。
【図１１】図１１は、本発明に係るロボット装置が備える予測学習器のシステム構成を模式的に示した図である。
【図１２】図１２は、予測学習器による学習過程を説明するための図である。
【図１３】図１３は、ロボット装置が道具を使った道具ダイナミクスを学習する予測学習器のシステム構成を模式的に示した図である。
【図１４】図１４は、発達のシナリオを持つ予測学習器のシステム構成を模式的に示した図である。
【図１５】図１５は、リハースとプランニングを説明するための図である。
【符号の説明】
【０１９９】
１…ロボット装置
１５…ＣＣＤカメラ
１６…マイクロフォン
１７…スピーカ
１８…タッチ・センサ
１９…ＬＥＤインジケータ
２０…制御部ユニット
２１…ＣＰＵ
２２…ＲＡＭ
２３…ＲＯＭ
２４…不揮発メモリ
２５…インターフェース
２６…無線通信インターフェース
２８…バス
４０…入出力部
５０…駆動部
５１…モータ
５２…エンコーダ
５３…ドライバ
１０００…聞き真似システム
１００１…蝸牛特性フィルタ・バンク
１００２…音声信号学習器
１００３…音声合成器
１００４…内部状態生成器
１００５…写像器
【図１】
0004661074.tif 000002
【図２】
0004661074.tif 000003
【図３】
0004661074.tif 000004
【図４】
0004661074.tif 000005
【図５】
0004661074.tif 000006
【図６】
0004661074.tif 000007
【図７】
0004661074.tif 000008
【図８】
0004661074.tif 000009
【図９】
0004661074.tif 000010
【図１０】
0004661074.tif 000011
【図１１】
0004661074.tif 000012
【図１２】
0004661074.tif 000013
【図１３】
0004661074.tif 000014
【図１４】
0004661074.tif 000015
【図１５】
0004661074.tif 000016