情報処理学会第 76 回全国大会

3C-5

ロボットによる描画運動発達モデルと軌道の重み付き区間認識・学習を利用した精度向上
望月 敬太 †西出 俊 ‡奥乃 博 †

尾形 哲也 §† 京都大学大学院 情報学研究科 知能情報学専攻 ‡ 京都大学 白眉センター § 早稲田大学 基幹理工学部

1. はじめに人間の認知機構をモデル化・実装し，その振る舞いを調べることで人間の認知に関する知見を得る” 構成論的手法” が近年その重要性を増している．特にその中でも，周囲の環境に適応して持続的に発達できるロボットの需要が高まってきており，ロボットにおける発達的学習が注目されている．
我々は以前にタスクの一例として描画行為を取り上げ，人間の発達を参考にしながら身体バブリング→模倣学習という流れでロボットの発達的な描画学習を提案した[1]．しかし，人間の描画行為そのものの認知モデルが組み込まれていない点や，模倣の精度が悪いなどの課題があった．そこで，本稿では人間の描画行為の認知モデルを参考にした新たなロボットの発達的描画学習を提案し，模倣精度の向上を目指す．

図 1: 描画行為の認知モデル

2. 描画行為の認知モデル
Grossberg らは，人間の描画行為における認知機構をモデル化しニューラルネットワークを用いてその正当性を説明している [2]．図 1 は，彼らが提案する認知モデ
ルの中で今回我々が注目した部分をまとめ直したものであり，人間が描画行為を行う過程とそれを学習するタイミングが示されている．我々が特に注目しているのは，図形を全体ではなくより細かい区間に切り分けながら描画を行なっているという点と，エラーが大きくなったときに軌道修正が行われ，またその時に限り運動モデルの更新が行われるという点である．本稿では，このモデルをロボットの描画学習に適応していく．

図 2: MTRNN
生成 パラメータノードに値をセットし，RNN の前向き計算を行うことで，IO ノードの発火状態の時系列データを得る．これが，与えたパラメータが表現する時系列パターンになっている．

4. 描画行為の発達的学習の手順
本稿の発達的学習は以下の 2 フェーズから成る.
フェーズ 1 身体バブリング

3. ロボットの身体モデル：MTRNNフェーズ 2 基本図形の追加模倣学習

ロボットには神経力学モデルである MTRNN(MultipleTimescale Recurrent Neural Network)[3] を 用 い る.
MTRNN は，現在の状態を入力として次状態を出力する予測器であり，複数の非線形時系列パターンを学習・汎化することができる. また，MTRNN は階層構造を持ち，通常は入出力層である IO ノード，コンテキスト層である Cf ノード，Cs ノードの 3 層から成る. 各層は時定数と呼ばれる値を持ち，IO，Cf，Cs の順に大きくなる．これにより各層がレベルの異なる機能を獲得することができる．
MTRNN は，学習・認識・生成の３つの機能を実現する．

くかんｎフェーズ 1 では，ロボットの腕をランダムに動かすことで関節角とペン先位置の時系列データを取得し，これを MTRNN に学習させる．ロボットは関節各とペン先位置の関係をダイナミクスの中で理解する．
フェーズ２では，人間が提示した図形をロボットに模倣させ，このデータをフェーズ１の学習済み MTRNN に追加学習させる．本稿では，この追加模倣学習を第２章で紹介した人間の描画運動の認知モデルに基づいた次のアルゴリズムで実装する．

学習 IO ノードに教師時系列データを入力し，BackPropagation Through Time(BPTT) によって，結合重みとパラメータ空間を更新する．

STEP 2 MTRNN で STEP 1 のデータを認識・生成．

認識 学習済みモデルの IO ノードに認識したい時系列データを入力し，BPTT によって Cf ノードと Csノードの初期値のみを更新する．これにより，対象データを表現するパラメータが得られる．

STEP 4 描画中，エラーが閾値以上になったら残りの部分を再認識・生成し，描画を再開

Developmental Model of Drawing for Robot and the Precision Improvement with Recognition and Training of Weighted Section on Trace:
Keita Mochizuki (Kyoto Univ.), Shun Niside (Kyoto Univ.), Hiroshi G.
Okuno (Kyoto Univ.), and Tetsuya Ogata (Waseda Univ.)

2-9

STEP 1 人間が複数の図形を教示．
STEP 3 STEP 2 で得られた関節角のデータを用いてロボットで実際に描画開始

STEP 5 描画終了後，エラーが大きい区間だけを選択的に MTRNN で追加学習．
STEP 6 STEP 2 へ

Copyright 2014 Information Processing Society of Japan.
All Rights Reserved.

情報処理学会第 76 回全国大会

教示データ

区間学習

区間学習＋
オンライン認識

図 3: 実験風景
図 4: エラー推移
我々は前述した論文の中で，選択的追加模倣学習という別のアルゴリズムを報告した．これは，人間が教示した複数図形を全て模倣し，その中からエラーが中間の図形のみを選択的に学習するという手法であるが．人間の認知モデルとはことなるプロセスであることや，精度が低いなどの問題があった．本稿で提案する手法（以下，本手法）は，学習データの選択単位が図形から区間に切り替わっている点と，オンライン認識を導入し描画中に修正を行えるようにしたという点で選択的追加模倣学習とは異なる．

図 5: 模倣結果コツの獲得なのではないかと考えられる．特に，学習区間が図形の開始点や終了点に加えて三角形や四角形の頂点となる部分に多く，これらの部分をコツとして認識することもできる．また，これらのコツが図形の一辺をプリミティブとして図形を分節化している可能性もあり，今後注目していきたい点である．

5. 実験： 描画運動の発達的学習

5.1 実験設定
ヒューマノイドロボット NAO を用いて，提案した描画運動の発達的学習を行った．キャンバスにはペンタブレットを用いている．本実験風景を図 3 に示す．MTRNNの入力は NAO の腕関節が 2 次元，ペンタブレットのペ7. おわりにン先位置が 2 次元の計 4 次元である．
本稿では，身体バブリング→選択的追加模倣学習といフェーズ２で用いた基本図形は，円（８種類），四角うロボットの発達的描画学習を基に，人間の描画行為の形（８種類），三角形（６種類）の計２２種類である．各認知モデルを参考に新たな発達的描画学習を提案した．
図形において種類があるのは，開始点と描画方向（右回ここでは，描画時に図形を全体としてではなく区間に区り，左回り）を変化させているためである．
評価実験では，本手法（区間学習＋オンライン認識）， 切って扱うことと，エラーが大きくなった場合に軌道修正と学習を行うことが重要であると述べた．実験の結果，オンライン認識を除いて区間学習のみを用いた手法（区前述した点が模倣精度や学習の収束速度に良い影響を与間学習のみ），および，選択的追加模倣学習の３手法をえることがわかった．
比較した．
今後の展開としては，まず区間学習のエラーの閾値や5.2 実験結果学習する区間の長さなど，本稿では決め打ちで扱ってい各実験条件の模倣学習における平均エラーの推移を図たパラメータを認知モデルを参考にして動的に変化させ３に示す．横軸が模倣学習を行った回数，縦軸がエラーていきたい．また，MTRNN の内部構造の解析を行うな値である．図３から，まず区間学習によって学習の収束どしつつ，コツの獲得の議論も行なっていきたい．
が早まっていることがわかる．また，最終的なエラーの謝辞 本研究は JST さきがけ領域「情報環境と人」，
値は選択的追加模倣学習が 1.752(cm)，区間学習のみが
文 科 省 科 研 費 新 学 術 領 域 研 究「 構 成 論 的 発 達 科 学 」
1.640(cm)，区間学習＋オンライン認識が 1.358(cm) と（No.24119003），科研費若手研究 B（No. 25730159），なっており，精度の向上が見られた．図４は最終的に描
栢森情報科学振興財団，立石科学技術振興財団の助成をかれた模倣結果の一部を示しており，橙色部分が学習に受けた．
使われた区間を示している．この図からも視覚的に精度の向上が確認できる．
参考文献

6. 考察
我々は，区間学習がコツの獲得につながるのではないかと考えている．コツの関連研究として，國吉らの起き上がり動作におけるコツの獲得がある [4]．彼らは，タスクを達成する複数の軌道の中で分散が小さくなる点をコツと呼んでおり，コツの獲得は行為の認識，特に行為の分節化において重要な役割を果たすと述べている．
本手法ではある区間を重点的に学習しており，この手法により学習の収束が早まったことから，これも一種の2-10[1] K. Mochizuki, et al.: Developmental Human-Robot Imitation Learning of Drawing with a Neuro Dynamical System, IEEE nternational
Conference on System, Man, and Cybernetics, pp.2336-2341, 2013.
[2] S. Grossberg and R. W. Paine: A neural model of cortico-cerebellarinteractions during attentive imitation and predictive learning of sequential handwriting movements, Neural Networks, pp.999-1046,
2000.
[3] Y. Yamashita and J. Tani: Emergence of Functional Hierarchy in aMultiple Timescale Neural Network Model: a Humanoid Robot Experiment, PLoS Comput. Biol., vol.4, no.11, e1000220, 2008.
[4] Kuniyoshi Y, et al.: Embodied basis of invariant features in execution
and perception of whole-body dynamic actions―knacks and focusesof Roll-and-Rise motion, Robotics and Autonomous Systems, vol.48,no.4, pp.181-201, 2004.

Copyright 2014 Information Processing Society of Japan.
All Rights Reserved.