触覚情報利活用のための運動データ圧縮技術
代表研究者
共同研究者
共同研究者

辻古田
佐藤俊明
大地航陽

埼玉大学大学院理工学研究科准教授
埼玉大学大学院理工学研究科修士課程
埼玉大学大学院理工学研究科修士課程

1 はじめにICT 技術の進歩および IoT 技術の浸透により、インターネット上で利活用できるデータの量・種類はいずれも増大し続けている。現時点では、画像や音声などのメディアを対象とした技術中心に研究が展開されている。その一方で触覚に関する技術は、五感を対象とする他のメディアと比してデータ利活用の試みが遅れている。触覚を対象とするメディアは多くの場合でロボットなどの運動制御系を伴い、インタフェースの構築にはコストが必要である。そのため触覚メディアの浸透は遅れているが、2014 年に日本政府主導でロボット革命実現会議が立ち上げられるなど、ロボットは人と情報環境を繋ぐインタフェースとして今後浸透する可能性が高まりつつある。その一方で、触覚情報およびこれを時系列順に記録した運動データをいかに利活用するかの議論はほとんどなされていない。そこで本研究調査では力と位置の情報の混合で表される運動データを処理するための方法論を研究した。特に力学的制約を考慮したアルゴリズムで運動データを圧縮する技術を開発することにより、データ量の削減と照合性能の向上を図った。
まず、力覚センサと RGB-D カメラを組み合わせた技能運動学習支援システムを開発し、そのシステムを用いて技能運動のデータを記録した。その次に技能運動のデータベースを圧縮する方法論を検討した。マルチレート型のフィルタや PCA, Seq2Seq モデルなど様々な手法を候補として検討を行った結果、リカレントニューラルネットワーク(RNN)の一種である LSTM が効果の高いデータ圧縮効果を持つとの結論に至った。そこで
LSTM を用いた技能運動の低次元化手法を開発した。その内容を以下に述べる。
本提案手法では、上記の目的を実現するために、入力した動作からタスクを実現できるかを判別する成否判定モデルを利用した。図 1.1 に提案する学習方法の概念図を示す。動作生成を行う NN が出力した動作軌
道を成否判定モデルに入力すれば、タスク成功確率を予測できる。つまり、成否判定モデルが出力するタス
ク成功確率が 100%となるような損失関数を与えれば、動作軌道がタスクを成功するように学習される。損失関数が低くなるように調整された軌道を生成することは、複数回実行された技能運動を低次元化された形に抽象化することと等価になる。低次元化されたデータから動作を生成できるようになれば必要なデータ量は少なくなる。言い換えればニューラルネットワークによる技能運動の抽象化は効率的なデータ圧縮の効果を持つ。
また、この動作生成を行う NN は、損失関数にロボットの制約条件(e.g. 速度制限・可動範囲)を与えることができる。このため、ロボットの制約条件を考慮した動作軌道を生成できる。
よって、動作生成を行う NN にタスク成功確率が 100%となるような損失関数とロボットの制約を満たすような損失関数の 2 つの損失関数を与え学習させる。
これにより、さまざまなロボットの制約条件を考慮し、なおかつタスクを実現できる動作の生成を実現する。また、作成が困難な成否判定モデルを、実際の人間動作データとタスクの成否をニューラルネットワークに学習させることで作成した。
まとめると、本提案手法では、動作からタスクの成否判定を行うニューラルネットワーク(NNjudge) と、動作生成を行うニューラルネットワーク(NNtrajectory)の 2 つのニューラルネットワークを用いて目的を実現した。

図 1.1 提案の機械学習システム

1

1-1 成否判定を行うニューラルネットワーク
動作からタスクの成否判定を行うニューラルネットワーク(NNjudge)の構造を図 1.2 に示す。図 1.2 が示
すように、2 層の LSTM と 2 層のフィードフォワード型ニューラルネットワーク(FNN)を用い、タスク成否の二値分類とした。また、ここで、xｋはｋステップ目の人間動作時の位置・速度・力センサ値である(e.g.)。
Env はタスク実行時の環境変数である(e.g. 地面の剛性や物体の初期位置)。

図 1.2 タスクの成否判定を行う NNjudge の構造表

１-２ 動作生成を行うニューラルネットワーク（１）動作生成を行うニューラルネットワークの構造
動作生成を行うニューラルネットワークについて述べる。現在位置 qｋと環境変数 Env から 1 ステップ後のk +1 を生成する。図 1.3 は動作生成手法である。出力された加速度を 2 回積分し位置とし力 fk+1 と加速度 qて(NNtrajectory)に再入力することで動作軌道を生成する。

図 1.3

NNtrajectory による動作生成（2）動作生成を行うニューラルネットワークの学習
図 1.4 および式(2)に学習時の NN の構造と損失関数を示す。式(2)は、(NNjudge)の出力が成功と判別されるような損失関数となっており、生成される動作がタスクを成功させるように学習する。ここで、P は重みであり、yjudge は NNjudge の成功側の出力値である。
式(3)は、ユーザが与えた制限や制約を満たす損失関数となっており、生成される動作がロボットの制約条件を満たすように学習する。ここで、Q は重みであり、 qmin, q

max, qmin, qmax,

f min , f max はそれぞれ速度、位置、力の最小値、最大値である。
式(4)は生成された動作が位置の終端値 qend と速度の終端値 q.·end で収束するような損失関数となっている。
こで、R は重みである。これらの損失関数を基に誤差逆伝播を行い、NNtrajectory のパラメータを更新すること

2

で、所望の動作生成 NN を得る。また、パラメータの更新の際、NNjudge のパラメータは更新しない。
本提案手法では、この様にタスクが成功するような損失関数とロボットの制約条件を満たすような損失関数を同時に与え学習できる。そのため、本提案手法は、成功条件が数式化が困難なタスクに対し、さまざまなロボットの制約条件を考慮し、なおかつタスクを達成できる動作の生成を可能とする。
E = E1 + E 2 + E 3(1)

E 1 = − Plogy judge(2)

 | max (qk , q max ) |2 + | max (-qk ,-q min ) |2 

E 2 = Q  + | max (qk , q max ) |2 + | max ( −q k ,−q min ) |2 k =1
 + | max ( f k , f max ) |2 + | max (− f k ,− f min ) |2 
(3)

N∑
(E 3 = R | q N − q end |2 + | q N − q end |2)(4)

図 1.4 動作を生成するニューラルネットワークの構造

2 実験機での検証
本章では、市販のマニピュレータを用いて実機実験を行い、提案手法の有効性を検証した。提案手法により生成した動作軌道で物体のすくい上げタスクを行った。
2-1 マニピュレータの環境および設定マニピュレータとして株式会社安川電機の 6 軸マニピュレータ「MOTOMAN-MH3F」を用いた。図 2.1 に本マニピュレータの概観を示す。本マニピュレータは 6 つの関節を有しており、作業範囲内においてマニピュレータ手先の位置・姿勢の 6 自由度を任意に操作することができる。マニピュレータの先端には手先力を測定するために力覚センサを取り付けており、力覚センサには万力状の把持機構を取り付けている。このため、本マニピュレータでは道具を把持し、その手先力を測定、制御できる。力覚センサは、株式会社ワコーテッ
クの小型静電容量式 6 軸力覚センサ「WDF-6M200-3」を用いた。把持機構には金属製のヘラを把持させすくい上げ実験を行った。すくい上げを行う際の地面は弾性体とし、黒いマットの上に柔らかいカーペットを置いたものを使用した。物体は剛体とし、図 2.2 に示すゴム板を用いた。また、ゴム板の質量は 61.2g である。

3

図 2.1 6 軸マニピュレータの概観

図 2.2 ヘラおよび物体概観

実験で利用した制御系を図 2.3 に示す。なお，表 2.1 に制御パラメータを示す。

図 2.3 制御系のボード線図
表 2.1
項目
位置ゲイン
速度ゲイン
力ゲインと質量行列の逆行列の積
選択行列
擬似微分器のカットオフ周波数実験で用いた制御系のパラメータ
記号値Kpdiag[1000, 1000, 1000, 2000, 2000, 2000]
Kv
diag[40, 40, 40, 50, 50, 50]
KfΛ－1
diag[1.0, 1.0, 1.0, 1.0, 1.0,1.0]S
diag[1.0, 1.0, 1.0, 1.0, 1.0,1.0]
ｇ10Hz

4

2-2 人間のタスク実行時のデータ取得
提案手法には、すくい上げタスク実行時の人間動作値とタスクの成否の関係性のデータが必要である。そのために、力情報の取得に Totsu らが提案した力覚センサ搭載デバイスとモーションキャプチャを用いた。
図 2.4 に、本研究で用いたデバイスを示す。これは、力覚センサ搭載デバイスの先端にヘラを固定し、位置データの取得用に OptiTrack のマーカを取り付けたものである。このデバイスを用いることで、すくい上げタスク実行時のヘラの位置と力を取得した。力覚センサには、株式会社 Leptrino の 6 軸力覚センサ「FFS055YA101U6S」を用いた。位置測定のために、モーションキャプチャには、NaturalPoint, Inc.の Prime41 を 4 台用いた。図 2.5 にデータ取得時の様子を示す。データ取得時は、実験系と同じ黒のマットとカーペットを用意し、その上に物体を置き、すくい上げ動作を行った。この方法でデータ取得を行う場合、1 時間当り平均 700 動作を取得できた。そのため、短い時間で十分なデータが取得できたといえる。データ収集
時のすくい上げ動作時の成功/失敗のスナップショットを、それぞれ図 2.6, 図 2.7 に示す。成功/失敗の判別は目視で判別した。目安として、物体がヘラに 9 割以上乗っていれば成功と判別した。

図 2.4 ヘラ用の力覚センサ搭載デバイス

図 2.5 人間動作データ収集時の概観

5図 2.6 すくい上げ動作データ収集中のスナップショット(成功)

図 2.7 すくい上げ動作データ収集中のスナップショット(失敗)2-3 実験:物体の初期位置不変での動作生成
実験では、物体の初期位置を不変という条件下ですくい上げ動作を行った。
実験では以下 2 点を検証した。
1 点目は、実世界においても、提案手法ですくい上げタスクが成功する動作が生成できるかの検証である。2点目は、実世界においても、さまざまなロボットの制約条件(e.g. 速度制限、可動範囲) を満たしつつすくい上げタスクが成功する動作生成ができるかの検証である。
（１）タスクの成否判定を行うニューラルネットワーク
2-2 節で述べた方法で、すくい上げタスクの成否データを取得した。取得したデータの合計は 1115 動作であり、データ取得にかかった時間は 1 時間 15 分程度である。この内、1000 データをトレーニングデータ、115 データをテストデータとした。また、取得したデータの成否判定の割合は成功 65.4%、失敗が 34.6%であった。それぞれの動作軌道の一例を図 2.8,図 2.9 に示す。図 2.10 に取得したデータ 1115 動作の最大の力と最大の速度の分布図を示す。
次に収集したデータを提案手法で述べた図 1.2 の NNjudge に学習させた。この時の各パラメータを表 2.2 に示す。また、入力する環境変数 Env を y 軸の物体初期位置 yobject とした。物体の初期位置は不変とし、 yobject= 0.246m とした。今回、学習に用いたパラメータを表 2.3 に示す

6図 2.8 すくい上げタスク実行時の動作(成功)の 図 2.9 すくい上げタスク実行時の動作(失敗)の
1例
1例

図 2.10 収集した人間動作データの最大速度と最大力の分布

表 2.2 実験で用いた NNjudge 構造のパラメータ
項目
内容
NNjudge の入力 xｋ[ykres,yk.res,fzkres]
環境変数 Env[yobject]
LSTM のニューロン数
各 100
FNN のニューロン数
各 1017表 2.3 実験で用いた NNjudge 学習のパラメータ項目内容

トレーニングデータ
テストデータ
学習回数(epoch)
学習 1 回当りの学習量
ミニバッチ
最適化手法

1000 動作115 動作300 回1000 動作10 動作Adam（2）動作生成を行うニューラルネットワーク
テストデータ正答率 96.52%の NNjudge を用いて、NNtrajectory を学習させた。本小節では、提案手法の利点であるさまざまなロボットの制約条件を考慮し、なおかつタスクを達成できる動作生成が可能なことを示すために、速度の制約を変化させ検証した。検証として、速度の制約を変えた 2 つの NNtrajectory モデルを作成し、それぞれのモデルで動作を生成しタスクが成功するかを確認した。速度の制約として、q max = [1.0 m/s]、q max =[0.4 m/s]の 2 パターンを用いた。それ以外の学習時の変数及び構造のパラメータを表 2.4、学習のパラメー
タを表 2.5 に示す。
表 2.4 実験で用いた NNtrajectory の変数および構造のパラメータ
項目内容
yobject0.246m

q start[-0.1 m]•q0

[0.0 m]q min , q max[-0.2 m],[0.4 m]

min[0.05 m/s]qmin,fqend[yobject]q end[0.0 m/s]

環境変数 Env[yobject]

FNN のニューロン数

各 150

fmax

[1.0 N] ,[10.0 N]

表 2.5 実験で用いた NNtrajectory 学習のパラメータ項目

内容

学習回数(epoch)

3000 回

学習 1 回当りの学習量

100 動作

最適化手法

Adam

（3）実験結果(2)節で学習した 2 つのモデル NNtrajectory( q max = [1.0 m/s])、NNtrajectory( q max = [0.4 m/s])を用いて動作生成した。まず、図 2.12, 図 2.13 にそれぞれのモデルが生成した際の動作軌道を示す。これらの図で、水色で囲まれた部分は、ロボットの速度制約を満たした領域を示している。これらの動作軌道から、与8えた制約条件を満たした動作生成が出来ていることがわかった。また、最大速度 q max が小さいときは、力が大きくなることがわかった。これは、速度が小さい分下方向の力を強めることですくい上げタスクを成功させようとしたことが考えられる。これらの動作軌道をロボットに与え、すくい上げタスクを 10 回試行させた。
結果、いずれの動作でも、10 本中 10 本すくい上げタスクに成功した。図 2.14, 図 2.15 にそれぞれの 1 動作のスナップショットを示す。また、図 2.16, 図 2.17 にその際の指令値と応答値の図を示す。これらの図で、黄緑色で囲まれた部分はヘラと物体が接触したであろう y ≥ 0.215m の領域を示している。
図 2.14, 図 2.15 のスナップショットから二つの動作ですくい上げタスクが成功したことがわかった。
また、図 2.16, 図 2.17 から、位置・速度は高い精度で追従し、力に多少誤差はあるが、すくい上げで重要な後半部分では追従できていることがわかった。以上のことから、さまざまな制約条件を考慮しつつタスクが成功する動作生成が可能であることが示された。また、2 層の LSTM と FNN のパラメータによって制約条件を満たすデータのパターンが全て表現されることから、動作の記録に必要な情報量は大幅に削減されることになる。

図 2.12 NNtrajectory の動作軌道( q max = [1.0 m/s]) 図 2.13 NNtrajectory の動作軌道( q max = [0.4 m/s])

図 2.14 実験によるすくい上げ動作時のスナップショットの 1 例( q max = [1.0 m/s])

図 2.15 実験によるすくい上げ動作時のスナップショットの 1 例( q max = [0.4 m/s])

9

3 結論
LSTM が時系列データを圧縮して表現する効果を持つことに着目し、お好み焼きをすくい上げる動的技能運動を学習させた。様々な動的制約条件を満たした動作が少ないパラメータで表現され、かつ技能運動が再現性高く生成されることが確認された。

図 2.16 制御応答値の 1 例( q max = [1.0 m/s])

図 2.17 制御応答値の 1 例( q max = [0.4 m/s])【参考文献】
佐野嘉則, 堀貴之, 早川拓人, 藪田哲郎, “人間技能の抽出・模擬によるフィンガ・アームロボットのヨーヨー操作(目隠しヨーヨーの実現),” 日本機械学会論文集 C 編, vol. 78, no. 790, pp. 2171–2186,
2012.

10

P.-C. Yang, K. Sasaki, K. Suzuki, K. Kase, S. Sugano, and T. Ogata, “Repeatable folding task byhumanoid robot worker using deep learning,” IEEE Robotics and Automation Letters, vol. 2, no. 2,pp. 397–403, 2017.
R. Rahmatizadeh, P. Abolghasemi, L. B¨olo¨ni, and S. Levine, “Vision-based multi-task manipulation
for inexpensive robots using end-to-end learning from demonstration,” in Proc. IEEE Int. Conf.

Robot. Autom. IEEE, 2018, pp. 3758–3765.
T. Zhang, Z. McCarthy, O. Jowl, D. Lee, X. Chen, K. Goldberg, and P. Abbeel, “Deep imitation
learning for complex manipulation tasks from virtual reality teleoperation,” in Proc. IEEE Int. Conf.

Robot. Autom. IEEE, 2018, pp. 1–8.
P. Kormushev, D. N. Nenchev, S. Calinon, and D. G. Caldwell, “Upper-body kinesthetic teaching of afree-standing humanoid robot,” in Proc. IEEE Int. Conf. Robot. Autom. IEEE, 2011, pp. 3970–3975.
H. Ochi, W. Wan, Y. Yang, N. Yamanobe, J. Pan, and K. Harada, “Deep learning scooping motion
using bilateral teleoperations,” arXiv preprint arXiv:1810.10414, 2018.
藤本和樹, 足立強, 境野翔, and 辻俊明, “人間の物体操作技能に基づくニューラルネットワークを用いた位置・力制御,” in ロボティクス・メカトロニクス講演会講演概要集. 日本機械学会, 2018, pp.
2A2–E18.
L. Rozo, P. Jim´enez, and C. Torras, “A robot learning from demonstration framework to perform
forcebased manipulation tasks,” Intelligent service robotics, vol. 6, no. 1, pp. 33–51, 2013.
T. Adachi, K. Fujimoto, S. Sakaino, and T. Tsuji, “Imitation learning for object manipulation basedon position/force information using bilateral control,” arXiv preprint arXiv:1811.03759, 2018.
N. Hirose, R. Tajima, and K. Sukigara, “Personal robot assisting transportation to support active
human life―posture stabilization based on feedback compensation of lateral acceleration,” in Proc.

IEEE/RSJ Int. Conf. Intell. Robots Syst. IEEE, 2013, pp. 659–664.
T. Tsuji, K. Kutsuzawa, and S. Sakaino, “Optimized trajectory generation based on model predictivecontrol for turning over pancakes,” IEEJ Journal of Industry Applications, vol. 7, no. 1, pp. 22–28,
2018.
岡本哲学, 沓澤京, 辻俊明, “Rrt による物体との動力学的な拘束を考慮した物体操作の軌道生成アルゴリズム,” in ロボティクス・メカトロニクス講演会講演概要集. 日本機械学会, 2016, pp. 2P2–08b6.
K. Kutsuzawa, S. Sakaino, and T. Tsuji, “Sequence-to-sequence models for trajectory deformation ofdynamic manipulation,” in Industrial Electronics Society, IECON 2017-43rd Annual Conference ofthe IEEE. IEEE, 2017, pp. 5227–5232.
——, “Sequence-to-sequence model for trajectory planning of nonprehensile manipulation including
contact model,” IEEE Robotics and Automation Letters, vol. 3, no. 4, pp. 3606–3613, 2018.
T. Tsuji, J. Ohkuma, and S. Sakaino, “Dynamic object manipulation considering contact condition ofrobot with tool,” IEEE Transactions on Industrial Electronics, vol. 63, no. 3, pp. 1972–1980, 2016.

11

T. Schlegl, P. Seeb¨ock, S. M. Waldstein, U. Schmidt-Erfurth, and G. Langs, “Unsupervised anomaly
detection with generative adversarial networks to guide marker discovery,” in International

Conference on Information Processing in Medical Imaging. Springer, 2017, pp. 146–157.
D. Li, D. Chen, J. Goh, and S.-k. Ng, “Anomaly detection with generative adversarial networks formultivariate time series,” arXiv preprint arXiv:1809.04758, 2018.

〈発題

名“Success/Failure Identiﬁcation of Skill
Movement by Neural Network Using Force
Information”“Nonprehensile Manipulation with LSTM
Learning from Demonstration”「Learning from Demonstration に基づく成否判定モデルを用いた動作計画」

表資料〉

掲載誌・学会名等IEEE IECON2019
IEEE Robotics and AutomationLetter
埼玉大学大学院理工学研究科 2018年度修士論文古田大地（指導教員：辻俊明）

12

発表年月
2019 年 11 月（投稿済）(8 月投稿予定)
2019 年 2 月