(57)【特許請求の範囲】
【請求項１】
操作者によって直接操作されるマスタマニピュレータと、
前記マスタマニピュレータの動作に追従して動作するスレイブマニピュレータと、
前記各マニピュレータの制御計算機と、
前記スレイブマニピュレータを撮影するカメラと、
前記カメラによって得られた画像を前記操作者に呈示するディスプレイとを有し、
前記操作者が前記ディスプレイ上に呈示された前記スレイブマニピュレータを見ながら前記マスタマニピュレータを操作する遠隔操作装置において、
前記カメラによって得られた画像から前記スレイブマニピュレータの作業空間内に予め設けられた複数のマーキングを抽出し画像上における各マーキング間の距離を求める画像処理手段と、
前記画像上における各マーキング間の距離から前記スレイブマニピュレータに対する前記カメラの撮影方向を算出し、前記撮影方向をもとに、前記カメラおよび前記操作者視点の視覚座標系から前記スレイブマニピュレータの作業座標系への変換を行う座標変換行列を求める座標変換行列算出手段と、
前記座標変換行列によって前記操作者が前記マスタマニピュレータへ加える前記視覚座標系における操作ベクトルを前記作業座標系における操作ベクトルに変換する視覚作業ベクトル変換手段と、
前記作業座標系におけるベクトルを前記座標変換行列の逆行列によって前記視覚座標系におけるベクトルに変換する作業視覚ベクトル変換手段と、
前記視覚作業ベクトル変換手段が出力する前記作業座標系における操作ベクトルを指令ベクトルとして前記スレイブマニピュレータ制御計算機へと出力するとともに、前記スレイブマニピュレータ制御計算機が帰還ベクトルとして出力する前記作業座標系における前記スレイブマニピュレータの位置、速度、加速度、外部から受ける力を前記作業視覚ベクトル変換手段へと出力する操作ベクトル授受手段と、
前記操作者が前記マスタマニピュレータに加えた前記視覚座標系における操作ベクトルを前記視覚作業ベクトル変換手段に出力するとともに、前記作業視覚ベクトル変換手段が出力する前記視覚座標系における前記帰還ベクトルに従って前記マスタマニピュレータを力覚制御する視覚座標系制御手段とを備えたことを特徴とする遠隔操作装置。
【発明の詳細な説明】
【０００１】
【発明の属する技術分野】
この発明は、遠隔操作装置に関し、特にマスタスレイブマニピュレータによる遠隔操作装置に関する。
【０００２】
【従来の技術】
従来の遠隔操作装置として、特開２０００―４２９６０「マニピュレータの遠隔操作装置」に、マニピュレータを遠隔操作する装置が記載されている。
以下、簡単に図面を用いて説明する。図４において、遠隔操作装置は、スレイブマニピュレータ３１による作業空間を撮影するカメラ３２と、カメラ３２により撮影された映像を表示するディスプレイ３３と、操作者３４がディスプレイ３３の映像を見ながら操作するためのマスタマニピュレータ３５と、ロボット制御用計算機３６とを備える。制御計算機３６は、カメラおよび操作者視点の視覚座標系の操作ベクトル３８をスレイブマニピュレータ３１の作業座標系の操作ベクトル３９に変換するための座標変換行列３７を作成し、マスタマニピュレータ３５で入力された視覚座標系の操作ベクトル３８と座標変換行列３７とから作業座標系の操作ベクトル３９を求め、その作業座標系の操作ベクトル３９に従いスレイブマニピュレータ３１を作動させる。
【０００３】
【発明が解決しようとする課題】
上記の遠隔制御装置においては、カメラやスレイブマニピュレータの位置関係に変更があった場合、その位置関係をその都度測定し、座標変換行列を設定する必要があった。つまり、作業に応じて操作者が操作しやすいようにスレーブマニピュレータを撮影するカメラの位置を変更した場合には、その都度、位置関係を測定しなければならなかった。また、カメラを移動体に搭載する場合には、従来の方式では対応できなかった。
また、部品挿入等の組み立て作業を行う場合、部品を挿入する方向には、過度な力が加わらないように、マスタの操作者にスレーブのマニピュレータに生じる力を伝達する必要がある。そのために、マスタの操作者に視覚的な方向性と制御的な方向性を一致させてマスタを力覚制御しないと、操作者に違和感が生じて操作性が低下する。つまり、マスタからの指令を作業座標系の操作ベクトルに座標変換するだけでは、スレーブのマニピュレータが外部との接触などにより力を受けたことをマスタの操作者に伝達することができず、操作性が悪化するという問題があった。
この発明の目的は、カメラ画像から自動的に座標変換行列を算出し、操作者が常にカメラと同じ視点でマスタを操作することが可能なマスタスレイブマニピュレータの遠隔操作装置を提供し、同時に、視覚的な方向性と制御的な方向性をマスタスレイブの各マニピュレータで一致させることにより、作業性と操作性に優れる遠隔操作装置を提供することである。
【０００４】
【課題を解決するための手段】
上記問題を解決するため、本発明の遠隔操作装置は、操作者によって直接操作されるマスタマニピュレータと、前記マスタマニピュレータの動作に追従して動作するスレイブマニピュレータと、前記各マニピュレータの制御計算機と、前記スレイブマニピュレータを撮影するカメラと、前記カメラによって得られた画像を前記操作者に呈示するディスプレイとを有し、前記操作者が前記ディスプレイ上に呈示された前記スレイブマニピュレータを見ながら前記マスタマニピュレータを操作する遠隔操作装置において、前記カメラによって得られた画像から前記スレイブマニピュレータの作業空間内に予め設けられた複数のマーキングを抽出し画像上における各マーキング間の距離を求める画像処理手段と、前記画像上における各マーキング間の距離から前記スレイブマニピュレータに対する前記カメラの撮影方向を算出し、前記撮影方向をもとに、前記カメラおよび前記操作者視点の視覚座標系から前記スレイブマニピュレータの作業座標系への変換を行う座標変換行列を求める座標変換行列算出手段と、前記座標変換行列によって前記操作者が前記マスタマニピュレータへ加える前記視覚座標系における操作ベクトルを前記作業座標系における操作ベクトルに変換する視覚作業ベクトル変換手段と、前記作業座標系におけるベクトルを前記座標変換行列の逆行列によって前記視覚座標系におけるベクトルに変換する作業視覚ベクトル変換手段と、前記視覚作業ベクトル変換手段が出力する前記作業座標系における操作ベクトルを指令ベクトルとして前記スレイブマニピュレータ制御計算機へと出力するとともに、前記スレイブマニピュレータ制御計算機が帰還ベクトルとして出力する前記作業座標系における前記スレイブマニピュレータの位置、速度、加速度、外部から受ける力を前記作業視覚ベクトル変換手段へと出力する操作ベクトル授受手段と、前記操作者が前記マスタマニピュレータに加えた前記視覚座標系における操作ベクトルを前記視覚作業ベクトル変換手段に出力するとともに、前記作業視覚ベクトル変換手段が出力する前記視覚座標系における前記帰還ベクトルに従って前記マスタマニピュレータを力覚制御する視覚座標系制御手段とを備えたことを特徴とする。
【０００５】
【発明の実施の形態】
この発明における実施の形態の遠隔操作装置について図に基づいて説明する。図１は、この発明の実施の形態を示す機能ブロック図である。図１に示すカメラ３は、スレイブマニピュレータ１の作業空間を撮影する。ディスプレイ４を通して操作者５にスレイブマニピュレータ１の動作画像を呈示する。操作者５は、ディスプレイ４に呈示されているマニピュレータを見ながら視覚座標系でマスタマニピュレータ２を操作する。これにより、マスタ制御計算機８の視覚座標系制御手段６に視覚座標系の操作ベクトルが入力される。視覚座標系とは、カメラに固有の座標系であり、図２で示す操作者５が認識する視覚座標系は、カメラが固有に持っている視覚座標系と同一となる。一方、図１の画像処理手段１１は、カメラ３で取得した画像から必要な情報を抽出する。座標変換行列算出手段１２は、画像処理によって得られた情報から、座標変換行列を算出する。この座標変換行列は、図２に示すカメラおよび操作者視点の視覚座標系１００から、マスタマニピュレータの作業座標系１０１への変換を行う行列である。視覚作業ベクトル変換手段９は、座標変換行列によって、視覚座標系の操作ベクトル１１０を作業座標系の操作ベクトル１１１に変換する。その後、作業座標系の操作ベクトル１１１は、図１に示す操作ベクトル授受手段１０を介して、スレイブ制御計算機７へ送信される。スレイブ制御計算機７は、作業座標系の操作ベクトル１１１を指令ベクトルとして受信し、これに従ってスレイブマニピュレータ１を制御する。同時に、スレイブ制御計算機７は、操作ベクトル授受手段１０に帰還ベクトルを送信する。この帰還ベクトルは、スレイブマニピュレータ１の作業座標系における位置、速度、加速度、外部からの力等を表現するベクトルである。作業視覚ベクトル変換手段１３は、この帰還ベクトルと座標変換行列算出手段１２から算出された座標変換行列を使用して、視覚座標系１００に関するフィードバック情報として、マスタマニピュレータ８を制御することで、帰還型のマスタスレイブ動作を行う。
【０００６】
図２に基づいて、座標系設定について説明する。図２に示すように、スレイブマニピュレータ１の作業空間に、実線で示す作業座標系１０１が設定されている。この作業座標系１０１とは、作業空間上に直交する３軸を持つ３次元の座標系である。カメラ３はスレイブマニピュレータ１の作業空間を撮影し、ディスプレイ４を通して操作者にスレイブマニピュレータ１の動作画像を呈示する。このとき、破線で示す視覚座標系１００は、カメラ３の撮影方向と連動しており、ディスプレイを正面から見る操作者の視点はカメラ視点の視覚座標系１００でスレイブマニピュレータ１を見ることになる。したがって、操作者の入力する視覚座標系の操作ベクトル１１０は視覚座標系１００で与えられることになる。この視覚座標系の操作ベクトル１１０を視覚作業ベクトル変換手段９によって、スレイブマニピュレータ１の作業座標系の操作ベクトル１１１に変換し、これに基づきスレイブマニピュレータ１を動作させる。
視覚作業ベクトル変換手段９では、視覚座標系の操作ベクトル１１０をＶcomとし、座標変換行列をＭtransとおくと、作業座標系の操作ベクトル１１１Ｖref
は、
Ｖref ＝ Ｍtrans ・ Ｖcom
として求められる。
また、作業視覚ベクトル変換手段１３では、作業座標系の帰還ベクトルをＶrfbとし、視覚座標系での帰還ベクトルＶvfbは、
Ｖvfb ＝ （Ｍtrans）-1 ・ Ｖrfb
として求められる。
【０００７】
図３に基づいて、座標変換行列算出手段１２の一手法を説明する。スレイブマニピュレータ１の作業空間に、作業座標に固定したマーキングを施しておく。例えば、図３（ａ）に示すように、座標系原点Ｐoと、Ｘ軸Ｙ軸各軸上の原点から等距離の適当な位置Ｐx 、Ｐy に、マーキングを施しておく。マーキングした画像を予め画像処理装置に登録し、カメラから取得した画像をパターンマッチング等の画像処理方法によって処理し、図３（ｂ）のように、各マーキング点間の画像上の水平距離Ｌx とＬy が求められる。視覚座標系と作業座標系の回転角度θは、近似で、θ＝ atan(Ｌx/Ｌy)として求められ、座標変換行列、Ｍtrans は
【０００８】
【数１】
0003912584.tif 000002
【０００９】
となる。
ここで述べた座標変換行列算出手段は一例である。
この座標変換行列の算出は、カメラ位置を一定時間固定する場合、カメラの位置を変えて固定したときに一度行えば良い。従って、ロボットのハンド部など一点にマーキングを施しておき、マーキングされた部位の位置をロボットの動作で変え、ロボット動作と連動してマーキング位置を複数回認識して検出し、これに基づいて、述べたような座標変換行列の算出を行う方法を取ることもできる。また、カメラ３が移動体に設置されている場合は、カメラ３が画像を取得したのち、座標変換行列算出手段１２により、自動的に座標変換行列を算出すればよい。
【００１０】
以上のように、画像処理によって得られた情報から座標変換行列を算出し、マスタスレイブ各々の制御計算機を機能させることにより、マスタスレイブの両マニピュレータは、カメラおよび操作者視点の視覚座標系に対して同じ相対関係にある作業座標系に基づいて制御を施している。つまり、視覚的な方向性と制御的な方向性がマスタとスレイブで一致しているので、操作者が違和感なくマスタマニピュレータを操作できる。また、カメラから取得した画像から座標変換行列を求めるので、カメラ視点が変わっても、適切な座標変換行列によって作業座標系が設定され、良好な操作性が保たれる。作業座標系制御手段として方向的な制御特性をマニピュレータに与えるインピーダンス制御などを採用して作業に適した操作感覚を操作者に提供し、この場合にも、カメラ視点が変わっても自動的に座標変換が施されるため、操作者の視覚と力覚が一致して、良好な操作性を保つことができる。なお、本実施例では、マスタ制御計算機８に画像処理手段１１と座標変換行列算出手段１２を含んでいないが、マスタ制御８に画像処理手段１１と座標変換行列算出手段１２を含んだ場合も、上記実施例に示した目的を達成することができる。
【００１１】
【発明の効果】
以上述べたように、本発明の遠隔操作装置によれば、作業に応じて操作者が操作しやすい位置に、スレイブマニピュレータを撮影するカメラの位置を変更した場合でも、自動的に座標変換を施すことによって、操作者の視点からの指令とスレイブの動作とを一致させ、良好な操作環境を提供することができる。また、インピーダンス制御などを採用して作業や操作に適した制御的な方向性を設定し、操作性を向上させる場合にも、マスタとスレイブの両マニピュレータの制御的な方向性が操作者視点で一致しているので、操作者に違和感を与えることなく、視覚と力覚が一致した、臨場感のある操作環境を提供することができる。
【図面の簡単な説明】
【図１】本発明の第１の実施の形態の機能ブロック図
【図２】視覚座標系と作業座標系の説明図
【図３】画像情報に基づく座標変換行列の一算出手段の説明図
【図４】従来の遠隔操作装置の構成を示す機能ブロック図
【符号の説明】
１：スレイブマニピュレータ
２：マスタマニピュレータ
３：カメラ
４：ディスプレイ
５：操作者
６：視覚座標系制御手段
７：スレイブ制御計算機
８：マスタ制御計算機
９：視覚作業ベクトル変換手段
１０：操作ベクトル授受手段
１１：画像処理手段
１２：座標変換行列算出手段
１３：作業視覚ベクトル変換手段
３１：スレイブマニピュレータ
３２：カメラ
３３：ディスプレイ
３４：マスタマニピュレータ
３５：操作者
３６：制御計算機
３７：座標変換行列
３８：視覚座標系の操作ベクトル
３９：作業座標系の操作ベクトル
１００：視覚座標系
１０１：作業座標系
１１０：視覚座標系の操作ベクトル
１１１：作業座標系の操作ベクトル
【図２】
0003912584.tif 000003
【図３】
0003912584.tif 000004
【図４】
0003912584.tif 000005
【図１】
0003912584.tif 000006