(57)【要約】  医療システムは、術前計画において作成した対象臓器のモデルと前記対象臓器における複数の部位の名称および前記モデルの第一座標系における領域とを関連付けて記録し、入力装置から前記対象臓器における複数の部位のうち注目する注目部位の名称と、前記注目部位に対する作業態様とを受信し、前記モデルの前記第一座標系と前記表示画像が表示する表示空間の第二座標系とを関連付け、前記注目部位の前記第一座標系における位置から、前記注目部位の前記第二座標系における位置を算出し、前記作業態様に基づいて前記注目部位に対して前記内視鏡を作動させる。
2019163890.tif 000002
【特許請求の範囲】
【請求項１】
撮像部を有し、電動で駆動されて作動する内視鏡と、
前記内視鏡を作動させ、前記撮像部の撮像画像から表示画像を生成する制御装置と、
前記表示画像を表示する表示装置と、
前記制御装置に対する指示が入力される入力装置と、
を備え、
前記制御装置は、
術前計画において作成した対象臓器のモデルと前記対象臓器における複数の部位の名称および前記モデルの第一座標系における領域とを関連付けて記録し、
前記入力装置から前記対象臓器における複数の部位のうち注目する注目部位の名称と、前記注目部位に対する作業態様とを受信し、
前記モデルの前記第一座標系と前記表示画像が表示する表示空間の第二座標系とを関連付け、
前記注目部位の前記第一座標系における位置から、前記注目部位の前記第二座標系における位置を算出し、
前記作業態様に基づいて前記注目部位に対して前記内視鏡を作動させる、
医療システム。
【請求項２】
前記対象臓器における複数の部位の名称は、術者が設定した特定の領域の名称を含む、
請求項１に記載の医療システム。
【請求項３】
前記入力装置は音声入力部を有し、
前記入力装置に入力される前記注目部位の前記名称と前記作業態様とは、音声入力により特定される、
請求項１または請求項２に記載の医療システム。
【請求項４】
撮像部を有し、電動で駆動されて作動する内視鏡と、前記内視鏡を作動させ、前記撮像部の撮像画像から表示画像を生成する制御装置と、前記表示画像を表示する表示装置と、前記制御装置に対する指示が入力される入力装置と、を備える医療システムの作動方法であって、
術前計画において作成した対象臓器のモデルと前記対象臓器における複数の部位の名称および前記モデルの第一座標系における領域とを関連付けて記録するモデル記録工程と、
前記入力装置から前記対象臓器における複数の部位のうち注目する注目部位の名称と、前記注目部位に対する作業態様とを受信する指示受信工程と、
前記モデルの前記第一座標系と前記表示画像が表示する表示空間の第二座標系とを関連付ける関連付け工程と、
前記注目部位の前記第一座標系における位置から、前記注目部位の前記第二座標系における位置を算出する相対位置算出工程と、
前記作業態様に基づいて前記注目部位に対して前記内視鏡を作動させる内視鏡作動工程と、
を備える、
医療システムの作動方法。
【請求項５】
前記モデル記録工程において、前記対象臓器における複数の部位の名称は、術者が設定した特定の領域の名称を含む、
請求項４に記載の医療システムの作動方法。
【請求項６】
指示受信工程において前記入力装置に入力される前記注目部位の前記名称と前記作業態様とは、音声入力により特定される、
請求項４または請求項５に記載の医療システムの作動方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、腹壁等に形成した孔を通して処置を行う医療システムおよび同医療システムの作動方法に関する。
本願は、２０１８年２月２１日に、アメリカ合衆国に仮出願された米国特許仮出願第６２／６３３，１９０号に基づき優先権を主張し、その内容をここに援用する。
【背景技術】
【０００２】
従来、腹腔鏡下手術において、腹壁に開けた別々の孔（開口）から処置具や内視鏡などを挿入して処置を行う手法が用いられている。内視鏡を操作するスコピストは、術者に対して処置に最適な内視鏡の視野、例えば対象臓器等の関心領域が含まれる視野を迅速に提供する必要がある。このような内視鏡の視野の操作を支援する医療システムが考案されている。【０００３】
特許文献１には、術者等が対象臓器の解剖学的名称を発話することで、装置が入力される音声から対象臓器を特定し、表示画面に特定された対象臓器を表示する医用観察支援装置が記載されている。
【先行技術文献】
【特許文献】
【０００４】
【特許文献１】特許公開２０１５−４７３０９号公報
【発明の概要】
【発明が解決しようとする課題】
【０００５】
しかしながら、特許文献１に記載の医用観察支援装置は、特定された対象臓器に対して内視鏡を移動させることは可能であるが、例えば、対象臓器の一部を拡大して表示するなどの具体的な作業態様を指示することはできない。【０００６】
上記事情を踏まえ、本発明は、対象臓器に対する内視鏡の視野の具体的な操作を支援する医療システムおよび医療システムの作動方法を提供することを目的とする。
【課題を解決するための手段】
【０００７】
上記課題を解決するために、この発明は以下の手段を提案している。
本発明の第一の態様に係る医療システムは、撮像部を有し、電動で駆動されて作動する内視鏡と、前記内視鏡を作動させ、前記撮像部の撮像画像から表示画像を生成する制御装置と、前記表示画像を表示する表示装置と、前記制御装置に対する指示が入力される入力装置と、を備え、前記制御装置は、術前計画において作成した対象臓器のモデルと前記対象臓器における複数の部位の名称および前記モデルの第一座標系における領域とを関連付けて記録し、前記入力装置から前記対象臓器における複数の部位のうち注目する注目部位の名称と、前記注目部位に対する作業態様とを受信し、前記モデルの前記第一座標系と前記表示画像が表示する表示空間の第二座標系とを関連付け、前記注目部位の前記第一座標系における位置から、前記注目部位の前記第二座標系における位置を算出し、前記作業態様に基づいて前記注目部位に対して前記内視鏡を作動させる。【０００８】
また、本発明の第二の態様に係る医療システムの作動方法は、撮像部を有し、電動で駆動されて作動する内視鏡と、前記内視鏡を作動させ、前記撮像部の撮像画像から表示画像を生成する制御装置と、前記表示画像を表示する表示装置と、前記制御装置に対する指示が入力される入力装置と、を備える医療システムの作動方法であって、術前計画において作成した対象臓器のモデルと前記対象臓器における複数の部位の名称および前記モデルの第一座標系における領域とを関連付けて記録するモデル記録工程と、前記入力装置から前記対象臓器における複数の部位のうち注目する注目部位の名称と、前記注目部位に対する作業態様とを受信する指示受信工程と、前記モデルの前記第一座標系と前記表示画像が表示する表示空間の第二座標系とを関連付ける関連付け工程と、前記注目部位の前記第一座標系における位置から、前記注目部位の前記第二座標系における位置を算出する相対位置算出工程と、前記作業態様に基づいて前記注目部位に対して前記内視鏡を作動させる内視鏡作動工程と、を備える。
【発明の効果】
【０００９】
本発明の医療システムおよび医療システムの作動方法によれば、対象臓器に対する内視鏡の視野の具体的な操作を支援できる。
【図面の簡単な説明】
【００１０】
【図１】本発明の一実施形態に係る医療システムの全体構成を示す図である。
【図２】同医療システムのハードウェア構成図である。
【図３】同医療システムの制御部の全体構成例を示す図である。
【図４】同医療システムの制御部の全体構成例を示す図である。
【図５】術前計画において作成した対象臓器のモデルである。
【図６】内視鏡が撮像した撮像画像から制御装置が生成した表示画像である。
【図７】制御部の自動モードにおける制御フローチャートである。
【図８】関連付け工程が完了した後の表示画像である。
【図９】自動モードが完了した後の表示画像である。
【図１０】内視鏡の変形例の全体構成例である。
【発明を実施するための形態】
【００１１】
本発明の一実施形態について、図１から図９を参照して説明する。なお、図面を見やすくするため、各構成要素の寸法等は適宜調整されている。
【００１２】
図１は、本実施形態に係る医療システム１００の全体構成を示す図である。
医療システム１００は、図１に示すように、処置具１と、内視鏡２と、制御装置３と、表示装置４と、入力装置５と、を備えている。医療システム１００は、腹腔鏡下手術において、腹壁に開けた別々の孔（開口）から処置具１や内視鏡２などを挿入して行う処置を支援するシステムである。
【００１３】
処置具１は、図１に示すように、患者の腹腔内に挿入可能な長尺の挿入部１０と、挿入部１０の基端部に設けられた操作部１１と、を有する。術者は、患者の腹部に穿刺したトロッカに挿入部１０を通し、挿入部１０を腹腔内に導入する。処置の種類や患部の状況により、術者は複数の処置具１を腹腔内に導入する場合もある。
【００１４】
挿入部１０は、図１に示すように、先端部に患者の患部を処置する処置部１２を有する。本実施形態において処置部１２は、一対の把持部材１２ａで構成された把持機構である。
【００１５】
操作部１１は、一対の把持部材１２ａを操作する部材である。操作部１１はハンドルを有しており、ハンドルを操作部１１の他の部分に対して相対移動させることで、処置部１２の一対の把持部材１２ａを開閉させる。術者は、片手で操作部１１を保持して、処置部１２を操作することができる。
【００１６】
図２は、処置具１を除く医療システム１００のハードウェア構成図である。
内視鏡２は、図１および図２に示すように、患者の腹腔内に挿入可能な長尺の挿入部２０と、アーム２１と、を有する。術者は、患者の腹部に穿刺したトロッカに挿入部２０を通し、挿入部２０を腹腔内に導入する。
【００１７】
挿入部２０は先端部に、患者の腹部内の様子を撮影するためのレンズや撮像素子を有する撮像部２２が設けられている。腹腔内に導入された挿入部２０は、撮像部２２が腹部内の処置対象の患部を撮影可能な位置に配置される。撮像部２２は、光学ズームもしくは電子ズームの機能を有していてもよい。
【００１８】
なお、挿入部２０は、能動的に湾曲する能動湾曲部をさらに有してもよい。挿入部２０の一部に設けられた能動湾曲部を湾曲させることで、撮像部２２のレンズや撮像素子の向きを変更することができる。
【００１９】
アーム２１は、図１に示すように、少なくとも１以上の関節２３を有する電動駆動のロボットアームである。アーム２１の先端が内視鏡の挿入部２０の基端部に接続されており、アーム２１は、挿入部２０を移動させることができる。
【００２０】
関節２３は、回動軸を中心に屈曲する部位であり、モータ等によって能動的に屈曲動作するものであってもよいし、接続されるワイヤ等の進退動作によって受動的に屈曲動作するものであってもよい。アーム２１の内部には、関節２３の屈曲動作を制御する制御信号線やワイヤ等が配線されている。また、アーム２１の内部には、撮像部２２を制御する制御信号線や撮像部２２が撮像した撮像画像を転送する伝送信号も配線されている。
【００２１】
制御装置３は、図２に示すように、駆動部３１と、画像処理部３２と、制御部３３と、を有している。制御装置３は、入力装置５からの入力に基づいてアーム２１等を制御する。また、制御装置３は、内視鏡２の撮像部２２が撮像した撮像画像から表示画像を生成して、表示装置４に転送する。
【００２２】
駆動部３１は、アーム２１の関節２３や挿入部２０を駆動する。関節２３が能動的に屈曲動作するものである場合、制御部３３は関節２３を動作させるために駆動部３１への制御信号を生成する。その結果、関節２３は駆動部３１によって屈曲動作させることができる。別の態様として、挿入部２０が能動湾曲部を有する場合、制御部３３は能動湾曲部を制御する制御信号を生成する。駆動部３１は、生成した制御信号に従い、能動湾曲部を動作させるための動力を発生させる。その結果、能動湾曲部は、アーム２１を介して伝達された動力によって湾曲動作させることができる。
【００２３】
すなわち、駆動部３１は、アーム２１および挿入部２０の少なくとも一方を駆動することによって、内視鏡２の視野を変更させることができる。
【００２４】
画像処理部３２は、撮像部２２が撮像した撮像画像の伝送信号が接続されており、その伝送信号経由で、撮像画像を取得する。また、画像処理部３２は、撮像画像から表示用の表示画像を生成する。画像処理部３２は、撮像画像に対し、画像フォーマット変換やコントラスト調整などの画像処理を必要に応じて行ってもよい。生成された表示画像は、表示装置４に所定の転送タイミングで転送される。
【００２５】
画像処理部３２は、制御部３３が生成した図形や文字などの画像を、撮像画像と差し替えて、もしくは、撮像画像に重畳して、表示画像を生成することができる。例えば、画像処理部３２は、術者への警告や操作支援に関する文字の画像を、撮像画像に重畳して、表示画像を生成することができる。なお、上記の図形や文字などの画像は、制御部３３ではなく画像処理部３２が、制御部３３の指示に基づいて生成してもよい。
【００２６】
制御部３３は、入力装置５の操作および画像処理部３２が取得した画像を入力とし、それらの入力に基づいて駆動部３１および画像処理部３２の制御等を行う。
本実施形態において、制御部３３は、マニュアルモードおよび自動モードの２種類の動作モードを有する。制御部３３は、二つの動作モードから選択された一つの動作モードに基づいて、駆動部３１および画像処理部３２の制御等を行う。
【００２７】
マニュアルモードは、スコピストが入力装置５を操作して、内視鏡２のアーム２１の関節２３等を直接操作する動作モードである。
自動モードは、画像処理部３２が取得した画像に基づいて、内視鏡２のアーム２１の関節２３等が制御部３３により自動で操作され、内視鏡２の視野の自動調整が実施される動作モードである。
【００２８】
図３および図４は、制御部３３の全体構成例を示す図である。
制御部３３は、図３に示すように、ＣＰＵ（Central Processing Unit）３４と、プログラムを読み込み可能なメモリ３５と、記憶部３６と、入出力制御部３７と、を有するプログラム実行可能な装置（コンピュータ）である。
制御部３３の機能は、制御部３３に提供されたプログラムをＣＰＵ３４が実行することにより実現される。なお、制御部３３の少なくとも一部の機能を、専用の論理回路等によって構成してもよい。
【００２９】
記憶部３６は、上述したプログラムや必要なデータを記憶する不揮発性の記録媒体である。記憶部３６は、例えばＲＯＭやハードディスク等で構成される。記憶部３６に記録されたプログラムは、メモリ３５に読み込まれ、ＣＰＵ３４によって実行される。
【００３０】
入出力制御部３７は、入力装置５および画像処理部３２からの入力データを受け取り、ＣＰＵ３４等への転送等を実施する。また、入出力制御部３７は、ＣＰＵ３４が駆動部３１や画像処理部３２を制御する際に、ＣＰＵ３４の指示に基づき、駆動部３１や画像処理部３２に対する制御信号等を生成する。
【００３１】
ここで、制御部３３は、１つのハードウェアに備わる装置に限られない。例えば、制御部３３は、ＣＰＵ３４と、メモリ３５と、記憶部３６と、入出力制御部３７とをそれぞれ別体のハードウェアとして分離した上で、ハードウェア同士を通信回線で接続することで構成してもよい。あるいは、制御部３３は、記憶部３６を分離して、同様に通信回線で接続することで、制御部３３をクラウドシステムとして実現してもよい。
【００３２】
ここで、画像処理部３２が、撮像画像の処理を行う場合、処理中の一時的なデータを保管するため、制御部３３のメモリ３５を使用してもよい。また、画像処理部３２が行う撮像画像の処理の一部もしくは全部を、制御部３３のＣＰＵ３４がプログラム実行により実施してもよい。
【００３３】
なお、制御部３３は、図３に示すＣＰＵ３４、メモリ３５、記憶部３６、および入出力制御部３７以外のもので、制御装置３の動作のために必要なものを、さらに有してもよい。例えば、図４に示すように、制御部３３は、特定の画像処理や画像認識処理の一部もしくは全部を行う画像演算部３８をさらに有してもよい。画像演算部３８をさらに有することで、制御部３３は、特定の画像処理や画像認識処理を高速に実行することができる。
【００３４】
表示装置４は、画像処理部３２が生成した表示画像を表示する装置である。表示装置４は、ＬＣＤディスプレイ等の公知の表示装置を用いることができる。表示装置４は、ヘッドマウントディスプレイやプロジェクタであってもよい。
【００３５】
入力装置５は、図２に示すように、操作入力部５１と、モード選択部５２と、音声入力部５３と、を有する。入力装置５は、医療システム１００の動作に必要な情報を入力する装置である。
【００３６】
操作入力部５１は、内視鏡２のアーム２１の関節２３の操作を入力する装置である。また、操作入力部５１は、撮像部２２がズーム機能を有している場合は、そのズーム機能を操作することもできる。また、スコピストは、操作入力部５１を操作して、アーム２１の関節２３等を操作することができる。
【００３７】
操作入力部５１は、図１に示すように、ジョイスティックにより構成されていてもよいし、タッチパネルにより構成されていてもよい。アーム２１と相似形状のアーム形状の操作入力デバイスであってもよい。ＬＣＤディスプレイの表示装置４と、タッチパネルの操作入力部５１とが、一体に構成されていてもよい。
【００３８】
操作入力部５１を操作することで、その操作内容が制御部３３に転送される。制御部３３は、操作内容に対応する、アームの関節２３の動作量を算出する。制御部３３は、算出した動作量で関節２３が動作するように、駆動部３１を制御する。
【００３９】
制御部３３の動作モードがマニュアルモードである場合、操作入力部５１の操作により、内視鏡２のアーム２１の関節２３等は直接操作される。
一方、制御部３３の動作モードが自動モードである場合、操作入力部５１の操作は、制御部３３により無効化され、内視鏡２のアーム２１の関節２３等を操作することはできない。内視鏡２のアーム２１の関節２３等は制御部３３によって操作される。
【００４０】
モード選択部５２は、制御部３３が有する二つの動作モードのうち、どちらの動作モードで制御部３３が動作するかを選択する装置である。モード選択部５２は、スイッチにより構成されていてもよいし、タッチパネルにより構成されていてもよい。また、モード選択部５２は、操作入力部５１と一体に構成されていてもよい。モード選択部５２による制御部３３の動作モード選択は、いつでも行うことができる。
【００４１】
音声入力部５３は、マイクなどの入力される音声を信号化する部品を有しており、信号化された音声信号を制御部３３に転送する。
【００４２】
［医療システム１００の動作］
次に、腹腔鏡下手術を例として、医療システム１００の動作および作動方法を、図５から図９を参照して説明する。本実施形態では、対象臓器は肝臓Ｌとする。
【００４３】
術者等は、腹腔鏡下手術前に、公知の手法を用いて、対象臓器のモデル（形状データや画像）を作成する術前計画を行う。術者等は、例えば複数のＣＴ画像から対象臓器の三次元形状データを作成する。術前計画にて生成した三次元形状データの三次元座標系を「モデル座標系（第一座標系）Ｃ１」と称する。
【００４４】
図５は、術前計画において作成した対象臓器（肝臓Ｌ）のモデルＭである。モデルＭは、モデル座標系Ｃ１における三次元座標（Ｘ１座標、Ｙ１座標、Ｚ１座標）に対応付けられており、モデルＭの各部位の位置は、モデル座標系Ｃ１における三次元座標で特定することができる。モデルＭは、図５に示すように、右葉ＬＲと左葉ＬＬが区別されるように構成されている。
【００４５】
術者等は、術前計画において、モデルＭにおける（１）部位の名称と、（２）部位のモデル座標系Ｃ１における領域とが登録された「部位データベースＤ１」を作成する。
【００４６】
表１は、部位データベースＤ１の一例である。
部位データベースＤ１の部位の名称は、解剖学的名称であってもよく、略称であってもよい。部位データベースＤ１のモデル座標系Ｃ１における領域は、モデル座標系Ｃ１における三次元座標（Ｘ１座標、Ｙ１座標、Ｚ１座標）で特定される。モデル座標系Ｃ１における領域は、複数の三次元座標を使用して詳細にボクセル領域を特定してもよいし、二点の三次元座標を使用して大まかな領域を特定してもよいし、一点の三次元座標を使用するのみで注目点のみを特定してもよい。
【００４７】
【表１】
2019163890.tif 000003
【００４８】
術者等は、術前計画において、腹腔鏡下手術における処置対象や観察対象となる特定の領域を、モデルＭにおいて「関心領域」として設定してもよい。本実施形態において、関心領域は、図５に示すように、対象臓器（肝臓Ｌ）の右葉ＬＲの一部の腫瘍Ａである。関心領域を設定した場合、表１に示すように、術者等は関心領域である腫瘍Ａを部位データベースＤ１に追加する。
【００４９】
表２は、作業態様データベースＤ２の一例である。
術者等は、術前計画において、「作業態様データベースＤ２」を作成する。作業態様データベースＤ２は、例えば、「拡大表示」や「全体表示」といった内視鏡２の作業態様と、作業態様に対応した内視鏡２の作動内容が登録されたデータベースである。作業態様データベースＤ２には、例えば、「全体表示」の作業態様に対応して、「内視鏡２の撮像部２２を注目部位に近付ける」等の内視鏡２の作動内容が登録されている。
【００５０】
【表２】
2019163890.tif 000004
【００５１】
術前計画において作成した対象臓器のモデルＭは、対象臓器における複数の部位の名称およびモデルＭのモデル座標系Ｃ１における領域と関連付けて、すなわち部位データベースＤ１とともに、制御装置３の制御部３３の記憶部３６に記録される（モデル記録工程）。作業態様データベースＤ２も、制御装置３の制御部３３の記憶部３６に記録される。
【００５２】
次に、制御装置３は、モデルＭにおいて複数の特徴点Ｆを抽出して記憶する（特徴点抽出工程）。複数の特徴点Ｆは、公知の特徴点の抽出方法を用いて抽出される。複数の特徴点Ｆは、特徴を表すことに適した所定の基準に従って算出された特徴量とともに、モデル座標系Ｃ１における三次元座標も合わせて特定されて記憶部３６に記憶される。なお、複数の特徴点Ｆの抽出および記録は、術前に実施してもよく、術中に実施してもよい。
【００５３】
次に、腹腔鏡下手術中における医療システム１００の動作を説明する。術者は、患者の腹部にトロッカを設置するための孔（開口）を複数設け、孔にトロッカを穿刺する。次に術者は、患者の腹部に穿刺したトロッカに処置具１の挿入部１０を通し、挿入部１０を腹腔内に導入する。
【００５４】
次に、スコピストは、モード選択部５２を操作し、制御部３３の動作モードをマニュアルモードに設定する。スコピストは、操作入力部５１を操作して、内視鏡２を操作することで、内視鏡２の挿入部２０を患者の腹部に穿刺したトロッカに通し、挿入部２０を腹腔内に導入する。
【００５５】
図６は、腹腔内に挿入された内視鏡２の撮像部２２が撮像した撮像画像から制御装置３が生成した表示画像である。図６に示す表示画像には肝臓Ｌが表示されている。表示画像が表示する表示空間の三次元座標系を「表示座標系（第二座標系）Ｃ２」と称する。
【００５６】
術者は、関心領域である「腫瘍Ａ」が表示画面に拡大された状態で表示されるように、内視鏡２を作動させたい。そこで、術者もしくはスコピスト等は、モード選択部５２を操作し、制御部３３の動作モードを自動モードに変更する。操作入力部５１の操作は、制御部３３により無効化され、スコピスト等は内視鏡２のアーム２１の関節２３等を操作することはできない。以降、図７に示す自動モードにおける制御フローチャートに沿って説明を行う。
【００５７】
図７に示すように、制御部３３の動作モードが自動モードに設定されると、制御部３３は自動モードの制御を開始する（ステップＳ１０）。次に、制御部３３はステップＳ１１を実行する。
【００５８】
ステップＳ１１において、制御部３３は、音声入力部５３から対象臓器における複数の部位のうち注目する注目部位の名称と、注目部位に対する作業態様とを受信する（指示受信工程）。制御部３３は、音声入力部５３を有効化し、術者等からの音声入力により指示を受け付ける。制御部３３は、音声入力部５３から転送される音声信号を、公知の音声認識手法により、音声認識を実施する。次に、制御部３３は所定時間の経過後、ステップＳ１２を実行する。
【００５９】
ステップＳ１２において、制御部３３は、音声認識した内容に、部位データベースＤ１に登録された「部位の名称」と、作業態様データベースＤ２に登録された「作業態様」とが含まれているかを判定する。
含まれないと判定した場合、制御部３３は次にステップＳ１１を再び実行する。
含まれると判定した場合、制御部３３は次にステップＳ１３を実行する。
【００６０】
音声認識した内容に含まれる「部位の名称」は、部位データベースＤ１に登録された部位のうち、術者等が注目する注目部位である。音声認識した内容に含まれる「作業態様」は、注目部位に対する作業態様である。本実施形態においては、注目部位として「腫瘍Ａ」、注目部位に対する作業態様とて「拡大表示」が指示されたとする。
【００６１】
ステップＳ１３において、制御部３３は、表示画像において複数の特徴点Ｆに対応する複数の対応点Ａを抽出する（対応点抽出工程）。制御部３３は、予め記憶部３６に記憶された複数の特徴点Ｆの特徴量に基づき、表示画像における複数の対応点Ａを抽出する。抽出処理には、公知のテンプレートマッチング手法等から適宜選択した手法が用いられる。制御部３３が画像のマッチング処理の一部もしくは全部を高速に行う画像演算部３８を有している場合、上記のマッチング処理を高速に実行することができる。次に、制御部３３はステップＳ１４を実行する。
【００６２】
ステップＳ１４において、制御部３３は、複数の特徴点Ｆと複数の対応点Ａとに基づいて、モデルＭのモデル座標系Ｃ１と、表示画像が表示する表示空間の表示座標系Ｃ２とを関連付ける（関連付け工程）。関連付け処理には、公知の座標変換手法等から適宜選択した手法が用いられる。関連付け工程が完了すると、モデルＭの第一座標系Ｃ１に行ける座標位置を、表示空間の表示座標系Ｃ２に変換することができる。
【００６３】
図８は、関連付け工程が完了した後の表示画像である。
関連付け工程が完了した後、モデルＭの第一座標系Ｃ１に行ける座標位置を、表示空間の表示座標系Ｃ２に変換することができる。そのため、表１に示す部位データベースＤ１に登録された部位（右葉ＬＲ、左葉ＬＬ、腫瘍Ａ）は、表示空間の表示座標系Ｃ２において領域を特定することができる。図８に示す表示画像では、右葉ＬＲ、左葉ＬＬ、腫瘍Ａのそれぞれの位置がわかる識別表示画像（ハッチング画像）が重畳されている。次に、制御部３３はステップＳ１５を実行する。
【００６４】
ステップＳ１５において、制御部３３は、モデルＭに設定された注目部位（腫瘍Ａ）のモデル座標系Ｃ１における位置から、注目部位（腫瘍Ａ）の表示座標系Ｃ２における位置を算出する（相対位置算出工程）。次に、制御部３３はステップＳ１６を実行する。
【００６５】
ステップＳ１６において、制御部３３は、指示された作業態様に基づいて注目部位（腫瘍Ａ）に対して内視鏡２を作動させる（内視鏡作動工程）。指示された作業態様は「拡大表示」であるため、制御部３３は、ステップＳ１５で求めた注目部位の表示座標系Ｃ２における位置を用いて、Ｄ２の作業態様データベースＤ２に登録された対応する「内視鏡の作動内容」に基づいて、注目部位の位置に撮像部２２が近づくように、内視鏡２のアーム２１を操作する。次に、制御部３３は次にステップＳ１７を実行する。
【００６６】
ステップＳ１７において、制御部３３は、注目部位に対して指示された作業態様が完了したかを判定する。
完了していないと判定した場合、制御部３３は次にステップＳ１６を再び実行する。
完了したと判定した場合、制御部３３は次にステップＳ１８を実行して自動モードを終了する。
【００６７】
図９は、自動モードが完了した後の表示画像である。
自動モードの制御が完了した後、術前計画により作成したモデルＭにおいて指定した注目部位（腫瘍Ａ）に対して指示された作業態様（拡大表示）が実施されている。
【００６８】
本実施形態の医療システム１００によれば、術前計画により作成したモデルＭを用いて、対象臓器に対する内視鏡２の視野の具体的な操作を支援できる。術前に部位データベースＤ１に登録した複数の部位のうち注目する注目部位を特定し、注目部位に対する具体的な作業態様を、術前に作業態様データベースＤ２に登録した作業態様から特定できる。
【００６９】
従来であれば、術者はスコピストに対して、表示画像を基準に内視鏡２の視野の変更の指示（例えば、「視野範囲を右側に移動せよ」といった指示）を行っていた。
これに対して医療システム１００は、内視鏡２の視野の変更を、部位の名称を用いて指示することができる。さらに、指示に用いる部位は、指示を行う際に表示画面に表示されていなくてもよい。そのため、医療システム１００は、術者の希望に沿った視野を迅速に提供することができる。
【００７０】
医療システム１００は、術者が術前に注目部位に関する情報（名称、領域）をモデルＭに対して設定しておけるため、術中における視野の確保を迅速に行うことができ、術者およびスコピストの負担を減らすことができる。
【００７１】
以上、本発明の一実施形態について図面を参照して詳述したが、具体的な構成はこの実施形態に限られるものではなく、本発明の要旨を逸脱しない範囲の設計変更等も含まれる。また、上述の一実施形態および以下で示す変形例において示した構成要素は適宜に組み合わせて構成することが可能である。
【００７２】
（変形例１）
上記の実施形態では、指示受信工程において指示を音声により受信していたが、指示の受信方法はこれに限定されない。例えば、医療システムは、「部位の名称」と「作業態様」とをそれぞれ一種類のみ登録しておき、入力装置に接続されたフットペダル等からの起動信号を受信した際に、登録された「部位の名称」と「作業態様」の内容が指示されたとして動作してもよい。
【００７３】
（変形例２）
上記の実施形態では、内視鏡２のアーム２１を操作して内視鏡２の撮像位置を変更することで表示画像を変更していたが、表示画像の変更方法はこれに限定されない。画像処理部が、内視鏡の撮像画像から一部の領域を切り出して表示画像を生成する機能を有し、画像を切り出す位置を変更することで、表示画像を変更してもよい。また、画像処理部が、撮像部のズーム機能を制御して表示画像を変更してもよい。アームを有していない内視鏡の場合であっても、表示画像を変更することができる。
【００７４】
図１０は、内視鏡２の変形例である内視鏡２Ｂを示す全体構成例である。内視鏡２Ｂは、挿入部２０の先端に能動湾曲部２３Ｂを有している。術者は、内視鏡２Ｂを持って内視鏡２Ｂを移動させることで、内視鏡２の撮像部２２の位置や向きを変更することができる。また、能動湾曲部２３Ｂを湾曲させることで、撮像部２２の位置や向きを変更することができる。内視鏡２に代えて、内視鏡２Ｂを使用する場合であっても、制御部３３は、能動湾曲部２３Ｂを駆動することで、表示画像を変更することができる。
【産業上の利用可能性】
【００７５】
本発明は、内視鏡を有する医療システムおよび医療システムの作動方法に適用することができる。
【符号の説明】
【００７６】
１００  医療システム
１      処置具
２、２Ｂ  内視鏡
２０    挿入部
２１    アーム
２２    撮像部
２３    関節
２３Ｂ  能動湾曲部
３      制御装置
３１    駆動部
３２    画像処理部
３３    制御部
３５    メモリ
３６    記憶部
３７    入出力制御部
３８    画像演算部
４      表示装置
５      入力装置
５１    操作入力部
５２    モード選択部
５３    音声入力部
【図１】
2019163890.tif 000005
【図２】
2019163890.tif 000006
【図３】
2019163890.tif 000007
【図４】
2019163890.tif 000008
【図５】
2019163890.tif 000009
【図６】
2019163890.tif 000010
【図７】
2019163890.tif 000011
【図８】
2019163890.tif 000012
【図９】
2019163890.tif 000013
【図１０】
2019163890.tif 000014
【手続補正書】
【提出日】令和2年8月13日(2020.8.13)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
撮像部を有し、電動で駆動されて作動する内視鏡と、
前記内視鏡を作動させ、前記撮像部が取得した撮像画像から表示画像を生成する制御装置と、
前記表示画像を表示する表示装置と、
前記制御装置に対する指示が入力される入力装置と、
を備え、
前記制御装置は、
術前計画において作成した対象臓器のモデルと前記対象臓器における複数の部位の名称および前記モデルの第一座標系における領域または点とを関連付けて記録し、
前記入力装置から前記対象臓器における複数の部位のうち注目する注目部位の名称と、前記注目部位に対する作業態様とを受信し、
前記モデルの前記第一座標系と前記表示画像が表示する表示空間の第二座標系とを関連付け、
前記注目部位の前記第一座標系における位置から、前記注目部位の前記第二座標系における位置を算出し、
前記作業態様に基づいて前記注目部位に対して前記内視鏡を作動させる、
医療システム。
【請求項２】
前記対象臓器における複数の部位の名称は、術者が設定した特定の領域の名称を含む、
請求項１に記載の医療システム。
【請求項３】
前記入力装置は音声入力部を有し、
前記入力装置に入力される前記注目部位の前記名称と前記作業態様とは、音声入力により特定される、
請求項２に記載の医療システム。
【請求項４】
前記制御装置は、
前記注目部位の前記名称と前記作業態様が前記音声入力により特定されてから前記音声入力に基づいた前記内視鏡の前記作業態様が完了するまでの間、前記音声入力以外に基づく前記内視鏡の操作を不能にする、
請求項３に記載の医療システム。
【請求項５】
前記音声入力により特定される前記注目部位の前記名称は、前記表示装置に表示されていない部位の名称を含む、
請求項３に記載の医療システム。
【請求項６】
前記入力装置はフットペダルを有し、
前記入力装置に入力される前記注目部位の前記名称と前記作業様態とは、フットペダルにより入力される、
請求項２に記載の医療システム。
【請求項７】
前記制御装置は、
前記注目部位に対する前記作業態様と前記内視鏡の作動内容とを関連付けて記録し、
前記作動内容に基づいて前記内視鏡を作動させる、
請求項１に記載の医療システム。
【請求項８】
前記制御装置は、
前記モデルにおける複数の特徴点に対応する複数の対応点を前記表示画像において抽出し、
前記複数の特徴点と前記複数の対応点に基づいて、前記モデルの前記第一座標系と前記表示画像が表示する表示空間の第二座標系とを関連付ける、
請求項１に記載の医療システム。
【請求項９】
撮像部を有し、電動で駆動されて作動する内視鏡と、前記内視鏡を作動させ、前記撮像部が取得した撮像画像から表示画像を生成する制御装置と、前記表示画像を表示する表示装置と、前記制御装置に対する指示が入力される入力装置と、を備える医療システムの作動方法であって、
術前計画において作成した対象臓器のモデルと前記対象臓器における複数の部位の名称および前記モデルの第一座標系における領域または点とを関連付けて記録するモデル記録工程と、
前記入力装置から前記対象臓器における複数の部位のうち注目する注目部位の名称と、前記注目部位に対する作業態様とを受信する指示受信工程と、
前記モデルの前記第一座標系と前記表示画像が表示する表示空間の第二座標系とを関連付ける関連付け工程と、
前記注目部位の前記第一座標系における位置から、前記注目部位の前記第二座標系における位置を算出する相対位置算出工程と、
前記作業態様に基づいて前記注目部位に対して前記内視鏡を作動させる内視鏡作動工程と、
を備える、
医療システムの作動方法。
【請求項１０】
前記モデル記録工程において、前記対象臓器における複数の部位の名称は、術者が設定した特定の領域の名称を含む、
請求項９に記載の医療システムの作動方法。
【請求項１１】
指示受信工程において前記入力装置に入力される前記注目部位の前記名称と前記作業態様とは、音声入力により特定される、
請求項１０に記載の医療システムの作動方法。
【請求項１２】
前記注目部位の前記名称と前記作業態様が前記音声入力により特定されてから前記音声入力に基づいた前記内視鏡の前記作業態様が完了するまでの間、前記音声入力以外に基づく前記内視鏡の操作を不能にする、
請求項１１に記載の医療システムの作動方法。
【請求項１３】
前記音声入力により特定される前記注目部位の前記名称は、前記表示装置に表示されていない部位の名称を含む、
請求項１１に記載の医療システムの作動方法。
【請求項１４】
前記入力装置はフットペダルを有し、
前記入力装置に入力される前記注目部位の前記名称と前記作業様態とは、フットペダルにより入力される、
請求項１０に記載の医療システムの作動方法。
【請求項１５】
前記注目部位に対する前記作業態様と前記内視鏡の作動内容とを関連付けて記録する工程と、
前記作動内容に基づいて前記内視鏡を作動させる工程と、
を更に備える、請求項９に記載の医療システムの作動方法。
【請求項１６】
前記モデルにおける複数の特徴点に対応する複数の対応点を前記表示画像において抽出する工程と、
前記複数の特徴点と前記複数の対応点に基づいて、前記モデルの前記第一座標系と前記表示画像が表示する表示空間の第二座標系とを関連付ける工程と、
を更に備える、請求項９に記載の医療システムの作動方法。
【手続補正２】
【補正対象書類名】明細書
【補正対象項目名】０００７
【補正方法】変更
【補正の内容】
【０００７】
上記課題を解決するために、この発明は以下の手段を提案している。
本発明の第一の態様に係る医療システムは、撮像部を有し、電動で駆動されて作動する内視鏡と、前記内視鏡を作動させ、前記撮像部が取得した撮像画像から表示画像を生成する制御装置と、前記表示画像を表示する表示装置と、前記制御装置に対する指示が入力される入力装置と、を備え、前記制御装置は、術前計画において作成した対象臓器のモデルと前記対象臓器における複数の部位の名称および前記モデルの第一座標系における領域または点とを関連付けて記録し、前記入力装置から前記対象臓器における複数の部位のうち注目する注目部位の名称と、前記注目部位に対する作業態様とを受信し、前記モデルの前記第一座標系と前記表示画像が表示する表示空間の第二座標系とを関連付け、前記注目部位の前記第一座標系における位置から、前記注目部位の前記第二座標系における位置を算出し、前記作業態様に基づいて前記注目部位に対して前記内視鏡を作動させる。
【手続補正３】
【補正対象書類名】明細書
【補正対象項目名】０００８
【補正方法】変更
【補正の内容】
【０００８】
また、本発明の第二の態様に係る医療システムの作動方法は、撮像部を有し、電動で駆動されて作動する内視鏡と、前記内視鏡を作動させ、前記撮像部が取得した撮像画像から表示画像を生成する制御装置と、前記表示画像を表示する表示装置と、前記制御装置に対する指示が入力される入力装置と、を備える医療システムの作動方法であって、術前計画において作成した対象臓器のモデルと前記対象臓器における複数の部位の名称および前記モデルの第一座標系における領域または点とを関連付けて記録するモデル記録工程と、前記入力装置から前記対象臓器における複数の部位のうち注目する注目部位の名称と、前記注目部位に対する作業態様とを受信する指示受信工程と、前記モデルの前記第一座標系と前記表示画像が表示する表示空間の第二座標系とを関連付ける関連付け工程と、前記注目部位の前記第一座標系における位置から、前記注目部位の前記第二座標系における位置を算出する相対位置算出工程と、前記作業態様に基づいて前記注目部位に対して前記内視鏡を作動させる内視鏡作動工程と、を備える。
【国際調査報告】
2019163890.tif 000015
2019163890.tif 000016
2019163890.tif 000017
2019163890.tif 000018