(57)【特許請求の範囲】
【請求項１】
内視鏡に内蔵若しくは装着された撮像装置により撮像された信号から表示装置に内視鏡動画像を表示可能にする画像信号を生成する画像処理手段と、
音声入力により指示操作を行う音声入力手段と、
少なくとも前記音声入力の開始のタイミングに、少なくとも１枚の静止画像に相当する画像信号を取得する画像取得手段と、
前記音声入力に対して、少なくとも静止画像の表示又は保存の所定の音声コマンドに対応するものであるか否かの音声認識を行う音声認識手段と、
前記音声認識手段により前記音声入力が前記所定の音声コマンドであると音声認識した場合に、前記音声入力の開始のタイミングで取得された画像信号を表示装置に出力若しくは画像記録装置に保存する制御を行い、前記音声入力が前記所定の音声コマンドでない場合には、前記画像取得手段に取得した画像を破棄する制御手段と、
を備え、
前記音声入力の開始のタイミングは、前記音声入力手段から出力される音声信号又は音声データの大きさを比較手段で基準レベルと比較し、前記音声信号又は前記音声データが前記基準レベルを超えることを検出したときのタイミングであることを特徴とする内視鏡装置。
【請求項２】
前記画像取得手段は、前記音声入力の開始のタイミングに同期した１枚の静止画像に相当する画像信号を含む、前記タイミング以後の複数枚の静止画像に相当する画像信号を取得することを特徴とする請求項１に記載の内視鏡装置。
【請求項３】
前記画像取得手段は、前記音声入力の開始のタイミングに同期した１枚の静止画像に相当する画像信号を含む、前記タイミング以前及び以後にわたる複数枚の静止画像に相当する画像信号を取得することを特徴とする請求項１又は２に記載の内視鏡装置。
【請求項４】
前記画像取得手段は、前記音声入力の開始のタイミング以後の所定期間におよぶ動画像の画像信号を取得することを特徴とする請求項１から３のいずれかの請求項に記載の内視鏡装置。
【請求項５】
前記制御手段は、前記画像取得手段により複数枚の静止画像に相当する画像信号を取得した場合には、表示装置に複数の静止画像を同時に表示させる制御を行うことを特徴とする請求項１から４のいずれかの請求項に記載の内視鏡装置。
【請求項６】
音声入力により指示操作を行う音声入力手段と、
少なくとも前記音声入力の検出開始のタイミングに、内視鏡動画像における少なくとも１枚の静止画像に相当する画像信号を取得する画像取得手段と、
前記音声入力が少なくとも静止画像の表示又は保存の所定の音声コマンドに対応するものであるか否かの音声認識を行う音声認識手段と、
前記音声認識手段により前記音声入力が前記所定の音声コマンドであると音声認識した場合に、前記音声入力の検出開始のタイミングに対応する前記画像取得手段に取得された画像を表示装置に出力若しくは画像記録装置に保存する制御を行い、前記音声入力が前記所定の音声コマンドでない場合には、前記画像取得手段に取得した画像を破棄する制御手段と、
を備え、
前記音声入力の検出開始のタイミングは、前記音声入力手段から出力される音声信号又は音声データの大きさを比較手段で基準レベルと比較し、前記音声信号又は前記音声データが前記基準レベルを超えることを検出したときのタイミングであることを特徴とする内視鏡画像制御装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、音声入力の機能を用いて内視鏡検査を行う内視鏡装置及び内視鏡画像制御装置に関する。
【背景技術】
【０００２】
近年、内視鏡は外科手術などにも広く採用されており、この内視鏡を用いた外科手術においては、腹腔内を膨張させるために用いる気腹装置や、生体組織を切除、あるいは凝固する高周波焼灼装置などの手術用医療機器を用いて、内視鏡による観察下で各種の処置が行われる。  
このような場合、術者は、リモートコントローラ（以下リモコンと略記）等を操作したり、看護師等に指示して各種の手術用医療機器の動作を制御したりする。  
また、内視鏡に設けられた撮像装置により撮像され、観察モニタに表示される内視鏡画像は動画像であるため、術者は、患部等を詳細に観察するために、静止画像（フリーズ）表示や静止画像記録（レリーズ）を行いたい場合がある。
【０００３】
また、第１の従来例としての特開２００２−３３６１８３号公報に開示されているように、術者による音声入力により、その音声入力の指示内容を音声認識して指示操作に対応した各種の医療機器を制御することが行えるようになっている。  
また、第２の従来例としての特開平２００２−６５６６７号公報には、フリーズ表示を指示するまでに時間遅れがあった場合でも適切な画像をフリーズ表示するという課題に対して、フリーズ表示すべき画像が表示されてからフリーズを指示するまでの時間遅れに相当する遡り補正時間だけ過去に遡ったフレームデータに対応する画像をフリーズ表示するものを開示している。  
上述した第１の従来例は、意図しない音声入力操作を受け付けないようにしたものである。  
また、第２の従来例は、音声入力手段や、音声認識手段などを有しない特殊な構成の場合に対応するものである。
【０００４】
そして、この第２の従来例は、音声入力によりフリーズ、レリーズ等を適切に行うものでない。  
従来例においては、音声入力で指示操作を行った場合には、その音声入力の指示内容を音声認識して実行するまでに時間的な遅延が発生するため、フリーズ表示の指示を行った場合、指示したタイミングから遅れてフリーズが行われる。  
この従来例の場合における音声入力からフリーズされた静止画像表示（フリーズ画像表示）が得られる動作は、図１７及び図１８のようになる。  
図１７は、従来例の場合における音声入力から、この音声入力に対応する音声コマンドと認識された場合、その指示内容が実行される処理手順を示す。図１７の処理手順は、特開２００２−３３６１８３号公報に類似した内容が開示されている。このため、特開２００２−３３６１８３号公報に開示されたシステムに近い構成要素を用いて説明する。
【０００５】
この従来例のシステムにおいては最初のステップＳ９１においてマイクロフォンからの音声入力を待つ。音声入力が有ると、次のステップＳ９２で音声メモリへ（Ａ／Ｄ変換された）音声データの記憶が開始する。  
次のステップＳ９３及びＳ９４で音声入力が一定時間無音状態が続いたかの判定が行われる。この判定に該当しない場合にはステップＳ９３に戻り、音声入力が継続しているとして音声データの記憶が続行される。一方、この判定に該当する場合、つまり一定時間無音状態が続いた場合には、この音声入力が終了したと判定され、ステップＳ９５において音声メモリへの音声データの記憶が終了する。  
次のステップＳ９６で音声メモリに記憶された音声データに対して音声認識処理が行われる。そして、次のステップＳ９７で音声データが音声コマンドであるかどうかが判定される。音声コマンドであると判定されたならば、続くステップＳ９８で音声コマンドによる対象機器に対して操作処理を実行して図１７の処理を終了する。一方、音声コマンドでないと判定された場合にはステップＳ９１に戻る。
【特許文献１】特開平２００２−３３６１８３号公報
【特許文献１】特開平２００２−６５６６７号公報
【発明の開示】
【発明が解決しようとする課題】
【０００６】
従来例においては、図１７の処理によりタイムラグ（時間遅延）が発生するため、例えば音声コマンドがフリーズ画像表示の場合、図１８に示すように希望する画像の音声入力のタイミングｔｓから遅れたタイミングｔｃのフリーズ画像表示となってしまう。  
より具体的には、図１８に示すように、希望する画像の音声入力を行うタイミングｔｓから始まるステップＳ９１からステップＳ９８を経て音声コマンドの実行処理が行われるまでにｔｃ−ｔｓのタイムラグ（時間遅延）が発生する。  
図１８の例では、図１７におけるステップＳ９１からステップＳ９５までの発声区間、ステップＳ９６及びステップＳ９７までの音声認識処理、そしてステップＳ９８の実行処理が必要になる。  
このため、術者がフリーズ指示を行うように音声入力で指示したタイミングｔｓから遅れたタイミングｔｃの画像がフリーズ画像として実際に表示されるため、音声入力で指示したタイミングからずれた画像でフリーズ画像の表示が行われてしまう。
【０００７】
（発明の目的）
本発明は上述した点に鑑みてなされたもので、音声入力から音声認識を経て実行されるまでに時間遅延が発生する場合にも、音声入力したタイミングの静止画像表示等を行うことができる内視鏡装置及び内視鏡画像制御装置を提供することを目的とする。
【課題を解決するための手段】
【０００８】
本発明の一態様の内視鏡装置は、内視鏡に内蔵若しくは装着された撮像装置により撮像された信号から表示装置に内視鏡動画像を表示可能にする画像信号を生成する画像処理手段と、音声入力により指示操作を行う音声入力手段と、少なくとも前記音声入力の開始のタイミングに、少なくとも１枚の静止画像に相当する画像信号を取得する画像取得手段と、前記音声入力に対して、少なくとも静止画像の表示又は保存の所定の音声コマンドに対応するものであるか否かの音声認識を行う音声認識手段と、前記音声認識手段により前記音声入力が前記所定の音声コマンドであると音声認識した場合に、前記音声入力の開始のタイミングで取得された画像信号を表示装置に出力若しくは画像記録装置に保存する制御を行い、前記音声入力が前記所定の音声コマンドでない場合には、前記画像取得手段に取得した画像を破棄する制御手段と、を備え、前記音声入力の開始のタイミングは、前記音声入力手段から出力される音声信号又は音声データの大きさを比較手段で基準レベルと比較し、前記音声信号又は前記音声データが前記基準レベルを超えることを検出したときのタイミングである。
【０００９】
本発明の他の態様の内視鏡画像制御装置は、音声入力により指示操作を行う音声入力手段と、少なくとも前記音声入力の検出開始のタイミングに、内視鏡動画像における少なくとも１枚の静止画像に相当する画像信号を取得する画像取得手段と、前記音声入力が少なくとも静止画像の表示又は保存の所定の音声コマンドに対応するものであるか否かの音声認識を行う音声認識手段と、前記音声認識手段により前記音声入力が前記所定の音声コマンドであると音声認識した場合に、前記音声入力の検出開始のタイミングに対応する前記画像取得手段に取得された画像を表示装置に出力若しくは画像記録装置に保存する制御を行い、前記音声入力が前記所定の音声コマンドでない場合には、前記画像取得手段に取得した画像を破棄する制御手段と、を備え、前記音声入力の検出開始のタイミングは、前記音声入力手段から出力される音声信号又は音声データの大きさを比較手段で基準レベルと比較し、前記音声信号又は前記音声データが前記基準レベルを超えることを検出したときのタイミングである。
【発明の効果】
【００１０】
本発明によれば、音声入力から音声認識結果を経て実行されるまでに時間遅延が発生する場合にも、音声入力したタイミングの静止画像表示等を行うことができる。
【発明を実施するための最良の形態】
【００１１】
以下、図面を参照して本発明の実施例を説明する。  
【実施例１】
【００１２】
図１から図７は本発明の実施例１に係り、図１は本発明の実施例１に係る内視鏡外科手術システムの全体構成を示し、図２は図１の内視鏡外科手術システムの各機器の接続関係を示すブロック図、図３は音声認識処理部等を備えた内視鏡制御装置の構成を示すブロック図である。  
また、図４は実施例１の動作内容を示すフローチャート、図５は実施例１の動作内容を時間軸上で示す動作説明図、図６は変形例の内視鏡制御装置の構成を示すブロック図、図７は変形例の動作内容の一部を示すフローチャートである。  
図１に示すように、実施例１の内視鏡装置を形成する内視鏡外科手術システム１は、患者３が横たわる手術台２の両側に第１のトロリ４及び第２のトロリ５とが配置されている。これらの両トロリ４、５には内視鏡を用いて観察、検査、処置、記録などを行う複数の医療機器が搭載されている。
【００１３】
第１のトロリ４には、第１のＴＶカメラ装置（或いはビデオプロセッサ）６、第１の光源装置７、高周波焼灼装置８、気腹装置９、超音波観測装置１０、プリンタ１１、第１のモニタ（ディスプレイ）１２、非滅菌域に配置され、看護師が医療機器の操作を集中して行う図示しないマウスとタッチパネル等のポインティングデバイスを有した集中操作パネル１４、システムコントローラ１５等が搭載されている。  
第１のトロリ４に搭載された各医療機器は、通信ケーブルを介してシステムコントローラ１５と接続され、双方向通信を行えるようになっている。  
また、システムコントローラ１５には、術者が音声入力を行う音声入力手段としてのマイクロフォン（マイクと略記）１８が接続できるようになっている。術者は、マイク１８に対して音声を入力することにより、音声による指示操作を行うことができる。
【００１４】
マイク１８により、入力された音声は電気信号としての音声信号に変換され、後述する音声認識処理部４４（図２参照）に入力される。  
音声認識処理部４４は、入力された音声信号に対して、その音声が登録された音声コマンドであるか否かを認識（判定）する音声認識の処理を行う。入力された音声が音声コマンドとして認識された場合には、音声コマンドの指示操作に対応して各種の医療機器の制御や処理が行われる。  
第１の光源装置７は、照明光を伝送するライトガイドケーブル１６を介して第１の内視鏡１７に接続され、第１の光源装置７で発生した照明光は、第１の内視鏡１７のライトガイドに供給される。そして、照明光は、第１の内視鏡１７の挿入部が刺入された患者３の腹部内の患部等を照明する。
【００１５】
この第１の内視鏡１７の接眼部には撮像素子を備えた撮像装置としての第１のカメラヘッド１９が装着され、第１の内視鏡１７の観察光学系による患部等の光学像を第１のカメラヘッド１９内の撮像素子で撮像する。  
撮像素子で撮像された信号は、カメラケーブル２０を介して、画像処理手段としての第１のＴＶカメラ装置６に伝送され、第１のＴＶカメラ装置６内の信号処理回路で信号処理されて、画像信号（又は映像信号）が生成される。  
この画像信号は、システムコントローラ１５内の画像制御部４２を経由して、表示装置としての第１のモニタ１２に出力される。そして、この第１のモニタ１２の表示面には画像信号に対応する内視鏡動画像（紛らわしい場合を除き単に、動画像、或いは画像と略記）が表示される。
【００１６】
なお、図１においては、第１の内視鏡１７に第１のカメラヘッド１９が装着されて撮像装置を備えた内視鏡が用いられているが、内視鏡本体内に撮像素子又は撮像装置を内蔵した電子内視鏡を採用しても良い。  
また、システムコントコーラ１５には、図示しない病院内に設けられた院内ネットと図示しないケーブルで接続され、院内ネット上の画像データ等を第１のモニタ１２等に出力して表示することもできるようにしている。  
気腹装置９には炭酸ガスボンベ２１が接続され、気腹装置９から患者３に延びた気腹チューブ２２を介して患者３の腹部内に炭酸ガスを供給し、気腹することができるようにしている。
【００１７】
第２のトロリ５には、第２のＴＶカメラ装置（或いはビデオプロセッサ）２３、第２の光源装置２４、超音波処置装置２５、ＶＴＲ２６、第２のモニタ２７、砕石装置２８、シェーバ３０、ポンプ３７及び中継ユニット２９等が搭載されている。  
第２のトロリ５に搭載された各医療機器は、中継ユニット２９に接続され、各医療機器は中継ユニット２９を介してシステムコントローラ１５と双方向の通信が可能になっている。  
第２の光源装置２４は、照明光を伝送するライトガイドケーブル３１を介して第２の内視鏡３２に接続され、第２の光源装置２４で発生した照明光は、第２の内視鏡３２のライトガイドに供給される。そして、照明光は、第２の内視鏡３２の挿入部が刺入された患者３の腹部内の患部等を照明する。
【００１８】
この第２の内視鏡３２の接眼部には撮像素子を備えた撮像装置としての第２のカメラヘッド３３が装着され、第２の内視鏡３２の観察光学系による患部等の光学像を第２のカメラヘッド３３内の撮像素子で撮像する。  
撮像素子で撮像された信号は、カメラケーブル３４を介して、画像処理手段としての第２のＴＶカメラ装置２３に伝送され、第２のＴＶカメラ装置２３内の信号処理回路で信号処理されて、画像信号（又は映像信号）が生成される。  
この画像信号は、システムコントローラ１５内の画像制御部４２を経由して、表示装置としての第２のモニタ２７に出力される。そして、この第２のモニタ２７の表示面には、画像信号に対応する動画像が表示される。  
システムコントローラ１５と中継ユニット２９は、システムケーブル３５で接続されている。
【００１９】
さらに、システムコントローラ１５には、術者が滅菌域から機器操作を行う術者用リモートコントローラ（以下、リモコンと記す）３６が接続されている。  
図２に示すように、第１のＴＶカメラ装置６、第１の光源装置７、高周波焼灼装置８、気腹装置９、プリンタ１１及び超音波観測装置１０はそれぞれ通信ケーブル３８によりシステムコントローラ１５の通信Ｉ／Ｆ４１と接続され、システムコントローラ１５（内のＣＰＵ４３）とデータの送受を行うようになっている。  
また、第１のＴＶカメラ装置６、プリンタ１１、超音波観測装置１０及び第１のモニタ１２は、映像ケーブル３９によりシステムコントローラ１５内の画像制御を行う画像制御部４２に接続され、画像信号（映像信号）を送受できるようになっている。
【００２０】
第２のＴＶカメラ装置２３、第２の光源装置２４、超音波処置装置２５、ＶＴＲ２６、砕石装置２８、シェーバ３０及びポンプ３７は、通信ケーブル３８により中継ユニット２９に接続され、データの送受を行うようになっている。また、第２のモニタ２７、第２のＴＶカメラ装置２３及びＶＴＲ２６は、映像ケーブル３９により中継ユニット２９に接続され、画像信号を送受できるようになっている。  
また、中継ユニット２９は、ケーブル３５（内の通信ケーブル３８）によりシステムコントローラ１５の通信Ｉ／Ｆ４１に接続されている。また、中継ユニット２９は、ケーブル３５内の映像ケーブル３９を介してシステムコントローラ１５内の画像制御部４２に接続されている。  
システムコントローラ１５は、上記通信Ｉ／Ｆ４１、画像制御部４２の他に、各部の制御を行う中央制御部を構成するＣＰＵ４３を有する。
【００２１】
また、このシステムコントローラ１５は、マイク１８からの音声信号を認識する音声認識処理部４４と、リモコン３６とのデータの送受を行うリモコンＩ／Ｆ４５、集中操作パネル１４とのデータの送受を行う集中操作パネルＩ／Ｆ４６、ＣＰＵ４３の作業エリアやデータの一時記憶に用いられるメモリ４７とを備え、これら各部はＣＰＵ４３により制御されている。なお、ＣＰＵ４３を音声認識処理部４４の構成要素に含めても良い。  
また、このシステムコントローラ１５における画像制御部４２，ＣＰＵ４３，音声認識処理部４４は、内視鏡画像制御装置４８を形成する。  
この内視鏡画像制御装置４８は、マイク１８からの音声入力により、フリーズの指示操作を行った場合、音声入力のタイミングから音声認識結果を得るまで、及びそれを実行するまでに時間の遅延が発生する場合にも、音声入力のタイミングで取得した画像を静止画像として表示する機能を備える。
【００２２】
なお、システムコントローラ１５に外部記録媒体を接続可能とし、ＣＰＵ４３より画像データをその外部記録媒体に記録・再生することもできるようになっている。  
図３は内視鏡画像制御装置４８の構成を示す。  
図３に示すように内視鏡画像制御装置４８を構成する音声認識処理部４４は、マイク１８から入力される音声信号を検知する入力検知部を構成し、入力される音声信号をＡ／Ｄ変換するＡ／Ｄ変換部５１を備える。  
また、音声認識処理部４４は、Ａ／Ｄ変換部５１でＡ／Ｄ変換された音声信号データ（以下、音声データと略記）を記憶する音声メモリ５２と、ＣＰＵ４３が音声メモリ５２に記憶された音声データが所定の音声コマンドのデータであるかどうか比較判定するための音声コマンドのデータを格納しているフラッシュメモリ等からなる音声コマンドデータベース（図面中では音声コマンドＤＢと略記）５３とを有する。
【００２３】
Ａ／Ｄ変換部５１でＡ／Ｄ変換された音声データは、音声メモリ５２に順次記憶される。この音声メモリ５２に記憶された音声データは、ＣＰＵ４３により、音声コマンドか否かの音声認識が行われる。  
この音声コマンドデータベース５３には、医療機器の指示操作や画像に関係する指示操作、具体的には静止画像表示に関する音声コマンドのデータが格納されている。  
音声コマンドデータベース５３には、予め音声コマンドのデータとして例えば高周波焼灼装置８に対する「切開出力アップ」という音声コマンドのデータが登録され、「切開出力アップ」という音声データが入力されると、ＣＰＵ４３は音声コマンドデータベース５３の音声コマンドのデータと照合することで音声コマンドとして認識して切開出力をアップさせる制御を行う。
【００２４】
また、音声コマンドデータベース５３には、予め音声コマンドのデータとして例えば静止画像を表示させる「静止画像」或いは「フリーズ」という音声コマンドのデータが登録されている。そして、術者が「静止画像」或いは「フリーズ」と音声入力すると、ＣＰＵ４３は音声コマンドデータベース５３の音声コマンドのデータと例えば照合することで音声コマンドとして認識し、その音声コマンドに対応する静止画像表示（フリーズ画像表示）の制御を行う。  
また、図１に示すように複数のカメラヘッド１９及び３３とそれぞれに対する信号処理を行うＴＶカメラ装置６、２３を同時に使用している場合には、複数の画像信号にそれぞれ対応する複数の画像に対して「静止画像」の音声コマンドで共通に制御することができる。
【００２５】
一方、術者は、一方の画像のみ、例えば第１のモニタ１２に表示される第１の画像のみ、に対して音声入力で制御する場合には、例えば「第１の静止画像」や「第１のフリーズ」により一方の画像のみに対する音声コマンドで制御することができる。  
また、リモコン３６等により、予め音声入力で制御する一方の画像のみの設定を行うこともできるようにしている。  
例えば、第１のモニタ１２に表示される第１の画像のみに対して音声入力で制御するようにリモコン３６で設定した場合には、その設定情報が例えばＣＰＵ４３の図示しないレジスタ、メモリや、図３の画像制御回路５５の図示しないメモリ等に記憶される。  
そして、この場合には、単に「静止画像」或いは「フリーズ」の音声入力を行った場合には、第１のモニタ１２に表示される第１の画像のみに対して音声入力で制御することができるようにしている。この場合には、「第１の静止画像」或いは「第１のフリーズ」と音声入力する場合に比較して、「静止画像」或いは「フリーズ」の音声入力で済むため、音声認識に要する処理時間を短縮することができる。また、術者も短い音声入力（発声）で済む。
【００２６】
このように音声入力により静止画像表示の指示を行うようにＣＰＵ４３は制御するが、音声入力の開始のタイミングから音声認識結果が得られた後に、音声コマンドに対応する静止画像表示を行うと、音声入力の開始のタイミングから遅延したタイミングで取得した画像を静止画像として表示することになる。  
この場合の動作は、上述した図１７及び図１８に示す従来例の動作となってしまう。このため、本実施例においては、音声認識処理部４４のＡ／Ｄ変換部５１でＡ／Ｄ変換された音声入力で暫定的に静止画像の画像取得を起動させるような構成の内視鏡画像制御装置４８を形成している。  
この内視鏡画像制御装置４８においては、Ａ／Ｄ変換部５１でＡ／Ｄ変換された音声信号は、図３に示す画像制御部４２に入力される。
【００２７】
図３に示すように画像制御部４２は、ＣＰＵ４３及び音声認識処理部４４のＡ／Ｄ変換部５１に接続され、画像制御を行う制御手段としての画像制御回路５５と、この画像制御回路５５と接続され、画像を一時記憶（取得）する画像取得手段としての画像メモリ５６と、この画像制御回路５５と接続されると共に、画像機器に接続される表示インタフェースとしてのディスプレイＩ／Ｆ５７とから構成される。  
画像制御回路５５は、通常は画像機器としてのＴＶカメラ装置６等から入力される画像信号をそのまま或いは画像処理して画像表示を行う画像機器としてのモニタ１２等に出力して動画像として表示されるように画像制御等を行う。  
また、この画像制御回路５５は、Ａ／Ｄ変換部５１から（Ａ／Ｄ変換された）音声信号の入力の開始のタイミングをトリガ信号（起動信号）としてそのタイミングの動画像の画像信号の例えば１フレーム分或いは１枚分を画像メモリ５６に一時記憶する制御を行う。
その後、音声認識処理部４４による認識結果により、ＣＰＵ４３を経由して静止画像表示の音声コマンドと認識した場合には、画像制御回路５５は、音声信号の入力の開始のタイミングに画像メモリ５６に記憶した画像信号をディスプレイＩ／Ｆ５７を介してモニタ１２に出力し、静止画像として表示する。
【００２８】
一方、音声認識結果が静止画像表示又は静止画像記憶のいずれかとなる所定の音声コマンドでない場合には、画像制御回路５５は、画像メモリ５６に一時記憶した画像を破棄する（実際には、何もしないで、次に画像記憶の指示の際にオーバライトなどしても良い）。  
なお、音声入力の開始のタイミングを検知するために、本実施例においてはＡ／Ｄ変換部５１に、Ａ／Ｄ変換するＡ／Ｄ変換器の他に、例えばコンパレータ５１ａを設けている。  
このコンパレータ５１ａの一方の入力端に基準レベル、他方の入力端にＡ／Ｄ変換器に入力される音声信号又はＡ／Ｄ変換器でＡ／Ｄ変換された音声データが印加され、基準レベルを超える音声信号又は音声データが検出された場合に、コンパレータ５１ａは音声入力の開始を検知した検知信号を出力する。
【００２９】
この検知信号は、画像制御回路５５に入力され、この画像制御回路５５は、この検知信号のタイミング、つまり音声入力の開始のタイミングに同期した画像信号を画像メモリ５６に記憶させる。また、この検知信号は音声メモリ５２にも入力され、音声データを記憶させる制御にも使用される。  
このように、本実施例においては音声信号が入力されると、その音声信号の入力開始時に画像信号を一時記憶、つまり静止画像表示用の画像信号を取得する動作を行う。その後、音声認識結果に応じて、取得した画像信号を静止画像として表示、或いは表示をしない（で破棄する）。  
このようにすることにより音声入力に対して実際に音声認識結果を得てそれが実行されるまでに時間遅延が発生しても、術者が音声で指示したタイミングの画像信号を静止画像として表示可能にしている。
【００３０】
次にこのように構成された本実施例の作用について主に図４及び図５を参照して説明する。図４は本実施例の動作手順を示し、図５は音声入力（音声発生）から静止画像表示までの処理が実行されるまでの時間経過の様子を示す。  
本内視鏡外科手術システム１の電源が投入されることにより、各医療機器がシステムコントローラ１５の制御下で動作状態になる。そして、例えば第１の内視鏡１７に装着されたカメラヘッド１９により撮像され、第１のＴＶカメラ装置６による信号処理で生成された画像信号は第１のモニタ１２に出力され、その表示面に第１の画像が動画像で表示される。  
また、第２の内視鏡３２に装着されたカメラヘッド３３により撮像され、第２のＴＶカメラ装置２３による信号処理で生成された画像信号は、第２のモニタ２７に出力され、その表示面に第２の画像が動画像で表示される。ここでは、術者がリモコン３６により、第１のモニタ１２に表示される第１の画像のみに対する音声入力で指示操作を行う設定を行った例で説明する。
【００３１】
最初のステップＳ１においてシステムコントローラ１５の内視鏡画像制御装置４８は、マイク１８からの音声入力を待つ。術者は、モニタ１２に表示される動画像を観察し、静止画像表示を希望するタイミングにおいて「静止画像」又は「フリーズ」と音声入力を行えば良い。  
音声入力が行われると、ステップＳ２において音声信号は、Ａ／Ｄ変換部５１でＡ／Ｄ変換された音声データとなると共に、その音声入力の開始のタイミングがコンパレータ５１ａにより検知される。図５において、この音声入力の開始のタイミングをｔｓで示している。  
ステップＳ３に示すように画像制御回路５５はこのタイミングｔｓでＴＶカメラ装置６の画像信号を画像メモリ５６に一時記憶する。つまり音声入力の開始のタイミングｔｓの画像を取得する。図５においてもこのタイミングｔｓで画像の取得と表記している。  
また、ステップＳ４に示すように音声メモリ５２はこのタイミングｔｓから順次音声データを記憶する。
【００３２】
また、例えばＣＰＵ４３は、音声メモリ５２の音声データを監視し、ステップＳ５に示すように無音状態か否かを判定する。  
無音状態の場合にはＣＰＵ４３は、さらにステップＳ６において無音状態が一定時間継続して経過したかを判定する。  
ステップＳ５において無音状態でない場合、或いはステップＳ６において一定時間継続して経過していない場合には、ステップＳ４に戻り、音声データの記憶を続行する。  
ステップＳ６において無音状態が一定時間継続するようにして経過したと判定した場合にはＣＰＵ４３は音声入力が終了したと判定する。そして、ステップＳ７において入力された音声データの記憶を終了し、次のステップＳ８の音声認識処理に進む。
【００３３】
図５においてはタイミングｔｓからステップＳ７において音声入力の終了と判定したタイミングｔａまでが発声区間となり、次に音声認識処理が開始する。  
ステップＳ８において、ＣＰＵ４３は、音声メモリ５２に記憶された音声データに対して、音声コマンドのデータを参照して音声認識処理を行う。  
この音声認識処理により、ステップＳ９に示すようにＣＰＵ４３は入力された音声データが音声コマンドで有るかの判定を行う。  
そして、ステップＳ９において、音声コマンドに該当しないと判定した場合には、ステップＳ１に戻る。  
一方、音声コマンドで有ると判定した場合には、続くステップＳ１０においてＣＰＵ４３は、入力された音声コマンドが所定の音声コマンド、具体的にはフリーズの音声コマンドであるかの判定をする。なお、図５では音声認識処理の終了のタイミングを例えばｔｂで示している。そして、実行処理に移る。
【００３４】
ステップＳ１０においてＣＰＵ４３は、入力された音声データがフリーズの音声コマンドであると判定した場合には、ステップＳ１１においてステップＳ２のタイミングｔｓで取得した画像信号をモニタ１２で静止画像表示（フリーズ画像表示）を行うように制御する。具体的には、ＣＰＵ４３は、入力された音声データがフリーズの音声コマンドであると判定した情報を画像制御回路５５に通知する。  
画像制御回路５５は、この通知を受けて、画像メモリ５６に一時記憶された画像信号をモニタ１２に出力するように制御する。  
モニタ１２は、画像制御回路５５の制御により、ＴＶカメラ装置６からの動画像の画像信号が入力されてその動画像を表示している状態から、画像メモリ５６に一時記憶された画像信号が入力される状態に切り替えられて静止画像表示（フリーズ画像表示）を行うようになる。なお、図３における画像制御回路５５の制御動作もＣＰＵ４３が行うようにしても良い。
【００３５】
その後、図４の処理を終了、或いはステップＳ１に戻り、次の音声入力の動作を受け付ける。  
図５に示すように音声認識処理が終了して、入力された音声データがフリーズの音声コマンドであると判定された場合には、さらに実行処理のプロセスを経てフリーズ画像表示となる。図５ではこのフリーズ画像表示のタイミングをｔｃで示している。  
従って、図５に示すように術者が音声入力を開始したタイミングｔｓから音声認識処理を経て実行処理までにｔｃーｔｓのタイムラグ（時間遅延）が発生しても、本実施例では音声入力の開始のタイミングｔｓで取得した画像（信号）を表示することができる。  
一方、ステップＳ１０の判定処理においてフリーズの音声コマンドでないと判定した場合には、ＣＰＵ４３は画像制御回路５５にフリーズの音声コマンドでない事を通知する。ステップＳ１２に示すように、画像制御回路５５は例えばステップＳ２で取得した画像を破棄する（或いはこの取得された画像を無視するようにしても良い）。
【００３６】
そして、次のステップＳ１３においてＣＰＵ４３はその音声コマンドに対応する処理或いは制御を行い、図４の処理を終了、或いはステップＳ１に戻り、次の音声入力の動作を受け付ける。  
このように動作する本実施例によれば、音声入力からそれが音声コマンドとして音声認識され、さらに実行されるまでに時間遅延が発生する場合においても、簡単な構成で術者が音声入力したタイミングの画像信号を取得し、フリーズの音声入力の場合にはその画像信号を静止画像として表示することができる。  
なお、本実施例においては、所定の音声コマンドとして、フリーズ画像表示の場合で説明したが、静止画像のレリーズ（保存）にも適用できる。術者は、内視鏡検査の終了後において、診断等のため保存したいと希望する画像がある場合、レリーズの指示操作を行う。
【００３７】
以下、このような場合に対応できる変形例を説明する。  
図６は、実施例１の変形例における内視鏡画像制御装置４８Ｂの構成を示す。この変形例は、例えば図３の内視鏡画像制御装置４８において、さらに静止画像を保存する画像記録装置としての例えば不揮発性メモリとしてのフラッシュメモリ５８が設けてある。また、音声コマンドデータベース５３には、フリーズの音声コマンドの他にレリーズの音声コマンドも所定の音声コマンドとして登録されている。  
画像制御回路５５は、実施例１と同様に音声入力の開始のタイミングｔｓで画像メモリ５６に静止画用の画像信号を一時記憶する。その後、ＣＰＵ４３を経て入力される音声認識結果が例えばフリーズの音声コマンドの場合には、モニタ１２にフリーズ画像表示を行う。
【００３８】
また、画像制御回路５５は、レリーズの音声コマンドの場合には、タイミングｔｓで取得した画像信号を一定時間、モニタ１２で表示し（て術者が確認できるようにし）た後、フラッシュメモリ５８にその画像を保存（レリーズ）する。なお、確認用の表示を行う事無く保存しても良い。  
なお、フリーズ画像表示の音声コマンドの場合には、フリーズ画像の表示が解除（キャンセル）されると、例えばそのフリーズ画像は破棄される。或いは後述する実施例のように、フリーズ画像を保存或いは保存しないの選択を行うようにしても良い。  
図７は本変形例における動作内容の一部を示す。この変形例は、上述のように所定の音声コマンドとしてフリーズ及びレリーズが登録されている。そして、図４のステップＳ１からステップＳ１０までは同じ処理となるため、例えばステップＳ８以降の異なる処理部分を含む一部のみを示す。
【００３９】
この変形例は、図４の処理において、ステップＳ１０でフリーズの音声コマンドでないと判定した場合、ステップＳ１２に移る前に、図７のステップＳ２１に進む。このステップＳ２１においてＣＰＵ４３は、さらにレリーズの音声コマンドか否かの判定を行う。そして、レリーズの音声コマンドでないと判定した場合にはステップＳ１２に移る。  
一方、レリーズの音声コマンドと判定した場合にはＣＰＵ４３は、その判定結果の情報を図６の画像制御回路５５に送る。画像制御回路５５は、ステップＳ２２に示すようにタイミングｔｓで取得した画像信号をモニタ１２に一定時間出力し、モニタ１２にはレリーズされる画像が一定時間、確認のために表示される。  
その後、画像制御回路５５は、ステップＳ２３に示すようにその画像信号をフラッシュメモリ５８に保存してこのレリーズの音声コマンドに対する処理を終了する。
【００４０】
本変形例によれば、術者が診断等のために静止画像として保存を望む場合、音声入力で指示することにより、音声入力からその音声認識等に時間遅延が発生する場合でも、指示したタイミングの画像を保存できる。その他、実施例１と同様の効果を有する。  
なお、上述の説明において、例えばモニタ１２に動画像が表示されている状態で、同じモニタ１２上にその静止画像表示を行う場合、表示される静止画像を縮小した静止画像にして、動画像と同時に表示するようにしても良い。  
或いは親子画像のように両画像を表示しても良い。この場合、両画像のの親子表示を入れ替えることができるようにしても良い。また、同じサイズで両画像を表示しても良いし、表示される静止画像のサイズを選択設定できるようにしても良い。  
なお、音声入力の開始のタイミングに画像メモリ５６に取得する画像信号は、少なくとも１枚の静止画像として表示に必要となる画像信号を含むものであれば良い。このため、例えばフレーム／フィールド単位で連続する複数の画像信号を取得するようにしても良い。
【実施例２】
【００４１】
次に本発明の実施例２を説明する。図８から図１２は、実施例２に係り、図８は実施例２に係る内視鏡画像制御装置の構成を示し、図９は実施例２の動作内容を示し、図１０は実施例２の動作を時間軸上で示し、図１１は取得した画像を同時に複数表示する表示例等を示し、図１２は取得した画像を表示する動作内容のフローチャートを示す。  
図８に示すように本実施例における内視鏡画像制御装置４８Ｃは、例えば図６の内視鏡画像制御装置４８に類似した構成である。つまり画像制御回路５５は、Ａ／Ｄ変換部５１のコンパレータ５１ａから検知信号が入力されると、その検知信号以後の画像信号を例えば連続的に画像メモリ５６に一時記憶する制御動作を行う。つまり、本実施例においては、検知信号は、画像制御回路５５に対して画像記憶の開始信号として機能する。
【００４２】
また、本実施例においては音声認識結果においてフリーズの音声コマンドと認識された場合には、画像メモリ５６に一時記憶された画像信号から複数の画像を同時に表示する選択と、１つの画像を表示する選択ができるようにしている。  
複数の画像の表示を選択した場合には、画像制御回路５５は、画像メモリ５６に一時記憶された画像信号を表示装置に出力する場合、縮小処理して出力する。  
このため、画像制御回路５５は、縮小処理する縮小処理部５５ａを有する。縮小処理部５５ａは、例えば同時に表示する画像数に応じて間引き処理を行うものでも良い。そして、モニタ１２等の表示装置には複数の縮小画像がフリーズ画像で表示される（後述する図１１参照）。
【００４３】
また、この場合に対応して、本実施例においては複数の縮小画像から１つを選択して通常のサイズで表示する音声コマンドも用意している。なお、後述するように術者が操作し易いようにカメラヘッド１９に設けたボタンを操作して選択、その他の操作を行うこともできる。また、１つの画像を表示する選択に設定した場合にも、他のタイミングで取得した画像を選択して表示できるようにしている。  
また、本実施例においては、画像メモリ５６は、音声入力の開始のタイミングｔｓから例えば音声認識処理結果を経てそれを実行するまでの時間、具体的にはｔｓ−ｔｃの時間、画像信号を記憶する記憶容量を有する。  
また、本実施例においてはフリーズ画像の表示後に、その画像を保存することができるようにフラッシュメモリ５８を備えている。本実施例においては、レリーズの機能は、フリーズの機能に付随した構成になっている（実施例１のような構成にしても良い）。
【００４４】
その他の構成は実施例１とほほ同様の構成である。  
次に図９を参照して本実施例の処理動作を説明する。図９に示す処理内容は、図４と類似しているため、異なる部分を説明する。  
本実施例においては、図４におけるステップＳ３がステップＳ３ａに変更され、このステップＳ３ａにおいて画像制御回路５５は音声入力の開始のタイミングｔｓから画像（信号）の取得を行う。  
また、図９の場合には、ステップＳ５及びステップＳ６の判定がＮＯの場合には、ステップＳ３ａに戻る。つまり、無音状態が一定時間継続しない場合には、ステップＳ３ａに戻り、ステップＳ３ａの画像の取得と、ステップＳ４の音声データの記憶の処理が行われる。この場合の画像の取得は、動画像或いはその動画像を形成する複数の静止画像の取得となる。
【００４５】
また、ステップＳ６において無音状態が一定時間継続して音声入力が終了したと判定された場合には、ステップＳ７において入力された音声データの記憶を終了すると共に、ステップＳ７ｂに示すように画像制御回路５５は、画像メモリ５６に画像（画像信号）を一時記憶する画像取得の動作を終了する。  
また、図４におけるステップＳ１１はタイミングｔｓで取得した１枚の画像をモニタ１２に表示する処理であるが、図９ではステップＳ１１ａに変更される。このステップＳ１１ａにおいて画像制御回路５５（又はＣＰＵ４３）は、タイミングｔｓからｔｃまでに取得した複数のフリーズ画像における複数の縮小画像或いは１つの画像をモニタ１２に表示するように制御する（図面中では単に取得した画像をモニタに表示と略記）。  
その他は実施例１における図４に示す動作とほぼ同様の動作となる。図１０は本実施例の動作を時間軸上で示したものである。
【００４６】
本実施例においては図１０に示すように音声入力の開始のタイミングｔｓから画像の取得を開始し、音声認識処理が終了して、その結果、実行処理が行われる直前までの画像を取得する。  
そして、実行処理によりそのタイミングｔｃにおいて、例えば複数の画像表示の設定がされている場合には、複数の画像を同時に縮小表示する。この表示例を図１１（Ａ）に示す。  
そして、術者はこれら複数の縮小された画像から通常のサイズで（又は拡大）表示したい画像を選択し、さらに決定操作を行うことにより、選択された１つを図１１（Ｃ）に示すように通常のサイズで表示する。  
また、図１１（Ａ）の表示例において、複数の画像から別の１つを選択して図１１（Ｂ）に示すように選択する画像を変更することもできる。また、複数の画像表示の選択が行われない場合には、最初は例えばタイミングｔｓで取得された１つの画像がモニタ１２に表示される。この場合には、１つの画像表示に対して、同様に別の画像の表示の選択等を行うことができる（図示略）。
【００４７】
なお、図１０における括弧で示すように、最初にタイミングｔｓで取得した画像を１つ表示しても良い。この場合にも、他のタイミングで取得した画像を選択して静止画像として表示や保存することができる。  
図１２は図９のステップＳ１１ａによる画像表示の処理動作例を示す。  
画像表示がスタートすると、ステップＳ３１に示すようにＣＰＵ４３又は画像制御回路５５は、複数の画像表示の設定（選択）にされているかの判定を行う。  
複数の画像表示に設定されている場合には、ステップＳ３２において画像制御回路５５は、画像メモリ５６からタイミングｔｓを含む複数の画像信号（例えば時間的に隣接する４フレーム分の画像信号）を読み出し、それぞれ縮小処理する。
【００４８】
さらに、ステップＳ３３において画像制御回路５５は、縮小処理した複数の画像信号をモニタ（具体的にはモニタ１２として説明する）に出力し、モニタ１２には複数の画像が同時に縮小表示される。  
この表示例としては図１１（Ａ）に示すように４つの第１画像６１ａ、第２画像６１ｂ、第３画像、第４画像６１ｄが同時にフリーズ画像で縮小表示される。  
次のステップＳ３４において画像制御回路５５はＣＰＵ４３経由で、術者から別の画像の表示の選択指示が有るかの判定を行う。  
術者は、これらの画像を観察して、別の画像を表示させることを望む場合には、別の画像の表示を選択する選択操作を行う。
【００４９】
術者により、別の画像の表示を選択する指示操作が行われると、画像制御回路５５は、指示操作に対応する画像を画像メモリ５６から読み出し、縮小処理する。そしてモニタ１２にはステップＳ３５に示すように、別の複数の画像が縮小表示される。この場合の別の複数の画像は、複数の内の１つのみ前の複数の画像と異なるものであっても良いし、複数異なるものであっても良い。  
ステップＳ３４において別の複数の画像の表示が選択されなかった場合、或いはステップＳ３５の処理の後、ステップＳ３６において画像制御回路５５はＣＰＵ４３経由で、術者から通常サイズで画像表示、換言すると縮小画像から拡大した通常サイズでの希望とする静止画表示の指示が有るかの判定を行う。  
術者はモニタ１２に表示される複数の（縮小）画像において、フリーズ画像として適するものがあれば、その画像を選択して決定の指示操作をする。すると、ステップＳ３７に示すように画像制御回路５５は、その画像の画像信号を縮小処理しないでモニタ１２に出力する。
【００５０】
モニタ１２には１つの画像が通常サイズで静止画像として表示される。次のステップＳ３８において画像制御回路５５はＣＰＵ４３経由で、術者からフリーズ解除（フリーズキャンセル）の入力待ちとなる。  
術者から音声入力等により、フリーズ解除の指示操作が行われると、ステップＳ３９に示すように画像制御回路５５はＣＰＵ４３経由で、保存の指示が有るか否かの判定を行う。なお、予め、保存するしないの設定を行っておいても良い。  
保存の指示或いは設定である場合にはステップＳ４０において、画像制御回路５５は、フリーズ画像表示された画像信号をフラッシュメモリ５８に保存する。なお、図示しない画像記録装置に保存しても良い。また、保存する場合、画像制御回路５５は、可逆的な圧縮処理又は不可逆的な圧縮処理を行うようにしても良い。
【００５１】
その後、ステップＳ４１において画像制御回路５５は、ＴＶカメラ装置６からの画像信号をモニタ１２に出力するように制御する。そして、モニタ１２には動画像が表示される状態に復帰する。  
一方、ステップＳ３１において複数の画像の表示が選択（設定）されていない場合には、ステップＳ４２に進む。このステップＳ４２において画像制御回路５５は、画像メモリ５６からタイミングｔｓで取得した画像信号を読み出す。そして、次のステップＳ４３において画像制御回路５５は、その画像信号をモニタ１２に出力する。モニタ１２にはその画像信号が静止画像として表示される。
【００５２】
次のステップＳ４４において画像制御回路５５はＣＰＵ４３経由で、術者から別の画像の静止画表示の選択がされるか否かの判定を行う。術者は、別の画像、この場合にはタイミングｔｓの後に続くタイミング（ｔｓ＋１で略記）の画像を表示するように選択することができる。この選択がされると、ステップＳ４５に示すようにその選択に対応した別の画像がモニタ１２に表示される。  
また、この場合には、続くステップＳ４６に示すように、さらに別の画像の表示を選択することもできる。この場合には、タイミング（ｔｓ＋１）の次となるタイミング（ｔｓ＋２）の画像、或いは前に戻る選択によりタイミングｔｓの画像を選択できる。  
そして、その選択に対応して、ステップＳ４５に示すように別の画像がモニタ１２に表示される。ステップＳ４４、Ｓ４６において術者が別の画像表示を選択しないとステップＳ３８に移る。そして、上述したステップＳ３８〜ステップＳ４１の処理を行う。
【００５３】
上述したステップＳ３１からステップＳ３７に関して、図１１を用いて補足説明する。  複数表示の設定が行われていると、ステップＳ３２に示す処理の後、モニタ１２には図１１（Ａ）の表示のようになる。  
図１１（Ａ）の表示例では、動画像におけるタイミングｔｓからそれ以降に続く４枚の画像信号の縮小処理に対応する第１画像６１ａ〜第４画像６１ｄが表示される。  
また、この表示画面において、１つの画像を選択する選択カーソル６２が表示される。この選択カーソル６２は、初期設定においては第１画像６１ａの位置にある。選択カーソル６２で選択する画像を変更する選択操作を行おうとする場合には、選択カーソル６２を移動する。
【００５４】
選択する画像を例えば第１画像６１ａから第２画像６１ｂに変更したい場合には、例えば第１画像６１ａ〜第４画像６１ｄの下のカメラヘッド割り当てボタン表示部６３内に表示されている内容に沿った操作を行えば良い。  
図１に示したカメラヘッド１９には、図１１（Ａ）に示すボタンＦ１〜Ｆ３が設けてある。そして、これらのボタンＦ１〜Ｆ３には、例えばこの図１１（Ａ）に示すように進む、戻る、決定の機能が割り当てられている。  
そして、術者は、カメラヘッド割り当てボタン表示部６３に表示されているボタンＦ１〜Ｆ３におけるボタンＦ１を操作すれば良い。この操作により、図１１（Ｂ）に示すように選択する画像を第１画像６１ａから第２画像６１ｂに変更できる。
【００５５】
また、図１１（Ａ）の選択状態において、第１画像６１ａを通常サイズで（縮小されたサイズから言えば拡大）表示させたい場合には、決定の機能が割り当てられたボタンＦ３を操作すれば良い。この決定の操作により、図１１（Ｃ）に示すように通常サイズの第１画像６１Ａがフリーズ画像として表示される。  
また、この図１１（Ｃ）においては、この第１画像６１Ａの下に短縮音声コマンド表示部６４が表示される。この短縮音声コマンド表示部６４には、音声コマンドとして登録されている例えば「保存」、「印刷」、「転送」、「キャンセル」の代わりにそれぞれの短縮音声コマンドとして機能する例えば番号「１」、「２」、「３」、「４」が表示されている。そして、術者は、例えば「保存」の音声入力を行う代わりに「１」と音声入力を行えば良いようにしている。
【００５６】
このような代替手段を用意して、術者による指示操作、音声入力を軽減して、内視鏡外科手術をより円滑に行い易い環境を提供できるようにしている。  
本実施例によれば、術者が音声入力で指示したタイミングｔｓのみでなく、そのタイミングｔｓ以後に及ぶ複数枚の静止画像に相当する画像信号を取得するようにしているので、実際にフリーズ画像として観察したい画像を複数の画像から選択することができる。    このため、術者の音声入力による指示操作を軽減することができる。例えば、音声入力による指示のタイミングｔｓの画像は、術者が希望する静止画像に近いものであるが、そのタイミングｔｓの直後に術者が静止画像として同程度に望ましいと思う画像状態になる場合があり得る。
【００５７】
この場合、術者は続けて音声入力を行えば良いが、術者は短時間に音声入力を２回（複数回）行わなければならなくなり、術者の負担が増大するが、本実施例によれば１回で済む。  
つまり、本実施例によれば音声入力のタイミングｔｓからその発声区間が終了し、さらに音声認識処理が終了するまでの時間、連続して画像信号の取得を行っているので、この時間内に１回の音声入力を行えば良い。  
また、このように音声入力する時間を短くすることにより、音声認識の処理の信頼性を向上することができる。  
上述のように短時間に２回の音声入力を行う場合には、少なくとも発声区間を確保して行わないと、音声認識の処理に時間がかかったり、誤った音声認識を行ってしまう可能性があるが、本実施例はこれを解消できる。
【００５８】
また、音声コマンドを短縮する代替の音声コマンドを用意することにより、やはり音声認識の処理の信頼性を向上することができる。  
なお、音声入力の開始のタイミングｔｓから連続して取得する取得画像の時間を、術者等が選択又は設定できるようにしても良い。  
また、動画像を連続的に取得する代わりに、駒落ちした状態の動画像（例えば数枚／秒）或いは複数枚の静止画像を取得するようにしても良い。  
なお、例えば複数のフリーズ画像を縮小表示する場合、動画像の縮小画像を同時に表示するようにしても良い。例えば図１１（Ａ）における第４画像６１ｄの位置に、縮小された動画像を常時表示するようにしても良い。この場合には、１つの動画像と、３個の静止画像が同時に縮小表示される状態になる。
【実施例３】
【００５９】
次に本発明の実施例３を説明する。図１３から図１６は、実施例３に係り、図１３は実施例３における内視鏡画像制御装置の構成を示し、図１４は実施例３の動作内容を示し、図１５は実施例３の動作を時間軸上で示す。  
図１１に示す実施例３に係る内視鏡画像制御装置４８Ｄは、例えば図８に示す内視鏡画像制御装置４８Ｃにおいて、画像メモリ５６の代わりにリングバッファメモリ５６Ｄが採用されている。  
このリングバッファメモリ５６Ｄは、実施例２の画像メモリ５６のように所定時間以上の動画像を構成する複数のフレーム分の画像信号を一時記憶する記憶容量を備えている。  本実施例においては、この所定時間として例えばデフォルト値として、ｔｃ−ｔｓの２倍程度に設定されている。この所定時間は、術者等が可変設定することができる。
【００６０】
また、このリングバッファメモリ５６Ｄは、これを構成するメモリセルのアドレス値がリング状につながるように設定されているか、これと同等の機能が達成されるように（画像制御回路５５により）アドレス制御される。  
このリングバッファメモリ５６Ｄは、例えば図１３に示すように１番目のメモリセル７１−１、２番目のメモリセル７１ー２、…、ｍ番目のメモリセル７１−ｍで構成され、画像制御回路５５の制御により、１番目のメモリセル７１−１から順に画像信号を記憶する。  
そして、画像制御回路５５の制御により、ｍ番目のメモリセル７１−ｍまで画像信号を記憶した後、次の（ｍ＋１番目となる）画像信号が入力された場合には、１番目のメモリセル７１−１に上書き（オーバライト）する。
【００６１】
また、リングバッファメモリ５６Ｄには、画像信号と共に、各画像信号の一時記憶のタイミングを特定する時刻情報とが関連付けて記憶される。なお、画像信号を例えば所定のクロックに同期した一定の間隔でリングバッファメモリ５６Ｄに記憶する動作の場合には、この時刻情報は必ずしも必要不可欠のものでない。  
また、本実施例においては、画像制御回路５５は、リングバッファメモリ５６Ｄに対して常時、画像信号を記憶するように制御する。そして、Ａ／Ｄ変換部５１のコンパレータ５１ａから音声入力の開始のタイミングｔｓの検知信号が入力されると、画像制御回路５５は、そのタイミングｔｓの時刻情報を、例えば画像制御回路５５内のレジスタ５５ｂに記憶する。
【００６２】
そして、このタイミングｔｓからｔｃーｔｓ経過してフリーズ画像表示を行った場合には、画像取得を中断する。その後、フリーズ画像表示が解除されると、再び画像取得を開始する。  
次に図１４のフローチャートを参照して本実施例の動作を説明する。本実施例の動作は、例えば図４のフローチャートにおけるステップＳ１の前にステップＳ５１の処理を行う。  
本システムの電源が投入され、医療機器、システムコントローラ１５等が動作状態になる。  
ステップＳ５１に示すようにシステムコントローラ１５内の内視鏡画像制御装置４８Ｄを構成する画像制御回路５５は、ＴＶカメラ装置６から出力される画像信号がリングバッファメモリ５６Ｄに記憶させるように制御する。つまり、画像取得手段となるリングバッファメモリ５６Ｄは、画像取得を開始する。以後、ＴＶカメラ装置６から出力される画像信号は、常時、リングバッファメモリ５６Ｄに記憶される。
【００６３】
この場合、リングバッファメモリ５６Ｄは、その記憶容量により所定時間の周期で、以前の画像信号をオーバライトしながら新しい画像信号を記憶する。また、各画像信号は、例えば時刻情報と関連付けて記憶される。  
その後、図４のフローチャートと同様にステップＳ１，Ｓ２を行い、ステップＳ３の代わりにステップＳ３ｂの処理を行う。  
このステップＳ３ｂにおいて画像制御回路５５は、音声入力の開始のタイミングｔｓの検知信号が入力されると、そのタイミングｔｓの時刻情報を、例えばその内部のレジスタ５５ｃに記憶する。  
その後、図４と同様にステップＳ４〜Ｓ７の処理を行う。このステップＳ７の後、例えばステップＳ７ｂに示すようにリングバッファメモリ５６Ｄは画像（信号）取得を終了する。より具体的には、画像制御回路５５はリングバッファメモリ５６Ｄによる画像信号の記憶を終了させる。
【００６４】
このステップＳ７ｂの処理により、リングバッファメモリ５６Ｄにはタイミングｔｓ以後はｔｃ付近までの画像信号が、またタイミングｔｓ以前のものとしては、ほぼｔｃ−ｔｓ程度遡ったタイミングまでの画像信号が取得される状態になる（リングバッファメモリ５６Ｄの記憶容量をｔｃ−ｔｓの２倍程度の時間、画像信号を記憶するようにした場合）。  
その後は、図９のステップＳ８以降（ステップＳ１３まで）と殆ど同様の処理を行う。なお、この場合には図９のステップＳ１２において取得した画像の破棄の代わりのステップＳ１２ａに示すように画像制御回路５５の内部のレジスタ５５ｃに記憶したタイミングｔｓの時刻情報の破棄で良い。或いは両方を破棄しても良い。  
図１５は本実施例の動作を時間軸上で示したものである。
【００６５】
本実施例は実施例２がタイミングｔｓ以降の画像信号（画像）を取得するのに対して、そのタイミングｔｓの過去側の画像信号（画像）も取得できる。従って、実際にフリーズ画像として表示させる場合、タイミングｔｓ以前の画像からも選択できる。  
なお、フリーズの音声コマンドと音声認識した場合には、最初はタイミングｔｓを中心として時間的に前後する４個の画像を、例えば図１１（Ａ）のように表示しても良い。    本実施例によれば、簡単な構成で、音声入力のタイミングｔｓ以後は勿論、そのタイミングｔｓ以前の画像信号も、音声入力で指示されたタイミングｔｓをほぼ時間中心として取得することができる。  
また、この場合には、実施例２で説明したように複数の縮小画像を同時に表示して、その表示状態から術者が望む１つの画像をフリーズ画像として表示させることができる。実施例２においてはタイミングｔｓ以降の画像のみを選択できたが、本実施例では、時間的に過去の画像も選択することができる。
【００６６】
このため、術者がフリーズ画像をより広範囲に選択することができる。例えば、術者がフリーズ指示のタイミングを逃しても、その逃したタイミングのあとで音声入力すれば、その逃したタイミングよりも前のタイミングの画像も記憶しているので、その逃したタイミングの画像を選択して表示させることができる。  
また、本実施例は、音声入力のタイミングｔｓを含むその周辺時間の画像信号のみを取得するようにしているため、画像取得手段としてのリングバッファメモリ５６Ｄの記憶容量として大きなものを必要としない。  
なお、本実施例の変形例として大きな記憶容量を有する画像メモリ５６を採用できる場合には、システム１の動作開始から終了時まで、画像メモリに連続的に画像信号を一時記憶するようにしても良い。
【００６７】
この場合における動作内容は図１６のフローチャートのようになる。図１６は、図１４において、ステップＳ７ｂの処理を行わない。その他は図１４と同様の処理を行う。本変形例は簡単な制御動作で済むメリットがある。  
この場合には、実施例３と同様に音声入力のタイミングｔｓの以後及び以前の画像を選択して表示すること等ができると共に、その画像選択の範囲をより広げることができる。  また、本変形例によれば、画像取得を常時行えば良いため、その制御がより簡単になる。  
なお、実施例３の説明として１つのリングバッファメモリ５６Ｄの場合で説明したが、変形例として、複数のリングバッファメモリ５６Ｄを形成しても良い。
【００６８】
つまり、１つのリングバッファメモリ５６Ｄの場合には、フリーズの音声入力を行った場合には、そのフリーズの音声認識処理の後、静止画表示の際には、リングバッファメモリ５６Ｄの画像が更新されないように画像の一時記憶（取得）を停止する。そして、リングバッファメモリ５６Ｄの画像の保存或いは破棄が確定した後、再びリングバッファメモリ５６Ｄの画像取得が開始する。  
このため、例えば第１のリングバッファメモリでの画像取得が停止している場合、第２のリングバッファメモリにより画像取得を行うことができるように複数のリングバッファメモリを備えた構成にしても良い。  
なお、実施例１から実施例３は、音声入力に対する認識処理に関する内容であったが、本発明は、その他の操作指示方法についても適用することが可能である。
【００６９】
例えば、手や足の動作により操作指示を行う場合においては、動作認識手段が動作の検知を開始したタイミングに同期した画像を暫定的に取得し、動作認識手段により認識された結果に基づき、取得した画像の表示等を行うことが可能となる。  
なお、上述した各実施例等を部分的に組み合わせる等して構成される実施例等も本発明に属する。
【産業上の利用可能性】
【００７０】
内視鏡を用いて手術、検査を行う場合、音声入力により静止画像の表示等を行えるようにして操作性を向上した。また、音声入力の場合には、音声入力のタイミングからそれが実行されるまでに時間を要するが、音声入力のタイミングに同期した画像を暫定的に取得し、音声認識の結果に応じて、取得した画像の静止画像表示等を行うことにより、指示されたタイミングの静止画像表示等を行えるようにした。
【図面の簡単な説明】
【００７１】
【図１】図１は本発明の実施例１に係る内視鏡外科手術システムの全体構成を示す構成図。
【図２】図２は、図１における医療機器等の接続関係等を示すブロック図。
【図３】図３は内視鏡画像制御装置の構成を示すブロック図。
【図４】図４は実施例１の動作内容を示すフローチャート。
【図５】図５は実施例１における動作内容を時間軸上で示す動作説明図。
【図６】図６は変形例における内視鏡画像制御装置の構成を示すブロック図。
【図７】図７は変形例の動作内容の一部を示すフローチャート。
【図８】図８は本発明の実施例２に係る内視鏡画像制御装置の構成を示すブロック図。
【図９】図９は実施例２の動作内容を示すフローチャート。
【図１０】図１０は実施例２の動作を時間軸上で示す動作説明図。
【図１１】図１１は取得した画像を同時に複数表示する表示例等を示す図。
【図１２】図１２は取得した画像を表示する動作内容のフローチャートを示す。
【図１３】図１３は実施例３における内視鏡画像制御装置の構成を示すブロック図。
【図１４】図１４は実施例３の動作内容を示すフローチャート。
【図１５】図１５は実施例３における動作内容を時間軸上で示す動作説明図。
【図１６】図１６は変形例における動作内容を示すフローチャート。
【図１７】図１７は従来例における音声入力した場合の動作内容を示すフローチャート。
【図１８】図１８は、図１７の動作を時間軸上で示す動作説明図。
【符号の説明】
【００７２】
１…内視鏡外科手術システム
６、２３…ＴＶカメラ装置
１２、２７…モニタ
１５…システムコントローラ
１７、３２…内視鏡
１８…マイク
１９、３３…カメラヘッド
３６…リモコン
４２…画像制御部
４３…ＣＰＵ
４４…音声認識処理部
５１…Ａ／Ｄ変換部
５２…音声メモリ
５３…音声コマンドデータベース
５５…画像制御回路
５６…画像メモリ
５８…フラッシュメモリ
５６Ｄ…リングバッファメモリ
【図１】
0005484658.tif 000002
【図２】
0005484658.tif 000003
【図３】
0005484658.tif 000004
【図４】
0005484658.tif 000005
【図５】
0005484658.tif 000006
【図６】
0005484658.tif 000007
【図７】
0005484658.tif 000008
【図８】
0005484658.tif 000009
【図９】
0005484658.tif 000010
【図１０】
0005484658.tif 000011
【図１１】
0005484658.tif 000012
【図１２】
0005484658.tif 000013
【図１３】
0005484658.tif 000014
【図１４】
0005484658.tif 000015
【図１５】
0005484658.tif 000016
【図１６】
0005484658.tif 000017
【図１７】
0005484658.tif 000018
【図１８】
0005484658.tif 000019