(57)【要約】【課題】医療従事者の行動を妨げる可能性を抑制しつつ、医療現場において行われる手術の安全性を向上することが可能な技術が提供されることが望まれる。【解決手段】手術室内に設置されたカメラと、学習によって得られた手術室内の人または機器に関する辞書データと前記手術室内に設置されたカメラによって撮像された第１の画像から抽出された人または機器に関する第１の特徴データとを比較する処理部を備える、情報処理装置と、を有する、手術システムが提供される。【選択図】図５
2019022580.tif 000002
【特許請求の範囲】
【請求項１】
手術室内に設置されたカメラと、
学習によって得られた手術室内の人または機器に関する辞書データと前記手術室内に設置されたカメラによって撮像された第１の画像から抽出された人または機器に関する第１の特徴データとを比較する処理部を備える、情報処理装置と、
を有する、手術システム。
【請求項２】
前記情報処理装置は、前記辞書データと前記第１の特徴データとの差分が第１の閾値を超える場合、第１の警告情報の出力を制御する出力制御部を備える、
請求項１に記載の手術システム。
【請求項３】
前記処理部は、前記第１の画像に関連付けられた予後情報と標準データとを比較する、
請求項１に記載の手術システム。
【請求項４】
前記情報処理装置は、前記予後情報と前記標準データとの差分が第２の閾値を超える場合、第２の警告情報の出力を制御する出力制御部を備える、
請求項３に記載の手術システム。
【請求項５】
前記出力制御部は、前記予後情報と前記手術室内で行われた手術の種類に応じて取得された標準データとの差分が前記第２の閾値を超える場合、前記第２の警告情報の出力を制御する、
請求項４に記載の手術システム。
【請求項６】
前記情報処理装置は、前記標準データとの差分が第２の閾値を超え、かつ、同一または類似する複数の予後情報を抽出した場合、前記複数の予後情報それぞれに関連付けられた、人同士の連携に関する情報、各人の位置もしくは動作に関する情報、または、手術ステージの継続時間もしくは手術ステージにおける所定の段階までの経過時間を取得する解析部を備える、
請求項３に記載の手術システム。
【請求項７】
前記予後情報は、患者の入院期間、手術後の患者の症状の安定度合い、および、手術後の患者の状態を示す情報の少なくともいずれか一つを含む、
請求項３に記載の手術システム。
【請求項８】
前記処理部は、学習によって得られた前記手術室内の人または機器の位置に関する辞書データと前記第１の画像から抽出された人または機器の位置を示す第１の特徴データとを比較する、
請求項１に記載の手術システム。
【請求項９】
前記第１の特徴データは、前記人または機器が通過した複数の位置または前記複数の位置の重心を含む、
請求項８に記載の手術システム。
【請求項１０】
前記処理部は、前記第１の画像または前記第１の画像が撮像されたタイミングと所定の関係を有するタイミングに撮像された画像から手術ステージが認識された場合、前記手術ステージの辞書データと前記第１の特徴データとを比較する、
請求項１に記載の手術システム。
【請求項１１】
前記手術ステージは、前記手術ステージに対応するイベントの検出によって認識される、
請求項１０に記載の手術システム。
【請求項１２】
前記辞書データは、第２の画像から抽出された人または機器に関する第２の特徴データに対して修正が入力された場合、前記修正に基づいて作成される、
請求項１に記載の手術システム。
【請求項１３】
前記辞書データは、前記第２の画像または前記第２の画像が撮像されたタイミングと所定の関係を有するタイミングに撮像された画像から手術ステージが認識された場合、前記手術ステージの辞書データとして作成される、
請求項１２に記載の手術システム。
【請求項１４】
前記情報処理装置は、前記辞書データと前記第１の特徴データとにおいて、手術ステージの遷移順序が異なる場合、または、対応する手術ステージの継続時間もしくは対応する段階までの経過時間の差分が第３の閾値を超える場合、第３の警告情報の出力を制御する出力制御部を備える、
請求項１３に記載の手術システム。
【請求項１５】
前記辞書データは、第３の画像から人同士の連携が認識された場合、前記人同士の連携に関する情報を含んで作成される、
請求項１に記載の手術システム。
【請求項１６】
前記情報処理装置は、前記辞書データと前記第１の特徴データとにおいて、連携する複数の人の少なくとも一人が異なる場合、連携する複数の人のいずれかが入れ替わっている場合、または、対応する人同士の連携の継続時間もしくは人同士の連携の対応する段階までの経過時間の差分が第４の閾値を超える場合、第４の警告情報の出力を制御する出力制御部を備える、
請求項１５に記載の手術システム。
【請求項１７】
前記情報処理装置は、学習によって前記手術室内の人または機器に関する前記辞書データを作成する学習部を備える、
請求項１に記載の手術システム。
【請求項１８】
前記情報処理装置は、前記第１の画像から前記第１の特徴データを抽出する特徴データ抽出部を備える、
請求項１に記載の手術システム。
【請求項１９】
プロセッサにより、学習によって得られた手術室内の人または機器に関する辞書データと前記手術室内に設置されたカメラによって撮像された画像から抽出された人または機器に関する特徴データとを比較することを含む、
情報処理方法。
【請求項２０】
学習によって得られた手術室内の人または機器に関する辞書データとカメラによって撮像された画像から抽出された人または機器に関する特徴データとを比較する処理部を備える、情報処理装置。
【発明の詳細な説明】
【技術分野】
【０００１】
本開示は、手術システム、情報処理方法および情報処理装置に関する。
【背景技術】
【０００２】
近年、医療現場において行われる手術の安全性を向上するための技術として様々な技術が開示されている。例えば、看護師に歩数計および傾斜角センサを装着し、歩数計によって計測された歩数と傾斜角センサによって計測された傾斜角度とに基づいて、アクシデントが発生する可能性の有無を判断する技術が開示されている（例えば、特許文献１参照。）。
【０００３】
かかる技術においては、歩数および傾斜角度に基づいて看護師の行動に関する特徴データが作成され、特定のアクシデントが発生したときの特徴データに基づいて特定のアクシデントについての辞書データが作成される。そして、辞書データ作成後には、ある時点における特徴データと辞書データとの比較に基づいて、アクシデントが発生する可能性の有無が判断される。
【先行技術文献】
【特許文献】
【０００４】
【特許文献１】特開２００４−１５７６１４号公報
【発明の概要】
【発明が解決しようとする課題】
【０００５】
しかし、医療従事者にセンサを装着させた場合には、センサが医療従事者の動作を妨げてしまう可能性がある。特に、緊急事態が生じた場合および予定されていた事態と異なる事態が生じた場合などには、医療従事者は通常時よりも迅速に行動する必要が生じる可能性がある。
【０００６】
そこで、医療従事者の行動を妨げる可能性を抑制しつつ、医療現場において行われる手術の安全性を向上することが可能な技術が提供されることが望まれる。
【課題を解決するための手段】
【０００７】
本開示によれば、手術室内に設置されたカメラと、学習によって得られた手術室内の人または機器に関する辞書データと前記手術室内に設置されたカメラによって撮像された第１の画像から抽出された人または機器に関する第１の特徴データとを比較する処理部を備える、情報処理装置と、を有する、手術システムが提供される。
【０００８】
本開示によれば、プロセッサにより、学習によって得られた手術室内の人または機器に関する辞書データと前記手術室内に設置されたカメラによって撮像された画像から抽出された人または機器に関する特徴データとを比較することを含む、情報処理方法が提供される。
【０００９】
本開示によれば、学習によって得られた手術室内の人または機器に関する辞書データとカメラによって撮像された画像から抽出された人または機器に関する特徴データとを比較する処理部を備える、情報処理装置が提供される。
【発明の効果】
【００１０】
以上説明したように本開示によれば、医療従事者の行動を妨げる可能性を抑制しつつ、医療現場において行われる手術の安全性を向上することが可能な技術が提供されることが可能な技術が提供されることが可能な技術が提供される。なお、上記の効果は必ずしも限定的なものではなく、上記の効果とともに、または上記の効果に代えて、本明細書に示されたいずれかの効果、または本明細書から把握され得る他の効果が奏されてもよい。
【図面の簡単な説明】
【００１１】
【図１】手術室システムの全体構成を概略的に示す図である。
【図２】集中操作パネルにおける操作画面の表示例を示す図である。
【図３】手術室システムが適用された手術の様子の一例を示す図である。
【図４】図３に示すカメラヘッド及びＣＣＵの機能構成の一例を示すブロック図である。
【図５】本開示の実施形態に係る情報処理装置の機能構成例を示すブロック図である。
【図６】本開示の実施形態に係る情報処理装置の全体的な動作を示すフローチャートである。
【図７】麻酔導入ステージにおける人員位置および機器位置の例を示す図である。
【図８】ナビゲーションステージにおける人員位置および機器位置の例を示す図である。
【図９】開頭ステージにおける人員位置および機器位置の例を示す図である。
【図１０】治療ステージにおける人員位置および機器位置の例を示す図である。
【図１１】術中診断ステージにおける人員位置および機器位置の例を示す図である。
【図１２】閉頭ステージにおける人員位置および機器位置の例を示す図である。
【図１３】本開示の実施形態において利用される各種情報の対応関係を示す図である。
【図１４】運用段階における人員位置に基づく警告表示の動作例を示すフローチャートである。
【図１５】運用段階における機器位置に基づく警告表示の動作例を示すフローチャートである。
【発明を実施するための形態】
【００１２】
以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
【００１３】
また、本明細書および図面において、実質的に同一または類似の機能構成を有する複数の構成要素を、同一の符号の後に異なる数字を付して区別する場合がある。ただし、実質的に同一または類似の機能構成を有する複数の構成要素の各々を特に区別する必要がない場合、同一符号のみを付する。また、異なる実施形態の類似する構成要素については、同一の符号の後に異なるアルファベットを付して区別する場合がある。ただし、類似する構成要素の各々を特に区別する必要がない場合、同一符号のみを付する。
【００１４】
なお、説明は以下の順序で行うものとする。
１．システム構成例
２．概要
３．実施形態の詳細
３−１．作業目標設定
３−２．学習段階
３−３．運用段階
３−４．問題探索
３−５．作業目標修正
４．むすび
【００１５】
＜＜１．システム構成例＞＞
まず、図面を参照しながら、本開示の実施形態に係る情報処理システムの一例の構成例について説明する。本開示の実施形態に係る情報処理システムの例としては様々なシステムが想定される。ここでは、本開示の実施形態に係る情報処理システムの一例として、手術室システムの構成例について主に説明する。
【００１６】
図１は、本開示に係る技術が適用され得る手術室システム５１００の全体構成を概略的に示す図である。図１を参照すると、手術室システム５１００は、手術室内に設置される装置群が視聴覚コントローラ（AV  Controller）５１０７及び手術室制御装置５１０９を介して互いに連携可能に接続されることにより構成される。
【００１７】
手術室には、様々な装置が設置され得る。図１では、一例として、内視鏡下手術のための各種の装置群５１０１と、手術室の天井に設けられ術者の手元を撮像するシーリングカメラ５１８７と、手術室の天井に設けられ麻酔科医を撮像する麻酔科医撮像カメラ５１８８と、手術室の天井に設けられ手術室全体の様子を撮像する術場カメラ５１８９と、複数の表示装置５１０３Ａ〜５１０３Ｄと、レコーダ５１０５と、患者ベッド５１８３と、照明５１９１と、を図示している。
【００１８】
ここで、これらの装置のうち、装置群５１０１は、後述する内視鏡手術システム５１１３に属するものであり、内視鏡や当該内視鏡によって撮像された画像を表示する表示装置等からなる。内視鏡手術システム５１１３に属する各装置は医療機器とも呼称される。一方、表示装置５１０３Ａ〜５１０３Ｄ、レコーダ５１０５、患者ベッド５１８３及び照明５１９１は、内視鏡手術システム５１１３とは別個に、例えば手術室に備え付けられている装置である。これらの内視鏡手術システム５１１３に属さない各装置は非医療機器とも呼称される。視聴覚コントローラ５１０７及び／又は手術室制御装置５１０９は、これら医療機器及び非医療機器の動作を互いに連携して制御する。
【００１９】
視聴覚コントローラ５１０７は、医療機器及び非医療機器における画像表示に関する処理を、統括的に制御する。具体的には、手術室システム５１００が備える装置のうち、装置群５１０１、シーリングカメラ５１８７及び術場カメラ５１８９は、手術中に表示すべき情報（以下、表示情報ともいう）を発信する機能を有する装置（以下、発信元の装置とも呼称する）であり得る。また、表示装置５１０３Ａ〜５１０３Ｄは、表示情報が出力される装置（以下、出力先の装置とも呼称する）であり得る。また、レコーダ５１０５は、発信元の装置及び出力先の装置の双方に該当する装置であり得る。視聴覚コントローラ５１０７は、発信元の装置及び出力先の装置の動作を制御し、発信元の装置から表示情報を取得するとともに、当該表示情報を出力先の装置に送信し、表示又は記録させる機能を有する。なお、表示情報とは、手術中に撮像された各種の画像や、手術に関する各種の情報（例えば、患者の身体情報や、過去の検査結果、術式についての情報等）等である。
【００２０】
具体的には、視聴覚コントローラ５１０７には、装置群５１０１から、表示情報として、内視鏡によって撮像された患者の体腔内の術部の画像についての情報が送信され得る。また、シーリングカメラ５１８７から、表示情報として、当該シーリングカメラ５１８７によって撮像された術者の手元の画像についての情報が送信され得る。また、術場カメラ５１８９から、表示情報として、当該術場カメラ５１８９によって撮像された手術室全体の様子を示す画像についての情報が送信され得る。なお、手術室システム５１００に撮像機能を有する他の装置が存在する場合には、視聴覚コントローラ５１０７は、表示情報として、当該他の装置からも当該他の装置によって撮像された画像についての情報を取得してもよい。
【００２１】
あるいは、例えば、レコーダ５１０５には、過去に撮像されたこれらの画像についての情報が視聴覚コントローラ５１０７によって記録されている。視聴覚コントローラ５１０７は、表示情報として、レコーダ５１０５から当該過去に撮像された画像についての情報を取得することができる。なお、レコーダ５１０５には、手術に関する各種の情報も事前に記録されていてもよい。
【００２２】
視聴覚コントローラ５１０７は、出力先の装置である表示装置５１０３Ａ〜５１０３Ｄの少なくともいずれかに、取得した表示情報（すなわち、手術中に撮影された画像や、手術に関する各種の情報）を表示させる。図示する例では、表示装置５１０３Ａは手術室の天井から吊り下げられて設置される表示装置であり、表示装置５１０３Ｂは手術室の壁面に設置される表示装置であり、表示装置５１０３Ｃは手術室内の机上に設置される表示装置であり、表示装置５１０３Ｄは表示機能を有するモバイル機器（例えば、タブレットＰＣ（Personal  Computer））である。
【００２３】
また、図１では図示を省略しているが、手術室システム５１００には、手術室の外部の装置が含まれてもよい。手術室の外部の装置は、例えば、病院内外に構築されたネットワークに接続されるサーバや、医療スタッフが用いるＰＣ、病院の会議室に設置されるプロジェクタ等であり得る。このような外部装置が病院外にある場合には、視聴覚コントローラ５１０７は、遠隔医療のために、テレビ会議システム等を介して、他の病院の表示装置に表示情報を表示させることもできる。
【００２４】
手術室制御装置５１０９は、非医療機器における画像表示に関する処理以外の処理を、統括的に制御する。例えば、手術室制御装置５１０９は、患者ベッド５１８３、シーリングカメラ５１８７、術場カメラ５１８９及び照明５１９１の駆動を制御する。
【００２５】
手術室システム５１００には、集中操作パネル５１１１が設けられており、ユーザは、当該集中操作パネル５１１１を介して、視聴覚コントローラ５１０７に対して画像表示についての指示を与えたり、手術室制御装置５１０９に対して非医療機器の動作についての指示を与えることができる。集中操作パネル５１１１は、表示装置の表示面上にタッチパネルが設けられて構成される。
【００２６】
図２は、集中操作パネル５１１１における操作画面の表示例を示す図である。図２では、一例として、手術室システム５１００に、出力先の装置として、２つの表示装置が設けられている場合に対応する操作画面を示している。図２を参照すると、操作画面５１９３には、発信元選択領域５１９５と、プレビュー領域５１９７と、コントロール領域５２０１と、が設けられる。
【００２７】
発信元選択領域５１９５には、手術室システム５１００に備えられる発信元装置と、当該発信元装置が有する表示情報を表すサムネイル画面と、が紐付けられて表示される。ユーザは、表示装置に表示させたい表示情報を、発信元選択領域５１９５に表示されているいずれかの発信元装置から選択することができる。
【００２８】
プレビュー領域５１９７には、出力先の装置である２つの表示装置（Monitor1、Monitor2）に表示される画面のプレビューが表示される。図示する例では、１つの表示装置において４つの画像がＰｉｎＰ表示されている。当該４つの画像は、発信元選択領域５１９５において選択された発信元装置から発信された表示情報に対応するものである。４つの画像のうち、１つはメイン画像として比較的大きく表示され、残りの３つはサブ画像として比較的小さく表示される。ユーザは、４つの画像が表示された領域を適宜選択することにより、メイン画像とサブ画像を入れ替えることができる。また、４つの画像が表示される領域の下部には、ステータス表示領域５１９９が設けられており、当該領域に手術に関するステータス（例えば、手術の経過時間や、患者の身体情報等）が適宜表示され得る。
【００２９】
コントロール領域５２０１には、発信元の装置に対して操作を行うためのＧＵＩ（Graphical  User  Interface）部品が表示される発信元操作領域５２０３と、出力先の装置に対して操作を行うためのＧＵＩ部品が表示される出力先操作領域５２０５と、が設けられる。図示する例では、発信元操作領域５２０３には、撮像機能を有する発信元の装置におけるカメラに対して各種の操作（パン、チルト及びズーム）を行うためのＧＵＩ部品が設けられている。ユーザは、これらのＧＵＩ部品を適宜選択することにより、発信元の装置におけるカメラの動作を操作することができる。なお、図示は省略しているが、発信元選択領域５１９５において選択されている発信元の装置がレコーダである場合（すなわち、プレビュー領域５１９７において、レコーダに過去に記録された画像が表示されている場合）には、発信元操作領域５２０３には、当該画像の再生、再生停止、巻き戻し、早送り等の操作を行うためのＧＵＩ部品が設けられ得る。
【００３０】
また、出力先操作領域５２０５には、出力先の装置である表示装置における表示に対する各種の操作（スワップ、フリップ、色調整、コントラスト調整、２Ｄ表示と３Ｄ表示の切り替え）を行うためのＧＵＩ部品が設けられている。ユーザは、これらのＧＵＩ部品を適宜選択することにより、表示装置における表示を操作することができる。
【００３１】
なお、集中操作パネル５１１１に表示される操作画面は図示する例に限定されず、ユーザは、集中操作パネル５１１１を介して、手術室システム５１００に備えられる、視聴覚コントローラ５１０７及び手術室制御装置５１０９によって制御され得る各装置に対する操作入力が可能であってよい。
【００３２】
図３は、以上説明した手術室システムが適用された手術の様子の一例を示す図である。シーリングカメラ５１８７及び術場カメラ５１８９は、手術室の天井に設けられ、患者ベッド５１８３上の患者５１８５の患部に対して処置を行う術者（医者）５１８１の手元及び手術室全体の様子を撮影可能である。シーリングカメラ５１８７及び術場カメラ５１８９には、倍率調整機能、焦点距離調整機能、撮影方向調整機能等が設けられ得る。照明５１９１は、手術室の天井に設けられ、少なくとも術者５１８１の手元を照射する。照明５１９１は、その照射光量、照射光の波長（色）及び光の照射方向等を適宜調整可能であってよい。
【００３３】
内視鏡手術システム５１１３、患者ベッド５１８３、シーリングカメラ５１８７、術場カメラ５１８９及び照明５１９１は、図１に示すように、視聴覚コントローラ５１０７及び手術室制御装置５１０９（図３では図示せず）を介して互いに連携可能に接続されている。手術室内には、集中操作パネル５１１１が設けられており、上述したように、ユーザは、当該集中操作パネル５１１１を介して、手術室内に存在するこれらの装置を適宜操作することが可能である。
【００３４】
以下、内視鏡手術システム５１１３の構成について詳細に説明する。図示するように、内視鏡手術システム５１１３は、内視鏡５１１５と、その他の術具５１３１と、内視鏡５１１５を支持する支持アーム装置５１４１と、内視鏡下手術のための各種の装置が搭載されたカート５１５１と、から構成される。
【００３５】
内視鏡手術では、腹壁を切って開腹する代わりに、トロッカ５１３９ａ〜５１３９ｄと呼ばれる筒状の開孔器具が腹壁に複数穿刺される。そして、トロッカ５１３９ａ〜５１３９ｄから、内視鏡５１１５の鏡筒５１１７や、その他の術具５１３１が患者５１８５の体腔内に挿入される。図示する例では、その他の術具５１３１として、気腹チューブ５１３３、エネルギー処置具５１３５及び鉗子５１３７が、患者５１８５の体腔内に挿入されている。また、エネルギー処置具５１３５は、高周波電流や超音波振動により、組織の切開及び剥離、又は血管の封止等を行う処置具である。ただし、図示する術具５１３１はあくまで一例であり、術具５１３１としては、例えば攝子、レトラクタ等、一般的に内視鏡下手術において用いられる各種の術具が用いられてよい。
【００３６】
内視鏡５１１５によって撮影された患者５１８５の体腔内の術部の画像が、表示装置５１５５に表示される。術者５１８１は、表示装置５１５５に表示された術部の画像をリアルタイムで見ながら、エネルギー処置具５１３５や鉗子５１３７を用いて、例えば患部を切除する等の処置を行う。なお、図示は省略しているが、気腹チューブ５１３３、エネルギー処置具５１３５及び鉗子５１３７は、手術中に、術者５１８１又は助手等によって支持される。
【００３７】
（支持アーム装置）
支持アーム装置５１４１は、ベース部５１４３から延伸するアーム部５１４５を備える。図示する例では、アーム部５１４５は、関節部５１４７ａ、５１４７ｂ、５１４７ｃ、及びリンク５１４９ａ、５１４９ｂから構成されており、アーム制御装置５１５９からの制御により駆動される。アーム部５１４５によって内視鏡５１１５が支持され、その位置及び姿勢が制御される。これにより、内視鏡５１１５の安定的な位置の固定が実現され得る。
【００３８】
（内視鏡）
内視鏡５１１５は、先端から所定の長さの領域が患者５１８５の体腔内に挿入される鏡筒５１１７と、鏡筒５１１７の基端に接続されるカメラヘッド５１１９と、から構成される。図示する例では、硬性の鏡筒５１１７を有するいわゆる硬性鏡として構成される内視鏡５１１５を図示しているが、内視鏡５１１５は、軟性の鏡筒５１１７を有するいわゆる軟性鏡として構成されてもよい。
【００３９】
鏡筒５１１７の先端には、対物レンズが嵌め込まれた開口部が設けられている。内視鏡５１１５には光源装置５１５７が接続されており、当該光源装置５１５７によって生成された光が、鏡筒５１１７の内部に延設されるライトガイドによって当該鏡筒の先端まで導光され、対物レンズを介して患者５１８５の体腔内の観察対象に向かって照射される。なお、内視鏡５１１５は、直視鏡であってもよいし、斜視鏡又は側視鏡であってもよい。
【００４０】
カメラヘッド５１１９の内部には光学系及び撮像素子が設けられており、観察対象からの反射光（観察光）は当該光学系によって当該撮像素子に集光される。当該撮像素子によって観察光が光電変換され、観察光に対応する電気信号、すなわち観察像に対応する画像信号が生成される。当該画像信号は、ＲＡＷデータとしてカメラコントロールユニット（ＣＣＵ：Camera  Control  Unit）５１５３に送信される。なお、カメラヘッド５１１９には、その光学系を適宜駆動させることにより、倍率及び焦点距離を調整する機能が搭載される。
【００４１】
なお、例えば立体視（３Ｄ表示）等に対応するために、カメラヘッド５１１９には撮像素子が複数設けられてもよい。この場合、鏡筒５１１７の内部には、当該複数の撮像素子のそれぞれに観察光を導光するために、リレー光学系が複数系統設けられる。
【００４２】
（カートに搭載される各種の装置）
ＣＣＵ５１５３は、ＣＰＵ（Central  Processing  Unit）やＧＰＵ（Graphics  Processing  Unit）等によって構成され、内視鏡５１１５及び表示装置５１５５の動作を統括的に制御する。具体的には、ＣＣＵ５１５３は、カメラヘッド５１１９から受け取った画像信号に対して、例えば現像処理（デモザイク処理）等の、当該画像信号に基づく画像を表示するための各種の画像処理を施す。ＣＣＵ５１５３は、当該画像処理を施した画像信号を表示装置５１５５に提供する。また、ＣＣＵ５１５３には、図１に示す視聴覚コントローラ５１０７が接続される。ＣＣＵ５１５３は、画像処理を施した画像信号を視聴覚コントローラ５１０７にも提供する。また、ＣＣＵ５１５３は、カメラヘッド５１１９に対して制御信号を送信し、その駆動を制御する。当該制御信号には、倍率や焦点距離等、撮像条件に関する情報が含まれ得る。当該撮像条件に関する情報は、入力装置５１６１を介して入力されてもよいし、上述した集中操作パネル５１１１を介して入力されてもよい。
【００４３】
表示装置５１５５は、ＣＣＵ５１５３からの制御により、当該ＣＣＵ５１５３によって画像処理が施された画像信号に基づく画像を表示する。内視鏡５１１５が例えば４Ｋ（水平画素数３８４０×垂直画素数２１６０）又は８Ｋ（水平画素数７６８０×垂直画素数４３２０）等の高解像度の撮影に対応したものである場合、及び／又は３Ｄ表示に対応したものである場合には、表示装置５１５５としては、それぞれに対応して、高解像度の表示が可能なもの、及び／又は３Ｄ表示可能なものが用いられ得る。４Ｋ又は８Ｋ等の高解像度の撮影に対応したものである場合、表示装置５１５５として５５インチ以上のサイズのものを用いることで一層の没入感が得られる。また、用途に応じて、解像度、サイズが異なる複数の表示装置５１５５が設けられてもよい。
【００４４】
光源装置５１５７は、例えばＬＥＤ（light  emitting  diode）等の光源から構成され、術部を撮影する際の照射光を内視鏡５１１５に供給する。
【００４５】
アーム制御装置５１５９は、例えばＣＰＵ等のプロセッサによって構成され、所定のプログラムに従って動作することにより、所定の制御方式に従って支持アーム装置５１４１のアーム部５１４５の駆動を制御する。
【００４６】
入力装置５１６１は、内視鏡手術システム５１１３に対する入力インタフェースである。ユーザは、入力装置５１６１を介して、内視鏡手術システム５１１３に対して各種の情報の入力や指示入力を行うことができる。例えば、ユーザは、入力装置５１６１を介して、患者の身体情報や、手術の術式についての情報等、手術に関する各種の情報を入力する。また、例えば、ユーザは、入力装置５１６１を介して、アーム部５１４５を駆動させる旨の指示や、内視鏡５１１５による撮像条件（照射光の種類、倍率及び焦点距離等）を変更する旨の指示、エネルギー処置具５１３５を駆動させる旨の指示等を入力する。
【００４７】
入力装置５１６１の種類は限定されず、入力装置５１６１は各種の公知の入力装置であってよい。入力装置５１６１としては、例えば、マウス、キーボード、タッチパネル、スイッチ、フットスイッチ５１７１及び／又はレバー等が適用され得る。入力装置５１６１としてタッチパネルが用いられる場合には、当該タッチパネルは表示装置５１５５の表示面上に設けられてもよい。
【００４８】
あるいは、入力装置５１６１は、例えばメガネ型のウェアラブルデバイスやＨＭＤ（Head  Mounted  Display）等の、ユーザによって装着されるデバイスであり、これらのデバイスによって検出されるユーザのジェスチャや視線に応じて各種の入力が行われる。また、入力装置５１６１は、ユーザの動きを検出可能なカメラを含み、当該カメラによって撮像された映像から検出されるユーザのジェスチャや視線に応じて各種の入力が行われる。更に、入力装置５１６１は、ユーザの声を収音可能なマイクロフォンを含み、当該マイクロフォンを介して音声によって各種の入力が行われる。このように、入力装置５１６１が非接触で各種の情報を入力可能に構成されることにより、特に清潔域に属するユーザ（例えば術者５１８１）が、不潔域に属する機器を非接触で操作することが可能となる。また、ユーザは、所持している術具から手を離すことなく機器を操作することが可能となるため、ユーザの利便性が向上する。
【００４９】
処置具制御装置５１６３は、組織の焼灼、切開又は血管の封止等のためのエネルギー処置具５１３５の駆動を制御する。気腹装置５１６５は、内視鏡５１１５による視野の確保及び術者の作業空間の確保の目的で、患者５１８５の体腔を膨らめるために、気腹チューブ５１３３を介して当該体腔内にガスを送り込む。レコーダ５１６７は、手術に関する各種の情報を記録可能な装置である。プリンタ５１６９は、手術に関する各種の情報を、テキスト、画像又はグラフ等各種の形式で印刷可能な装置である。
【００５０】
以下、内視鏡手術システム５１１３において特に特徴的な構成について、更に詳細に説明する。
【００５１】
（支持アーム装置）
支持アーム装置５１４１は、基台であるベース部５１４３と、ベース部５１４３から延伸するアーム部５１４５と、を備える。図示する例では、アーム部５１４５は、複数の関節部５１４７ａ、５１４７ｂ、５１４７ｃと、関節部５１４７ｂによって連結される複数のリンク５１４９ａ、５１４９ｂと、から構成されているが、図３では、簡単のため、アーム部５１４５の構成を簡略化して図示している。実際には、アーム部５１４５が所望の自由度を有するように、関節部５１４７ａ〜５１４７ｃ及びリンク５１４９ａ、５１４９ｂの形状、数及び配置、並びに関節部５１４７ａ〜５１４７ｃの回転軸の方向等が適宜設定され得る。例えば、アーム部５１４５は、好適に、６自由度以上の自由度を有するように構成され得る。これにより、アーム部５１４５の可動範囲内において内視鏡５１１５を自由に移動させることが可能になるため、所望の方向から内視鏡５１１５の鏡筒５１１７を患者５１８５の体腔内に挿入することが可能になる。
【００５２】
関節部５１４７ａ〜５１４７ｃにはアクチュエータが設けられており、関節部５１４７ａ〜５１４７ｃは当該アクチュエータの駆動により所定の回転軸まわりに回転可能に構成されている。当該アクチュエータの駆動がアーム制御装置５１５９によって制御されることにより、各関節部５１４７ａ〜５１４７ｃの回転角度が制御され、アーム部５１４５の駆動が制御される。これにより、内視鏡５１１５の位置及び姿勢の制御が実現され得る。この際、アーム制御装置５１５９は、力制御又は位置制御等、各種の公知の制御方式によってアーム部５１４５の駆動を制御することができる。
【００５３】
例えば、術者５１８１が、入力装置５１６１（フットスイッチ５１７１を含む）を介して適宜操作入力を行うことにより、当該操作入力に応じてアーム制御装置５１５９によってアーム部５１４５の駆動が適宜制御され、内視鏡５１１５の位置及び姿勢が制御されてよい。当該制御により、アーム部５１４５の先端の内視鏡５１１５を任意の位置から任意の位置まで移動させた後、その移動後の位置で固定的に支持することができる。なお、アーム部５１４５は、いわゆるマスタースレイブ方式で操作されてもよい。この場合、アーム部５１４５は、手術室から離れた場所に設置される入力装置５１６１を介してユーザによって遠隔操作され得る。
【００５４】
また、力制御が適用される場合には、アーム制御装置５１５９は、ユーザからの外力を受け、その外力にならってスムーズにアーム部５１４５が移動するように、各関節部５１４７ａ〜５１４７ｃのアクチュエータを駆動させる、いわゆるパワーアシスト制御を行ってもよい。これにより、ユーザが直接アーム部５１４５に触れながらアーム部５１４５を移動させる際に、比較的軽い力で当該アーム部５１４５を移動させることができる。従って、より直感的に、より簡易な操作で内視鏡５１１５を移動させることが可能となり、ユーザの利便性を向上させることができる。
【００５５】
ここで、一般的に、内視鏡下手術では、スコピストと呼ばれる医師によって内視鏡５１１５が支持されていた。これに対して、支持アーム装置５１４１を用いることにより、人手によらずに内視鏡５１１５の位置をより確実に固定することが可能になるため、術部の画像を安定的に得ることができ、手術を円滑に行うことが可能になる。
【００５６】
なお、アーム制御装置５１５９は必ずしもカート５１５１に設けられなくてもよい。また、アーム制御装置５１５９は必ずしも１つの装置でなくてもよい。例えば、アーム制御装置５１５９は、支持アーム装置５１４１のアーム部５１４５の各関節部５１４７ａ〜５１４７ｃにそれぞれ設けられてもよく、複数のアーム制御装置５１５９が互いに協働することにより、アーム部５１４５の駆動制御が実現されてもよい。
【００５７】
（光源装置）
光源装置５１５７は、内視鏡５１１５に術部を撮影する際の照射光を供給する。光源装置５１５７は、例えばＬＥＤ、レーザ光源又はこれらの組み合わせによって構成される白色光源から構成される。このとき、ＲＧＢレーザ光源の組み合わせにより白色光源が構成される場合には、各色（各波長）の出力強度及び出力タイミングを高精度に制御することができるため、光源装置５１５７において撮像画像のホワイトバランスの調整を行うことができる。また、この場合には、ＲＧＢレーザ光源それぞれからのレーザ光を時分割で観察対象に照射し、その照射タイミングに同期してカメラヘッド５１１９の撮像素子の駆動を制御することにより、ＲＧＢそれぞれに対応した画像を時分割で撮像することも可能である。当該方法によれば、当該撮像素子にカラーフィルタを設けなくても、カラー画像を得ることができる。
【００５８】
また、光源装置５１５７は、出力する光の強度を所定の時間ごとに変更するようにその駆動が制御されてもよい。その光の強度の変更のタイミングに同期してカメラヘッド５１１９の撮像素子の駆動を制御して時分割で画像を取得し、その画像を合成することにより、いわゆる黒つぶれ及び白とびのない高ダイナミックレンジの画像を生成することができる。
【００５９】
また、光源装置５１５７は、特殊光観察に対応した所定の波長帯域の光を供給可能に構成されてもよい。特殊光観察では、例えば、体組織における光の吸収の波長依存性を利用して、通常の観察時における照射光（すなわち、白色光）に比べて狭帯域の光を照射することにより、粘膜表層の血管等の所定の組織を高コントラストで撮影する、いわゆる狭帯域光観察（Narrow  Band  Imaging）が行われる。あるいは、特殊光観察では、励起光を照射することにより発生する蛍光により画像を得る蛍光観察が行われてもよい。蛍光観察では、体組織に励起光を照射し当該体組織からの蛍光を観察するもの（自家蛍光観察）、又はインドシアニングリーン（ICG）等の試薬を体組織に局注するとともに当該体組織にその試薬の蛍光波長に対応した励起光を照射し蛍光像を得るもの等が行われ得る。光源装置５１５７は、このような特殊光観察に対応した狭帯域光及び／又は励起光を供給可能に構成され得る。
【００６０】
（カメラヘッド及びＣＣＵ）
図４を参照して、内視鏡５１１５のカメラヘッド５１１９及びＣＣＵ５１５３の機能についてより詳細に説明する。図４は、図３に示すカメラヘッド５１１９及びＣＣＵ５１５３の機能構成の一例を示すブロック図である。
【００６１】
図４を参照すると、カメラヘッド５１１９は、その機能として、レンズユニット５１２１と、撮像部５１２３と、駆動部５１２５と、通信部５１２７と、カメラヘッド制御部５１２９と、を有する。また、ＣＣＵ５１５３は、その機能として、通信部５１７３と、画像処理部５１７５と、制御部５１７７と、を有する。カメラヘッド５１１９とＣＣＵ５１５３とは、伝送ケーブル５１７９によって双方向に通信可能に接続されている。
【００６２】
まず、カメラヘッド５１１９の機能構成について説明する。レンズユニット５１２１は、鏡筒５１１７との接続部に設けられる光学系である。鏡筒５１１７の先端から取り込まれた観察光は、カメラヘッド５１１９まで導光され、当該レンズユニット５１２１に入射する。レンズユニット５１２１は、ズームレンズ及びフォーカスレンズを含む複数のレンズが組み合わされて構成される。レンズユニット５１２１は、撮像部５１２３の撮像素子の受光面上に観察光を集光するように、その光学特性が調整されている。また、ズームレンズ及びフォーカスレンズは、撮像画像の倍率及び焦点の調整のため、その光軸上の位置が移動可能に構成される。
【００６３】
撮像部５１２３は撮像素子によって構成され、レンズユニット５１２１の後段に配置される。レンズユニット５１２１を通過した観察光は、当該撮像素子の受光面に集光され、光電変換によって、観察像に対応した画像信号が生成される。撮像部５１２３によって生成された画像信号は、通信部５１２７に提供される。
【００６４】
撮像部５１２３を構成する撮像素子としては、例えばＣＭＯＳ（Complementary  Metal  Oxide  Semiconductor）タイプのイメージセンサであり、Ｂａｙｅｒ配列を有するカラー撮影可能なものが用いられる。なお、当該撮像素子としては、例えば４Ｋ以上の高解像度の画像の撮影に対応可能なものが用いられてもよい。術部の画像が高解像度で得られることにより、術者５１８１は、当該術部の様子をより詳細に把握することができ、手術をより円滑に進行することが可能となる。
【００６５】
また、撮像部５１２３を構成する撮像素子は、３Ｄ表示に対応する右目用及び左目用の画像信号をそれぞれ取得するための１対の撮像素子を有するように構成される。３Ｄ表示が行われることにより、術者５１８１は術部における生体組織の奥行きをより正確に把握することが可能になる。なお、撮像部５１２３が多板式で構成される場合には、各撮像素子に対応して、レンズユニット５１２１も複数系統設けられる。
【００６６】
また、撮像部５１２３は、必ずしもカメラヘッド５１１９に設けられなくてもよい。例えば、撮像部５１２３は、鏡筒５１１７の内部に、対物レンズの直後に設けられてもよい。
【００６７】
駆動部５１２５は、アクチュエータによって構成され、カメラヘッド制御部５１２９からの制御により、レンズユニット５１２１のズームレンズ及びフォーカスレンズを光軸に沿って所定の距離だけ移動させる。これにより、撮像部５１２３による撮像画像の倍率及び焦点が適宜調整され得る。
【００６８】
通信部５１２７は、ＣＣＵ５１５３との間で各種の情報を送受信するための通信装置によって構成される。通信部５１２７は、撮像部５１２３から得た画像信号をＲＡＷデータとして伝送ケーブル５１７９を介してＣＣＵ５１５３に送信する。この際、術部の撮像画像を低レイテンシで表示するために、当該画像信号は光通信によって送信されることが好ましい。手術の際には、術者５１８１が撮像画像によって患部の状態を観察しながら手術を行うため、より安全で確実な手術のためには、術部の動画像が可能な限りリアルタイムに表示されることが求められるからである。光通信が行われる場合には、通信部５１２７には、電気信号を光信号に変換する光電変換モジュールが設けられる。画像信号は当該光電変換モジュールによって光信号に変換された後、伝送ケーブル５１７９を介してＣＣＵ５１５３に送信される。
【００６９】
また、通信部５１２７は、ＣＣＵ５１５３から、カメラヘッド５１１９の駆動を制御するための制御信号を受信する。当該制御信号には、例えば、撮像画像のフレームレートを指定する旨の情報、撮像時の露出値を指定する旨の情報、並びに／又は撮像画像の倍率及び焦点を指定する旨の情報等、撮像条件に関する情報が含まれる。通信部５１２７は、受信した制御信号をカメラヘッド制御部５１２９に提供する。なお、ＣＣＵ５１５３からの制御信号も、光通信によって伝送されてもよい。この場合、通信部５１２７には、光信号を電気信号に変換する光電変換モジュールが設けられ、制御信号は当該光電変換モジュールによって電気信号に変換された後、カメラヘッド制御部５１２９に提供される。
【００７０】
なお、上記のフレームレートや露出値、倍率、焦点等の撮像条件は、取得された画像信号に基づいてＣＣＵ５１５３の制御部５１７７によって自動的に設定される。つまり、いわゆるＡＥ（Auto  Exposure）機能、ＡＦ（Auto  Focus）機能及びＡＷＢ（Auto  White  Balance）機能が内視鏡５１１５に搭載される。
【００７１】
カメラヘッド制御部５１２９は、通信部５１２７を介して受信したＣＣＵ５１５３からの制御信号に基づいて、カメラヘッド５１１９の駆動を制御する。例えば、カメラヘッド制御部５１２９は、撮像画像のフレームレートを指定する旨の情報及び／又は撮像時の露光を指定する旨の情報に基づいて、撮像部５１２３の撮像素子の駆動を制御する。また、例えば、カメラヘッド制御部５１２９は、撮像画像の倍率及び焦点を指定する旨の情報に基づいて、駆動部５１２５を介してレンズユニット５１２１のズームレンズ及びフォーカスレンズを適宜移動させる。カメラヘッド制御部５１２９は、更に、鏡筒５１１７やカメラヘッド５１１９を識別するための情報を記憶する機能を備えてもよい。
【００７２】
なお、レンズユニット５１２１や撮像部５１２３等の構成を、気密性及び防水性が高い密閉構造内に配置することで、カメラヘッド５１１９について、オートクレーブ滅菌処理に対する耐性を持たせることができる。
【００７３】
次に、ＣＣＵ５１５３の機能構成について説明する。通信部５１７３は、カメラヘッド５１１９との間で各種の情報を送受信するための通信装置によって構成される。通信部５１７３は、カメラヘッド５１１９から、伝送ケーブル５１７９を介して送信される画像信号を受信する。この際、上記のように、当該画像信号は好適に光通信によって送信され得る。この場合、光通信に対応して、通信部５１７３には、光信号を電気信号に変換する光電変換モジュールが設けられる。通信部５１７３は、電気信号に変換した画像信号を画像処理部５１７５に提供する。
【００７４】
また、通信部５１７３は、カメラヘッド５１１９に対して、カメラヘッド５１１９の駆動を制御するための制御信号を送信する。当該制御信号も光通信によって送信されてよい。
【００７５】
画像処理部５１７５は、カメラヘッド５１１９から送信されたＲＡＷデータである画像信号に対して各種の画像処理を施す。当該画像処理としては、例えば現像処理、高画質化処理（帯域強調処理、超解像処理、ＮＲ（Noise  reduction）処理及び／又は手ブレ補正処理等）、並びに／又は拡大処理（電子ズーム処理）等、各種の公知の信号処理が含まれる。また、画像処理部５１７５は、ＡＥ、ＡＦ及びＡＷＢを行うための、画像信号に対する検波処理を行う。
【００７６】
画像処理部５１７５は、ＣＰＵやＧＰＵ等のプロセッサによって構成され、当該プロセッサが所定のプログラムに従って動作することにより、上述した画像処理や検波処理が行われ得る。なお、画像処理部５１７５が複数のＧＰＵによって構成される場合には、画像処理部５１７５は、画像信号に係る情報を適宜分割し、これら複数のＧＰＵによって並列的に画像処理を行う。
【００７７】
制御部５１７７は、内視鏡５１１５による術部の撮像、及びその撮像画像の表示に関する各種の制御を行う。例えば、制御部５１７７は、カメラヘッド５１１９の駆動を制御するための制御信号を生成する。この際、撮像条件がユーザによって入力されている場合には、制御部５１７７は、当該ユーザによる入力に基づいて制御信号を生成する。あるいは、内視鏡５１１５にＡＥ機能、ＡＦ機能及びＡＷＢ機能が搭載されている場合には、制御部５１７７は、画像処理部５１７５による検波処理の結果に応じて、最適な露出値、焦点距離及びホワイトバランスを適宜算出し、制御信号を生成する。
【００７８】
また、制御部５１７７は、画像処理部５１７５によって画像処理が施された画像信号に基づいて、術部の画像を表示装置５１５５に表示させる。この際、制御部５１７７は、各種の画像認識技術を用いて術部画像内における各種の物体を認識する。例えば、制御部５１７７は、術部画像に含まれる物体のエッジの形状や色等を検出することにより、鉗子等の術具、特定の生体部位、出血、エネルギー処置具５１３５使用時のミスト等を認識することができる。制御部５１７７は、表示装置５１５５に術部の画像を表示させる際に、その認識結果を用いて、各種の手術支援情報を当該術部の画像に重畳表示させる。手術支援情報が重畳表示され、術者５１８１に提示されることにより、より安全かつ確実に手術を進めることが可能になる。
【００７９】
カメラヘッド５１１９及びＣＣＵ５１５３を接続する伝送ケーブル５１７９は、電気信号の通信に対応した電気信号ケーブル、光通信に対応した光ファイバ、又はこれらの複合ケーブルである。
【００８０】
ここで、図示する例では、伝送ケーブル５１７９を用いて有線で通信が行われていたが、カメラヘッド５１１９とＣＣＵ５１５３との間の通信は無線で行われてもよい。両者の間の通信が無線で行われる場合には、伝送ケーブル５１７９を手術室内に敷設する必要がなくなるため、手術室内における医療スタッフの移動が当該伝送ケーブル５１７９によって妨げられる事態が解消され得る。
【００８１】
以上、本開示に係る技術が適用され得る手術室システム５１００の一例について説明した。なお、ここでは、一例として手術室システム５１００が適用される医療用システムが内視鏡手術システム５１１３である場合について説明したが、手術室システム５１００の構成はかかる例に限定されない。例えば、手術室システム５１００は、内視鏡手術システム５１１３に代えて、検査用軟性内視鏡システムや顕微鏡手術システムに適用されてもよい。
【００８２】
＜＜２．概要＞＞
続いて、本開示に係る技術の概要について説明する。近年、医療現場において行われる手術の安全性を向上するための技術として様々な技術が開示されている。例えば、看護師に歩数計および傾斜角センサを装着し、歩数計によって計測された歩数と傾斜角センサによって計測された傾斜角度とに基づいて、アクシデントが発生する可能性の有無を判断する技術が開示されている。
【００８３】
かかる技術においては、歩数および傾斜角度に基づいて看護師の行動に関する特徴データが作成され、特定のアクシデントが発生したときの特徴データに基づいて特定のアクシデントについての辞書データが作成される。そして、辞書データ作成後には、ある時点における特徴データと辞書データとの比較に基づいて、アクシデントが発生する可能性の有無が判断される。
【００８４】
しかし、医療従事者にセンサを装着させた場合には、センサが医療従事者の動作を妨げてしまう可能性がある。特に、緊急事態が生じた場合および予定されていた事態と異なる事態が生じた場合などには、医療従事者は通常時よりも迅速に行動する必要が生じる可能性がある。
【００８５】
そこで、本明細書においては、医療従事者の行動を妨げる可能性を抑制しつつ、医療現場において行われる手術の安全性を向上することが可能な技術を主に提案する。
【００８６】
以上、本開示に係る技術の概要について説明した。
【００８７】
＜＜３．実施形態の詳細＞＞
続いて、本開示の実施形態に係る情報処理装置の機能構成例について説明する。図５は、本開示の実施形態に係る情報処理装置の機能構成例を示すブロック図である。図５に示すように、本開示の実施形態に係る情報処理装置１０は、特徴データ抽出部１１２、認識部１１４、学習部１１６、処理部１１８、解析部１２０および出力制御部１２２を有する。これらの機能ブロックが有する機能の詳細については後に説明する。
【００８８】
本開示の実施形態においては、図１に示すように、情報処理装置１０が視聴覚コントローラ５１０７の内部に組み込まれている場合を主に想定する。しかし、情報処理装置１０が存在する位置は特に限定されない。例えば、情報処理装置１０は、視聴覚コントローラ５１０７の外部に存在してもよい。
【００８９】
図６は、本開示の実施形態に係る情報処理装置の全体的な動作を示すフローチャートである。図６に示すように、作業目標設定が行われ（Ｓ１１）、学習が行われ（Ｓ１２）、日々の運用が行われ（Ｓ１３）、日々の運用の結果に基づいて問題探索が行われ（Ｓ１４）、作業目標の修正が不要な場合には（Ｓ１５において「Ｎｏ」）、Ｓ１３に動作が遷移されるが、作業目標の修正が必要な場合には（Ｓ１５において「Ｙｅｓ」）、Ｓ１１に動作が遷移される。これらの各ステップについて、以下の「３−１．作業目標設定」〜「３−５．作業目標修正」において説明する。
【００９０】
なお、ここでは、手術の例として脳神経外科手術が行われる場合を主に想定する。しかし、本開示の実施形態に係る技術は、脳神経外科手術以外の手術にも適用され得る。また、手術に関わる医療従事者の例として、術者、麻酔科医、助手、外回り看護師（以下、単に「外回り」とも言う。）、器械出し看護師（以下、単に「器械出し」とも言う。）、看護師を挙げて説明する。しかし、医療従事者は、かかる例に限定されない。また、以下では、人または医療従事者を「人員」と呼ぶ場合がある。また、以下では、術者を「執刀医」と呼ぶ場合がある。
【００９１】
＜３−１．作業目標設定＞
まず、作業目標が設定される。具体的に、作業目標は、以下に説明する、第１の閾値、第２の閾値、第３の閾値および第４の閾値であってよい。作業目標の設定は、いずれの医療従事者による（例えば、集中操作パネル５１１１を介した）入力に基づいて行われてもよい。例えば、作業目標の設定は、執刀医による（例えば、集中操作パネル５１１１を介した）入力に基づいて行われてもよい。
【００９２】
＜３−２．学習段階＞
運用段階の前に学習段階が設けられる。学習段階においては、運用段階において利用される辞書データが作成される。
【００９３】
一般に、１つの手術は幾つかのステージ（以下、「手術ステージ」とも言う。）に分類され得る。例えば、脳神経外科手術は、麻酔導入ステージ、ナビゲーションステージ、開頭ステージ、治療ステージ、術中診断ステージ、閉頭ステージに分類され得る。このとき、現在の手術ステージがいずれであるかに応じて、人員に関する情報（例えば、人員位置など）、機器に関する情報（例えば、機器位置など）が変わってくることがある。一例として、脳神経外科手術における手術ステージごとの人員位置および機器位置の例を説明する。
【００９４】
図７は、麻酔導入ステージにおける人員位置および機器位置の例を示す図である。図７を参照すると、麻酔導入ステージにおける手術室２０−１が示されている。麻酔導入ステージにおいては、図７に一例を示すように、執刀医３１、助手３２、麻酔科医３３、外回り看護師３４、器械出し看護師３５、顕微鏡４１、ナビゲーションシステム４２、ＭＥＰ（Ｍｏｔｏｒ  Ｅｖｏｋｅｄ  Ｐｏｔｅｎｔｉａｌ：運動誘発電位）測定装置４３、器具収納庫４４が手術室２０−１に位置している。
【００９５】
図８は、ナビゲーションステージにおける人員位置および機器位置の例を示す図である。図８に示された手術室２０−２を参照すると、ナビゲーションステージにおいては、麻酔導入ステージと比較して、ナビゲーションシステム４２の位置が変化している。
【００９６】
図９は、開頭ステージにおける人員位置および機器位置の例を示す図である。図９に示された手術室２０−３を参照すると、開頭ステージにおいては、助手が中心となって開頭が行われるため、ナビゲーションステージと比較して、執刀医と助手の位置が変化している。
【００９７】
図１０は、治療ステージにおける人員位置および機器位置の例を示す図である。図１０に示された手術室２０−４を参照すると、治療ステージにおいては、執刀医が中心となって治療が行われるため、開頭ステージと比較して、執刀医と助手の位置が変化している。また、治療ステージにおいては、顕微鏡４１が利用されるため、開頭ステージと比較して、顕微鏡４１の位置が変化している。
【００９８】
図１１は、術中診断ステージにおける人員位置および機器位置の例を示す図である。図１１に示された手術室２０−５を参照すると、術中診断ステージにおいては、ＭＥＰ測定装置４３を用いた運動誘発電位のモニタリングが行われるため、ＭＥＰ測定装置４３を操作する技師３６が存在している。
【００９９】
図１２は、閉頭ステージにおける人員位置および機器位置の例を示す図である。図１２に示された手術室２０−６を参照すると、閉頭ステージにおいては、助手が中心となって閉頭が行われるため、術中診断ステージと比較して、執刀医と助手の位置が変化している。また、閉頭ステージにおいては、顕微鏡４１が利用されないため、術中診断ステージと比較して、顕微鏡４１の位置が変化している。
【０１００】
以上、脳神経外科手術における手術ステージごとの人員位置および機器位置の例について説明した。学習段階において、まず、認識部１１４は、手術ステージを認識する。例えば、認識部１１４は、イベントを検出することによってイベントに対応する手術ステージを認識する。イベントと手術ステージとの対応関係は、あらかじめ用意されていてよい。
【０１０１】
図１３は、本開示の実施形態において利用される各種情報の対応関係を示す図である。図１３に示すように、手術ステージとイベントとがあらかじめ対応付けられている。例えば、認識部１１４は、術場カメラ５１８９によって撮像された画像（以下、「イベント検出用画像」とも言う。）からイベントを検出することが可能である。このようにしてイベントの検出によってイベントに対応する手術ステージが認識される。
【０１０２】
続いて、特徴データ抽出部１１２は、術場カメラ５１８９によって撮像された画像（以下、「学習用画像」とも言う。）から手術に関わる人員および手術に利用される機器に関する特徴データを抽出する。より具体的に、特徴データ抽出部１１２は、学習用画像から、手術に関わる人員に関する情報および手術に利用される機器に関する情報を特徴データの例として抽出する。
【０１０３】
学習用画像としては、イベント検出用画像が用いられてもよい。あるいは、学習用画像は、イベント検出用画像が撮像されたタイミングと所定の関係を有するタイミングに（例えば、イベント検出用画像が撮像されたタイミングを基準として所定の時間範囲内に）術場カメラ５１８９によって撮像された画像であってもよい。
【０１０４】
なお、本開示の実施形態においては、人員に関する情報および機器に関する情報の双方が利用される場合を主に想定する。しかし、人員に関する情報および機器に関する情報の一方だけが利用されてもよい。
【０１０５】
また、本開示の実施形態においては、人員に関する情報の例として、人員の位置を示す情報（以下、「人員位置」とも言う。）が利用され、機器に関する情報の例として、機器の位置を示す情報（以下、「機器位置」とも言う。）が利用される場合を主に想定する。しかし、人員に関する情報は、人員の状態（例えば、人員の視線など）であってもよいし、機器に関する情報は、機器の状態（例えば、機器が操作されている否か、機器が起動しているか否かなど）であってもよい。
【０１０６】
人員位置は、特徴データ抽出部１１２によってどのように抽出されてもよい。例えば、特徴データ抽出部１１２は、人員に対して固有のマーカが付されている場合には、術場カメラ５１８９によって撮像された画像に基づいて、人員に付されているマーカを認識し、マーカの認識結果を用いて人員位置を抽出することが可能である。
【０１０７】
また、一般的な医療機関においては、人員の種類（医療従事者の役割）に応じて着用している衣服の色が異なることがある。例えば、執刀医と助手とは同じ色の衣服を着用していても、執刀医と助手、麻酔科医、器械出し看護師、外回り看護師および技師は、異なる色の衣服を着用していることがある。そのため、特徴データ抽出部１１２は、術場カメラ５１８９によって撮像された画像に基づいて、衣服の色を認識し、マーカの認識結果の代わりに、または、マーカの認識結果に加えて、衣服の色の認識結果を用いて人員位置を抽出することが可能である。
【０１０８】
また、人員の種類（医療従事者の役割）ごとに存在するはずの領域があらかじめ分かっている場合もあり得る。そのため、特徴データ抽出部１１２は、人員の種類（医療従事者の役割）ごとの領域内に人員が存在することを認識することによって、その領域内に存在する人員の種類（医療従事者の役割）を認識することも可能である。
【０１０９】
機器位置は、特徴データ抽出部１１２によってどのように抽出されてもよい。例えば、特徴データ抽出部１１２は、術場カメラ５１８９によって撮像された画像に基づいて、機器そのものを認識し、機器そのものの認識結果を用いて機器位置を抽出することが可能である。また、特徴データ抽出部１１２は、機器に対して固有のマーカが付されている場合には、術場カメラ５１８９によって撮像された画像に基づいて、機器に付されているマーカを認識し、機器そのものの認識結果の代わりに、または、機器そのものの認識結果に加えて、マーカの認識結果を用いて機器位置を抽出することが可能である。
【０１１０】
また、人員位置は、人員が通過した複数の位置であってもよいし、複数の位置の重心であってもよい。例えば、人員の種類（医療従事者の役割）によって人員（医療従事者）の動きは異なることが想定される。例えば、執刀医などは、手術室内のあまり変わらない位置で細かい動きをすることが多い。そこで、執刀医などのあまり変わらない位置に存在する人員（医療従事者）の位置は、人員が通過した複数の位置であってよい。
【０１１１】
一方、外回り看護師などは、手術室内を動き回ることが多い。そこで、外回り看護師などの動き回ることが多い人員（医療従事者）の位置は、人員が通過した複数の位置の重心であってよい。同様に、機器位置は、機器が通過した複数の位置であってもよいし、複数の位置の重心であってもよい。
【０１１２】
学習部１１６は、特徴データ抽出部１１２によって抽出された人員に関する情報および機器に関する情報に基づいて、学習によって手術室内の人員および機器に関する辞書データを作成する。より詳細には、学習部１１６は、特徴データ抽出部１１２によって抽出された人員位置および機器位置に基づいて、学習によって手術室内の人員位置および機器位置に関する辞書データを作成する。学習に用いられる人員位置および機器位置それぞれの数は限定されない。例えば、学習に用いられる人員位置および機器位置それぞれは、１つでもよいが、作成される辞書データの精度を向上させるためには、複数であるほうが望ましい。
【０１１３】
例えば、学習部１１６は、特徴データ抽出部１１２によって抽出された人員位置および機器位置をそのまま学習に用いてもよい。あるいは、学習用画像から抽出された人員位置および機器位置が（例えば、集中操作パネル５１１１によって）表示され、人員位置および機器位置に対して修正が（例えば、集中操作パネル５１１１を介して）入力される場合も想定される。かかる場合には、学習部１１６は、修正後の人員位置および機器位置に基づいて辞書データを作成してもよい。
【０１１４】
なお、人員位置および機器位置に対する修正は、執刀医によって入力されてよいが、他の人員によって入力されてもよい。
【０１１５】
学習部１１６は、上記のようにして認識部１１４によって手術ステージが認識された場合、認識部１１４によって認識された手術ステージの辞書データを作成する。あるいは、認識部１１４によって認識された手術ステージが（例えば、集中操作パネル５１１１によって）表示され、認識部１１４によって認識された手術ステージに対して修正が（例えば、集中操作パネル５１１１を介して）入力される場合も想定される。かかる場合には、学習部１１６は、修正後の手術ステージの辞書データを作成する。
【０１１６】
図１３を参照すると、手術ステージごとに、主に手術に関わる医師が「主な医師」として示され、手術に関わるその他の人員が「他関連人員」として示されている。また、図１３を参照すると、手術ステージごとに、辞書データの例としての「人員位置」が示されている。なお、図１３に示された「人員位置」における「１．麻酔導入」〜「６．閉頭」は、図７〜図１２に示された各手術ステージの人員位置に対応する。また、図１３を参照すると、人員によって操作される機器が「操作機器」として示されている。
【０１１７】
また、認識部１１４は、術場カメラ５１８９によって撮像された画像（以下、「連携認識用画像」とも言う。）から人員同士の連携を認識することが可能である。学習部１１６は、認識部１１４によって連携認識用画像から人員同士の連携が認識された場合、人員同士の連携に関する情報を含んで辞書データを作成する。
【０１１８】
図１３を参照すると、手術ステージごとに、辞書データの例としての連携に関する情報が「連携動作」として示されている。なお、図１３に示された「連携動作」における「Ａ／Ｂ」は、ＡとＢとの間に連携があることを意味する。例えば、「執刀医／助手」は、執刀医と助手との間に連携があることを意味する。
【０１１９】
ここで、連携認識用画像としては、イベント検出用画像が用いられてもよいし、学習用画像が用いられてもよい。あるいは、連携認識用画像は、イベント検出用画像が撮像されたタイミングと所定の関係を有するタイミングに（イベント検出用画像が撮像されたタイミングを基準として所定の時間範囲内に）術場カメラ５１８９によって撮像された画像であってもよい。
【０１２０】
＜３−３．運用段階＞
続いて、学習段階の後には運用段階が設けられる。運用段階においては、学習段階において作成された辞書データを参照しながら、手術の進行が妥当であるか否かが判断される。
【０１２１】
運用段階においても、認識部１１４は、手術ステージを認識する。運用段階における手術ステージの認識も、学習段階における手術ステージの認識と同様に行われる。すなわち、運用段階において認識された手術ステージも、学習段階において認識された手術ステージと同様にして修正可能であってもよい。
【０１２２】
続いて、特徴データ抽出部１１２は、学習用画像からの特徴データの抽出と同様に、術場カメラ５１８９によって撮像された画像（以下、「比較用画像」とも言う。）から手術に関わる人員および手術に利用される機器に関する特徴データを抽出する。より具体的に、特徴データ抽出部１１２は、比較用画像から、人員位置および機器位置を特徴データの例として抽出する。なお、比較用画像から抽出された特徴データも、学習用画像から抽出された特徴データと同様に修正可能であってよい。
【０１２３】
処理部１１８は、学習部１１６によって作成された辞書データと比較用画像から抽出された特徴データとを比較する。上記のようにして認識部１１４によって手術ステージが認識された場合、処理部１１８は、認識部１１４によって認識された手術ステージの辞書データ（人員位置および機器位置に関する辞書データ）と特徴データ抽出部１１２によって抽出された特徴データ（人員位置および機器位置）とを比較する。
【０１２４】
認識部１１４によって認識された手術ステージの辞書データ（人員位置および機器位置に関する辞書データ）と特徴データ抽出部１１２によって抽出された特徴データ（人員位置および機器位置）との差分が第１の閾値を超える場合には、手術が正常に進んでいない可能性がある。そこで、かかる場合には、出力制御部１２２は、第１の警告情報の出力を制御する。
【０１２５】
ここで、第１の警告情報の出力先は限定されない。例えば、第１の警告情報が表示情報を含む場合には、第１の警告情報の出力先は、表示装置５１０３Ａ〜５１０３Ｄのいずれかであってもよい。あるいは、第１の警告情報が音情報を含む場合には、第１の警告情報の出力先は、スピーカであってもよい。
【０１２６】
なお、例えば、麻酔導入ステージ、ナビゲーションステージ、開頭ステージおよび閉頭ステージにおいては、人員位置および機器位置のみから、手術が正常に進んでいるか否かが十分に判断可能である。
【０１２７】
また、辞書データと特徴データ抽出部１１２によって抽出された特徴データとの間で、手術ステージの遷移順序が異なる場合には、手術が正常に進んでいない可能性がある。あるいは、辞書データと特徴データ抽出部１１２によって抽出された特徴データとの間で、対応する手術ステージの継続時間または対応する段階までの経過時間の差分が第３の閾値を超える場合には、手術が正常に進んでいない可能性がある。
【０１２８】
そこで、かかる場合には、出力制御部１２２は、第３の警告情報の出力を制御するのがよい。第３の警告情報の出力先は限定されない。例えば、第３の警告情報が表示情報を含む場合には、第３の警告情報の出力先は、表示装置５１０３Ａ〜５１０３Ｄのいずれかであってもよい。あるいは、第３の警告情報が音情報を含む場合には、第３の警告情報の出力先は、スピーカであってもよい。
【０１２９】
また、辞書データと特徴データ抽出部１１２によって抽出された特徴データとにおいて、連携する複数の人の少なくとも一人が異なる場合、連携する複数の人のいずれかが入れ替わっている場合には、手術が正常に進んでいない可能性がある。また、辞書データと特徴データ抽出部１１２によって抽出された特徴データとにおいて、対応する人員同士の連携の継続時間または人員同士の連携の対応する段階までの経過時間の差分が第４の閾値を超える場合には、手術が正常に進んでいない可能性がある。
【０１３０】
人員同士の連携の一例として、執刀医と麻酔科医との連携が挙げられる。麻酔科医は、執刀医による治療行為に伴う患者のバイタル変化を予測して、必要な処置の準備を行う必要がある。例えば、執刀医と麻酔科医との連携不足の場合（例えば、連携の継続時間が長くなりすぎた場合、当該連携のある段階までの経過時間が長くなりすぎた場合など）、患者の安定度および恒常性（バイタル値）が変化してしまい、麻酔科医師が治療行為を中断してバイタル値の安定化のための様々な処置を行う必要が生じる。
【０１３１】
人員同士の連携の他の一例として、執刀医と器械出し看護師と外回り看護師との連携が挙げられる。医療機器は、執刀医の指示に従って、外回り看護師によって手術室内の棚または手術室外から持ち出され、外回り看護師から器械出し看護師に渡され、器械出し看護師から執刀医に手渡される。例えば、執刀医と外回り看護師または器械出し看護師との連携不足の場合（例えば、連携の継続時間が長くなりすぎた場合、当該連携のある段階までの経過時間が長くなりすぎた場合など）、必要な医療機器の到着が遅れて待ち時間が発生し、患者の恒常性（バイタル値）が変化してしまう場合がある。
【０１３２】
そこで、かかる場合には、出力制御部１２２は、第４の警告情報の出力を制御する。第４の警告情報の出力先は限定されない。例えば、第４の警告情報が表示情報を含む場合には、第４の警告情報の出力先は、表示装置５１０３Ａ〜５１０３Ｄのいずれかであってもよい。あるいは、第４の警告情報が音情報を含む場合には、第４の警告情報の出力先は、スピーカであってもよい。
【０１３３】
なお、例えば、治療ステージにおいては、人員位置および機器位置に加えて、治療中の執刀医と助手との連携、手術器具持ち替えのための執刀医と器械出しとの連携、手術器具の受け渡しや摘出組織の生検提出などといった執刀医と器械出しと外回り看護師との連携も考慮して手術が正常に行われているか否かが判断されるとよい。また、例えば、術中診断ステージにおいては、人員位置および機器位置に加えて、執刀医と麻酔科医との連携も考慮して手術が正常に行われているか否かが判断されるとよい。
【０１３４】
また、麻酔科医の動きの評価は様々な手法によってなされ得る。例えば、上記したように、術場カメラ５１８９によって撮像された画像に基づいて、人員の例としての麻酔科医の位置が正常であるか否かが判断されてよい。一方、麻酔科医を撮像する麻酔科医撮像カメラ５１８８も存在する。麻酔科医撮像カメラ５１８８によって撮像された画像に基づいて、麻酔科医の状態（例えば、麻酔科医の視線など）が取得され、麻酔科医の状態に基づいて手術が正常に進んでいるか否かが判断されてもよい。
【０１３５】
例えば、麻酔科医の状態は、患者を見ているか否か、執刀医を見ているか否か、患者のバイタル画面を見ているか否かといった状態であってよい。例えば、麻酔科医の状態が執刀医を見ていることを示す場合には、執刀医と麻酔科医との間で連携がなされていると判断されてもよい。このように、麻酔科医の状態に基づいて、執刀医と麻酔科医との間で連携がなされているか否かが判断されてもよい。
【０１３６】
このようにして、運用段階においては、出力制御部１２２によって警告情報（例えば、第１の警告情報、第２の警告情報、第３の警告情報、第４の警告情報）の出力が制御される。これによって、警告情報を知覚した医療従事者は、患者が危険な状態に陥ることを防ぐための処置を講じることが可能となる。
【０１３７】
図１４は、運用段階における人員位置に基づく警告表示の動作例を示すフローチャートである。図１４に示すように、術場カメラ５１８９によって撮像された画像の記録が開始される。そして、認識部１１４は、手術が開始されない場合（Ｓ２１において「Ｎｏ」）、Ｓ２１に動作を遷移させる。一方、認識部１１４は、手術が開始された場合（Ｓ２１において「Ｙｅｓ」）、手術ステージを認識する（Ｓ２２）。
【０１３８】
なお、認識部１１４は、手術が開始されたか否かをどのように判断してもよい。一例として、認識部１１４は、最初の手術ステージを認識した場合に、手術が開始されたと判断してもよい。
【０１３９】
続いて、特徴データ抽出部１１２は、術場カメラ５１８９によって撮像された画像から人員位置を抽出する処理を行う（Ｓ２３）。そして、処理部１１８は、該当する手術ステージ（認識部１１４によって認識された手術ステージ）において人員位置がデータ（辞書データ）に合致するか否かを判断する（Ｓ２４）。出力制御部１２２は、該当する手術ステージにおいて人員位置がデータ（辞書データ）に合致しないと判断された場合（Ｓ２４において「Ｎｏ」）、警告表示を制御する（Ｓ３１）。なお、警告表示の代わりに警告を示す音出力が制御されてもよい。
【０１４０】
そして、出力制御部１２２は、想定外の要因が発生していない場合には（Ｓ３２において「Ｎｏ」）、警告表示の解消ダイアログの表示を制御する（Ｓ３３）。出力制御部１２２は、警告表示の解消ダイアログにおいて警告表示の解消を示す操作が入力された場合、Ｓ４１に動作を遷移させる。なお、警告表示の解消を示す操作は、執刀医または看護師などによって（集中操作パネル５１１１または他の入力装置を介して）入力されてよい。
【０１４１】
一方、出力制御部１２２は、想定外の要因が発生した場合には（Ｓ３２において「Ｙｅｓ」）、過去の例外データ一覧の表示を制御し（Ｓ３４）、例外データ入力ダイアログの表示を制御する（Ｓ３５）。なお、想定外の要因が発生したか否かは、執刀医または看護師などによって（集中操作パネル５１１１または他の入力装置を介して）入力されてよい。
【０１４２】
出力制御部１２２は、現在行われている手術が新規例外処置であることを示す操作が入力された場合には（Ｓ３６において「Ｙｅｓ」）、現在行われている手術に関するデータを新規例外データとして過去の例外データに新規に登録し（Ｓ３７）、Ｓ４２に動作を遷移させる。一方、現在行われている手術が新規例外処置ではないことを示す操作が入力された場合には（Ｓ３６において「Ｎｏ」）、現在行われている手術に関するデータを現例外データとして過去の例外データに追加して（Ｓ３８）、Ｓ４２に動作を遷移させる。
【０１４３】
なお、新規例外処置はどのような処置であってもよい。例えば、旧式の手術が例外的に行われる場合などが想定されるが、かかる場合には、旧式の手術が新規例外処置として扱われてもよい。新式の手術が原則的に行われる場合などが想定されるが、かかる場合には、新式の手術が新規例外処置ではない処置として扱われてもよい。また、現在行われている手術が新規例外処置であるか否かは、執刀医または看護師などによって（集中操作パネル５１１１または他の入力装置を介して）入力されてよい。
【０１４４】
出力制御部１２２は、該当する手術ステージにおいて人員位置がデータ（辞書データ）に合致すると判断された場合（Ｓ２４において「Ｙｅｓ」）、現データ（現在行われている手術に関するデータ）を過去のデータに追加する（Ｓ４１）。そして、手術が終了していない場合には（Ｓ４２において「Ｎｏ」）、Ｓ２２に動作を遷移させる。一方、手術が終了した場合には（Ｓ４２において「Ｙｅｓ」）、術場カメラ５１８９によって撮像された画像の記録が終了される。
【０１４５】
図１５は、運用段階における機器位置に基づく警告表示の動作例を示すフローチャートである。例えば、運用段階における機器位置に基づく警告表示の動作は、図１４に示した運用段階における人員位置に基づく警告表示の動作と並行して行われてよい。ここでは、図１５に示した動作例のうち、図１４に示した動作例と同じ動作例については説明を省略し、図１４に示した動作例と異なる動作例について主に説明する。
【０１４６】
図１５に示すように、認識部１１４によって手術ステージが認識されると（Ｓ２２）、特徴データ抽出部１１２は、術場カメラ５１８９によって撮像された画像から機器位置を抽出する処理を行う（Ｓ５３）。そして、処理部１１８は、該当する手術ステージにおいて機器位置がデータ（辞書データ）に合致するか否かを判断する（Ｓ５４）。出力制御部１２２は、該当する手術ステージにおいて機器位置がデータ（辞書データ）に合致しないと判断された場合（Ｓ５４において「Ｎｏ」）、警告表示を制御する（Ｓ３１）。
【０１４７】
一方、出力制御部１２２は、該当する手術ステージにおいて機器位置がデータ（辞書データ）に合致すると判断された場合（Ｓ５４において「Ｙｅｓ」）、現データ（現在行われている手術に関するデータ）を過去のデータに追加する（Ｓ４１）。
【０１４８】
＜３−４．問題探索＞
また、手術後の予後情報が標準データからどれだけ離れているかによって、その手術に問題がなかったか否かが判断され得る。ここで、予後情報はどのような情報を含んでもよい。例えば、予後情報は、患者の入院期間、手術後の患者の症状の安定度合い、および、手術後の患者の状態を示す情報の少なくともいずれか一つを含んでよい。例えば、予後情報は、執刀医によって比較用画像に関連付けられて（集中操作パネル５１１１を介して）入力される。
【０１４９】
処理部１１８は、手術後の予後情報が標準データからどれだけ離れているかを判断する。すなわち、処理部１１８は、比較用画像に関連付けられた予後情報とあらかじめ設定された標準データとを比較する。出力制御部１２２は、予後情報と標準データとの差分が第２の閾値を超える場合、第２の警告情報の出力を制御する。第２の警告情報の出力先は限定されない。例えば、第２の警告情報が表示情報を含む場合には、第２の警告情報の出力先は、表示装置５１０３Ａ〜５１０３Ｄのいずれかであってもよい。あるいは、第２の警告情報が音情報を含む場合には、第２の警告情報の出力先は、スピーカであってもよい。
【０１５０】
また、手術後の予後情報は手術の種類（例えば、脳神経外科手術、心臓外科手術など）によって異なることが想定されるため、標準データは、手術の種類に対応して設定されるのがよい。したがって、出力制御部１２２は、予後情報と手術室内で行われた手術の種類に応じて取得された標準データとの差分が第２の閾値を超える場合、第２の警告情報の出力を制御するのがよい。手術の種類は、（例えば、レコーダ５１０５などに）あらかじめ記録されていてよい。
【０１５１】
解析部１２０は、標準データとの差分が第２の閾値を超え、かつ、同一または類似する複数の予後情報を抽出した場合、当該複数の予後情報それぞれに関連付けられた、人員同士の連携に関する情報、各人員の位置もしくは動作に関する情報、または、手術ステージの継続時間もしくは手術ステージにおける所定の段階までの経過時間を取得するとよい。
【０１５２】
そして、解析部１２０は、このようにして取得した、人員同士の連携に関する情報、各人員の位置もしくは動作に関する情報、または、手術ステージの継続時間もしくは手術ステージにおける所定の段階までの経過時間を解析するとよい。このような解析によって、問題のある手術の傾向が把握され得る（改善すべき医療従事者の危険行動をあぶり出すことが可能となる）。
【０１５３】
＜３−５．作業目標修正＞
続いて、作業目標の修正が必要な場合には、作業目標が修正される。具体的に、修正され得る作業目標は、上記において説明した、第１の閾値、第２の閾値、第３の閾値および第４の閾値であってよい。作業目標の修正は、いずれの医療従事者による（例えば、集中操作パネル５１１１を介した）入力に基づいて行われてもよい。例えば、作業目標の修正は、執刀医による（例えば、集中操作パネル５１１１を介した）入力に基づいて行われてもよい。
【０１５４】
以上、本開示の実施形態に係る情報処理装置１０の機能構成例について説明した。
【０１５５】
＜＜４．むすび＞＞
以上説明したように、本開示の実施形態によれば、学習によって得られた手術室内の人または機器に関する辞書データと手術室内に設置されたカメラによって撮像された第１の画像から抽出された人または機器に関する第１の特徴データとを比較する処理部１１８を備える、情報処理装置１０が提供される。かかる構成によれば、医療従事者の行動を妨げる可能性を抑制しつつ、医療現場において行われる手術の安全性を向上することが可能となる。
【０１５６】
以上、添付図面を参照しながら本開示の好適な実施形態について詳細に説明したが、本開示の技術的範囲はかかる例に限定されない。本開示の技術分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本開示の技術的範囲に属するものと了解される。
【０１５７】
例えば、上記では、術場カメラ５１８９によって撮像された画像から人員位置が抽出され、抽出された人員位置に基づいて、手術が正常に進んでいるか否かが判断される場合を説明した。麻酔科医撮像カメラ５１８８によって撮像された画像から麻酔科医の状態が抽出され、抽出された麻酔科医の状態に基づいて、手術が正常に進んでいるか否かが判断される場合を説明した。しかし、画像以外のセンシングデータ（例えば、マイクロフォンによって検出された音情報、各種の医療機器によって検出された測定データなど）に基づいて、手術が正常に進んでいるか否かが判断されてもよい。
【０１５８】
また、例えば、コンピュータに内蔵されるＣＰＵ、ＲＯＭおよびＲＡＭなどのハードウェアを、上記した情報処理装置１０が有する機能と同等の機能を発揮させるためのプログラムも作成可能である。また、該プログラムを記録した、コンピュータに読み取り可能な記録媒体も提供され得る。
【０１５９】
また、本明細書に記載された効果は、あくまで説明的または例示的なものであって限定的ではない。つまり、本開示に係る技術は、上記の効果とともに、または上記の効果に代えて、本明細書の記載から当業者には明らかな他の効果を奏し得る。
【０１６０】
なお、以下のような構成も本開示の技術的範囲に属する。
（１）
手術室内に設置されたカメラと、
学習によって得られた手術室内の人または機器に関する辞書データと前記手術室内に設置されたカメラによって撮像された第１の画像から抽出された人または機器に関する第１の特徴データとを比較する処理部を備える、情報処理装置と、
を有する、手術システム。
（２）
前記情報処理装置は、前記辞書データと前記第１の特徴データとの差分が第１の閾値を超える場合、第１の警告情報の出力を制御する出力制御部を備える、
前記（１）に記載の手術システム。
（３）
前記処理部は、前記第１の画像に関連付けられた予後情報と標準データとを比較する、
前記（１）に記載の手術システム。
（４）
前記情報処理装置は、前記予後情報と前記標準データとの差分が第２の閾値を超える場合、第２の警告情報の出力を制御する出力制御部を備える、
前記（３）に記載の手術システム。
（５）
前記出力制御部は、前記予後情報と前記手術室内で行われた手術の種類に応じて取得された標準データとの差分が前記第２の閾値を超える場合、前記第２の警告情報の出力を制御する、
前記（４）に記載の手術システム。
（６）
前記情報処理装置は、前記標準データとの差分が第２の閾値を超え、かつ、同一または類似する複数の予後情報を抽出した場合、前記複数の予後情報それぞれに関連付けられた、人同士の連携に関する情報、各人の位置もしくは動作に関する情報、または、手術ステージの継続時間もしくは手術ステージにおける所定の段階までの経過時間を取得する解析部を備える、
前記（３）に記載の手術システム。
（７）
前記予後情報は、患者の入院期間、手術後の患者の症状の安定度合い、および、手術後の患者の状態を示す情報の少なくともいずれか一つを含む、
前記（３）〜（６）のいずれか一項に記載の手術システム。
（８）
前記処理部は、学習によって得られた前記手術室内の人または機器の位置に関する辞書データと前記第１の画像から抽出された人または機器の位置を示す第１の特徴データとを比較する、
前記（１）〜（７）のいずれか一項に記載の手術システム。
（９）
前記第１の特徴データは、前記人または機器が通過した複数の位置または前記複数の位置の重心を含む、
前記（８）に記載の手術システム。
（１０）
前記処理部は、前記第１の画像または前記第１の画像が撮像されたタイミングと所定の関係を有するタイミングに撮像された画像から手術ステージが認識された場合、前記手術ステージの辞書データと前記第１の特徴データとを比較する、
前記（１）〜（９）のいずれか一項に記載の手術システム。
（１１）
前記手術ステージは、前記手術ステージに対応するイベントの検出によって認識される、
前記（１０）に記載の手術システム。
（１２）
前記辞書データは、第２の画像から抽出された人または機器に関する第２の特徴データに対して修正が入力された場合、前記修正に基づいて作成される、
前記（１）〜（１１）のいずれか一項に記載の手術システム。
（１３）
前記辞書データは、前記第２の画像または前記第２の画像が撮像されたタイミングと所定の関係を有するタイミングに撮像された画像から手術ステージが認識された場合、前記手術ステージの辞書データとして作成される、
前記（１２）に記載の手術システム。
（１４）
前記情報処理装置は、前記辞書データと前記第１の特徴データとにおいて、手術ステージの遷移順序が異なる場合、または、対応する手術ステージの継続時間もしくは対応する段階までの経過時間の差分が第３の閾値を超える場合、第３の警告情報の出力を制御する出力制御部を備える、
前記（１３）に記載の手術システム。
（１５）
前記辞書データは、第３の画像から人同士の連携が認識された場合、前記人同士の連携に関する情報を含んで作成される、
前記（１）に記載の手術システム。
（１６）
前記情報処理装置は、前記辞書データと前記第１の特徴データとにおいて、連携する複数の人の少なくとも一人が異なる場合、連携する複数の人のいずれかが入れ替わっている場合、または、対応する人同士の連携の継続時間もしくは人同士の連携の対応する段階までの経過時間の差分が第４の閾値を超える場合、第４の警告情報の出力を制御する出力制御部を備える、
前記（１５）に記載の手術システム。
（１７）
前記情報処理装置は、学習によって前記手術室内の人または機器に関する前記辞書データを作成する学習部を備える、
前記（１）〜（１６）のいずれか一項に記載の手術システム。
（１８）
前記情報処理装置は、前記第１の画像から前記第１の特徴データを抽出する特徴データ抽出部を備える、
前記（１）〜（１７）のいずれか一項に記載の手術システム。
（１９）
プロセッサにより、学習によって得られた手術室内の人または機器に関する辞書データと前記手術室内に設置されたカメラによって撮像された画像から抽出された人または機器に関する特徴データとを比較することを含む、
情報処理方法。
（２０）
学習によって得られた手術室内の人または機器に関する辞書データとカメラによって撮像された画像から抽出された人または機器に関する特徴データとを比較する処理部を備える、情報処理装置。
【符号の説明】
【０１６１】
１０    情報処理装置
１１２  特徴データ抽出部
１１４  認識部
１１６  学習部
１１８  処理部
１２０  解析部
１２２  出力制御部
２０    手術室
３１    執刀医
３２    助手
３３    麻酔科医
３４    看護師
３５    看護師
３６    技師
４１    顕微鏡
４２    ナビゲーションシステム
４３    ＭＥＰ測定装置
４４    器具収納庫
【図１】
2019022580.tif 000003
【図２】
2019022580.tif 000004
【図３】
2019022580.tif 000005
【図４】
2019022580.tif 000006
【図５】
2019022580.tif 000007
【図６】
2019022580.tif 000008
【図７】
2019022580.tif 000009
【図８】
2019022580.tif 000010
【図９】
2019022580.tif 000011
【図１０】
2019022580.tif 000012
【図１１】
2019022580.tif 000013
【図１２】
2019022580.tif 000014
【図１３】
2019022580.tif 000015
【図１４】
2019022580.tif 000016
【図１５】
2019022580.tif 000017