17, December 2020 at Osaka University

医療機器操作⽀援のためのAI利⽤とコミュニケーション・デザイン
篠原 智誉 ⼤阪⼤学⼤学院医学系研究科保健学専攻
⿊⽥ 聡*1

1. 要旨

後期博⼠課程1年、
三菱京都病院 診療技術部 臨床⼯学科
⼤阪⼤学COデザインセンター招聘准教授*1

開講実績（池⽥光穂先⽣、⿊⽥聡）⼤阪⼤学COデザインセンター 春・夏学期 表現術（⼯学コミュニケーションの基礎）2020

医療施設における医療機器操作および⽣体情報監視は、患者に接続された機器から得られる情報の認知とそれに伴う⾏動が患者⽣命に直結するため、習熟者が適切に取り扱う必要がある。本稿では、webカメラで取得した画像データとAIを利⽤して医療機器や⽣体情報を監視する操作⽀援機器を研究する過程として、不具合を検出したり定常状態から逸脱しうる⽣体の変化を察知した時、どのような⼿段で注意喚起すれば操作管理者が適切に認知し安全な⾏動が促されるかを考察した。

2. 医療機器操作における課題と解決のための戦略
課題

現状⽤いられている技法

従来型の医療機器や⽣体情報の監視装置は医療安全確保の⽅策をSafety-I（機器固有にフェイルセーフ技術を有し、⼈と機器は共存・協調しない）に据えている。医療機器操作者の情報処理過程において下記の課題がある。

⼈⼯⼼肺装置本体に付属する監視計器が計測して値を表⽰、本体に内臓されたコンピュータが判断して警報を発する仕組み。注意喚起させたいリザーバーの液⾯位置にレベルセンサーを貼付、液⾯レベルがセンサーを下回ると警報を出す。液⾯レベル警報から送⾎流量を制御する機能が実装されているが、下記の課題を有する。

1. 本体と監視装置の紐付けが必要で汎⽤性がなく、個々の操作者の習熟度や特性を考慮した報知はできない。
2. 同時に複数の状況が発⽣した時は警報は時系列で報知され、重要性、優先性を機器は判断しない。
3. 覚醒⽔準は正常でも提供情報に注意を向けられるかどうかは⼈間特性に従い、その後の判断や⾏動に影響する。
4. 操作に熟練している者、豊富な知識を有する者であっても、過多な情報から必要な情報を選別する能⼒には限界があり、⾒落としは発⽣し得る。

1. リザーバー液⾯から⽬を離している時間が⻑いと、突然の液⾯低下に即応できずリザーバー内が空になる危険がある。即応できなければ空気が動脈へ誤送されてしまう。
2. リザーバー筐体表⾯に貼り付けるセンサーが剥がれることにより動作不良を起こすなど、監視装置の信頼性も低下するリスクがある。

5. 注意喚起情報を操作者が認知してから、必要とされる⼿技の実⾏を完遂するまでの所要時間を考慮していない。
6. 注意喚起情報が期待通りの効果を発揮していることを検証する機構がない。

解決のための戦略
医療安全確保の⽅策をSafety-II（⼈と機器が協調し、それぞれの領域を補完してリスクを最⼩限にする）に据えた操作⽀援装置を採⽤する。操作者の⼈間特性や周囲環境に応じたタイミングで注意喚起情報を出す機能を持たせる。
1. webカメラを⽤いたスタンドアローン監視を可能とし、医療機器本体に接続しなくても本体付属の監視機構に不具合が起きても監視を続⾏できる冗⻑性を持たせる。
2. 特定の装置に依存せず汎⽤性の⾼い機構を実装する。
3. AIを⽤いて、ナッジ理論*2に基づく機構によって操作者に効率よく適宜、的確な注意喚起情報を提供し、安全な機器の操作⽅法へ導く。
4. ハンズフリーデバイスによる視野内への表⽰、機器が発出する⾳声による伝達、想定されるリスクの重要度に応じた表⽰⽅法や⾊や⾳を実装する。
例）間⽋表⽰→断続フラッシュ表⽰→⾚⾊連続表⽰、光量による区別例）間⽋⾳→断続⾳→連続⾳、⾳量による区別
5. 予測される事象発⽣の何秒前に注意喚起情報を出すべきかを事前にAIに学習させて、操作者の注意特性に応じ、あらかじめ情報提供したり、直前に報知を⾏う。

リザーバーレベル「300ml」のポイントにセンサーを貼った場
合、⾎液灌流量が3L/minであれば、警報から６秒以内にポンプを⽌めなければリザーバーが空となる。⼀⽅で、灌流を停⽌させることは⽣体にとって重⼤なリスクに曝されることになる。

リザーバー

6. 機器の操作内容に応じた注意を向けているかどうかをモニタリングする。
*2

ナッジ理論︓選択を禁じることも、経済的なインセンティブを⼤きく変えることもなく、⾏動科学の知⾒から、望ましい⾏動をとれるよう⼈を後押しするアプローチのこと。

3. ⽤いる技法

ハンズフリーデバイスを⽤いる

1. 操作者は両⼿を塞ぐことなく、操作上必要な視野⾓から注意を逸らすことなく、様々な⽣体情報や装置の状況が⼿近に収集できる。

操作⽀援装置のシステム*3概念図
引⽤︓⿊⽥聡（2019）.「ハンズフリーデバイスを⽤いたコミュニ① 画像やIoT装置からのデータをハンズフリーデバイス（以下デバイス）で取得する
ケーション技法の開発」第４回豊中地区研究交流会 ⼀部変更
② 取得データをContent Delivery Portal（以下CDP） *4に送る③ CDPとAIが連携して、取得データから推測される現場の状況に適した情報をデバイスに送る④ 情報をデバイスに表⽰する
状況と情報の関連付けを⑤ 情報を閲覧しながら現場作業を遂⾏する状況とのマッチング可能にするデータ構造

2. 機器操作上、しばしば視野から外れる情報はwebカメラで監視し、ある条件でハンズフリーデバイス上に注意喚起情報として表⽰させる機構を構築する。

IoT装置

3. 操作者が認識すれば直ちに⽬視確認、必要な制御ノブに⼿を伸ばすなど、安全な機器の操作を促すことが可能となる。

画像等のデータ

画像等のデータ②①③

4. ハンズフリーデバイスのアイトラッキング機能にて、操作者が注意喚起情報を認知し、必要な部分に視線を向けたことが確認されれば、注意喚起情報を消す。

⑤④AIA─────────────────────────

CDP

評価・校閲の仕組み
画像等現場の状況を識別するためのデー
タ、マニュアル等のサポート情報、AIの推論結果それぞれが妥当であることを評価するため、これらのデータやモデルはすべて承認プロセスを経てCDPに渡される。
この仕組みは、プロセスを監視・制御するとともに、運⽤時においては作業者に根拠表⽰・履歴表⽰などの妥当性検証機能を提供する。

1.
―――――――――――――――――――

⼈⼯⼼肺装置の操作⾵景
⼈に寄り添った情報の提⽰

半構造化データを紐付け、管理するCDP
CDP内で画像等の現場状況を⽰すデータとチャンクに分割されたマイクロコンテンツとを半構造化して紐付けている。

評価と校閲を可能にする仕組みの内包*3 このシステムは、「知的財産に関する新型コロナウイルス感染症対策⽀援宣⾔」の対象技術を⽤いています。
*4 必要な⼈に情報をつたえるための情報提供機構。

4. エラーのタイプとAIを⽤いた操作⽀援装置の親和性についての考察
適切な注意喚起タイミングの確保
重要性、優先性を考慮した注意喚起タイミングの判断は、AIによって実現する。
1. 過去に発⽣したエラー、監視項⽬の認知、反応速度をAIにディープラーニングさせる。
2. 情報ソースとして、インシデントアクシデントレポート内容や装置の⾃動記録による情報を参照させ、主にwebカメラ画像による定常状態との⽐較を随時⾏う。
3. 操作者の特性に応じたタイミングで注意喚起する。
例1）確認漏れが多い項⽬を実⾏するタイミング
例2）⼿技の実⾏に備え予防⾏動を促がすタイミング

5. まとめ

エラーのタイプと本研究が想定する装置の親和性
1. スリップ（実⾏段階での思い違いや確認ミス）→親和性が⾼い
2. ラプス（実⾏段階での抜け、⼿順忘れや気の焦りによるミス）→親和性が⾼い3. ミステイク（前提の考え違いや知識、経験不⾜によるミス）→判断⼒を養う教育の併⽤が必要

AIの種別と本研究が想定する装置の親和性
1. スキルベース（⾏動パターンの型が作り上げられ⾏動の意識的なチェックを⾏わない不注意、習慣による操作の誤り、割り込み中断による意図の衰退）→ナッジ理論が有効、親和性が⾼い
2. ルールベース（知っているルールを⽤いた作業、適切なルールの適⽤を誤る。不適切なルールを適⽤する失敗）→適切なルールを表⽰するレコメンドが有効、親和性が⾼い
3. 知識ベース（問題解決や⽬的決定をしながらの作業、場⾯同定の失敗、先⼊観から既知事象と判断、⽬前事象にとらわれ全体像を⾒失う）→ナッジ理論が有効、親和性が⾼い本考察で得られたコミュニケーションデザインを今後の医療機器操作⽀援にかかる開発・研究に⽣かし、安全で汎⽤性のある製品として実装されることを展望とする。