(57)【要約】  クエリ画像に類似する放射線画像を識別し、取り出すためのコンピュータ実装システムについて記載する。システムは、クエリ画像を受信し、データストアから候補の類似する放射線画像のセットを取り出す1つまたは複数のフェッチャを含む。1つまたは複数のスコアラーは、クエリ画像および候補の類似する放射線画像のセットを受信し、クエリ画像と各候補画像との間の類似度スコアを生成する。プーラーは、1つまたは複数のスコアラーから類似度スコアを受信し、候補画像をランク付けし、ランク付けを反映する候補画像のリストを返す。スコアラーは、モデリング技法を実装して、クエリ画像と候補の類似する放射線画像のセットとの複数の類似度属性、およびそれに関連付けられた注釈をキャプチャする類似度スコアを生成する。たとえば、類似度属性は、患者、診断、および/または視覚の類似度とすることができ、モデリング技法は、トリプレット損失、分類損失、回帰損失、およびオブジェクト検出損失とすることができる。
2021530787.tif 000002
【特許請求の範囲】
【請求項１】
クエリ放射線画像に類似する放射線画像を識別し、取り出すためのコンピュータ実装システムであって、
a)前記クエリ放射線画像を受信し、データストアから候補の類似する放射線画像のセットを取り出す1つまたは複数のフェッチャと、
b)前記クエリ画像および前記1つまたは複数のフェッチャによって取り出された前記候補の類似する放射線画像のセットを受信する1つまたは複数のスコアラーであり、前記クエリ画像と各候補の類似する放射線画像との間の類似度スコアを生成する1つまたは複数のスコアラーと、
c)前記1つまたは複数のスコアラーから前記類似度スコアを受信し、前記候補の類似する放射線画像をランク付けし、前記ランク付けを反映する前記候補の類似する放射線画像のリストを返すプーラーと
を含み、前記1つまたは複数のスコアラーは、モデリング技法を実装して、前記クエリ画像と前記候補の類似する放射線画像のセットとの複数の類似度属性、およびそれに関連付けられた注釈をキャプチャする前記類似度スコアを生成する、
コンピュータ実装システム。
【請求項２】
前記1つまたは複数のフェッチャは、前記クエリ画像と前記候補の類似する放射線画像のセットとの複数の属性、およびそれに関連付けられた注釈をキャプチャして、前記候補の類似する放射線画像のセットを取り出すモデリング技法を実装する、請求項1に記載のシステム。
【請求項３】
前記1つまたは複数のフェッチャに実装された前記モデリング技法は、トリプレット損失、分類損失、回帰損失、およびオブジェクト検出損失のうちの少なくとも1つを含む、請求項2に記載のシステム。
【請求項４】
前記1つまたは複数のスコアラーに実装された前記モデリング技法は、トリプレット損失、分類損失、回帰損失、およびオブジェクト検出損失のうちの少なくとも1つを含む、請求項1から3のいずれか一項に記載のシステム。
【請求項５】
少なくとも2つのフェッチャがあり、各々が異なるモデリング技法を使用する、請求項2に記載のシステム。
【請求項６】
少なくとも2つのスコアラーがあり、各々が異なるモデリング技法を使用する、請求項2に記載のシステム。
【請求項７】
前記プーラーは、スコアの加重和を用いたロジスティック回帰モデルを使用して前記候補画像をランク付けする、請求項1から6のいずれか一項に記載のシステム。
【請求項８】
前記プーラーは、一般化された加法モデルを使用して前記候補画像をランク付けする、請求項1から6のいずれか一項に記載のシステム。
【請求項９】
前記プーラーは、入力としての類似度スコアに基づいてニューラルネットワークを使用して前記候補画像をランク付けする、請求項1から6のいずれか一項に記載のシステム。
【請求項１０】
前記複数の類似度属性は、診断、視覚、および患者の類似度属性を含む、請求項1に記載のシステム。
【請求項１１】
前記システムは、前記候補の類似する放射線画像のセットに関連付けられた前記注釈からの情報を集約する処理ユニットをさらに含む、請求項1から10のいずれか一項に記載のシステム。
【請求項１２】
前記処理ユニットは、臨床的決定に関連付けられた共通の属性にわたって、前記候補の類似する放射線画像のセット内の画像をグループ化する、請求項11に記載のシステム。
【請求項１３】
前記注釈は、テキストベースの放射線レポートを含み、前記処理ユニットは、テキストベースの放射線レポートからの共通のテキストによって前記候補の類似する放射線画像のセット内の画像をグループ化する、請求項11に記載のシステム。
【請求項１４】
前記処理ユニットは、前記注釈内の列挙された状態の有無によって、前記候補の類似する放射線画像のセット内の画像をグループ化する、請求項11に記載のシステム。
【請求項１５】
前記処理ユニットは、数値への前記グループ化、および前記数値のベースラインとの比較を集約する、請求項13または14に記載のシステム。
【請求項１６】
前記クエリ画像、前記候補の類似する放射線画像、および前記候補の類似する放射線画像の各々に関連付けられたメタデータを表示するように構成されたワークステーションの形式のフロントエンドをさらに含む請求項1から15のいずれか一項に記載のシステム。
【請求項１７】
前記メタデータは、放射線レポートまたはその抜粋、行われた臨床的決定、前記類似する放射線画像に関連付けられた疾患または状態の分類、または前記候補の類似する放射線画像に関連付けられたデータのグループ化または集約に関連する情報を含む、請求項16に記載のシステム。
【請求項１８】
クエリ放射線画像に類似する放射線画像を識別し、取り出すための方法であって、前記クエリ画像は、メタデータを含む注釈に関連付けられており、
a)グラウンドトゥルース注釈付き放射線画像のデータストアをキュレートするステップであり、前記放射線画像の各々がメタデータを含む注釈に関連付けられている、キュレートするステップと、
b)前記クエリ画像を受信し、前記データストアから候補の類似する放射線画像のセットを取り出すステップと、
c)少なくとも2つの異なるスコアラーを使用して、前記クエリ画像と各候補の類似する放射線画像との間の類似度スコアを生成するステップであり、前記少なくとも2つのスコアラーは、異なるモデリング技法を実装して、前記クエリ画像と前記候補の類似する放射線画像のセットとの複数の類似度属性、およびそれに関連付けられた前記注釈をキャプチャする前記類似度スコアを生成する、類似度スコアを生成するステップと、
d)前記候補の類似する放射線画像をランク付けするステップと、
e)前記候補の類似する放射線画像のセットに関連付けられた前記注釈から取得された前記ランク付けおよび集約情報を反映する前記候補の類似する放射線画像のリストを返すステップと
を含む方法。
【請求項１９】
ステップb)は、前記クエリ画像と前記候補の類似する放射線画像のセットとの複数の属性、およびそれに関連付けられた注釈をキャプチャして、前記候補の類似する放射線画像のセットを取り出すモデリング技法を実装することを含む、請求項18に記載の方法。
【請求項２０】
前記モデリング技法は、トリプレット損失、分類損失、回帰損失、およびオブジェクト検出損失のうちの少なくとも1つを含む、請求項19に記載の方法。
【請求項２１】
前記モデリング技法は、トリプレット損失、分類損失、回帰損失、およびオブジェクト検出うちの少なくとも1つを含む、請求項18から20のいずれか一項に記載の方法。
【請求項２２】
ステップd)における前記ランク付けは、スコアの加重和を用いたロジスティック回帰モデルを使用して前記候補の類似する放射線画像をランク付けすることを含む、請求項18から21のいずれか一項に記載の方法。
【請求項２３】
ステップd)の前記ランク付けは、一般化された加法モデルを使用して前記候補の類似する放射線画像をランク付けすることを含む、請求項18から22のいずれか一項に記載の方法。
【請求項２４】
ステップd)の前記ランク付けは、入力としての類似度スコアに基づいてニューラルネットワークを使用して前記候補の類似する放射線画像をランク付けすることを含む、請求項18から23のいずれか一項に記載の方法。
【請求項２５】
前記複数の類似度属性は、診断、視覚、および患者の類似度属性を含む、請求項18から24のいずれか一項に記載の方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本開示は、クエリ画像に類似する放射線画像を識別し、取り出すための方法およびシステムに関する。
【背景技術】
【０００２】
類似画像を検索するための機械学習方法を対象とる多数の文献がある。たとえば、J. Wang, et al., Learning fine-grained image similarity with deep ranking, arXiv:1404.4661 [cs.CV] (2017)、およびそこに引用されている文献を参照されたい。また、米国特許第9,275,456号、第9,081,822号、第8,199,994号、第7,188,103号、および第7,027,633号、ならびに米国特許出願公開第2012/0242817号、第2010/0017389号、第2007/0258630号、および第2003/0013951号も参照されたい。
【０００３】
現在の状況(context)での類似画像の検索、すなわち、類似する放射線画像、たとえば胸部X線の検索で直面する問題のうちの1つは、類似度を定義することである。2つの画像の間の視覚の類似度だけでは、一般に、たとえば、診断の助けを提供するためなど、それ自体では臨床的に有用であるには十分ではない。これを認識するために、それは、放射線撮像情報がどのように編成されているかを理解するのに役立つ。異種の注釈データを使用して、医用画像の多段階階層を編成することができる。そのような階層が図1Aに示される。階層の最高レベルには、画像に関連付けられた患者がいる。患者内で、画像を様々な症例にさらに再分割することができる。各症例内で、画像をスタックと呼ばれる空間的向きにさらに再分割することができ、これは、たとえば、3次元の各軸に対応する平面に沿った何らかの形式のデカルト配置に従った画像の向きに対応する(これがコンピュータ断層撮影(CT)画像の編成方法である)。各スタック内で、スタック内の位置に基づいて順序付けられた画像を見つける。最後に、これらのレベルのいずれかで、列挙されたクラス(たとえば、肺炎などの有無または病状)、数値データ(たとえば、年齢、体重、ボディマス指数など)、およびフリーテキスト(放射線レポートなど)、ならびに他のメタデータの混合を含む、関連する異種の注釈がある。
【０００４】
図1Aに示されるように、この階層の深いネスティングは、たとえばYouTube(登録商標)ビデオに見られ得るものとは異なることに留意されたい。スタック内のCTのスライスはビデオの画像フレームに似ている可能性があるが、他の次元の追加は重要な追加の複雑さである。ビデオは、定期的にサンプリングされたフレームレート(たとえば、毎秒30フレーム)を有することができるが、医療データの時間的性質は、サンプリングレートが固定されておらず、多くの場合、不規則であるという点で異なる。たとえば、患者がICUで毎日胸部X線を撮影する場合でも、別の病院に移送されたり、退院して数週間後に戻ってきたりすると、X線の頻度は、かなり少なくなる可能性がある。
【０００５】
したがって、放射線医学における類似画像の検索が臨床的に有用であるために、解決する必要がある問題の1つは、異種の注釈/メタデータを有する不規則にサンプリングされたマルチレベルの階層画像をどのように扱うかである。
【０００６】
そのような放射線画像(胸部X線、CT、マンモグラム、超音波など)は、それぞれGoogle画像検索やYouTube(登録商標)で見られる画像やビデオとは大きく異なるように編成されているという違いに加えて、類似度を構成するものは状況に依存する。
【０００７】
類似の医用画像を取り出すという問題領域内で、返される参照情報は、臨床医が下そうとしている決定に医学的に関連する情報を臨床医に提供する場合にのみ有用である。したがって、たとえば、21歳の女性が、肺結節または腫瘤(フォローアップを必要とするもの)を含む胸部X線検査を受けて、フォローアップCTを受けるべきかどうかを識別しようとしている人の場合、結節や腫瘤のない21歳の女性の胸部X線検査結果は、結節や腫瘤のある胸部X線を返すほど有用ではない。したがって、主な課題の1つは、類似画像の検索ツールによってサポートされている関連する臨床的決定に状況的に合わせた類似度のメトリックを定義することである。
【０００８】
本明細書に記載されている作業は、医学的類似度、特に臨床的に有用な類似度が医学的分類とは異なるという認識も反映している。分類は、類似度の医学的に特有の性質に対処する簡単な方法であると考えられ得るが、分類および類似度の問題は同じものではないことに留意されたい。図1Bを参照して、線形分類器の2つの異なる特徴表現の簡略化された例について検討する。正と負の両方のケースを完全に分類する分類器を構築することは可能であるが、図1Bの左側の図100によって示される1つの分類器において、各正の例(+記号によって示されている)は、他の正の例よりも近い対応する負の例(-記号によって示されている)を有し、図1Bの右側の図102によって示される別の分類器では、すべての正の例は、任意の負の例よりも互いに近い。この簡略化された例は、図1Aの状況で上述した放射線医療情報の時間的および空間的コンポーネントと組み合わされた注釈付き情報の複数の次元の類似度を考慮すると、さらに複雑になる。したがって、クラス間の決定境界を決定するのに役立つ特徴をキャプチャできるだけでは不十分である。むしろ、図1Bの右側の例に示されるように、特徴自体が同じクラス内の画像を互いに近くにクラスタ化する必要がある。
【０００９】
類似する医用放射線画像を識別し、取り出すための現在のシステムは、いくつかのニーズによって刺激されている。1つは、放射線科医に加えて、救急室の医師のような他の開業医がX線写真を読む必要がある可能性があることである。放射線科医は、以前に見たものに基づいて、特定の状態が他の状態よりもどのように見えるかをよく知っている可能性がある。加えて、症例の分布は病院ごとに異なる可能性がある。たとえば、結核は病院Aでより一般的であり、病院Bでは非常にまれである可能性がある。分類のために多数の陽性を分離することが困難なまれな状態のロングテールが存在する。
【先行技術文献】
【特許文献】
【００１０】
【特許文献１】米国特許第9,275,456号
【特許文献２】米国特許第9,081,822号
【特許文献３】米国特許第8,199,994号
【特許文献４】米国特許第7,188,103号
【特許文献５】米国特許第7,027,633号
【特許文献６】米国特許出願公開第2012/0242817号
【特許文献７】米国特許出願公開第2010/0017389号
【特許文献８】米国特許出願公開第2007/0258630号
【特許文献９】米国特許出願公開第2003/0013951号
【特許文献１０】米国特許出願第14/839,452号
【特許文献１１】米国特許出願第15/395,530号
【特許文献１２】PCT出願第PCT/US2017/019051号
【非特許文献】
【００１１】
【非特許文献１】J. Wang, et al., Learning fine-grained image similarity with deep ranking, arXiv:1404.4661 [cs.CV] (2017)
【非特許文献２】A Gordo et al., Deep Image Retrieval: Learning global representations for image search, arXiv.org [cs.CV] 1604.0132 (July 2016)
【非特許文献３】C. Szegedy et al., Going Deeper with Convolutions, arXiv:1409.4842 [cs.CV] (September 2014)
【非特許文献４】C. Szegedy et al., Rethinking the Inception Architecture for Computer Vision, arXiv: 1512.00567 [cs.CV] (December 2015)
【非特許文献５】C. Szegedy et al., lnception-v4, Inception-ResNet and the Impact of Residual Connections on Learning, arXiv:1602.0761 [cs.CV] (February 2016)
【非特許文献６】J. Wang et ai., Learning Fine-grained Image Similarity with Deep Ranking, arXiv:1404.4661 [cs.CV] (2014)
【非特許文献７】http://ml-cheatsheet.readthedocs.io/en/latest/loss_functions.html
【非特許文献８】M.Sundararajan et al., Axiomatic Attribution for Deep Networks, arXiv: 1703.01365 [cs.LG] (June 2017)
【非特許文献９】D. Bahdanau et al., Neural Machine Translation by Jointly Learning to Align and Translate, Jan. 2014 (arXiv:1409.0473[cs.CL]
【非特許文献１０】Choi et al., GRAM: Graph-based attention model for Healthcare Representation Learning, arXiv:1611.07012v3 [cs.LG] April 2017
【非特許文献１１】Choi et al., RETAIN: an Interpretable Predictive Model for Healthcare using Reverse Time Attention Mechanism, arXiv:1608.05745v3[cs.GL] February 2017
【非特許文献１２】https://en.wikipedia.org/wiki/Generalized_additive_model
【非特許文献１３】J. Weston et al., Learning to Rank Recommendations with the k-Order Statistic Loss, RecSys'13, October 12-16, 2013, Hong Kong, China
【発明の概要】
【発明が解決しようとする課題】
【００１２】
本明細書は、フェッチャおよびスコアラーを含むバックエンド設計(ソフトウェアインフラストラクチャ)と、クエリ画像と候補の類似する放射線画像のセットとの複数の類似度属性(たとえば、診断、視覚、患者など)、およびそれに関連付けられた注釈(たとえば、メタデータまたは医療レポートなど)をキャプチャする類似度スコアを生成するスコアラーに実装されたモデリング技法との組合せを特徴とするシステムによって、これらの問題の解決策を提案する。
【課題を解決するための手段】
【００１３】
特に、システムは、クエリ画像を受信し、グラウンドトゥルース注釈付き参照放射線画像のライブラリの形式でデータストアから候補の類似する放射線画像のセットを取り出す1つまたは複数のフェッチャを含む。フェッチャは、トレーニングされたディープ畳み込みニューラルネットワーク、画像から抽出された特徴ベクトルに基づく最近傍アルゴリズム、または分類器の形式をとることができる。これらの候補画像は、すでにスコアに関連付けられている場合もあり、関連付けられていない場合もある。たとえば、1つの可能な構成では、クエリ画像にすでにインデックスが付けられている場合、類似画像のスコアが事前に計算され、キャッシュされ、フェッチャは、事前にキャッシュされた類似画像を利用して、候補の類似画像を取り出し得る。
【００１４】
システムは、クエリ画像および候補の類似する放射線画像のセットを受信し、クエリ画像と各候補画像との間の類似度スコアを生成する1つまたは複数のスコアラーをさらに含む。スコアは、たとえば、事前に計算された埋込み、および埋込み空間内の標準的な距離メトリック(たとえば、コサインまたはユークリッド距離)に基づいて計算することができる。たとえば、スコアラーはデータベース内の画像の埋込みを調べ、次いで、埋込み空間内の距離尺度を使用して、クエリ画像が候補の類似する放射線画像とどの程度類似しているかを決定する。
【００１５】
システムは、1つまたは複数のスコアラーから類似度スコアを受信し、候補画像を(たとえば、進行度/重大度に基づいて)ランク付けし、ランク付けを反映する候補画像のリストを返すプーラーをさらに含む。
【００１６】
スコアラーは、モデリング技法を実装して、多くの異なる属性または軸(たとえば、診断、視覚、患者など)の類似度をキャプチャすることができる類似度スコアを生成する。診断、視覚、および患者の属性は、類似度の特定の軸で重要となり得る多くの信号の一部であるが、これら3つは、網羅的なリストであることを意図するものではない。いくつかの異なるモデリング技法が企図されており、複数のスコアラーが存在する典型的な実装形態では、各々が、類似度のこれらの異なる属性(たとえば、診断、視覚、患者など)をキャプチャする異なるモデリング技法を使用する。
【００１７】
加えて、フェッチャは、これらの様々なモデリング手法を使用して、データストアから類似の医用画像を取り出すこともできる。特に、スコアリングおよびランク付けする初期画像および使用されるモデルをフェッチまたは選択する方法には相互作用がある。たとえば、システムが気胸など特定の状態に陽性である類似画像を返すツールとして構成されており、クエリ画像が気胸に陽性として分類されると確信している場合、気胸が陽性であることがわかっている画像のみをフェッチし(データストア内の参照画像はグラウンドトゥルース注釈を有するので)、スコアラーによるスコアリングとその後のランク付けにそれらを使用することができる。この場合、フェッチャは、クエリ画像の状態について推論するためにモデルを実行し、それを使用してスコアリングのために送信される候補画像をフィルタリングすることになる。
【００１８】
モデリング技法の一部は、トリプレット損失、分類損失、回帰損失、オブジェクト検出損失を含む。画像内の追加の領域情報を考慮に入れるアテンションモデルを使用することもでき、これによって、画像内の当該の領域の階層の1つの追加の層、すなわち、サブ画像レベルのメタデータを検討することができる。
【００１９】
以下で説明するように、トリプレット損失は、類似度を概念上キャプチャする方法で、異種データを一貫して扱う技法である。具体的には、クエリ画像と2つの候補画像の3つの画像があると仮定する。候補画像のうちの一方(正)に他方の画像(負)よりも近いクエリ画像があることがわかっている場合、正のペア(クエリと正の候補)間の抽出された特徴間の距離は、クエリと負の候補との間の距離よりも小さくなると予想される。したがって、トリプレット損失は、これら2つの距離の間の差である。本明細書は、患者および臨床メタデータ(たとえばBMI、年齢、体重などの数値データを含む)、構造化ラベル、医療レポートに基づく分類ラベルのベクトル上のハミング距離、および画像内の異常の位置を含む、トリプレット損失(すなわち、クエリ画像と2つの候補画像との間の距離メトリック)を計算する様々な方法について記載する。前述のように、類似度を決定するための他のモデリング技法も企図されており、1つの可能な構成では、スコアラーは各々、異なるモデリング技法を使用する。
【００２０】
フェッチャ、スコアラー、およびプーラーの一般的な配置によって、類似する放射線画像をスケーラブルに処理し、取り出すことができる。さらに、フェッチングおよびスコアラーの類似度に異なるモデリング技法を使用することによって、類似度モデリングの様々な側面を組み合わせて、ユーザに診断上有用な情報を提供し、特に放射線学の状況で、類似する医用画像検索の臨床応用のニーズを満たす類似する医用画像のセットを生成することができる。
【００２１】
一構成では、類似画像のフェッチ、スコアリング、およびランク付けを実行した後、ユーザに返される情報は、類似画像(および関連するメタデータ)だけでなく、類似画像の結果セットから選別、推測、または集約することができる情報も含む。したがって、システムは、候補の類似画像からのデータの集約または推論を実行する処理ユニットを含む。いくつかの例は、以下の通りである。
1)画像は、単に画像のリストとして返されるのでなく、臨床上の決定をサポートするのに有用な共通の属性にわたってグループ化されて返され得る。たとえば、特定の異物の誤配置(たとえば、経鼻胃管の誤配置など)を含む画像は、気胸の診断に関連付けられた画像とは別にグループ化され得る。
2)グループ化は、放射線科のフリーテキストレポートからの関連する共通のテキストの集約を含むことができる。たとえば、気管内チューブが誤配置されていることを示す特定のラベルはない場合があるが、たとえば、「カリーナのレベルで気管内チューブ」、「気管内チューブの先端は右主気管支で終了」、または「ETチューブの先端は、標準的な位置決めのために数センチ進めることができる」というテキスト入力を有するレポートなど、この状態が存在することを示唆する共通のフレーズを有するレポートに関連付けられた画像を集約することができる。
3)上記の例2)のように、レポート内のこれらの共通のフレーズによって(または他のメタデータ内の列挙された状態の有無によって)グループ化すると、これらを値に集約し、ベースラインと比較し、比較を、たとえば、統計として報告することができる。たとえば、類似画像の結果が100枚の画像であり、データベース(参照ライブラリ)内の1000枚の画像のうち1枚だけが気胸を含んでいるにもかかわらず、100枚の画像のうち60枚が気胸が存在することを示したという事実を報告する場合がある。
【００２２】
したがって、類似画像のセットが識別されると、関連情報がこのセットからユーザに返される。これは、通常、画像自体だけでなく、放射線レポート、行われた臨床的決定(たとえば、抗生物質、利尿薬の処方など)、類似画像に関連付けられた疾患/状態の分類、これらの結果のグループ化/集約に関連する情報または統計など、これらの画像の各々に関連付けられたメタデータも含む。その集約は、類似する特性を有する画像結果のクラスタリング、画像内の特定の状態/診断の有病率を要約したピボットテーブルの生成、および放射線レポート内の共通のフレーズの有病率の表示を含むことができる。これらの集約は、所与の患者の将来の結果にも基づき得ることに留意されたい。
【００２３】
フェッチャ、スコアラー、およびプーラーは、上述した様々な機能を実行するように構成されていることが諒解されよう。
【００２４】
別の態様では、クエリ放射線画像に類似する放射線画像を識別し、取り出すための方法が開示されている。クエリ画像は、メタデータを含む注釈に関連付けられている。この方法は、グラウンドトゥルース注釈付き放射線画像のデータストアをキュレートする(すなわち、開発し、記憶する)ステップa)を含み、放射線画像の各々はメタデータを含む注釈に関連付けられている。この方法は、クエリ画像を受信し、データストアから候補の類似する放射線画像のセットを取り出すステップb)を含む。この方法は、少なくとも2つの異なるスコアラーを使用して、クエリ画像と候補の類似する各放射線画像との間の類似度スコアを生成するステップc)を含む。少なくとも2つのスコアラーは、異なるモデリング技法を実装して、クエリ画像と候補の類似する放射線画像のセットとの複数の類似度属性、およびそれに関連付けられた注釈をキャプチャする類似度スコアを生成する。この方法は、候補の類似する放射線画像をランク付けするステップd)を含む。この方法は、候補の類似する放射線画像のセットに関連付けられた注釈から取得されたランク付けおよび集約情報を反映する候補の類似する放射線画像のリストを返すステップe)をさらに含む。
【図面の簡単な説明】
【００２５】
【図１Ａ】関連する異種の注釈データとともに、医療情報の多段階階層を示す図である。
【図１Ｂ】2つの異なる分類器による正の例および負の例の分類を示す図である。
【図２】クエリ画像に類似する医用画像が取り出され、放射線科医または病理医などの医療専門家によって使用されて、クエリ画像に関連付けられた患者に関する特定の所見を作成する、本開示の方法の使用例の図である。
【図３】ユーザの観点から本開示の方法を使用するワークフローの高レベルの図である。
【図４】候補画像をフェッチするフェッチャ、複数のスコアラー、およびスコアラーから類似度スコアを受信し、(たとえば、進行度/重大度に基づいて)候補画像をランク付けし、ランク付けを反映する候補画像のリストを返すプーラーを含む、クエリ画像を受信するバックエンド設計の1つの可能な構成のブロック図である。
【図５】図4のバックエンド設計の別の可能な構成のブロック図である。
【図６】図4のバックエンド設計の別の可能な構成のブロック図である。
【図７】各々が、それに関連付けられた注釈を含む、クエリ画像と候補の類似する放射線画像のセットとの診断、視覚、および患者の類似度属性をキャプチャする、クエリ画像と候補の類似する放射線画像のセットとの間の類似度スコアを生成する、複数の異なるスコアラーを示すバックエンド設計の一部のブロック図である。
【図８】図4、図5、図6、または図7のバックエンド設計を使用して取り出され、スコアリングされ、ランク付けされた類似する放射線画像のセットおよびクエリ画像、ならびに、取り出された画像が診断によってソートまたはグループ化された、類似する放射線画像のセットからの集約情報を示す、医療専門家によって使用されるワークステーション上のディスプレイの図である。
【図９】クエリ画像、取り出された類似する医用画像のセット、および取り出された類似画像に関連付けられた様々な統計を示す統計プロットのセット、たとえば、受け取った薬品、数日間にわたる特定の医療事象の発生などを示すワークステーション上のディスプレイの図である。
【図１０】クエリ画像、および取り出された類似画像のサムネイル画像を示し、この場合、性別(左右の列)および診断(行)でグループ化する、類似画像の分布を示すワークステーション上のディスプレイの図である。
【図１１】多次元空間への参照ライブラリの多数の放射線画像の埋込みのプロットの図である。各長方形のパッチは、参照ライブラリ内の単一の画像を表す。埋込み内の画像の位置は、複数の軸の類似度の要因である。
【発明を実施するための形態】
【００２６】
本明細書は、クエリ画像に類似する放射線画像を識別するためのコンピュータ実装システムについて記載する。このシステムは、胸部X線、マンモグラム、またはCTスキャンなど、患者の放射線画像に基づいて患者の診断に到達する際に、放射線科医、ER医師、またはプライマリケア医などの医療専門家を支援するためのツールと見なすことができる。システムは、入力画像に基づいて、診断上有用な出力情報をユーザに提供する。
【００２７】
システムがどのように機能するかについての一般的な考え方を図2に示す。放射線画像200は、たとえば、従来の撮像機器を使用して取得され、本開示のシステム202に供給される。画像200は、クエリ画像と見なされ、すなわち、医療専門家は、画像200に類似する画像を見つけようとする。クエリ画像200は、医療情報、メタデータ、レポートなど(総称して「注釈」)に関連付けられている。システム202は、クエリ放射線画像200のタイプのグラウンドトゥルース注釈付き放射線画像の参照ライブラリの形式でデータストアから取得された類似する放射線画像(SMILY、「similar medical image like yours」)の形式で結果204のリストを返す。結果204は、類似画像だけでなく、それに関連付けられた注釈も含む。本明細書の後半で図3および図8〜図10で詳細に説明するように、結果は、一般に、グループ化および集約情報、たとえば統計などとともに返される。次いで、開業医は、クエリ画像202および結果204を検討することによって、たとえば、フリーテキストレポートまたは構造化されたノートの形式で、患者の医療記録に所見206、典型的には診断所見を入力する。本開示のシステムの1つの目的は、意思決定タスクを改善するためのツールを提供することであり、医療専門家は、他の診断手順および方法に加えて結果を使用して、臨床所見を生成する。画像のすべての所見が特定の行動/計画に臨床的に関連していない場合があることに留意されたい。ここでは、臨床的に関連する所見として、図2の所見A、B、およびCを参照する。
【００２８】
図3は、ユーザの観点からシステムの操作方法を示す。図3に示されるように、従来のコンピュータワークステーション(図示せず)上で医療専門家にユーザインターフェースを提供するフロントエンドコンポーネント300が存在する。フロントエンドコンポーネントは、カスタムデザインの場合もあり得る、PACS(画像アーカイブおよび通信)システム内のタブまたはアイコンをアクティブにするなどして、PACSシステムから入力される。フロントエンドコンポーネントは、臨床医にとってローカルであるか、リモートのクラウドコンピューティング環境であり得るコンピュータシステム内で実行される、図4に示されるコンピュータソフトウェアモジュールのセットの形式で、バックエンドシステムに、たとえば、アプリケーションプログラミングインターフェース(API)のセットを介して、ソフトウェアインターフェースを提供する。フロントエンドコンポーネントは、ユーザがクエリ画像を選択するためのオプションを提供する。システムは、302に示されるように、クエリ画像と類似する画像の検索を実行する。フロントエンドシステムは、ワークステーション上にクエリ画像200および結果204の表示を提供する。結果は図3に要約形式で示されているが、他の様々な形式については図8〜図10と併せて後で説明し、詳細は、図3に示されているものとは異なる場合がある。ユーザは、結果204内の類似画像のいずれか1つをクリックまたは選択する(矢印303で示される)オプションを有し、選択された類似画像304の詳細ビューが表示される。フロントエンドコンポーネントのインターフェースは、検索を絞り込む(矢印306で示されている)ためのツールも含み、指定された絞り込みに基づいて類似画像が取り出される。そのような絞り込みは、テキストボックスにテキストを入力するか、特定の年齢層、喫煙者のステータス、性別、診断、または他の基準で患者のみを選択するか、特定の診断または状態に関連付けられた画像のセットのみを選択することによって指定することができる。
【００２９】
類似する放射線画像のセットが識別されると、関連情報がこのセットからユーザに返される。これは、通常、画像自体だけでなく、放射線レポート、行われた臨床的決定(たとえば、抗生物質、利尿薬の処方など)、類似画像に関連付けられた疾患/状態の分類、これらの結果のグループ化/集約に関連する情報など、画像の各々に関連付けられたメタデータも含む。その集約は、類似する特性を有する画像結果のクラスタリング、画像内の特定の状態/診断の有病率を要約したピボットテーブルの生成、および放射線レポート内の共通のフレーズの有病率の表示を含むことができる。これらの種類の集約の例については、本明細書で後述する。
【００３０】
図4は、クエリ画像を受信し、結果のリストを生成するソフトウェアモジュールまたはオブジェクトのセットの形式のバックエンド400の1つの可能な構成のブロック図である。ソフトウェアモジュールは、当業者によって諒解されるように、コンピューティングリソースおよび処理ユニット、たとえば、グラフィックス処理ユニット、機械学習モデルのメモリ記憶パラメータ、統計を計算するための処理ユニットなどを有するコンピュータシステムで実行される。図4の凡例に示されているように、要求および応答の流れは、細い矢印および太い矢印で示されている。
【００３１】
バックエンドのオブジェクトは、大きく2つのカテゴリに分割することができる。
(a)バックエンド400の状態機械を制御するオブジェクト:
コントローラ402:バックエンドの外部(たとえば、図3のフロントエンド300)からクエリを受信し、ディスパッチャ404、フェッチャ406、およびプーラー410を調整して、類似画像の結果のリストを生成し、結果をランク付けするオブジェクト。コントローラはまた、構成または初期状態からこれらのオブジェクトを構築する。
ディスパッチャ404:いくつかの異なるフェッチャ406とスコアラー408との間でクエリを配信し、次いでプーラー410を使用して結果を照合するオブジェクト。ディスパッチャは、候補画像およびクエリされた画像をスコアラーのセットに並行して送信し、結果をフェッチし、得られたスコアをランク付けのためにプーラー410に渡す。
(b)類似画像を識別し、取り出すために必要な特定の操作を実行するオブジェクト:
(1)フェッチャ406-クエリ画像200を受信し、すでにスコアに関連付けられていても関連付けられていなくてもよいグラウンドトゥルース注釈付き参照画像のライブラリの形式でデータストア(図3には図示せず)にクエリを実行することによって、候補の類似画像のセットを生成するオブジェクト。一実施形態では、各々異なるモデリング技法を使用して候補の類似する放射線画像のセットを取り出す2つ以上のフェッチャが存在し得る。
(2)スコアラー408-クエリ画像および候補画像のセットを受信し、クエリ画像と各候補画像との間の類似度スコアを返すオブジェクト。好ましい実施形態では、2つ以上のスコアラーが存在する。以下で説明するように、スコアラーは、モデリング技法を実装して、クエリ画像と候補の類似する放射線画像のセットとの複数の類似度属性、ならびに、たとえば診断、視覚、および患者の類似度など、それに関連付けられた注釈をキャプチャする類似度スコアを生成する。複数のスコアラーが存在する場合、各々が異なるモデリング技法を実装する。
(3)プーラー410-ディスパッチャ404によって照合された、いくつかの異なるスコアラーまたはフェッチャからスコアリング結果を受信し、結合された結果の単一のリストを返すオブジェクト。プーラーは、候補画像を(たとえば、進行度/重大度に基づいて)ランク付けし、ランク付けを反映する候補画像のリストを返す。
【００３２】
図4のソフトウェアアーキテクチャは、異なるモデルからトレーニングされた異なるスコアリング技法を組み合わせ、それらを組み合わせてスケーラブルな方法で最終的なランク付けを生成する能力を提供する。
【００３３】
図4のソフトウェアアーキテクチャは、基本ビルディングブロックまたはオブジェクトの他の形式および配置で実現することができる。図5は、考えられる1つの変形を示す。この構成では、クエリ画像200は、データストアまたはリポジトリ500から類似画像の候補セットを取り出すフェッチャ406を含むディスパッチャ/プーラー502によって受信される。画像のセットは、画像クエリおよび候補画像を3つの異なるスコアラー408A、408B、および408Cを含むスコアリングモジュール408に送信するディスパッチャ404に送信される。各モジュール408A、408B、および408Cは、異なるモデリング技法を使用して、候補画像の類似度スコアを生成する。これらのモデリング技法は各々、クエリ画像と候補の類似する放射線画像のセットとの間の2つ以上の類似度属性、および患者、診断、視覚の類似度など、関連する注釈をキャプチャするか、または考慮に入れる。これらの類似度の属性は、多次元埋込み空間の座標軸として表すことができ、図11を参照すると、ここで、画像の特徴ベクトルおよび関連する注釈を使用して、この特徴空間内にクエリ画像および類似画像の候補セットの位置をプロットし、次いで、距離メトリックまたは以下で説明する他のタイプのモデリング技法を使用して、類似度を反映する類似度スコアを生成する。
【００３４】
次いで、類似度スコアおよび類似画像の候補セットは、ディスパッチャ404に返され、次いで、プーラー410に供給され、次いで、スコアを使用して類似画像の候補セットをランク付けする。次いで、プーラーは、ランク付けされた画像を結果204として返す(この場合も、好ましくは、他の場所で詳細に説明されているように、集約情報、統計、グループ化、メタデータなどを含む)。
【００３５】
図6は、別の可能な構成を示す。番号1、2、3.1、3.2などは、オブジェクト402、404A、406A、408A、410Aなどが呼び出される順序を表す。
【００３６】
この実施形態は、コントローラ402、およびフェッチ要求を異なるフェッチャ406Aおよび406Bにディスパッチするフェッチディスパッチャ404Aを特徴とし、各々が異なるモデリング技法を使用して、データストアから候補の類似画像のセットを識別する。フェッチ結果は、プーラー410にプールされ、次いで、コントローラ402を介してスコアディスパッチャ404Bに送信され、スコアディスパッチャ404Bは、クエリ画像および類似画像の候補セットをスコアラー408Aおよび408Bにディスパッチし、スコアラー408Aおよび408Bは各々異なるモデリング技法を使用して、類似度スコアを生成する。スコア要求7.1および7.2の場合と同様に、フェッチ要求3.1および3.2を並行して計算することができることに留意されたい。
【００３７】
図7は、さらに別の構成を示す。たとえば、図5のように構成されたディスパッチャ/プーラー502は、候補画像およびクエリ画像を5つの異なるスコアラー408A、408B、408C、408Dおよび408Eの各々に並行して転送する。スコアラーの各々は、異なるモデリング技法を使用して、クエリ画像と候補の類似する放射線画像のセットとの類似度属性と、診断、患者、視覚の類似度など、関連する注釈をキャプチャする類似度スコアを生成する。各スコアリングモジュールは、たとえば図11に示されるように、クエリ画像の特徴ベクトルの多次元空間への埋込みまたは投影に基づく距離メトリックを使用してスコアを生成する。スコアリングモジュール408Aは、局所的な状態におけるRegional Maximum Activations of Convolutions(R-MAC)からの埋込みを使用する。さらなる詳細については、たとえば、A Gordo et al., Deep Image Retrieval: Learning global representations for image search, arXiv.org [cs.CV] 1604.0132 (July 2016)を参照されたい。スコアリングモジュール408Bは、教師あり学習モデルから取得された埋込みを使用する。スコアリングモジュール408Cは、以下で説明するトリプレット損失からの埋込みを使用する。スコアリングモジュール408Dは、きめの細かい画像特徴からの埋込みを使用する。J. Wang, et al., Learning fine-grained image similarity with deep ranking, https://arxiv.org/abs/1404.4661 (2017)を参照されたい。スコアリングモジュール408Eは、NCA(ネットワーク成分分析)を備える分類器からの埋込みを使用する。
【００３８】
図11は、多次元空間または埋込みへのフェッチャによって参照ライブラリから取得された多数の候補の放射線画像の埋込みのプロットの一例である。埋込みの視覚化を容易にするために、埋込みは、3つの軸からなる。軸は、視覚、診断、および患者など、類似度の異なる側面を表す。各長方形パッチ1102A、1102Bなどは、単一の放射線画像を表す。類似する画像は、互いに近くにクラスタ化され、類似しない画像はクラスタ化されていない。クエリ画像と類似する医用画像は、クエリ画像の特徴ベクトルを、多次元空間において距離によって隣接する画像をスコアリングする図4の埋込みに投影することによって見つけられる。たとえば、図11を参照すると、画像1102Aを含む画像1104のクラスタは、3つの軸すべてにおいて、星で示されるクエリ画像1106に類似している画像のグループを表す。この例では、クエリ画像が胸部X線で気胸が陽性であった場合、患者が喫煙者であった場合など、クエリ画像は、星408の位置に配置され、クラスタ内の画像1104のスコアは、たとえば、より遠くにある画像1102Bよりも低くなる(すなわち、より類似している)。
【００３９】
図4、図5、図6、および図7でアーキテクチャ全体とアーキテクチャの様々な可能な構成について説明したので、次に、フェッチャ、スコアラー、およびプーラーについてさらに詳しく説明する。
【００４０】
フェッチャ406
前に説明したように、フェッチャは、クエリ画像を受信し、グラウンドトゥルース注釈付き参照放射線画像のライブラリの形式でデータストアから候補の類似する放射線画像のセットを取り出す。データストアは、公的に入手可能なまたは私的なソースからグラウンドトゥルース注釈付き放射線画像を取得することによって、または公的または私的ソースから画像を取得し、トレーニングされたリーダーを使用してグラウンドトゥルース注釈を追加することによって、キュレート、すなわち開発および維持することができる。
【００４１】
フェッチャは、トレーニングされたディープ畳み込みニューラルネットワークまたは分類器の形式をとることができ、オプションでフィルタを使用して、たとえば、クエリ画像に存在する特定の条件について陽性であるものなど、一部の画像のみを除外または含めることができる。フェッチャは、最初にクエリ画像を分類し(たとえば、気胸が陽性であると決定する)、その分類を使用して、気胸のグラウンドトゥルース注釈を有するもののみに類似画像をフィルタリングする関数を含むこともできる。フェッチャは、いくつかの形式をとることができ、たとえば、以下の参考文献のうちの1つに従って構成することができ、その内容は参照により本明細書に組み込まれる。C. Szegedy et al., Going Deeper with Convolutions, arXiv:1409.4842 [cs.CV] (September 2014); C. Szegedy et al., Rethinking the Inception Architecture for Computer Vision, arXiv: 1512.00567 [cs.CV] (December 2015)、また、2015年8月28日に出願されたC. Szegedyらの「Processing Images Using Deep Neural Networks」と題した米国特許出願第14/839,452号も参照されたい。lnception-v4として知られる第4世代は、別の可能なアーキテクチャと見なされる。C. Szegedy et al., lnception-v4, Inception-ResNet and the Impact of Residual Connections on Learning, arXiv:1602.0761 [cs.CV] (February 2016)を参照されたい。また、2016年12月30日に出願されたC. Vanhouckeの「Image Classification Neural Networks」と題した米国特許出願第15/395,530号、および2017年2月23日に出願されたPCT出願第PCT/US2017/019051号も参照されたい。
【００４２】
これらの候補画像は、すでにスコアに関連付けられている場合もあり、関連付けられていない場合もある。たとえば、1つの可能な構成では、類似画像へのスコアが事前に割り当てられてもよく、フェッチャは、事前にキャッシュされた類似画像を利用して、候補の類似画像を取り出し得る。
【００４３】
一実施形態では、1つまたは複数のフェッチャは、事前にキャッシュされたフェッチャとして構成することができる。事前にキャッシュされたフェッチャでは、所与のクエリ画像の類似する候補画像が事前に計算されている。類似画像の事前計算は、任意の適切な技法を使用することができる。
【００４４】
フェッチャは、様々な異なるモデリング技法を使用して画像の類似度を決定することができ、そのようなモデリング技法については、スコアラーの説明でより詳細に説明する。そのようなモデリング技法は、トリプレット損失、分類損失、回帰損失、オブジェクト検出損失を含むことができる。
【００４５】
スコアラー408
上述のように、システムは、クエリ画像および候補の類似する放射線画像のセット(フェッチャによって識別される)を受信する1つまたは複数のスコアラーを使用し、画像データならびに画像に関連付けられた基礎となる注釈(画像メタデータ、レポート、患者情報など)を使用して、クエリ画像と各候補画像との間の類似度スコアを生成する。スコアは、たとえば、事前に計算された埋込み、および埋込み空間内の標準的な距離メトリック(たとえば、コサインまたはユークリッド距離)に基づいて計算することができる。たとえば、スコアラーはデータベース内の画像の埋め込みを調べ、次いで、埋込み空間内の距離尺度を使用する。上記の図11の説明を参照されたい。
【００４６】
スコアラーは、モデリング技法を実装して、多くの異なる軸(たとえば、診断、視覚、患者など)の類似度をキャプチャすることができる類似度スコアを生成する。診断、視覚、および患者の属性は、類似度の特定の軸で重要となり得る多くの信号の一部であるが、これら3つは、網羅的なリストであることを意図するものではない。いくつかの異なるモデリング技法が企図されており、複数のスコアラーが存在する典型的な実装形態では、各々が、類似度のこれらの異なる属性(たとえば、診断、視覚、患者など)をキャプチャする異なるモデリング技法を使用する。
【００４７】
類似度のモデリングでは、スコアラーの一構成は、診断、視覚、および患者の類似度をキャプチャする様々な信号を並行して開発する。これらの信号からの出力は、類似度信号をキャプチャする画像埋込み、またはすべての候補画像の類似度スコアのいずれかである。スコアリングモジュールは、様々な信号を組み合わせ、最終的なスコアリングおよび候補画像のランク付けの役目を果たす。類似度モデルのいくつかの提案には、以下を含む。
【００４８】
診断の類似度
(1)対応するレポートテキストベースの類似度を利用して、診断類似度画像トリプルを生成する。たとえば、自然言語処理(NLP)レポート抽出埋込みを利用して、レポートの類似度をキャプチャし、これらのレポートに対応する画像は、診断画像の類似度に関するトレーニングを提供する。類似度は、放射線レポートの内容全体に基づいているので、これらの例は、すべての診断状態をキャプチャし、サブセットに焦点を当てない。
(2)結節、気胸、不透明度などの状態のために構築された既存のX線分類モデルからの埋込みを利用する。これらは、適度に性能の高いモデルであり、これらのモデルの上位の数層に基づく類似度は、診断の類似度をキャプチャする必要がある。
【００４９】
診断+位置の類似度
(1)パッチ検出手法を使用して、小さい異常(たとえば結節など)をその位置とともに特定する。小さい異常を含む入力画像を与えられると、異常およびその位置を自動的に識別し、類似する位置で類似する異常を含む画像を取り出し、入力画像と取り出された画像の両方の異常を強調表示する。
(2)トレーニング画像データセットからパッチベースの画像トリプルを使用して、分類器を再トレーニングする(たとえば、J. Wang et ai., Learning Fine-grained Image Similarity with Deep Ranking, arXiv:1404.4661 [cs.CV] (2014)を参照されたい)。スコアリング方式は、同じ位置からの同じ異常>異なる位置からの同じ異常>同じ位置からの異なる異常>他のすべて、とすることができる。
【００５０】
人口統計および患者の類似度
(1)2つのX線が同じ人物に帰属するかどうかを識別するためのモデル。所与の患者の縦方向のX線を含むデータセットは、同じ人物の複数の画像を経時的に提供し、これを使用して、同じ人物と違う人物のトレーニングセットを構築し、モデルをペアまたはトリプレットでトレーニングして、同じ人物かどうかを分類することができる。
(2)年齢、性別、民族性、喫煙歴、BMI(ボディマス指数)、身長、体重などのトレーニングデータセットの個人テーブルのフィールドを使用して、人口統計の類似度のトリプレットを生成する。トレーニングデータを生成するために、これらの特性をどのようにランク付けするかについてヒューリスティックにより導出する。
【００５１】
視覚の類似度
(1)上記のJ. Wang et al., Learning Fine-grained Image Similarity with Deep Rankingの論文に記載されているようなディープCNN画像分類器を使用する。または、X線データを使用した特徴選択にNCA(ネットワーク成分分析)を用いた分類器を使用する。
(2)人口統計、患者、および診断の類似度のために生成されたトリプルを使用して、(1)の分類器を再トレーニングする。
【００５２】
異常の類似度
(1)正常対異常の画像分類器をトレーニングする。異常なラベルを提供し、包括的なトレーニングデータセットを使用または開発する。一構成では、注釈内のフリーテキストレポートから正常対異常のレポートエクストラクタを構築することができ、対応する画像を使用して分類器を生成する。
(2)敵対的生成ネットワーク(GAN)を循環させて、異常な領域を特定する。異常タイプと16の異常位置のうちの1つを含むトレーニングデータセット内の各画像の異常ベクトルを生成する。画像のペアについて異常ベクトルの類似度を予測する分類器をトレーニングして、同じ位置に異常がある画像を効果的により類似させる。
【００５３】
図1Bの説明で上述したように、分類器のトレーニング自体は、良好な類似度メトリックを保証するのに十分ではなく、クエリ画像とフェッチャによって取り出された候補画像のセットの両方に、異種の注釈のセットがある。好ましい構成では、類似度スコアを生成するために、いくつかの異なるモデリング技法を使用する。以下に、いくつかの技法を提示する。これらは、(a)トリプレット損失、画像の順序付けの何らかの概念のみを必要とし、それによって、不規則にサンプリングされたデータ、階層、および異種の注釈/メタデータを扱うことができる、(b)回帰損失、すなわち、埋め込みを報告するために回帰し、これは、画像およびレポートデータのモダリティを組み合わせることができる1つの技法である、(c)分類損失、および(d)オブジェクト検出損失、たとえば、画像内の追加の地域情報を考慮したアテンションモデルの使用によるものであり、これによって、画像内の関心領域の階層の1つの追加の層、すなわち、サブ画像レベルのメタデータを考慮することができる。
【００５４】
トリプレット損失
これは、文献に記載されている技法であり、概念的に類似度をキャプチャする方法で、異種データを一貫して扱うことができる。具体的には、クエリ画像と2つの候補画像の3つの画像があると仮定する。候補画像のうちの一方(正)に他方の画像(負)よりも近いクエリ画像があることがわかっている場合、正のペア(クエリと正の候補)間の抽出された特徴間の距離は、クエリと負の候補との間の距離よりも小さくなると予想される。したがって、トリプレット損失は、これら2つの距離の間の差である。したがって、トリプレット損失は、次のように、たとえば、距離関数D(.,.)の場合、画像のいくつかの順序付けを作成することによって画像を比較する方法である。
D(queryImage, image1)<D(queryImage, image2)
【００５５】
距離の任意の概念は、トリプレット損失に変えることができる。ハミング距離は、同じ状態(類似の病状、類似の人口統計学的情報、同じ領域に局所的異常が現れるなど)が多い画像が、少ない画像よりも類似しているということによって、そのような順序付けを構築する1つの方法である。
【００５６】
より正式には、評価メトリックを距離関数としてカプセル化することができる。
【００５７】
【数１】
2021530787.tif 000003
式中、dH(.,.)はハミング距離
p(.,.):{condition(状態)}×{画像}→{0,1}
p(c,u)=1、ただし、画像uが画像内の状態cを示す場合かつその場合に限る。
πp(.,.,.):{image regions (画像領域)}×{localizable conditions (局所化可能な状態)}×{画像}→{0,1}
π(r,c,u)=1、ただし、画像uが領域r内で状態cを示す場合かつその場合に限る。
ここでは、状態は、医学的な異常と人口統計学的情報の両方をキャプチャするために大まかに使用される。
d(t,u)<d(t,v)
である場合、画像tは画像vにより類似していると言う。
【００５８】
ハミング距離は、そのような順序付けを構築する唯一の方法ではない。いくつかの代替は、以下を含む。
a)時間的に近い同じ患者が撮影された画像は、離れている同じ患者が撮影された画像よりも類似している。
b)開業医は、画像のいくつかの独自の主観的な順序付けを提供する。
c)共通の埋込み空間に投影された関連する放射線レポートテキストを含む胸部X線画像は、異なる胸部X線画像に関連付けられた放射線レポートを含む元のX線よりも互いに類似している。
d)共通の埋込み空間に投影されたフォローアップ胸部CTを含む胸部X線画像は、異なる胸部X線をフォローアップした胸部CTを含む元の胸部X線よりも互いに類似している。
e)c)およびd)のすべての順列は、放射線レポート、胸部X線、および胸部CTの位置を交換する。
【００５９】
分類損失
トリプレット損失の代替として類似度をモデリングするための他の方法がある。1つは、分類損失である。具体的には、特定の状態について分類器を直接トレーニングすることができる。分類損失は、いくつかの形式をとることができる。1つは、クロスエントロピー損失またはログ損失であり、これは、出力が0〜1の確率値である分類モデルの性能を測定する。クロスエントロピー損失は、予測された確率が実際のラベルから分かれるにつれて増加する。詳細は、当技術分野で知られており、文献、たとえばチュートリアルhttp://ml-cheatsheet.readthedocs.io/en/latest/loss_functions.htmlに記載されている。
【００６０】
回帰損失
これは、トリプレット損失技法のもう1つの代替である。たとえば、胸部X線に関連付けられた放射線レポートまたは同じ胸部X線に関連付けられた胸部CTなど、関連する画像モダリティの埋込みがある場合、回帰問題としてそれを定式化することができる。ここでの考え方は、画像から直接レポート埋込みベクトルを予測し、それを回帰問題としてモデリングすることである。レポート埋込みが類似度を正確にキャプチャする範囲で、画像の良好な回帰モデルも類似度をキャプチャする。
【００６１】
回帰の最も単純な概念は、1次元線形回帰であり、これは、入力特徴を出力値にマッピングできるように、傾きと切片を見つけることに対応し、たとえば、以下の通りであり、
y=mx+b
式中、(x_i,y_i)ペアの例が与えられると、傾きmと切片は、二乗誤差など、何らかの損失を最小限に抑えるものを見つける。
min_{m,b}\＼sum_i(y_i-(mx_i+b))^2
【００６２】
レポートから特徴を抽出するための何らかの関数f、ならびに画像から特徴を抽出するための別の関数gを有する場合、このアイデアを一般化することができる。出力はベクトルである可能性があるため、以下の式が存在し得る。
f(report)=Mg(image)+b、式中、Mは行列、bはベクトルである。
【００６３】
さらに、gがニューラルネットワークである場合、固定のfおよびgについてMおよびbの値を調整できるだけでなく、時間の経過とともにgの値を更新することもできる。gの出力次元がfのものと同じである場合、これはMを単位行列およびbをゼロベクトルにすることと同等であることがわかり、そのため、サンプルペア(report_i,image_i)が与えられると、何らかの損失について、たとえば、二乗誤差を最小化することによって、回帰問題を解決することができる。min_{g}\＼sum_i(f(report_i)-g(image_i))^2。
【００６４】
オブジェクト検出損失
オブジェクト検出損失は、類似度をキャプチャするための別のモデリング技法である。候補画像のクエリと同じ部分に気胸が見つかった場合、それらの画像は、互いに近くなる可能性があることに気付くかもしれない。ETチューブが正しく配置されているかどうか、または肺結節の位置およびサイズを決定するために、たとえば、カリーナの位置とETチューブの先端など、画像内の要素の存在、サイズ、または位置が類似度を決定するために重要である場合、オブジェクト検出の問題(オブジェクト検出損失、たとえば、交差オーバーユニオンなど)として、それを定式化することができる。
【００６５】
したがって、画像のどこに状態があるかがわかっている場合、それを使用して類似度をモデル化することができる。アテンションメカニズムは、これを行う能力を与える。アテンションメカニズムの一例として、統合勾配の技法を使用することができる。統合勾配などのアテンションメカニズムは、モデル予測に最も寄与するデータセットの部分を基本的に識別する機械学習ツールである。X線またはCTスキャンデータセットのこれらの部分は、アテンションメカニズムから識別された異常な組織または腫瘍を囲む境界ボックスを画像に追加することによって強調表示することができる。統合勾配アルゴリズムは、M.Sundararajan et al., Axiomatic Attribution for Deep Networks, arXiv: 1703.01365 [cs.LG](June 2017)の論文に記載されており、その内容全体が参照により組み込まれる。方法は、画像全体の分類における画像内の個々のピクセルの帰属の状況で概念的に記載される。基本的に、画像内の各ピクセルiの統合勾配スコアIGi(または属性の重みまたは値)は、ベースライン(ゼロ情報、すべてのピクセルが黒、a=0)から入力画像内の完全な情報(a=1)までの入力画像情報コンテンツ(この例では輝度のスペクトル)の均一なスケーリング(a)にわたって計算され、ここでIGi(各ピクセルのスコア)は、式(1)で与えられる。
(1) IGi(image)=imagei*∫0-1∇Fi(α*image)dα
式中、Fは、ラベルの予測関数であり、
imageiは、i番目のピクセルのRGB強度であり、
IGi(image)は、i番目のピクセルに関する統合勾配であり、すなわち、i番目のピクセルの帰属であり、
∇は、imageiに関する勾配演算子である。
【００６６】
Sundararajanらのセクション3の論文は、アルゴリズムをさらに説明し、その説明は参照により組み込まれる。
【００６７】
ディープラーニングニューラルネットワークでのアテンションメカニズムの使用については、D. Bahdanau et al., Neural Machine Translation by Jointly Learning to Align and Translate, Jan. 2014 (arXiv:1409.0473[cs.CL]の会議プレゼンテーションに記載されている。ヘルスケアの状況におけるアテンションメカニズムのさらなる説明は、Choi et al., GRAM: Graph- based attention model for Healthcare Representation Learning, arXiv:1611.07012v3 [cs.LG] April 2017、およびChoi et al., RETAIN: an Interpretable Predictive Model for Healthcare using Reverse Time Attention Mechanism, arXiv:1608.05745v3[cs.GL] February 2017を含む。
【００６８】
ここでの目的は、画像のどこで何かが発生するかを使用して類似度を知らせるだけではない。上記で説明したソフトアテンションおよび統合勾配の技法を含む、画像内のどのコンポーネント(ピクセル)がモデル予測に最も寄与するかを説明するためのいくつかの技法がある。また、たとえば、トリプレット損失、すなわちオブジェクト検出問題の上記の代替において、c)と同じ静脈内にあるカリーナの位置など、画像内の特定のアイテムがどこにあるかを、画像にマークを付けるラベラーの助けを借りて、明示的にキャプチャすることもできる。
【００６９】
フェッチャ、スコアラー、およびプーラーのフレームワークによって、これらの異なる損失および距離の方法のいずれかまたはすべてを使用することができる技法をシームレスに組み合わせることができる。
【００７０】
プーラー410およびランク付け
上述のように、図4〜図7のシステムは、1つまたは複数のスコアラー408から類似度スコアを受信し、候補画像を(たとえば、進行度/重大度に基づいて)ランク付けし、ランク付けを反映する候補画像のリストを返すプーラー410をさらに含む。したがって、プーラー410は、異なるスコアラー408からのスコアに基づいて候補画像をプールし、ランク付けする。
【００７１】
一構成では、最終的なランク付けは、たとえば、類似度スコアに基づいて、スコアラーによって提案された中間のランク付けにより、プーラー410で行われる。フェッチャ406によって返される画像の候補セットに基づいて、ランク付けから特定の画像を暗黙的に除外することもできる。
【００７２】
最終的なランク付けは、ハミング距離などの客観的な測定値と、たとえば、医療専門家が実際に、作業している臨床の状況で類似画像と見なすものなど、主観的な測定値から導出されたスコアとの混合とすることができる。主観的な測定値を、異なるモデルまたはランク付け方法の最終比較に使用することができる。たとえば、クエリ画像のセットq_1,…,q_Nについて検討し、これらのクエリごとに、ランク付けされた画像r_1(q_i),r_2(q_i),…,r_k(q_i)のクエリ画像q_iに対して返される上位k個の画像を受信する。次いで、医師や他の医療専門家は、r_1(q_i),r_2(q_i),…,r_k(q_i)の順序付けが画像q_iにとって意味があるかどうか、およびそれらの関連性を示すことができる。これらから、画像ペアのスコアを計算することができる。
q_i,r_1(q_i)
q_i,r_2(q_i)
…
q_i,r_k(q_i)
これらのラベルをさらに収集し、異なるランク付け方法を生成/評価すると、上記で収集したスコアに基づいてランク付け方法がどの程度うまくいくかを評価することができ、そのため、異なるランク付け方法を相互に比較する方法が提供される。
【００７３】
最終的なランク付けには、いくつかのオプションがある。
オプション1-スコアの加重和を使用したロジスティック回帰モデル
このオプションでは、スコアラーからの様々なスコアをいつどのように重み付けするかにおいて、特定の非線形性をキャプチャできない場合がある。
オプション2  一般化された加法モデル
このオプションは、異なるスコアリングコンポーネントからの特徴を組み合わせるためのフレームワークを提供する。一般化された加法モデルは、線形予測子がいくつかの予測変数の未知の滑らかな関数に線形に依存する一般化された線形モデルであり、関心はこれらの滑らかな関数に関する推論に焦点を当てている。それらは、科学技術文献に記載されており、たとえば、https://en.wikipedia.org/wiki/Generalized_additive_modelの説明を参照されたい。したがって、簡潔のために詳細な説明は省略されている。
オプション3-入力としてのスコアに基づくニューラルネットワーク。
一般的な問題として、ここでは、単純なヒューリスティックから最終的なランク付けを計算するために使用することができるいくつかの技法は以下の通りであり、たとえば、各スコアラーによって生成された中間ランク付けの調和平均を、加重近似ペアワイズ(WARP)損失を使用するようにモデルをトレーニングするなどのより洗練されたものにする。たとえば、J. Weston et al., Learning to Rank Recommendations with the k-Order Statistic Loss, RecSys'13, October 12-16, 2013, Hong Kong, Chinaの会議論文を参照されたい。https://research.google.com/pubs/ archive/41534.pdfからオンラインで入手可能である。
【００７４】
例示的なユーザインターフェース
図3で説明されているように、類似画像が取り出され、スコアリングされ、ランク付けされると、それらはユーザに提示される。ユーザに返される情報は、類似画像(および関連する注釈、たとえばメタデータ、レポート、またはその抜粋)だけでなく、クエリ画像から計算することができる統計など、類似画像の結果セットから選別、推測、または集約できる情報も含む。いくつかの例は、以下の通りである。
1)画像は、単に画像のリストとして返されるのでなく、臨床上の決定をサポートするのに有用な共通の属性にわたってグループ化されて返され得る。たとえば、図8には、クエリ画像202および結果204を多数の類似画像304の形式で示すワークステーション上のディスプレイが示されている。類似画像304は行にグループ化され、各行に関連付けられた診断または精緻化の形式の凡例が付いている。行802、NGT(経鼻胃管)が正しく配置済み、は、その特徴を有する4つの画像304のセットを有する。行804は、肺炎の汎用を有する。行806は、気胸の汎用を有する。したがって、この例では、異物(たとえば、経鼻胃管など)が正しく配置された画像は、気胸の診断および肺炎の診断に関連付けられた画像とは別にグループ化される。
2)グループ化は、放射線科のフリーテキストレポートからの関連する共通のテキストの集約を含むことができる。たとえば、気管内チューブが誤配置されていることを示す特定のラベルはない場合があるが、たとえば、「カリーナのレベルで気管内チューブ」、「気管内チューブの先端は右主気管支で終了」、または「ETチューブの先端は、標準的な位置決めのために数センチ進めることができる」というテキスト入力を有するレポートなど、この状態が存在することを示唆する共通のフレーズを有するレポートに関連付けられた画像を集約することができる。スコアラーのアテンションメカニズムを使用して、特定の単語やフレーズなど、類似度スコアに最も寄与するフリーテキストレポートの部分を識別することができる。
3)上記の例2)のように、レポート内のこれらの共通のフレーズによって(または他のメタデータ内の列挙された条件の有無によって)グループ化すると、これらを値に集約し、ベースラインと比較し、比較を報告することができる。たとえば、類似画像の結果が100枚の画像であり、参照ライブラリデータベース内の1000枚の画像のうち1枚だけが気胸を含んでいるにもかかわらず、100枚の画像のうち60枚が気胸が存在することを示したという事実を報告する場合がある。
【００７５】
図8は、スコアリングモジュールによって使用されるモデルでのアテンションメカニズムの使用も示す。「NG管が正しく配置済み」という凡例を含む画像の最上行802について、円808は、NG管が正しく配置された胸部X線のエリア(ピクセルのパッチ)を示し、これらは、この診断のためにクエリ画像に対する類似度の高いスコアを生成するためにモデルが最も重く重み付けした画像内のエリアを示すために、対照的な色、たとえば赤で着色されている。同様に、円810は、画像の「肺炎」行のX線画像の領域を示し、これらは、この診断のためにクエリ画像に対する類似度の高いスコアを生成するためにモデルが最も重く重み付けした画像内のパッチまたはエリアを示すために、対照的な色で示される。気胸の診断のための画像の行806は、モデルによって最大の重みを示すために強調表示されている類似のエリアを有する。アテンションモデルは、画像に関連付けられた放射線レポート内のフリーテキストなど、類似画像に関連付けられた注釈にも適用することができ、図8の画像の下のフリーテキストエリア812に、アテンションモデルがクエリ画像との類似度を決定する際にそのような単語またはフレーズにかなりの重みを与えたことを示すために強調表示された注釈からの単語やフレーズがあり得る。
【００７６】
図9は、クエリ画像202および結果204の別の表示の図である。この構成は、時間の経過とともに類似する患者データを要約することを強調するが、依然として類似画像の個々のインスタンスを提供する。水平バー900は、返された類似画像のカウント(数)とともに、類似の状態を識別する。たとえば、第1のバーは、「気胸」の状態および13のカウントを有し、第2のバーは、「肺塞栓症」の状態および31のカウントを有する。右側のバー902は、状態「ラインまたはチューブの配置の変更」、およびクエリ画像の診断に関係がない場合、その状態を削除するためのオプション(X)を有する。領域904は、類似する患者のタイムライン上の要約統計を示す。このタイムラインは、最も類似する画像の前後に類似する患者にどのような投薬/事象が発生したかを示す。タイムラインの傾向は、クエリ画像に関連付けられた患者に対して行う明らかな介入を浮き彫りにする可能性がある。領域906は、他の重要な分布のプロットを示す。漸進的な傾向は、正しい診断が最初に見落とされたことを示している可能性があり、この患者の症例を注意深く検討することが有用である可能性があることを示唆する。バー908をクリックすることができ、その場合、その選択されたバーで表されるもののみに類似画像をフィルタリングするフィルタリング操作が行われる。他の集約統計は、領域910に示されている。エリア912は、クエリ画像に最も類似する画像を示す。ロードモアアイコン914は、ユーザがより多くの画像をロードすることを可能にし、スクロールバーは、ユーザが新しくロードされた画像にナビゲートすることを可能にする。
【００７７】
図10は、類似画像が診断(行)および患者の性別(列)によってグループ化またはクラスタ化された別の代替表示を示す。各クラスタ1000のサムネイル画像の数は、返された類似画像の数を直接または比例して反映する。ユーザは、クラスタ、たとえば、女性、複数注入、クラスタ1000Aなどを選択することができ、そのクラスタ内の類似画像が、たとえば図3または図8に示されるように表示される。
【００７８】
要約すると、類似画像のセットが識別されると、関連情報がこのセットからユーザに返される。これは、通常、画像自体だけでなく、放射線レポート、行われた臨床的決定(たとえば、抗生物質、利尿薬の処方など)、類似画像に関連付けられた疾患/状態の分類、これらの結果のグループ化/集約に関連する情報など、これらの画像の各々に関連付けられたメタデータも含む。その集約は、類似する特性を有する画像結果のクラスタリング、画像内の特定の状態/診断の有病率を要約したピボットテーブルの生成、および放射線レポート内の共通のフレーズの有病率の表示を含むことができる。
【００７９】
本開示のシステムは、(たとえば、クラウドにおいて、たとえば、類似画像のフェッチ、スコアリング、ランク付けに使用されるディープラーニングモデルをトレーニングし、開発し、グラウンドトゥルース注釈付き放射線画像のリファレンスライブラリをキュレートしたサービスプロバイダによって)図4〜図7のバックエンドがリモートで実装されるクラウド環境に展開することができる。この構成では、クエリ画像セットがコンピュータネットワーク(たとえばインターネットなど)を介して送信され、サービスプロバイダは、ランク付け、集約情報、注釈などを含む候補の類似画像を、クエリ画像が取得された、放射線科医がクエリ画像を検討している、または医師がクエリ画像に関して患者と相談し、さらなる治療を計画している診療所、病院、またはオフィスに実装されたフロントエンドに返す。あるいは、本開示のシステムは、ローカルに実装することができ、すなわち、バックエンドおよび関連するコンピューティングリソース、参照ライブラリ、ソフトウェアモジュール、およびディープラーニングモデルが、クエリ画像が取得される、または、たとえば、放射線科医またはプライマリケア医によってワークステーション上で閲覧されるオフィス、クリニック、または病院にローカルに配置される。
【符号の説明】
【００８０】
200  放射線画像、クエリ画像、クエリ放射線画像
202  システム
204  結果
206  所見
300  フロントエンドコンポーネント
304  類似画像
400  バックエンド
402  オブジェクト、コントローラ
404  ディスパッチャ
406  フェッチャ
408  スコアリングモジュール、スコアラー
410  プーラー
500  リポジトリ
502  ディスパッチャ/プーラー
812  フリーテキストエリア
900  水平バー
902  バー
904  領域
906  領域
908  バー
910  領域
912  エリア
914  ロードモアアイコン
1000  クラスタ
1102  画像
1104  画像
1106  クエリ画像
【図１Ａ】
2021530787.tif 000004
【図１Ｂ】
2021530787.tif 000005
【図２】
2021530787.tif 000006
【図３】
2021530787.tif 000007
【図４】
2021530787.tif 000008
【図５】
2021530787.tif 000009
【図６】
2021530787.tif 000010
【図７】
2021530787.tif 000011
【図８】
2021530787.tif 000012
【図９】
2021530787.tif 000013
【図１０】
2021530787.tif 000014
【図１１】
2021530787.tif 000015
【手続補正書】
【提出日】令和3年3月5日(2021.3.5)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
クエリ放射線画像に類似する放射線画像を識別し、取り出すためのコンピュータ実装システムであって、
a)前記クエリ放射線画像を受信し、データストアから候補の類似する放射線画像のセットを取り出す1つまたは複数のフェッチングモジュールと、
b)前記クエリ画像および前記1つまたは複数のフェッチングモジュールによって取り出された前記候補の類似する放射線画像のセットを受信する1つまたは複数のスコアリングモジュールであり、前記クエリ画像と各候補の類似する放射線画像との間の類似度スコアを生成する1つまたは複数のスコアリングモジュールと、
c)前記1つまたは複数のスコアリングモジュールから前記類似度スコアを受信し、前記候補の類似する放射線画像をランク付けし、前記ランク付けを反映する前記候補の類似する放射線画像のリストを返すプーラーと
を含み、前記1つまたは複数のスコアリングモジュールは、モデリング技法を実装して、前記クエリ画像と前記候補の類似する放射線画像のセットとの複数の類似度属性、およびそれに関連付けられた注釈をキャプチャする前記類似度スコアを生成する、
コンピュータ実装システム。
【請求項２】
前記1つまたは複数のフェッチングモジュールは、前記クエリ画像と前記候補の類似する放射線画像のセットとの複数の属性、およびそれに関連付けられた注釈をキャプチャして、前記候補の類似する放射線画像のセットを取り出すモデリング技法を実装する、請求項1に記載のシステム。
【請求項３】
前記1つまたは複数のフェッチングモジュールに実装された前記モデリング技法は、トリプレット損失、分類損失、回帰損失、およびオブジェクト検出損失のうちの少なくとも1つを含む、請求項2に記載のシステム。
【請求項４】
前記1つまたは複数のスコアリングモジュールに実装された前記モデリング技法は、トリプレット損失、分類損失、回帰損失、およびオブジェクト検出損失のうちの少なくとも1つを含む、請求項1から3のいずれか一項に記載のシステム。
【請求項５】
少なくとも2つのフェッチングモジュールがあり、各々が異なるモデリング技法を使用する、請求項2に記載のシステム。
【請求項６】
少なくとも2つのスコアリングモジュールがあり、各々が異なるモデリング技法を使用する、請求項2に記載のシステム。
【請求項７】
前記プーラーは、スコアの加重和を用いたロジスティック回帰モデルを使用して前記候補画像をランク付けする、請求項1から6のいずれか一項に記載のシステム。
【請求項８】
前記プーラーは、一般化された加法モデルを使用して前記候補画像をランク付けする、請求項1から6のいずれか一項に記載のシステム。
【請求項９】
前記プーラーは、入力としての類似度スコアに基づいてニューラルネットワークを使用して前記候補画像をランク付けする、請求項1から6のいずれか一項に記載のシステム。
【請求項１０】
前記複数の類似度属性は、診断、視覚、および患者の類似度属性を含む、請求項1に記載のシステム。
【請求項１１】
前記システムは、前記候補の類似する放射線画像のセットに関連付けられた前記注釈からの情報を集約する処理ユニットをさらに含む、請求項1から10のいずれか一項に記載のシステム。
【請求項１２】
前記処理ユニットは、臨床的決定をサポートするのに有用な共通の属性にわたって、前記候補の類似する放射線画像のセット内の画像をグループ化する、請求項11に記載のシステム。
【請求項１３】
前記注釈は、テキストベースの放射線レポートを含み、前記処理ユニットは、テキストベースの放射線レポートからの関連する共通のテキストによって前記候補の類似する放射線画像のセット内の画像をグループ化する、請求項11に記載のシステム。
【請求項１４】
前記処理ユニットは、前記注釈内の列挙された状態の有無によって、前記候補の類似する放射線画像のセット内の画像をグループ化する、請求項11に記載のシステム。
【請求項１５】
前記処理ユニットは、数値への前記グループ化、および前記数値のベースラインとの比較を集約する、請求項13または14に記載のシステム。
【請求項１６】
前記クエリ画像、前記候補の類似する放射線画像、および前記候補の類似する放射線画像の各々に関連付けられたメタデータを表示するように構成されたワークステーションの形式のフロントエンドをさらに含む請求項1から15のいずれか一項に記載のシステム。
【請求項１７】
前記メタデータは、放射線レポートまたはその抜粋、行われた臨床的決定、前記類似する放射線画像に関連付けられた疾患または状態の分類、または前記候補の類似する放射線画像に関連付けられたデータのグループ化または集約に関連する情報を含む、請求項16に記載のシステム。
【請求項１８】
クエリ放射線画像に類似する放射線画像を識別し、取り出すためのコンピュータ実装方法であって、前記クエリ画像は、メタデータを含む注釈に関連付けられており、
a)グラウンドトゥルース注釈付き放射線画像のデータストアをキュレートするステップであり、前記放射線画像の各々がメタデータを含む注釈に関連付けられている、キュレートするステップと、
b)前記クエリ画像を受信し、前記データストアから候補の類似する放射線画像のセットを取り出すステップと、
c)少なくとも2つの異なるスコアリングモジュールを使用して、前記クエリ画像と各候補の類似する放射線画像との間の類似度スコアを生成するステップであり、前記少なくとも2つのスコアリングモジュールは、異なるモデリング技法を実装して、前記クエリ画像と前記候補の類似する放射線画像のセットとの複数の類似度属性、およびそれに関連付けられた前記注釈をキャプチャする前記類似度スコアを生成する、類似度スコアを生成するステップと、
d)前記候補の類似する放射線画像をランク付けするステップと、
e)前記候補の類似する放射線画像のセットに関連付けられた前記注釈から取得された前記ランク付けおよび集約情報を反映する前記候補の類似する放射線画像のリストを返すステップと
を含む、コンピュータ実装方法。
【請求項１９】
ステップb)は、前記クエリ画像と前記候補の類似する放射線画像のセットとの複数の属性、およびそれに関連付けられた注釈をキャプチャして、前記候補の類似する放射線画像のセットを取り出すモデリング技法を実装することを含む、請求項18に記載のコンピュータ実装方法。
【請求項２０】
前記モデリング技法は、トリプレット損失、分類損失、回帰損失、およびオブジェクト検出損失のうちの少なくとも1つを含む、請求項19に記載のコンピュータ実装方法。
【請求項２１】
前記モデリング技法は、トリプレット損失、分類損失、回帰損失、およびオブジェクト検出うちの少なくとも1つを含む、請求項18から20のいずれか一項に記載のコンピュータ実装方法。
【請求項２２】
ステップd)における前記ランク付けは、スコアの加重和を用いたロジスティック回帰モデルを使用して前記候補の類似する放射線画像をランク付けすることを含む、請求項18から21のいずれか一項に記載のコンピュータ実装方法。
【請求項２３】
ステップd)の前記ランク付けは、一般化された加法モデルを使用して前記候補の類似する放射線画像をランク付けすることを含む、請求項18から22のいずれか一項に記載のコンピュータ実装方法。
【請求項２４】
ステップd)の前記ランク付けは、入力としての類似度スコアに基づいてニューラルネットワークを使用して前記候補の類似する放射線画像をランク付けすることを含む、請求項18から23のいずれか一項に記載のコンピュータ実装方法。
【請求項２５】
前記複数の類似度属性は、診断、視覚、および患者の類似度属性を含む、請求項18から24のいずれか一項に記載のコンピュータ実装方法。
【国際調査報告】
2021530787.tif 000016
2021530787.tif 000017
2021530787.tif 000018
2021530787.tif 000019