(57)【要約】いくつかの実施形態は、単一細胞画像、例えば、高周波多重励起（ＦＩＲＥ）画像などの高周波多重細胞画像を処理するための装置を含む。画像は、フローおよび走査サイトメータ、またはレーザ走査顕微鏡などの粒子分析器からとすることができる。いくつかの実施形態は、ＦＩＲＥ画像などの高周波多重細胞画像を表示するための装置を含む。
2021522499.tif 000002
【特許請求の範囲】
【請求項１】
高周波多重細胞画像を処理するための装置であって、
粒子分析器から入力データストリームを受信するように構成されている入力であって、前記入力データストリームは複数の生細胞画像を含み、各生細胞画像は複数の画素および前記生細胞画像内の各画素に対応する少なくとも２つ以上のデータチャネルを含む、入力と、
ハードウェアパイプライン、
生細胞画像データの前記少なくとも２つ以上のデータチャネルを並列処理して処理された細胞画像を生成するように、前記ハードウェアパイプラインを構成する１つ以上のプログラムを含むフラグメントシェーダ、および、
各生細胞画像内の各画素をフィルタリングするように構成されているフィルタカーネル
を含むプロセッサと
を含んでおり、
前記プロセッサは、フィルタリング後に、閾値処理、彩度、またはガンマ補正のうちの少なくとも１つを実行して、前記画素の処理された画素値を生成するように構成されている、
装置。
【請求項２】
前記フィルタカーネルは、各画素の前記２つ以上のデータチャネルのチャネルに適用するためのテクスチャを含む、請求項１に記載の装置。
【請求項３】
前記プロセッサは、平滑化演算において前記フィルタカーネルを適用する、請求項１または２に記載の装置。
【請求項４】
前記フラグメントシェーダの前記１つ以上のプログラムは、前記入力データストリームの各チャネルを表示バッファに書き込むようにさらに構成されている、請求項１〜３のいずれか一項に記載の装置。
【請求項５】
生成された生細胞画像または処理された細胞画像のうちの１つ以上を修正するために、ユーザが１つ以上のパラメータを変更することを可能にする制御パネルをユーザに提示するように構成されているユーザインターフェースデバイスをさらに含む、請求項１〜４のいずれか一項に記載の装置。
【請求項６】
前記プロセッサは、ディスプレイデバイス上に表示するために処理された細胞画像をレンダリングするようにさらに構成されている、請求項１〜５のいずれか一項に記載の装置。
【請求項７】
前記ディスプレイデバイスをさらに含み、前記ディスプレイデバイスは、処理された細胞画像を表示するように構成されている、請求項６に記載の装置。
【請求項８】
ディスプレイデバイスをさらに含み、
前記プロセッサは、
複数の生細胞画像または処理された細胞画像を含む画像壁を生成することと、
前記画像壁の前記生細胞画像または処理された細胞画像のうちの１つ以上を修正するために、ユーザが１つ以上のパラメータを変更することを可能にするための制御パネルを生成することと、
前記ディスプレイデバイス上で同時表示するために前記画像壁および前記制御パネルをレンダリングすることと、
ユーザが前記１つ以上のパラメータを変更している間に、前記制御パネルを介してユーザによって変更された１つ以上のパラメータを識別することと、
ユーザが前記１つ以上のパラメータを変更するミリ秒単位の間隔内でユーザによって変更された前記１つ以上の識別されたパラメータに従って、前記画像壁の前記細胞画像の各々を修正することと、
前記ディスプレイデバイス上に表示するために前記画像壁の修正された細胞画像をレンダリングすることと
を行うようにさらに構成されており、
前記ディスプレイデバイスは、ユーザが前記１つ以上のパラメータに変更を加えているときに、前記画像壁の修正された細胞画像を表示するようにさらに構成されている、
請求項１〜５のいずれか一項に記載の装置。
【請求項９】
前記プロセッサは、前記ハードウェアパイプラインを含むグラフィックス処理ユニット（ＧＰＵ）を含むか、またはそれからなる、請求項１〜８のいずれか一項に記載の装置。
【請求項１０】
前記プロセッサは、中央処理ユニット（ＣＰＵ）およびグラフィックス処理ユニット（ＧＰＵ）を含み、前記ＧＰＵは、前記ハードウェアパイプラインを含む、請求項１〜８のいずれか一項に記載の装置。
【請求項１１】
高周波多重細胞画像を表示するための装置であって、
粒子分析器から入力データストリームを受信するように構成されている入力インターフェースであって、前記入力データストリームは生細胞画像を含み、各生細胞画像は複数の画素および前記生細胞画像内の各画素に対応する少なくとも２つ以上のデータチャネルを含む、入力インターフェースと、
複数の前記生細胞画像を含む画像壁を生成することと、
前記画像壁の前記生細胞画像のうちの１つ以上を修正するために、ユーザが１つ以上のパラメータを変更することを可能にするための制御パネルを生成することと
を行うように構成されているプロセッサと、
表示のためにレンダリングされた１つ以上のオブジェクトを表示するように構成されているディスプレイデバイスと
を含んでおり、
前記プロセッサは、
前記ディスプレイデバイス上で同時表示するために前記画像壁および前記制御パネルをレンダリングすることと、
ユーザが前記１つ以上のパラメータを変更している間に、前記制御パネルを介してユーザによって変更された１つ以上のパラメータを識別することと、
ユーザが前記１つ以上のパラメータを変更するミリ秒単位の間隔内でユーザによって変更された前記１つ以上の識別されたパラメータに従って、前記画像壁の前記生細胞画像の各々を修正することと、
前記ディスプレイデバイス上に表示するために前記画像壁の修正された細胞画像をレンダリングすることと
を行うようにさらに構成されており、
前記ディスプレイデバイスは、ユーザが前記１つ以上のパラメータに変更を加えているときに、前記画像壁の修正された細胞画像を表示するようにさらに構成されている、
装置。
【請求項１２】
前記ミリ秒単位の間隔は、１ミリ秒、２ミリ秒、３ミリ秒、５ミリ秒、または１０ミリ秒以下の間隔を含む、請求項１１に記載の装置。
【請求項１３】
前記プロセッサは、ハードウェアパイプラインを含む、請求項１１または１２に記載の装置。
【請求項１４】
前記プロセッサは、前記ハードウェアパイプライン上にフラグメントシェーダプログラムを実装するように構成されており、前記フラグメントシェーダプログラムは、処理された画素および／または細胞画像を生成するために、前記入力データストリームの画素の２つ以上のチャネルの並列処理のために前記ハードウェアパイプラインを構成する１つ以上のプログラムを含み、
前記並列処理は、
各画素をフィルタカーネルでフィルタリングすることと、
フィルタリング後に、閾値処理、彩度、またはガンマ補正のうちの少なくとも１つを実行して、前記画素の処理された画素値を生成することと
を含む、請求項１３に記載の装置。
【請求項１５】
前記プロセッサは、前記ハードウェアパイプラインを含むグラフィックス処理ユニット（ＧＰＵ）を含み、前記ＧＰＵは、フラグメントシェーダプログラムを実装するように構成されている、請求項１３または１４に記載の装置。
【請求項１６】
前記プロセッサは、
前記ハードウェアパイプラインを含むグラフィックス処理ユニット（ＧＰＵ）と、
フラグメントシェーダプログラムを実装するように構成されている中央処理ユニット（ＣＰＵ）と
を含む、請求項１３または１４に記載の装置。
【請求項１７】
前記入力データストリームは、蛍光撮像、ラマン分光、またはそれらの組み合わせから取得されるデータを含む、請求項１〜１６のいずれか一項に記載の装置。
【請求項１８】
前記細胞画像は、高周波多重励起（ＦＩＲＥ）画像を使用した蛍光撮像を含む、請求項１〜１６のいずれか一項に記載の装置。
【請求項１９】
高周波多重細胞画像を処理する方法であって、
粒子分析器から得られた入力データストリームを受信することであって、前記入力データストリームは複数の生細胞画像を含み、各生細胞画像は複数の画素および前記生細胞画像内の各画素に対応する少なくとも２つ以上のデータチャネルを含む、入力データストリームを受信することと、
前記入力データストリームの画素の２つ以上のチャネルを並列処理するための１つ以上のプログラムを含むフラグメントシェーダを実装することであって、前記並列処理は、画素をフィルタカーネルでフィルタリングし、その後、閾値処理、彩度、およびガンマ補正のうちの少なくとも１つを実行して、前記画素の処理された画素値を生成することを含む、フラグメントシェーダを実装することと、
前記入力データストリームの前記画素の前記２つ以上のチャネルの前記並列処理に基づいて、処理された細胞画像を生成することと
を含む、
方法。
【請求項２０】
前記フィルタカーネルは、前記画素の前記２つ以上のチャネルのうちの１つ以上のチャネルに適用するためのテクスチャを含む、請求項１９に記載の方法。
【請求項２１】
前記並列処理は、平滑化演算を含む畳み込み演算において前記フィルタカーネルを適用することを含む、請求項１９または２０に記載の方法。
【請求項２２】
前記フラグメントシェーダの前記１つ以上のプログラムを実装することは、前記入力データストリームの各チャネルを表示バッファに書き込むことを含む、請求項１９〜２１のいずれか一項に記載の方法。
【請求項２３】
生成されて処理された画素および／または細胞画像のうちの１つ以上を修正するために、ユーザが１つ以上のパラメータを変更することを可能にする制御パネルをユーザに提示することをさらに含む、請求項１９〜２２のいずれか一項に記載の方法。
【請求項２４】
ディスプレイデバイス上に表示するために処理された画素および／または細胞画像をレンダリングすることをさらに含む、請求項１９〜２３のいずれか一項に記載の方法。
【請求項２５】
前記複数の生細胞画像を含む画像壁を生成することと、
前記画像壁の生の処理された細胞画像のうちの１つ以上を修正するために、ユーザが１つ以上のパラメータを変更することを可能にするための制御パネルを生成することと、
ディスプレイデバイス上で同時表示するために前記画像壁および前記制御パネルをレンダリングすることと、
ユーザが前記１つ以上のパラメータを変更している間に、前記制御パネルを介してユーザによって変更された１つ以上のパラメータを識別することと、
ユーザが前記１つ以上のパラメータを変更するミリ秒単位の間隔内でユーザによって変更された前記１つ以上の識別されたパラメータに従って、前記画像壁の前記細胞画像の各々を修正することと、
前記ディスプレイデバイス上に表示するために前記画像壁の修正された細胞画像をレンダリングすることと、
ユーザが前記１つ以上のパラメータに変更を加えているときに、前記画像壁の修正された細胞画像を表示することと
をさらに含む、請求項１９〜２４のいずれか一項に記載の方法。
【請求項２６】
高周波多重細胞画像を表示する方法であって、
粒子分析器から得られた入力データストリームを受信することであって、前記入力データストリームは複数の生細胞画像を含み、各生細胞画像は複数の画素および前記生細胞画像内の各画素に対応する少なくとも２つ以上のデータチャネルを含む、入力データストリームを受信することと、
前記複数の生細胞画像を含む画像壁を生成することと、
前記画像壁の前記生細胞画像のうちの１つ以上を修正するために、ユーザが１つ以上のパラメータを変更することを可能にするための制御パネルを生成することと、
ディスプレイデバイス上で同時表示するために前記画像壁および前記制御パネルをレンダリングすることと、
ユーザが前記１つ以上のパラメータを変更している間に、前記制御パネルを介してユーザによって変更された１つ以上のパラメータを識別することと、
ユーザが前記１つ以上のパラメータを変更するミリ秒単位の間隔内でユーザによって変更された前記１つ以上の識別されたパラメータに従って、前記画像壁の前記生細胞画像の各々を修正することと、
前記ディスプレイデバイス上に表示するために前記画像壁の修正された細胞画像をレンダリングすることと、
ユーザが前記１つ以上のパラメータに変更を加えているときに、前記画像壁の修正された細胞画像を表示することと
を含む、
方法。
【請求項２７】
前記ミリ秒単位の間隔は、１ミリ秒、２ミリ秒、３ミリ秒、５ミリ秒、または１０ミリ秒以下の間隔を含む、請求項２６に記載の方法。
【請求項２８】
前記入力データストリームは、蛍光撮像、ラマン分光、またはそれらの組み合わせから取得されるデータを含む、請求項１９〜２７のいずれか一項に記載の方法。
【請求項２９】
前記生細胞画像は、高周波多重励起（ＦＩＲＥ）画像を使用した蛍光撮像を含む、請求項１９〜２８のいずれか一項に記載の方法。
【請求項３０】
前記生細胞画像は、ラマン分光撮像画像を含む、請求項１９〜２８のいずれか一項に記載の方法。
【請求項３１】
修正された細胞画像に加えて、サイトメトリデータを表示することをさらに含み、前記サイトメトリデータは、修正された細胞画像の細胞に１対１に対応する単一の細胞データを含む、請求項２５〜３０のいずれか一項に記載の方法。
【請求項３２】
修正された細胞画像に加えて、サイトメトリデータを表示することをさらに含み、前記サイトメトリデータは、細胞の集団のデータを含む、請求項２５〜３０のいずれか一項に記載の方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本開示は、関連するフローサイトメトリデータとともに画像を表示することに関し、詳細には、画像および対応するフローデータの効率的な閲覧および操作を可能にするユーザインターフェースに関する。
【背景技術】
【０００２】
フローおよび走査サイトメータなどの粒子分析器は、光散乱および蛍光などの光学パラメータに基づいて粒子の特徴付けを可能にする分析ツールである。フローサイトメータにおいて、例えば、流体懸濁液中の分子、分析物結合ビーズ、または個々の細胞などの粒子は、典型的には、１つ以上のレーザから励起光に粒子が曝露される検出領域によって通過され、粒子の光散乱および蛍光特性が測定される。
【０００３】
粒子またはその成分は、典型的には、検出を容易にするために蛍光色素で標識される。多数の異なる粒子または成分は、スペクトル的に異なる蛍光染料を使用して、異なる粒子または成分を標識することによって、同時に検出され得る。いくつかの実装形態では、測定される散乱パラメータの各々について１つ、および検出される異なる染料の各々について１つの、多数の光検出器が分析器に含まれる。取得されたデータは、光散乱パラメータおよび蛍光放射の各々について測定された信号を含む。
【０００４】
蛍光撮像のための１つの技術は、高周波多重励起レーザ顕微鏡を使用する。そのような技術は、サンプルの光学的質問を可能にする。画像を生成するための例示的な装置および方法は、米国特許第９，４２３，３５３号に記載されており、その全体が参照により本明細書に組み込まれる。
【発明の概要】
【０００５】
本開示のシステム、方法、およびデバイスは、各々、いくつかの革新的な態様を有し、これらのうちのいずれも、本明細書に開示される望ましい属性に単独で責任を負うものではない。
【０００６】
いくつかの実施形態は、高周波多重細胞画像を処理するための装置を含む。装置は、粒子分析器から入力データストリームを受信するように構成されている入力インターフェースを含み、入力データストリームは、複数の生細胞画像を含み、各生細胞画像は、複数の画素および生細胞画像内の各画素に対応する少なくとも２つ以上のデータチャネルを含む。装置は、ハードウェアパイプライン、フラグメントシェーダ、およびフィルタカーネルを含むプロセッサをさらに含む。フラグメントシェーダは、生細胞画像データの少なくとも２つ以上のデータチャネルを並列処理して、処理された細胞画像を生成するようにハードウェアパイプラインを構成する１つ以上のプログラムを含む。フィルタカーネルは、各生細胞画像内の各画素をフィルタリングするように構成されている。プロセッサは、フィルタリング後に、閾値処理、彩度、またはガンマ補正のうちの少なくとも１つを実行して、画素の処理された画素値を生成するように構成されている。いくつかの実施形態では、粒子分析器は、レーザ走査顕微鏡または他の蛍光撮像装置をさらに含む。いくつかの実施形態では、装置は、粒子分析器および／またはレーザ走査顕微鏡を含む。
【０００７】
いくつかの実施形態の装置では、フィルタカーネルは、各画素の２つ以上のチャネルうちの１つのチャネルに適用するためのテクスチャを含む。いくつかの実施形態の装置では、フラグメントシェーダの１つ以上のプログラムは、入力データストリームの各チャネルを表示バッファに書き込むようにさらに構成されている。いくつかの実施形態の装置では、生成された生細胞画像または処理された細胞画像のうちの１つ以上を修正するために、ユーザが１つ以上のパラメータを変更することを可能にする制御パネルをユーザに提示するように構成されているユーザインターフェースデバイスをさらに含む。いくつかの実施形態の装置では、プロセッサは、ディスプレイデバイス上に表示するために、処理された細胞画像をレンダリングするようにさらに構成されている。いくつかの実施形態では、装置は、処理された細胞画像を表示するように構成されているディスプレイデバイスをさらに含む。いくつかの実施形態の装置において、プロセッサは、複数の生細胞画像または処理された細胞画像を含む画像壁を生成することと、画像壁の生細胞画像または処理された細胞画像のうちの１つ以上を修正するために、ユーザが１つ以上のパラメータを変更することを可能にするための制御パネルを生成することと、ディスプレイデバイス上で同時表示するために画像壁および制御パネルをレンダリングすることと、ユーザが１つ以上のパラメータを変更している間に、制御パネルを介してユーザによって変更された１つ以上のパラメータを識別することと、ユーザが１つ以上のパラメータを変更するミリ秒単位の間隔内でユーザによって変更された１つ以上の識別されたパラメータに従って、画像壁の細胞画像の各々を修正することと、ディスプレイデバイス上に表示するために画像壁の修正された細胞画像をレンダリングすることとを行うようにさらに構成されており、ディスプレイデバイスは、ユーザが１つ以上のパラメータに変更を加えているときに、画像壁の修正された細胞画像を表示するようにさらに構成されている。いくつかの実施形態の装置では、プロセッサは、ハードウェアパイプラインを含むグラフィックス処理ユニット（ＧＰＵ）を含むか、またはそれからなる。いくつかの実施形態の装置では、プロセッサは、中央処理ユニット（ＣＰＵ）およびグラフィックス処理ユニット（ＧＰＵ）を含み、ＧＰＵは、ハードウェアパイプラインを含む。
【０００８】
いくつかの実施形態は、高周波多重細胞画像を表示するための装置を含む。装置は、粒子分析器から入力データストリームを受信するように構成されている入力インターフェースを含み、入力データストリームは、生細胞画像を含み、各生細胞画像は、複数の画素および生細胞画像内の各画素に対応する少なくとも２つ以上のデータチャネルを含む。装置は、プロセッサをさらに含む。プロセッサは、複数の生細胞画像を含む画像壁を生成することと、画像壁の生細胞画像のうちの１つ以上を修正するために、ユーザが１つ以上のパラメータを変更することを可能にするための制御パネルを生成することとを行うように構成されている。装置は、ディスプレイデバイス上に表示するためにレンダリングされた１つ以上のオブジェクトを表示するように構成されているディスプレイデバイスをさらに含む。プロセッサは、ディスプレイデバイス上で同時表示するために画像壁および制御パネルをレンダリングすることと、ユーザが１つ以上のパラメータを変更している間に、制御パネルを介してユーザによって変更された１つ以上のパラメータを識別することと、ユーザが１つ以上のパラメータを変更するミリ秒単位の間隔内でユーザによって変更された１つ以上の識別されたパラメータに従って、画像壁の生細胞画像の各々を修正することと、ディスプレイデバイス上に表示するために画像壁の修正された細胞画像をレンダリングすることとを行うようにさらに構成されている。ディスプレイデバイスは、ユーザが１つ以上のパラメータに変更を加えているときに、画像壁の修正された細胞画像を表示するようにさらに構成されている。
【０００９】
いくつかの実施形態の装置では、ミリ秒単位の間隔は、１ミリ秒、２ミリ秒、３ミリ秒、５ミリ秒、または１０ミリ秒以下の間隔を含む。いくつかの実施形態の装置では、プロセッサは、ハードウェアパイプラインを含む。いくつかの実施形態の装置では、プロセッサは、ハードウェアパイプライン上にフラグメントシェーダプログラムを実装するように構成され、フラグメントシェーダプログラムは、処理された画素および／または細胞画像を生成するために、入力データストリームの画素の２つ以上のチャネルの並列処理のためにハードウェアパイプラインを構成する１つ以上のプログラムを含む。いくつかの実施形態の装置では、並列処理は、各画素をフィルタカーネルでフィルタリングすることと、フィルタリング後に、閾値、彩度、またはガンマ補正のうちの少なくとも１つを実行して、画素の処理された画素値を生成することとを含む。いくつかの実施形態の装置では、プロセッサは、ハードウェアパイプラインを含むグラフィックス処理ユニット（ＧＰＵ）を含み、ＧＰＵは、フラグメントシェーダプログラムを実装するように構成されている。いくつかの実施形態の装置では、プロセッサは、ハードウェアパイプラインを含むグラフィックス処理ユニット（ＧＰＵ）と、フラグメントシェーダプログラムを実装するように構成されている中央処理ユニット（ＣＰＵ）とを含む。いくつかの実施形態の装置では、入力データストリームは、蛍光撮像、ラマン分光法、またはそれらの組み合わせから取得されるデータを含む。いくつかの実施形態の装置では、細胞画像は、高周波多重励起（ＦＩＲＥ）画像を使用した蛍光撮像を含む。
【００１０】
いくつかの実施形態は、高周波多重細胞画像を表示する方法を含む。方法は、粒子分析器から得られた入力データストリームを受信することを含む。入力データストリームは、複数の生細胞画像を含み、各生細胞画像は、複数の画素および生細胞画像内の各画素に対応する少なくとも２つ以上のデータチャネルを含む。方法は、入力データストリームの画素の２つ以上のチャネルを並列処理するための１つ以上のプログラムを含むフラグメントシェーダを実装することをさらに含み、並列処理は、画素をフィルタカーネルでフィルタリングし、その後、閾値処理、彩度、およびガンマ補正のうちの少なくとも１つを実行して、画素の処理された画素値を生成することを含む。方法は、入力データストリームの画素の２つ以上のチャネルの並列処理に基づいて、処理された細胞画像を生成することも含む。
【００１１】
いくつかの実施形態の方法では、フィルタカーネルは、画素の２つ以上のチャネルのうちの１つ以上のチャネルに適用するためのテクスチャを含む。いくつかの実施形態の方法では、並列処理は、平滑化演算を含む畳み込み演算においてフィルタカーネルを適用することを含む。いくつかの実施形態の方法では、フラグメントシェーダの１つ以上のプログラムを実装することは、入力データストリームの各チャネルを表示バッファに書き込むことを含む。いくつかの実施形態では、方法は、生成された処理された画素および／または細胞画像のうちの１つ以上を修正するために、ユーザが１つ以上のパラメータを変更することを可能にする制御パネルをユーザに提示することをさらに含む。いくつかの実施形態では、方法は、処理された画素および／または細胞画像をディスプレイデバイス上に表示するためにレンダリングすることをさらに含む。いくつかの実施形態では、方法は、複数の生細胞画像を含む画像壁を生成することと、画像壁の生の処理された細胞画像のうちの１つ以上を修正するために、ユーザが１つ以上のパラメータを変更することを可能にするための制御パネルを生成することと、ディスプレイデバイス上で同時表示するために画像壁および制御パネルをレンダリングすることと、ユーザが１つ以上のパラメータを変更している間に、制御パネルを介してユーザによって変更された１つ以上のパラメータを識別することと、ユーザが１つ以上のパラメータを変更するミリ秒単位の間隔内でユーザによって変更された１つ以上の識別されたパラメータに従って、画像壁の細胞画像の各々を修正することと、ディスプレイデバイス上に表示するために画像壁の修正された細胞画像をレンダリングすることと、ユーザが１つ以上のパラメータに変更を加えているときに、画像壁の修正された細胞画像を表示することとをさらに含む。いくつかの実施形態では、方法は、修正された細胞画像に加えて、サイトメトリデータ（例えば、フローサイトメトリデータ）を表示することをさらに含み、サイトメトリデータは、修正された細胞画像の細胞に１対１に対応する単一の細胞データを含む。いくつかの実施形態では、方法は、修正された細胞画像に加えて、サイトメトリデータ（例えば、フローサイトメトリデータ）を表示することをさらに含み、サイトメトリデータは、細胞の集団のデータを含む。
【００１２】
いくつかの実施形態は、高周波多重細胞画像を表示する方法を含む。方法は、粒子分析器から得られた入力データストリームを受信することを含み、入力データストリームは、複数の生細胞画像を含む。各生細胞画像は、複数の画素および生細胞画像内の各画素に対応する少なくとも２つ以上のデータチャネルを含む。方法は、複数の生細胞画像を含む画像壁を生成することと、画像壁の生細胞画像のうちの１つ以上を修正するために、ユーザが１つ以上のパラメータを変更することを可能にするための制御パネルを生成することとをさらに含む。方法はまた、ディスプレイデバイス上で同時表示するために画像壁および制御パネルをレンダリングすることと、ユーザが１つ以上のパラメータを変更している間に、制御パネルを介してユーザによって変更された１つ以上のパラメータを識別することとを含む。方法は、加えて、ユーザが１つ以上のパラメータを変更するミリ秒単位の間隔内でユーザによって変更された１つ以上の識別されたパラメータに従って、画像壁の生細胞画像の各々を修正することと、ディスプレイデバイス上に表示するために画像壁の修正された細胞画像をレンダリングすることと、ユーザが１つ以上のパラメータに変更を加えているときに、画像壁の修正された細胞画像を表示することとを含む。いくつかの実施形態では、方法は、修正された細胞画像に加えて、サイトメトリデータ（例えば、フローサイトメトリデータ）を表示することをさらに含み、サイトメトリデータは、修正された細胞画像の細胞に１対１に対応する単一の細胞データを含む。いくつかの実施形態では、方法は、修正された細胞画像に加えて、サイトメトリデータ（例えば、フローサイトメトリデータ）を表示することをさらに含み、サイトメトリデータは、細胞の集団のデータを含む。
【００１３】
いくつかの実施形態の方法では、ミリ秒単位の間隔は、１ミリ秒、２ミリ秒、３ミリ秒、５ミリ秒、または１０ミリ秒以下の間隔を含む。いくつかの実施形態の方法では、入力データストリームは、蛍光撮像、ラマン分光法、またはそれらの組み合わせから取得されるデータを含む。いくつかの実施形態の方法では、生細胞画像は、高周波多重励起（ＦＩＲＥ）画像またはラマン分光撮像画像を使用した蛍光撮像を含む。
【００１４】
追加の実施形態は、非一時的コンピュータ可読記憶媒体の記憶に関する。
【００１５】
様々な発明的特徴の実施形態は、以下の図面を参照して説明される。図面全体を通して、参照番号は、参照要素間の対応を示すために再使用され得る。図面は、本明細書に記載される例示的な実施形態を例示するために提供され、開示の範囲を限定することを意図しない。
【図面の簡単な説明】
【００１６】
【図１】ユーザが対応する粒子分析データとともに細胞画像を捕捉し、閲覧し、操作することを可能にする、本明細書に記載の細胞画像システム（システム）の一実施形態を例示する。
【図２】図１のシステムに示されるコンピューティングデバイスのうちの１つの例示的な構成要素を示すブロック図である。
【図３】図１の粒子分析器からのデータストリームに基づいて生成された細胞画像とインターフェースするユーザコンピューティングデバイスによって表示される例示的な画像調整ポップアップユーザインターフェース（ＵＩ）である。
【図４Ａ】粒子分析器によって取得され、ユーザコンピューティングデバイス上で閲覧され、様々なレベルの操作が適用される様々な細胞画像の画像壁の例示的な図である。
【図４Ｂ】粒子分析器によって取得され、ユーザコンピューティングデバイス上で閲覧され、様々なレベルの操作が適用される様々な細胞画像の画像壁の例示的な図である。
【図４Ｃ】粒子分析器によって取得され、ユーザコンピューティングデバイス上で閲覧され、様々なレベルの操作が適用される様々な細胞画像の画像壁の例示的な図である。
【図５】図１のユーザコンピューティングデバイスによって閲覧される、細胞画像を表示し、操作するための構成要素のシステムのシステム図を示す。
【図６】図１のユーザコンピューティングデバイス上に表示するための入力データストリームに基づいて細胞画像の画素を生成するフロー図を示す。
【発明を実施するための形態】
【００１７】
様々な実施形態では、粒子分析器および同様のデバイスは、細胞画像（例えば、高周波多重励起（ＦＩＲＥ）画像を使用した蛍光撮像などの高周波多重細胞画像）を生成する。生成された細胞画像は、分析される細胞の様々な態様を含み、示し得る。細胞画像は、粒子分析データ（例えば、強度測定など）とともに閲覧され得る。細胞画像は、データサイズの観点から非常に大きく、様々な計算、プロセス、および技術に基づいて画像を生成するために合成または組み合わされる複数のチャネルのデータを使用して表され得る。従来、大きなサイズの画像ファイルは、ユーザが粒子分析器上で対応する細胞フロー処理と同時に画像を閲覧することができるように、これらの画像を迅速に処理し、表示し、操作することが困難になる場合がある。
【００１８】
一実施形態では、本明細書に記載される画像処理システムは、画像操作後に画像ファイルを迅速に表示することを提供するユーザインターフェースを提供する。例えば、ユーザは、画像ファイルの１つ以上の態様をリアルタイム、またはほぼリアルタイムで調整し、粒子分析器によって捕捉されるときに、画像上の画像更新を閲覧することができる。いくつかの実施形態によれば、表示するための画像ファイルを生成するために画像処理を実行するシステム、装置、モジュール、またはハードウェアプロセッサは、画像ファイルを扱うユーザが画像ファイルおよび任意の対応する粒子分析データを同時に扱うことを可能にするために、サブミリ秒時間で画像ファイルを処理し得る。いくつかの実施形態では、アルゴリズムを制御するユーザインターフェース（ＵＩ）は、画像ファイルの同時閲覧に貢献するフットプリントにおける１つ以上の細胞画像の表示に対する瞬時の調整を実行する制御を提供する。
【００１９】
いくつかの実施形態では、粒子分析器または同様のデバイスによって生成される入力画像データストリームは、複数の画像に関するデータを含む。例として、画像は、レーザ走査顕微鏡または他の蛍光撮像装置によって生成することができる。したがって、対応するフローサイトメトリデータ（簡潔さのために、本明細書では「フローデータ」とも呼ばれ得る）とともに画像をレビューするユーザは、短期間でレビューする多数の画像を有し得る。いくつかの実施形態は、画像および対応するフローデータのレビューを可能にする画像処理システムを含む。システムは、ユーザが制御パネルを介して調整を行うときに、１つ以上の画像に調整を導入し、画像をリアルタイム、またはほぼリアルタイムで更新させることを可能にするために、非常に効率的な処理を含む場合がある。
【００２０】
いくつかの実施形態では、粒子分析器または同様のデバイスから受信される入力画像データストリームは、複数の生細胞画像を含む。生細胞画像（または、例えば、本明細書に記載される生の、処理された、または修正された任意の細胞画像）は、１つ以上の画素を含むことができる。各細胞画像の各画素は、粒子分析器から取得される少なくとも２つのデータチャネルを含んでもよい。したがって、本明細書に記載される調整または修正された画像などの画像（例えば、細胞の画像）は、１つ以上の画素を含む、またはそれからなることができることが理解される。
【００２１】
一実施形態では、画像処理速度における効率および強化のいくつかは、画像および／または画像の画素の並列処理によって達成される。本明細書でさらに詳細に説明されるように、本明細書に記載の方法および装置は、ユーザが、調整を示すこととディスプレイが調整された画像を示すこととの間の最小限の（例えば、ミリ秒単位の時間枠のみの）遅延で画像へのそれらの調整を閲覧しながら、画像への調整を同時に行うことを可能にし得る。したがって、表示される画像に対して変換（例えば、調整および／または修正）を実行することに加えて、本明細書に記載される画像処理システムおよび方法は、効率的な処理能力および機敏なユーザインターフェース経験を提供し得る。
【００２２】
本明細書に記載の方法、システム、および装置は、ユーザ（例えば、本明細書に記載の研究者）に、直感的なＵＩを使用して１つ以上の画像パラメータを調整し、画像パラメータ調整の結果を迅速に観察させる。そのような方法、システム、および装置は、画像パラメータ調整から生じる処理およびレンダリング時間損失を低減することによって、細胞画像および対応する粒子分析データに関連付けられた研究および他の分析の効率を向上させ得る。例えば、本明細書に記載される方法、システム、および装置は、細胞画像の処理およびレンダリングが、例えば、画像ごとに１０、９、８、７、６、５、４、３、２、または１ミリ秒未満内など、画像ごとにミリ秒単位の時間枠で行われることを提供する。したがって、ユーザは、検査中および／または分析中に細胞画像をより迅速かつ効率的に閲覧し、操作することができる。
【００２３】
図１は、ユーザが対応する粒子分析データとともに細胞画像を捕捉し、閲覧し、操作することを可能にする、本明細書に記載の細胞画像処理装置またはシステム１００の実施形態を例示する。システム１００は、ユーザコンピューティングデバイス（本明細書では「装置」とも呼ばれ得るユーザデバイス）１０２、粒子分析器１０４、データストア１０６、およびネットワーク１１０を含む。ユーザデバイス１０２、粒子分析器１０４、およびデータストア１０６は、ネットワーク１１０およびそれらの間に示される通信リンクを介して互いに通信し得る。
【００２４】
ユーザデバイス１０２は、例えば、とりわけ、サーバ、ラップトップコンピュータ、スマートモバイルデバイス、パーソナルデジタルアシスタント、およびタブレットコンピュータなど、ユーザの任意のモバイルまたは固定コンピューティングデバイスを含んでもよい。いくつかの実施形態では、ユーザデバイス１０２は、ユーザが（１）粒子分析器１０４による画像取得、または（２）粒子分析器１０４によって捕捉された、または粒子分析器１０４に記憶された、またはデータストア１０６に記憶された細胞画像および対応する粒子分析データのユーザデバイス１０２上の画像および／またはデータの閲覧／操作を制御することを可能にするようにシステム１００内で動作する。
【００２５】
いくつかの実施形態では、ユーザデバイス１０２は、アプリケーション、ブラウザ、または他のソフトウェア（簡潔さのために、この用語の集合は、「アプリ」と呼ばれ得る）を含み、ユーザは、それを介して、粒子分析器１０４および／または記憶されたまたは捕捉された細胞画像と対話する。前記対話は、１つ以上の画像パラメータの調整、粒子分析器１０４による画像取得および／または共有の制御、および／またはデータストア１０６内の細胞画像の記憶を含み得る。したがって、アプリは、１つ以上の画像パラメータを調整するためのインターフェース、１つ以上の画像パラメータの前記調整の結果を閲覧するためのビューワ、ならびに調整された１つ以上の画像パラメータ、元の細胞画像、および調整された細胞画像のうちの１つ以上を記憶するための制御、ならびに対応する粒子分析データをユーザに提供し得る。いくつかの実施形態では、１つ以上の画像パラメータ、元の細胞画像、前記調整から生じる細胞画像、および／または対応する粒子分析データに対する調整の履歴は、ユーザデバイス１０２内にローカルに、ユーザデバイス１０２上に、もしくはユーザデバイス１０２と関連付けられて記憶されるか、またはデータストア１０６内に、または粒子分析器１０４内に記憶される。本明細書に記載される方法、装置、およびシステムは、ユーザデバイス１０２によって実行され得るか、または動作可能であり得る。
【００２６】
粒子分析器１０４は、１つ以上の光学パラメータ（例えば、光散乱および蛍光）に基づいて粒子の特徴付けを可能にする任意のデバイスを含んでもよい。いくつかの実施形態では、粒子分析器１０４は、モニタまたは他のユーザインターフェースを含み、データストア１０６などのデータ記憶デバイスに電子的に接続され、粒子分析器１０４は、１つ以上の分析された細胞に対応する１つ以上のデータストリームを記憶する。本明細書に記載される方法、システム、および装置は、粒子分析器１０４内の構成要素によって、または粒子分析器１０４と電気的に通信して実行され得るか、または動作可能であり得る。粒子分析器１０４は、細胞、粒子、またはその構成要素（例えば、フローおよび走査サイトメータ、またはレーザ走査顕微鏡、または他の蛍光撮像装置など）の分析に応答してデータを生成するように構成されてもよい。フローサイトメトリおよび細胞撮像装置を含む粒子分析の例示的な方法および装置は、米国特許第９，４２３，３５３号に記載されており、その全体があらゆる目的のために参照により本明細書に組み込まれる。例えば、米国特許第９，４２３，３５３号の図１、図２Ａ、および図２Ｂに記載される蛍光撮像のための装置は、本明細書のいくつかの実施形態のサイトメータデータおよび生細胞画像を収集するための好適な装置とすることができる。いくつかの実施形態では、粒子分析は、フローサイトメータおよびレーザ走査蛍光顕微鏡を含むシステム上で実行される。いくつかの実施形態では、粒子分析器は、ユーザが１つ以上の画像パラメータを調整することを可能にする画像処理システム、１つ以上の画像パラメータの前記調整の結果を閲覧するためのビューワ、ならびに調整された１つ以上の画像パラメータ、元の細胞画像、および調整された細胞画像のうちの１つ以上を記憶するための制御、ならびに対応する粒子分析データを含んでもよい。いくつかの実施形態では、１つ以上の画像パラメータ、元の細胞画像、前記調整から生じる細胞画像、および／または対応する粒子分析データに対する調整の履歴は、粒子分析器１０４内にローカルに、粒子分析器１０４上に、もしくは粒子分析器１０４と関連付けられて記憶されるか、またはデータストア１０６内に記憶される。
【００２７】
データストア１０６は、本明細書に記載されるように、細胞画像、細胞画像調整、対応する粒子分析データなどを記憶する１つ以上のデータベースまたはデータ記憶システムを含んでもよい。例えば、データストア１０６は、任意の調整の前に粒子分析器１０４を使用して捕捉された１つ以上の細胞画像を含んでもよい。いくつかの実施形態では、調整前にデータストア１０６に記憶されたそのような細胞画像は、ユーザデバイス１０２および／または粒子分析器１０４によって行われたまたは適用された１つ以上の細胞画像調整、ならびに適用された調整から生じる任意の細胞画像と関連付けられ得る。いくつかの実施形態では、データストア１０６は、単なる記憶デバイスではなく、インテリジェントサーバデバイスであり、任意の細胞画像キャプチャおよび／または調整についてユーザデバイス１０２および粒子分析器１０４を監視することができる。
【００２８】
いくつかの実施形態では、ネットワーク１１０は、データおよび／または情報が複数の電子デバイスおよび／またはコンピューティングデバイス間で通信され得る任意の有線または無線通信ネットワークを含む。ネットワーク１１０は、広く使用されるネットワーキングプロトコルを使用して、近傍のデバイスまたはシステムを一緒に接続し得る。本明細書に記載される様々な態様は、無線８０２．１１、Ｂｌｕｅｔｏｏｔｈ（登録商標）、セルラー、または同様のプロトコルなどの任意の通信規格に適用され得る。本明細書におけるその説明に加えて、ユーザデバイス１０２は、ネットワーク１１０を介してデータおよび情報を送信および受信するように構成されている任意のコンピューティングデバイスを含んでもよい。粒子分析器１０４はまた、ネットワーク１１０を介してデータおよび情報を送信および受信するように構成されている任意のコンピューティングデバイスを含み得る。ユーザデバイス１０２と同様に、エンティティデバイス１０４は、サーバ、ラップトップコンピュータ、スマートフォン、パーソナルデジタルアシスタント、タブレットコンピュータ、またはネットワーク１１０に接続可能な他のコンピューティングデバイスを含んでもよい。ユーザデバイス１０２または粒子分析器１０４のいずれかを操作または制御するユーザは、個人であってもよく、または会社、非営利団体、教育機関などの機関であってもよい。
【００２９】
図２は、図１のシステム１００に示されるユーザコンピューティングデバイス１０２の例示的な構成要素を示すブロック図である。ユーザデバイス１０２は、例えば、ＩＢＭ、Ｍａｃｉｎｔｏｓｈ、もしくはＬｉｎｕｘ（登録商標）／Ｕｎｉｘに互換性があるパーソナルコンピュータ、またはサーバもしくはワークステーションであり得る。一実施形態では、ユーザデバイス１０２は、例えば、サーバ、ラップトップコンピュータ、スマートフォン、パーソナルデジタルアシスタント、またはキオスクを含む。一実施形態では、例示的なユーザデバイス１０２は、１つ以上の中央処理ユニット（「ＣＰＵ」）２０５を含み、これは、各々、従来のまたは独自のマイクロプロセッサを含んでもよい。いくつかの実施形態では、ＣＰＵ２０５は、粒子分析器１０４またはデータストア１０６から受信された１つ以上のデータストリームから細胞画像を生成するように構成されている。いくつかの実施形態では、ＣＰＵ２０５は、ユーザインターフェースを介して行われた調整に従って、ユーザデバイス１０２に記憶された、粒子分析器１０４から取得された、および／またはデータストア１０６から取得された細胞画像を処理する。いくつかの実施形態では、ＣＰＵ２０５はまた、モニタまたは他の視覚ディスプレイデバイスに表示するための細胞画像を処理し、粒子分析器１０４またはデータストア１０６からの粒子分析データを処理する。したがって、ＣＰＵ２０５は、ユーザデバイス１０２が細胞画像を生成および／または操作し、生成および／または操作された細胞画像を粒子分析データとともに表示することを可能にし得る。
【００３０】
ユーザデバイス１０２は、情報を一時的に記憶するためのランダムアクセスメモリ（「ＲＡＭ」）、情報を永続的に記憶するための１つ以上の読み取り専用メモリ（「ＲＯＭ」）、およびハードドライブ、ディスケット、ソリッドステートドライブ、または光学メディア記憶デバイスなどの１つ以上の大容量記憶デバイス２２２または画像ストア２０８など、１つ以上のメモリ２３２をさらに含む。いくつかの実施形態では、細胞画像が生成されるデータストリーム、調整前の元の細胞画像、調整された細胞画像、および／または細胞画像への調整のうちの１つ以上は、大量記憶デバイス２２２に記憶される。ユーザデバイス１０２の構成要素は、バスシステム２９０を使用して互いに接続され得る。異なる実施形態では、バスシステム２９０は、例えば、周辺構成要素相互接続（「ＰＣＩ」）、マイクロチャネル、小型コンピュータシステムインターフェース（「ＳＣＳＩ」）、工業標準アーキテクチャ（「ＩＳＡ」）、および拡張ＩＳＡ（「ＥＩＳＡ」）アーキテクチャにおいて実装することができる。加えて、ユーザデバイス１０２の構成要素およびモジュールに提供される機能は、より少ない構成要素およびモジュールに組み合わされ得るか、またはさらに追加の構成要素およびモジュールに分離され得る。
【００３１】
ユーザデバイス１０２は、一般に、Ｗｉｎｄｏｗｓ  ＸＰ、Ｗｉｎｄｏｗｓ  Ｖｉｓｔａ、Ｗｉｎｄｏｗｓ  ７、Ｗｉｎｄｏｗｓ  ８、Ｗｉｎｄｏｗｓ  Ｓｅｒｖｅｒ、Ｕｎｉｘ、Ｌｉｎｕｘ、ＳｕｎＯＳ、Ｓｏｌａｒｉｓ、ｉＯＳ、Ｂｌａｃｋｂｅｒｒｙ  ＯＳ、Ａｎｄｒｏｉｄ  ＯＳ、または他の互換性があるオペレーティングシステム（ＯＳ）などのオペレーティングシステムソフトウェアによって制御および調整される。Ｍａｃｉｎｔｏｓｈシステムでは、オペレーティングシステムは、ＭＡＣ  ＯＳ  Ｘなど、任意の利用可能なオペレーティングシステムであってもよい。他の実施形態では、ユーザデバイス１０２は、独自のオペレーティングシステムによって制御される。従来のオペレーティングシステムは、実行のためにコンピュータ処理を制御し、スケジュールし、メモリ管理を実行し、ファイルシステム、ネットワーキング、Ｉ／Ｏサービスを提供し、とりわけ、グラフィカルユーザインターフェース（「ＧＵＩ」）などのユーザインターフェースを提供する。
【００３２】
ユーザデバイス１０２は、キーボード、マウス、タッチパッド、モニタ、タッチスクリーン、スピーカ、マイク、および／またはプリンタなど、１つ以上の入出力（Ｉ／Ｏ）デバイスおよびインターフェース２１２を含んでもよい。一実施形態では、Ｉ／Ｏデバイスおよびインターフェース２１２は、ユーザへのデータの視覚的提示を可能にするモニタまたはプロジェクタなど、１つ以上のディスプレイデバイスを含む。より具体的には、ディスプレイデバイスは、例えば、ＧＵＩのプレゼンテーション、アプリケーションソフトウェアデータ、およびマルチメディアプレゼンテーションを提供する。いくつかの実施形態では、ディスプレイデバイスは、（例えば、ＣＰＵ２０５によってレンダリングされる）細胞画像を提示し、図３に関してより詳細に説明されるように、表示された細胞画像に調整を行うためのユーザインターフェースを提供する。ディスプレイデバイスは、表示された細胞画像とともに粒子分析データも提供し得る。いくつかの実施形態では、Ｉ／Ｏデバイスおよびインターフェース２１２は、例えば粒子分析器から入力画像データ（例えば、データストリームなどを介して）を受信することができる任意のネットワークインターフェース、駆動インターフェース、入力インターフェース、または同様のインターフェースもしくは入力を含む。いくつかの実施形態では、Ｉ／Ｏデバイスおよびインターフェース２１２（または同様の構成要素）は、複数の細胞画像および／または画素を含む入力データストリームを受信してもよい。いくつかの実施形態では、Ｉ／Ｏデバイスおよびインターフェース２１２（または同様の構成要素）は、インターフェースをユーザに提示し、ユーザがインターフェースを使用して１つ以上のパラメータをいつ変更するかを検出してもよい。
【００３３】
ユーザデバイス１０２はまた、例えば、スピーカ、ビデオカード、グラフィックスアクセラレータ、グラフィックス処理ユニット、およびマイクロフォンなど、１つ以上のマルチメディアデバイス２４２を含んでもよい。示されるように、マルチメディアデバイス２４２はまた、グラフィックス処理ユニット（ＧＰＵ）２０６を含んでもよい。ＧＰＵ２０６は、粒子分析器１０４によって提供されるグラフィックス画像を迅速に処理するために、ユーザコンピューティングデバイス１０２によって使用され得る。したがって、いくつかの実施形態では、グラフィックスまたは画像処理は、ＣＰＵ２０５に対して実行される代わりにＧＰＵ２０６によって引き継がれる。いくつかの実施形態では、ＧＰＵ２０６およびＣＰＵ２０５は、いずれかがそれら自体で提供することができるよりも高いスループットを提供するために、画像処理を共有するようにプログラムされている。いくつかの実施形態では、ＧＰＵ２０６および／またはＣＰＵ２０５は、本明細書に記載されるように、入力データストリームを処理するために、および／または任意の画素、画像壁、細胞画像などを処理するために、一緒に、または個別に使用されてもよい。例えば、いくつかの実施形態によれば、フラグメントシェーダプログラムは、ＧＰＵ２０６によって、またはＣＰＵ２０５によって実装され得る。さらに、ＧＰＵ２０６および／またはＣＰＵ２０５は、表示のための細胞画像および画素のレンダリングならびに／または表示およびユーザ対話のための入力構成要素のレンダリングを実行し得る。レンダリングは、生、処理された、および／または修正された細胞画像および／または画素に適用され得る。いくつかの実施形態では、ＣＰＵ２０５は、ＧＰＵ２０６のハードウェアパイプライン上にフラグメントシェーダプログラムを実装する。
【００３４】
図２の実施形態では、Ｉ／Ｏデバイスおよびインターフェース２１２は、様々な外部デバイスに、例えば、ネットワーク１１０を介して、粒子分析器１０４および／またはデータストア１０６に、通信インターフェースを提供する。図２の実施形態では、ユーザデバイス１０２は、例えば、有線、無線、または有線および無線の通信リンクの組み合わせを介して、ＬＡＮ、ＷＡＮ、および／またはインターネットのうちの１つ以上を含むネットワーク１１０に電子的に結合される。ネットワークは、有線または無線の通信リンクを介して様々なコンピューティングデバイスおよび／または他の電子デバイスと通信する。
【００３５】
いくつかの実施形態では、Ｉ／Ｏデバイスおよびインターフェース２１２は、ユーザにユーザインターフェース（ＵＩ）を表示するための命令を含む１つ以上の画像処理モジュール２１０にデータを生成してもよい。画像処理モジュール２０１は、スタンドアロンソフトウェア命令、またはウェブブラウザプラグイン構成要素、または細胞画像および関連データをユーザに表示するための他のソフトウェア命令であり得る。ＵＩは、細胞画像、対応する粒子分析データ、および粒子分析器１０４のうちの１つ以上の制御および監視を提供することに加えて、ＵＩはまた、本明細書に記載されるように、ユーザが細胞画像の１つ以上のパラメータまたは態様を調整することを可能にし得る。いくつかの実施形態では、ＵＩは、ユーザがユーザデバイス１０２、粒子分析器１０４、細胞画像、および対応する粒子分析データの様々な態様を制御することができるダッシュボードを提供してもよい。ダッシュボードは、さらに、以前に閲覧された細胞画像のレビュー、以前に行われた調整などを提供し得る。
【００３６】
画像調整ユーザインターフェース
本明細書に記載されるように、ＵＩは、ユーザが細胞画像の１つ以上のパラメータに調整を行い、細胞画像が粒子分析器上またはユーザコンピューティングデバイス内でどのように処理されるかを変更することを可能にし得る。ＵＩは、ユーザが利用可能な画像調整値と同時に細胞画像を表示し、利用可能な画像調整に基づいて異なる調整が行われると、ミリ秒単位の時間枠内で、表示された細胞画像を更新することを可能にし得る。表示された細胞画像の瞬時の更新は、本明細書に記載される１つ以上のアルゴリズムを適用した結果であり得る。本明細書で使用される場合、「ミリ秒単位の時間枠」は、本開示を考慮して理解されるように、その慣習的および一般的な意味を有する。ミリ秒程度の時間枠、例えば、１０、９、８、７、６、５、４、３、２、または１ミリ秒未満程度の時間枠を指す。例えば、本明細書に記載されるように、ミリ秒単位の時間枠内で実行される動作は、１０、９、８、７、６、５、４、３、２、または１ミリ秒未満で実行され得る。
【００３７】
図３は、図１の粒子分析器１０４からのデータストリームに基づいて生成された細胞画像とインターフェースするユーザデバイス１０２によって表示される例示的な画像調整ポップアップユーザインターフェース（ＵＩ）３００である。いくつかの実施形態では、ポップアップＵＩ３００は、制御パネル３０１を介して以下のユーザインターフェース機能を提供する。制御パネル３０１は、細胞画像を調整するための制御要素を含んでよく、制御パネルを使用して行われた任意の変更は、図４を参照して示されるように、画像の壁（例えば、７５、８０、または１５０の画像）に迅速に反映され得る。
【００３８】
制御パネル３０１は、ユーザが細胞画像の表示方法に対する修正を指定することを可能にする。そのような修正は、計算的に集中的であり得、一般に、堅牢なワークステーションを使用して実行され得る。しかしながら、そのような高電力コンピューティングデバイス上であっても、各細胞画像に対する修正および／または調整は、各細胞画像が集中的な画像処理を受けるので、画像の壁内の画像ごとに完了するには数分かかり得る。これらの調整は、これらに限定されないが、以下を含む。
・１つ以上のチャネルレイヤの閲覧を有効／無効にする
・１つ以上のチャネルレイヤの色選択−特定のチャネルの色を変更する
・平均フィルタカーネルおよびガウスフィルタカーネルを使用した畳み込みフィルタリング、エッジ検出など新しいカーネルを将来的にサポート
・閾値処理−低い強度でノイズをマスクアウトするために使用される
・彩度−最大輝度の上限終値
・ガンマ調整−より暗いエリアおよび明るいエリアの強度
・ガンマ曲線−強度曲線を示す曲線
・強度ヒストグラムの表示−画像強度サンプルの表示
いくつかの実施形態では、調整は、追加の調整を含んでもよく、または列挙された調整のいずれかのサブセットを含んでもよい。例えば、いくつかの実施形態では、調整は、「閲覧を有効／無効にする」、「色選択」、「畳み込みフィルタリング」、「閾値処理」、「彩度」、「ガンマ調整」、「ガンマ曲線」、または「強度ヒストグラムの表示」のうちの１つ以上を含まない。例えば、いくつかの実施形態では、強度をヒストグラムとして表示するのではなく、強度は、異なるグラフィカルおよび／またはテキスト形式で表示され得る。
【００３９】
ポップアップＵＩ３００では、本明細書に列挙される調整のサブセット（前項および／または箇条書きリストなど）が、制御パネル３０１を介して利用可能になる。示されるように、利用可能な調整は、ブライトフィールドチャネルのチャネル有効／無効化チャネル切り替え３０５ａ、ブライトフィールドチャネルフィルタスライダ調整バー３０６ａ、ブライトフィールドチャネル色調整セレクタ３０７ａ、およびブライトフィールドチャネル調整選択パネル３０８ａを含む。ブライトフィールドチャネルの有効／無効化チャネル切り替え３０５ａは、ブライトフィールドチャネルの表示を有効または無効にし得る。ブライトフィールドチャネルフィルタスライダ調整バー３０６ａは、ブライトフィールドチャネルに適用されるチャネルフィルタの調整を可能にし得、それによって、いくつかの平滑化フィルタをブライトフィールドチャネル画像に選択または適用することを可能にし得る。ブライトフィールドチャネル色調整セレクタ３０７ａは、ブライトフィールドチャネル色調整パネル３０８ａの表示を切り替えてもよく、ブライトフィールドチャネル色調整パネル３０８ａから選択された色を表示してもよい。ブライトフィールドチャネル色調整パネル３０８ａは、ブライトフィールドチャネルに対して選択可能な利用可能な色を示す。同様に、利用可能な調整は、ＦＩＴＣチャネルのチャネル有効／無効化チャネル切り替え３０５ｂ、ＦＩＴＣチャネルフィルタスライダ調整バー３０６ｂ、ＦＩＴＣチャネル色調整セレクタ３０７ｂ、およびＦＩＴＣチャネルヒストグラム３０９ａを含む。ＦＩＴＣチャネルの有効／無効化チャネル切り替え３０５ｂは、ＦＩＴＣチャネルの表示を有効または無効にし得る。ＦＩＴＣチャネルフィルタスライダ調整バー３０６ｂは、ＦＩＴＣチャネルに適用されるチャネルフィルタの調整を可能にし得、それによって、ＦＩＴＣチャネル画像へのいくつかの平滑化フィルタの選択または適用を可能にし得る。ＦＩＴＣチャネル色調整セレクタ３０７ｂは、ＦＩＴＣチャネル色調整パネル（この図には図示せず）またはＦＩＴＣチャネルヒストグラム３０９ａの表示を切り替えてもよく、ＦＩＴＣチャネル色調整パネルから選択された色を表示してもよい。ＦＩＴＣチャネルヒストグラム３０９ａは、収集されたＦＩＴＣチャネル画像サンプルの表現を示し得、ユーザは、例えば、１つ以上の閾値バー３１０ａまたはガンマ選択３１１ａを使用して、ＦＩＴＣチャネル画像サンプルの強度上の分布を確認し、それに応じて画像設定を調整することを可能にし得る。
【００４０】
加えて、利用可能な調整は、ＰＥチャネルのチャネル有効／無効化チャネル切り替え３０５ｃ、ＰＥチャネルフィルタスライダ調整バー３０６ｃ、ＰＥチャネル色調整セレクタ３０７ｃ、およびＰＥチャネルヒストグラム３０９ｂを含んでもよい。ＰＥチャネルの有効／無効化チャネル切り替え３０５ｃは、ＰＥチャネルの表示を有効または無効にし得る。ＰＥチャネルフィルタスライダ調整バー３０６ｃは、ＰＥチャネルに適用されるチャネルフィルタの調整を可能にし得、それによって、ＰＥチャネル画像へのいくつかの平滑化フィルタの選択または適用を可能にし得る。ＰＥチャネル色調整セレクタ３０７ｃは、ＰＥチャネル色調整パネル（この図には図示せず）またはＰＥチャネルヒストグラム３０９ｂの表示を切り替えてもよく、ＰＥチャネル色調整パネルから選択された色を表示してもよい。ＰＥチャネルヒストグラム３０９ｂは、収集されたＰＥチャネル画像サンプルの表現を示し得、ユーザは、例えば、１つ以上の閾値バー３１０ｂまたはガンマ選択３１１ｂを使用して、ＰＥチャネル画像サンプルの強度上の分布を確認し、それに応じて画像設定を調整することを可能にし得る。いくつかの実施形態では、ＰＥチャネルヒストグラム３０９ｂは、ＰＥチャネル画像の強度を調整し、ＰＥチャネル画像内のノイズを低減する閾値３１０ｂを示すガンマ３１１ｂの調整を提供する。さらに、ＦＩＴＣおよびＰＥチャネルヒストグラム３０９は、それぞれのチャネル画像サンプルの彩度を示す。ＦＩＴＣチャネルおよびＰＥチャネルは、一例として使用されるが、細胞イメージングのための任意の好適なチャネルは、本明細書に記載される方法および装置、例えば、Ａｌｅｘａ  ４０５、ＤＡＰＩ、Ｈｏｅｓｃｈｔ  ３３２５８、Ａｌｅｘａ  ４８８、ＦＩＴＣ、緑色蛍光タンパク質（ＧＦＰ）、黄色蛍光タンパク質（ＹＦＰ）、シアン蛍光タンパク質（ＣＦＰ）、Ａｌｅｘａ  ５６８、Ｃｙ３、ＰＩ、Ａｌｅｘａ  ５９４、ローダミン、Ｔｅｘａｓ  ｒｅｄ、Ａｌｅｘａ  ６３３、および／またはＣｙ５に従って使用され得ることが理解される。
【００４１】
いくつかの実施形態では、制御パネル３０１は、ポップアップＵＩ３００として提示され得る。いくつかの実施形態では、制御パネル３０１は小さくてもよく、画像設定を修正するためにユーザが利用可能な調整オプションを効率的に提示する。いくつかの実施形態では、制御パネル３０１は、対話型であり、利用可能な調整の挙動または効果に関する視覚的な手がかりを提供する。いくつかの実装形態では、制御パネル３０１は、ネットワークまたはインターネットブラウザ、閲覧のためのカスタムアプリケーション、またはいくつかの他の軽量クライアントアプリケーションでアクセスされ得る。したがって、制御パネル３０１は、細胞画像の閲覧、分析、および修正のために、本明細書で識別される堅牢なワークステーションを必要とするのではなく、制約されたリソース（例えば、低電力処理システム）を有するものでさえ、広範囲のコンピューティングデバイス上で動作し得る。
【００４２】
画像処理のプロセスおよび性能
ポップアップＵＩ３００を使用して調整を制御することは、本明細書のいくつかの実施形態の装置、システム、および方法の一態様にすぎない。いくつかの実施形態では、装置、システム、および／または方法は、リアルタイムで（例えば、ミリ秒単位の時間枠内で）調整を実行することを含む。調整は、ユーザに確認を要求することなく十分な効率で実行することができる。例えば、ユーザがポップアップＵＩ３００および制御パネル３０１を使用して画像壁内の細胞画像に調整を行うとき、細胞画像の着信ストリームに調整を行い、画像壁の一部として表示される前に確認（例えば、ユーザによる「ＯＫ」または「キャンセル」ボタンの選択）が必要ない場合がある。
【００４３】
例えば、ユーザが対応する画像パラメータを調整するためにフィルタスライダ調整バー３０６ａ〜ｃのうちの１つと対話するときに、画像の壁は、スライダが移動されるにつれて、対応するフィルタスライダ調整バー３０６ａ〜ｃのスライダの現在の値に基づいて更新される。非固定入力デバイス（マウスまたはタッチスクリーンなど）を使用して、画像パラメータの多くを調整することができるので、調整された画像パラメータの現在の値に基づく画像の壁の即時更新は、毎秒画像の壁の多くの視覚的更新に変換され得る。したがって、画像の壁は、ユーザが制御パネル３０１を介して変更を行うミリ秒単位の時間枠内でディスプレイ上またはモニタ上で修正および更新され得る。そのような更新は、本明細書に記載される効率的な画像処理アルゴリズムを実装する。
【００４４】
図４Ａ〜図４Ｃは、粒子分析器１０４によって取得され、ユーザデバイス１０２上で閲覧され、様々なレベルの操作および調整が適用される５０の細胞画像を示す画像壁４００ａ〜ｃのセットの例示的な図である。画像壁４００ａ〜ｃは、複数の細胞画像をユーザに表示し得る。いくつかの実施形態では、画像壁４００ａ〜ｃは、ポップアップＵＩ３００を有するユーザデバイス１０２または他のモニタまたはディスプレイデバイスに表示される。いくつかの実施形態では、画像壁４００ａ〜ｃは、ポップアップＵＩ３００の上、下、後ろなどと並んでいる。いくつかの実施形態では、画像壁に示される細胞画像の数は、５０〜１００個の画像であってもよい。
【００４５】
図４Ａ〜図４Ｃは、調整および／または修正の様々な段階における画像壁４００ａ〜ｃの例示的な画面画像を示す。例えば、図４Ａは、いかなる調整も粒子分析器から収集された細胞画像のいずれかに適用されることがない、「生」形式の画像壁４００ａを示す。図４Ｂは、１つ以上の平滑化フィルタおよび１つ以上の閾値処理アルゴリズムを生画像４００ａに適用した後の画像壁４００ｂを示す。図４Ｃは、画像壁４００ｂの特定の細胞画像４０５と、具体的には、画像壁４００ｂの細胞画像のうちの１つへのズームインとのユーザ対話後の画像壁４００ｃを示す。示されるように、画像壁４００ｃは、ユーザによって選択された特定の細胞画像４０５の拡張および拡大領域を示す。
【００４６】
画像壁４００ａ〜ｃに示される各画像は、約１０，０００個の画素を含んでよく、約２５０キロバイト（ｋＢ）のデータ記憶サイズを有し得る。したがって、メモリ２３２または画像調整を実行する任意のデバイスのメモリ（例えば、粒子分析器１０４またはユーザデバイス１０２のメモリなど）は、５０〜１００個の画像の画像壁に１２メガバイト（ＭＢ）〜２５ＭＢを利用し得る。しかしながら、タスクの特定の細胞撮像情報および解像度要件に応じて、細胞画像は、異なる画素量および／またはデータ記憶サイズ、例えば、少なくとも５，０００、１０，０００、２０，０００、５０，０００、または１００，０００個の画素、および／または少なくとも２５０ｋＢ、５００ｋＢ、７５０ｋＢ、１メガバイト（ＭＢ）、２ＭＢ、３ＭＢ、４ＭＢ、または５ＭＢのデータ記憶サイズを含み得ることが理解される。図３を参照して本明細書に記載されるポップアップＵＩ３００を介してユーザによって選択された調整を実行する画像処理アルゴリズムは、画素レベルで画像壁４００ａの各細胞画像に、選択された調整を適用し得る。そのような適用は、画像パラメータが動的に更新されるにつれて、選択された調整をリアルタイムで５００，０００〜１０，０００，０００個の画素に効果的に処理および適用する必要があり、時間がかかり得る。
【００４７】
例えば、画像壁４００ａに関して、約５００，０００個の画素は調整を必要とし得、各画素は、複数の情報チャネルに基づいてレンダリングされ得る（例として、最大８チャネルが、図３、図４Ａ〜Ｃ、および図５に示されるが、特定の撮像タスクに対してより多いまたはより少ない数のチャネルが使用され得ることが理解される）。したがって、画像壁４００ａの細胞画像の調整およびレンダリングにおいて、細胞画像の処理を実行するデバイス（例えば、ユーザデバイス１０２または粒子分析器１０４）は、画像壁４００ａの５００，０００個の画素の各々を８回処理し得る。いくつかの実施形態では、調整および／または他の画像処理設定は、複数の（例えば、８）チャネルの各々について異なってもよい。例えば、８つの調整のうちの１つ以上は、画像壁４００ａの各画素について８つのチャネルの各々に適用され得る。
【００４８】
例えば、図３に示すように、画像壁４００の第１の細胞画像の第１の画素のブライトフィールドチャネル（例えば、第１のチャネル）は、「緑色」に設定されたブライトフィールドチャネル色調整セレクタ３０７ａを有し得、一方、画像壁４００ａの第１の細胞画像の第１の画素のＦＩＴＣチャネル（例えば、第２のチャネル）は、ＦＩＴＣチャネル色調整セレクタ３０７ｂを「黄色」に設定し得る。画素調整のためのそのような多様で大きな範囲の可能性は、ポップアップＵＩ３００または同様のインターフェースを介して行われるユーザ調整を考慮するために、画像壁４００ａの処理に関与する複雑さをさらに増加させ得る。必要とされ得る計算処理の一例として、すべてのチャネルを有効にした画像壁４００ａ上の単一のフィルタリング動作の単一のアルゴリズムステップは、容易に４億５０００万倍を超え、命令を追加することができる。本明細書に記載されるように、そのような処理需要があっても、本明細書のシステムおよび方法は、画像壁４００ａの細胞画像のリアルタイムの調整、処理、レンダリング、および表示を提供する。
【００４９】
いくつかの実施形態では、調整および／または修正に対応する画像処理を実行するデバイス（例えば、ユーザデバイス１０２または粒子分析器１０４）は、画像壁４００ａの細胞画像処理の効率および速度の向上を支援するプラグイン構成要素を利用してもよい。いくつかの実施形態では、プラグイン構成要素は、ポップアップＵＩ３００、制御パネル３０１、デバイスのＣＰＵ２０５、デバイスのマルチメディアデバイス２４２などのうちの１つ以上に直接統合され得る。例えば、プラグイン構成要素は、細胞画像および画像壁（例えば、ユーザデバイス１０２）を提示するデバイスのグラフィックス処理ユニット（ＧＰＵ）内の画像処理アルゴリズムの一部またはすべてを実行するＷｅｂＧｌ２プラグイン構成要素または同様のプラグイン構成要素を含んでもよい。したがって、プラグイン構成要素は、ポップアップＵＩ３００の制御パネル３０１上でユーザによって行われる選択に基づいて、画像壁の細胞画像を調整または修正するために必要な処理の一部またはすべてを実行し得る。
【００５０】
いくつかの実施形態では、プラグイン構成要素は、ｗｗｗ  ｄｏｔ  ｋｈｒｏｎｏｓ  ｄｏｔ  ｏｒｇ  ｆｏｒｗａｒｄ  ｓｌａｓｈ  ｒｅｇｉｓｔｒｙ  ｆｏｒｗａｒｄ  ｓｌａｓｈ  ｗｅｂｇｌ  ｆｏｒｗａｒｄ  ｓｌａｓｈ  ｓｐｅｃｓ  ｆｏｒｗａｒｄ  ｓｌａｓｈ  ｌａｔｅｓｔ  ｆｏｒｗａｒｄ  ｓｌａｓｈ  ２．０のワールドワイドウェブでアクセス可能なＫｈｒｏｎｏｓグループによるＷｅｂＧＬ２．０仕様に準拠し得る。ＫｈｒｏｎｏｓグループによるＷｅｂＧＬ２．０仕様は、参照によりその全体が本明細書に組み込まれる。この技術および同様の技術は、細胞画像および画像壁４００ａを表示するデバイスのＣＰＵ２０５またはＧＰＵ２０６が、画素ごとにそれらの画像分析処理を並列に実行することを可能にし得る。いくつかの実施形態では、本明細書に記載の描画および計算機能は、ＯｐｅｎＧＬシェーディング言語（ＧＬＳＬ）などのシェーディング言語を使用してＣＰＵ２０５によって実装されてもよい。シェーディング言語は、ＣＰＵ２０５またはＧＰＵ２０６が、並列ベクトル動作を使用してすべての描画およびアルゴリズムを実装することを可能にし得る。したがって、制御パネル３０１を介して受信されたユーザが選択したパラメータに基づいて、画像壁４００ａの細胞画像を処理するために使用されるアルゴリズムは、１つ以上のシェーディング言語で実装され得る。
【００５１】
本明細書に記載されるように、画像壁４００ａは、制御パネル３０１を介して画像パラメータに関してユーザによって行われた任意の変更と同時に、および瞬時に（例えば、ミリ秒単位の時間枠内で）修正された細胞画像を提示し得る。したがって、ユーザが最初に粒子分析器１０４またはデータストア１０６から受信された細胞画像を見るとき、デバイス（例えば、ユーザデバイス１０２）は、いかなる調整または修正も画像壁４００ａの細胞画像のいずれにも適用されることなく、図４Ａに示されるように画像壁４００ａを生画像として表示し得る。本明細書に記載されるアルゴリズムおよび処理を使用して、ユーザがポップアップＵＩ３００の制御パネル３０１を介して１つ以上の画像チャネルパラメータを調整するとき、ユーザデバイス１０２は（例えば、ＣＰＵ２０５およびマルチメディアデバイス２４２のうちの１つ以上を介して）、画像壁４００ａの細胞画像を処理し得る。画像壁４００ａおよびその中の画素および細胞画像のそのような処理により、ユーザが１つ以上の画像チャネルパラメータを調整している間に、図４Ｂに示される画像壁４００ｂがユーザに表示され得る。いくつかの実施形態では、ユーザは、画像壁４００ｂから特定の細胞画像を選択し得るか、またはマウスもしくは他の選択デバイスを移動させ得る。カーソル（例えば、マウスもしくはトラックパッドカーソル、またはタッチスクリーンとの接触）が画像壁４００ｂの細胞画像のうちの１つの上にホバリングされるとき、対応する細胞画像は、さらにクリックまたは選択することなく拡大され得る。いくつかの実施形態では、ユーザが画像壁４００ｂの細胞画像のうちの１つを選択すると、対応する細胞画像が拡大され得る。拡大された細胞画像４０５の一例を図４Ｃに示す。
【００５２】
いくつかの実施形態では、図４Ｃに示す細胞画像の拡大図は、細胞画像の非常に詳細な図を提供し得る。いくつかの実施形態では、追加情報は、拡大された細胞画像とともに表示することもできる。例えば、目的の特定の細胞画像が拡大されるとき、その細胞画像の粒子分析情報は、ユーザのために同時に表示され得る。例えば、拡大された細胞画像に関連付けられた粒子分析情報は、拡大された細胞画像のドットプロットなどのフローサイトメトリからのイベントデータを示すプロットで強調表示され得る。例として、粒子分析データは、マーカーまたは染料のレベルなどのフローサイトメトリによって測定された１つ以上の異なるパラメータ、または特定の細胞が、フローサイトメトリ分析に基づいて１つ以上のマーカーについて正または負であると判定されたか否かを定性的に示し得る。例えば、細胞がＣＤ１４＋マクロファージであることを示すフローサイトメトリデータは、病原体の食作用を示す顕微鏡画像データとともに表示され得る。いくつかの実施形態では、粒子分析データは、細胞表現型を含む。細胞表現型は、フローサイトメトリによって測定された１つ以上の異なるパラメータから確認することができる。
【００５３】
画像壁４００ａ〜ｃの各細胞画像は、粒子分析器１０４によるどの走査イベントが所与の細胞画像に関連付けられているかを判定するために使用され得る一意の識別子と関連付けられ得る。いくつかの実施形態では、画像壁４００ａ〜ｃを表示するデバイス（例えば、ユーザデバイス１０２）はまた、画像壁４００ａ〜ｃに任意のグループの細胞画像を表示し得る。例えば、画像壁４００ａは、ユーザが細胞画像を、（１）ファイル内の順番（例えば、本明細書に記載のフローサイトメータおよびレーザ走査顕微鏡を含む装置によって収集されるように）、（２）ゲートを使用して識別される集団などの集団グループ化、または（３）他のメタデータタグ付け、によってグループ化し、閲覧することを可能にし得る。
【００５４】
本明細書に記載のＵＩ（例えば、ポップアップＵＩ３００）は、いくつかの実施形態の方法および装置において、本明細書に記載の構成要素５００の集合と併せて使用することができることが理解される。
【００５５】
ストリームデータからの画像の作成および処理
本明細書に記載されるように、粒子分析器１０４は、粒子分析器１０４によって処理および／または分析された細胞に対応する画像データストリームを生成し、送信し得る。例えば、レーザ走査顕微鏡は、レーザ走査顕微鏡によって捕捉された複数の画像を含む入力画像データストリームを生成し、送信し得る。例えば、粒子分析器は、フローサイトメータを含んでもよい。いくつかの実施形態では、画像データストリームは、各細胞の識別子（例えば、走査イベントに対応する）を含む。次いで、各細胞の識別子は、細胞画像を表示および／または調整するデバイス（例えば、ユーザデバイス１０２または粒子分析器１０４）によって使用されてもよく、対応する細胞画像が捕捉されたときに走査イベントで走査された細胞の他の粒子測定データまたは情報と細胞画像とを相関させ得る。
【００５６】
細胞画像画素を参照して本明細書に記載されるように、画像データストリーム内の各画像は、例えば異なる範囲の蛍光発光波長、および／または異なるラマン散乱スペクトルを含み得る２つ以上のチャネルのデータを含んでもよい。例えば、各画像は、各々異なる色および／またはパターンを使用して表され得る、最大２、４、６、８、１０、１２、１４、１６、１８、または２０チャネルのデータを含んでもよい。いくつかの実施形態では、画像は、異なる色を使用して表される８つのチャネルのデータを含む。いくつかの実施形態では、これらのチャネルを合成または組み合わせて、初期処理後に表示および調整するための細胞画像を形成する。画像データストリーム内の任意のチャネルに適用され得る初期処理ステップは、以下を含む。
・フィルタリング
・閾値処理
・彩度
・ガンマ補正
処理は、複数の画素に対して並列に実行され得る。いくつかの実施形態では、フィルタリングが最初に実行される。フィルタリングに続いて、閾値処理、彩度、およびガンマ補正は、任意の順番で実行することができる。例として、フィルタリングは、平滑化などの畳み込み演算を含むことができる。
【００５７】
図５は、図１のユーザデバイス１０２または他の閲覧デバイスによって閲覧されるように、画像を表示し、操作するための構成要素の集合５００の機能ブロック図を示す。集合５００に示される構成要素は、特定用途向け集積回路（ＡＳＩＣ）などのハードウェアで実装され得る。いくつかの実施形態では、集合５００に示される構成要素は、ソフトウェアで実装されてもよい。例えば、ソフトウェアは、対応するデバイス（例えば、ユーザデバイス１０２または粒子分析器１０４、または粒子分析器１０４によって生成され送信されるデータストリームを処理するように構成されている任意の他のデバイス）に、記載された機能のうちの１つ以上を実行させるために、１つ以上のプロセッサまたはＣＰＵ２０５もしくはＧＰＵ２０６によって実行することができる特定のコンピュータ実行可能命令を含んでもよい。いくつかの実施形態では、構成要素の集合５００は、粒子分析器１０４から画像データストリームで受信された細胞画像の画像を作成し得る、構成要素の例示的な構成を含む。いくつかの実施形態では、画像は、例えばレーザ顕微鏡によって取得することができる高周波多重細胞画像、例えば蛍光および／またはラマン分光細胞画像を含む。いくつかの実施形態では、画像は、ＦＩＲＥ画像を含む。したがって、画像データストリームは、ＦＩＲＥ画像データストリームを含むことができる。本明細書に記載される構成要素５００の集合は、いくつかの実施形態の方法および装置において本明細書に記載されるＵＩ（例えば、ポップアップＵＩ３００）と併せて使用することができることを理解されたい。
【００５８】
構成要素の集合５００は、フラグメントシェーダプログラム５０２、処理エンジン５０４、表示出力５０６、画像作成パラメータまたは画像作成パラメータが受信されるＵＩ５０８を記憶するためのメモリ、フィルタカーネル５１０、および入力画像データストリーム５１２（例えば、本明細書に記載のレーザ走査顕微鏡からのＦＩＲＥ画像データストリームなどの２つ以上のチャネルを含む高周波多重細胞画像）を含む。いくつかの実施形態では、入力画像データストリーム５１２は、画像データ（例えば、ラマン分光）を取得するための１つ以上の他の手段または方法からの画像データであってもよい。フラグメントシェーダプログラム５０２は、本明細書に記載されるように、シェーディング言語を使用して１つ以上の描画および計算機能を実装するように構成され得る。いくつかの実施形態では、フラグメントシェーダプログラム５０２は、ＣＰＵ２０５への適用のためのソフトウェア構成要素、マルチメディアデバイス２４２の一部であるグラフィックス処理ユニット（ＧＰＵ）、またはスタンドアロンＧＰＵ（本明細書には図示せず）を含んでもよい。例えば、フラグメントシェーダ５０２（例えば、フラグメントシェーダプログラム、モジュール、または構成要素）は、細胞画像および／または画素を生成するために入力データストリームを処理するために、ＣＰＵ２０５またはＧＰＵ（例えば、ＣＰＵ２０５またはＧＰＵのハードウェアパイプラインを介して）を構成する１つ以上のプログラムを含んでもよい。いくつかの実施形態では、フラグメントシェーダの１つ以上のプログラムは、入力データストリームの並列処理のためにＣＰＵ２０５またはＧＰＵのハードウェアパイプラインを構成してもよい。したがって、いくつかの実装形態では、フラグメントシェーダプログラム５０２は、他のハードウェアと使用するためのシェーダプログラムとして、またはスタンドアロンシェーダ回路として実装され得る。したがって、フラグメントシェーダプログラム５０２は、入力画像データストリーム５１２から処理された情報に関連付けられた画素を生成するように、粒子分析器１０４またはデータストア１０６のうちの１つ以上から受信された入力画像データストリーム５１２を処理し得る。本明細書に記載される実施形態のいずれかにおいて、フラグメントシェーダプログラム５０２は、入力画像データストリーム５１２の各画素について複数のアルゴリズムを並列に処理し得る（例えば、複数のチャネルの処理）。本明細書に記載される実施形態のいずれかにおいて、フラグメントシェーダプログラム５０２は、ディスプレイに直接出力する代わりに、処理されたデータ（例えば、１つ以上のチャネルからのデータ）をデータバッファまたは同様のストレージに記憶し得る。
【００５９】
処理エンジン５０４は、図２を参照して本明細書に記載されるマルチメディアデバイス２４２のＣＰＵ２０５またはＧＰＵ２０６のうちの１つ以上を含んでもよい。いくつかの実施形態では、処理エンジン５０４は、フラグメントシェーダプログラム５０２によって生成された画素を取り込み、生成された画素を細胞画像にアセンブルして表示出力５０６によって表示してもよい（例えば、画像壁４００の一部として）。したがって、処理された細胞画像を生成することができる。いくつかの実施形態では、表示出力５０６は、Ｉ／Ｏインターフェースおよびデバイス２１２を参照して本明細書に記載されるモニタまたはディスプレイを含んでもよい。いくつかの実施形態では、表示出力５０６は、生成された細胞画像を記憶するためのメモリ（例えば、大容量記憶デバイス２２２または画像ストア２０８またはデータストア１０６）を含んでもよい。いくつかの実施形態では、画像作成パラメータを記憶するためのメモリまたは画像作成パラメータが受信されるＵＩ５０８は、フラグメントシェーダプログラム５０２を制御するために使用される変数などのソースを含んでもよい。例えば、メモリまたはＵＩ５０８は、入力画像データストリーム１１２を処理し、細胞画像（１つ以上の画素を含むことができる）を生成するとき、彩度、閾値、色などに関してフラグメントシェーダの実行を制御する変数を提供し得る。いくつかの実施形態では、フィルタカーネル５１０は、プロセッサ（例えば、ユーザデバイス１０２のＧＰＵ２０６または粒子分析器１０４）によって実装されてもよい。フィルタカーネル５１０は、畳み込み演算、例えば平滑化で使用され得る。フィルタカーネル５１０に使用されるカーネルは、特定のチャネル、例えば、ＦＩＴＣまたはＰＥチャネルに適用するためにロードされたテクスチャを含んでもよく、またはそれらからなってもよい。いくつかの実施形態では、フィルタカーネル５１０は、平均フィルタカーネルおよびガウスフィルタカーネルのうちの１つ以上を使用して畳み込みフィルタリングを実行してもよく、一方、エッジ検出など、追加のおよび／または新たに開発されたカーネルをサポートする能力を有してもよい。したがって、いくつかの実施形態では、フィルタカーネル５１０は、各細胞画像内の各画素（例えば、入力データストリームから受信された生細胞画像）をフィルタリングしてもよい。フィルタカーネル５１０が各画素をフィルタリングすると、フィルタリングされた画素は、閾値処理、彩度、またはガンマ補正のうちの少なくとも１つなど、ＣＰＵ２０５および／またはＧＰＵによってさらに処理されて、処理された細胞画像を生成するために使用され得る画素の処理された画素値を生成し得る。いくつかの実施形態では、フィルタカーネル５１０は、ＣＰＵ２０５および／またはＧＰＵによって適用される。
【００６０】
図６は、図１のユーザデバイス１０２上に表示するための入力データストリームに基づいて細胞画像の画素を生成するための方法６００のフロー図を示す。いくつかの実施形態では、方法６００は、本明細書に示されるまたは記載されるデバイス（例えば、ユーザデバイス１０２または粒子分析器１０４）のうちの１つ以上によって実装され得る。いくつかの実施形態では、方法６００は、図６に示すよりも多いまたは少ないステップを含んでもよい。
【００６１】
方法６００は、ブロック６０２から始まり、ブロック６０４で、粒子分析器の撮像システムから入力画像データストリーム５１２を受信することを含む。いくつかの実施形態では、入力画像データストリーム５１２は、高周波多重細胞画像データ（例えば、ＦＩＲＥ画像データ）を含んでもよく、および／または１つ以上の通信ネットワーク（例えば、ネットワーク１１０）を介して受信されてもよい。いくつかの実施形態では、入力画像データストリーム５１２は、ユーザデバイス１０２のマルチメディアデバイス２４２のＣＰＵ２０５もしくはＧＰＵ２０６、または粒子分析器１０４によって受信されてもよい。入力画像データストリーム５１２が受信されると（例えば、ブラウザまたは同様のアプリケーションまたはソフトウェアモジュールを介して）、方法６００は、ブロック６０６で、入力画像データストリーム１１２からヘッダ情報を読み取る。
【００６２】
ヘッダ情報を読み取ることは、入力画像データストリーム５１２に含まれるいくつかの画像を取得または決定すること、他の情報の中でも、入力画像データストリーム５１２に含まれる画像の１つ以上の寸法（例えば、各画素のｘ−ｙ座標）、ならびに入力画像データストリーム５１２内の画像の各々および／または入力画像データストリーム５１２自体のために含まれるいくつかのチャネルを取得または決定することを含み得る。いくつかの実施形態では、このヘッダ情報は、ユーザデバイス１０２のＣＰＵ２０５、ＧＰＵ、またはＩ／Ｏインターフェースおよびデバイス２１２（例えば、通信インターフェース）、または粒子分析器１０４もしくはデータストア１０６からの情報に基づいて画像を表示する他のデバイスのうちの１つ以上によって取得または決定され得る。ヘッダ情報は、１つ以上の動作中に使用するためにメモリ２３２内に記録され得る。
【００６３】
プロセス６００がヘッダ情報を読み取ると、方法６００は、ブロック６０８で、入力画像データストリーム５１２の各画像を反復することと、入力画像データストリーム５１２の各チャネルを反復することとをさらに含む。いくつかの実施形態では、反復は、ユーザデバイス１０２のマルチメディアデバイス２４２のＣＰＵ２０５もしくはＧＰＵ２０６、または粒子分析器１０４によって実行されてもよい。プロセス６００がデータストリームの各画像およびチャネルを反復すると、方法６００は、決定ブロック６１０で、１つ以上の画像またはチャネルのデータおよび画素情報に適用される平滑化があるか否かを決定する。決定が、平滑化が適用されることを識別する場合、プロセス６００は、ブロック６１１に移動し、平滑化が情報および／またはデータに適用される。決定ブロック６１０で平滑化が適用されると決定されない場合、平滑化は適用されず、プロセス６００はブロック６１２に移動する。いくつかの実施形態では、データの決定および／または平滑化は、ユーザデバイス１０２のマルチメディアデバイス２４２のＣＰＵ２０５もしくはＧＰＵ、または粒子分析器１０４によって受信されてもよい。
【００６４】
ブロック６１２で、方法６００は、閾値、彩度、およびガンマ補正の調整を適用することを含み、次いで、プロセス６００は、ブロック６１４で、画素を着色または調整することに移動する。いくつかの実施形態では、閾値、彩度、およびガンマ補正の調整の適用ならびに画素位置の着色は、ユーザデバイス１０２のマルチメディアデバイス２４２のＣＰＵ２０５もしくはＧＰＵ２０６、または粒子分析器１０４によって実行され得る。次いで、方法６００は、ブロック６１６で終了する。
【００６５】
いくつかの実施形態では、入力画像データストリーム５１２内の画像に関連付けられた各チャネルについて、調整パイプライン（例えば、ＣＰＵ２０５またはＧＰＵの一部）は、チャネルの画素データを処理してもよい。調整パイプラインの一例は、以下を含む。
・フィルタ
・閾値
・彩度
・ガンマ補正
いくつかの実施形態では、調整パイプラインは、フィルタ、閾値、彩度、ガンマ補正、または列挙された項目のうちの２つ以上、例えば、フィルタおよび閾値、フィルタおよび彩度、フィルタおよびガンマ補正、閾値および彩度、閾値およびガンマ補正、フィルタおよび閾値および彩度、フィルタおよび閾値およびガンマ補正、フィルタおよび彩度およびガンマ補正、または、閾値および彩度およびガンマ補正を含む。
【００６６】
各チャネルが処理されるにつれて、得られた画素情報をブレンドして（例えば、ＣＰＵ２０５またはＧＰＵ２０６によって）、細胞画像の画素マップ内の画素の位置について処理された画素値を生成してもよい。ブレンディングは、チャネル値の平均化を含んでもよい。ブレンディングは、異なる重みを異なるチャネルに関連付ける加重平均を含んでもよい。重みは、制御パネル３０１を使用して、または別の構成手段を介して構成または選択され得る。いくつかの実施形態では、構成は、ユーザにとって特有であり得、プロセス６００の前に、またはプロセス６００の一部としてロードされるユーザプロファイルと関連付けられ得る。いくつかの実装形態では、構成は、粒子分析器１０４の入力画像データストリーム５１２からの画像を閲覧するすべてのまたは様々なユーザに適用される一般的な設定であってもよい。
【００６７】
入力画像データストリーム５１２の初期ビューをレンダリングした後、細胞画像への調整の適用を促進するための特徴も含まれ得る。高速（例えば、ミリ秒単位の時間枠）応答時間を取得するために、クライアントアプリケーション（例えば、ブラウザなど）は、ＧＰＵ内のハードウェアパイプラインを使用して命令を実行し得る。命令は、画素値の並列計算を提供し得る。汎用ＣＰＵは、並列画像計算にあまり適していない場合があるが、ＧＰＵは、記載されたアルゴリズムに従って画像処理を効率的に実行するために特別に構築された処理要素を含んでもよい。本明細書に記載されるように、対応する命令を提供し、ＧＰＵを構成するいくつかの例示的なプログラムは、シェーダと呼ばれる場合がある。いくつかの実装形態では、記載された特徴は、シェーダプログラムとして実装され得る。
【００６８】
いくつかの実施形態では、入力画像データストリーム５１２から処理されている画像データを、シェーダによってアクセスできるようにデータテクスチャとしてＧＰＵにアップロードしてもよい。各画素がシェーダによって処理されるとき、シェーダはテクスチャにアクセスし得る。いくつかの実施形態では、画素のｘ／ｙ位置は、その画素のシェーディングに使用されるテクスチャ値内の位置を決定する。次いで、この値は、シェーダ内に実装される様々なアルゴリズムを使用して処理され得る。
【００６９】
いくつかの実装形態では、入力画像データストリーム５１２に基づいて生成された画素において実行される第１の動作は、フィルタカーネルである。フィルタカーネルは、例えば平滑化など、畳み込み演算で使用され得る。カーネル自体は、特定のチャネルについてロードされたテクスチャであり得る。平滑化が完了した後、閾値処理、彩度、およびガンマ補正の動作が開始され得る。
【００７０】
追加の実施形態
本明細書で使用される場合、「システム」、「器具」、「装置」、および「デバイス」は、一般に、ハードウェア（例えば、機械的および電子的）、ならびにいくつかの実装形態では、関連するソフトウェア（例えば、グラフィックス制御のための専門的なコンピュータプログラム）構成要素の両方を包含する。
【００７１】
本明細書で使用される場合、「イベント」は、一般に、細胞または合成粒子などの単一の粒子から測定されるデータを指す。典型的には、単一の粒子から測定されるデータは、１つ以上の光散乱パラメータおよび少なくとも１つの蛍光強度パラメータを含むいくつかのパラメータを含む。したがって、各イベントは、パラメータ測定のベクトルとして表され、各測定されたパラメータは、データ空間の１つの次元に対応する。いくつかの生物学的用途では、イベントデータは、特定のタンパク質または遺伝子の発現を示す定量的な生物学的データに対応し得る。
【００７２】
本明細書で使用される場合、細胞または他の粒子など、粒子の「集団」、または「亜集団」は、一般に、測定されたパラメータデータがデータ空間内にクラスタを形成するように、１つ以上の測定されたパラメータに関して光学的特性を所有する粒子群を指す。したがって、集団は、データ内のクラスタとして認識される。逆に、各データクラスタは、一般に、典型的にはノイズまたはバックグラウンドに対応するクラスタも観察されるが、特定のタイプの細胞または粒子の集団に対応すると解釈される。クラスタは、例えば、測定されたパラメータのサブセットに関して、測定されたパラメータのサブセットのみで異なる集団に対応する寸法のサブセットで定義され得る。
【００７３】
本明細書で使用される場合、「ゲート」は、一般に、目的のデータのサブセット（例えば、粒子測定値）を識別する境界を指す。サイトメトリでは、ゲートは、特に関心があるイベント群をバインドし得る。イベントのグループは、集団と呼ばれる場合がある。さらに、本明細書で使用される場合、「ゲーティング」は、一般に、例えば、ユーザインターフェースまたはプレートおよびウェル選択を介して、データの所与のセットについてゲートを定義するプロセスを指し得る。
【００７４】
本開示の対話型および動的安全ゾーン生成および制御の様々な実施形態は、有意な研究、開発、改善、反復、および試験の結果である。この非自明な開発は、本明細書に記載される方法およびプロセスをもたらし、これは、以前のシステムに対して有意な効率および利点を提供し得る。対話型および動的ユーザインターフェースは、効率的なヒューマンコンピュータおよびコンピュータ間対話を含み、これは、作業負荷の低減、正確な予測分析などをユーザに提供し得る。例えば、エンティティのためのユーザ情報へのアクセスは、ユーザが安全なゾーンにいるときに認証情報を提供するようにユーザが促されないように自動化され得、それによって、ユーザが、従来のシステムよりもより迅速に、トランザクション（画像処理など）へのアクセス、そのナビゲート、それへの参加、および締結を行うことができるようになる。
【００７５】
さらに、本明細書に記載されるデータ処理ならびに対話型および動的ユーザインターフェースは、効率的なデータ処理の革新およびユーザインターフェースと基盤となるシステムおよび構成要素との間の対話によって可能になる。
【００７６】
必ずしもすべての目的または利点が本明細書に記載される任意の特定の実施形態に従って達成され得るとは限らないことを理解されたい。したがって、例えば、当業者であれば、いくつかの実施形態は、本明細書で教示または示唆され得る他の目的または利点を必ずしも達成することなく、本明細書で教示される１つの利点または利点群を達成または最適化する方法で動作するように構成され得ることが認識される。
【００７７】
前述のセクションに記載されるプロセス、方法、およびアルゴリズムの各々は、コンピュータハードウェアを含む１つ以上のコンピュータシステムまたはコンピュータプロセッサによって実行されるコードモジュールに具体化され得、それによって完全にまたは部分的に自動化され得る。コードモジュールは、ハードディスク、ソリッドステートメモリ、光ディスクなど、任意のタイプの非一時的コンピュータ可読媒体またはコンピュータ記憶デバイスに記憶され得る。システムおよびモジュールはまた、無線ベースおよび有線／ケーブルベースの媒体を含む様々なコンピュータ可読送信媒体上で生成されたデータ信号として（例えば、キャリア波または他のアナログまたはデジタル伝播信号の一部として）送信され得、様々な形態をとり得る（例えば、単一もしくは多重化されたアナログ信号の一部として、または複数の別個のデジタルパケットまたはフレームとして）。プロセスおよびアルゴリズムは、特定用途向け回路において部分的または完全に実装され得る。開示されるプロセスおよびプロセスステップの結果は、永続的に、またはそうでなければ、例えば揮発性または不揮発性ストレージなど、任意のタイプの非一時的コンピュータストレージに記憶され得る。
【００７８】
本明細書に記載されるもの以外の多くの他の変形例は、本開示から明らかである。例えば、実施形態に応じて、本明細書に記載されるアルゴリズムのうちのいずれかのいくつかの動作、イベント、または機能は、異なる順序で実行することができ、追加、マージ、または完全に省略することができる（例えば、アルゴリズムの実践のためにすべての記載された動作またはイベントが必要であるわけではない）。さらに、いくつかの実施形態では、動作またはイベントは、例えば、順次ではなく、マルチスレッド処理、割り込み処理、または複数のプロセッサもしくはプロセッサコアを介して、あるいは他の並列アーキテクチャ上で同時に実行することができる。加えて、異なるタスクまたはプロセスは、一緒に機能することができる異なるマシンおよび／またはコンピューティングシステムによって実行することができる。
【００７９】
本明細書に開示される実施形態に関連して説明される様々な例示的な論理ブロック、モジュール、およびアルゴリズム要素は、電子ハードウェア、コンピュータソフトウェア、または両方の組み合わせとして実装され得る。ハードウェアおよびソフトウェアのこの相互変換性を明確に例示するために、様々な例示的な構成要素、ブロック、モジュール、および要素は、一般にそれらの機能の観点から本明細書に記載されている。そのような機能がハードウェアとして実装されるか、ソフトウェアとして実装されるかは、システム全体に課される特定の用途および設計制約に依存する。記載される機能は、各特定のアプリケーションについて様々な方法で実装することができるが、そのような実装の決定は、本開示の範囲から逸脱を引き起こすと解釈されないものとする。
【００８０】
本明細書に記載される様々な特徴およびプロセスは、互いに独立して使用されてもよく、または様々な方法で組み合わせてもよい。すべての可能な組み合わせおよびサブ組み合わせは、本開示の範囲内であることが意図される。加えて、いくつかの方法またはプロセスブロックは、いくつかの実装形態では省略されてもよい。本明細書に記載される方法およびプロセスはまた、任意の特定の順序に限定されず、それに関連するブロックまたは状態は、適切な他の順序で実行することができる。例えば、記載されたブロックもしくは状態は、具体的に開示されるもの以外の順番で実行されてもよく、または複数のブロックもしくは状態は、単一のブロックもしくは状態で組み合わされてもよい。例示的なブロックまたは状態は、直列、並列、またはいくつかの他の方法で実行されてもよい。ブロックまたは状態は、開示された例示的な実施形態に追加されてもよく、またはそれから削除されてもよい。本明細書に開示される例示的なシステムおよび構成要素は、記載されたものと異なって構成されてもよい。例えば、要素は、開示された例示的な実施形態と比較して、追加、削除、または再配置されてもよい。
【００８１】
本明細書に開示される実施形態に関連して記載された様々な例示的な論理ブロックおよびモジュールは、汎用プロセッサ、デジタル信号プロセッサ（「ＤＳＰ」）、特定用途向け集積回路（「ＡＳＩＣ」）、フィールドプログラマブルゲートアレイ（「ＦＰＧＡ」）、または他のプログラマブル論理デバイス、離散ゲートもしくはトランジスタ論理、離散ハードウェア構成要素、または本明細書に記載された機能を実行するように設計されたそれらの任意の組み合わせなど、マシンによって実装または実行することができる。汎用プロセッサは、マイクロプロセッサとすることができるが、代替的に、プロセッサは、コントローラ、マイクロコントローラ、または状態機械、それらの組み合わせなどとすることができる。プロセッサは、コンピュータ実行可能命令を処理するように構成されている電気回路を含むことができる。別の実施形態では、プロセッサは、コンピュータ実行可能命令を処理することなく論理演算を実行するＦＰＧＡまたは他のプログラマブルデバイスを含む。プロセッサはまた、コンピューティングデバイスの組み合わせ、例えば、ＤＳＰとマイクロプロセッサの組み合わせ、複数のマイクロプロセッサ、ＤＳＰコアと併せて１つ以上のマイクロプロセッサ、または任意の他のそのような構成として実装することもできる。本明細書では主にデジタル技術に関して記載されているが、プロセッサは、主にアナログ構成要素も含み得る。例えば、本明細書に記載された信号処理アルゴリズムの一部またはすべては、アナログ回路または混合アナログおよびデジタル回路において実装され得る。コンピューティング環境は、これらに限定はされないが、いくつか挙げると、マイクロプロセッサ、メインフレームコンピュータ、デジタル信号プロセッサ、ポータブルコンピューティングデバイス、デバイスコントローラ、またはアプライアンス内の計算エンジンに基づくコンピュータシステムを含む、任意のタイプのコンピュータシステムを含むことができる。
【００８２】
本明細書に開示された実施形態に関連して記載された方法、プロセス、またはアルゴリズムの要素は、ハードウェア、１つ以上のメモリデバイスに記憶され、１つ以上のプロセッサによって実行されるソフトウェアモジュール、または２つの組み合わせにおいて直接具体化され得る。ソフトウェアモジュールは、ＲＡＭメモリ、フラッシュメモリ、ＲＯＭメモリ、ＥＰＲＯＭメモリ、ＥＥＰＲＯＭメモリ、レジスタ、ハードディスク、リムーバブルディスク、ＣＤ−ＲＯＭ、または当該技術分野で既知の任意の他の形態の非一時的コンピュータ可読記憶媒体、媒体、または物理的コンピュータストレージに常駐し得る。例示的な記憶媒体は、プロセッサが記憶媒体から情報を読み出し、記憶媒体に情報を書き込むことができるように、プロセッサに結合することができる。代替的に、記憶媒体は、プロセッサに一体とすることができる。記憶媒体は、揮発性または不揮発性とすることができる。プロセッサおよび記憶媒体は、ＡＳＩＣに常駐することができる。ＡＳＩＣは、ユーザ端末に常駐することができる。代替的に、プロセッサおよび記憶媒体は、ユーザ端末内の別個の構成要素として常駐することができる。
【００８３】
別段に明記されていない限り、または使用される文脈内で理解されている限り、「できる」、「できる」、「してもよい」、または「してもよい」などの条件付き言語は、一般に、いくつかの実施形態がいくつかの特徴、要素および／またはステップを含む一方、他の実施形態は含まないことを伝えることを意図する。したがって、そのような条件付き言語は、一般に、特徴、要素および／またはステップが１つ以上の実施形態に任意の方法で必要とされること、または１つ以上の実施形態が、ユーザ入力もしくはプロンプトの有無にかかわらず、これらの特徴、要素および／またはステップが任意の特定の実施形態に含まれるか、または実行されるべきであるかを決定するための論理を必然的に含むことを暗示することを意図していない。
【００８４】
本明細書で使用される場合、「データ記憶システム」は、ハードディスクドライブ、ソリッドステートメモリ、および／またはアクセスデバイス、サーバ、または記載される他のコンピューティングデバイスなどのデバイスから、またはデバイスによってアクセス可能な任意の他のタイプの非一時的コンピュータ可読記憶媒体を利用するコンピューティングシステムに具体化され得る。データ記憶システムはまた、または代替的に、本開示の範囲から逸脱することなく、当技術分野で知られているように、複数のローカルおよび／またはリモート記憶デバイスに分散または分割され得る。さらに他の実施形態では、データ記憶システムは、データ記憶ウェブサービスを含むか、またはデータ記憶ウェブサービスに具体化され得る。
【００８５】
本明細書で使用される場合、「決定する」または「決定すること」という用語は、多種多様なアクションを包含する。例えば、「決定すること」は、計算すること、演算すること、処理すること、導出すること、ルックアップすること（例えば、テーブル、データベースまたは別のデータ構造においてルックアップすること）、確認することなどを含み得る。また、「決定すること」は、受信すること（例えば、情報を受信すること）、アクセスすること（例えば、メモリ内のデータにアクセスすること）などを含んでもよい。また、「決定すること」は、解決すること、選択すること、選ぶこと、確立することなどを含み得る。
【００８６】
本明細書で使用される場合、「選択的に」または「選択的」という用語は、多種多様なアクションを包含し得る。例えば、「選択的」プロセスは、複数のオプションから１つのオプションを決定することを含み得る。「選択的」プロセスは、動的に決定された入力、事前構成された入力、または決定を行うためにユーザが開始した入力のうちの１つ以上を含み得る。いくつかの実装形態では、選択的機能を提供するために、ｎ入力スイッチが含まれ得、ｎは、選択を行うために使用される入力の数である。
【００８７】
本明細書で使用される場合、「提供する」または「提供すること」という用語は、多種多様なアクションを包含する。例えば、「提供すること」は、その後取り出すために、ある場所に値を記憶すること、値を受信側に直接送信すること、値への参照を送信または記憶することなどを含み得る。「提供すること」はまた、符号化、復号、暗号化、解読、妥当性検査、検証などを含み得る。
【００８８】
本明細書で使用される場合、「メッセージ」という用語は、情報を伝える（例えば、送信または受信する）ための多種多様な形式を包含する。メッセージは、ＸＭＬ文書、固定フィールドメッセージ、カンマ区切りメッセージなどの情報のマシン可読集約を含んでもよい。メッセージは、いくつかの実装形態では、情報の１つ以上の表現を送信するために利用される信号を含んでもよい。単数形で列挙されるが、メッセージは、複数の部分で構成され、送信され、記憶され、受信され得ることが理解される。
【００８９】
本明細書で使用される場合、「ユーザインターフェース」（対話型ユーザインターフェース、グラフィカルユーザインターフェースまたはＵＩとも呼ばれる）は、任意の受信された入力信号に応答して、入力信号を受信する、または電子情報を提供する、および／またはユーザに情報を提供するためのデータフィールドおよび／または他の制御を含むネットワークベースのインターフェースを指し得る。ＵＩは、ハイパーテキストマークアップ言語（ＨＴＭＬ）、ＡＤＯＢＥ（登録商標）フラッシュ（登録商標）、ＪＡＶＡ（登録商標）、ＭＩＣＲＯＳＯＦＴ（登録商標）．ＮＥＴ（登録商標）、ウェブサービス、およびリッチサイトサマリー（ＲＳＳ）などの技術を使用して、全体または部分的に実装され得る。いくつかの実装形態では、ＵＩは、記載された態様のうちの１つ以上に従って通信する（例えば、データを送信または受信する）ように構成されているスタンドアロンクライアント（例えば、シッククライアント、ファットクライアント）に含まれ得る。
【００９０】
「Ｘ、Ｙ、またはＺのうちの少なくとも１つ」という句のような離接的言語は、別段に明記されていない限り、そうでない場合、一般に、項目、用語などがＸ、Ｙ、またはＺ、あるいはそれらの任意の組み合わせ（例えば、Ｘ、Ｙ、および／またはＺ）のいずれかであり得ることを提示するために使用される文脈とともに理解される。したがって、そのような離接的言語は、一般に、いくつかの実施形態が、各々存在するためにＸのうちの少なくとも１つ、Ｙのうちの少なくとも１つ、またはＺのうちの少なくとも１つを必要とすることを暗示することを意図しておらず、また意図しないものとする。
【００９１】
本明細書に記載され、および／または添付の図に示されるフロー図内の任意のプロセスの記述、要素、またはブロックは、プロセス内の特定の論理関数またはステップを実装するための１つ以上の実行可能命令を含むモジュール、セグメント、またはコードの一部を潜在的に表すものとして理解されるものとする。代替の実装形態は、当業者であれば理解されるように、関与する機能に応じて、実質的に同時にまたは逆の順番を含む、要素または機能が示されるまたは議論されるものから順不同に削除され、実行され得る本明細書に記載される実施形態の範囲内に含まれる。
【００９２】
別段に明記されていない限り、「ａ」または「ａｎ」などの冠詞は、一般に、１つ以上の記載された項目を含むと解釈されるものとする。したがって、「に構成されているデバイス」などの句は、１つ以上の列挙されるデバイスを含むことが意図される。そのような１つ以上の列挙されたデバイスは、記載された列挙を実行するように集合的に構成することもできる。例えば、「列挙Ａ、Ｂ、およびＣを実行するように構成されているプロセッサ」は、列挙ＢおよびＣを実行するように構成されている第２のプロセッサと併せて動作する列挙Ａを実行するように構成されている第１のプロセッサを含むことができる。
【００９３】
本明細書に記載される方法およびプロセスのすべては、１つ以上の汎用コンピュータによって実行されるソフトウェアコードモジュールに具体化されてよく、かつ部分的または完全に自動化されてもよい。例えば、本明細書に記載された方法は、コンピューティングシステムおよび／または任意の他の好適なコンピューティングデバイスによって実行され得る。方法は、ソフトウェア命令または有形コンピュータ可読媒体から読み出された他の実行可能コードの実行に応答して、コンピューティングデバイス上で実行され得る。有形コンピュータ可読媒体は、コンピュータシステムによって可読であるデータを記憶することができるデータ記憶デバイスである。コンピュータ可読媒体の例には、読み取り専用メモリ、ランダムアクセスメモリ、他の揮発性または不揮発性メモリデバイス、ＣＤ−ＲＯＭ、磁気テープ、フラッシュドライブ、および光学データストレージデバイスがある。
【００９４】
本明細書に記載される実施形態に対して多くの変形および修正がなされてもよく、その要素は、他の許容される例の中のものとして理解されることが強調されるべきである。そのようなすべての修正および変形は、本明細書において、本開示の範囲内に含まれることが意図される。前述の説明は、いくつかの実施形態を詳細に説明している。しかしながら、前述がどんなに詳細に記載されても、システムおよび方法は、多くの方法で実践され得ることが理解される。本明細書にも記載されるように、システムおよび方法のあるいくつかの特徴または態様を説明するときの特定の用語の使用は、用語が、その用語が関連付けられるシステムおよび方法の特徴または態様の任意の特定の特徴を含むことに限定されるように、本明細書で再定義されていることを暗示するものとみなされるべきではないことに留意されたい。
【００９５】
当業者は、情報、メッセージ、および信号が、様々な異なる技術および技法のいずれかを使用して表され得ることを理解される。例えば、上述の説明全体を通じて参照され得るデータ、命令、コマンド、情報、信号、ビット、記号、およびチップは、電圧、電流、電磁波、磁場もしくは粒子、光学場もしくは粒子、またはそれらの任意の組み合わせによって表され得る。
【００９６】
関連出願の相互参照
本出願は、「ＩＭＡＧＥ  ＣＯＮＴＲＯＬ  ＡＮＤ  ＤＩＳＰＬＡＹ  ＦＯＲ  ＦＩＲＥ  ＤＡＴＡ  ＩＭＡＧＥＳ」と題する２０１８年４月２７日に出願された米国仮出願第６２／６６３，７５８号の利益を主張し、その内容の全体があらゆる目的のために参照により本明細書に組み込まれる。
【図１】
2021522499.tif 000003
【図２】
2021522499.tif 000004
【図３】
2021522499.tif 000005
【図４Ａ】
2021522499.tif 000006
【図４Ｂ】
2021522499.tif 000007
【図４Ｃ】
2021522499.tif 000008
【図５】
2021522499.tif 000009
【図６】
2021522499.tif 000010
【国際調査報告】
2021522499.tif 000011
2021522499.tif 000012
2021522499.tif 000013