【手続補正書】
【提出日】令和3年10月14日(2021.10.14)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
ニューロンの１つ又は複数の層から形成されたニューラルネットワークを使用するためのコンピュータ実施方法であって、
前記方法は、
前記ニューラルネットワークを使用して第１のニューラルネットワーク入力を処理し、それによって、第１のニューラルネットワーク出力を生成するステップと、
前記ニューラルネットワークを使用して第２のニューラルネットワーク入力を処理し、それによって、第２のニューラルネットワーク出力を生成するステップと、
第１の類似性指標を決定するステップであって、第１の類似性指標が、第１のニューラルネットワーク出力と第２のニューラルネットワーク出力との間の類似性のレベルを示す、前記決定するステップと、
前記ニューラルネットワークの１つ又は複数のニューロンのセットを選択するステップであって、前記ニューロンのセットが前記ニューラルネットワークの単一層のニューロンのサブセットである、前記選択するステップと、
前記ニューラルネットワークが前記第１のニューラルネットワーク入力を処理するために使用されるとき、各選択されたニューロンの活性化値を決定するステップであって、それによって、第１の活性化値のセットを生成する、前記決定するステップと、
前記ニューラルネットワークが前記第２のニューラルネットワーク入力を処理するために使用されるとき、各選択されたニューロンの活性化値を決定するステップであって、それによって、第２の活性化値のセットを生成する、前記決定するステップと、
前記第１の活性化値のセットと対応する第２の活性化値のセットとの間の類似性のレベルを示す第２の類似性指標を決定するステップと、
前記第１及び第２のニューラルネットワーク入力のうちの１つのニューラルネットワークによる潜在的な不正確な処理を決定するステップであって、前記潜在的な不正確な処理は、
第１の所定の閾値を超える類似性のレベルを示す前記第１の類似性指標、及び第２の所定の閾値未満の類似性のレベルを示す前記第２の類似性指標、又は、
第３の所定の閾値未満の類似性のレベルを示す前記第１の類似性指標、及び第４の所定の閾値を超える類似性のレベルを示す前記第２の類似性指標
のいずれかを含む、前記決定するステップと、
前記潜在的な不正確な処理をユーザにフラグで警告するステップとを有する、
方法。
【請求項２】
前記ニューラルネットワークを使用して前記第１のニューラルネットワーク入力を処理するステップは、前記第１のニューラルネットワーク入力をある分類に分類するステップであって、その分類が第１のニューラルネットワーク出力である、前記分類するステップを有し、
前記ニューラルネットワークを使用して前記第２のニューラルネットワーク入力を処理するステップは、前記第２のニューラルネットワーク入力をある分類に分類するステップであって、その分類が前記第２のニューラルネットワーク出力である、前記分類するステップを有し、
前記第１の類似性指標を決定するステップは、前記第１及び第２のニューラルネットワーク入力の分類が同じであるかどうかを識別する、前記第１の類似性指標を生成するステップを有し、
前記第１及び第２のニューラルネットワーク入力のうちの１つのニューラルネットワークによる潜在的な不正確な処理を決定するステップは、
前記第１の類似性指標が、前記第１及び第２のニューラルネットワーク入力の分類が同じであることを示し、前記第２の類似性指標が第２の所定の閾値未満の類似性のレベルを示しているか、又は、
第１の類似性指標が、第１及び第２のニューラルネットワーク入力の分類が異なることを示し、前記第２の類似性指標が第４の所定の閾値を超える類似性のレベルを示しているかどうかを決定するステップを有する、
請求項１に記載のコンピュータ実施方法。
【請求項３】
前記ニューロンのセットは、同じ層の少なくとも２つのニューロンを含む、
請求項１又は２に記載のコンピュータ実施方法。
【請求項４】
前記第２の類似性指標を決定するステップは、第１の値のセットと第２の値のセットとの間の多次元距離を計算するステップを有する、
請求項３に記載のコンピュータ実施方法。
【請求項５】
前記第２及び第４の所定の閾値は、所定の閾値距離である、
請求項５に記載のコンピュータ実施方法。
【請求項６】
前記１つ又は複数のニューロンのセットを選択するステップは、前記第１のニューラルネットワーク入力を処理するために前記ニューラルネットワークが使用されるときに、活性化値の所定の範囲の外にある活性化値を有する同じ層の１つ又は複数のニューロンを選択するステップを有する、
請求項１から５の何れか一項に記載のコンピュータ実施方法。
【請求項７】
前記１つ又は複数のニューロンのセットを選択するステップは、前記第２のニューラルネットワーク入力を処理するために前記ニューラルネットワークが使用されるときに、活性化値の所定の範囲の外にある活性化値を有する同じ層の１つ又は複数のニューロンを選択するステップを有する、
請求項１から５の何れか一項に記載のコンピュータ実施方法。
【請求項８】
前記ニューラルネットワークを使用して前記第２のニューラルネットワーク入力を処理するステップは、前記ニューラルネットワークを使用して複数の前記第２のニューラルネットワーク入力を処理し、それによって、複数の第２のニューラルネットワーク出力を生成するステップを有し、
前記第１の類似性指標を決定するステップは、前記複数の第２のニューラルネットワーク入力の各々に対して、前記第１のニューラルネットワーク出力と前記第２のニューラルネットワーク出力との間の類似性のレベルを示す第１の類似性指標を決定し、それによって、複数の第１の類似性指標を生成するステップを有し、
前記第２の活性化値のセットを生成するステップは、前記複数の第２のニューラルネットワーク入力の各々に対して、前記第２のニューラルネットワーク入力を処理するために前記ニューラルネットワークが使用されるときに各選択されたニューロンの活性化値を決定し、それによって、前記第２のニューラルネットワーク入力ごとに第２の活性化値のセットを生成し、それによって、前記複数の第２の活性化値のセットを生成するステップを有し、
前記第２の類似性指標を決定するステップは、前記複数の第２のニューラルネットワーク入力の各々に対して、前記第１の活性化値のセットと対応する前記第２の活性化値のセットとの間の類似性のレベルを示す前記第２の類似性指標を決定し、それによって、複数の第２の類似性指標を生成するステップを有し、
前記第１及び第２のニューラルネットワーク入力のうちの１つのニューラルネットワークによる潜在的な不正確な処理を決定するステップが、
前記第２のニューラルネットワーク入力ごとに、
前記第１の類似性指標が第１の所定の閾値を超える類似性のレベルを示し、前記第２の類似性指標が第２の所定の閾値未満の類似性のレベルを示すか、又は、
前記第１の類似性指標が第３の所定の閾値未満の類似性のレベルを示し、前記第２の類似性指標が第４の所定の閾値を超える類似性のレベルを示すかどうかを決定し、
それによって、前記第２のニューラルネットワーク入力ごとに、前記第１及び第２のニューラルネットワーク入力のうちの１つが前記ニューラルネットワークによって潜在的に不正確に処理されたかどうかを決定するステップと、
前記第１及び第２のニューラルネットワーク入力のうちの１つが前記ニューラルネットワークによって潜在的に不正確に処理されたことが決定されるすべての前記第２のニューラルネットワーク入力を識別するステップとを有する、
請求項１又は２に記載のコンピュータ実施方法。
【請求項９】
前記第２のニューラルネットワーク入力ごとに第２の類似性指標を決定するステップは、
前記第１の活性化値のセットと前記複数の第２の活性化値のセットの各々とに多次元クラスタリングを実行するステップと、
前記第２のニューラルネットワーク入力ごとに、前記第１のニューラルネットワーク入力及び第２のニューラルネットワーク入力が同じクラスタの活性化値のセットに関連しているかどうかを示す第２の類似性指標を生成するステップとを有する、
請求項８に記載の方法。
【請求項１０】
前記第１及び第２のニューラルネットワーク入力のうちの１つ又は複数に対して正しいニューラルネットワーク出力を示すユーザ入力を得て、前記正しいニューラルネットワーク出力に基づいて前記ニューラルネットワーク入力を再訓練するステップをさらに有する、
請求項１から９の何れか一項に記載のコンピュータ実施方法。
【請求項１１】
前記第１及び第２のニューラルネットワーク入力は、医用画像、医療機器若しくはセンサからの出力、又は医療記録のうちの任意の１つ又はこれらの任意の組合せを含む、請求項１から１０の何れか一項に記載のコンピュータ実施方法。
【請求項１２】
非一時的コンピュータ可読媒体の中に具現されたコンピュータ可読コードを有し、前記コンピュータ可読コードは、適切なコンピュータ又はプロセッサによる実行により、前記コンピュータ又は前記プロセッサに請求項１から１０の何れか一項に記載の方法を実行させるように構成される、非一時的コンピュータ可読媒体。
【請求項１３】
命令のセットを表す命令データを含むメモリと、前記メモリと通信し、前記命令のセットを実行するプロセッサとを含む、システムであって、
前記命令のセットは、前記プロセッサによって実行されると、
ニューラルネットワークを使用して第１のニューラルネットワーク入力を処理して、第１のニューラルネットワーク出力を生成すること、
前記ニューラルネットワークを使用して第２のニューラルネットワーク入力を処理して、第２のニューラルネットワーク出力を生成すること、
第１の類似性指標を決定することであって、前記第１の類似性指標が、前記第１のニューラルネットワーク出力と前記第２のニューラルネットワーク出力との間の類似性のレベルを示す、決定すること、
前記ニューラルネットワークの１つ又は複数のニューロンのセットを選択することであって、前記ニューロンのセットが前記ニューラルネットワークの単一層のニューロンのサブセットである、選択すること、
前記第１のニューラルネットワーク入力を処理するために前記ニューラルネットワークが使用されるときに、各選択されたニューロンの活性化値を決定し、それによって、第１の活性化値のセットを生成すること、
前記第２のニューラルネットワーク入力を処理するために前記ニューラルネットワークが使用されるときに、各選択されたニューロンの活性化値を決定し、それによって、第２の活性化値のセットを生成すること、
前記第１の活性化値のセットと対応する第２の活性化値のセットとの間の類似性のレベルを示す第２の類似性指標を決定すること、
前記第１及び第２のニューラルネットワーク入力のうちの１つのニューラルネットワークによる潜在的な不正確な処理を決定することであって、前記潜在的な不正確な処理は、
前記第１の類似性指標が第１の所定の閾値を超える類似性のレベルを示し、前記第２の類似性指標が第２の所定の閾値未満の類似性のレベルを示すか、又は
前記第１の類似性指標が第３の所定の閾値未満の類似性のレベルを示し、第２の類似性指標が第４の所定の閾値を超える類似性のレベルを示すことを含む、決定すること、並びに、
前記潜在的な不正確な処理をユーザにフラグで警告することを、
プロセッサに行わせる、システム。