(57)【要約】開示されるシステム、方法、およびコンピュータ可読媒体は、意味的エンティティ間の関連を検出し、エンティティ間の意味的情報を生成することができる。例えば、知識ベース内に存在する意味的エンティティおよび関連付けられた意味的集合を、識別することができる。期間を決定し、時間スライスへと分割することができる。各時間スライスについて、識別された意味的エンティティについてのワードエンベディングを生成することができ、第１の意味的エンティティ入力と第２の意味的エンティティ入力との間の第１の意味的関連強度を決定することができ、第１の意味的エンティティ入力と、第２の意味的エンティティと関連付けられた意味的集合と関連付けられた意味的エンティティとの間の第２の意味的関連強度を決定することができる。第１の意味的関連強度および第２の意味的関連強度に基づいて出力を提供することができる。【選択図】図２２Ｂ
2019536178.tif 000002
【特許請求の範囲】
【請求項１】
意味的エンティティ間の関連を検出する方法であって、
１つ以上の知識ベース内に存在する意味的エンティティおよび関連付けられた意味的集合を識別することであって、前記意味的エンティティが、単一ワードまたは複数ワードフレーズのうちの１つ以上を含み、意味的集合の前記意味的エンティティが、エンティティタイプを共有する、識別することと、
分析のための期間を決定することと、
前記期間を１つ以上の時間スライスへと分割することと、
各時間スライスについて、１つ以上のコーパスに基づいて前記識別された意味的エンティティについての一組のワードエンベディングを生成することと、
各時間スライスについて、第１の意味的エンティティ入力と第２の意味的エンティティ入力との間の第１の意味的関連強度を決定することと、
各時間スライスについて、前記第１の意味的エンティティ入力と、前記第２の意味的エンティティと関連付けられた意味的集合における複数の意味的エンティティとの間の第２の意味的関連強度を決定することと、
前記１つ以上の時間スライスについての前記第１の意味的関連強度および前記第２の意味的関連強度に基づく出力を提供することと、を含む、方法。
【請求項２】
前記１つ以上のコーパスが、構造化データおよび非構造化データを含む、請求項１に記載の方法。
【請求項３】
意味的エンティティを識別することが、（１）意味的集合に属する意味的エンティティとして、１つ以上の単一ワードまたは複数ワードフレーズを識別する自動的方法と、（２）前記１つ以上の知識ベースから、強制的に１つ以上の単一ワードまたは複数ワードフレーズを選択することと、のうちの１つ以上を含む、請求項１に記載の方法。
【請求項４】
前記１つ以上の単一ワードまたは複数ワードフレーズが、構造化データベースからコンパイルされた情報から強制的に選択される、請求項３に記載の方法。
【請求項５】
意味的エンティティを識別することが、前記期間の間前記１つ以上の知識ベース内のすべてのテキストにおいて実行される、請求項１に記載の方法。
【請求項６】
前記ワードエンベディングが、Ｗｏｒｄ２ｖｅｃ、ＡｄａＧｒａｍ、ｆａｓｔＴｅｘｔ、およびＤｏｃ２ｖｅｃのうちの１つ以上を使用して生成される、請求項１に記載の方法。
【請求項７】
前記ワードエンベディングが、他の時間スライスについて生成されたワードエンベディングとは独立して、各時間スライスについて生成される、請求項１に記載の方法。
【請求項８】
時間スライスについての前記ワードエンベディングが、先の時間スライスからのワードエンベディングを活用することによって生成される、請求項１に記載の方法。
【請求項９】
前記第２の意味的エンティティと関連付けられた前記意味的集合と関連付けられる前記複数の意味的エンティティが、前記第２の意味的エンティティを含まない、請求項１に記載の方法。
【請求項１０】
前記第２の意味的関連強度が、前記第１の意味的エンティティ入力と、前記第２の意味的エンティティと関連付けられた意味的集合と関連付けられる前記複数の意味的エンティティとの間の一組の意味的関連強度の平均値、中央値、または百分位数である、請求項１に記載の方法。
【請求項１１】
第２の、後続の時間スライスの前記第１の意味的関連強度に対する、第１の時間スライスの前記第１の意味的関連強度の増加を検出することと、
前記第１の意味的関連強度の前記増加が、対応する第２の意味的関連に対して統計学的に有意であるかどうかを決定することと、を更に含む、請求項１に記載の方法。
【請求項１２】
前記増加の前記統計学的な有意性が、前記対応する第２の意味的関連に対する、前記第１の意味的関連強度の統計学的な有意性の尺度としてのｐ値に基づいて決定される、請求項１１に記載の方法。
【請求項１３】
前記１つ以上の知識ベース内の前記第１のエンティティと前記第２のエンティティとの間の共起のレベルに基づいて、前記第１のエンティティ入力および前記第２のエンティティ入力を選択することを更に含む、請求項１に記載の方法。
【請求項１４】
前記第１のエンティティと前記第２のエンティティとの間の前記共起のレベルが、ゼロである、請求項１３に記載の方法。
【請求項１５】
ユーザーから前記第１のエンティティ入力および前記第２のエンティティ入力を受信することを更に含む、請求項１に記載の方法。
【請求項１６】
各時間スライスについて、前記第１のエンティティおよび前記第２のエンティティを含む前記１つ以上のコーパス内に存在するドキュメントのカウントを決定することと、
（１）第２の、後続の時間スライスについての前記第１の意味的関連強度に対する、第１の時間スライスについての前記第１の意味的関連強度の増加に関連付けられる第１の日付と、（２）第４の時間スライスの間の前記第１のエンティティおよび前記第２のエンティティを含むドキュメントのカウントに対する、第３の時間スライスの間の前記第１のエンティティおよび前記第２のエンティティを含むドキュメントのカウントの増加に関連付けられる第２の日付との間の時間差を決定することと、を更に含む、請求項１に記載の方法。
【請求項１７】
固定軸における曲線の傾きに基づいて、前記第１のエンティティおよび前記第２のエンティティを含む前記ドキュメントのカウントの前記増加を検出することであって、前記曲線が、前記曲線のｘ軸上の前記期間および前記曲線のｙ軸上の前記ドキュメントのカウントに基づく、検出することを更に含む、請求項１６に記載の方法。
【請求項１８】
ドキュメントカウント閾値に基づいて前記第１のエンティティおよび前記第２のエンティティを含む前記ドキュメントのカウントの第２の増加を検出することを更に含む、請求項１６に記載の方法。
【請求項１９】
前記第１のエンティティおよび前記第２のエンティティのそれぞれが、以下のエンティティタイプ、すなわち、バイオ分子、バイオエンティティ、疾患、有害事象、表現型、企業、機関、大学、病院、人、薬剤、医療器具、または医療手技のうちの１つ以上である、請求項１に記載の方法。
【請求項２０】
前記出力が、前記期間にわたる前記時間スライスのそれぞれについての前記第１の意味的関連強度のそれぞれをプロットすることによって作成されるグラフラインを、ユーザーデバイスが表示することを可能にする、請求項１に記載の方法。
【請求項２１】
前記出力が、前記期間にわたる前記時間スライスのそれぞれについての平均の第２の意味的関連強度のそれぞれをプロットすることによって作成されるグラフラインを、ユーザーデバイスが表示することを可能にする、請求項１に記載の方法。
【請求項２２】
前記出力が、前記期間にわたる前記時間スライスのそれぞれについての前記第１のエンティティおよび前記第２のエンティティを含む前記１つ以上のコーパス内に存在するドキュメントのカウントをプロットすることによって作成されるグラフラインを、ユーザーデバイスが表示することを可能にする、請求項１に記載の方法。
【請求項２３】
意味的エンティティ間の関連を検出するシステムであって、
モジュールを記憶するメモリと、
プロセッサであって、前記プロセッサに、
１つ以上の知識ベース内に存在する意味的エンティティおよび関連付けられた意味的集合を識別することであって、前記意味的エンティティが、単一ワードまたは複数ワードフレーズのうちの１つ以上を含み、意味的集合の前記意味的エンティティが、エンティティタイプを共有する、識別することと、
分析のための期間を決定することと、
前記期間を１つ以上の時間スライスへと分割することと、
各時間スライスについて、１つ以上のコーパスに基づいて、前記識別された意味的エンティティについての一組のワードエンベディングを生成することと、
各時間スライスについて、第１の意味的エンティティ入力と第２の意味的エンティティ入力との間の第１の意味的関連強度を決定することと、
各時間スライスについて、前記第１の意味的エンティティ入力と、前記第２の意味的エンティティと関連付けられた意味的集合における複数の意味的エンティティとの間の第２の意味的関連強度を決定することと、
前記１つ以上の時間スライスについての前記第１の意味的関連強度および前記第２の意味的関連強度に基づく出力を提供することと、
を行わせるように構成される、前記メモリ内に記憶された前記モジュールを実行させるように構成されたプロセッサと、を備える、システム。
【請求項２４】
前記１つ以上のコーパスが、構造化データおよび非構造化データを含む、請求項２３に記載のシステム。
【請求項２５】
意味的エンティティを識別することが、（１）意味的集合に属する意味的エンティティとして、１つ以上の単一ワードまたは複数ワードフレーズを識別する自動的方法と、（２）前記１つ以上の知識ベースから強制的に１つ以上の単一ワードまたは複数ワードフレーズを選択することと、のうちの１つ以上を含む、請求項２３に記載のシステム。
【請求項２６】
前記１つ以上の単一ワードまたは複数ワードフレーズが、構造化データベースからコンパイルされた情報から強制的に選択される、請求項２５に記載のシステム。
【請求項２７】
意味的エンティティを識別することが、前記期間の間前記１つ以上の知識ベース内のすべてのテキストにおいて実行される、請求項２３に記載のシステム。
【請求項２８】
前記ワードエンベディングが、Ｗｏｒｄ２ｖｅｃ、ＡｄａＧｒａｍ、ｆａｓｔＴｅｘｔ、およびＤｏｃ２ｖｅｃのうちの１つ以上を使用して生成される、請求項２３に記載のシステム。
【請求項２９】
前記ワードエンベディングが、他の時間スライスについて生成されたワードエンベディングとは独立して、各時間スライスについて生成される、請求項２３に記載のシステム。
【請求項３０】
時間スライスについての前記ワードエンベディングが、先の時間スライスからのワードエンベディングを活用することによって生成される、請求項２３に記載のシステム。
【請求項３１】
前記第２の意味的エンティティと関連付けられた前記意味的集合と関連付けられる前記複数の意味的エンティティが、前記第２の意味的エンティティを含まない、請求項２３に記載のシステム。
【請求項３２】
前記第２の意味的関連強度が、前記第１の意味的エンティティ入力と、前記第２の意味的エンティティと関連付けられた意味的集合と関連付けられる前記複数の意味的エンティティとの間の一組の意味的関連強度の平均値、中央値、または百分位数である、請求項２３に記載のシステム。
【請求項３３】
前記メモリ内に記憶された前記モジュールが、前記プロセッサに、
第２の、後続の時間スライスの前記第１の意味的関連強度に対する、第１の時間スライスの前記第１の意味的関連強度の増加を検出することと、
前記第１の意味的関連強度の前記増加が、対応する第２の意味的関連に対して統計学的に有意であるかどうかを決定することと、を行わせるように更に構成される、請求項２３に記載のシステム。
【請求項３４】
前記増加の前記統計学的な有意性が、前記対応する第２の意味的関連に対する、前記第１の意味的関連強度の統計学的な有意性の尺度としてのｐ値に基づいて、決定される、請求項２３に記載のシステム。
【請求項３５】
前記メモリ内に記憶された前記モジュールが、前記プロセッサに、
前記１つ以上の知識ベース内の前記第１のエンティティと前記第２のエンティティとの間の共起のレベルに基づいて、前記第１のエンティティ入力および前記第２のエンティティ入力を選択させるように更に構成される、請求項２３に記載のシステム。
【請求項３６】
前記第１のエンティティと前記第２のエンティティとの間の前記共起のレベルが、ゼロである、請求項３５に記載のシステム。
【請求項３７】
前記メモリ内に記憶された前記モジュールが、前記プロセッサに、
ユーザーから前記第１のエンティティ入力および前記第２のエンティティ入力を受信させるように、更に構成される、請求項２３に記載のシステム。
【請求項３８】
前記メモリ内に記憶された前記モジュールが、前記プロセッサに、
各時間スライスについて、前記第１のエンティティおよび前記第２のエンティティを含む前記１つ以上のコーパス内に存在するドキュメントのカウントを決定することと、
（１）第２の、後続の時間スライスについての前記第１の意味的関連強度に対する、第１の時間スライスについての前記第１の意味的関連強度の増加に関連付けられる第１の日付と、（２）第４の時間スライスについての前記第１のエンティティおよび前記第２のエンティティを含むドキュメントのカウントに対する、第３の時間スライスについての前記第１のエンティティおよび前記第２のエンティティを含むドキュメントのカウントの増加に関連付けられる第２の日付との間の時間差を決定することと、を行わせるように、更に構成される、請求項２３に記載のシステム。
【請求項３９】
前記メモリ内に記憶された前記モジュールが、前記プロセッサに、
固定軸における曲線の傾きに基づいて、前記第１のエンティティおよび前記第２のエンティティを含む前記ドキュメントのカウントの前記増加を検出することであって、前記曲線が、前記曲線のｘ軸上の前記期間および前記曲線のｙ軸上の前記ドキュメントのカウントに基づく、検出することを行わせるように、更に構成される、請求項３８に記載のシステム。
【請求項４０】
前記メモリ内に記憶された前記モジュールが、前記プロセッサに、
ドキュメントカウント閾値に基づいて、前記第１のエンティティおよび前記第２のエンティティを含む前記ドキュメントのカウントの前記第２の増加を検出させるように、更に構成される、請求項３８に記載のシステム。
【請求項４１】
前記第１のエンティティおよび前記第２のエンティティそれぞれが、以下のエンティティタイプ、すなわち、バイオ分子、バイオエンティティ、疾患、有害事象、表現型、企業、機関、大学、病院、人、薬剤、医療器具、および医療手技のうちの１つ以上である、請求項２３に記載のシステム。
【請求項４２】
前記出力が、前記期間にわたる前記時間スライスのそれぞれについての前記第１の意味的関連強度のそれぞれをプロットすることによって作成されるグラフラインを、ユーザーデバイスが表示することを可能にする、請求項２３に記載のシステム。
【請求項４３】
前記出力が、前記期間にわたる前記時間スライスのそれぞれについての平均の第２の意味的関連強度のそれぞれをプロットすることによって作成されるグラフラインを、ユーザーデバイスが表示することを可能にする、請求項２３に記載のシステム。
【請求項４４】
前記出力が、前記期間にわたる前記時間スライスのそれぞれについての前記第１のエンティティおよび前記第２のエンティティを含む前記１つ以上のコーパス内に存在するドキュメントのカウントをプロットすることによって作成されるグラフラインを、ユーザーデバイスが表示することを可能にする、請求項２３に記載のシステム。
【請求項４５】
エンティティ間の意味的情報を生成する方法であって、
１つ以上のコーパス内の複数の意味的エンティティを識別することであって、前記意味的エンティティが、単一ワードまたは複数ワードフレーズのうちの１つ以上を含む、識別することと、
前記１つ以上のコーパス内の複数の意味的エンティティタイプを識別することと、
１つ以上の意味的エンティティタイプを、前記複数の意味的エンティティの前記意味的エンティティと関連付けることと、
前記複数の意味的エンティティについてのワードエンベディングを生成することと、
前記ワードエンベディングに基づいて、前記複数の意味的エンティティからの意味的エンティティ間の１つ以上の意味的関連スコアを決定することと、
クエリ用語を受信することと、
前記１つ以上の意味的関連スコアに基づいて、前記クエリ用語と関連付けられた結果として生じる意味的エンティティの第１のリストを生成することと、
前記結果として生じる意味的エンティティの第１のリストの前記意味的エンティティと関連付けられた前記意味的エンティティタイプに基づいて、意味的エンティティ集合の第２のリストを生成することであって、前記第２のリストからの各意味的エンティティ集合が、意味的エンティティタイプと関連付けられる、生成することと、
意味的エンティティ集合の前記第２のリストに基づく出力を提供することと、を含む、方法。
【請求項４６】
前記１つ以上のコーパスが、構造化データおよび非構造化データを含む、請求項４５に記載の方法。
【請求項４７】
前記複数の意味的エンティティタイプが、構造化データベース、エンティティタイプのカスタムリスト、ニューラルネットワークからの出力、教師付き機械学習からの出力、または教師なし機械学習からの出力のうちの１つ以上に基づいて、識別される、請求項４５に記載の方法。
【請求項４８】
前記ニューラルネットワークアーキテクチャが、リカレントニューラルネットワーク（ＲＮＮ）または長短期メモリ（ＬＳＴＭ）のうちの１つ以上である、請求項４７に記載の方法。
【請求項４９】
前記ワードエンベディングが、Ｗｏｒｄ２ｖｅｃ、ＡｄａＧｒａｍ、ｆａｓｔＴｅｘｔ、およびＤｏｃ２ｖｅｃのうちの１つ以上を使用して生成される、請求項４５に記載の方法。
【請求項５０】
前記結果として生じる意味的エンティティの第１のリストの前記意味的エンティティと関連付けられた前記意味的エンティティタイプに基づいて、前記意味的エンティティ集合の第２のリストを前記生成することが、以下の条件、すなわち、潜在的な意味的エンティティタイプと関連付けられる最大数の結果として生じる意味的エンティティ、結果として生じる意味的エンティティについての最小の意味的関連スコア、前記１つ以上のコーパス内の前記結果として生じる意味的エンティティの最小数の出現、前記１つ以上のコーパスの最小数のドキュメントにおいて発生する前記結果として生じる意味的エンティティ、前記クエリ用語および前記結果として生じる意味的エンティティの最小数の共起、前記クエリ用語および前記結果として生じる意味的エンティティの最大数の共起、前記クエリ用語と前記結果として生じる意味的エンティティとが共起する場合の前記１つ以上のコーパスの最小数のドキュメント、ならびに前記クエリ用語と前記結果として生じる意味的エンティティとが共起する場合の前記１つ以上のコーパスの最大数のドキュメント、のうちの１つ以上を満たす、それらの結果として生じる意味的エンティティにのみ、前記生成が基づくことを含む、請求項４５に記載の方法。
【請求項５１】
意味的エンティティ集合の前記第２のリストを生成することが、前記第２のリスト内の意味的エンティティ集合の数を、最大数に制限することを含む、請求項４５に記載の方法。
【請求項５２】
意味的エンティティ集合の前記第２のリストを生成することが、前記第２のリストの前記意味的エンティティ集合のそれぞれにおける最小数の意味的エンティティを要求することを含む、請求項４５に記載の方法。
【請求項５３】
意味的エンティティ集合の前記第２のリストを生成することが、前記第２のリストの前記意味的エンティティ集合のそれぞれにおける前記意味的エンティティのそれぞれについての最小の意味的関連スコアを要求することを含む、請求項４５に記載の方法。
【請求項５４】
意味的エンティティ集合の前記第２のリストを生成することが、選択された意味的エンティティ集合と関連付けられる前記１つ以上の結果として生じる意味的エンティティに更に基づく、請求項４５に記載の方法。
【請求項５５】
前記出力が、前記第１のリストからの前記結果として生じる意味的エンティティのうちの１つ以上、および前記第２のリストからの前記意味的エンティティ集合のうちの１つ以上を、ユーザーデバイスが列挙することを可能にする、請求項４５に記載の方法。
【請求項５６】
エンティティ間の意味的情報を生成するシステムであって、
モジュールを記憶するメモリと、
プロセッサであって、前記プロセッサに、
１つ以上のコーパス内の複数の意味的エンティティを識別することであって、前記意味的エンティティが、単一ワードまたは複数ワードフレーズのうちの１つ以上を含む、識別することと、
前記１つ以上のコーパス内の複数の意味的エンティティタイプを識別することと、
１つ以上の意味的エンティティタイプを、前記複数の意味的エンティティの前記意味的エンティティと関連付けることと、
前記複数の意味的エンティティについてのワードエンベディングを生成することと、
前記ワードエンベディングに基づいて、前記複数の意味的エンティティからの意味的エンティティ間の１つ以上の意味的関連スコアを決定することと、
クエリ用語を受信することと、
前記１つ以上の意味的関連スコアに基づいて、前記クエリ用語と関連付けられた結果として生じる意味的エンティティの第１のリストを生成することと、
結果として生じる意味的エンティティの前記第１のリストの前記意味的エンティティと関連付けられた前記意味的エンティティタイプに基づいて、意味的エンティティ集合の第２のリストを生成することであって、前記第２のリストからの各意味的エンティティ集合が、意味的エンティティタイプと関連付けられる、生成することと、
意味的エンティティ集合の前記第２のリストに基づく出力を提供することと、を行わせるように構成される、前記メモリ内に記憶された前記モジュールを実行させるように構成されたプロセッサと、を備える、システム。
【請求項５７】
前記１つ以上のコーパスが、構造化データおよび非構造化データを含む、請求項５６に記載のシステム。
【請求項５８】
前記複数の意味的エンティティタイプが、構造化データベース、エンティティタイプのカスタムリスト、ニューラルネットワークからの出力、教師付き機械学習からの出力、または教師なし機械学習からの出力のうちの１つ以上に基づいて、識別される、請求項５６に記載のシステム。
【請求項５９】
前記ニューラルネットワークアーキテクチャが、リカレントニューラルネットワーク（ＲＮＮ）または長短期メモリ（ＬＳＴＭ）のうちの１つ以上である、請求項５８に記載のシステム。
【請求項６０】
前記ワードエンベディングが、Ｗｏｒｄ２ｖｅｃ、ＡｄａＧｒａｍ、ｆａｓｔＴｅｘｔ、およびＤｏｃ２ｖｅｃのうちの１つ以上を使用して生成される、請求項５６に記載のシステム。
【請求項６１】
結果として生じる意味的エンティティの前記第１のリストの前記意味的エンティティと関連付けられた前記意味的エンティティタイプに基づいて、前記意味的エンティティ集合の前記第２のリストを生成することが、以下の条件、すなわち、潜在的な意味的エンティティタイプと関連付けられる最大数の結果として生じる意味的エンティティ、結果として生じる意味的エンティティについての最小の意味的関連スコア、前記１つ以上のコーパス内の前記結果として生じる意味的エンティティの最小数の出現、前記１つ以上のコーパスの最小数のドキュメントにおいて生じる前記結果として生じる意味的エンティティ、前記クエリ用語および前記結果として生じる意味的エンティティの最小数の共起、前記クエリ用語および前記結果として生じる意味的エンティティの最大数の共起、前記クエリ用語と前記結果として生じる意味的エンティティが共起する場合の前記１つ以上のコーパスの最小数のドキュメント、ならびに前記クエリ用語と前記結果として生じる意味的エンティティが共起する場合の前記１つ以上のコーパスの最大数のドキュメント、のうちの１つ以上を満たす、それらの結果として生じる意味的エンティティにのみ、前記生成が基づくことを含む、請求項５６に記載のシステム。
【請求項６２】
意味的エンティティ集合の前記第２のリストを生成することが、前記第２のリスト内の意味的エンティティ集合の数を、最大数に制限することを含む、請求項５６に記載のシステム。
【請求項６３】
意味的エンティティ集合の前記第２のリストを生成することが、前記第２のリストの前記意味的エンティティ集合のそれぞれにおける最小数の意味的エンティティを要求することを含む、請求項５６に記載のシステム。
【請求項６４】
意味的エンティティ集合の前記第２のリストを生成することが、前記第２のリストの前記意味的エンティティ集合のそれぞれにおける前記意味的エンティティのそれぞれについての最小の意味的関連スコアを要求することを含む、請求項５６に記載のシステム。
【請求項６５】
意味的エンティティ集合の前記第２のリストを生成することが、選択された意味的エンティティ集合と関連付けられる前記１つ以上の結果として生じる意味的エンティティに更に基づく、請求項５６に記載のシステム。
【請求項６６】
前記出力が、前記第１のリストからの前記結果として生じる意味的エンティティのうちの１つ以上、および前記第２のリストからの前記意味的エンティティ集合のうちの１つ以上を、ユーザーデバイスが列挙することを可能にする、請求項５６に記載のシステム。
【請求項６７】
エンティティ間の意味的情報を生成する方法であって、
１つ以上のコーパス内の複数の意味的エンティティを識別することであって、前記意味的エンティティが単一ワードまたは複数ワードフレーズのうちの１つ以上を含む、識別することと、
前記複数の意味的エンティティについてのワードエンベディングを生成することであって、前記意味的エンティティのうちの少なくとも１つが、複数の意味および対応する複数のワードエンベディングを有する、多意味の意味的エンティティであり、各意味が、対応するワードエンベディングと関連付けられる、生成することと、
前記ワードエンベディングに基づいて、前記複数の意味的エンティティからの意味的エンティティ間の１つ以上の意味的関連スコアを決定することと、
クエリ用語を受信することと、
前記クエリ用語が、複数のエンベディングと関連付けられた意味的エンティティに対応するか否かを決定することと、
前記クエリ用語が、複数のエンベディングと関連付けられた意味的エンティティに対応する場合に、一組のリストを生成することであって、各リストが、前記複数のエンベディングの各エンベディングについての意味的エンティティを含み、意味的エンティティが、前記１つ以上の意味的関連スコアの比較に基づいて、前記リストのうちの１つ以上に含まれる、生成することと、
前記クエリ用語が、複数のエンベディングと関連付けられた意味的エンティティに対応する場合に、前記一組のリストに基づく出力を提供することと、を含む、方法。
【請求項６８】
前記１つ以上のコーパスが、構造化データおよび非構造化データを含む、請求項６７に記載の方法。
【請求項６９】
前記１つ以上のコーパス内の前記多意味の意味的エンティティの前記複数の意味の各意味の出現を測定する、一組の尺度を決定することを更に含む、請求項６７に記載の方法。
【請求項７０】
前記尺度が、前記１つ以上のコーパスの１つ以上のドキュメントにおける、前記多意味の意味的エンティティの特定の意味と、前記複数の意味的エンティティの前記意味的エンティティのうちの１つ以上との共起の数のカウントである、請求項６９に記載の方法。
【請求項７１】
前記尺度が、前記１つ以上のコーパスのドキュメントのカウントであり、前記多意味の意味的エンティティの特定の意味が、前記複数の意味的エンティティの前記意味的エンティティのうちの１つ以上と共起する、請求項６９に記載の方法。
【請求項７２】
前記ワードエンベディングが、アダプティブスキップグラム（ＡｄａＧｒａｍ）を使用して生成される、請求項６７に記載の方法。
【請求項７３】
前記一組のリストの各リストについてのパーセンテージを生成することであって、各リストについての前記パーセンテージが、対応するリストにおける意味的エンティティの数を、前記組の中の前記リストのすべてにおけるエンティティの合計数で除算することによって算出される、生成することを更に含む、請求項６７に記載の方法。
【請求項７４】
対応するリストにおける前記意味的エンティティと関連付けられた１つ以上の意味的エンティティタイプを分析することによって、意味的エンティティタイプを、前記一組のリストにおける１つ以上のリストと関連付けることを更に含む、請求項６７に記載の方法。
【請求項７５】
前記対応するリストにおける前記意味的エンティティと関連付けられた前記１つ以上の意味的エンティティタイプを分析することが、前記対応するリストにおける意味的エンティティと最も頻繁に関連付けられた意味的エンティティタイプを決定することを含む、請求項７４に記載の方法。
【請求項７６】
前記出力が、前記一組のリスト、および前記一組のリストの中の各リストにおける結果として生じる意味的エンティティを、ユーザーデバイスが表示することを可能にする、請求項６７に記載の方法。
【請求項７７】
エンティティ間の意味的情報を生成するシステムであって、
モジュールを記憶するメモリと、
プロセッサであって、前記プロセッサに、
１つ以上のコーパス内の複数の意味的エンティティを識別することであって、前記意味的エンティティが、単一ワードまたは複数ワードフレーズのうちの１つ以上を含む、識別することと、
前記複数の意味的エンティティについてのワードエンベディングを生成することであって、前記意味的エンティティのうちの少なくとも１つが、複数の意味および対応する複数のワードエンベディングを有する、多意味の意味的エンティティであり、各意味が、対応するワードエンベディングと関連付けられる、生成することと、
前記ワードエンベディングに基づいて、前記複数の意味的エンティティからの意味的エンティティ間の１つ以上の意味的関連スコアを決定することと、
クエリ用語を受信することと、
前記クエリ用語が、複数のエンベディングと関連付けられた意味的エンティティに対応するか否かを決定することと、
前記クエリ用語が、複数のエンベディングと関連付けられた意味的エンティティに対応する場合に、一組のリストを生成することであって、各リストが、前記複数のエンベディングの各エンベディングについての意味的エンティティを含み、意味的エンティティが、前記１つ以上の意味的関連スコアの比較に基づいて前記リストのうちの１つ以上に含まれる、生成することと、
前記クエリ用語が、複数のエンベディングと関連付けられた意味的エンティティに対応する場合に、前記一組のリストに基づいて出力を提供することと、を行わせるように構成される、前記メモリ内に記憶された前記モジュールを実行させるように構成されたプロセッサと、を備える、システム。
【請求項７８】
前記１つ以上のコーパスが、構造化データおよび非構造化データを含む、請求項７７に記載のシステム。
【請求項７９】
前記メモリ内に記憶された前記モジュールが、前記プロセッサに、
前記１つ以上のコーパス内の前記多意味の意味的エンティティの前記複数の意味の各意味の前記出現を測定する、一組の尺度を決定させるように、更に構成される、請求項７７に記載のシステム。
【請求項８０】
前記尺度が、前記１つ以上のコーパスの１つ以上のドキュメントにおける、前記多意味の意味的エンティティの特定の意味と、前記複数の意味的エンティティの前記意味的エンティティのうちの１つ以上との共起の数のカウントである、請求項７９に記載のシステム。
【請求項８１】
前記尺度が、前記１つ以上のコーパスのドキュメントのカウントであり、前記多意味の意味的エンティティの前記特定の意味が、前記複数の意味的エンティティの前記意味的エンティティのうちの１つ以上と共起する、請求項７９に記載のシステム。
【請求項８２】
前記ワードエンベディングが、アダプティブスキップグラム（ＡｄａＧｒａｍ）を使用して生成される、請求項７７に記載のシステム。
【請求項８３】
前記メモリ内に記憶された前記モジュールが、前記プロセッサに、
前記一組のリスト内の各リストについてのパーセンテージを生成することであって、各リストについての前記パーセンテージが、前記対応するリストにおける意味的エンティティの数を、前記組の中の前記リストのすべての中のエンティティの合計数で除算することによって算出される、生成することを行わせるように、更に構成される、請求項７７に記載のシステム。
【請求項８４】
前記メモリ内に記憶された前記モジュールが、前記プロセッサに、
前記対応するリスト内の前記意味的エンティティと関連付けられた１つ以上の意味的エンティティタイプを分析することによって、意味的エンティティタイプを、前記一組のリストの中の１つ以上のリストと関連付けさせるように、更に構成される、請求項７７に記載のシステム。
【請求項８５】
前記対応するリスト内の前記意味的エンティティと関連付けられた前記１つ以上の意味的エンティティタイプを分析することが、前記対応するリスト内の意味的エンティティと最も頻繁に関連付けられた意味的エンティティタイプを決定することを含む、請求項８４に記載のシステム。
【請求項８６】
前記出力が、前記一組のリスト、および前記一組のリストの中の各リスト内の結果として生じる意味的エンティティを、ユーザーデバイスが表示することを可能にする、請求項７７に記載のシステム。
【請求項８７】
エンティティ間の意味的情報を生成する方法であって、
１つ以上のコーパス内の複数の意味的エンティティを識別することであって、前記意味的エンティティが、単一ワードまたは複数ワードフレーズのうちの１つ以上を含む、識別することと、
前記１つ以上のコーパス内の複数の意味的エンティティタイプを識別することと、
少なくとも１つの意味的エンティティタイプを、前記複数の意味的エンティティの前記意味的エンティティと関連付けることと、
前記複数の意味的エンティティについてのワードエンベディングを生成することと、
前記複数の意味的エンティティからの意味的エンティティ間の１つ以上の意味的関連スコアを決定することと、
クエリ用語およびエンティティタイプ入力を受信することと、
前記クエリ用語と関連付けられるクエリ用語エンティティタイプを決定することと、
前記１つ以上の意味的関連スコアに基づいて、前記クエリ用語と関連付けられた結果として生じる意味的エンティティの第１のリストを生成することであって、前記第１のリストからの前記結果として生じる意味的エンティティが、前記クエリ用語エンティティタイプと同じ意味的エンティティタイプと関連付けられる、生成することと、
前記１つ以上の意味的関連スコアに基づいて、前記クエリ用語と関連付けられた結果として生じる意味的エンティティの第２のリストを生成することであって、前記第２のリストからの前記結果として生じる意味的エンティティが、前記エンティティタイプ入力と関連付けられる、生成することと、
意味的関連スコアの第３のリストを生成することであって、前記第３のリストが、前記第１のリストからの前記結果として生じる意味的エンティティのそれぞれと、前記第２のリストからの前記結果として生じる意味的エンティティのそれぞれとの間の意味的関連スコアを含む、生成することと、
前記第１のリスト、前記第２のリスト、および前記第３のリストに基づく出力を提供することと、を含む、方法。
【請求項８８】
前記１つ以上のコーパスが、構造化データおよび非構造化データを含む、請求項８７に記載の方法。
【請求項８９】
前記複数の意味的エンティティタイプが、構造化データベース、エンティティタイプのカスタムリスト、ニューラルネットワークからの出力、教師付き機械学習からの出力、または教師なし機械学習からの出力のうちの１つ以上に基づいて、識別される、請求項８７に記載の方法。
【請求項９０】
前記ニューラルネットワークアーキテクチャが、リカレントニューラルネットワーク（ＲＮＮ）または長短期メモリ（ＬＳＴＭ）のうちの１つ以上である、請求項８９に記載の方法。
【請求項９１】
前記ワードエンベディングが、Ｗｏｒｄ２ｖｅｃ、ＡｄａＧｒａｍ、ｆａｓｔＴｅｘｔ、およびＤｏｃ２ｖｅｃのうちの１つ以上を使用して生成される、請求項８７に記載の方法。
【請求項９２】
前記第１のリストを生成することが、前記結果として生じる意味的エンティティの数を最大カウントに制限することを含む、請求項８７に記載の方法。
【請求項９３】
前記第１のリストを生成することが、前記結果として生じる意味的エンティティのそれぞれの意味的関連スコアが、最小の意味的関連スコアより大きくすることを要求することに更に基づく、請求項８７に記載の方法。
【請求項９４】
前記第２のリストを生成することが、前記結果として生じる意味的エンティティの数を最大カウントに制限することを含む、請求項８７に記載の方法。
【請求項９５】
前記第２のリストを生成することが、前記結果として生じる意味的エンティティのそれぞれの意味的関連スコアが、最小の意味的関連スコアより大きくすることを要求することに更に基づく、請求項８７に記載の方法。
【請求項９６】
前記出力が、ｙ軸上の前記第１のリストからの前記結果として生じる意味的エンティティ、ｘ軸上の前記第２のリストからの前記結果として生じる意味的エンティティ、および色または色合いとして表される前記第３のリストからの前記意味的関連スコアのそれぞれを用いてユーザーデバイスがヒートマップを生成することを可能にし、前記色または前記色合いが、意味的関連スコアへとマッピングされる、請求項８７に記載の方法。
【請求項９７】
エンティティ間の意味的情報を生成するシステムであって、
モジュールを記憶するメモリと、
プロセッサであって、前記プロセッサに、
１つ以上のコーパス内の複数の意味的エンティティを識別することであって、前記意味的エンティティが、単一ワードまたは複数ワードフレーズのうちの１つ以上を含む、識別することと、
前記１つ以上のコーパス内の複数の意味的エンティティタイプを識別することと、
少なくとも１つの意味的エンティティタイプを、前記複数の意味的エンティティの前記意味的エンティティと関連付けることと、
前記複数の意味的エンティティについてのワードエンベディングを生成することと、
前記複数の意味的エンティティからの意味的エンティティ間の１つ以上の意味的関連スコアを決定することと、
クエリ用語およびエンティティタイプ入力を受信することと、
前記クエリ用語と関連付けられるクエリ用語エンティティタイプを決定することと、
前記１つ以上の意味的関連スコアに基づいて、前記クエリ用語と関連付けられた結果として生じる意味的エンティティの第１のリストを生成することであって、前記第１のリストからの前記結果として生じる意味的エンティティが、前記クエリ用語エンティティタイプと同じ意味的エンティティタイプと関連付けられる、生成することと、
前記１つ以上の意味的関連スコアに基づいて、前記クエリ用語と関連付けられた結果として生じる意味的エンティティの第２のリストを生成することであって、前記第２のリストからの前記結果として生じる意味的エンティティが、前記エンティティタイプ入力と関連付けられる、生成することと、
意味的関連スコアの第３のリストを生成することであって、前記第３のリストが、前記第１のリストからの前記結果として生じる意味的エンティティのそれぞれと、前記第２のリストからの前記結果として生じる意味的エンティティのそれぞれとの間の意味的関連スコアを含む、生成することと、
前記第１のリスト、前記第２のリスト、および前記第３のリストに基づく出力を提供することと、を行わせるように構成される、前記メモリ内に記憶された前記モジュールを実行させるように構成されたプロセッサと、を備える、システム。
【請求項９８】
前記１つ以上のコーパスが、構造化データおよび非構造化データを含む、請求項９７に記載のシステム。
【請求項９９】
前記複数の意味的エンティティタイプが、構造化データベース、エンティティタイプのカスタムリスト、ニューラルネットワークからの出力、教師付き機械学習からの出力、または教師なし機械学習からの出力のうちの１つ以上に基づいて、識別される、請求項９７に記載のシステム。
【請求項１００】
前記ニューラルネットワークアーキテクチャが、リカレントニューラルネットワーク（ＲＮＮ）または長短期メモリ（ＬＳＴＭ）のうちの１つ以上である、請求項９９に記載のシステム。
【請求項１０１】
前記ワードエンベディングが、Ｗｏｒｄ２ｖｅｃ、ＡｄａＧｒａｍ、ｆａｓｔＴｅｘｔ、およびＤｏｃ２ｖｅｃのうちの１つ以上を使用して生成される、請求項９７に記載のシステム。
【請求項１０２】
前記第１のリストを生成することが、前記結果として生じる意味的エンティティの数を最大カウントに制限することを含む、請求項９７に記載のシステム。
【請求項１０３】
前記第１のリストを生成することが、前記結果として生じる意味的エンティティのそれぞれの意味的関連スコアが、最小の意味的関連スコアより大きくすることを要求することに更に基づく、請求項９７に記載のシステム。
【請求項１０４】
前記第２のリストを生成することが、前記結果として生じる意味的エンティティの数を最大カウントに制限することを含む、請求項９７に記載のシステム。
【請求項１０５】
前記第２のリストを生成することが、前記結果として生じる意味的エンティティのそれぞれの意味的関連スコアが、最小の意味的関連スコアより大きくすることを要求することに更に基づく、請求項９７に記載のシステム。
【請求項１０６】
前記出力が、ｙ軸上の前記第１のリストからの前記結果として生じる意味的エンティティ、ｘ軸上の前記第２のリストからの前記結果として生じる意味的エンティティ、および色または色合いとして表される前記第３のリストからの前記意味的関連スコアのそれぞれを用いてユーザーデバイスがヒートマップを生成することを可能にし、前記色または前記色合いが、意味的関連スコアへとマッピングされる、請求項９７に記載のシステム。
【請求項１０７】
方法であって、
１つ以上の知識ベース内に存在する意味的エンティティおよび関連付けられた意味的集合を識別することであって、前記意味的エンティティが、単一ワードまたは複数ワードフレーズのうちの１つ以上を含み、意味的集合の前記意味的エンティティが、エンティティタイプを共有する、識別することと、
分析のための期間を決定することと、
前記期間を１つ以上の時間スライスへと分割することと、
各時間スライスについて、１つ以上のコーパスに基づいて、前記識別された意味的エンティティについての一組のワードエンベディングを生成することと、
第１の意味的エンティティ入力と第２の意味的エンティティ入力との間の時間的意味的関連を特徴付けることであって、
各時間スライスについて、前記第１の意味的エンティティ入力と前記第２の意味的エンティティ入力との間の第１の意味的関連強度を決定するステップ、
各時間スライスについて、前記第１の意味的エンティティ入力と、前記第２の意味的エンティティと関連付けられた意味的集合と関連付けられる複数の意味的エンティティとの間の第２の意味的関連強度を決定するステップ、
各時間スライスについて、前記第１の意味的関連強度を前記第２の意味的関連強度と関連付ける確率の尺度を決定するステップ、
時間値を各時間スライスに割り当てるステップ、
各時間スライスについて、前記時間スライスについての前記割り当てられた時間値を、前記時間スライスについての前記確率の尺度と関連付けることによって、２次元の点の連続を決定するステップであって、前記連続が、時間値を増加することによって順序付けられる、決定するステップ、
曲線を前記順序付けられた連続に適合させるステップ、
前記曲線適合の特徴を抽出するステップであって、前記特徴が、
前記確率の尺度の統計学的に有意な大きさの変化がその値において生じる、前記時間値を表す増加時間の値、
前記確率の尺度の最大値を表す確率飽和値、または
前記曲線下面積値、のうちの１つ以上を含む、抽出するステップ、および
前記第１の意味的エンティティ入力と前記第２の意味的エンティティ入力との間の前記時間的意味的関連を特徴付けることから、前記曲線適合の前記特徴を提供するステップ、を実行することによって、特徴付けることと、を含む、方法。
【請求項１０８】
ユーザーから前記第１の意味的エンティティ入力を受信することと、
一組の少なくとも２つの第２の意味的エンティティとして、ユーザーから前記第２の意味的エンティティ入力を受信することと、
前記第１の意味的エンティティ入力と、前記一組の前記第２の意味的エンティティのそれぞれについての前記第２の意味的エンティティ入力との間の前記時間的意味的関連を特徴付けるステップを実行することと、
前記第１の意味的エンティティ入力および前記一組の前記第２の意味的エンティティ入力のうちの少なくとも２つについての前記曲線適合の前記特徴を表示することと、を更に含む、請求項１０７に記載の方法。
【請求項１０９】
前記曲線適合の前記特徴を表示することが、バブルプロットとして、前記増加時間の値、前記確率飽和値、ならびに前記第１の意味的エンティティ入力および前記第２の意味的エンティティ入力の時間的意味的関連のそれぞれについての前記曲線下面積値を表示することであって、前記バブルプロットのｘ軸に沿ったバブル配置が、前記増加時間の値に対応し、前記バブルプロットのｙ軸に沿ったバブル配置が、前記飽和の確率の値に対応し、バブルのサイズが、前記曲線下面積値に対応する、表示することを含む、請求項１０８に記載の方法。
【請求項１１０】
前記バブルに近接するバブルと関連付けられる、前記第１の意味的エンティティ入力の識別、および前記第２の意味的エンティティ入力の識別を表示することを更に含む、請求項１０９に記載の方法。
【請求項１１１】
前記曲線適合の前記特徴を表示することが、前記確率飽和値が確率閾値を満たす場合の前記曲線適合の前記特徴のみを表示することを含む、請求項１０８に記載の方法。
【請求項１１２】
前記曲線適合の前記特徴を表示することが、共起閾値を満たす前記１つ以上のコーパスのドキュメントにおける共起のカウントを有する、前記第１の意味的エンティティ入力と前記第２の意味的エンティティ入力との間の時間的意味的関連についての前記曲線適合の前記特徴のみを表示することを含む、請求項１０８に記載の方法。
【請求項１１３】
前記第１の意味的エンティティ入力および前記一組の前記第２の意味的エンティティ入力のうちの少なくとも２つの前記１つ以上のコーパスのドキュメントにおける共起のカウントを決定することと、を更に含む、請求項１０８に記載の方法。
【請求項１１４】
前記曲線適合の前記特徴を表示することが、バブルプロットとして、前記増加時間の値、前記確率飽和値、ならびに前記第１の意味的エンティティ入力および前記第２の意味的エンティティ入力の時間的意味的関連のそれぞれについての前記共起のカウントを表示することであって、前記バブルプロットのｘ軸に沿ったバブル配置が前記増加時間の値に対応し、前記バブルプロットのｙ軸に沿ったバブル配置が前記飽和の確率の値に対応し、かつバブルのサイズが前記共起のカウントに対応する、表示することを含む、請求項１１３に記載の方法。
【請求項１１５】
前記第１の意味的関連強度を前記第２の意味的関連強度と関連付ける前記確率の尺度がｐ値の負対数であり、前記第１の意味的関連強度が前記第２の意味的関連強度に対してより統計学的に有意でないことを示す比較的低い確率の尺度と比較して、比較的高い確率の尺度は、前記第１の意味的関連強度が前記第２の意味的関連強度に対してより統計学的に有意であることを示す、請求項１０７に記載の方法。
【請求項１１６】
前記曲線を前記順序付けられた連続に適合させることが、以下の式：                        
2019536178.tif 000024
に従って、シグモイド曲線を前記順序付けられた連続に適合させることを含み、式中、
ｙ値は前記連続の前記確率の尺度であり、かつ
ｘ値は前記連続の前記時間値である、請求項１１５に記載の方法。
【請求項１１７】
モジュールを記憶するメモリと、
プロセッサであって、前記プロセッサに、
１つ以上の知識ベース内に存在する意味的エンティティおよび関連付けられた意味的集合を識別することであって、前記意味的エンティティが、単一ワードまたは複数ワードフレーズのうちの１つ以上を含み、かつ意味的集合の前記意味的エンティティが、エンティティタイプを共有する、識別することと、
分析のための期間を決定することと、
前記期間を１つ以上の時間スライスへと分割することと、
各時間スライスについて、１つ以上のコーパスに基づいて、前記識別された意味的エンティティについての一組のワードエンベディングを生成することと、
第１の意味的エンティティ入力と第２の意味的エンティティ入力との間の時間的意味的関連を特徴付けることであって、
各時間スライスについて、前記第１の意味的エンティティ入力と前記第２の意味的エンティティ入力との間の第１の意味的関連強度を決定するステップ、
各時間スライスについて、前記第１の意味的エンティティ入力と、前記第２の意味的エンティティと関連付けられた意味的集合と関連付けられる複数の意味的エンティティとの間の第２の意味的関連強度を決定するステップ、
各時間スライスについて、前記第１の意味的関連強度を前記第２の意味的関連強度と関連付ける確率の尺度を決定するステップ、
時間値を各時間スライスに割り当てるステップ、
各時間スライスについて、前記時間スライスについての前記割り当てられた時間値を、前記時間スライスについての前記確率の尺度と関連付けることによって、２次元の点の連続を決定するステップであって、前記連続が、時間値を増加することによって順序付けられる、決定するステップ、
曲線を前記順序付けられた連続に適合させるステップ、
前記曲線適合の特徴を抽出するステップであって、前記特徴が、
前記確率の尺度の統計学的に有意な大きさの変化がその値において生じ起こる、前記時間値を表す増加時間の値、
前記確率の尺度の最大値を表す確率飽和値、または
前記曲線下面積値、のうちの１つ以上を含む、抽出するステップ、および
前記第１の意味的エンティティ入力と前記第２の意味的エンティティ入力との間の前記時間的意味的関連を特徴付けることから、前記曲線適合の前記特徴を提供するステップ、を実行することによって、特徴付けることと、を行わせるように構成される、前記メモリ内に記憶された前記モジュールを実行させるように構成されたプロセッサと、を備えるシステム。
【請求項１１８】
前記メモリ内に記憶された前記モジュールが、前記プロセッサに、
ユーザーから前記第１の意味的エンティティ入力を受信することと、
一組の少なくとも２つの第２の意味的エンティティとして、ユーザーから前記第２の意味的エンティティ入力を受信することと、
前記第１の意味的エンティティ入力と、前記一組の前記第２の意味的エンティティのそれぞれについての前記第２の意味的エンティティ入力との間の前記時間的意味的関連を特徴付けるステップを実行することと、
前記第１の意味的エンティティ入力および前記一組の前記第２の意味的エンティティ入力のうちの少なくとも２つについての前記曲線適合の前記特徴を表示することと、を行わせるように、更に構成される、請求項１１７に記載のシステム。
【請求項１１９】
前記曲線適合の前記特徴を表示することが、バブルプロットとして、前記増加時間の値、前記確率飽和値、ならびに前記第１の意味的エンティティ入力および前記第２の意味的エンティティ入力の時間的意味的関連のそれぞれについての前記曲線下面積値を表示することであって、前記バブルプロットのｘ軸に沿ったバブル配置が、前記増加時間の値に対応し、前記バブルプロットのｙ軸に沿ったバブル配置が、前記飽和の確率の値に対応し、かつバブルのサイズが、前記曲線下面積値に対応する、表示することを含む、請求項１１８に記載のシステム。
【請求項１２０】
前記メモリ内に記憶された前記モジュールが、前記プロセッサに、
前記バブルに近接するバブルと関連付けられる、前記第１の意味的エンティティ入力の識別、および前記第２の意味的エンティティ入力の識別を表示させるように、更に構成される、請求項１１９に記載のシステム。
【請求項１２１】
前記曲線適合の前記特徴を表示することが、前記確率飽和値が確率閾値を満たす場合の前記曲線適合の前記特徴のみを表示することを含む、請求項１１８に記載のシステム。
【請求項１２２】
前記曲線適合の前記特徴を表示することが、共起閾値を満たす前記１つ以上のコーパスのドキュメントにおける共起のカウントを有する、第１の意味的エンティティ入力と第２の意味的エンティティ入力との間の時間的意味的関連についての前記曲線適合の前記特徴のみを表示することを含む、請求項１１８に記載のシステム。
【請求項１２３】
前記メモリ内に記憶された前記モジュールが、前記プロセッサに、
前記第１の意味的エンティティ入力および前記一組の前記第２の意味的エンティティ入力のうちの少なくとも２つの前記１つ以上のコーパスのドキュメントにおける共起のカウントを決定させるように、更に構成される、請求項１１８に記載のシステム。
【請求項１２４】
前記曲線適合の前記特徴を表示することが、バブルプロットとして、前記増加時間の値、前記確率飽和値、ならびに前記第１の意味的エンティティ入力および前記第２の意味的エンティティ入力の時間的意味的関連のそれぞれについての前記共起のカウントを表示することであって、前記バブルプロットのｘ軸に沿ったバブル配置が、前記増加時間の値に対応し、前記バブルプロットのｙ軸に沿ったバブル配置が、前記飽和の確率の値に対応し、バブルのサイズが、前記共起のカウントに対応する、表示することを含む、請求項１２３に記載のシステム。
【請求項１２５】
前記第１の意味的関連強度を前記第２の意味的関連強度と関連付ける前記確率の尺度が、ｐ値の負対数であり、前記第１の意味的関連強度が前記第２の意味的関連強度に対してより統計学的に有意でないことを示す、比較的低い確率の尺度と比較して、比較的高い確率の尺度が前記第１の意味的関連強度が前記第２の意味的関連強度に対してより統計学的に有意であることを示す、請求項１１７に記載のシステム。
【請求項１２６】
前記曲線を前記順序付けられた連続に適合させることが、以下の式：
2019536178.tif 000025
に従って、シグモイド曲線を前記順序付けられた連続に適合させることを含み、式中、
ｙ値は連続の確率の尺度であり、かつ
ｘ値は前記連続の前記時間値である、請求項１２５に記載のシステム。
【発明の詳細な説明】
【技術分野】
【０００１】
本出願は、米国特許法第１１９条（ｅ）の下で、それらの全体が参照により本明細書に明示的に組み込まれる、２０１６年９月２２日に出願された、「ＭＥＴＨＯＤＳ  ＯＦ  ＡＮＤ  ＳＹＳＴＥＭＳ  ＦＯＲ  ＶＩＳＵＡＬＩＺＡＴＩＯＮ  ＯＦ  ＳＥＭＡＮＴＩＣ  ＩＮＦＯＲＭＡＴＩＯＮ」という名称の米国仮特許出願第６２／３９８，３８６号、および２０１７年６月２日に出願された、「ＭＥＴＨＯＤＳ  ＡＮＤ  ＳＹＳＴＥＭＳ  ＦＯＲ  ＩＮＦＥＲＥＮＣＥ  ＯＦ  ＴＥＭＰＯＲＡＬ  ＳＩＧＮＡＬＳ  ＩＮＤＩＣＡＴＩＮＧ  ＳＡＬＩＥＮＴ  ＡＳＳＯＣＩＡＴＩＯＮＳ  ＢＥＴＷＥＥＮ  ＬＩＦＥ  ＳＣＩＥＮＣＥ  ＥＮＴＩＴＩＥＳ」という名称の米国仮特許出願第６２／５１４，６９７号の利益を主張する。
【０００２】
本開示の実施形態は、データの根元的な関係を分析するためのシステム、方法、およびコンピュータ可読媒体に関する。
【背景技術】
【０００３】
データの視覚化の高度化（特に、線形とは対照的に２次元および３次元のレイアウトを活用した）は急速に進歩しており、データが多次元であるかリアルタイムであるかにかかわらず、データの理解および基礎となる関係を容易にする。しかし、これらの視覚化方法は、情報が非構造化である場合、および構造化情報を抽出するために意味的根拠が必要とされる場合、データソースのレンダリングにあまり効果的でない。
【０００４】
ある特定のデータソースは、非構造化情報および半構造化情報が豊富であり、一般に、製薬業界の様々な構成要素にわたる異なるサイロでアクセスされる。例えば、ｃｌｉｎｉｃａｌｔｒｉａｌｓ．ｇｏｖのウェブサイトは、典型的に、トランスレーショナル医療チームおよび臨床開発チームによってアクセスされ、一方で、連邦有害事象報告システム（ＦＡＥＲＳ）は、通常、市場調査などを行っているファーマコビジランス研究開発（Ｒ＆Ｄ）科学者および商業データ科学者によってアクセスされる。
【発明の概要】
【発明が解決しようとする課題】
【０００５】
現在、特に応答が異質なソースからの構造化および非構造化情報を使用する意味的合成を要求する場合、ユーザークエリに対する概要／要約応答の生成において、多くの課題が存在する。例えば、現在のシステムでは、マッチングの結果をただユーザークエリに当てはめることを超えて進むことだけを試みる「概要形式の応答」は、自動化することができる本質的に単純なもの（例えば、単一ソース、生成された応答に意味的深度が欠如している取るに足りない要約）である（例えば、「ｎｆｌプレーオフ」または「２０１２年の選挙」などのクエリのためのリアルタイムスコアまたは選挙ステータステーブル）。
【０００６】
したがって、意味的情報を提示するための優れた視覚化システムが必要とされている。
【０００７】
従来技術のいくつかの方法は、両方のエンティティを引用するドキュメント（すなわち、エンティティペアの共起を有するドキュメント）の経時的な成長を研究することによってエンティティペア間の将来性のある関連を特定することに頼っている。このような方法は、特に、共起を伴うドキュメントの数が依然として非常に少ない（すなわち、関連付けの知識が初期段階にある）場合には、最小限の予測力しか持たないことが多い。定義により、これらの方法は、それらの開示の瞬間に将来性のある関連を取り込むことができるだけであり、それらが公表される前に取り込むことはできない。引用索引などの方法は、何らかの有意な推測ができるようになる前の長いモニタリング期間の必要性にも悩まされている。与えられた刊行物の引用を見ることにより、将来性のある関連が開示された後に、肯定的なシグナルが有意に現れることになるが、そのようなシグナルは予測に使用することはできない。
【０００８】
従来技術における他の方法（例えば、Ｇｏｏｇｌｅのｗｏｒｄ２ｖｅｃ）は、エンティティの関連付けの時間的分析についての洞察を提供していない。更に、自然言語処理（ＮＬＰ）のための従来技術における一般的な方法は、業界特有の言語の使用によって生じる非構造化ソースからのエンティティ認識（例えば、薬剤、遺伝子、疾患）の固有の困難による、任意の特定産業（ライフサイエンスなど）へのそれらの適用における複数の欠点に悩まされている。
【０００９】
したがって、新生の、かつ潜在的に将来性のある関連にフラグを立て、それらの顕著な特徴を経時的に追跡する優れたシステムが必要とされる。
【課題を解決するための手段】
【００１０】
開示された主題によると、意味的情報の可視化およびライフサイエンスエンティティ間の顕著な関連を示す時間的信号の推測のためのシステム、方法、コンピュータ可読媒体が提供される。
【００１１】
本開示と一貫して例示的な実施形態を詳細に説明する前に、本開示は、その用途において以下の説明で述べられる、または図面に例示される構造の詳細および構成に対する限定されないことが理解されるべきである。本開示は、実施形態に加えてそれらを説明することが可能であり、様々な手段で実施および実行されることが可能である。また、本明細書の他、要約書で用いられる言い回しおよび用語も、説明の目的のためのものであり、限定と見なされるべきでないことが理解されるべきである。更に、この開示における説明は、ライフサイエンスの分野に焦点を当てるが、開示されたシステムおよび方法の用途は、この分野に限定されない。
【００１２】
本開示の一実施形態による意味的エンティティ間の関連を検出する方法は、１つ以上の知識ベース内に存在する意味的エンティティおよび関連付けられた意味的集合を識別することであって、意味的エンティティが、単一ワードまたは複数ワードフレーズのうちの１つ以上を含み、意味的集合の意味的エンティティが、エンティティタイプを共有する、識別することと、分析のための期間を決定することと、期間を１つ以上の時間スライスへと分割することと、各時間スライスについて、１つ以上のコーパスに基づいて、識別された意味的エンティティについての一組のワードエンベディングを生成することと、各時間スライスについて、第１の意味的エンティティ入力と第２の意味的エンティティ入力との間の第１の意味的関連強度を決定することと、各時間スライスについて、第１の意味的エンティティ入力と、第２の意味的エンティティと関連付けられた意味的集合における複数の意味的エンティティとの間の第２の意味的関連強度を決定することと、１つ以上の時間スライスについての第１および第２の意味的関連強度に基づく出力を提供することとを含むことができる。
【００１３】
一部の実施形態によると、１つ以上のコーパスは、構造化データおよび非構造化データを含むことができる。
【００１４】
一部の実施形態によると、意味的エンティティを識別することは、（１）意味的集合に属する意味的エンティティとして、１つ以上の単一ワードまたは複数ワードフレーズを自動的に識別する方法、および（２）１つ以上の知識ベースから、強制的に１つ以上の単一ワードまたは複数ワードフレーズを選択することのうちの１つ以上を含むことができる。
【００１５】
一部の実施形態によると、１つ以上の単一ワードまたは複数ワードフレーズは、構造化データベースからコンパイルされた情報から強制的に選択することができる。
【００１６】
一部の実施形態によると、意味的エンティティを識別することは、その期間の間に１つ以上の知識ベース内のすべてのテキストにおいて実行することができる。
【００１７】
一部の実施形態によると、ワードエンベディングを、Ｗｏｒｄ２ｖｅｃ、ＡｄａＧｒａｍ、ｆａｓｔＴｅｘｔ、およびＤｏｃ２ｖｅｃのうちの１つ以上を使用して生成することができる。
【００１８】
一部の実施形態によると、ワードエンベディングを、他の時間スライスについて生成されたワードエンベディングとは独立して、各時間スライスについて生成することができる。
【００１９】
一部の実施形態によると、時間スライスについてのワードエンベディングを、先の時間スライスからのワードエンベディングを活用することによって生成することができる。
【００２０】
一部の実施形態によると、第２の意味的エンティティと関連付けられた意味的集合と関連付けられる複数の意味的エンティティは、第２の意味的エンティティを含まなくてもよい。
【００２１】
一部の実施形態によると、第２の意味的関連強度は、第１の意味的エンティティ入力と、第２の意味的エンティティと関連付けられた意味的集合と関連付けられる複数の意味的エンティティとの間の一組の意味的関連強度の平均値、中央値、または百分位数とすることができる。
【００２２】
一部の実施形態によると、方法は、第２の、後続の時間スライスの第１の意味的関連強度に対する、第１の時間スライスの第１の意味的関連強度の増加を検出することと、第１の意味的関連強度の増加が、対応する第２の意味的関連に対して統計学的に有意であるかどうかを決定することとを更に含むことができる。
【００２３】
一部の実施形態によると、増加の前記統計学的な有意性を、対応する第２の意味的関連に対する、第１の意味的関連強度の統計学的な有意性の尺度としてのｐ値に基づいて、決定することができる。
【００２４】
一部の実施形態によると、方法は、１つ以上の知識ベース内の第１のエンティティと第２のエンティティとの間の共起のレベルに基づいて、第１のエンティティ入力および第２のエンティティ入力を選択することを更に含むことができる。
【００２５】
一部の実施形態によると、第１のエンティティと第２のエンティティとの間の共起のレベルは、ゼロである。
【００２６】
一部の実施形態によると、方法は、ユーザーから第１のエンティティ入力および第２のエンティティ入力を受信することを更に含むことができる。
【００２７】
一部の実施形態によると、方法は、各時間スライスについて、第１のエンティティおよび第２のエンティティを含む１つ以上のコーパス内に存在するドキュメントのカウントを決定することと、（１）第２の、後続の時間スライスについての第１の意味的関連強度に対する、第１の時間スライスについての第１の意味的関連強度の増加に関連付けられる第１の日付と、（２）第４の時間スライスについての第１のエンティティおよび第２のエンティティを含むドキュメントのカウントに対する、第３の時間スライスについての第１のエンティティおよび第２のエンティティを含むドキュメントのカウントの増加に関連付けられる第２の日付との間の時間差を決定することとを更に含むことができる。
【００２８】
一部の実施形態によると、方法は、固定軸における曲線の傾きに基づいて、第１のエンティティおよび第２のエンティティを含むドキュメントのカウントの増加を検出することであって、曲線が、曲線のｘ軸上の期間および曲線のｙ軸上のドキュメントのカウントに基づく、検出することを更に含むことができる。
【００２９】
一部の実施形態によると、方法は、ドキュメントカウント閾値に基づいて、第１のエンティティおよび第２のエンティティを含むドキュメントのカウントの第２の増加を検出することを更に含むことができる。
【００３０】
一部の実施形態によると、第１のエンティティおよび第２のエンティティのそれぞれは、以下のエンティティタイプ、すなわち、バイオ分子、バイオエンティティ、疾患、有害事象、表現型、企業、機関、大学、病院、人、薬剤、医療器具、または医療手技のうちの少なくとも１つとすることができる。
【００３１】
一部の実施形態によると、出力は、期間にわたる時間スライスのそれぞれについての第１の意味的関連強度のそれぞれをプロットすることによって作成されるグラフラインを、ユーザーデバイスが表示することを可能にすることができる。
【００３２】
一部の実施形態によると、出力は、期間にわたる時間スライスのそれぞれについての平均の第２の意味的関連強度のそれぞれをプロットすることによって作成されるグラフラインを、ユーザーデバイスが表示することを可能にすることができる。
【００３３】
一部の実施形態によると、出力は、期間にわたる時間スライスのそれぞれについての第１のエンティティおよび第２のエンティティを含む１つ以上のコーパス内に存在するドキュメントのカウントをプロットすることによって作成されるグラフラインを、ユーザーデバイスが表示することを可能にすることができる。
【００３４】
本開示の一実施形態によるエンティティ間の意味的情報を生成する方法は、１つ以上のコーパス内の複数の意味的エンティティを識別することであって、意味的エンティティが、単一ワードまたは複数ワードフレーズのうちの１つ以上を含む、識別することと、１つ以上のコーパス内の複数の意味的エンティティタイプを識別することと、１つ以上の意味的エンティティタイプを、複数の意味的エンティティの意味的エンティティと関連付けることと、複数の意味的エンティティについてのワードエンベディングを生成することと、ワードエンベディングに基づいて、複数の意味的エンティティからの意味的エンティティ間の１つ以上の意味的関連スコアを決定することと、クエリ用語を受信することと、１つ以上の意味的関連スコアに基づいて、クエリ用語と関連付けられた結果として生じる意味的エンティティの第１のリストを生成することと、結果として生じる意味的エンティティの第１のリストの意味的エンティティと関連付けられた意味的エンティティタイプに基づいて、意味的エンティティ集合の第２のリストを生成することであって、第２のリストからの各意味的エンティティ集合が、意味的エンティティタイプと関連付けられる、生成することと、意味的エンティティ集合の第２のリストに基づく出力を提供することとを含むことができる。
【００３５】
一部の実施形態によると、１つ以上のコーパスは、構造化データおよび非構造化データを含むことができる。
【００３６】
一部の実施形態によると、複数の意味的エンティティタイプを、構造化データベース、エンティティタイプのカスタムリスト、ニューラルネットワークからの出力、教師付き機械学習からの出力、または教師なし機械学習からの出力のうちの１つ以上に基づいて、識別することができる。
【００３７】
一部の実施形態によると、ニューラルネットワークアーキテクチャは、リカレントニューラルネットワーク（ＲＮＮ）または長短期メモリ（ＬＳＴＭ）のうちの１つ以上とすることができる。
【００３８】
一部の実施形態によると、ワードエンベディングは、Ｗｏｒｄ２ｖｅｃ、ＡｄａＧｒａｍ、ｆａｓｔＴｅｘｔ、およびＤｏｃ２ｖｅｃのうちの１つ以上を使用して生成することができる。
【００３９】
一部の実施形態によると、結果として生じる意味的エンティティの第１のリストの意味的エンティティと関連付けられた意味的エンティティタイプに基づいて、意味的エンティティ集合の第２のリストを生成することは、以下の条件、すなわち、潜在的な意味的エンティティタイプと関連付けられる最大数の結果として生じる意味的エンティティ、結果として生じる意味的エンティティについての最小の意味的関連スコア、１つ以上のコーパス内の結果として生じる意味的エンティティの最小数の出現、１つ以上のコーパスの最小数のドキュメントにおいて発生する結果として生じる意味的エンティティ、クエリ用語および結果として生じる意味的エンティティの最小数の共起、クエリ用語および結果として生じる意味的エンティティの最大数の共起、クエリ用語と結果として生じる意味的エンティティが共起する場合の１つ以上のコーパスの最小数のドキュメント、ならびにクエリ用語と結果として生じる意味的エンティティが共起する場合の１つ以上のコーパスの最大数のドキュメントのうちの１つ以上を満たす、それらの結果として生じる意味的エンティティにのみに、生成が基づくことを含むことができる。
【００４０】
一部の実施形態によると、意味的エンティティ集合の第２のリストを生成することは、第２のリスト内の意味的エンティティ集合の数を、最大数に制限することを含むことができる。
【００４１】
一部の実施形態によると、意味的エンティティ集合の第２のリストを生成することは、第２のリストの意味的エンティティ集合のそれぞれにおける最小数の意味的エンティティを要求することを含むことができる。
【００４２】
一部の実施形態によると、意味的エンティティ集合の第２のリストを生成することは、第２のリストの意味的エンティティ集合のそれぞれにおける意味的エンティティのそれぞれについての最小の意味的関連スコアを要求することを含むことができる。
【００４３】
一部の実施形態によると、意味的エンティティ集合の第２のリストを生成することは、選択された意味的エンティティ集合と関連付けられる１つ以上の結果として生じる意味的エンティティに更に基づくことができる。
【００４４】
一部の実施形態によると、出力は、第１のリストからの結果として生じる意味的エンティティのうちの１つ以上、および第２のリストからの意味的エンティティ集合のうちの１つ以上を、ユーザーデバイスが列挙することを可能にすることができる。
【００４５】
本開示の一実施形態によるエンティティ間の意味的情報を生成する方法は、１つ以上のコーパス内の複数の意味的エンティティを識別することであって、意味的エンティティが、単一ワードまたは複数ワードフレーズのうちの１つ以上を含む、識別することと、複数の意味的エンティティについてのワードエンベディングを生成することであって、意味的エンティティのうちの少なくとも１つが、複数の意味および対応する複数のワードエンベディングを有する、多意味の意味的エンティティであり、各意味が、対応するワードエンベディングと関連付けられる、生成することと、ワードエンベディングに基づいて、複数の意味的エンティティからの意味的エンティティ間の１つ以上の意味的関連スコアを決定することと、クエリ用語を受信することと、クエリ用語が、複数のエンベディングと関連付けられた意味的エンティティに対応するか否かを決定することと、クエリ用語が、複数のエンベディングと関連付けられた意味的エンティティに対応する場合に、一組のリストを生成することであって、各リストが、複数のエンベディングの各エンベディングについての意味的エンティティを含み、意味的エンティティが、１つ以上の意味的関連スコアの比較に基づいて、リストのうちの１つ以上に含まれる、生成することと、クエリ用語が複数のエンベディングと関連付けられた意味的エンティティに対応する場合に、一組のリストに基づく出力を提供することと、を含むことができる。
【００４６】
一部の実施形態によると、１つ以上のコーパスは、構造化データおよび非構造化データを含むことができる。
【００４７】
一部の実施形態によると、方法は、１つ以上のコーパス内の多意味の意味的エンティティの複数の意味の各意味の出現を測定する、一組の尺度を決定することを更に含むことができる。
【００４８】
一部の実施形態によると、尺度は、１つ以上のコーパスの１つ以上のドキュメントにおける、多意味の意味的エンティティの特定の意味と、複数の意味的エンティティの意味的エンティティのうちの１つ以上との共起の数のカウントとすることができる。
【００４９】
一部の実施形態によると、尺度は、１つ以上のコーパスのドキュメントのカウントとすることができ、多意味の意味的エンティティの特定の意味は、その中で複数の意味的エンティティの意味的エンティティのうちの１つ以上と共起する。
【００５０】
一部の実施形態によると、ワードエンベディングは、アダプティブスキップグラム（ＡｄａＧｒａｍ）を使用して生成することができる。
【００５１】
一部の実施形態によると、方法は、一組のリストの各リストについてのパーセンテージを生成することであって、各リストについてのパーセンテージが、対応するリストにおける意味的エンティティの数を、それらの組のリストのすべてにおけるエンティティの合計数で除算することによって算出される、生成することを更に含む。
【００５２】
一部の実施形態によると、方法は、対応するリストにおける意味的エンティティと関連付けられた１つ以上の意味的エンティティタイプを分析することによって、意味的エンティティタイプを、一組のリストにおける１つ以上のリストと関連付けることを更に含むことができる。
【００５３】
一部の実施形態によると、対応するリストにおける意味的エンティティと関連付けられた１つ以上の意味的エンティティタイプを分析することは、対応するリストにおける意味的エンティティと最も頻繁に関連付けられた意味的エンティティタイプを決定することを含むことができる。
【００５４】
一部の実施形態によると、出力は、一組のリスト、および一組のリストの各リストにおける結果として生じる意味的エンティティを、ユーザーデバイスが表示することを可能にすることができる。
【００５５】
本開示の一実施形態によるエンティティ間の意味的情報を生成する方法は、１つ以上のコーパス内の複数の意味的エンティティを識別することであって、意味的エンティティが、単一ワードまたは複数ワードフレーズのうちの１つ以上を含む、識別することと、１つ以上のコーパス内の複数の意味的エンティティタイプを識別することと、少なくとも１つの意味的エンティティタイプを、複数の意味的エンティティの意味的エンティティと関連付けることと、複数の意味的エンティティについてのワードエンベディングを生成することと、複数の意味的エンティティからの意味的エンティティ間の１つ以上の意味的関連スコアを決定することと、クエリ用語およびエンティティタイプ入力を受信することと、クエリ用語と関連付けられるクエリ用語エンティティタイプを決定することと、１つ以上の意味的関連スコアに基づいて、クエリ用語と関連付けられた結果として生じる意味的エンティティの第１のリストを生成することであって、第１のリストからの結果として生じる意味的エンティティが、クエリ用語エンティティタイプと同じ意味的エンティティタイプと関連付けられる、生成することと、１つ以上の意味的関連スコアに基づいて、クエリ用語と関連付けられた結果として生じる意味的エンティティの第２のリストを生成することであって、第２のリストからの結果として生じる意味的エンティティが、エンティティタイプ入力と関連付けられる、生成することと、意味的関連スコアの第３のリストを生成することであって、第３のリストが、第１のリストからの結果として生じる意味的エンティティのそれぞれと、第２のリストからの結果として生じる意味的エンティティのそれぞれとの間の意味的関連スコアを含む、生成することと、第１のリスト、第２のリスト、および第３のリストに基づく出力を提供することと、を含むことができる。
【００５６】
一部の実施形態によると、１つ以上のコーパスは、構造化データおよび非構造化データを含むことができる。
【００５７】
一部の実施形態によると、複数の意味的エンティティタイプを、構造化データベース、エンティティタイプのカスタムリスト、ニューラルネットワークからの出力、教師付き機械学習からの出力、または教師なし機械学習からの出力のうちの１つ以上に基づいて、識別することができる。
【００５８】
一部の実施形態によると、ニューラルネットワークアーキテクチャは、リカレントニューラルネットワーク（ＲＮＮ）または長短期メモリ（ＬＳＴＭ）のうちの１つ以上とすることができる。
【００５９】
一部の実施形態によると、ワードエンベディングは、Ｗｏｒｄ２ｖｅｃ、ＡｄａＧｒａｍ、ｆａｓｔＴｅｘｔ、およびＤｏｃ２ｖｅｃのうちの１つ以上を使用して生成することができる。
【００６０】
一部の実施形態によると、第１のリストを生成することは、結果として生じる意味的エンティティの数を最大カウントに制限することを含むことができる。
【００６１】
一部の実施形態によると、第１のリストを生成することは、結果として生じる意味的エンティティのそれぞれの意味的関連スコアが、最小の意味的関連スコアより大きくすることを要求することに更に基づくことができる。
【００６２】
一部の実施形態によると、第２のリストを生成することは、結果として生じる意味的エンティティの数を最大カウントに制限することを含むことができる。
【００６３】
一部の実施形態によると、第２のリストを生成することは、結果として生じる意味的エンティティのそれぞれの意味的関連スコアが、最小の意味的関連スコアより大きくすることを要求することに更に基づくことができる。
【００６４】
一部の実施形態によると、出力は、ｙ軸上の第１のリストからの結果として生じる意味的エンティティ、ｘ軸上の第２のリストからの結果として生じる意味的エンティティ、および色または色合いとして表される第３のリストからの意味的関連スコアのそれぞれを用いたヒートマップを、ユーザーデバイスが生成することを可能にすることができ、色または色合いは、意味的関連スコアへとマッピングされる。
【００６５】
本開示の一実施形態による方法は、１つ以上の知識ベース内に存在する意味的エンティティおよび関連付けられた意味的集合を識別することであって、意味的エンティティが、単一ワードまたは複数ワードフレーズのうちの１つ以上を含み、かつ意味的集合の意味的エンティティが、エンティティタイプを共有する、識別することと、分析のための期間を決定することと、期間を１つ以上の時間スライスへと分割することと、各時間スライスについて、１つ以上のコーパスに基づいて、識別された意味的エンティティについての一組のワードエンベディングを生成することと、第１の意味的エンティティ入力と第２の意味的エンティティ入力との間の時間的意味的関連を特徴付けることであって、各時間スライスについて、第１の意味的エンティティ入力と第２の意味的エンティティ入力との間の第１の意味的関連強度を決定するステップ、各時間スライスについて、第１の意味的エンティティ入力と、第２の意味的エンティティと関連付けられた意味的集合と関連付けられる複数の意味的エンティティとの間の第２の意味的関連強度を決定するステップ、各時間スライスについて、第１の意味的関連強度を第２の意味的関連強度と関連付ける確率の尺度を決定するステップ、時間値を各時間スライスに割り当てるステップ、各時間スライスについて、時間スライスについての割り当てられた時間値を、時間スライスについての確率の尺度と関連付けることによって、２次元の点の連続を決定するステップであって、連続が、時間値を増加することによって順序付けられる、決定するステップ、曲線を順序付けられた連続に適合させるステップ、曲線適合の特徴を抽出するステップであって、特徴が、確率の尺度の統計学的に有意な大きさの変化がその値において生じる、時間値を表す増加時間の値、確率の尺度の最大値を表す確率飽和値、または曲線下面積値、のうちの１つ以上を含む、抽出するステップ、および第１の意味的エンティティ入力と第２の意味的エンティティ入力との間の時間的意味的関連を特徴付けることから、曲線適合の特徴を提供するステップ、を実行することによって、特徴付けることと、を含むことができる。
【００６６】
一部の実施形態によると、方法は、ユーザーから第１の意味的エンティティ入力を受信することと、一組の少なくとも２つの第２の意味的エンティティとして、ユーザーから第２の意味的エンティティ入力を受信することと、第１の意味的エンティティ入力と、その組の第２の意味的エンティティのそれぞれについての第２の意味的エンティティ入力との間の時間的意味的関連を特徴付けるステップを実行することと、第１の意味的エンティティ入力および一組の第２の意味的エンティティ入力のうちの少なくとも２つについての曲線適合の特徴を表示することと、を更に含むことができる。
【００６７】
一部の実施形態によると、曲線適合の特徴を表示することは、バブルプロットとして、増加時間の値、確率飽和値、ならびに第１の意味的エンティティ入力および第２の意味的エンティティ入力の時間的意味的関連のそれぞれについての曲線下面積値を表示することであって、バブルプロットのｘ軸に沿ったバブル配置が、増加時間の値に対応し、バブルプロットのｙ軸に沿ったバブル配置が、飽和の確率の値に対応し、バブルのサイズが、曲線下面積値に対応する、表示することを含むことができる。
【００６８】
一部の実施形態によると、方法は、バブルに近接するバブルと関連付けられる、第１の意味的エンティティ入力の識別、および第２の意味的エンティティ入力の識別を表示することを更に含むことができる。
【００６９】
一部の実施形態によると、曲線適合の特徴を表示することは、確率飽和値が確率閾値を満たす場合の曲線適合の特徴のみを表示することを含むことができる。
【００７０】
一部の実施形態によると、曲線適合の特徴を表示することは、共起閾値を満たす１つ以上のコーパスのドキュメントにおける共起のカウントを有する、第１の意味的エンティティ入力と第２の意味的エンティティ入力との間の時間的意味的関連についての曲線適合の特徴のみを表示することを含むことができる。
【００７１】
一部の実施形態によると、方法は、第１の意味的エンティティ入力と、一組の第２の意味的エンティティ入力のうちの少なくとも２つと、のうちの１つ以上のコーパスのドキュメントにおける共起のカウントを決定することを更に含むことができる。
【００７２】
一部の実施形態によると、曲線適合の特徴を表示することは、バブルプロットとして、増加時間の値、確率飽和値、ならびに第１の意味的エンティティ入力および第２の意味的エンティティ入力の時間的意味的関連のそれぞれについての共起のカウントを表示することであって、バブルプロットのｘ軸に沿ったバブル配置が、増加時間の値に対応し、バブルプロットのｙ軸に沿ったバブル配置が、飽和の確率の値に対応し、バブルのサイズが、共起のカウントに対応する、表示することを含むことができる。
【００７３】
一部の実施形態によると、第１の意味的関連強度を第２の意味的関連強度と関連付ける確率の尺度はｐ値の負対数とすることができ、第１の意味的関連強度が第２の意味的関連強度に対してより統計学的に有意でないことを示す、比較的低い確率の尺度と比較して、比較的高い確率の尺度は第１の意味的関連強度が第２の意味的関連強度に対してより統計学的に有意であることを示す。
【００７４】
一部の実施形態によると、曲線を順序付けられた連続に適合させることは、以下の式： 
2019536178.tif 000003
に従って、シグモイド曲線を順序付けられた連続に適合させることを含むことができ、式中、
ｙ値は、連続の確率の尺度であり、
ｘ値は、連続の時間値である。
【００７５】
一部の実施形態によると、本明細書で開示される任意のステップまたは作用をサーバによって実行することができる。一部の実施形態では、サーバは、モジュールを記憶するメモリを含むことができる。一部の実施形態では、サーバはメモリ内に記憶されたモジュールを実行するように構成されたプロセッサを含み、これは本明細書で開示されるステップまたは作用のうちのいずれかをプロセッサに実施させるように構成される。一部の実施形態によると、非一時的コンピュータ可読媒体は、本明細書で開示されるステップまたは作用のうちのいずれかをサーバに実施させるように動作可能である、実行可能な命令を有することができる。
【００７６】
上記実施形態または態様のうちのいずれかを、本明細書で述べられ、かつ本発明の範囲内にある、他の実施形態および／または態様と組み合わせることができる。
【図面の簡単な説明】
【００７７】
開示された主題の様々な目的、特徴、および利点は、同様の参照符号が同様の要素を特定する以下の図面に関連して考慮された場合に、開示された主題の以下の詳細な説明を参照しながらより完全に明らかにすることができる。
【００７８】
複数の実施形態が開示される一方で、本開示の更なる他の実施形態が、本開示の例示的な実施形態を示し、かつ説明する以下の発明を実施するための形態から当業者に明らかになるであろう。したがって、図面および発明を実施するための形態は、本質的に例示的なものであり、限定的でないものと見なされるべきである。
【００７９】
【図１】本開示の一部の実施形態によるシステムアーキテクチャを図示する。
【００８０】
【図２Ａ】クエリに対する意味的応答を提供する一方法を図示する。
【００８１】
【図２Ｂ−１】本開示の一部の実施形態による、複数の経路からの合成データにより有効化されたインターフェースの描出を図示する。
【図２Ｂ−２】本開示の一部の実施形態による、複数の経路からの合成データにより有効化されたインターフェースの描出を図示する。
【００８２】
【図３Ａ】クエリに対する意味的応答を提供する一方法を図示する。
【００８３】
【図３Ｂ−１】本開示の一部の実施形態による、複数の経路からの合成データにより有効化されたインターフェースの描出を図示する。
【図３Ｂ−２】本開示の一部の実施形態による、複数の経路からの合成データにより有効化されたインターフェースの描出を図示する。
【００８４】
【図４−１】本開示の一部の実施形態による、応答シンセサイザ１１２（図１）によって生成されたデータの２次元マトリクスを図示する。
【図４−２】本開示の一部の実施形態による、応答シンセサイザ１１２（図１）によって生成されたデータの２次元マトリクスを図示する。
【００８５】
【図５Ａ】本開示の一部の実施形態による、ユーザーが供給した例示的なクエリの「近隣」について強調された多様なエンティティに関する知識グラフを図示する。
【図５Ｂ】本開示の一部の実施形態による、ユーザーが供給した例示的なクエリの「近隣」について強調された多様なエンティティに関する知識グラフを図示する。
【００８６】
【図６Ａ】本開示の一部の実施形態により「類似」について強調されるように、どの程度知識グラフが多様なエンティティに関連するかを示す実施例を図示する。
【図６Ｂ】本開示の一部の実施形態により「類似」について強調されるように、どの程度知識グラフが多様なエンティティに関連するかを示す実施例を図示する。
【図６Ｃ】本開示の一部の実施形態により「類似」について強調されるように、どの程度知識グラフが多様なエンティティに関連するかを示す実施例を図示する。
【図６Ｄ】本開示の一部の実施形態により「類似」について強調されるように、どの程度知識グラフが多様なエンティティに関連するかを示す実施例を図示する。
【００８７】
【図７】本開示の一部の実施形態による、「象徴的な」時間的段階のラジアル表現とすることができる、ブルズアイ図（交互の二次元図）を示す。
【００８８】
【図８−１】本開示の一部の実施形態による、応答シンセサイザ１１２（図１）によって生成されたデータの２次元マトリクスを図示する。
【図８−２】本開示の一部の実施形態による、応答シンセサイザ１１２（図１）によって生成されたデータの２次元マトリクスを図示する。
【００８９】
【図９】本開示の一部の実施形態による、エンティティ認識技法の適用に続いて、例示的なフレーズ「再ミエリン化」についてクエリされたバイオ知識グラフからの出力を図示する。
【００９０】
【図１０】本開示の一部の実施形態により、ユーザーによって供給されるあらゆる実世界表現型クエリに密接に関連する疾患の兆候を識別することを可能にすることができる、バイオ知識グラフからの出力を図示する。
【００９１】
【図１１】本開示の一部の実施形態による、隣接するノードが時間とともに変化する検索入力についてのエンティティ分布を図示する。
【００９２】
【図１２】本開示の一部の実施形態による、エンティティクラスにわたって時間的進行の概念を出力する実例を図示する。
【００９３】
【図１３】本開示の一部の実施形態による、非常に短い時間での知識グラフサブセットの実例の生成を図示する。
【００９４】
【図１４】本開示の一部の実施形態による、知識グラフ（「ＫＧ」）における経時的なエンティティの時間的進行の取り込みおよび結果としてのエンティティ分布を図示する。
【００９５】
【図１５】本開示の一部の実施形態による、例示的なエンティティ集合を図示する。
【００９６】
【図１６】本開示の一部の実施形態による、コサイン距離確率密度関数（ＰＤＦ）グラフを図示する。
【００９７】
【図１７】本開示の一部の実施形態による、時間的分析のフローチャートを図示する。
【００９８】
【図１８】本開示の一部の実施形態による、すべての疾患エンティティに対する２つの遺伝子の意味的関連強度の密度分布を図示する。
【００９９】
【図１９】本開示の一部の実施形態による、統計的な背景モデルを評価し、要約統計をユーザーに対して提示するプロセスを図示する。
【０１００】
【図２０】本開示の一部の実施形態による、時間的分析を用いて上に重ねられた要約統計の実施例を図示する。
【０１０１】
【図２１】本開示の一部の実施形態による、ランダムな一組のベクトルから生成された２つのヒストグラムを図示する。
【０１０２】
【図２２Ａ】本開示の一部の実施形態による、真正なライフサイエンスエンティティペアの時間的分析を図示する。
【図２２Ｂ】本開示の一部の実施形態による、真正なライフサイエンスエンティティペアの時間的分析を図示する。
【０１０３】
【図２３】本開示の一部の実施形態による、ＰＴＥＮ−ＫＲＡＳ遺伝子間の時間的分析を図示する。
【０１０４】
【図２４】本開示の一部の実施形態による、ＡＭＬ１（ＲＵＮＸ１）−ＦＬＴ３遺伝子間の関連の時間的分析を図示する。
【０１０５】
【図２５】本開示の一部の実施形態による、非典型溶血性尿毒症症候群−ＣＦＨ（疾患−遺伝子）の時間的分析を図示する。
【０１０６】
【図２６】本開示の一部の実施形態による、ＰＣＳＫ９−ＬＤＬＲ（遺伝子−遺伝子）の時間的分析を図示する。
【０１０７】
【図２７】本開示の一部の実施形態による、ＰＣＳＫ９−ＬＤＬＲ（遺伝子−遺伝子）の時間的分析を図示する。
【０１０８】
【図２８】本開示の一部の実施形態による、ＯＴスコアとコサイン距離（意味的関連スコア）との間の関係を図示する。
【０１０９】
【図２９】本開示の一部の実施形態による、有意でない遺伝子−疾患相互作用についての時間的な統計学的推測の陰性対照グラフィカル表現を図示する。
【０１１０】
【図３０】本開示の一部の実施形態による、有意な遺伝子−疾患相互作用についての時間的な統計学的推測の陽性対照グラフィカル表現を図示する。
【０１１１】
【図３１】本開示の一部の実施形態による、例示的な近隣検知インターフェースを図示する。
【０１１２】
【図３２】本開示の一部の実施形態による、例示的な近隣検知インターフェースを図示する。
【０１１３】
【図３３】本開示の一部の実施形態による、例示的な知識ダイアグラムインターフェースを図示する。
【０１１４】
【図３４】本開示の一部の実施形態による、例示的な知識ダイアグラムインターフェースを図示する。
【０１１５】
【図３５】本開示の一部の実施形態による、例示的な情報ボックスを図示する。
【０１１６】
【図３６】本開示の一部の実施形態による、例示的な情報ボックスを図示する。
【０１１７】
【図３７】本開示の一部の実施形態による、例示的な知識ダイアグラムインターフェースを図示する。
【０１１８】
【図３８】本開示の一部の実施形態による、例示的な知識ダイアグラムインターフェースを図示する。
【０１１９】
【図３９】本開示の一部の実施形態による、例示的な知識ダイアグラムインターフェースを図示する。
【０１２０】
【図４０】本開示の一部の実施形態による、例示的な知識ダイアグラムインターフェースを図示する。
【０１２１】
【図４１】本開示の一部の実施形態による、例示的な知識ダイアグラムインターフェースを図示する。
【０１２２】
【図４２】本開示の一部の実施形態による、例示的な知識ダイアグラムインターフェースを図示する。
【０１２３】
【図４３】本開示の一部の実施形態による、例示的な知識ダイアグラムインターフェースを図示する。
【図４４】本開示の一部の実施形態による、例示的な知識ダイアグラムインターフェースを図示する。
【０１２４】
【図４５】本開示の一部の実施形態による、例示的な知識ダイアグラムインターフェースを図示する。
【０１２５】
【図４６】本開示の一部の実施形態による、例示的なヒートマップを図示する。
【０１２６】
【図４７】本開示の一部の実施形態による、例示的なヒートマップを図示する。
【０１２７】
【図４８】本開示の一部の実施形態による、例示的なヒートマップを図示する。
【０１２８】
【図４９】本開示の一部の実施形態による、時間的分析グラフについての例示的なユーザーインターフェースを図示する。
【０１２９】
【図５０】本開示の一部の実施形態による、時間的分析グラフを有する例示的な知識グラフインターフェースを図示する。
【０１３０】
【図５１】本開示の一部の実施形態による、時間的分析グラフを有する例示的な知識グラフインターフェースを図示する。
【０１３１】
【図５２】本開示の一部の実施形態による、５つの異なるエンティティタイプと関連付けられるエンティティ「Ｒｈｏ」についての近隣検知ダイアグラムを図示する。
【図５３】本開示の一部の実施形態による、５つの異なるエンティティタイプと関連付けられるエンティティ「Ｒｈｏ」についての近隣検知ダイアグラムを図示する。
【図５４】本開示の一部の実施形態による、５つの異なるエンティティタイプと関連付けられるエンティティ「Ｒｈｏ」についての近隣検知ダイアグラムを図示する。
【図５５】本開示の一部の実施形態による、５つの異なるエンティティタイプと関連付けられるエンティティ「Ｒｈｏ」についての近隣検知ダイアグラムを図示する。
【図５６】本開示の一部の実施形態による、５つの異なるエンティティタイプと関連付けられるエンティティ「Ｒｈｏ」についての近隣検知ダイアグラムを図示する。
【０１３２】
【図５７】本開示の一部の実施形態によるデータフローを図示する。
【０１３３】
【図５８】本開示の一部の実施形態による、ユーザーが近隣アプリにクエリ要求をする場合の制御／データフローを図示する。
【０１３４】
【図５９】本開示の一部の実施形態による、時間的分析グラフを有する例示的な知識グラフインターフェースを図示する。
【発明を実施するための形態】
【０１３５】
様々な他の修正および付加が、本開示の範囲を逸脱することなく、説明される例示的な実施形態になされてもよい。例えば、上述の実施形態は、特定の特徴または特定のステップを指す一方で、本開示の範囲はまた、特徴またはステップの異なる組み合わせを有する実施形態、および上述の特徴またはステップのすべてを含まない実施形態も含む。
【０１３６】
本開示は、特に応答が異質なソースからの構造化および非構造化情報を使用する意味的合成を要求する場合の、ユーザークエリに対する概要／要約応答を生成する上での多くの現在の課題を克服するためのシステム、方法、およびコンピュータ可読媒体を説明する。一部の実施形態では、ニューラルネットワークおよび／または言語モデルを、現在のところ計ることが実質的に不可能な以下のタスク、すなわち、随意に、データの一部またはすべてを異質なソースから実時間で集約することができる構造化および／または非構造化データから推測される意味的情報の可視化を解決するために使用することができる。
【０１３７】
本開示の実施形態は、様々な産業およびドメインに適用することができる。しかし、例示の目的のために、本開示は、ヘルスケア／医療スペースに焦点を当てる。一部の実施形態では、以下の用語、すなわち、「エンティティ」および「トークン」を互換的に使用することができる。一部の実施形態では、以下の用語、「エンティティクラス」および「エンティティタイプ」も互換的に使用することができる。更に、一部の実施形態では、以下の用語、「エンベディング」および「ベクトル」を互換的に使用することができる。また、語句「ワードエンベディング」は、明示的に特定されない限り、文字、ワード、パラグラフ、センテンス、および／またはドキュメントエンベディングを集合的に指すために用いられる。一部の実施形態では、以下の用語、すなわち、「意味的関連強度」、「意味的関連スコア」、および「コサイン距離」を互換的に使用することができる。
【０１３８】
開示されたシステムおよび方法は、意味的に関連するエンティティが共起しない場合に、コーパスから生成されたワード／ドキュメント／パラグラフ／センテンスエンベディングを使用して、意味的に関連するエンティティを識別することができ、ここでエンベディングは、既知の技法を用いて生成することができるが、用語／フレーズは、エンティティおよびエンティティクラスへとマッピングされる。共起していないエンティティのそれぞれと、それらへとマッピングされたエンティティおよびクラスとの間のマッピングにおける類似性（例えば、それらの間の距離）は、元のコーパスにおける共起概念としては存在しなかった意味的に関連するエンティティの発見を可能にする。別の言い方をすると、第１のマッピングの第２のマッピングに対する類似性は、その中で第１のエンティティマッピングが第１のエンティティを第１の組のエンティティおよびクラスに対して関連させ、第２のマッピングが第２のエンティティを第２の組のエンティティおよびクラスに対して関連させて、関連するエンティティの発見を可能にする。
【０１３９】
ニューラルネットワークを、構造化集約の生成に向けて、非構造化データソースから意味的情報を抽出するために使用することができる。一部の実施形態では、この目的のために状態メンテナンスを有するシーケンスモデルをニューラルネットワーク内で使用することができる。一部の実施形態では、データの空間的な可視化を強化することができる候補データセットを最低限の人間検証で作成することができる。
【０１４０】
検索クエリのための多次元の要約を合成する開示されたシステムおよび方法は、ラベル付けされたエンティティおよびラベル付けされていない用語／フレーズを含むことができる。検索入力は、１つ以上のラベル付けされていないエンティティとすることができる。検索クエリは、用語／フレーズ、または用語／フレーズを含むことができる自然言語クエリとすることができる。用語は、曖昧性除去のためのダイアログ交換のように、クエリのシーケンスから取得することができる。
【０１４１】
検索入力の近隣においてラベル付けされたエンティティは、合成された要約の直交寸法（例えば、行および列）を作成するために使用することができる。合成は、入力用語／フレーズの近隣のワード／ドキュメント／パラグラフ／センテンスエンベディングにおけるエンティティ分布を調べること、およびその分布を使用して、要約生成のための候補エンティティを選び出すことによって実行することができる。エンティティ／近隣関係を取り込むエンティティ分布は、汎用コーパスまたはコンテキスト特定分布から得られる一般的な分布とすることができ、コンテキストは、暗示的または明示的に推測される。
【０１４２】
機械学習モデルのためのワードの事実上の表現としてのワードエンベディングを確立するために、ワードベクトル／エンベディング（またはワードエンベディングを構成する文字ベクトル）を使用する言語モデルをワードが原子的なエンティティである従来のｎグラムモデルの代わりとして使用することができる。単独の共起の取り込みを超えて十分に汎用化するベクトルとしてのワードの表現と同様に、ベクトルとしての概念の表現および概念間の関係は、それらが抽出される空間内で符号化され、データのより広く、かつより深い理解のための概念／関係エンベディングを有する意味的知識グラフの構築を容易にする明示的な関係を超えて汎用化することができる。
【０１４３】
１つ以上の異質なデータソースは、いくつかの実施形態によって例示的な「コアコーパス」内へと集約することができる。例えば、以下のテーブルからの１つ以上のデータソースを使用することができる。
2019536178.tif 000004
【０１４４】
一部の実施形態によると、集約は、実時間または実質的な実時間（例えば、フィードを通じる）から、実時間または実質的な実時間でない任意の期間（例えば、秒、分、時間、日、週、月、年）までの範囲とすることができる、様々な頻度で実行することができる。一部の実施形態では、このような頻度は、各リソースサイトのクロール頻度ポリシーに基づくことができ、本開示の実施形態は、このようなポリシーを履行することができる。一部の実施形態では、頻度は、異質なデータソースのうちの１つ以上について別様に設定され得る。一部の実施形態では、頻度は、静的にまたは動的にのいずれかで設定することができる。
【０１４５】
ヘルスケア／薬剤産業分野において、各薬剤企業は、開発の様々な段階において、その薬剤の概要を有することができる。一部の実施形態では、異なる企業にわたる薬剤クラスおよび疾患カテゴリなどの自動的にクラスタになることができる情報である集約および／または合成された意味的要約は、この空間に係るエンティティの意味的理解だけでなく、異質な構造化および非構造化ソース（例えば、構造化された企業サイト、臨床試験などの準構造化サイト、パブメドのような非構造化ソース）から収集および／または合成された情報を要求する。一部の実施形態では、集約および／または合成された意味的要約を、異質な構造化および非構造化ソースからこうした合成を作成するための迅速な決定のため、および長い時間（例えば、数週間ではない場合でも、数日にわたって数時間）を費やす必要性を省くためにユーザーに利益をもたらすことができる、幅広いクラスの意味的クエリに対処するためのスケーラビリティおよび／または能力を改善するために作成することができる。
【０１４６】
本開示の実施形態はまた、異質な構造化および非構造化ソースからの意味的情報を抽出する上での他の課題も解決することができる。これらの課題の例が以下に説明される。
【０１４７】
まず、幅広い範囲のユーザー検索に対する意味的応答を生成するための人間がキュレートしたオントロジ／情報リポジトリに内に不適当な「エンティティクラス」がある可能性がある。キュレートされたオントロジがヘルスケア産業では豊富に存在する一方で、エンティティまたはエンティティクラスが見逃される可能性があり、それはドキュメントへのユーザー入力の語義的にマッチした結果の応答の退化を引き起こす。例えば、「再ミエリン化」などの検索用語は、キュレートされた意味的結果が入力について構築されない限り、語義的な検索応答へと退化する可能性がある。このことは、再ミエリン化が兆候、疾患、薬剤などの一般的なエンティティタイプに属するエンティティとはなりにくいことが理由である。ワードエンベディング近隣の応答が使用されるとしても、エンティティの近隣はエンティティタイプの混合されたグラブバッグである可能性があるため、このことは依然として不適当である可能性がある。ワードエンベディング近隣の応答を使用することは、語義的な応答から生成された結果よりもわずかに良好である可能性があるが、依然として、ユーザーの意思に最良にマッチする意味的合成を使用する本開示の実施形態によって生成される結果に近接しさえもしないことになる。
【０１４８】
第２に、エンティティの曖昧性除去が、特定の用語について要求される可能性がある。例えば、語義的な検索は、遺伝子「表皮成長因子受容体（Ｅｐｉｄｅｒｍａｌ  Ｇｒｏｗｔｈ  Ｆａｃｔｏｒ  Ｒｅｃｅｐｔｏｒ）」または臨床検査「推測糸球体濾過率（Ｅｓｔｉｍａｔｅｄ  Ｇｌｏｍｅｒｕｌａｒ  Ｆｉｌｔｒａｔｉｏｎ  Ｒａｔｅ）」を意味することができる用語「ＥＧＦＲ」について、誤解を招く恐れのある結果をもたらす可能性がある。この共通のユーザークエリは、純粋な語義的なシステムにおいて誤ったヒットをもたらす可能性がある。一部の実施形態では、この問題は、コンテキストが存在する場合に暗示的に曖昧性を除去する、またはコンテキストが存在しない場合に明示的にエンティティの曖昧性を除去するための意味的バイオ知識グラフを使用することによって解決することができる。
【０１４９】
第３に、非構造化ソースにおける単一ワードおよび複数ワード（フレーズ）エンティティの明瞭な認識および分類を最大化する必要性がある可能性がある。系列学習ニューラルネットモデル（例えば、条件付確率場（ＣＲＦ）と分離した、またはそれと組み合わされたリカレントニューラルネット（ＲＮＮ）変形例）を使用する非構造化データからの名前をつけられたエンティティ認識の実行が、欠けている可能性がある。一部の実施形態では、特に、意味的に関連する情報ソースからのワードエンベディングに潜在する意味的類似性の活用の実行を改善することができる。
【０１５０】
第４に、構造化ソースに潜在する対象の特定の意味的情報を抽出する必要性がある可能性がある。構造化リポジトリにおけるデータの組織化は、構造化リポジトリにおけるフィールドおよびキーにわたる意味的情報を抽出することに向いていない場合がある。例えば、ＦＡＥＲＳ（ＦＤＡ有害事象報告システム）は、有害事象および薬物治療エラーレポートに基づく構造化情報を含む。このリポジトリから計算された一般的な尺度は、データの組織化によるいくつかの洞察に満ちた潜在する情報を取り込まない。
【０１５１】
製薬エコシステムの様々なサイロによって一般に使用され、また本開示の実施形態によって使用することができるデータソースの実施例が以下に説明される。
【０１５２】
Ｄｒｕｇｓ＠ＦＤＡ（ｗｗｗ．ａｃｃｅｓｓｄａｔａ．ｆｄａ．ｇｏｖ／ｓｃｒｉｐｔｓ／ｃｄｅｒ／ｄｒｕｇｓａｔｆｄａ／）：  Ｄｒｕｇｓ＠ＦＤＡは、患者（１９９８年〜現在）に関する、１００，０００を超える現在のＦＤＡ承認ラベル、古いラベル、承認文字、レビュー（科学的な分析）、および情報を含む。このほとんどが非構造化知識ベースは、米国で現在販売が承認されている、すべての処方薬および市販のヒト用の薬剤および治療的生物学的製剤に加えて、すべての製造中止になった薬剤および化学的タイプ６の承認薬を含む。以下の治療的生物学的生成物には、モノクローナル抗体、サイトカイン、成長因子、酵素、免疫調節薬、血栓溶解薬、これらの生成物（凝固因子を除く）の組換えバージョンを含む動物または微生物から抽出される治療的な使用意図されるタンパク質、および非ワクチン治療学免疫療法が含まれる。Ｄｒｕｇｓ＠ＦＤＡにおける情報は、ＦＤＡオレンジブック（治療学的等価物評価を有する承認された薬剤製品）と，新薬治験開始申請（ＩＮＤ）、新薬申請（ＮＤＡｓ）、および簡易なＮＤＡｓ（ＡＮＤＡｓ）を維持するセンター広域オラクルベースの管理情報システム（ＣＯＭＩＳ）との両方に由来する。本開示の一部の実施形態はまた、投薬形態および薬剤クラス（ｈｔｔｐｓ：／／ｄａｉｌｙｍｅｄ．ｎｌｍ．ｎｉｈ．ｇｏｖ／ｄａｉｌｙｍｅｄ）などの承認された製品の情報（ｗｗｗ．ｆｄａ．ｇｏｖ／ＦｏｒＩｎｄｕｓｔｒｙ／ＤａｔａＳｔａｎｄａｒｄｓ／ＳｔｒｕｃｔｕｒｅｄＰｒｏｄｕｃｔＬａｂｅｌｉｎｇ）を含む、ＦＤＡの構造化生成物ラベリング（ＳＰＬ）リソースも利用することができる。
【０１５３】
連邦有害事象報告システム（ｈｔｔｐｓ：／／ｏｐｅｎ．ｆｉｌａ．ｇｏｖ／ｄａｔａ／ｆａｅｒｓ／）：ＦＤＡ有害事象報告システム（ＦＡＥＲＳ）は、ＦＤＡに提示された有害事象および投薬ミスに基づく情報を含む、６１０万件を超えるレポートのデータベースである。データベースは、薬剤および治療的な生物学的生成物のためのＦＤＡの市販後の安全性監視プログラムをサポートするように設計されている。大規模な半構造化および構造化ＦＡＥＲＳデータベースは、医薬品規制用語集（ＭｅｄＤＲＡ）の専門用語における用語にコード化された有害事象および薬物治療エラーを有する、医薬品規制調和国際会議（ＩＣＨ  Ｅ２Ｂ）によって発行された国際安全性報告ガイダンスを遵守する。ＦＡＥＲＳは、医療従事者（例えば、医師、薬剤師、看護師など）、消費者（患者、家族、弁護士など）、およびＦＤＡ規則によって特定されるような生成物製造元からの有害事象報告を含む。
【０１５４】
Ｃｌｉｎｉｃａｌｔｒｉａｌｓ．ｇｏｖ（ｈｔｔｐｓ：／／ｃｉｉｎｉｃａｌｔｒｉａｌｓ．ｇｏｖ／）：Ｃｌｉｎｉｃａｌｔｒｉａｌｓ．ｇｏｖは、米国の５０の州および１９２カ国のすべてにわたって、行われた、完成した、または終了した２２０，０００以上の臨床試験についてのランディングページを提供する、ウェブベースのリソースである。これらの大規模な非構造化および半構造化リソースは、幅広い範囲の疾患および状態において公的および私的にサポートされた臨床研究に基づく、情報を含む。リソースは、国立保健研究機構（ＮＩＨ）での国立医学図書館（ＮＬＭ）によって維持される。情報は、臨床試験の提供者または臨床研究の主任研究員（ＰＩ）によって、提供および更新される。研究は、一般的に、それらが開始された（登録された）時に提出され、サイト上の情報は、研究を通じて更新される。一部の場合に、研究の結果はまた、研究が終了した後に、更に非構造化テキストおよび半構造化テーブルの形態で含まれる。各Ｃｌｉｎｉｃａｌｔｒｉａｌｓ．ｇｏｖの記録は、研究プロトコルについての要約情報を示し、また以下、すなわち、疾患または状態、介入（例えば、研究される医薬製品、挙動または手技）、研究の表題、記述および設計、参加についての要求（適格規準）、研究が行われる場所、研究場所についての連絡情報、患者の健康情報についてのＮＬＭ’ｓ  ＭｅｄｌｉｎｅＰｌｕｓおよび医学分野における学問的な記事の引用および要約についてのパブメドなどの他のヘルスウェブサイト上の関連情報へのリンクを含む。いくつかの記録はまた、以下、すなわち、研究参加者の説明（研究を開始した、および完了した参加者の数、ならびにそれらの人口統計的データ）、研究結果、および研究参加者が経験した有害事象の要約などの研究の結果に基づく情報も含む。。任意の臨床試験記録に対してなされた変化のすべての履歴は、Ｃｌｉｎｉｃａｌｔｒｉａｌｓ．ｇｏｖアーカイブを介して入手可能である。
【０１５５】
ＥＤＧＡＲ−ＳＥＣファイリング
（ｗｗｗ．ｓｅｃ．ｇｏｖ／ｅｄｇａｒ／ｓｅａｒｃｈｅｄｇａｒ／ｃｏｍｐａｎｙｓｅａｒｃｈ．ｈｔｍｌ）：電子的データ集積、分析、および情報検索（Ｅｌｅｃｔｒｏｎｉｃ  Ｄａｔａ  Ｇａｔｈｅｒｉｎｇ，  Ａｎａｌｙｓｉｓ，  ａｎｄ  Ｒｅｔｒｉｅｖａｌ：ＥＤＧＡＲ）システムは、米国証券取引委員会（ＳＥＣ）により要求された２１０万件のファイリングを提供する。ＥＤＧＡＲは、企業および他のエンティティによるすべての提出の自動化した収集、検証、索引付け、承諾、および転送を実行する。株主への実際の年に１回の報告（投資信託企業の場合を除く）はＥＤＧＡＲに提出される必要はないが、いくつかの企業は自発的に行う。しかし、多くの同じ情報を含むＦｏｒｍ  １０−ＫまたはＦｏｒｍ  １０−ＫＳＢに基づく年１回のレポートは、ＥＤＧＡＲにファイルされる必要がある。ほとんどが非構造化および半構造化形式で利用可能なＥＤＧＡＲデータベースに、毎日３０００を超えるファイリングが行われる。
【０１５６】
ウィキペディアおよびＤＢぺディア（ｗｗｗ．ｗｉｋｉｐｅｄｉａ．ｏｒｇ／  ａｎｄ  ｈｔｔｐ：／／ｗｉｋｉ．ｄｂｐｅｄｉａ．ｏｒｇ／）：ウィキペディアは、約７０，０００以上の能動的な投稿家によって寄稿された約５００万件以上の英文記事を有する、ウェブベースのフリーコンテンツのオープンに編集可能なエンサイクロペディアである。ＤＢぺディアは、ウィキペディアから構造化情報を抽出するためのクラウドソースのコミュニティの試みである。ＤＢペディア知識ベースは、約４５８万件の事物を説明し、そのうち約４２２万件は一貫したオントロジーに分類され、約１，４４５，０００の人間、約７３５，０００の場所、約４１１，０００の創作物、約２４１，０００の組織（約５８，０００の企業および約４９，０００の教育機関を含む）、約２５１，０００の種、および約６，０００の疾患を含む。
【０１５７】
パブメド要約（ｗｗｗ．ｎｃｂｉ．ｎｌｍ．ｎｉｈ．ｇｏｖ／ｐｕｂｍｅｄ）：パブメドは、ＭＥＤＬＩＮＥ、ライフサイエンスジャーナル、およびオンライン書籍からの生物医学的な文献に関する２６ミリオンを超える引用を含む。引用は、パブメドセントラル出版社のウェブサイトからのフルテキストコンテンツへのリンクを含む場合がある。これは、科学的な研究のためのＩMＲＡＤフォーマット（導入、方法、結果および説明）、および無作為対照化試験（ＲＣＴｓ）のためのＣＯＮＳＯＲＴ（試験報告に関する統合基準）フォーマットを使用する、構造化要約（ｗｗｗ．ｎｌｍ．ｎｉｈ．ｇｏｖ／ｂｓｄ／ｐｏｌｉｃｙ／ｓｔｒｕｃｔｕｒｅｄ＿ａｂｓｔｒａｃｔｓ．ｈｔｍｌ）を含む。
【０１５８】
化合物および薬剤エンティティ：ＮＣＩ−ｈｔｔｐ：／／ｗｗｗ．ｃａｎｃｅｒ．ｇｏｖ／；Ｃｌｉｎｉｃａｌｔｒｉａｌｓ．ｇｏｖ−ｈｔｔｐｓ：／／／ｃｉｉｍｃａｌｔｒｉａｉｓ．ｇｏｖ／；ドラッグバンク−ｈｔｔｐ：／／ｗｗｗ．ｄｒｕｇｂａｎｋ．ｃａ／；ＦＤＡ−ｈｔｔｐ：／／ｗｗｗ．ｆｄａ．ｇｏｖ／；パブケム−ｈｔｔｐｓ：／／ｐｕｂｃｈｅｍ．ｎｃｂｉ．ｎｌｍ．ｎｉｈ．ｇｏｖ／
【０１５９】
企業：Ｃｒｕｎｃｈｂａｓｅ−ｈｔｔｐｓ：／／ｗｗｗ．ｃｒｕｎｃｈｂａｓｅ／ｃｏｍ／；Ｌｉｎｋｅｄｉｎ−ｈｔｔｐ：／／ｗｗｗ．ｌｉｎｋｅｄｉｎ．ｃｏｍ／；ＳＢＩＲ−ｈｔｔｐｓ：／／ｗｗｗ．ｓｂｉｒ．ｇｏｖ／；Ｂｌｏｏｍｂｅｒｇ−ｈｔｔｐ：／／ｗｗｗ．ｂｌｏｏｍｂｅｒｇ．ｃｏｍ／
【０１６０】
人間がキュレートしたオントロジ：Ｈｕｇｏ−ｈｔｔｐ：／／ｗｗｗ．ｇｅｎｅｎａｍｅｓ．ｏｒｇ／；ＫＥＧＧ−ｈｔｔｐ：／／ｗｗｗ．ｇｅｎｏｍｅ．ｊｐ／ｋｅｇｇ／ｋｅｇｇｌ．ｈｔｍｌ；ＭｅＳＨ−ｈｔｔｐ：／／ｗｗｗ．ｎｃｂｉ．ｎｌｍ．ｍｉｈ．ｇｏｖ／ｍｅｓｈ；
ＯＭＩＭ−ｈｔｔｐ：／／ｗｗｗ．ｏｍｉｍ．ｏｒｇ／
【０１６１】
一部の実施形態では、意味的検索システムは、薬剤または治療学的エンティティの「時間的状態」についてのある範囲のクエリに「要約回答」を提供することができる。時間的状態は、薬剤の開発の段階（例えば、臨床前、フェーズ１、フェーズ２、フェーズ３、市販）を示すことができる。一部の実施形態では、意味的バイオ知識グラフ（例えば、図８に示すような）の中に、時間的状態を、「エンティティ」および／または「１つ以上のエンティティの交点」に対して自動的にマッピングすることができる。エンティティの非限定的な実施例には、薬剤（例えば、グリベック）、企業／組織（例えば、ロシュ、ダナファーバー）、適応症（例えば、非小細胞性肺がん）、表現型（例えば、再ミエリン化、血管形成）、遺伝子突然変異を含むバイオ分子特徴（例えば、肺がん腫瘍におけるＥＧＦＲ  Ｔ７９０Ｍ）、ＲＮＡまたはタンパク質発現（例えば、がん性腫瘍におけるＰＤ−Ｌ１過剰発現、脱髄性希少神経系疾患ＰＭＤにおけるＰＬＰ１）、シグナル経路（例えば、血液がんおよびリューマチ性関節炎などの自己免疫疾患におけるＪＡＫ／ＳＴＡＴ経路）、遺伝子融合（例えば、ＢＣＲ／ＡＢＬ融合または白血病におけるフィラデルフィア染色体）、コピー数変化（例えば、乳がんにおけるＢＲＣＡ、大腸がんにおけるＡＰＣ）、および「治療学的モダリティ」（例えば、小分子、抗体、免疫療法、遺伝子療法、放射線療法）を含むことができる。
【０１６２】
図１は、本開示の一部の実施形態によるシステムアーキテクチャを図示する。本開示の実施形態は、有利にも、異なる経路（例えば、１０１ａおよび１０２ａ）からキーデータ前提条件（例えば、エンティティ、それらの属性、エンティティタイプ、論理的、および時間的連続関係）を抽出し、そして他のものを活用する経路を用いて、システム記憶装置１１４内のキーデータ前提条件を統合することができる。これらの抽出および統合方法を使用することによって、本開示の実施形態は、合成応答を自動化することができる。
【０１６３】
情報を、一般的に、構造化データと非構造化データの両方にわたって散乱することができる。例えば、第１の選択および第２の選択療法として投与された薬剤の時間的シーケンスは、臨床試験におけるセンテンスに組み込まれる。本開示の実施形態は、時間的シーケンスを構成するために、臨床試験におけるセンテンスを通じて手動で読み取る必要性をなくすことができる。
【０１６４】
システムへの入力データは、構造化データ１０１、半構造化データ１１７、および／または非構造化データ１０２とすることができる。一部の実施形態では、構造化データ１０１は、エンティティタプルの形態とすることができる。例えば、構造化データは、キー値タプルを含むことができ、キーは「疾患」であり、値は「がん」である。一部の実施形態では、非構造化データ１０２は、フレーズまたはセンテンスの形態の情報を含むことができる。例えば、非構造化データは、フレーズ「私はパーキンソン病であり、薬Ｘを服用した」を含むことができる。一部の実施形態では、半構造化データ１１７は、構造化データと非構造化データの両方を含むことができる。例えば、半構造化データは、キー／値タプルの階層／単調構造とすることができ、その値の一部は、非構造である。
【０１６５】
一部の実施形態では、構造化データ１０１は、利用可能なコンテキストを用いて明瞭にエンティティタイプおよびそれらの属性（エンティティ）を識別することができる、構造化データ抽出分類子１０３へと１０１ａを通過することができる。例えば、構造化データが「疾患＝がん」である場合、構造化データ抽出分類子１０３は、エンティティタイプが「疾患」であり、エンティティが「がん」であることを識別することができる。一部の実施形態では、構造化データ分類子１０３は、サポートベクトルマシン（ＳＶＭ）などの教師付き学習モデルを使用することができる。構造化データ抽出分類子１０３は、システム記憶装置１１４に抽出したデータを記憶する（１０３ａ）ことができる。一部の実施形態では、構造化データ抽出分類子１０３の出力は、エンティティタイプ、エンティティ、および他のエンティティタイプとのエンティティタイプの関係とすることができる。
【０１６６】
エンティティのエンティティタイプは、様々な他のやり方で識別することができる。一部の実施形態では、エンティティのエンティティタイプは、シーケンスモデルに基づいて、識別することができる。例えば、ＬＳＴＭを使用することができる。ワードが起因するコンテキストを学習するために、シーケンスモデルを特定のコーパス上でトレーニングすることができる。したがって、シーケンスモデルは、現在エンティティタイプと関連しないエンティティが起因するコンテキストを露出することができる。このことは、エンティティについてエンティティタイプが求められた時に、エンティティタイプをエンティティと関連付けることを可能にする。機械学習のための他の適切なモデルも、エンティティが起因するコンテキストを露出するために使用することができる。
【０１６７】
一部の実施形態では、エンティティの近隣は、近隣のエンティティタイプに基づいて、エンティティのエンティティタイプを識別するために使用することができる。一部の実施形態では、近隣は、それらのコサイン距離の観点から、エンティティに対して密接に関係する他のエンティティとして定義することができる。一部の実施形態では、特定の数の近隣を選択することができ、そしてその選択された近隣のそれぞれに重みを割り当てることができる。例えば、エンティティタイプをエンティティと関連付けるために、エンティティからのそれらのコサイン距離に基づいて、エンティティの近隣をランク付けすることができ、上位５００の近隣を考慮することができる。５００の近隣のそれぞれに、それらのランクに基づいて変化させることができるパーセンテージ重みなどの重みを割り当てることができる。例えば、第１のランクの近隣には、１％の重みを割り当てることができ、第２のランクの近隣には、０．９％の重みを割り当てることができ、第３のランクの近隣には、０．８７％の重みることができ、などとなる。一部の実施形態では、重みの減少割合は、指数的減衰関数に基づくことができる。一部の実施形態では、すべての近隣は、いかなる制限もないと考えることができる。一部の実施形態では、重みの量は、コサイン距離の値に正比例することができる。一部の実施形態では、重みの量は、ランクの値に正比例することができる。一部の場合には、ランクが下位の方へ移動するのに従って重みが連続的に減少するので、このような重みの割り当てを「連続的な減衰」と称することができる。重みが割り当てられた後に、近隣のエンティティタイプを調べ、同じエンティティタイプによってグループ化することができる。各エンティティタイプに関して、そのエンティティタイプについての近隣のパーセンテージ重みの合計を算出し、そのエンティティタイプに割り当てることができる。例えば、エンティティタイプＸが３つのパーセンテージ重み（０．５％、０．３％および０．１％）を有する３つの近隣と関連付けられる場合、Ｘには、０．９％のパーセンテージが割り当てられる。一部の実施形態では、このパーセンテージは、エンティティがそのエンティティタイプである確率を示すことができる。一部の実施形態では、システムは、このようなパーセンテージが特定の閾値数を超えた場合にエンティティをエンティティタイプと関連付けることができる。一部の実施形態では、システムは、最も高いパーセンテージを有するエンティティタイプとエンティティを関連付けることができる。
【０１６８】
一部の実施形態では、近隣に変化する重みを割り当てる代わりに、各近隣に同じ重みを割り当てることができる。例えば、上位１００の近隣を選び出すことができる場合、各近隣には、その重みとして１％を割り当てることができる。この場合、近隣が異なるコサイン距離を有する場合であっても、それらは、重みが割り当てられた時に同様に処理される。
【０１６９】
一部の実施形態では、非構造化データ１０２は、非構造化データ抽出分類子１０５へと１０２ａを通過することができる。非構造化データ抽出分類子１０５の出力は、システム記憶装置１１４に抽出したデータを記憶する（１０５ａ）ことができる。一部の実施形態では、非構造化データ抽出分類子１０５は、人工ニューラルネットワーク（ＡＮＮ）（例えば、リカレントニューラルネットワーク（ＲＮＮ））および／またはワードエンベディング発生器のクラスを使用することができる。
【０１７０】
一部の実施形態では、構造化データ１０１から抽出することができる潜在情報が存在する場合、構造化データ１０１から非構造化データを生成するために特化されたエンコーダ１０４を使用することができる。特化されたエンコーダ１０４は、生成した非構造化データを非構造化データ抽出分類子１０５に送信する（１０４ａ）ことができ、次に非構造化データ抽出経路１０５ａを通じて出力を送信することができる。一部の実施形態では、生成された非構造化データは、非構造化テキストの形態である。例えば、構造化データが、「疾患＝がん、兆候＝体重損失、薬剤＝メトトレキサート、副作用＝めまい」である場合、特化されたエンコーダ１０４は、「疾患がん兆候体重損失薬剤メトトレキサート副作用めまい」の形態の非構造化データを生成することができる。この実施例では、構造化データにおける潜在情報は、そのがんを体重損失およびメトトレキサートと関連付けることができ、かつ患者がめまいに苦しんでいる、とすることができる。したがって、特化されたエンコーダ１０４によって処理された構造化データ１０１に非構造化データ抽出分類子１０５を使用することによって、このような潜在情報を抽出および活用することができる。一部の実施形態では、構造化データ１０１の一部を、特化されたエンコーダ１０４を使用して処理することができる。他の実施形態では、特化されたエンコーダ１０４を使用して構造化データ１０１全体を処理することができる。別の実施例では、特化されたエンコーダ１０４は、エンティティラベルを使用して所与の近隣にエンティティを配置することによって、非構造化データを生成することができる。例えば、同じ組の構造データを仮定すると、特化されたエンコーダ１０４は、「薬剤疾患薬剤兆候薬剤副作用」のマッピングを適用して、「メトトレキサートがんメトトレキサート体重損失メトトレキサートめまい」の非構造化テキストを作成することができる。
【０１７１】
一部の実施形態では、半構造化データ１１７の構造化データ部分を構造化データ抽出分類子１０３へと送ることができる。一部の実施形態では、半構造化データ１１７の非構造化データ部分を非構造化データ抽出分類子１０５へと送ることができる。一部の実施形態では、半構造化データ１１７の構造化データ部分の一部または全体を、非構造化データ抽出分類子１０５に出力を送信することができる、特化されたエンコーダ１０４に送ることができる。
【０１７２】
一部の実施形態では、非構造化データ抽出分類子１０５の出力は、エンティティタイプ、エンティティ、ドキュメント／パラグラフ／センテンスエンベディング、時間的／論理的シーケンス関係を含むエンティティ関係、およびシーケンス表現を含むことができる。一部の実施形態では、エンティティを、ラベル付き、またはラベルなしのいずれかにすることができる。エンティティを説明するためにラベルを使用することができる。例えば、エンティティ「ＥＧＦＲ」は、「表皮成長因子受容体」を指すことができ、この場合、エンティティ「ＥＧＦＲ」に遺伝子としてラベル付けすることができる。ラベルがないと、エンティティが何を指す場合があるかという曖昧さがある場合がある。例えば、エンティティ「ＥＧＦＲ」がラベル付けされない場合、「ＥＧＦＲ」は遺伝子「表皮成長因子受容体」または臨床検査「推測糸球体濾過率」を指す可能性があるので、「ＥＧＦＲ」は曖昧となる可能性がある。様々な技法を使用してエンティティにラベル付けすることができる。例えば、検索（例えば、Ｇｏｏｇｌｅを使用）は、エンティティについてのラベルを生成することができる。別の実施例として、コーパスが、ラベルを提供することができる。例えば、ウィキペディアは、そのページの多くに特定のエンティティについてのラベルを提供することができる。非構造化データについて、それらのラベルを決定するためにエンティティを囲むコンテキストを分析することができる。一部の実施形態では、このような分析を実行するためにＡＮＮのクラス（例えば、ＲＮＮ）を使用することができる。一部の実施形態では、図８および図９に関連して以下で説明されるシステムおよび方法を活用することによって、ＡＮＮを使用して実行される分析を改善することができる。
【０１７３】
一部の実施形態では、システム記憶装置１１４は、２つ以上のソース経路（例えば、１０３ａおよび１０５ａ）から抽出した情報を異なる形態で取り込んで、情報の合成を容易にし、かつ／または異なる経路（例えば、経路１０３ａおよび１０５ａ）を通した後続の情報抽出を可能にする。システム記憶装置１１４は、構造化意味的データベース１０６（従来のデータベースとすることができる）、知識グラフ（複数可）１０７（ラベル付けされた（経路１０１ａと１０２ａの両方から抽出した）および／またはラベル付けされていない（経路１０２ａから抽出した）エンティティの有向グラフとすることができる）、ワードエンベディング１０８（ワード（複数可）および／またはセンテンス（複数可）を含むことができる）、ドキュメント／パラグラフ／センテンスエンベディング１０９、ならびに非構造化データのシーケンス表現１１０に記憶された情報を含むことができる。一部の実施形態では、ワードエンベディングの実施例は、ｗｏｒｄ２ｖｅｃとすることができる。一部の実施形態では、ドキュメント／パラグラフ／センテンスエンベディングの実施例は、ｄｏｃ２ｖｅｃとすることができる。一部の実施形態では、シーケンス表現１１０の実施例は、メモリニューラルネットワーク（ＭｅｍＮＮ）でとすことができる。一部の実施形態では、ＭｅｍＮＮは、「質問と回答」スタイルの発見のために使用することができ、ＭｅｍＮＮは、応答／フォローアップ質問を生成するために質問についてトレーニングすることができる。一部の実施形態では、曖昧な場合にこれらの応答／フォローアップ質問を使用することができる。例えば、エンティティが何を指し得るかの曖昧さが存在する場合である。
【０１７４】
一部の実施形態では、ワードエンベディング１０８および／またはドキュメント／パラグラフ／センテンスエンベディング１０９は、ドメイン特定コーパスの幅広いクラスのために生成されたエンベディングのリポジトリとすることができる。一部の実施形態では、これらのエンベディングは、そのドメイン内のラベル付けされた、およびラベル付けされていないエンティティの１つ以上の関係を取り込むことができる。一部の実施形態では、このような関係の強さを示し、かつ／またはランク付けするためにこれらのエンベディングを使用することができる。
【０１７５】
１つ以上の知識グラフ１０７を構成するためにエンベディングを使用することができる。知識グラフ１０７は、汎用／ドメイン／コンテキスト特定重みを有するラベル付けされた、および／またはラベル付けされていないノードを有する、汎用グラフ、ドメイン、および／またはコンテキスト特定グラフの表示とすることができる。コーパスは、エンベディングを決定し、次にグラフにおける近隣ノードを決定することができる。シーケンス表現１１０は、汎用、ドメインおよび／またはコンテキスト特定シーケンスのリポジトリとすることができ、複数のセンテンス／質問にわたる質問を理解し、そしてそれに応答するために使用することができる。
【０１７６】
応答を合成し、および経路１０７ａと１０８ａの両方を通じた後続の情報抽出を容易にするためにシステム記憶装置１１４を役立てることができる。例えば、構造化データ内に存在するかの擬似情報を除去するためにワードエンベディング１０８を使用することができる。一部の実施形態では、エンティティが構造化記録内に見出され、そのエンティティが、ワードエンベディング近隣メトリクスを通じて現れる可能性がある記録内の他のエンティティに意味的に関連しない場合、その情報を、構造化データ抽出分類子１０３に送ることができ（１０８ａ）、手動の検証のためにそのエンティティを隔離することができる。構造化データベース経路１０７ａは、スコアをラベル付けする名前を付けたエンティティを改善するために使用することができる。一部の実施形態では、名前を付けたエンティティラベル付けするスコアを、用語／フレーズをラベル付けする信頼性スコアと関連付けることができる。一部の実施形態では、構造化意味的データベース１０６を用語／フレーズのエンティティタイプを検証および／または確認するために使用することができ、これは、名前を付けたエンティティのラベル付けするスコアを改善するのに役立つことができ、用語／フレーズをラベル付けする信頼性スコアを増加することができる。
【０１７７】
システム記憶装置１１４は、ダイアログ／クエリアナライザ１１１（シーケンス表現１１０に大幅に依存することができる）、応答シンセサイザ１１２、および応答テンプレートジェネレータ／セレクタ１１５を含むことができる、識別エンジン１１６を強化することができる。応答テンプレートジェネレータ／チューザー１１５は、１１６ａを通じて、ユーザーインターフェース１１３を強化することができる。一部の実施形態では、ダイアログ／クエリアナライザ１１１は、検索用語およびフィルタ基準などのユーザー入力を分析することができる。例えば、ユーザーがインターフェース（例えば、図８におけるインターフェース）上で用語「ＡＭＬ」を検索する場合、ダイアログ／クエリアナライザ１１１は、この検索用語を受信し分析して、更なる処理のために応答シンセサイザ１１２に検索用語を送ることができる。一部の実施形態では、ダイアログ／クエリアナライザ１１１は、分析機能のために、１１４ａを通じてシステム記憶装置１１４からデータを受信することができる。応答シンセサイザ１１２はまた、１１４ｂを通じてシステム記憶装置１１４からデータを受信し、このデータを使用して、ユーザーの検索操作についての結果を生成するために関連する応答を合成することもできる。
【０１７８】
応答テンプレートジェネレータ／チューザー１１５は、インターフェースを通じてユーザーに検索結果を示すために使用される、適切なテンプレートを生成／選択することができる。異なるタイプのテンプレートを、図７におけるブルズアイバイオ知識グラフおよび図８におけるパイプラインバイオ知識グラフなどの異なるタイプのバイオ知識グラフを生成するために使用することができる。一部の実施形態では、応答テンプレートジェネレータ／チューザー１１５は、インターフェース上に示されるエンティティについてのラベルに基づいて、テンプレートを生成することができる。これらのエンティティは、それらのエンティティ分布に基づいて、選択することができる。一部の実施形態では、応答テンプレートジェネレータ／チューザー１１５は、一組のハードコーディングされたテンプレートからテンプレートを選ぶことができる。一部の実施形態では、ハードコーディングされたテンプレートを、トレーニングを通じて生成することができる（例えば、システムは、コーパスから特定のタイプのエンティティおよびそれらのラベルを学習することによって、テンプレートを生成することができる）。他の実施形態では、ハードコーディングされたテンプレートを手動で生成することができる。一部の実施形態では、ユーザーは、自動的に選択／生成されたテンプレート内のビューの一部分またはすべてをオーバーライドすることができる。例えば、ユーザーは、フィルタを使用することによって、薬剤情報を症状の情報と置き換えることができる。
【０１７９】
ハードウェア、ソフトウェア、またはその両方の組み合わせとしてシステム１００の一部である様々な構成要素を実装することができる。本明細書に記載の様々な構成要素およびブロックを、対象の技術の範囲から逸脱することなく、すべて別様に配置する（例えば、異なるやり方で配置、または異なる方法で区分／組み合わせる）ことができる。
【０１８０】
一部の実施形態によると、図１におけるシステムによる１つ以上の計算は、クラウドシステム内の１つ以上のプロセッサによって、実行することができる。一部の実施形態では、出力の任意のレンダリング（例えば、ユーザーインターフェースのレンダリング）は、ユーザーデバイス（例えば、パーソナルコンピュータ、モバイルデバイスなど）によって実行することができる。一部の実施形態では、図１のシステムへの任意の入力は、ハードウェアおよび／またはソフトウェアを含むことができる、入力システム（例えば、キーパッド、キーボード、マイクロフォン、音声認識ソフトウェアなど）によって行うことができる。一部の実施形態では、図１のシステムで使用されるデータベース（例えば、構造化意味的データベース１０６）は、リレーショナルデータベース、ＮｏＳＱＬ  ＤＢ、フラットファイル、および／または任意の他の適切なデータベースなどの任意のソースからのものとすることができる。一部の実施形態では、データベースは、ローカルデータベースおよび／またはリモートデータベースとすることができる。
【０１８１】
図２Ａは、クエリへの意味的応答を提供する一方法を図示する。検索用語「ａｍｌ」に基づく情報を見つけるためにＧｏｏｇｌｅなどの検索エンジンを使用することができる。
【０１８２】
図２Ｂは、本開示の一部の実施形態による、複数の経路からの合成データにより有効化されたインターフェースの描出を図示する。一部の実施形態では、これらの経路は、図１の１０１ａおよび１０２ａとすることができる。
【０１８３】
図３Ａは、クエリに対する意味的応答を提供する一方法を図示する。図３Ｂは、本開示の一部の実施形態による、複数の経路からの合成データにより有効化されたインターフェースの描出を図示する。図３Ａでは、ユーザーインターフェースは、検索入力「ＡＭＬ」についての属性の情報ボックス３０２を有するドキュメント３０１の検索インデックスによって強化される。更に、検索用語に意味的に関連する一組の質問は、インターフェースを動かすバックエンドに存在する。対照的に、図３Ｂにおいて、ユーザーインターフェースは、豊富な意味的情報を有することができる。例えば、ユーザーインターフェースは、結果内のどこかに存在する検索用語「ＡＭＬ」を有しなくてもよい。ざっと目を通すことからでさえ、検索用語「ＡＭＬ」にマッチする結果はないことを読み取ることができる。一部の実施形態では、インターフェースを強化する合成されたデータは、行および列のマトリクスとすることができ、第１の列３０３および第２の列３０４は、ユーザー入力「ＡＭＬ」に関連する可能性があるエンティティである（この実施例では、第１の列は、薬剤およびそれらに関連付けられた企業に関連する情報を含み、第２の列は、経路に関連する情報を含む）。後続の列は、時間的シーケンスを形成することができ、各列は、薬剤開発の異なるフェーズに関連する。
【０１８４】
図４は、本開示の一部の実施形態による、応答シンセサイザ１１２（図１）によって生成された例示的なデータの２次元マトリクスを図示する。この例示的なデータの２次元マトリクスは、ユーザー入力「ＡＭＬ」への応答を示し、以下のアイテム、すなわち、エンティティ４０１（薬剤＋企業、経路）、エンティティの時間的シーケンス４０３（開発の様々な段階における薬剤）、要約４０２、ならびに意味的フィルタおよびデータの変換を含むことができるマトリクス変換制御４０４が示される。意思決定は、クエリアナライザ１１１（図１）によって実行することができ、それは、応答テンプレートチューザー１１５（図１）を利用する応答の合成を結果として生じることができる。一部の実施形態では、エンティティおよびエンティティシーケンスが関与する適切な応答テンプレートを生成するために、ニューラルネットワーク（例えば、畳み込み／ＲＮＮの組み合わせ）によってテンプレートチューザー／ジェネレータ１１５をトレーニングすることができる。
【０１８５】
一部の実施形態では、教師付き学習システムである構成要素は、ユーザーサンプリングおよび手動のオーバーライドを含む検証を有することができる。テンプレートチューザー／ジェネレータ１１５をトレーニングするためのラベル付けされたデータの量が当初低かったとしても（例えば、特定のドメインおよびシステムについて記憶する場合がある）、このようなシステムは、手動で設計されたルール駆動テンプレートシステムよりも良好にスケール化することができ、より多くのラベル付けされたデータの利用可能性（ユースケース）は、システムがより壊れやすくなるようにする可能性がある。ニューラルネットにおいて、ネットワーク内のパラメータの数が多く、トレーニングデータが少ない場合、システムは、多くの数のパラメータを仮定してトレーニングデータでクローズフィットを実行することができる。これはオーバフィッティングとして知られている。オーバフィッティングは、トレーニングデータを記憶することと同様とすることができる。これは、トレーニングデータを超えて十分に汎用化しできることを必ずしも暗示しない。図４の応答は、例示のために２次元の空間で示される。一部の実施形態では、本開示の実施形態は、一次元および３次元以上の次元を含む任意の数の次元を用いて、インターフェースを強化することができる。
【０１８６】
現在の技術水準において、ユーザーインターフェースは、多くの場合、データベースビューによって後ろから強化され、ビューのためのデータは、選択されたラベル付きエンティティを用いて事前にキュレートされる。対照的に、図４に示すような本発明の実施形態は、入力クエリがラベル付けされていないエンティティ（例えば、再ミエリン化、「再ミエリン化の同化」）を含む場合であっても、豊富な意味的応答を自動的に動的に合成することを可能にする。一部の実施形態では、豊富な意味的応答は、（１）クエリのコンテキストに基づいて、入力用語周辺のエンティティ分布を検査することであって、エンティティ分布が、コーパス内の用語周辺で、および／または異なるコーパス間で変化する可能性がある（例えば、図９は、用語「再ミエリン化」についてのエンティティ分布を示す）、検査すること、（２）候補エンティティおよびエンティティシーケンスを識別して、応答を構成すること、（３）識別した候補エンティティおよびエンティティシーケンスに基づいて、要約を生成すること、ならびに（４）選択した候補エンティティおよびエンティティシーケンスに適切な変換を選択することによって合成することができる。
【０１８７】
更に、本開示に記載のシステム構成要素は、構造化および非構造化データから、教師付き、教師なし、または半教師付きのいずれかで学習することができる。
【０１８８】
本開示の実施形態によるシステムおよび方法は、ユーザークエリに対する意味的応答を合成することにおける、様々な課題（その例がすぐ下で説明される）に対処することができる。
【０１８９】
例示的な課題は、ユーザーが、ラベル付けされたエンティティまたはエンティティクラス（例えば、再ミエリン化）でないクエリを行った時に存在する可能性がある。この場合、知識グラフ（ラベル付けされたエンティティとラベル付けされていないエンティティの両方を含む）は、その近隣をスキャニングすることによって、ユーザー入力に関連するラベル付けされたエンティティを見つけるのを容易にすることができる。更に、ラベル付けされたエンティティの分類（例えば、遺伝子、薬剤、兆候、企業など）は、エンティティ分布（例えば、図９）の計算がこのエンティティの最も関連の深い意味的描出の選択を容易にすることを可能にすることができる。この手法は、上述のエンティティクラスの不適当な問題に対処し、ここで現在の技術水準のシステムは、ラベル付けされていないエンティティについてのワードエンベディングの近隣における、語義的にマッチする結果のみ、またはエンティティのみを出力することになる。
【０１９０】
別の例示的な課題は、ワード、ドキュメント／パラグラフ／センテンスエンベディングが、それらがコーパス内で共起しない場合であっても互いに意味的に関連するエンティティをもたらす固有の特性を有するにもかかわらず、これらのエンティティをエンベディングから発見することが困難なことである。
【０１９１】
本開示の実施形態は、意味的関係をラベル付けされたエンティティおよび／またはエンティティクラスと組み合わせることによって、知識グラフを構成することができる。これは、革新的な洞察が発見されることを可能にすることができ、それらの洞察は主要な文献では共起として説明されない。例えば、ワード「リルゾール」（ＡＬＳ薬剤）およびワード「ベムラフェニブ」（メラノーマ薬剤）は、それらのコサイン距離（約０．４８である可能性がある）で示されるように互いに近接する。これらの２つのワードががん治療のコンテキストにおいて見出され、したがって、これらのワードが見出されるコンテキストにおいて重なりがあるので、コサイン距離は有意であることが見出される。しかし、ワード「リルゾール」および「ベムラフェニブ」の近接共起は、使い尽くされたいかなる主要な文献において発生しない。例えば、Ｇｏｏｇｌｅ検索は、これらの２つのワードを含むドキュメントが５つのワードウィンドウ近接の中にないことを示す。一部の実施形態では、新規な洞察は、「リルゾール」および「ベムラフェニブ」などのワード間の関係を示すことができるシステムから明らかである可能性がある。これらの洞察は、Ｒ＆Ｄ仮説、臨床試験設計、および商業上の決定の効果的な生成にそれ自身を役立てることができる。一部の実施形態では、これらの関連するエンティティの可視化は、これらの近隣のエンティティをドキュメントにおける元の用語に物理的に近接しているだけで現れる他のものと区別するメカニズムを含むことができる。実施例を図１１に示すことができる。別の言い方をすると、以下でより詳細に示されるように、エンティティ「リルゾール」と「ベムラフェニブ」との間の関係は、コーパスにおけるそれらの近接性により発見されない。むしろ、そうでなければ隠されている関係を露出するコーパス全体の分析に基づいて、これらのエンティティの特徴の類似性（例えば、それらのベクトルのコサイン距離を比較することによる）が存在する。
【０１９２】
一部の実施形態では、非構造化および構造化ソースから生成された知識グラフを、エンティティ特有のセントロイドを生成するために使用することができ（例えば、コンテキストに係るエンティティのすべてまたは一部を使用する）、双方向ＬＳＴＭ（長短期メモリ）ＲＮＮなどのシーケンス学習モデルによって作成されたエンティティのラベリングを検証するために、合成されたセントロイドを使用することができる。特定のドキュメントをここで解釈する必要がある意味的バイオ知識グラフをコンテキストを限定するために使用することができ、これは、遺伝子データベースからの多くの「ノイズ」をフィルタ除去する（例えば、すべてのＨＵＧＯ遺伝子のデータベースと見なされる）のに役立つ可能性がある。
【０１９３】
一部の実施形態では、構造化ソースからのキー／値フィールドは、学習モデルに供給されて、構造化データ内に潜在する意味的関係を明らかにするワードエンベディングを生成することができる非構造化ストリームを作成する場合がある、特化されたエンコーダを通じて処理される。
【０１９４】
一部の実施形態では、ラベル付けされたエンティティを有する知識グラフを、エンティティを識別し、かつ応答を生成するために直接的に使用することができる。知識グラフは、例示的な「近隣」（図５Ａ〜図５Ｂ）および「類似」事例研究（図６Ａ〜図６Ｄ）について強調されるように、多様なエンティティに関連することができる。一部の実施形態では、知識グラフは、（１）すべてのラベル付けされたエンティティおよびラベル付けされていないエンティティを収容する集約コンピュータシステム、（２）エンティティ特有のコンピュータシステム、ならびに（３）エンティティとしてラベル付けされていないすべての用語またはフレーズを収容する、ラベル付けされていないコンピュータシステムの集合を含むことができる。
【０１９５】
図５Ａ〜図５Ｂは、本開示の一部の実施形態による、ユーザーが供給した例示的なクエリの「近隣」について強調された多様なエンティティに関する知識グラフを図示する。図５Ａおよび図５Ｂに関して、ユーザーが供給した例示的なクエリはそれぞれ、「ラコサミド」および「セルトリズマブ」である。これらの知識グラフは、システムがコーパス（例えば、「コアコーパス」）上でどのように機能することができるかを示すことができる。
【０１９６】
図６Ａ〜図６Ｄは、本開示の一部の実施形態により「類似」について強調されるように、どのように知識グラフが多様なエンティティに関するかを示す実施例を図示する。一部の実施形態では、知識グラフは、ラベル付けされた（エンティティ／エンティティクラスを有する、ワード／ドキュメント／パラグラフ／センテンスエンベディングが割り当てられた）、およびラベル付けされていないエンティティを含む。
【０１９７】
図６Ａは、実施例＃１を図示し、ここで、「ａｎｔｉ−ＥＧＦＲ：Ｅｒｌｏｔｉｎｉｂ：：ｉｎｆｌｉｘｉｍａｂ：？」（ＡがＢまでであり、それに従ってＣが？までであることを意味する、Ａ：Ｂ：：Ｃ：？の周知のフォーマットを使用する）が存在し、上位ヒットは、インフリキシマブのターゲットである抗ＴＮＦを含む。図６Ｂは、実施例＃２を示し、ここで、「Ｔ３１５Ｉ：Ｐｏｎａｔｉｎｉｂ：：ＣＯ−１６８６：？」が存在し、上位ヒットは、ＣＯ−１６８６／ロシレチニブの遺伝子型であるＴ７９０Ｍを含む。図６Ｃは、実施例＃３を示し、ここで、「Ａｒｔｈｒｉｔｉｓ：Ｃｅｒｔｏｌｉｚｕｍａｂ：：Ｒｏｔｉｇｏｔｉｎｅ：？」が存在し、上位ヒットは、ロチゴチンが治療のためにＦＤＡ承認されたという疾患の兆候である、パーキンソン症を含む。図６Ｄは、実施例＃４を示し、ここで、「ジルテック、アレルギー、低コレステロール血症：？」が存在し、上位ヒットは、高コレステロール血症を治療するためにＦＤＡ承認された、ロスバスタチンを含む。
【０１９８】
一部の実施形態では、明らかにされた意味的関係を、薬剤学において、重大な商業上の、臨床上の、およびＲ＆Ｄ機能性のワークフローを自動化するために役立てることができる。実施例は、ユーザーが高い値の投資ホワイトスペースを識別するのに役立てることを目指した、奇病＋希少病レンズを通した、複雑な疾患のランドスケープへの戦略的な洞察の生成である。関連するユースケースは、データ駆動の商業上および臨床上の戦略をサポートすることを目指した、競合的な臨床上の投資ランドスケープのオンデマンドの強力な視覚的なスナップショットの生成とすることができる。
【０１９９】
一部の実施形態では、１つの例示的なユースケースは、奇病／希少病のイノベーションホワイトスペースを識別するためのバイオ知識グラフを使用することができる、ワークフロー自動化を含むことができる。一部の実施形態では、このワークフロー自動化を達成するために以下のような異なるステップを取ることができる。最初に、意味的バイオ知識グラフから、各検索用語の近隣に近接する疾患の兆候「エンティティ」（例えば、「神経変性」、「再ミエリン化」、「血管形成」などの「実世界表現型」エンティティなどについて）を識別することができる。第２に、各識別された疾患の兆候について、システムは、米国、西ヨーロッパ、英国、日本、および新興市場などの１つ以上の地理的区域における、マーケット（複数可）（例えば、商業上マーケット、投資マーケット）を決定することができる。バイオ知識グラフは更に、各疾患について、および／または各地理的区域についての臨床上の競合的なランドスケープを視覚化するためのユーザーインターフェース（ＵＩ）を強化するために使用することができる。
【０２００】
図７は、「象徴的な」時間的フェーズのラジアル表現とすることができる、例示的なブルズアイ図（交互の２Ｄ図）を示し、ここでは中心に近づくほど、より高度な／市販の薬剤があり、周囲に近づくほど、開発が進んでいない／前臨床のアセットがある。システムは、薬剤と疾患との間のコサイン距離、および他の要因（例えば、検索用語、臨床試験などの他の関連するエンティティタイプ）に基づいて、各疾患と関連付けられた薬剤を見つけて配置することができる。検索用語「神経変性」について示された例示的なブルズアイ視覚性は、ＰＫＡＮ、ＬＨＯＮ、およびＣＬＮ２などの希少病を示すことができ、イノベーションホワイトスペースを提供することができる。第３に、バイオ知識グラフはまた、後続のユーザークエリをサポートすることができる。例えば、ユースケースは、連邦有害事象報告システム（ＦＡＥＲＳ）からの不成功の／終了した試験または信号を含む様々なタイプの情報に基づく、各疾患薬剤メカニズムペアについての戦略的なベットと関連付けられた追加的なリスク要因を識別することを含むことができる。別の共通のフォローアップクエリは、それ自体が合併吸収（Ｍ＆Ａ）またはライセンス戦略に役立つ特定のアセット（例えば、薬剤、デバイス）を識別することを含むことができる。このワークフローはまた、２Ｄレンダリング（ブルズアイ、競合パイプラインなど）のうちの１つなどのバイオ知識グラフから生成された視覚性によって、有効化することもできる。一部の実施形態では、リスク要因は、１つ以上の様々なソース（例えば、ＦＡＥＲＳ、特定の薬剤および疾患の兆候ペアなどを含む多くの不成功の／終了した臨床試験などの数）から予め計算することができる。
【０２０１】
図７のブルズアイ図はまた、本開示の一部の実施形態による、任意のユーザーが供給したクエリ（例えば、「神経変性」）とその近隣の異なるエンティティ（例えば、８つの例示的な疾患の兆候に関して、ここで強調された）との間の実時間の意味的関係を、どのようにバイオ知識グラフが自動的に取り込むことができるかを示す。例えば、図７では、ユーザーは「神経変性」を検索している。システムは、バイオ知識グラフを使用して、検索用語と関連付けられた、上位にラベル付けされたエンティティ（例えば、距離によって測定して「近い」）を識別する。ついで、システムは、上位にラベル付けされたエンティティと関連付けられたエンティティタイプ（ラベルから得られる）を使用して、表示するデータの性質を決定する。この実施例では、エンティティタイプ／ラベル「疾患」は、検索用語と最も近接するエンティティと関連付けられる。したがって、システムは、検索用語「神経変性」（例えば、ＡＬＳ、パーキンソン症、アルツハイマー病など）と近接する特定の疾患であるエンティティを有する、ブルズアイの各セクタと関連付けられる。システムは、その後、エンティティタイプ／ラベル「薬剤」が検索用語と近接していることを発見する。したがって、システムは、ここで、グラフの各それぞれのセクタを、そのセクタに対応する特定の疾患に近接する特定の薬剤で充填する。
【０２０２】
一部の実施形態では、表示されるエンティティの数を固定することができる（例えば上位８つの疾患の兆候）。一部の実施形態では、表示されたエンティティの数は、「フィルタ」機能を使用することによってオーバーライドすることができる（例えば、数を増加または減少することができ、特定のエンティティを加える、または除去することができる）。一部の実施形態では、システムは、結果における異なるエンティティの利用可能性および有意性に基づいて表示するために、エンティティの当初の数を決定することができる。本明細書で示される例示的な「ブルズアイ視覚性」は、様々な臨床試験、薬剤名、および／または他の関連する情報（例えば、企業名、動作の機序など）からの情報を一緒に引き寄せることができる。これは、企業戦略および競合的な知能機能性が市場に誤った情報を伝えないことを確実にすることができる。
【０２０３】
図８は、本開示の一部の実施形態による競合マーケット知能ワークフローの本質とすることができる、企業および作用機序（またはシグナル経路）にわたる、薬剤およびそれらの競合企業に関する情報の急速な組織化を可能にする、バイオ知識グラフを図示する。この実施例では、検索クエリ「ＡＭＬ」について、システムは、疾患に対して中心的ないくつかの異なるシグナル経路を検索し、それらの開発の段階の観点（例えば、ここでは、臨床試験フェーズ１、２、３および市販が示される）からのマーケットにわたる薬剤を表すことができる。更に、商業上の決定およびマーケットサイズ調整に影響を与える可能性があるすべての試験の属性を、カードビュー内に取り込むことができる（例えば、ＦＬＴ３陽性などの遺伝子マーカー、第一線の治療情報、およびシタラビン＋ダウノルビシンのような組み合わせ療法）。
【０２０４】
図８に示す実施例は、商業上顕著な要因（例えば、第一線の治療、バイオ分子制約、組み合わせ治療など）を強調するために、Ｒ＆Ｄの多様なサイロ、臨床試験、バイオ医療知識ベース、企業プレスリリース／投資家レポート、および／または規制機関にわたる情報を統合することができる、競合的な知能ワークフロー自動化を含む別の例示的なユースケースを図示する。一部の実施形態では、このワークフロー自動化を達成するために異なるステップを取ることができる。まず、意味的バイオ知識グラフから、ユーザーが検索した疾患の兆候エンティティについて、作用機序（ＭＯＡ）の観点からこれらの経路を介して特に作用する「経路」エンティティおよび薬剤を識別することができる。図７について説明された手法と同様に、システムは、経路および薬剤であるエンティティを表示し、それはこれらのエンティティタイプ／ラベルが検索入力「ＡＭＬ」と関連付けられた近接エンティティと関連付けられたラベルに対応するからである。第２に、薬剤と関連するエンティティ（例えば、薬剤を市販する「企業」、開発の段階（例えば、前臨床、ＩＮＤ、フェーズ１、フェーズ１／２、フェーズ２、フェーズ３、フェーズ４、ＮＤＡ／立ち上げ予定、市販など）など）を識別することができる。互いに最も密接に関連する一連の臨床試験である可能性がある「試験グループ」エンティティ（例えば、同様の臨床試験パラメータ、第一線の治療、コンボセラピー／モノセラピー、バイオマーカー／ターゲット制約など）を計算することができる。第３に、「競合パイプライン」視覚性としてのユーザーフレンドリな全体像における上記の情報のすべてを統合することができる。例えば、図８におけるようなパイプラインビューを使用することができる。このパイプラインビューは、２次元の空間的な組織化であり、各行は、対応する「開発の段階」（ｘ軸が「象徴的な」時間的フェーズであり、ｙ軸が個々の薬剤である）を有する特定の薬剤（および薬剤企業）を識別する。可視化における１つのイノベーションは、すべてがいくつかの共通のテーマ（同じ分子ターゲットメカニズムなど）を共有する異なる企業からの薬剤の「集約」である可能性がある。システムは、エンティティ分布を調べることによって、このような共通のテーマを識別することができる。各試験グループを、バイオ知識グラフが一緒にリンクされる商業上の顕著な情報としてのみ強調されるグループを構成する別個の行および個々の臨床試験カードとして示すことができる。エンティティ分布は、エンティティおよびエンティティシーケンスを含むことができる、候補列を識別することができる。用語の順序付けは、テンプレートに基づくことができ、またはモデルをトレーニングすることによって、描出されるべきエンティティタイプの適切なマトリクスを生成することができる。第４に、競合的なパイプライン視覚資料は、開発の様々な段階（例えば、前臨床、ＩＮＤ、フェーズ１、フェーズ１／２、フェーズ２、フェーズ３、フェーズ４、ＮＤＡ／立ち上げ予定、市販など）における薬剤の合計数の迅速な要約を可能にすることができる。一部の実施形態では、システムは、各行の特定の薬剤／経路とバイオ知識グラフにおける臨床試験情報との間の距離関係に基づいて、薬剤開発の様々な段階を決定することができる。一部の実施形態では、この視覚資料は、臨床上の最も進歩した経路（システム生物学的）および／または作用機序（Ｒ＆Ｄ企業戦略および市場戦略情報に対する顕著な対象）の迅速な識別を提供することができる。競合的なパイプライン視覚資料は、特定の対象の企業のアセットの迅速な識別を可能にし、次に、詳細な様式で研究することができる、全体像を示すことができる。第５に、ここで示される視覚資料はまた、（１）システムが最後に視覚資料に含まれる情報を自動で更新した日付を表示するため、（２）視覚資料に表示されたデータ（各ＳＭＥがデータを最後に手動で検証したのはどの日付か、およびＳＭＥの専門的なウェブサイト／リンクトインへの潜在的に均一なリンクを含む）を特に検証することに含まれる内容領域専門家（ＳＭＥ）を表示するため、ならびに（３）ユーザーが表示された視覚資料を編集し、ワークフロー／セッションをセーブし、画像／パワーポイントスライドとして直接的に視覚資料をダウンロードし、したがって、ユーザーの生産力を向上することを可能にするために容易に拡張することができる。拡張は、求められている知識を識別するワードと回答との間の関連に基づくことができる。例えば、ユーザーは、１番上の行をクリックして、「専門家」を入力し、薬剤名と専門家の名前との間の距離によって、内容領域専門家を得ることができる。別の実施例として、ユーザーが「ＣＡＲ  Ｔ−ｃｅｌｌ治療における専門家」を入力した場合、システムは、キメラ抗原受容体Ｔ−ｃｅｌｌ（ＣＡＲＴ）治療の分野における、すべての現在の「キーオピニオンリーダー」を検索することができる。
【０２０５】
図９は、本開示の一部の実施形態による、異なるエンティティクラスが視覚化されることを可能にするエンティティ認識方法に続いて、例示的なフレーズ「再ミエリン化」についてクエリされたバイオ知識グラフを図示する。この例示の実施例において、パネル９０２における薬剤、パネル９０４における疾患の兆候、およびパネル９０６における生体分子信号は、フレーズ「再ミエリン化」の近隣において認識された異なるエンティティタイプを示すことができる。エンティティは、元のクエリベクトル「再ミエリン化」までのコサイン距離に従って、ランク付けすることができ、ここで、１のコサイン距離は、実行可能な最も高いランクであり、セルフベクトル「再ミエリン化」を示す。
【０２０６】
一部の実施形態では、別の例示的なユースケースは、ユーザーが「実世界表現型」をクエリして、減少する関連度でランク付けされた関連するエンティティを視覚化して、「奇病／希少病」の投資手段を識別できるようにすることを含むことができる。実世界表現型「再ミエリン化」は、中枢神経系（ＣＮＳ）障害を研究する製薬企業のために顕著である可能性がある。更に、「ワード」再ミエリン化は、疾患の兆候を分類するのみである人間によりキュレートされた疾患／兆候コーパス（ＩＣＤ１０など）には存在しない。各製薬企業にわたる個人が、自分で用意した一意的な組の「実世界表現型」を有すると仮定すると、競合的知能および企業戦略機能性のユーザーは、「再ミエリン化」のような実世界表現型を用いて、任意のシステムにクエリする可能性が極めて高い。この目的のために既存のデータベースを使用することは、誤った情報を伝える商業的な、臨床上の、およびＲ＆Ｄ投資決定につながりかねない可能性がある。一部の実施形態では、バイオ知識グラフは、数千件の「再ミエリン化」のような実世界表現型を含む、数百万件のエンティティを含む。バイオ知識グラフは更に、図９に示されるような薬剤／化合物、疾患／兆候、遺伝子などの多様なエンティティについての「再ミエリン化」の近隣を正確に取り込むことができる。
【０２０７】
上記の実施例は、競合パイプラインおよびブルズアイのような視覚資料が、「再ミエリン化」のような高い値のクエリについての多様な重要なエンティティ（遺伝子、薬剤、疾患など）とリンクするために、どのように際立った能力を備えることができるかを示すことができる。例えば、「再ミエリン化」についての結果は、疾患の兆候ペリツェウス−メルツバッハー病（ＰＭＤ）および必然的にリンクしたＰＬＰ１遺伝子（図１０を参照）を識別して、ユーザーインターフェース（ＵＩ）上にこれらの洞察を反映して、視覚資料を「意味的に正確」にすることができる。これは、競合的知能および企業戦略機能性について、既存の主に語義的な検索および回収機能で強化されたユーザーインターフェースの重大な欠点を克服することができる。「再ミエリン化」についての結果はまた、他の疾患の兆候（例えば、パネル９０４における任意の他の疾患の兆候）を識別して、図１０に示される１つのものと同様のバイオ知識グラフを使用して、必然的にリンクした遺伝子および／または薬剤を見つけることができる。一部の実施形態では、システムまたはユーザーは、任意のエンティティを選ぶことができ、システムは、図１０に示された１つのものと同様のバイオ知識グラフを使用して、選択されたエンティティに基づいて、他の必然的にリンクしたエンティティを決定することができる。一部の実施形態では、システムは、システムによって識別される経路に標的を定めるすべての既知の阻害物質を検索することに基づいて、構造化知識ベースの組み合わせを使用することによって、経路阻害物質（複数可）を投入することができる。一部の実施形態では、その近隣におけるすべての他の「阻害物質」エンティティを識別するために阻害物質の「近隣」を使用することができ、次に、それらの「阻害物質」近隣のそれぞれにおいて、システムは、ケースバイケースで「遺伝子」または「経路」がどの程度「密接」であるかを決定することができる。
【０２０８】
図１０は、本開示の一部の実施形態により、ユーザーによって供給された任意の実世界表現型クエリに密接に関連する疾患の兆候を識別することを可能にすることができる、バイオ知識グラフを図示する。ここで示される例示的な実施例について、クエリ「再ミエリン化」は、奇病／希少病ＰＭＤ（ペリツェウス−メルツバッハー病）の識別を結果として生じることができる。ＰＭＤの近隣の分析は、次に、ＰＭＤ特有のニューロン損失、軸索輸送、および神経炎症に対する関係の順序の減少において、いくつかの他の実世界表現型を現すことができる。図１０における数字は、２つのエンティティ間のコサイン距離を表す。したがって、コサイン距離が大きいほど、２つのエンティティは近い。この実施例では、ニューロン損失、軸索輸送、および神経炎症は、再ミエリン化よりもＰＭＤにより結合しなくなる。これは、タンパク質凝集に続くことができ、最終的に、ＰＭＤに対して最も低い結合を有する表現型は、それぞれシナプス伝達、老化、組織マイクロアーキテクチャ、糖尿病、および食作用である。この実施例では、遺伝子ＰＬＰ１（スプライシング変異体ＤＭ２０を含む）、ＰＭＰ２２、ＭＰＺ、およびＧＪＢ１はすべて、ＰＭＤ疾患ベクトルの近隣にある。追加的なバイオパネルスクリーニングの実験のデータセットの利用は更に、ＢＲＡＦおよびＭＥＫ経路阻害物質が、特にＰＬＰ１、ＰＭＰ２２、ＭＰＺ、およびＧＪＢ１遺伝子を過剰発現させるサンプルに対して特に敏感であることを示唆することができる。一部の実施形態では、これらの追加的なバイオパネルスクリーニングの実験のデータセットは、ブロード研究所によって公開されたがん治療学的応答ポータル（ＣＴＲＰ）ｖ２、ブロード研究所によって公開されたがん細胞株エンサイクロペディア（ＣＣＬＥ）、サンガーセンターのがんにおける体細胞変異の分類（ＣＯＳＭＩＣ）、およびがんにおける薬剤感度のゲノミクス（ＧＤＳＣ）データベースなどの１つ以上の構造化データベース由来のものとすることができる。一部の実施形態では、追加的な洞察を収集するために、任意の数の外部構造化データベースまたは知識データベースを使用することができる。したがって、開示された発明は、再ミエリン化評価分析における、ＢＲＡＦ−ＭＥＫ阻害物質の試験に動機を与える。この実施例では、上記のように、検索用語「ＰＭＤ」に関連して示すためのエンティティのタイプを、検索用語に最も近い実際のエンティティ（例えば、実世界表現型）と関連付けられるエンティティのタイプによって決定することができる。次に、示されるべきエンティティの各連続的なタイプ（例えば、遺伝子）を、検索用語「ＰＭＤ」および上位エンティティ値「再ミエリン化」と関連付けられたエンティティのタイプによって決定することができる。各レベルで、新しいエンティティタイプ（例えば、薬剤）は、前のエンティティ値（例えば、特定の遺伝子）と関連付けられた上位エンティティ値から発見される。このようにして、複数のレベルの関係をシステムによって露出することができる。
【０２０９】
一部の場合に、同じエンティティは、２つ以上のエンティティタイプを指すことができる。例えば、エンティティ「ＩＣＯＳ」は、遺伝子タイプ（誘導性Ｔ細胞共刺激分子）、企業名（２００７年にイーライリリーアンドカンパニーにより取得された企業であるアイコス社の商標）、またはいくつかの他のエンティティタイプを表すことができる。このようなエンティティは、従来のシステムに対して曖昧さを作り出す可能性がある。例えば、ユーザーが従来の検索エンジンにクエリ用語「ＩＣＯＳ」を入力した場合、その検索エンジンは、「ＩＣＯＳ」の異なる意味を考慮に入れていない結果を生成する。一部の実施形態によると、開示されたシステムおよび方法は、与えられたエンティティについての異なるエンティティタイプを認識することができる。これらの異なるエンティティタイプを、異なる近隣検知に提示することができる。各近隣検知について、所与のエンティティと関連付けられた関連エンティティを提示することができる。
【０２１０】
図３１は、本開示の一部の実施形態による、例示的な近隣検知インターフェース３１００を図示する。エンティティがクエリ用語３１０１として入力され、エンティティが２つ以上のエンティティタイプと関連付けられた場合、近隣検知インターフェース３１００は、近隣検知を提示し、そのそれぞれは異なるエンティティタイプのうちの１つに対応する。各近隣検知は、クエリ用語３１０１と関連付けられるエンティティと関連付けられ、また近隣検知に対応するエンティティタイプとも関連付けられる。例えば、クエリ用語「ｉｃｏｓ」３１０１について、近隣検知インターフェース３１００は、４つの異なる近隣検知３１０２（ｉｃｏｓ１、ｉｃｏｓ２、ｉｃｏｓ３、およびｉｃｏｓ４）を提示することができる。一部の実施形態では、各近隣検知は、クエリ用語３１０１がそれぞれの近隣検知の中にある確率を提示するパーセンテージと関連付けることができる。例えば、ｉｃｏｓ１の近くに示された６１．８％の値は、クエリ用語「ｉｃｏｓ」がコーパスにおいて６１．８％の頻度で近隣検知ｉｃｏｓ１と関連付けられていることを示すことができる。近隣検知「ｉｃｏｓ１」において、クエリ用語「ｉｃｏｓ」と関連付けられるワードまたはエンティティ３１０３は、「ｉｃｏｓｌ」、「ＣＯ＿ＳＴＩＭＵＬＡＴＯＲ」、「ｐｄｃｄ１」、「ｉｌ２ｒａ」、「ＩＣＯＳ」、「ＣＤ２８」、および「ｆｏｒｋｈｅａｄ」を含むことができ、それらをクエリ用語「ｉｃｏｓ」に関してそれらの意味的関連強度が減少する順に列挙することができる。近隣検知ｉｃｏｓ１におけるこれらのエンティティを分析することによって、システムまたはユーザーは、この近隣検知における「ｉｃｏｓ」についてエンティティタイプが「遺伝子タイプ」である可能性が高いことを認識することができる。この実施例では、行３１０４は、ワード「ｐｄｃｄ１」が、３番目に高い０．７６の意味的関連強度を有し、コーパス内の１８８のドキュメントにおいて１１０９回出現することを示す。所与のクエリ用語について、様々な方法を使用してその近隣検知を決定することができる。例えば、アダプティブスキップグラム（Ａｄａｇｒａｍ）モデルを、教師なし学習モデルから生成されたワードベクトルを取り込むために実装することができる。使用することができる他の方法およびモデルには、マルチセンススキップグラム（例えば、Ｎｅｅｌａｋａｎｔａｎら（２０１４））、および／またはコンテキスト（例えば、生物学的コンテキスト）内のワードの異なる検知を推測することができる任意の他の適切なモデルまたは方法を含む。
【０２１１】
図３２は、本開示の一部の実施形態を用いた、例示的な近隣検知インターフェース３２００を図示する。図３２は、近隣検知がｉｃｏｓ２である時のクエリ用語「ｉｃｏｓ」についての結果を示す。図３２において、最も高い意味的関連強度を有するエンティティは、「ｈｅｎｎｅｙｓ」、「ｐｈａｒｍａｃｅｕｔｉｃａｌｓ」、「ｘｏｍａ」、「ｈｅｎｎｅｙ」、「Ｇｅｎｅｎｔｅｃｈ」、「ｃｏｍｐａｎｉｅｓ」、および「ｔｈｅｒａｐｅｕｔｉｃｓ」を含む。これらのエンティティから、システムまたはユーザーは、この近隣検知における「ｉｃｏｓ」についてエンティティタイプが「企業名」である可能性が高いことを認識することができる。
【０２１２】
図３３は、本開示の一部の実施形態による、例示的な知識ダイアグラムインターフェース３３００を図示する。知識ダイアグラムインターフェース３３００は、クエリ用語３３０１と関連付けられた異なる近隣検知３３０２を表示することができる。各近隣検知は、それぞれの近隣検知におけるクエリ用語３３０１の確率および近隣検知と関連付けられたエンティティのリストを示す、詳細ボックス３３０３とリンクすることができる。例えば、クエリ用語「ｉｃｏｓ」３３０１について、知識ダイアグラムインターフェース３３００は、４つの近隣検知３３０２（長方形の４つの区分として表される）が存在することを示す。第１の近隣検知における「ｉｃｏｓ」の確率は、６１．８％である。第１の近隣検知は、以下のエンティティ：「ｉｃｏｓｌ」、「ｃｏ−ｓｉｍｕｌａｔｏｒ」、「ｐｄｃｄ１」、「ｉｌ２ｒａ」、「ｉｃｏｓ」、「ｃｄ２８」、「ｆｏｒｋｈｅａｄ」、「ｉｃｏｓｉｇ」、「ｆｏｘｐ３」、および「ｋｌｒｇ１」を含む。一部の実施形態では、所望の近隣検知に対応する長方形３３０２内の区分をクリックすることによって、詳細ボックス３３０３にアクセスすることができる。
【０２１３】
したがって、一部の実施形態では、システムまたはユーザーは、各近隣検知について結果として生じるエンティティを分析することによって、所望のエンティティタイプに対応する近隣検知を決定することができる。
【０２１４】
図３４は、本開示の一部の実施形態による、例示的な知識ダイアグラムインターフェース３４００を図示する。知識ダイアグラムインターフェース３４００は、ここでは詳細ボックス３４０３が第２の近隣検知についての情報を示していることを除いて、知識ダイアグラム３３００（図３３）と類似している。第２の近隣における「ｉｃｏｓ」の確率は、２８．１％である。第２の近隣検知は、以下のトークン：「ｈｅｎｎｅｙｓ」、「ｐｈａｒｍａｃｅｕｔｉｃａｌｓ」、「ｘｏｍａ」、「ｈｅｎｎｅｙ」、「ｇｅｎｅｎｔｅｃｈ」、「ｃｏｍｐａｎｉｅｓ」、「ｔｈｅｒａｐｅｕｔｉｃｓ」、「ｌｉｌｌｙ」、「ｂｏａｒｄｓ」、および「ｖａｘｇｅｎ」を含む。
【０２１５】
図３５は、本開示の一部の実施形態による、例示的な情報ボックス３５００を図示する。情報ボックス３５００は、エンティティについて集約された情報を提供することができる。これは、エンティティが属するエンティティタイプに対する曖昧さが存在する場合に有用とすることができる。例えば、エンティティ「ｉｃｏｓ」についての情報ボックス３５００が第１の近隣検知について開始された時、情報ボックス３５００は、「ｉｃｏｓ」が「誘導性Ｔ細胞共刺激分子（ＩＣＯＳ）」３５０１を指すことを述べ、遺伝子「ｉｃｏｓ」についての詳細な情報３５０２を提供する。情報ボックス３５００は更に、１つ以上のリソース３５０３を提供することができ、そのような詳細な情報は、それから検索される。例えば、情報ボックス３５００は、以下のリソース３５０３、すなわち、ＨＧＮＣ、ＧｅｎｅＣａｒｄｓ、ＧＴＥｘ、ＮＩＨ  Ｎａｔｉｏｎａｌ  Ｃａｎｃｅｒ  Ｉｎｓｔｉｔｕｔｅ  ＧＤＣ  Ｄａｔａ  Ｐｏｒｔａｌ、ｃＢｉｏＰｏｒｔａｌ  ＦＯＲ  ＣＡＮＣＥＲ  ＧＥＮＯＭＩＣＳ、ＵｎｉＰｒｏｔ、およびＧｏｏｇｌｅを列挙する。一部の実施形態では、これらのリソースのそれぞれを、そのそれぞれのリソースウェブサイトまたはデータベースにリンクすることができる。
【０２１６】
図３６は、本開示の一部の実施形態による、例示的な情報ボックス３６００を図示する。情報ボックス３６００は、エンティティ「ｉｃｏｓ」がエンティティタイプ「企業名」を参照する時に、エンティティ「ｉｃｏｓ」についての情報を提供することができる。このコンテキストにおいて、情報ボックス３６００は、遺伝子タイプ「ｉｃｏｓ」についてではなく、企業「ｉｃｏｓ」についての情報を提供する。一部の実施形態では、企業「ｉｃｏｓ」についての情報を提供するリソースリンクのみを表示することができる。例えば、すべての他のリソースが企業「ｉｃｏｓ」についての情報を提供しない場合、Ｇｏｏｇｌｅへのリンクのみを情報ボックス３６００内に提供することができる。
【０２１７】
したがって、一部の実施形態では、システムまたはユーザーは情報ボックス内の情報を分析することによって所望のエンティティタイプに対応する近隣検知を決定し、かつ選ぶことができる。
【０２１８】
図５２〜図５６は、本開示の一部の実施形態による、５つの異なるエンティティタイプと関連付けられるエンティティ「Ｒｈｏ」についての近隣検知ダイアグラムを示す。一部の実施形態では、「Ｒｈｏ」を、５つの異なるエンティティタイプと関連付けられたそのそれぞれについての異なるベクトルとして表すことができる。
【０２１９】
図５２では、第１の近隣検知（Ｒｈｏ１）は、「ｐｅａｒｓｏｎ」および「ｓｐｅａｒｍａｎ」などの数学的な相関関係に関連するワードと関連付けられる。したがって、この近隣検知は、スピアマンのρとしても知られているスピアマンの順位相関関係についてのシンボルとして、「Ｒｈｏ」（ギリシャ文字）の使用を取り込んでいると結論付けることができる。
【０２２０】
図５３では、第２の近隣検知（Ｒｈｏ２）は、σ、μ、およびπを含む他のギリシャ文字に関連するワードと関連付けられる。したがって、この近隣検知は、ギリシャアルファベットの１７番目の文字として、「Ｒｈｏ」の使用を取り込んでいると結論付けることができる。
【０２２１】
図５４では、第３の近隣検知（Ｒｈｏ３）は、「ｇｕａｎｏｓｉｎｅ」、および「ＲＨＯＡ」を含む他のＧＴＰアーゼに関連するワードと関連付けられる。したがって、この近隣検知は、分子がシグナル伝達カスケードを切り替えるように機能する低分子ＧＴＰアーゼのファミリーとして、「Ｒｈｏ」の使用を取り込んでいると結論付けることができる。
【０２２２】
図５５では、第４の近隣検知（Ｒｈｏ４）は、その代表取締役「ｌｅｓｃｈｌｙ」の苗字、業務担当社員「ｋａｉｒｏｕｚ」の苗字、およびワード「ｖｅｎｔｕｒｅｓ」を含む、Ｒｈｏベンチャー（投資ファンド）に関連するワードと関連付けられる。したがって、この近隣検知は、投資ファンドとして、「Ｒｈｏ」の使用を取り込んでいると結論付けることができる。
【０２２３】
図５６では、第５の近隣検知（Ｒｈｏ５）は、「ＲＨＯＡ」（ＧＴＰアーゼの遺伝子シンボル）の他に、上位関連としてワード「ＧＴＰＡＳＥＳ」および「ＧＴＰＡＳＥ」と関連付けられる。したがって、この近隣検知はＧＴＰアーゼタンパク質ファミリーとして、「Ｒｈｏ」の使用を取り込んでいると結論付けることができる。
【０２２４】
図３７は、本開示の一部の実施形態による、例示的な知識ダイアグラムインターフェース３７００を図示する。一部の実施形態では、知識ダイアグラムインターフェース３７００は、クエリボックス３７０１を提供することができ、ここで、ユーザーは、クエリ用語（ワードまたはフレーズ）を入力することができ、それはそのクエリ用語との意味的関連を有するエンティティについてクエリするために使用することができる。知識ダイアグラムインターフェース３７００は、クエリについての１つ以上のフィルタを提供することができる。一部の実施形態では、結果として生じるエンティティについての出現の最小数３７０２を設定することができる。例えば、ユーザーが出現の最小数３７０２を「２０」へと設定した場合、クエリ結果は、コーパス内で少なくとも２０回出現するエンティティのみを含むことができる。
【０２２５】
一部の実施形態では、クエリについての結果の数３７０３を設定することができる。例えば、ユーザーが結果の数３７０２を「２０」に設定した場合、ワードエンベディングおよび関連するデータのコサイン分析の結果を表示する出力ボックス３７０８内に２０件の結果のみが表示される。結果の数が２０未満である場合、出力ボックス３７０８内に表示される結果の数は、２０未満とすることができる。結果の数が２０より大きい場合、上位２０件の結果（例えば、最も高い意味的関連強度を有する２０件のエンティティ）のみが表示される。他の結果は無視される可能性がある。代替的に、他の結果のためにユーザーを別のページ（複数可）にナビゲートする機能を提供することができる。
【０２２６】
一部の実施形態では、最小の意味的関連強度３７０４を設定することができる。例えば、最小の意味的関連強度が「０．０」に設定された場合、すべてのエンティティが、それらの意味的関連強度にかかわらずクエリの対象となる。しかし、最小の意味的関連強度３７０４が「０．３」に設定された場合、それらの意味的関連強度が０．３以上のエンティティのみが対象となる。
【０２２７】
一部の実施形態では、コーパス選択機能３７０５は、クエリの対象となるコーパスを設定することができる。コアコーパスは、システム内のすべての利用できるデータセットのうちの上位セットを表すことができる。例えば、コーパス選択機能３７０５が、「コアコーパス」（この実施例では、９８．１４ｋのドキュメントを含む）を設定する場合、利用できるデータセット（パブメド、臨床試験、ＦＤＡ、ＳＥＣ、ウィキペディア、およびメディアコーパスを含む）のすべてが、クエリの対象となる。コーパス３７０５内でコアコーパス以外のオプションを選択することによって、個々のデータセットのうちの１つ以上を選択することができる。
【０２２８】
一部の実施形態では、知識ダイアグラムインターフェース３７００は、ユーザーに興味を持たせる場合がある、１つ以上のエンティティ３７０６を示唆することができる。このような示唆は、ユーザーのクエリ用語および／またはユーザーの設定に基づくことができる。このような示唆はまた、ユーザーのシステムとの以前の相互作用および／または他のユーザーのシステムとの相互作用にも基づくことができる。一部の実施形態では、示唆は、クエリ用語との高い意味的関連を有する、エンティティとすることができる。一部の実施形態では、示唆を、同義語データベースに記憶された同義語からもたらすことができる。一部の実施形態では、同義語を決定するために、ＦＡＳＴｅｘｔを使用することができる。
【０２２９】
一部の実施形態では、知識合成ボックス３７０７は、クエリ用語３７０１について選択された近隣検知における、１つ以上のトークン集合を列挙することができる。例えば、クエリ用語「ｐｃｓｋ９」の近隣と関連付けられたトークン集合は、「Ｇｅｎｅ  ｍｏｄｉｆｉｅｒｓ」、「Ｇｅｎｅｓ」、「Ａｌｌ  Ｇｅｎｅｓ」、「Ｌｉｖｅ  Ｈｅｐａｔｏｃｅｌ．．．」、「Ｒａｔ  Ｌｉｖｅｒ（ＳＥＱＣ）」、「Ｐａｔｈｏｇｅｎｉｃ  Ａｌｌｅ．．．」、「Ｌｉｖｅｒ（ＧＴＥｘ）」、および他の近隣（「Ｍｏｒｅ．．．＋１５」と示される）を含むことができる。一部の実施形態では、トークン集合は、同じエンティティタイプのエンティティの集合について参照することができる。一部の実施形態では、トークン集合は、機械生成されてもよく、および／または人間によりキュレートされてもよい。
【０２３０】
一部の実施形態では、一組のトークン集合を、クエリ用語３７０１と関連付けられた１つ以上のエンティティに基づいて、決定することができる。例えば（以下で「実施例Ａ」として参照される）、クエリ用語「Ｅ１」が、以下のエンティティ：「Ａ１」、「Ａ２」、「Ａ３」、「Ａ４」、「Ａ５」、および「Ａ６」と関連付けられると仮定する。また、「Ａ１」、「Ａ２」、および「Ａ３」は、トークン集合「ＥＣ１」に属し、「Ａ４」および「Ａ５」は、トークン集合「ＥＣ２」に属し、ならびに「Ａ６」は、トークン集合「ＥＣ３」に属すると仮定する。この実施例において、一組のトークン集合は、ＥＣ１、ＥＣ２、およびＥＣ３を含むように決定することができる。これらのトークン集合を、クエリ用語「Ｅ１」について、知識合成ボックス３７０７内に表示することができる。一部の実施形態では、知識合成ボックス３７０７は、これらのトークン集合のサブセットのみを表示することができる。例えば、システムは、最も多くのエンティティを有する上位２つのエンティティ集合のみを表示するように選択することができる。実施例Ａでは、ＥＣ１およびＥＣ２はそれぞれＥＣ３よりも多くのエントリーを含むので、システムはそれらのみを表示するように選択することができる。一部の実施形態では、システムは、他の基準に基づいて、トークン集合を表示するように選択することができ、例えば、各トークン集合に含まれるエンティティのうちで平均値または中央値が最も高い意味的関連強度を有する２つのトークン集合を表示するように、選択することができる。
【０２３１】
一部の実施形態では、一組のトークン集合を、クエリ用語３７０１と関連付けられ、かつ特定の条件（複数可）を満たす１つ以上のエンティティに基づいて、決定することができる。例えば、一組のトークン集合に含まれるように、トークン集合は、トークン集合内に特定の数より多い、それより少ない、またはそれと等しい数のエンティティを有しなければならない。別の実施例として、一組のトークン集合に含まれるように、トークン集合は、特定の数より多い、それより少ない、またはそれと等しい数の意味的関連強度である、平均値または中央値の意味的関連強度を有しなければならない。上記の実施例Ａにおいて、トークン集合が、一組のトークン集合に含まれるために、少なくとも２つのエンティティを有することを必要とする場合、ＥＣ１およびＥＣ２のみが、一組のトークン集合に含まれることになる。更に別の実施例では、クエリ用語３７０１と関連付けられたすべてのエンティティが対象とならなくてもよい。別の言い方をすると、システムは、一組のトークン集合を決定する前に、特定の条件（複数可）を満たしていない、それらのエンティティをフィルタ除去することができる。上記の実施例Ａでは、システムは、すべてのエンティティが少なくとも０．７の意味的関連強度を有すると見なされることを要求すること、Ａ３、Ａ４、Ａ５およびＡ６はそれぞれ、０．７より大きい意味的関連強度を有するが、Ａ１およびＡ２はそうでないこと、ならびに知識合成ボックス３７０７が、最も多くの数のトークンを有する、１つのトークン集合のみを表示することが更に仮定される。この場合、知識合成ボックス３７０７は、システムが、ここで、ＥＣ１はＡ３のみを有し、ＥＣ２はまだＡ４およびＡ５を有し、ならびにＥＣ３はまだＡ６を有することを決定することになるので、ＥＣ２を表示することになる。
【０２３２】
一部の実施形態では、各トークン集合は、パーセンテージと関連付けられ得、ここで、パーセンテージは、それぞれのトークン集合におけるトークンの数を、すべてのトークン集合内のトークンの合計数で除算することによって、表すことができる。一部の実施形態では、１つ以上のトークンは２つ以上のトークン集合に属すことができるので、トークン集合のパーセンテージの合計は１００％を超えるまで加算することができる。一部の実施形態では、知識合成ボックス３７０７は、そのパーセンテージが特定の閾値より高いトークン集合を表示するように選択することができる。
【０２３３】
一部の実施形態では、トークン集合のリストが生成される前、その間、および／またはその後に１つ以上のフィルタを適用することができる。一部の実施形態では、近隣とクエリ用語との間の共起レベルが特定の閾値より大きい、または小さい場合、クエリ用語の近隣をその結果またはトークン集合からフィルタ除去することができる。例えば、高い共起レベルを有する近隣のみを選択することができる。別の実施例では、ゼロの共起レベルを有する近隣のみを選択することができる。フィルタを使用することによって、以下のタイプの結果：（１）高いコサイン距離および高い共起レベルを有する近隣、（２）低いまたはゼロの共起レベルを有するが、他のエンティティを介して関連する近隣、（３）高いコサイン距離を有するが、低いまたはゼロの共起レベルを有する近隣、（４）対象の全てのコーパス内の高い出現、および高い共起レベルを有する近隣、ならびに（５）対象の全体的なコーパス内の低い出現を有するが、高い共起レベルを有する近隣、のうちの１つ以上を有するように制御することができる。後でのフィルタは、現れ始めているが、周知または認識されていないエンティティ／トークン間の関連を示すことができるので、特に興味深いものとなる可能性がある。これらのタイプの結果は、非限定的であり、必ずしも相互排他的ではない。
【０２３４】
一部の実施形態では、出力ボックス３７０８は、クエリ用語３７０１と関連付けられた結果を生成することができる。例えば、出力ボックス３７０８は、結果として生じるエンティティの意味的関連強度の減少する順序で、結果を提供することができる。出力ボックス３７０８はまた、結果において各エンティティと関連付けられた、大きさ、出現の数、およびドキュメントの数を表示することができる。一部の実施形態では、大きさは、エンティティと関連付けられたベクトルの大きさを指し、ここで、大きさは、Ｌ２ノルム（すなわち、ベクトルの個々の寸法の二乗和平方根値）である。例えば、エンティティ「ｃｉｒｃｕｌａｔｉｎｇ＿ｐｃｓｋ９」の意味的関連強度は、０．８１である。その大きさは５．４である。それは、選択されたコーパス内の２３７のドキュメントにおいて、４９４回出現する。更に、各エンティティと関連付けられたエンティティ集合を表示することができる。
【０２３５】
図３８は、本開示の一部の実施形態による、例示的な知識ダイアグラムインターフェース３８００を図示する。知識ダイアグラムインターフェース３８００は、選択されたコーパス３８０５が「パブメド」であることを除いて、知識ダイアグラムインターフェース３７００（図３７）と類似している。したがって、この実施例では、クエリは、パブメドデータベース内に存在するドキュメントに制限され、異なる結果を知識合成ボックス３８０７および出力ボックス３８０８内に生成させる。
【０２３６】
図３９は、本開示の一部の実施形態による、例示的な知識ダイアグラムインターフェース３９００を図示する。知識ダイアグラムインターフェース３９００は、選択されたコーパス３９０５が「ＳＥＣ」であることを除いて、知識ダイアグラムインターフェース３７００（図３７）と類似している。したがって、この実施例では、クエリは、ＳＥＣデータベースに存在するドキュメントに制限され、それは、異なる結果が知識合成ボックス３９０７および出力ボックス３９０８内に生成されることをもたらす。
【０２３７】
図４０は、本開示の一部の実施形態による、例示的な知識ダイアグラムインターフェース４０００を図示する。知識ダイアグラムインターフェース４０００は、選択されたコーパス４００５が「メディアコーパス」であることを除いて、知識ダイアグラムインターフェース３７００（図３７）と類似している。したがって、この実施例では、クエリは、メディアコーパスデータベース内に存在するドキュメントに制限され、それは、異なる結果が知識合成ボックス４００７および出力ボックス４００８内に生成されることをもたらす。
【０２３８】
図４１は、本開示の一部の実施形態による、例示的な知識ダイアグラムインターフェース４１００を図示する。エンティティを１つ以上の同義語と関連付けることができる。例えば、エンティティ「ｐｃｓｋ９」は、以下の同義語：「ｐｃｓｋ９ｓ」、「ｐｃｓｋ９＿ｐｃｓｋ９」、「ｐｃｓｋ９＿ｌｄｌｒ」、「ｌｄｌｒ＿ｐｃｓｋ９」、および「ｐｃｓｋ９＿ｍｅｄｉａｔｅｄ」を有することができる。一部の実施形態では、上記で説明されたような、示唆を生成することができる方法と同様の方法で、同義語を生成することができる。開示されたシステムおよび方法は、クエリの結果が別個のワードとして同義語を列挙しないように、エンティティについての同義語を併合することができる。一部の実施形態では、知識ダイアグラムインターフェース４１００は、同義語併合機能４１０１を有効化する、または不能にすることを許容することができる。同義語併合機能が不能である時４１０１、システムは、異なるエンティティとして、エンティティおよびその同義語を処理する。例えば、同義語併合機能が不能である時４１０１、エンティティ「ｐｃｓｋ９」および上記のあらゆるその同義語は、異なるエンティティとして処理される。
【０２３９】
図４２は、本開示の一部の実施形態による、例示的な知識ダイアグラムインターフェース４２００を図示する。図４２では、同義語併合機能は有効化されており４２０１、エンティティおよびその同義語を単一のエンティティとして処理させる。例えば、同義語リスト４２０２内の同義語は、エンティティ「ｐｃｓｋ９」と同じエンティティとして処理される、エンティティ「ｐｃｓｋ９」のすべての同義語を示す。
【０２４０】
図４３〜図４４は、本開示の一部の実施形態による、例示的な知識ダイアグラムインターフェース４３００、４４００をそれぞれ図示する。知識ダイアグラムインターフェース４３００、４４００は、トークンリスト４３０１、４４０１を図示し、そのそれぞれは、所与のトークン集合内にトークンを列挙する。例えば、トークンリスト４３０１は、Ｇｅｎｅｓトークン集合内のすべてのトークンを列挙する。別の実施例として、トークンリスト４４０１は、Ｌｉｖｅｒ（ＧＴＥｘ）トークン集合内のすべてのトークンを列挙する。
【０２４１】
図４５は、本開示の一部の実施形態による、例示的な知識ダイアグラムインターフェース４５００を図示する。知識ダイアグラムインターフェース４５００は、オートコンプリート機能４５０１を提供することができる。ユーザーがクエリボックス内のエンティティのタイピングを開始した時、オートコンプリート機能４５０１は、エンティティを予測し、１つ以上の示唆を提供することができる。一部の実施形態では、示唆されたエンティティのそれぞれはまた、各示唆されたエンティティが選択されたコーパス内で発生したその出現の数などの追加的な情報を含むことができる。
【０２４２】
一部の実施形態によると、ヒートマップは、複数のエンティティ間の関連の２次元ビューを提供し、それらの間の関係を識別することができる。図４６は、本開示の一部の実施形態による、例示的なヒートマップ４６００を図示する。ヒートマップ４６００は、遺伝子（ｙ軸上に列挙されるような）と薬剤（ｘ軸上に列挙されるような）との間の関連を示すことができる。この実施例では、１番上の行は遺伝子「ｐｄ＿１」に関するものであり、他の行は、遺伝子「ｐｄ＿１」に関連する他の遺伝子である。これらの遺伝子を、ＦＤＡ承認された薬剤（約６５００の薬剤を含むことができる）である、エンティティの集合と比較することができる。遺伝子「ｐｄ＿１」と最も高い意味的関連強度を有するこれらの薬剤のサブセットを選択し、列として表示することができる。ヒートマップ内の各セルは、対応する行と列エンティティとの間の意味的関連強度を表すことができる。一部の実施形態では、様々な意味的関連強度を表すために異なる色および／または色の異なるグラデーションを使用することができる。色の凡例４６０３は、意味的関連強度に対して色（または色のグラデーション）をマッピングすることができる。ヒートマップ４６００は、エンティティ間の様々な関係を露出することができる。例えば、第１の行では、ニボルマブおよびペンブロリズマブは、ｐｄ＿１を結合する薬剤であり、「ｐｄ＿１」は、他の薬剤と比較すると、これらの薬剤と最も強く関連付けられることを観察することができる。一部の実施形態では、ヒートマップ４６００は、各行について意味的関連強度の平均４６０１および／または標準偏差４６０２を含むことができる。
【０２４３】
図４７は、本開示の一部の実施形態による、例示的なヒートマップ４７００を図示する。この実施例では、１番上の行は薬剤「リタキシマブ」を表し、他の行は、薬剤「リタキシマブ」に関連する他の薬剤を表す。これらの薬剤は、疾患エンティティの集合（約９，５００の疾患を含むことができる）と比較される。薬剤「リタキシマブ」と最も高い意味的関連を有するこれらの疾患のサブセットを選択し、列として表示することができる。ヒートマップ４６００と同様に、すべてのセル値は、ペアのエンティティ間（すなわち、そのセルにおいて表されるペアの薬剤および疾患の間）の意味的関連強度を表すことができる。ヒートマップ４７００は、リタキシマブが現在使用されている場合（すなわち、様々なサブタイプのリンパ腫）の兆候だけでなく、ループス腎炎（強調される）を含む表面上の「オフラベル」である兆候もまた現すことができる。
【０２４４】
図４８は、本開示の一部の実施形態による、例示的なヒートマップ４８００を図示する。ヒートマップ４８００は、分子分析を組み込むことができる。この実施例では、１番上の行は遺伝子「ＴＲＩＭ３２」を表し、他の行は、遺伝子「ＴＲＩＭ３２」に関連する他の遺伝子を表す。これらの遺伝子は、ＧＴＥｘデータベースから得られるヒト脳組織内で特に過剰発現される、遺伝子を表すエンティティの集合と比較される。これは、知識合成を、ヒト脳内の遺伝子の発現と関連する分子分析学と組み合わせる、一意的な比較を表すことができる。この実施例では、ＴＲＩＭ３２は、脳内で特に発現する遺伝子と極めて高い関連を有する。これは、列にわたって高い平均意味的関連強度を有するＴＲＩＭ３２によって理解することができる。遺伝子「ＴＲＩＭ２」はまた、ＴＲＩＭ３２と極めて強く結びつき、ＴＲＩＭ２自体は、脳内で高度に発現される。
【０２４５】
図１１は、隣接するノードが時間とともに変化する、検索入力についてのエンティティ分布を図示する。図１１では、各時間スロット（Ｔ１、Ｔ２、Ｔ３）は、その時間ステップで現れる新しいノードを図示する（例示の目的のため）。時間範囲などを変えるために、変換１１０２を使用することができる。マトリクスは、エンティティ近隣経時変化を取り込むことができ、また、どのようにノード１１０１が後続の時間ステップにおける他のノード（１１０５および１１０６）と関連するかを示すことができる。例えば、「ｄｒｏｐｏｕｔ」のような用語について、機械学習モデルにおけるオーバフィッティングを避けるための主要な方法を、多くのニューラルネットモデルのコンテキストにおいて使用することができ、この技法の成功に続いて、ノード１１０６で図示されるような大きなファンアウトがもたらされる。知識グラフを構成するために用いられる入力コーパスにおける実際の共起によって互いに関連する用語に加えて、共起のない近隣にあるが、意味的に関連するエンティティ（ブラックにおける、１１０９および１１１０）も、このプロセスによって識別することができる。これらの意味的に関連するエンティティは誤検知を有する場合があるが、一方で、これらのエンティティは、そうでなければ、時間にわたる近隣セットの目での精読によって見つけることが困難であることになる潜在的な洞察のために、候補クラスを生成する。
【０２４６】
図１２は、エンティティクラスにわたる時間的進行の概念を出力する実例を図示する。例証において、エンティティクラス「統計」の近隣におけるエンティティを、エンティティクラス「ニューラルネットワーク」と比較することができ、ここで、フィルタ／変換１１０２を、ニューラルネットワークについてのエンティティクラスに先立つ時点で、エンティティクラス統計を比較するために使用することができ、エンティティクラスは、一組のエンティティに対するラベルである。フィルタ／変換１１０２を、データ／時間範囲を変えて、エンティティの近隣の経時変化を比較するために使用することができる。図１２はまた、「統計」の空間から「ニューラルネットワーク」の空間までの、同じ概念を表すエンティティの進化も図示する。生物的空間からの同等のケースについて、薬剤セニクリビロック（ｃｅｎｉｃｒｉｖｉｒｏｃ）の知識グラフ近隣におけるエンティティ分布は、２０１４年の前後で変化する。２０１４年の前、エンティティ分布は、薬剤クラス「ｃｃｒ５拮抗薬」に属する「抗ウイルス性」薬剤によって大部分が支配されていた。しかし、２０１４年の後、同じ薬剤についての知識グラフ近隣におけるエンティティ分布は、ＮＡＳＨ（非アルコール性脂肪性肝炎）などの「肝臓に関連する疾患」の出現を示す。
【０２４７】
図１３は、非常に短い時間での知識グラフサブセットの実例の生成を図示する。非常に短い時間での構造化／非構造化データスナップショット１３０１を、ワード、センテンス、およびドキュメントエンベディング１３０２を作成するために使用し、次に、ラベルエンティティ１３０３およびラベルの集合１３０４を生成するために使用することができる。エンベディングは、ｗｏｒｄ２ｖｅｃ、ｄｏｃ２ｖｅｃなどの、およびまたＲＮＮのような連続学習モデルを使用する、教師なし方法によって生成することができる。このプロセスからのこれらの用語／フレーズは、次に、エンティティおよびエンティティクラスとしてラベル付けすることができ、構造化意味的データベース１３０５も使用することができる。更に、このプロセスはまた、経験的な知識でラベル付けされていない、候補エンティティおよびエンティティクラスをもたらすことができる。これは、ラベル付けされていないエンティティのエンティティ分布、およびペアをなすエンティティ間の近隣の不均整を利用して行うことができる。例えば、用語１および用語２は１つのコサイン距離尺度を有するにもかかわらず、用語１および用語２の近隣用語の順序は、不均整である。この不均整な性質はまた、異なるエンティティ分布および異なるエンティティランク付けをもたらすことができる。したがって、用語１は、用語２の近隣として由来する薬とすることができるが、その逆は不可である。また、用語２もその近隣としてのより多くのエンティティクラスを有することができるが、用語１はそうでない場合がある。候補の新しいエンティティおよびエンティティクラスを識別するために、これらのタイプの不均整を使用することができる。このプロセスの出力は、ラベル付けされたエンティティおよびエンティティクラス、ならびにラベル付けされていないエンティティの知識グラフとすることができる。知識グラフ記憶装置１３０７は、汎用の記憶装置、ならびにドメインおよびサブドメイン知識グラフとすることができ、ここで、単一のエンティティ（ラベル付けされたまたはラベル付けされていない）は、異なるエンティティ分布を有することができる。
【０２４８】
図１４は、知識グラフ生成プロセス１４０２によって構造化および非構造化データ１４０１から経時的に生じた、サブセット空間（ＫＧＳ１．．Ｓｎ）［１４０３］についての知識グラフスナップショットとしての知識グラフ（「ＫＧ」）における、経時的なエンティティの時間的進行の取り込みおよび結果としてのエンティティ分布を図示する。
【０２４９】
図５７は、本開示の一部の実施形態によるデータフローを図示する。一部の実施形態では、構造化および／または非構造化データは、図１に記載されたシステムによって、取得および処理することができる（５７０１）。処理されたデータをワード／センテンスエンベディングおよび／または知識グラフを生成するために使用することができる（５７０２）。処理されたデータはまた、構造化データベースにデータを追加するためにも使用することができる（５７０１）。５７０１および５７０２からの異なるアセットを、異なるアプリケーションに提供されるように、異なるバックエンドサーバ／コンピュータシステムを通じて供給することができる（５７０３）。例えば、ワードエンベディングは、ワードベクトルサーバによってホストすることができ（５７０３）、近隣検知ダイアグラムを生成することができる、近隣アプリなどの下流アプリケーションへと提供することができる（５７０４）。検知エンベディングは、アダグラム（Ａｄａｇｒａｍ）サーバ／コンピュータシステムによってホストされ、エンベディングアプリを検知するために提供することができる（５７０４）。ワードエンベディングはまた、ヒートマップアプリのためのヒートマップデータを生成するためにも使用することができる（５７０４）。更に、ワードエンベディングは、時間的分析アプリに提供することができる（５７０４）。このデータフローと同時に、集合が、作成され、バックエンドサーバ／コンピュータシステム内にホストすることができる。集合のキュレートを、構造化および／または非構造化データを活用することによって、局所的に実行することができる（５７０２）。集合のキュレートはまた、キュレートされ／自動的に作成された集合により特定の対象のドメインを得ることを望む人によって、遠隔的に実行することができる（５７０５）。これらの集合を、次にバックエンドサーバ上でホストすることができる（５７０３）。代替的に、バックエンドサーバは、遠隔にホストされた集合に対するプロキシとすることができる。
【０２５０】
図５８は、本開示の一部の実施形態による、ユーザーが近隣アプリにクエリ要求をする場合（５８０１）の制御／データフローを図示する。近隣アプリは、ユーザーインターフェースを提供することができ、ここで、ユーザーは、クエリ用語を入力することができ、近隣アプリは、そのクエリ用語と関連付けられる異なる近隣検知を生成することができる。ユーザーインターフェースは、図３１〜図３２と類似して見ることができる。一部の実施形態では、ユーザークエリが遺伝子である場合、そのページの近隣（５８０２）は、遺伝子エンティティ、あるいは、疾患、薬剤などの他の関連するエンティティを含む可能性が最も高いでことになる。一部の状況では、クエリ用語が複数の意味を有する時、近隣ページは、それらの異なる意味と意味的に関連するエンティティを有することになる。検知エンベディングは、検知をいくつかの度合いに分離するのに役立つ。（図５２〜図５６を参照）
【０２５１】
集合を有する意味的なマッチは、知識合成を通じて濃縮された表示を生成し（５８０３）、ワードエンベディングからの意味的近隣の範囲をわずかに超えた、幅広く／濃縮した図を提供することができる。例えば、近隣が遺伝子と関連付けられる疾患を全く有しない場合であっても、開示されたシステムおよび方法は、クエリ遺伝子と関連付けられた疾患集合と、遺伝子を意味的にマッチさせて、意味的近隣の範囲をわずかに超えて示される、濃縮した図を示すことができる。近隣と集合のマッチングは、単純な語義的なマッチから、変化する度合いの要約／分離を有する意味的なマッチまで及ぶことができる。（図７〜図１０を参照）例えば、遺伝子についてのクエリを、遺伝子集合を用いて濃縮することができる一方で、それはまた、関連する疾患、またはむしろそれらの遺伝子の研究を行う人々を含む集合によっても濃縮することができる。一部の実施形態では、候補集合を選び出す三角測量は、固定されず、それは、クエリに対する近隣エンティティをわずかに超える正確に濃縮された経験を、きわめて幅広く、かつ変化して（意味的マッチに対して語義的に）提供する。一部の実施形態では、三角測量プロセスは、手動でキュレートされてもよく、かつ／または機械生成されてもよいエンティティ集合に対する近隣結果をマッピングすることを意味することができる。一部の実施形態では、語義的なマッチは、検索用語とトークン集合の名前とのマッチングを指すことができる。一部の実施形態では、意味的マッチは、検索用語の近隣およびその近隣と関連付けられたエンティティタイプを分析することを指すことができる。一部の実施形態では、開示される濃縮された合成ボックスは、意味的が意味的結果または概要的結果のクラスタに過ぎなかったとしても、強化した結果の情報を有する既存の検索システムとは異なる。開示されたシステムおよび方法は、近隣と集合の意味的なマッチングだけでなく、１つのインターフェースにおけるユーザーが集合の意味的マッチ情報および現在のページのパノラマ図を得ることを可能にすることによって、真のエンリッチメントを提供する。
【０２５２】
開示されたシステム、方法、およびコンピュータ可読媒体は、ライフサイエンスエンティティ間の、それらの初期段階での知識生成の有意な関連を識別し、それらの正確な因果的関連を確立する将来性のある公開に先立つ、予知的な関連を含むことができる。一部の実施形態では、このシステムはまた、サブセット、上位セット、またはライフサイエンスコーパスにわたる全体的に新規なセットのエンティティであるカスタムエンティティ集合を含む、人間がキュレートしたエンティティ集合の成長するレパートリをシームレスに組み込むことを提供することができる。一部の実施形態では、システムは、時間的に様々な解像度にスライスされた予め作成される、および／または規則的に更新されるコーパスに依拠することができ、ライフサイエンスエンティティペア間の意味的関連強度における時間的変化の遡及的およびほぼリアルタイムの追跡を可能にする。一部の実施形態では、システムは、提携エンティティ集合に基づいて、各関連付けに起因し得る特異性を統計的に容易に推測することができる。
【０２５３】
開示されたシステムおよび方法は、所与のペアのエンティティ（ワードまたはフレーズ）の意味的近隣（例えば、パブメドに見られるすべてのドキュメントにおける）の時間的分析を通して、新規な生物学的関連の発見を達成できることを確立する。これらのペアは、ライフサイエンス文献で使用されている任意のエンティティタイプ（例えば、遺伝子−遺伝子または遺伝子−疾患）とすることができ、それは、戦略的意思決定に重大な影響を及ぼし得る仮説の生成につながる。ライフサイエンスエンティティ（例えば、疾患、遺伝子）を構成するフレーズの複雑なセットは、しばしば複数のワードから構成され、そのようなフレーズを保存することは、ライフサイエンスにおける自然言語処理（ＮＬＰ）の価値を最大化することの中心である。
【０２５４】
実施形態によると、意味的関連強度またはスコアの時間的分析は、科学文献に公開されている将来性のある生物学的発見に先立ってまたはそれに一致する新規な関連性の識別を可能にすることができる。強い意味的関連スコア信号は、将来性のある出版の年、またはそのような将来性のある出版の数年前に発生する可能性がある。結果として、本明細書に記載の意味的関連スコア（コサイン距離）を現在使用して、生物医学文献にはまだ開示されていない新規の生物学的関連を予測することができる。
【０２５５】
開示されたシステムおよび方法は、初期段階において、ライフサイエンスエンティティ間の有意な関連（例えば、遺伝子ＥＧＦＲはライフサイエンスエンティティである）を識別および視覚化することができる。エンティティの組を、以下の：生体分子（例えば、遺伝子、ＤＮＡまたはＲＮＡポリマー、タンパク質、脂質、代謝産物、コーディングおよび非コーディングＲＮＡ、ペプチド、抗原、突然変異など）、バイオエンティティ（例えば、細胞、器官など）、疾患（例えば、非小細胞肺がん、関節リウマチ、高コレステロール血症、多発性硬化症、パーキンソン病、ＮＡＳＨ、ＮＡＦＬＤ、ＡＩＤＳ、敗血症など）、有害事象、微生物（例えば、ピロリ菌、インフルエンザＨ１Ｎ１型ウイルス、Ｃ型肝炎ウイルス、カンジダアルビカンスなど）、アッセイ法（例えば、ハイスループット細胞スクリーニング、カイノームプロファイリング、増殖抑制、質量分析法など）、企業／機関（例えば、製薬、バイオテクノロジー、ＣＲＯ、診断／機器製造業者、病院、診療所、大学など）、人（例えば、研究者／科学者、医師／内科医、医者名、内科医のＮＰＩ  ＩＤ、役員など）、表現型（例えば、インビトロ、インビボで観察可能／測定可能／主観的など）、薬剤（例えば、化合物／小分子、抗体、細胞など）、医療器具、医療手技（例えば、手術、移植、放射線など）、および多様な生物医学コーパスのユーザーによって収集することができる他のエンティティの集合（図１５を参照）を含むが、これらに限定されない、エンティティ集合にグループ化することができる。一部の実施形態では、用語「知識ベース」および「エンティティ集合」は交換可能である。
【０２５６】
図１５は、本開示の一部の実施形態による、例示的なエンティティ集合を図示する。図１５は、本開示の一部の実施形態に従って、いくつかのより小さいサブ集合を含む上位集合の他、複数の他のエンティティ集合にわたって重なる集合を強調する。ライフサイエンスコーパス内のすべての集合の上位セット自体を、「マスターエンティティ集合」（コーパス内のすべての集合およびエンティティの集合）と見なすことができる。一部の実施形態では、システムのユーザーによって作成されることになるカスタム集合はまた、エンティティ集合としてもラベル付けされてもよい。ここに概略的に視覚化されたエンティティ集合では、多様なエンティティ集合が堆積され、エンティティは、複数のエンティティ集合に属することができ、エンティティ集合は、互いに入れ子にすることができ、または他のエンティティ集合にまたがることができる。
【０２５７】
一部の実施形態によると、統計的に堅牢な推論が、例えば、経時的に別のエンティティとの単体のエンティティの関連の顕著な特徴に基づいて作られ得るように、一組の業界特有のエンティティ集合を、単体のエンティティに対する、「集約された集合」の進化履歴の比較のための基準を提供するように作成することができる。
【０２５８】
ベクトル空間モデルは、「意味的に」類似したワードが隣接する点にマッピングされる（すなわち、そのようなワードが合成高次元空間内で互いに近くに埋め込まれる）、連続ベクトル空間内のワードを表す。そのような技法は、自然言語処理（ＮＬＰ）の分野で長く豊かな歴史を有しているが、すべての方法は、何らかの形で分布仮説に依存し、これは同じコンテキストに現れるワードが意味的意味を共有することを述べている。この原理を活用する異なるアプローチは、２つのカテゴリ：カウントベースの方法（例えば、潜在的意味解析）と予測的方法（例えば、神経確率的言語モデル）とに分類することができる。カウントベースの方法は、あるワードが大きなテキストコーパス内でその隣接ワードと共起する頻度の統計を計算し、次にこれらのカウント統計を、各ワードについての小さく高密度なベクトルに至るまでマッピングする。予測モデルは、学習された小さく高密度のエンベディングベクトル（モデルのパラメータと見なされる）に関して、その近隣からワードを直接的に予測することを試みる。ｗｏｒｄ２ｖｅｃは、未加工のテキストからワードエンベディングを学習するための特に計算効率の高い予測モデルである。これには、連続的なワードのバッグモデル（ＣＢＯＷ）とスキップグラムモデルの２つの種類がある。（Ｔｏｍａｓ  Ｍｉｋｏｌｏｖ、Ｋａｉ  Ｃｈｅｎ、Ｇｒｅｇ  Ｃｏｒｒａｄｏ、およびＪｅｆｆｒｅｙ  Ｄｅａｎ、Ｅｆｆｉｃｉｅｎｔ  Ｅｓｔｉｍａｔｉｏｎ  ｏｆ  Ｗｏｒｄ  Ｒｅｐｒｅｓｅｎｔａｔｉｏｎｓ  ｉｎ  Ｖｅｃｔｏｒ  Ｓｐａｃｅ，ＩＣＬＲ  Ｗｏｒｋｓｈｏｐ，２０１３（「Ｍｉｋｏｌｏｖ  ｅｔ  ａｌ．」）の中の、セクション３．１および３．２を参照）。アルゴリズム的には、ＣＢＯＷが、ソースコンテキストワード（例えば、「ｔｈｅ  ｃａｔ  ｓｉｔｓ  ｏｎ  ｔｈｅ」）からターゲットワード（例えば、「ｍａｔ」）を予測する一方で、スキップグラムが、逆にターゲットワードからソースコンテキストワードを予測することを除いて、これらのモデルは類似している。この逆性は、恣意的な選択のように思えるかもしれないが、統計的には、ＣＢＯＷが、（コンテキスト全体を１つの観測として扱うことによって）多くの分布情報を平滑化するという効果がある。多くの場合、これは小さなデータセットに有用である。しかし、スキップグラムは、各コンテキストとターゲットのペアを新しい観測として扱い、このことは、以下の表１に要約されている巨大なライフサイエンスコーパスなどの、より大きなデータセットに対してより良好な傾向がある。
【表１】
2019536178.tif 000005
【０２５９】
一部の実施形態によると、生物医学コーパスは、以下のソース：科学文献（例えば、パブメド、ＰｕｂＭｅｄ  Ｃｅｎｔｒａｌ−ＰＭＣオープンアクセス、ＮＣＢＩブックシェルフなどに見られる記事）、臨床文献（例えば、ｃｌｉｎｉｃａｌｔｒｉａｌｓ．ｇｏｖにおける記録）、規制文献（例えば、ＦＤＡ文書）、および商業文献（例えば、ＳＥＣファイリング、薬剤マーケティング情報、薬剤処方および取引データセットなど）のうちの１つ以上からのデータを含むことができるが、それらに限定されない。生物医学コーパスの例示的なソースを表１に列挙する。このコーパスは、本明細書に導入された方法を用いて、ライフサイエンスエコシステム全体からの様々な顧客提供の所有のドキュメントおよび／または公開ドキュメントで拡張および強化することができる。所有のデータベースの例としては、電子健康記録（ＥＨＲ）、医師のメモ、有害事象の報告などがある。ドキュメントのフォーマットとしは、科学者が作成もしくはレビューしたスライドデッキ（例えば、ＰｏｗｅｒＰｏｉｎｔまたはＫｅｙｎｏｔｅで作成したプレゼンテーション）、分析データを含むテキストファイルもしくはスプレッドシート（例えば、ＴＸＴ、ＣＳＶ、ＸＬＳ、またはＸＬＳＸフォーマット）、または科学的、医学的、臨床的、商業的もしくは規制に関する洞察を取り込むドキュメント（例えば、ＤＯＣ、ＤＯＣＸ、ＰＤＦ、または任意の他の適切なフォーマットでの）を挙げることができるが、これらに限定されない。
【０２６０】
図１に図示されるように、本開示の一部の実施形態に従って、システム記憶装置１１４は、異なる形態で２つ以上のソース経路（例えば、１０３ａおよび１０５ａ）から抽出した情報を取り込んで、情報の合成を容易にし、かつ／または異なる経路（例えば、経路１０３ａおよび１０５ａ）を通した後続の情報の抽出を可能にする。一部の実施形態では、図１は、本開示の一部の実施形態に従って、ワードをベクトルに変換し、かつ結果として生じる意味的バイオ知識グラフを分析するために使用することができるシステム記憶装置１１４を含む。システム記憶装置１１４は、構造化意味的データベース１０６（従来のデータベースとすることができる）、知識グラフ（複数可）１０７（ラベル付けされた（経路１０１ａと１０２ａの両方から抽出した）および／またはラベル付けされていない（経路１０２ａから抽出した）エンティティの有向グラフとすることができる）、ワードエンベディング１０８（ワード（複数可）および／またはセンテンス（複数可）を含むことができる）、ドキュメント／パラグラフ／センテンスエンベディング１０９、および非構造化データのシーケンス表現１１０に記憶された情報を含むことができる。一部の実施形態では、ワードエンベディングの実施例は、ｗｏｒｄ２ｖｅｃとすることができる。一部の実施形態では、ドキュメント／パラグラフ／センテンスエンベディングの実施例は、ｄｏｃ２ｖｅｃとすることができる。一部の実施形態では、シーケンス表現１１０の実施例は、メモリニューラルネットワーク（ＭｅｍＮＮ）とすることができる。
【０２６１】
一部の実施形態によると、図１のシステムは、入力として、構造化データ１０１（例えば、人間によってキュレートされた）、非構造化データ１０２（例えば、未加工のテキスト）、および／または半構造化データ１１７（例えば、構造化データと非構造化データの任意の組み合わせ）を取ることができる。構造化データの例は、名前と値のペアの表、またはキュレートされた用語のオントロジである。非構造化データは、単なるテキスト（例えば、ｔｈｉｓ  ｖｅｒｙ  ｄｅｓｃｒｉｐｔｉｏｎ）とすることができる。構造化および半構造化データは、それらを既存の構造化意味的データベース１０６へとマージする正規化および分類プロセス（１０３、１０４）を介して、１０１ａに進むことができる。一部の実施形態では、正規化プロセスは、リソース記述フレームワーク（ＲＤＦ）トリプル（ノードＡ、ノードＢ、それらを接続する属性エッジ付き）を生成することを含むことができる。正規化／分類は、マージのために、既存の構造化データ１０６およびエンベディング１０８を活用することができる１０７ａ、１０８ａ。非構造化データは、トークン化／正規化を通して１０２ａに進むことができ、これは、例えば、トークンをクリーンアップすることを含むことができる。一部の実施形態において、トークンは、機械学習モデルへの入力を構成する、ワードおよび／またはフレーズとすることができる。例えば、ワード「ｔｈｅ」はトークンである。別の実施例として、ワード「ｎｅｗ  ｙｏｒｋ」は、「ｎｅｗ＿ｙｏｒｋ」のように、特殊文字（例えば、「＿」）を追加することによって１つのトークンとすることができる、２ワードフレーズである。一部の実施形態では、テキスト入力は、テキストを１つ以上のトークンに変換する、入力処理を通して進むことができる。一部の実施形態では、所与の入力以外の以前の知識とは無関係にフレーズをトークンとして作成することができる。例えば、「Ｎｅｗ  Ｙｏｒｋ」というワードが入力の中に頻繁に出現する場合、「Ｎｅｗ  Ｙｏｒｋ」をフレーズへと変換することができ、次に、そのフレーズを「Ｎｅｗ＿Ｙｏｒｋ」としてのトークンにすることができる。一部の実施形態では、複数のワードを、それらが入力に頻繁に出現しなくても、フレーズおよび／またはトークンにすることができる。例えば、「肺がん」というワードが入力に頻繁に出現しない場合、それらがフレーズおよび／またはトークンになるように強制することができる。一部の実施形態では、トークン化プロセスに既知の技法（例えば、Ｗｏｒｄ２Ｐｈｒａｓｅ）を使用することができる。特定のデータソース１０４ａの構文解析を処理するために、特化したエンコーダを使用してもよい。更にまた、そのようなフレーズが識別されたエンティティとして存在する構造化データベースを分析することによって、フレーズを認識／生成することができる。
【０２６２】
処理されたすべてのデータを、システム記憶装置１１４などのリポジトリの中へと流すことができる（１０３ａ、１０５ａ）。このデータは、このデータから生成されたモデル１０７、１０８、１０９、１１０とともに、システム記憶装置１１４として機能することができる。ワードおよびドキュメントエンベディング１０８は、Ｗｏｒｄ２ｖｅｃ、Ａｄａｇｒａｍ、Ｆａｓｔｔｅｘｔ、ｄｏｃ２ｖｅｃ、および／または任意の他の適切なモデル／ツールなどのモデル／ツールを使用して、構造化データ（特化した変換を通してテキストストリームに変換された）と非構造化データの両方から生成されたエンベディングを含むことができる。エンベディングのインクリメンタルバージョンおよび時間的バージョンも、生成し、システム記憶装置１１４に格納することができる。ニューラルネットモデル（例えば、双方向長短期メモリ（ＬＳＴＭ）ネットワーク）のリカレントニューラルネットワーク（ＲＮＮ）ファミリーを使用して、シーケンスエンベディングを生成することができる。エンベディングに加えて、他のモデル（知識グラフ１０７および相互作用を容易にするニューラルネットモデル（例えば、リカレントエンティティネットワーク）など）もこのリポジトリに格納することができる。
【０２６３】
サブシステム１１６は、サブシステム１１３との相互作用を容易にするモジュール１１１、１１２、１１５の一実施形態を表す。データは、パス１１４ａおよび１１４ｂを介して、システム記憶装置１１４からサブシステム１１６へと流れることができる。データは、パス１１６ａを介して、サブシステム１１６とサブシステム１１３との間を流れることができる。図１のシステムは情報の流れの観点から図示されているが、いくつかのモデルを、入力として、およびラベル付けされたデータ（ラベル付けされたデータとして使用される構造化データ）としてシステム記憶装置内のデータを使用して、エンドツーエンドでトレーニングすることができる。エンドツーエンドというワードは、算出フローグラフのパラメータが１つの損失関数を用いてエンドツーエンドでトレーニングされるという特定の意味を有することができる。例えば、双方向ＬＳＴＭエンコーダ／デコーダを、言語を表し、対話型アプリケーションのために別の言語で出力を生成する、ワードエンベディング１０８とともに使用することができる。１１４および１１６内のモデルを、多種多様な発見方法のための教師なし、教師付き、および／または強化学習方法によって生成することができる。生成モデル（ＧＡＮ）を使用して、ラベル付けされたデータが疎である、タスク用のラベル付けされたデータを作成することもできる。
【０２６４】
図１のシステムはまた、ラベル付けされたデータの欠如を補償することができるパターン（例えば、エンティティ分布）を見つけるために、入力ワードエンベディングとして取る従来のグラフベースのアルゴリズムも活用することができる。システムは、それらを特定のタスクに適応させる、および／またはそれらを従来のアルゴリズムと組み合わせる／それで強化する現在の技術水準の最新モデルを活用することができ、その一実施例は、ラベル付けされたデータの欠如を補償することである。モデルは、任意のインターフェース１１３を介して、システムとライブまたはオフラインで対話することを提供することができる。
【０２６５】
図１に示すシステムは、一時的および／または恒久的な非一時的メモリ内に格納されたコンピュータ実行可能命令を使用して、本明細書に説明される機能性を実装するように構成された、プロセッサ（複数可）を含むことができる。プロセッサは、汎用プロセッサとすることができ、かつ／または特定用途向け集積回路（ＡＳＩＣ）、プログラマブルロジックアレイ（ＰＬＡ）、フィールドプログラマブルゲートアレイ（ＦＰＧＡ）、および／または任意の他の集積回路を使用して、更に実装することもできる。
【０２６６】
プロセッサ（複数可）は、任意のバージョンまたはタイプのＷｉｎｄｏｗｓ、Ｍａｃ  ＯＳ、Ｕｎｉｘ、Ｌｉｎｕｘ（登録商標）、ＶＸＷｏｒｋｓ、Ａｎｄｒｏｉｄ、Ｂｌａｃｋｂｅｒｒｙ  ＯＳ、ｉＯＳ、Ｓｙｍｂｉａｎ、または他のＯＳなどの典型的なオペレーティングシステムを含む、任意の適切なオペレーティングシステム（ＯＳ）とすることができる、オペレーティングシステムを実行することができる。プロセッサ（複数可）はまた、ウェブサーバ関連のハードウェアおよび／またはソフトウェアからの任意の命令を実行することもできる。
【０２６７】
図１６は、本開示の一部の実施形態による、コサイン距離確率密度関数（ＰＤＦ）グラフを図示する。このグラフは、システム記憶装置１１４に基づくベクトル空間モデルのようなｗｏｒｄ２ｖｅｃの実装を視覚的に説明している。システム記憶装置１１４は、ベクトルとして表されるように選ばれたワード／フレーズを表すノードの意味的バイオ知識グラフと、意味的関連強度の測定によって決定されたエッジ重み（例えば、大次元空間におけるベクトルとして表される一対のワードエンベディング間のコサイン距離）とをもたらすことができる。コサイン距離は、０（意味的関連がないことを表す）〜１（最も強い関連を表す）の範囲である。この関連のメトリクは、生物医学コーパス内のエンティティの文脈上の類似性を反映することができる。
【０２６８】
図１７は、本開示の一部の実施形態による、時間的分析のためのフローチャートを図示する。本開示の一部の実施形態に従って説明されるように、ドキュメントの時間的スライスのワード／フレーズエンベディングを作成することができる（ステップ１７０１）。ワードエンベディングを、本明細書に記載のやり方によって限定されない手段によって生成することができる。
【０２６９】
一部の実施形態では、時間スライスは、特定の期間（例えば、１ヶ月、１年、５年、１０年、１００年、または任意の他の期間）を表すことができる。ワードエンベディングは、各時間スライスについて生成することができる。例えば、１年の間に発行されたすべてのジャーナル記事を１つの時間スライスと見なすことができる（例えば、１９９６年の科学記事は１つの時間スライスに属し、１９９７年の科学記事は別の時間スライスに属するなど）。一部の実施形態では、用語「ワードエンベディング」と「ワードベクトル」は、互換的である。
【０２７０】
一部の実施形態では、ワードベクトルを、各時間スライスについて、別個に、または独立して生成することができる。この場合、エンティティについてのワードベクトルは、機械学習におけるトレーニングプロセス中に、各時間スライスについてランダムに、かつ独立して初期化される。例えば、１９９６年および１９９７年の科学記事のエンティティのワードベクトルを生成する場合、１９９６年の科学記事の時間スライスを、１９９７年の科学記事の時間スライスとは無関係に初期化することができる。したがって、１９９６年に存在する意味的関連は、１９９７年のワードベクトルの生成に１９９６年のワードベクトルが使用されていないため、１９９７年の意味的関連には影響しない。このアプローチは、各時間スライスについての意味的関連を独立して分析するのに有用である可能性がある。
【０２７１】
一部の実施形態では、ワードベクトルを、他の時間スライス（複数可）のうちの１つ以上からのワードベクトルを活用することによって、各時間スライスについて生成することができる。この場合、時間スライスに対するエンティティについてのワードベクトルを生成する時には、別の時間スライス（複数可）からのワードベクトルを使用して、機械学習のトレーニングプロセスを開始する。例えば、１９９７年におけるエンティティに対するワードベクトルを作成する場合、１９９６年について作成されたワードベクトルを使用して、トレーニングプロセスを開始することができる。したがって、１９９６年のワードベクトルが１９９７年のワードベクトルの生成に使用されているため、１９９６年の意味的関連は、１９９７年の意味的関連に影響を与える可能性がある。このアプローチは、別の時間スライス（複数可）からの意味的関連を考慮して、時間スライスの意味的関連を分析するのに有用である可能性がある。
【０２７２】
一部の実施形態では、これらの他の時間スライス（複数可）は、前の時間スライス（複数可）からのものとすることができる。一部の実施形態では、ワードベクトルをコーパス全体から生成することができ、そこではこれらのエンベディングを、ユニバースにすることができる。一部の実施形態では、ワードベクトルが生成された後、開示されたシステムおよび方法は、用語の意味的近隣が経時的にどのように変化するかを分析することができる。
【０２７３】
時間スライスのエンベディングが生成されると、自動的にまたはユーザーによってのいずれかで、用語ペアを選択することができる（ステップ１７０２）。自動的である場合、例えば、候補ペアを、遺伝子×遺伝子、遺伝子×疾患、または任意の他の適切なエンティティタイプの組み合わせなどの、エンティティタイプの組み合わせから選ぶことができる。一部の実施形態では、時間スライス中にまれにしか発生しない、または全く発生しないものを選び出すことによって、候補セットを選別することができる。これらの候補は、共起性の高いペアとは対照的に、予測のための潜在的なペアとすることができる。次に、これらのペアを時間スライスにわたって分析することができる（ステップ１７０３）。一部の実施形態では、１つの方法は、２つの用語間の時間およびコサイン距離にわたって変化する、新規な尺度を含む。この分析は、システムがこれらの用語が将来強く関連する可能性が高いと予測することができる項目を、その出力としてもたらすことができる（ステップ１７０４）。新規な尺度は、まれにしか発生しない、または全く一緒に発生しない用語ペアを事前にもたらすことができ、それにより、時間スライスにわたって強化することができ、時間ゲイン予測の候補である、用語ペア間の潜在的リンクの発見が可能となる。検査された時間スライス内で高い共起を有する用語ペアについて、開示されたシステムおよび方法は、２つの用語間で遡及的因果経路研究を実行することができる。
【０２７４】
概念の進化を定量的に研究するためには、意味的関連強度メトリクの挙動を理解することが重要である。メトリクおよびメトリクの統計的性質は、開示されたシステムおよび方法から生じる意味的関連強度の顕著な特徴についてより強力な記述をするために、ゼロ仮説の下で説明される。一部の実施形態では、教師なしニューラルネットワークによって生成されたワードエンベディング（考慮中のコーパス内のワードまたはフレーズのｄ次元ベクトル表現）は、ドット積（または内積）を使用することによって他と比較することができる。２つのベクトルａとｂのドット積は、次のように定義される。
2019536178.tif 000006
ここで、｜｜ａ｜｜および｜｜ｂ｜｜は、ベクトルのそれぞれの大きさ（Ｌ２ノルムとも呼ばれる）であり、ｃｏｓθは、−１〜１までの範囲の値を持つコサイン距離である。ニューラルネットワークによって使用される目的関数は、局所スライディングウィンドウ内で共起するワードをまとめるような様式で定式化される。すなわち、そのようなワードペア間の角度は互いにより近くなり、コサイン距離はより大きくなることになる。ニューラルネットワークが示す動作の１つは、意味的に互いに近いワードをクラスタ化することである。多様なエンティティの組（遺伝子、疾患、企業、薬剤、人などのワードの「クラス」）を含むコーパスでは、同じエンティティタイプのワードは、ランダムに選ばれたワードのペアと比較して、コサイン距離が長い傾向がある。したがって、ワードの関連付けを調査している間に繰り返し現れる１つの疑問は、一対のワードベクトル間で観察される特定のコサイン距離の統計的有意性である。統計的有意性の評価に向けて、我々は最初に、一様に分布しているワードベクトルからなるｄ次元空間で観察できる、コサイン距離の性質を正式に分析する。有意として特定のワードペアの関連付けを言明することは、そのペアのコサイン距離が上記のランダム分布によって生成された可能性が非常に低いはずであることを必然的に伴うことになる。
【０２７５】
ｄ次元の単位球（Ｒｄにあるｄ球）上のベクトルｖを選ぶ。単位球からランダムに選ばれた別のベクトルｗが、ｖからコサイン距離ｘを持つ確率を計算することが望まれる。すべてのベクトルは、ｄ−球に一様に分布していると仮定することができる。ランダム変数、ベクトル間の角度、およびランダム変数Ｘ＝ｃｏｓΘ（ランダムに選択されたｗと固定ベクトルｖの間の角度Θのコサイン）を有する。例えば、３次元空間（ｄ＝３）を解析することができる。単位球においては、任意の単位ベクトルｖを固定することができる。ｖから角度θにあるベクトルはすべて、半径ｓｉｎΘの円の上にある（この円の平面は、球の中心から距離ｃｏｓΘにある（図１５参照））。ベクトルｗがベクトルｖ
に対して角度Θを持つ確率を計算するために、ｗが存在する球の部分面積を知る必要がある。３次元空間では、そのような部分面積は、特定の円の円周（半径ｓｉｎΘを有する）とわずかな差分
2019536178.tif 000007
の積にすぎない。確率は、この場合、
2019536178.tif 000008
である。一般的なｄ次元空間の場合、これらのベクトルは、半径ｓｉｎΘの（ｄ−１）球内に存在する。Ａｄ（ｒ）はｄ球の表面積を表す。実施例えば：Ａ２（ｒ）＝２πｒ、Ａ３（ｒ）＝４πｒ２である。その部分面積は、Ａｄ−１（ｓｉｎΘ）ｄθであり、角度がΘである確率は、（式１）
2019536178.tif 000009
である。
【０２７６】
上記式では、半径ｒのｄ球はｒｄ−２に比例する表面積を持つので、比例関係が保持される。変数をΘからｘに変更し：ｘ＝ｃｏｓΘとし、それゆえに
2019536178.tif 000010
2019536178.tif 000011
式１から、
2019536178.tif 000012
2019536178.tif 000013
（式２）
2019536178.tif 000014
式中、
2019536178.tif 000015
式２は、コサイン距離分布の確率密度関数を与える。
【０２７７】
図１６は、本開示の一部の実施形態による、様々なＮ次元空間についての確率密度関数（ＰＤＦ）を図示する。一部の実施形態では、ニューラルネットワークによって使用される典型的な次元数は３００である。グラフから分かるように、分布は、質量の大部分が０を中心として多分にピークに達しており、すなわち、ランダムに選択されたベクトルのペアは、典型的に、直交または直交に近い（角度がπ／２に近い）。以下の表２は、特定のコサイン距離を有するベクトルペアを観測する確率と、様々なコサイン距離について予想されるランダムベクトルの数とを示す。
【表２】
2019536178.tif 000016
【０２７８】
例えば、コサイン距離が０．９（おおよそ角度２６°）の場合、確率は、５．５×１０−１１１と非常に小さくなり、コサイン距離が０．３（おおよそ角度７３°）とより大きい場合でさえも、確率は、８．１×１０−９と小さい。一部の実施形態では、開示されたシステムで遭遇する典型的なコーパスは、数百万件のワード／フレーズを有する傾向がある。結果として、ランダム分布（例えば、コサイン分布）を使用するという従来の考えは、非常に良好なｐ値を与え、その結果、統計的に有意なものとして過度に多くの関連にフラグを立てることになる。関連の解釈をより厳密にする１つの方法は、観測されたコサイン距離を超えるランダムベクトルの予想数を、そのコサイン距離を超えるベクトルの実際の数と比較することである。表２の第３列は、様々なコサイン距離について予想されるランダムベクトルの数を示す。一実施例として、遺伝子、疾患、薬剤などのいくつかのライフサイエンスエンティティに対して、４８００万のベクトルを有するコアコーパスでは、通常、０．３のコサイン距離を超える５万を超えるベクトルがある。そのような場合、統計的有意性の尺度として、観測された実際のベクトルに対する予想されたランダムベクトルの比を使用することは論理的な根拠とすることができる。密接に関連したエンティティ（遺伝子／遺伝子または遺伝子／疾患の関連付けなど）の統計的有意性を評価する場合、信頼性を高めるためにより高い水準が必要になる場合がある。
【０２７９】
一部の実施形態では、一対のエンティティ間の関連強度の有意性の統計的解釈は、ドキュメントの数、ドキュメントのソース、および一対のワードエンベディングを含むエンティティ集合を含むがこれらに限定されない、複数の共変量を含む。結果として得られた関連付けメトリクを経時的に追跡することができ、そのことは、２つのライフサイエンスエンティティ間の関係の時間的推測を可能にし、そのような関係の統計的有意性を確立する。以下に列挙されるいくつかの実施例は、高い意味的関連強度が、２つのエンティティ間の関係を堅固に確立した最終的な将来性のある刊行物に先立つことを示す。この概念は、「時間ゲイン」として取り込むことができ、これは、「意味的信号」の出現（すなわち意味的関連強度の増加）と、主要な文献（すなわち、関連付けを報告するドキュメントの増加）における実際の関連の出現との間の時間量（例えば年数）を表すことができる。
【０２８０】
この方法論を、統計的に有意なエンティティ関連の特定のペアおよびネットワークを識別するために使用することができる。意味的関連強度を経時的に分析すること（すなわち、時間的分析を実行すること）は、ライフサイエンスコーパスなどのコーパスから新生の将来性のある関連を発見および追跡することができる。時間的分析は、ライフサイエンスエンティティなどの２つのエンティティを、それらの意味的関連強度を経時的に追跡することによって比較することができる。一部の実施形態では、３つ以上のエンティティを比較することができる。例えば、エンティティＡ、Ｂ、Ｃ、およびＤがある場合、これらのエンティティは、Ａ−Ｂ、次にＢ−Ｃ、次にＡ−Ｃ、次にＡ−Ｄ、次にＢ−Ｄ、次にＣ−Ｄ等などの順で、ペアごとに比較できる。ライフサイエンスエンティティを、科学文献に見られる既存の分類体系を使用して、新たに分類または定義することができる。後者の場合、構造化データベースを活用してエンティティクラスを決定することができる。例えば、遺伝子は、ＮＣＢＩの遺伝子記録（ｈｔｔｐｓ：／／ｗｗｗ．ｎｃｂｉ．ｎｌｍ．ｎｉｈ．ｇｏｖ／ｇｅｎｅ）および／またはＨＵＧＯ  Ｇｅｎｅ  Ｎｏｍｅｎｃｌａｔｕｒｅ  Ｃｏｍｍｉｔｔｅｅのデータセット（ｈｔｔｐｓ：／／ｗｗｗ．ｇｅｎｅｎａｍｅｓ．ｏｒｇ）から由来とすることができる。同様に、疾患名とオントロジは、Ｍｅｄｉｃａｌ  Ｓｕｂｊｅｃｔ  Ｈｅａｄｉｎｇｓ（ＭｅＳＨ）の集合（ｈｔｔｐｓ：／／ｍｅｓｈｂ．ｎｌｍ．ｎｉｈ．ｇｏｖ）から入手することができる。
【０２８１】
エンティティタイプが決定されると、生物医学コーパスでのそれらの関連強度を経時的に追跡することができる。エンティティは、フレーズ生成プロセスによって最初に生成することができ、候補エンティティは、それらを構成するｎグラムのワードのそれらの出現／共起の標準的な測定によるだけでなく、構造化集合からコンパイルされた辞書から得られる候補を強制的に選ぶことによっても選択される。標準的な測定は、自己相互情報量（ＰＭＩ）測定とすることができる。これにより、出現カウントがフレーズになるための閾値を満たさない場合であっても、フレーズを確実に生成することができる。これは、語彙が十分に大きくない場合があり、かつ重要なフレーズを構成する用語の出現／共起が十分ではない場合に、時間的スライスにおける特定の値とすることができる。
【０２８２】
一部の実施形態では、フレーズ生成プロセスは、後続の時間スライスの保存されたワードリストの一部として、任意の時間スライスについて生成された語彙を使用することができる。これにより、フレーズを構成する個々の用語のカウントが少ないにもかかわらず、時間スライスで発生した用語をその時点以降に確実に追跡することができる。カスケードの最初のステップは、すべてのコーパステキストを組み合わせたコーパス語彙を使用でき、フレーズを構成する個々の用語の出現頻度が低いにもかかわらず、時間スライストレーニングにおいて重要なフレーズが保持される可能性が高くなる。フレーズ生成プロセスは、フレーズの構成用語のカウントがフレーズカウント自体と少なくとも同数であることを確実にすることもできる。これにより、トレーニング中に、すべてのフレーズとそれらの構成用語が、個別におよび複合物としてトレーニングプロセスに確実に参加できるようにすることができる。
【０２８３】
トレーニングプロセスは、上記で生成されたコーパスを繰り返すことによってワードベクトルエンベディングを生成することができる。ワードエンベディングは各時間スライスに対して生成され、それはその後経時的なエンティティの時間的分析および比較に使用され得る。
【０２８４】
トレーニングプロセスは、２つの形態のベクトル生成を実行することができる。一形態では、各スライスのワードベクトルは、ランダムに初期化され、ベクトルエンベディングは、トレーニング中に学習される。この形式のトレーニングは、特定の用語が過去とは無関係に別の用語と比較してどのように進化したかを確認するのに有用である。トレーニングの第２の形態では、先のインスタンスのエンベディングによってトレーニングの前にあらゆる時間スライスがインスタンス化される。これは、用語が経時的にどのように進化したかを確認するためにに特に有用とすることができる。
【０２８５】
時間スライス内の各用語のエンティティタイプを、そのコーパスに限定されたエンティティタイプ分布計算を使用してその時間スライスに対して評価することができる。これにより、用語の意味的意味を経時的に追跡することができる。例えば、用語の近隣は、時間とともに変化する場合があり、それにより、そのエンティティタイプの分布を時間とともに変化させる。この方法は、エンティティタイプ分布の経時的変化の追跡を可能にすることができる。
【０２８６】
各時間スライスについて、２つの用語をまとめた因果経路を、トレーニングウィンドウ内に出現するワードを追跡し続けることによって生成されたトレーニンググラフを調べることによって、分析することができる。トレーニングされたコサイン距離グラフの上に重ねられたこのトレーニンググラフは、異なるレベルの遠回りで一緒になるワードに対する因果的説明を提供することができる。
【０２８７】
時間的分析プロット内で、新生の関連付けに関連付けられた特定のマーカーを識別することができる。両方のエンティティを含むドキュメントの増加に先立つ意味的関連強度の急激な増加は、それらが文献に報告される前にシステムが将来性のある関連を予測することができるという明確なシグナルでとすることができる。意味的関連強度の増加は、曲線の２次導関数の最大値として取り込むことができる一方で、ドキュメントカウントの増加は、固定軸における曲線の勾配を見ることによって、または事前に指定されたドキュメントカウントの閾値の交差を通じて取り込むことができる。既知の将来性のある関連について繰り返される時間ゲインの事例は、開示されたシステムおよび方法を、予測能力を有するものとして検証する。現在高い意味的関連強度を有するライフサイエンスエンティティペアは、それらの両方が出現発生しているドキュメントがない場合、潜在的に新規で、かつ将来性のある関連としてフラグを立てることができる。
【０２８８】
検出された新生のライフサイエンスエンティティ関連は、様々な所有のデータセットおよび／または公共のデータセットの中に見ることができるそれらの特徴によって、更に特徴付けることができる。例えば、遺伝子エンティティについては、正常なヒト組織におけるそれらの発現は、Ｂｒｏａｄ  ＩｎｓｔｉｔｕｔｅからのＧＴＥｘデータセット（ｈｔｔｐｓ：／／ｇｔｅｘｐｏｒｔａｌ．ｏｒｇ／ｈｏｍｅ／）などのデータセットを使用することによって決定し、それらをそれらの意味的関連スコアと関連させることができる。同様に、遺伝子と疾患の関連を、ＯｐｅｎＴａｒｇｅｔｓデータベース（ｈｔｔｐｓ：／／ｗｗｗ．ｔａｒｇｅｔｖａｌｉｄａｔｉｏｎ．ｏｒｇ／）などのデータベースでそれらの関連スコアを決定することによって、新規性についてストレステストすることができ、それは、我々が予測する新生のライフサイエンスエンティティペアについて低くあるべきである。
統計的解釈
【０２８９】
複数の要因が、２つのエンティティ間の関連に影響を及ぼす可能性がある。２つのエンティティを比較する時、各エンティティが属するエンティティ集合は、意味的関連強度に影響を与える可能性がある。更に、各エンティティは、所与のエンティティ集合と比較すると意味的関連強度の異なる分布を有する。
【０２９０】
図１８は、本開示の一部の実施形態による、すべての疾患エンティティに対する２つの遺伝子の意味的関連強度の密度分布を図示する。意味的関連強度（ｘ軸上のコサイン距離およびｙ軸上の確率密度関数）は、一部またはすべての疾患エンティティに対して、ＡＤＡＬおよびＡＤＧＲＧ１などの遺伝子について測定することができる。２つの分布は異なる可能性がある。例えば、図１８は、ＡＤＡＬおよびＡＤＧＲＧ１の分布が異なることを図示する。遺伝子ＡＤＧＲＧ１を疾患のエンティティ集合におけるすべての疾患用語と比較すると、意味的関連強度の分布は、０．３４の平均値および０．１３の標準偏差を有する。一方で、遺伝子ＡＤＡＬを疾患用語の同じ集合と比較すると、意味的関連強度の分布は、０．１９の平均値および０．０６７の標準偏差を有する。平均で、遺伝子−疾患の関連の大部分は、因果的リンクを表すのではなくノイズであると予想することになる。一部の実施形態では、所与のエンティティクラスに対する意味的関連強度の分布は、クエリされたエンティティに応じて変化するので、この効果は、統計的推測を引き出すことを試みる際に考慮されるべきである。
【０２９１】
開示されたシステムおよび方法は、ユーザーが入力しているタイプのクエリについての意味的関連強度の背景モデルの測定を提供することによって、ユーザーが自分たちのクエリを解釈するのを助けることができる。図１９は、本開示の一部の実施形態により、統計的な背景モデルを評価し、要約統計をユーザーに提示するプロセスを図示する。ユーザーは、比較のために２つのエンティティＥ１とＥ２を入力することができる（ステップ１９０５、１９１０、１９１５）。Ｅ１およびＥ２がそれぞれ属する適切なエンティティ集合（例えば、最も関連のあるエンティティ集合）をデフォルトで計算することができ、あるいはユーザーは、クエリ内の各エンティティに使用されるべきエンティティ集合を特定することができる（ステップ１９２０、１９２５）。２つの選択されたエンティティ集合を、Ｅ１およびＥ２に対して、それぞれＥＣ１（長さｎ１）およびＥＣ２（長さｎ２）として定義することができる（ステップ１９３０、１９３５）。ＥＣ１からＥ１を引いて、ＥＣ１’と呼ばれる新しいエンティティ集合を生成することができる。（ステップ１９４０）。同じ動作をＥＣ２に実行して、ＥＣ２’を生成することができる（ステップ１９４５）。Ｅ１とＥＣ２’のすべての構成要素（ｎ２−１の構成要素を含む）との間の意味的関連強度を計算して、ｎ２−１の長さを有するベクトルＤ２を生成することができる。意味的関連強度はまた、Ｅ２とＥＣ１’のすべての構成要素（ｎ１−１の構成要素を含む）との間を計算して、ベクトルＤ１を生成することもできる（ステップ１９５０、１９５５）。
【０２９２】
ベクトルＤ１とＤ２は、それぞれタイプＥ２×ＥＣ１およびＥ１×ＥＣ２のすべてのクエリに対する意味的関連強度の分布を表す。これらの分布は、有意な関連性の統計的推測のためのバックグラウンド（ヌル）モデルとして使用する目的で有用とすることができる。この統計的推測を助けるために、Ｄ１および／またはＤ２の平均などの要約統計を計算して、ユーザーに提示することができる（ステップ１９６０、１９６５）。これらの要約統計には、平均値、中央値、百分位数、およびｐ値が含まれるが、これらに限定されない。より複雑な機能も提示することができる。そのような関数の１つは、Ｄ１およびＤ２からのランダム描画の確率分布関数の右側の面積である。この式では、Ｄ１およびＤ２からの点をランダム変数（ｄ１およびｄ２）として見る。これらのランダム変数の和は、新しいランダム変数ｈと定義される（式１）。ｈの確率分布関数は、Ｄ１とＤ２の畳み込み（＊）として計算することができる。観察されたＥ１×Ｅ２の意味的関連強度（ＳＡＳＥ１×Ｅ２）は、Ｄ１およびＤ２から引き出され、したがって、メリットの統計（ｐｃｏｎｖ）は、Ｄ１およびＤ２からのランダムドローの割合であり、ＳＡＳＥ１×Ｅ２の２倍を超える。
ｈ＝ｄ１＋ｄ２
ｐｄｆ（ｈ）＝Ｄ１＊Ｄ２
2019536178.tif 000017
【０２９３】
図２０は、時間的分析を用いて上に重ねられたこれらの要約統計の表示の実施例を図示する。この実施例では、遺伝子「ＥＰＸ」が、疾患エンティティ「ｅｏｓｉｎｏｐｈｉｌ＿ｃｏｕｎｔ」に対してクエリされている。タイプＥＰＸ対ｄｉｓｅａｓｅ＿ｅｎｔｉｔｙのすべてのクエリについての意味的関連強度の平均値（２００１行）、２５番目の百分位数、および７５番目の百分位数（ボックス２００２）を含む要約統計が、時間的分析で表示された各年について提示される。要約統計には、平均値、中央値、百分位数、およびｐ値が含まれるが、これらに限定されない。両方のエンティティを含むドキュメントの数がまた、各年について示される。
新規な尺度
【０２９４】
ニューラルネットワークによって生成された高次元ベクトル空間の興味深い特性の１つは、対応するフレーズがコーパス内で一度も共起していない特定のベクトルのクラスタリングである。これは一見すると直観に反するものであり、ニューラルネットワークのトレーニングに使用される最適化基準は、小さなローカルスライディングウィンドウでワードが出現する確率を最大化することに依存する。スライディングウィンドウ内のワードに対応するベクトルは、通常、バックプロパゲーションプロセスの一部としてまとめられ、すなわち、より頻繁にスライディングウィンドウ内に２つのワードが一緒に出現するため、そのベクトルのペア間のコサイン距離が大きいことが予想されるのは当然であろう。しかし、トレーニングプロセスで使用される１つの原則（ネガティブサンプリングまたはノイズコントラスト推定とも呼ばれる）は、頻繁に発生するワード（例えば、「ｔｈｅ」、「ｏｆ」、「ｔｏ」などの一般的な英語のワード）とスライディングウィンドウ内の他のワードと間のコサイン距離を明示的に最小化する。上記の最終結果は、一度でも共起しなかった（または極めてわずかな回数共起した）２つのワードが依然として大きいコサイン距離を有することを可能にすることができる。主要な文献には証拠がないにもかかわらず、そのようなワードのペア間の関連は強い（すなわち、コサイン距離が大きい）ので、そのような関連を「新規な関連」と呼ぶことができる。
【０２９５】
図２１は、本開示の一部の実施形態による（ニューラルネットワークによって生成されたベクトル空間内の）ランダムな一組のベクトルから生成された２つのヒストグラムを図示し、ここで、一方の分布（「ＤＩＳＴＡＮＣＥ＜０．３２」と示す）は、コサイン距離が０．３２未満のすべてのベクトルペア（「強くない関連」と見なされる）を表し、もう一方の分布（「ＤＩＳＴＡＮＣＥ≧０．３２」と示す）は、コサイン距離が０．３２より大きいすべてのベクトルペア（「強い関連」と見なされる）を表す。これは、非常に良好なコサイン距離を有するがコーパス内でまだ一度も共起していないワードベクトルのペアを見つけることが、どの程度一般的な現象であるかを示すことができる。ゼロ値における「ＤＩＳＴＡＮＣＥ≧０．３２」バーは、コサイン距離が０．３２より大きい（「強い関連」）ベクトルペアの約１１％が、ドキュメント内で一度も一緒に発生したことがないことを示唆する。図からまた明らかなように、「ＤＩＳＴＡＮＣＥ≧０．３２」分布のマスの多くは予想どおりに右に偏っている（共起がより多く、したがって予想通りにコサイン距離がより大きい）が、「ＤＩＳＴＡＮＣＥ＜０．３２」分布（共起は非常に多いが、コサイン距離は小さい）の長い尾部がある。長い尾部は、ネガティブサンプリングの直接的な結果であり、ここでスライディングウィンドウ内の有意なワードと頻繁に共起する一般的なワードに対応するベクトルは、他のワードのベクトルから離れるように移動する。
【０２９６】
一部の実施形態によると、自己相互情報量（ＰＭＩ）に基づいて新規性を測定するために、定量的メトリクを提供することができる。ＰＭＩは、２つのランダム変数ＸとＹとの間の関連強度を以下のように測定する。
2019536178.tif 000018
式中、ｐ（ｘ）およびｐ（ｙ）は、ランダム変数ＸおよびＹの確率であり、ｐ（ｘ，ｙ）は、ＸとＹの同時確率である。
【０２９７】
ｗ１とｗ２をそれぞれワード１および２の出現数とする。ｗｃをサイズＴのコーパス内のワード１および２の共起数とする。
2019536178.tif 000019
2019536178.tif 000020
ロジスティック関数（シグモイド）を使用することによって、ｐｍｉの値を０と１との間に限定し、更に、指数関数ダンピングを使用して、非常に大きな共起カウントを嫌うようにする。理論的根拠は、共起カウントｗｃが大きいほど、ニューラルネットワークがベクトルをまとめ、ダンピングがそのアーティファクトを考慮に入れる役に立つことを期待する。
【０２９８】
まとめると、新規な尺度を以下のように定義する。
2019536178.tif 000021
式中、
はダンピング係数である（例えば、一般的には０．０１に設定される）。１（または１００％）の新規性は、ｗｃ＝０を示す。良好な新規なスコアを有するがそれでも小さいコサイン距離を有することが可能であるので、新規性の尺度はコサイン距離とともに慎重に解釈されるべきである。一部の実施形態では、新規性を０として解釈する傾向がある場合、一般的な実施は、特定の閾値コサイン距離未満である（例えば、約０．３は、それを超えると最大で１つのランダムベクトルが存在し、非常に小さい確率を有する距離を表すので、５０００万のワードコーパスの３００次元空間において適切な選択となることになる）。
【０２９９】
一部の実施形態では、時間的分析は、それらを説明する主要な刊行物が発表される前に、ライフサイエンスにおける将来性のある関連を明らかにすることができる。図２２Ａ〜図２２Ｂは、本開示の一部の実施形態による、真正なライフサイエンスエンティティペアの時間的分析を図示する。これらの図は、一対のライフサイエンスエンティティ間の意味的関連強度（コサイン距離）が、ドキュメントの共引用カウント（凡例では、「両方のワードを含むドキュメント」で示される）とともに、どの程度パブメドコーパス（凡例では、「意味的関連強度」で示される）について経時的に（年単位で）プロットされるかを図示する。前述のように、ドキュメントの共引用曲線（凡例では、「両方のワードを含むドキュメント」で示される）は、「予測」のいかなる優位性も提供せず、両方のワードを記載する記事の累積数を純粋に反映する。しかし、真正な生物学的関連（ｐｄ−１：ｐｄ−ｌ１｜｜ｐｄ−１：腫瘍浸潤リンパ球）は、これらの遺伝子に関する知識が新生であったとしても、強い意味的関連を有する。具体的には、これらのペアについての意味的関連スコアは、ワード（ｐｄ−１：ｐｄ−ｌ１｜｜ｐｄ−１：腫瘍浸潤リンパ球）を共引用した論文がまだ出現していなかった１９９７年〜２００１年の時間フレームの間に、突然かつ急激に増加した。この結果は、一対のライフサイエンスエンティティ間の意味的関連強度（コサイン距離）が、高度に繊細な様式で概念関連付けの時間的進化を取り込む理由を示すものである（知識が新生で、少数の記事で報告されるのみである場合）。
【０３００】
一部の実施形態によると、本明細書で説明される方法が２つのライフサイエンスエンティティペアに対して強い意味的関連スコアを与える場合と、十分な数のドキュメントがワードまたはフレーズのペアを共引用する場合との間の時間ゲインは、システムの顕著な適用である。図２３は、本開示の一部の実施形態による、例示的なＰＴＥＮ−ＫＲＡＳの時間的分析を提供する。図２３は、図２３におけるグラフがエンティティＰＴＥＮおよびＫＲＡＳについてのものであることを除いて、図２０、図２２Ａ〜図２２Ｂに示されたグラフと同様のグラフを示す。発がん遺伝子ＰＴＥＮおよびＫＲＡＳは、２０００年（Ｉｋｅｄａ，Ｔ．；Ｙｏｓｈｉｎａｇａ，Ｋ．；Ｓｕｚｕｋｉ，Ａ．；Ｓａｋｕｒａｄａ，Ａ．；Ｏｈｍｏｒｉ，Ｈ．；Ｈｏｒｉｉ，Ａ．Ａｎｔｉｃｏｒｒｅｓｐｏｎｄｉｎｇ  Ｍｕｔａｔｉｏｎｓ  ｏｆ  ｔｈｅ  ＫＲＡＳ  ａｎｄ  ＰＴＥＮ  Ｇｅｎｅｓ  ｉｎ  Ｈｕｍａｎ  Ｅｎｄｏｍｅｔｒｉａｌ  Ｃａｎｃｅｒ．Ｏｎｃｏｌ．Ｒｅｐ．２０００，７，５６７−５７０）まで、またＰＴＥＮとＫＲＡＳとの間の意味的関連スコアが有意なレベルに増加してから丸３年が経過し、十分な機会のウィンドウが提供されるまで、互いに関連しているとドキュメント化されていなかった。関連スコアの有意な増加が検出されると、これを対象年としてマーキングすることができる（図２３において「時間−関連シグナルの出現」と示される）。シグナルが変動する場合には、関連付けの安定化（すなわち、時間−関連スコアの安定化）を待つことが有利である可能性がある（このＰＴＥＮ−ＫＲＡＳの実施例ではその出現と同時である）。時間ゲインは、関連シグナルの出現と共起ドキュメントカウントが有意に増加する時間との間の期間として定義され（図２３において「時間−高共起ドキュメントカウントの出現」と示される）、これは科学コミュニティの関連の認識度を示す。
【０３０１】
一部の実施形態では、現在関連のない一対の疾患バイオマーカーの関連を予測することができれば、これを用いて疾患の分子メカニズムへの洞察を得ることができる。そのような洞察は、製薬および臨床Ｒ＆Ｄの労力のペースを劇的に加速することができる。概念実証として、意味的関連スコアがその後の重要な生物学的発見および公開に先立つ、いくつかの追加の遡及的事例研究をドキュメント化した。これらの知見は、意味的関連スコア（ワードまたはフレーズのペア間のコサイン距離）の動態を利用し、かつその時点でその情報を知ることがその空間におけるベンチャーに多大な価値を加える具体的な例を提供する、本明細書に記載のシステムを検証する。エンティティなどの異なる入力値を除いて、これらの追加の例示的な実施例は、図２４〜図２７に概説されており、図２０、図２２Ａ〜図２２Ｂ、および図２３に示されるグラフと同様のグラフを示す。
【０３０２】
図２４は、本開示の一部の実施形態による、ＡＭＬ１（ＲＵＮＸ１）−ＦＬＴ３遺伝子間の関連の時間的分析を図示する。ＡＭＬ１（ＲＵＮＸ１）とＦＬＴ３は、急性骨髄性白血病と密接に関連する２つの遺伝子であり、それらの明確な関連性は、２００２年（ｄｅ  Ｇｕｚｍａｎ，Ｃ．Ｇ．；Ｗａｒｒｅｎ，Ａ．Ｊ．；Ｚｈａｎｇ，Ｚ．；Ｇａｒｔｌａｎｄ，Ｌ．；Ｅｒｉｃｋｓｏｎ，Ｐ．；Ｄｒａｂｋｉｎ，Ｈ．；Ｈｉｅｂｅｒｔ，Ｓ．Ｗ．；Ｋｌｉｇ，Ｃ．Ａ．Ｈｅｍａｔｏｐｏｉｅｔｉｃ  Ｓｔｅｍ  Ｃｅｌｌ  Ｅｘｐａｎｓｉｏｎ  ａｎｄ  Ｄｉｓｔｉｎｃｔ  Ｍｙｅｌｏｉｄ  Ｄｅｖｅｌｏｐｍｅｎｔａｌ  Ａｂｎｏｒｍａｌｉｔｉｅｓ  ｉｎ  ａ  Ｍｕｒｉｎｅ  Ｍｏｄｅｌ  ｏｆ  ｔｈｅ  ＡＭＬ１−ＥＴＯ  Ｔｒａｎｓｌｏｃａｔｉｏｎ．Ｍｏｌ．Ｃｅｌｌ．Ｂｉｏｌ．２００２，２２，５５０６−５５１７）以降まで完全には調査されていない。これは、開示されたシステムがこれら２つの遺伝子間の強力な意味的関連スコアを検出した後、ほぼ１０年である。
【０３０３】
図２５は、本開示の一部の実施形態による、非典型溶血性尿毒症症候群−ＣＦＨ（疾患−遺伝子）の時間的分析を図示する。この場合、補体調節遺伝子Ｈ因子（ＣＦＨ）と非典型溶血性尿毒症症候群との間の新規な関連を説明する、２００５年に公開された単一のドキュメント（Ｈａｇｅｍａｎ，Ｇ．Ｓ．；Ａｎｄｅｒｓｏｎ，Ｄ．Ｈ．；Ｊｏｈｎｓｏｎ，Ｌ．Ｖ．；Ｈａｎｃｏｘ，Ｌ．Ｓ．；Ｔａｉｂｅｒ，Ａ．Ｊ．；Ｈａｒｄｉｓｔｙ，Ｌ．Ｉ．；Ｈａｇｅｍａｎ，Ｊ．Ｌ．；Ｓｔｏｃｋｍａｎ，Ｈ．  Ａ．；Ｂｏｒｃｈａｒｄｔ，Ｊ．Ｄ．；Ｇｅｈｒｓ，Ｋ．Ｍ．；ｅｔ  ａｌ．Ａ  Ｃｏｍｍｏｎ  Ｈａｐｌｏｔｙｐｅ  ｉｎ  ｔｈｅ  Ｃｏｍｐｌｅｍｅｎｔ  Ｒｅｇｕｌａｔｏｒｙ  Ｇｅｎｅ  Ｆａｃｔｏｒ  Ｈ（ＨＦ１／ＣＦＨ）Ｐｒｅｄｉｓｐｏｓｅｓ  Ｉｎｄｉｖｉｄｕａｌｓ  ｔｏ  Ａｇｅ−Ｒｅｌａｔｅｄ  Ｍａｃｕｌａｒ  Ｄｅｇｅｎｅｒａｔｉｏｎ．ＰＮＡＳ  ２００５，１０２，７２２７−７２３２）は、２つの用語間の意味的関連スコアを最大化することに成功した。従来の仮定は、この関連を探究する際の注意を正当化していた一方で、開示されたシステムからのスコアは、それを追求することが賢明であることを示唆する。
【０３０４】
図２６は、本開示の一部の実施形態による、ＰＣＳＫ９−ＬＤＬＲ（遺伝子−遺伝子）の時間的分析を図示する。この場合、ＰＣＳＫ９の発現とＬＤＬＲのノックダウンとの相関関係を最初に観察した２００４年の研究（Ｍａｘｗｅｌｌ，Ｋ．Ｎ．；Ｂｒｅｓｌｏｗ，Ｊ．Ｌ．Ａｄｅｎｏｖｉｒａｌ−Ｍｅｄｉａｔｅｄ  Ｅｘｐｒｅｓｓｉｏｎ  ｏｆ  Ｐｃｓｋ９  ｉｎ  Ｍｉｃｅ  Ｒｅｓｕｌｔｓ  ｉｎ  ａ  Ｌｏｗ−Ｄｅｎｓｉｔｙ  Ｌｉｐｏｐｒｏｔｅｉｎ  Ｒｅｃｅｐｔｏｒ  Ｋｎｏｃｋｏｕｔ  Ｐｈｅｎｏｔｙｐｅ．ＰＮＡＳ  ２００４，１０１，７１００−７１０５）は、その後に公開された多くの研究がこの関係を検証するかなり前に、２つの遺伝子間の意味的関連スコアを劇的に増加させた。
【０３０５】
図２７は、本開示の一部の実施形態による、ＰＣＳＫ９−ＬＤＬＲ（遺伝子−遺伝子）の時間的分析を図示する。意味的関連スコアが公開された研究に妥当性を与える別の実施例は、２００２年における、がん遺伝子ＢＲＡＦとＫＲＡＳの間の関連の発見である。（Ｒａｊａｇｏｐａｌａｎ，Ｈ．；Ｂａｒｄｅｌｌｉ，Ａ．；Ｌｅｎｇａｕｅｒ，Ｃ．；Ｋｉｎｚｌｅｒ，Ｋ．Ｗ．；Ｖｏｇｅｌｓｔｅｉｎ，Ｂ．；Ｖｅｌｃｕｌｅｓｃｕ，Ｖ．Ｅ．Ｔｕｍｏｒｉｇｅｎｅｓｉｓ：ＲＡＦ／ＲＡＳ  Ｏｎｃｏｇｅｎｅｓ  ａｎｄ  Ｍｉｓｍａｔｃｈ−Ｒｅｐａｉｒ  Ｓｔａｔｕｓ．Ｎａｔｕｒｅ  ２００２，４１８，９３４−９３４）。その単一の研究は、関連スコアを有意に増加させ、そしてドキュメントカウントの増加にも先立つ。
【０３０６】
図４９は、本開示の一部の実施形態による、時間的分析グラフについての例示的なユーザーインターフェース４９００を図示する。ユーザーインターフェース４９００を使用して、２つのエンティティについての時間的分析を実行することができる。一部の実施形態において、２つのエンティティを、第１のエンティティボックス４９０１および第２のエンティティボックス４９０２に入力することができる。ユーザーは、比較ボタン４９０３をクリックして、２つのエンティティ間の時間的分析を実行することができる。例えば、ユーザーは、第１のエンティティボックス４９０１に「ｅｇｆｒ」を入力し、第２のエンティティボックス４９０２に「ｎｓｃｌｃ」を入力することができる。次に、ユーザーは、「比較」ボタン４９０３をクリックして、時間的分析グラフ４９０７を生成することができる。この実施例では、エンティティ「ｅｇｆｒ」およびエンティティ「ｎｓｃｌｃ」は、１９９０年〜２０１６年の期間にわたって分析され、２７回のスライス（１年につき１つの時間スライス）がある。
【０３０７】
一部の実施形態では、時間的分析グラフ４９０７は、２つのエンティティに関する情報を提供するために、１つ以上の線を含むことができる。意味的強度関連線４９１２は、期間にわたるエンティティ「ｅｇｆｒ」とエンティティ「ｎｓｃｌｃ」との間の意味的関連強度を表すことができる。「両方のトークンを有するドキュメント」線４９１３は、期間にわたって「ｅｇｆｒ」と「ｎｓｃｌｃ」の両方を含む、ドキュメントの数を示すことができる。平均線４９１０は、その期間にわたる「ｅｇｆｒ」のすべてのクエリ対疾患エンティティタイプ内のエンティティについての意味的関連強度の平均を示すことができる。９５番目の百分位数線４９１１は、その期間にわたる「ｅｇｆｒ」のすべてのクエリ対疾患エンティティタイプにおけるエンティティについての９５番目の百分位数の意味的関連強度を示すことができる。この実施例では、線４９１０、４９１１、４９１２、および４９１３は、２７個のプロット点に基づいて描かれている。このグラフの期間、プロット点の数（時間スライスの数に基づく）、百分位数、および任意の他の設定は、カスタム化することができる。
【０３０８】
一部の実施形態では、平均線４９１０および９５番目の百分位数線４９１１を意味的強度関連線４９１２と比較して、「ｅｇｆｒ」と「ｎｓｃｌｃ」との間の意味的強度が特に強いかどうかを確認することができる。例えば、９５番目の百分位数線４９１１に対して意味的強度関連線４９１２が高いほど、「ｅｇｆｒ」と「ｎｓｃｌｃ」との間の意味的強度が特に強い可能性が高い。
【０３０９】
一部の実施形態では、分析に使用されるコーパス４９０４のユニバースを選択することができる。この実施例では、パブメドデータベースが選択されており、このデータベースに基づいて時間的分析グラフ４９０７が生成される。一部の実施形態では、対照集合４９０９をカスタム化することができる。この実施例では、対照集合は、「疾患」であり、これは、時間的分析グラフ４９０７がこのエンティティ集合に基づいて生成されることを示す。例えば、平均線４９１０は、対照集合「疾患」内のエンティティ（すなわち、疾患エンティティタイプ）に対して「ｅｇｆｒ」を比較することに基づく。
【０３１０】
一部の実施形態では、百分位数４９０８を時間的分析グラフ４９０７についてカスタム化することができる。例えば、百分位数４９０８が「９５」に設定されている場合、９５番目の百分位数線４９１１は、所与のエンティティのすべてのクエリ対所与のエンティティタイプにおけるエンティティについての意味的関連強度の９５番目の百分位数を示すように描かれる。別の実施例として、百分位数４９０８が「３０」に設定されている場合、３０番目の百分位数線は、所与のエンティティのすべてのクエリ対所与のエンティティタイプにおけるエンティティについての意味的関連強度の３０番目の百分位数を示すように描くことができる。
【０３１１】
一部の実施形態では、現在の意味的関連強度４９０５および現在の新規な関連４９０６を表示することができる。この実施例では、「ｅｇｆｒ」と「ｎｓｃｌｃ」の間の現在の意味的関連強度は、「０．５８」として示される。それらの間の新規な関連は「０％」であり、これは、２つのエンティティ間の関連が新規である確率がゼロであることを示すことができる。一部の実施形態では、新規なスコアは、両方のトークンを有するドキュメントの総数に反比例する可能性がある。
【０３１２】
図５０は、本開示の一部の実施形態による、時間的分析グラフを有する例示的な知識グラフインターフェース５０００を図示する。知識グラフインターフェース５０００は、エンティティタイプ（例えば、「すべての疾患」）のすべてまたはサブセットを対照集合として選択することができること（５００１）を示すことができる。
【０３１３】
図５１は、本開示の一部の実施形態による、時間的分析グラフを有する例示的な知識グラフインターフェース５１００を図示する。知識グラフインターフェース５１００は、エンティティ「ｔｒｅｍｏｒｓ」に関連するものとして、エンティティ「パーキンソン病」に関連する情報を示すことができる。
【０３１４】
オープンターゲットデータベースに含まれるすべてのライフサイエンス関連およびそれらの関連する関連スコア（以下「ＯＴスコア」と称する）も、所与のペア意味的関連強度と比較した。オープンターゲットプラットフォームは、テキストマイニングのための代替のＮＬＰ方法を含む、様々なソースから集められたそれらの間の関連の証拠を用いて、遺伝子−疾患のペアに注釈を付けることに努める。全体的に見て、図２８に示すように、関連スコア間の相関が低いことが分かった。
【０３１５】
図２８は、本開示の一部の実施形態による、ＯＴスコアとコサイン距離（意味的関連スコア）との間の関係を図示する。これは、オープンターゲット関連スコア（ＯＴスコア）のオープンターゲット内で見つかったすべてのライフサイエンスエンティティペアについてのそれらのコサイン距離（意味的関連スコア）に対するプロットである。分布グラフ２８０１（ｙ軸の右側）は、ＯＴ関連スコアに基づいており（１に近いほどより高い関連を表す）、分布グラフ２８０２（ｘ軸の頂部上）は、コサイン距離に基づいている（これは、今度は、何千もの遺伝子／疾患の関連の分析に基づく）。矩形領域（ｘ軸、ｙ軸、および分布グラフ２８０１、２８０２で囲まれている）は、ＯＴ関連スコアとコサイン距離との間のマッピングを表す。図２８は、このマッピングが１対１ではないことを示す。したがって、開示されたシステムおよび方法は、ＯＴ関連スコアが明らかにするものとコサイン距離が明らかにするものとの間に違いがあることを発見した。これらの違いは、ＯＴ関連スコアのエラーおよび／または欠陥によるものである可能性がある。
【０３１６】
更なる検査により、ＯＴスコアは二峰性であり、小さいサブセットは非常に高いスコアを有志、残りは低いスコアを有することが明らかになった。これらの高いスコアは、対応する高い意味的関連スコアを有する、周知の遺伝子−疾患関連（例えば、ＢＲＡＦ腫瘍）に起因する。これは、生物学的関連の発見への現在のアプローチが、すでに文献で知られていることを単純に要約し、かつ予測能力をほとんど全く有しない理由を例証している。
【０３１７】
図２９は、有意でない遺伝子−疾患相互作用（すなわち、陰性対照）についての時間的な統計学的推測のグラフィカル表現を図示する。「ｃ９ｏｒｆ７２対ｋｕｒｕ」の線は、遺伝子と疾患用語（それぞれ、ｃ９ｏｒｆ７２とｋｕｒｕ）との間のコサイン距離を表す。「ｃ９ｏｒｆ７２対すべての疾患（２５〜７５％タイル）のバーは、ｃ９ｏｒｆ７２とすべての疾患との間のコサイン距離についての２５〜７５番目の百分位数を表す。「−ｌｏｇ（ｐ値）」線は、真の疾患−遺伝子関係平均とは異なる、クエリされた遺伝子−疾患関係についてのｐ値の負対数を表す。この場合、遺伝子ｃ９ｏｒｆ７２は、Ｋｕｒｕと関連していない。
【０３１８】
図３０は、有意な遺伝子−疾患相互作用（すなわち、陽性対照）についての時間的な統計学的推測のグラフィカル表現を図示する。「ｃ９ｏｒｆ７２対ａｌｓ＿ｆｔｄ」線は、遺伝子と疾患用語（それぞれ、ｃ９ｏｒｆ７２と筋萎縮性側索硬化症／前頭側頭型認知症（ａｌｓ＿ｆｔｄ））との間のコサイン距離を表す。「ｃ９ｏｒｆ７２対すべての疾患（２５〜７５％タイル）」のバーは、ｃ９ｏｒｆ７２とすべての疾患との間のコサイン距離についての２５〜７５番目の百分位数を表す。「−ｌｏｇ（ｐ値）」線は、真の疾患−遺伝子関係平均とは異なる、クエリされた遺伝子−疾患関係についてのｐ値の負対数を表す。この場合、遺伝子ｃ９ｏｒｆ７２の繰り返しは、筋萎縮性側索硬化症／前頭側頭型認知症を生じさせる。これは、ｐ値の負対数が２０１０年〜２０１２年の時間フレームで大幅に増加した時に、明確に示される。ｃ９ｏｒｆ７２と筋萎縮性側索硬化症との間で共起するドキュメントの数が増加する年までのこの時間フレームは、「時間ゲイン」の別の実例を実質的に表す。
【０３１９】
開示されたシステムおよび方法は、ある期間にわたる２つのエンティティ間の意味的関連の進化を取り込むことができる。一部の場合に、意味的関連が一対のエンティティについて経時的に進化するにつれて、ユーザーまたはシステムは、統計的に有意である場合もそうでない場合もある意味的関連の増加を検出することができる。一部の実施形態では、開示されたシステムおよび方法は、シグモイド曲線を使用する方法を含む様々な方法を使用することによって、統計的に有意な増加が一対のエンティティについて生じる時間を検出することができる。一部の実施形態では、意味的関連スコアを、ある期間の間、（第１のエンティティ集合と関連付けることができる）第１のエンティティと（第２のエンティティ集合と関連付けることができる）第２のエンティティとの間で生成することができる。意味的関連スコアを、第１のエンティティと第２のエンティティ集合内のエンティティとの間でも生成することができる。一部の実施形態では、これらの意味的関連スコアを決定する時に、第２のエンティティ自体を算出から除外することができる。これらの第１および第２の意味的関連スコアを算出するシステムおよび方法の詳細は、本開示の他の部分に説明されている。（例えば、図１９、図２０、図２２〜図２７、図４９〜図５１、およびこれらの図の説明を参照されたい。）
【０３２０】
一部の実施形態では、第１のエンティティ対第２のエンティティ集合のすべてのエンティティの意味的関連スコアと比較した場合に、第１のエンティティ対第２のエンティティの意味的関連スコアが統計的に有意であるかどうかを評価する時に、ｐ値が仮説試験に対して接近することによってｐ値を生成することができる。別の言い方をすると、第１のエンティティ対第２のエンティティ集合のすべてのエンティティの対照として、第１のエンティティ対第２のエンティティの統計的有意性の尺度としてｐ値を採用することができる。一部の実施形態では、帰無仮説は、第１のエンティティ対第２のエンティティ集合のすべてのエンティティの意味的関連スコアと比較された場合に、第１のエンティティ対第２のエンティティの意味的関連が統計的に有意でないと述べることができる。低いｐ値は、帰無仮説を拒絶するべきであることを示す。低いｐ値は高い−ｌｏｇ（ｐ値）をもたらすので、高い−ｌｏｇ（ｐ値）は、帰無仮説を拒絶させるべきである。したがって、第１のエンティティ対第２のエンティティの意味的関連が有意である場合、比較的高い−ｌｏｇ（ｐ値）が生じることになり、そして帰無仮説を棄却することができる。
【０３２１】
一部の実施形態では、負のｌｏｇ  ｐ値曲線は、ｘ軸上の期間およびｙ軸上の負のｌｏｇ  ｐ値を用いて描くことができる（図２９および図３０を参照）。一部の実施形態では、第１のエンティティと第２のエンティティとの間の意味的関連強度が経時的に増加する場合、シグモイド曲線が負のｌｏｇ  ｐ値曲線の上に適合することができるような様式で、負のｌｏｇ  ｐ値は、その期間にわたって増加する。一部の実施形態では、シグモイド曲線を適合する前に、Ｓａｖｉｔｚｋｙ−Ｇｏｌａｙフィルタなどのフィルタを使用して負のｌｏｇ  ｐ値を平滑化することができる。一部の実施形態では、シグモイド曲線に関連付けられた１つ以上の適合パラメータを速度および精度について最適化することができる。
【０３２２】
一部の実施形態では、負のｌｏｇ  ｐ値曲線をシグモイド曲線に適合させた後、シグモイド曲線に関連する以下の式を使用して、（１）増加時間（Ｘ０）、（２）飽和値（Ｘ＝∞においてＫ＋ｃ）、および（３）曲線下面積（ＡＵＣ）を決定することができる。
シグモイド適合式は、次の通りである。
2019536178.tif 000022
曲線下面積（ＡＵＣ）の式は、次の通りである。
2019536178.tif 000023
一部の実施形態では、飽和値を使用して、最終的な（例えば、最大の）負のｌｏｇ  ｐ値を概算することができる。
【０３２３】
一部の実施形態では、一組の負のｌｏｇ  ｐ値をエンティティの複数のペアについて算出することができ、各ペアについて、ペアのうちの一方のエンティティは、第１のエンティティ集合からのものであり、ペアのうちのもう一方のエンティティは、第２のエンティティ集合からのものである。一部の実施形態では、２つのエンティティ集合間のエンティティのすべての可能なペアを使用して、一組の負のｌｏｇ  ｐ値を算出することができる。一部の実施形態では、上記で説明されたように、負のｌｏｇ  ｐ値曲線を作成して、増加時間、飽和値、および／またはＡＵＣを決定することができる。一部の実施形態では、これらの複数のペアを手動で、および／または自動的に比較することができる。一部の実施形態では、これらの複数のペアをユーザーインターフェースに表示することができる。
【０３２４】
図５９は、本開示の一部の実施形態による、時間的分析グラフを有する例示的な知識グラフインターフェース５９００を図示する。知識グラフインターフェース５９００は、エンティティの複数のペアについての意味的関連強度情報を提供することができる。知識グラフインターフェース５９００は、クエリ用語ボックス５９０１、提出ボタン５９０２、最小共起フィルタ５９０３、最大共起フィルタ５９０４、最小の負のｌｏｇ  Ｐ値フィルタ５９０５、グラフタイプ選択５９０６、意味的エンティティ集合比較タブ５９０７、グラフレンダリングセクション５９０８、エンティティペア表現５９０９、およびエンティティペア説明ボックス５９１０を含む。
【０３２５】
例示的なユースケースは、ユーザーがクエリ用語として遺伝子「ａｑｐ４」をクエリ用語ボックス５９０１の中へと入力し、提出ボタン５９０２をクリックすると開始する。比較意味的エンティティ集合タブ５９０７が疾患として選択されている（これは手動で、または自動的に選択することができる）ので、システムは、「ａｑｐ４」と疾患集合内の１つ以上のエンティティ（例えば、１、２、５、すべてのエンティティ）との間の一連の負のｌｏｇ  ｐ値を経時的に算出する。各「バブル」（例えば、バブル５９０９）は、エンティティペアを表すことができ、それについて、経時的な負のｌｏｇ  ｐ値が算出されている。一部の実施形態では、１つ以上の条件に基づいて負のｌｏｇ  ｐ値の時系列算出が実行される前、実行の間、および／または実行の後に、１つ以上のエンティティペアをフィルターで除外することができる。例えば、ユーザーは、（１）ペア内のエンティティの共起の数が最小共起値（最小共起フィルタ５９０３で特定されるような）より小さいエンティティペア、（２）ペア内のエンティティの共起の数が最大共起値（最大共起フィルタ５９０４で特定されるような）よりも大きいエンティティペア、および／または（３）負のｌｏｇ  ｐ値が最小の負のｌｏｇ  ｐ値（最小の負のｌｏｇ  Ｐ値フィルタ５９０５で特定されるような）よりも小さいエンティティペアを除外することができる。一部の実施形態では、エンティティペアに関連付けられた値に対応するバブルは、グラフレンダリングセクション５９０８にプロットされる。曲線適合から決定されるように、特定のエンティティペアのバブルは、それぞれ増加時間の値と最終−ｌｏｇ（ｐ値）に従って、ｘ軸とｙ軸に沿って配置される。一部の実施形態では、バブルのサイズは、やはり曲線適合によって決定されるように、バブルによって表されるエンティティペアについて算出されたＡＵＣ値に正比例することができる。示されていないが、バブルのサイズは、ユーザーがグラフタイプ選択５９０６制御において適切な選択をする時に分析されるコーパス内のエンティティペア間の共起の数に比例するようにすることができる。一部の実施形態では、各バブルについて詳細な情報を提供することができる。例えば、マウスカーソルをバブル５９０９上に置くことによって（または任意の他の適切なトリガー機構を使用することによって）、エンティティペア記述ボックス５９１０を表示することができる。エンティティペア記述ボックス５９１０は、エンティティペアに関する情報（例えば、ａｑｐ４＆ｎｅｕｒｏｍｙｅｌｉｔｉｓ＿ｏｐｔｉｃａ）、エンティティペアについての意味的関連強度の増加日（例えば、２００６年の８６日目）、負のｌｏｇ  ｐ値（例えば、３．０１）、ＡＵＣ値（例えば、３５．７６）、および／または共起の数（例えば、１１６９）を表示することができる。一部の実施形態では、知識グラフインターフェース５９００を使用することにより、その使用は、エンティティ間に統計的に有意な関連を有するエンティティペアのみを生成および／または表示することができる。一部の実施形態では、知識グラフインターフェース５９００は、それらのエンティティの共起が低いかまたは存在しない場合であっても、統���的に強い意味的関連強度を有するエンティティを露出することができる。
【０３２６】
一部の実施形態では、以下の式を使用して、負のｌｏｇ  ｐ値と第１のエンティティ対第２のエンティティの百分位数との間の関係を説明することができ、ここで、第１のエンティティ対第２のエンティティの百分位数は、第１のエンティティと第２の意味的エンティティ集合のすべてのエンティティとの間の意味関連強度と比較されるような、第１のエンティティと第２のエンティティとの間の意味的関連強度の百分位数である。
負のｌｏｇ  Ｐ値＝−ｌｏｇ１０（１−百分位数／１００）。
例えば、９５番目の百分位数は、約１．３の負のｌｏｇ  ｐ値を与える。一部の実施形態では、他の式を使用して、負のｌｏｇ  ｐ値と百分位数との間の関係を説明することができる。
【０３２７】
一部の実施形態では、上記のステップは、「第２のエンティティ集合のすべてのエンティティ」を使用することを説明しているが、第１のエンティティと第２のエンティティ集合のエンティティとの間の意味的関連強度を算出する時に、第２の意味エンティティ集合からの１つ以上の意味エンティティを省略することができる。例えば、そのような意味的関連強度を、第１のエンティティと、第２の意味的エンティティ自体を除く第２の意味的エンティティ集合のすべてのエンティティとの間で算出することができる。
【０３２８】
開示されたシステムおよび方法をライフサイエンス以外の産業で使用することができ、および／またはそれらに拡張することができる。他の産業は、独自の適用可能なコーパスを有し得る。例えば、娯楽産業については、開示されているシステムおよび方法は、そのコーパスとして映画のレビューを使用することができる。
【０３２９】
当業者は、本明細書における様々な例証および本明細書に記載された図面を、電子的なハードウェア、コンピュータソフトウェア、またはその両方の組み合わせとして実装することができることを理解するであろう。ハードウェアとソフトウェアのこの互換性を例示するために、様々な例示的なブロック、モジュール、要素、構成要素、方法、およびアルゴリズムが、概してそれらの機能に関して上記で説明されてきた。そのような機能性がハードウェア、ソフトウェア、または組み合わせとして実装されるかどうかは、特定のアプリケーションおよびシステム全体に課せられる設計上の制約に依存する。当業者は、各特定の用途について様々なやり方で説明された機能性を実装することができる。様々な構成要素およびブロックを、対象の技術の範囲から逸脱することなく、すべて別様に配置することができる（例えば、異なる順序で配置し、または異なるやり方で区分することができる）。
【０３３０】
更に、通信プロトコルの実装は、１つのコンピュータシステムにおける集中様式で、または異なる要素がいくつかの相互接続されたコンピュータシステムにわたって分散される分散様式で実現することができる。本明細書に記載の方法を実行するのに適した任意の種類のコンピュータシステム、または他の装置は、本明細書に記載の機能を実行するのに適する。
【０３３１】
ハードウェアとソフトウェアの典型的な組み合わせは、ロードされ実行されると、本明細書に記載された方法を実行するようにコンピュータシステムを制御するコンピュータプログラムを有する、汎用コンピュータシステムとすることが可能である。通信プロトコルのための方法はまた、本明細書に記載された方法の実装を可能にするすべての特徴を含み、コンピュータシステムにロードされた時にこれらの方法を実行することが可能である、非一時的コンピュータ可読媒体またはコンピュータプログラム製品に組み込むこともできる。開示されたシステムおよび方法の任意の部分への入力は、テキスト入力インターフェースに限定されない。例えば、それらは、テキストおよび音声を含むあらゆる形式のユーザー入力を扱うことができる。
【０３３２】
本文脈において、コンピュータプログラムまたはアプリケーションとは、情報処理能力を有するシステムに、特定の機能を直接的にまたは以下の、ａ）他の言語、コードもしくは表記への変換、ｂ）異なる資料形式での複製、のいずれかもしくは両方の後に実行させることを意図した、一組の命令の任意の言語、コード、または表記での任意の表現を意味する。意義深いことに、この通信プロトコルは、その趣旨または本質的な特性から逸脱することなく、他の特定の形態で具体化することができ、したがって、本発明の範囲を示すものとして、前述の明細書ではなく以下の特許請求の範囲を参照すべきである。
【０３３３】
通信プロトコルは、これらの例示の実施形態を特に参照して詳細に説明された。しかし、前述の明細書に記載されているように、本開示の趣旨および範囲内で様々な修正および変更が可能であり、そのような修正および変更は本開示の均等物および一部と見なされるべきであることが明らかであろう。
【０３３４】
開示された主題は、その適用において、構成の詳細および以下の説明に記載されるかまたは図面に例示される構成要素の配置に限定されないことが理解されるべきである。開示された主題は、他の実施形態の能力を有し、また様々なやり方で実施および実行することができる。また、本明細書で用いられる言い回しおよび用語は、説明の目的のためのものであり、限定と見なされるべきでないことも理解されるべきである。
【０３３５】
したがって、当業者は、本開示の基礎となる概念が、開示された主題のいくつかの目的を実行するための他の構造、システム、方法およびメディアの設計の基礎として、容易に利用され得ることを理解するであろう。したがって、特許請求の範囲は、それらが開示された主題の趣旨および範囲から逸脱しない限り、そのような同等の構成を含むと見なされることが重要である。
【０３３６】
開示された主題は前述の例示的な実施形態において説明および例示されたが、本開示は、実施例としてのみなされたものであり、開示された主題の実装の細部における多くの変更は、開示された主題の趣旨および範囲から逸脱することなくなされ得ることが理解される。
【図１】
2019536178.tif 000026
【図２Ａ】
2019536178.tif 000027
【図２Ｂ−１】
2019536178.tif 000028
【図２Ｂ−２】
2019536178.tif 000029
【図３Ａ】
2019536178.tif 000030
【図３Ｂ−１】
2019536178.tif 000031
【図３Ｂ−２】
2019536178.tif 000032
【図４−１】
2019536178.tif 000033
【図４−２】
2019536178.tif 000034
【図５Ａ】
2019536178.tif 000035
【図５Ｂ】
2019536178.tif 000036
【図６Ａ】
2019536178.tif 000037
【図６Ｂ】
2019536178.tif 000038
【図６Ｃ】
2019536178.tif 000039
【図６Ｄ】
2019536178.tif 000040
【図７】
2019536178.tif 000041
【図８−１】
2019536178.tif 000042
【図８−２】
2019536178.tif 000043
【図９】
2019536178.tif 000044
【図１０】
2019536178.tif 000045
【図１１】
2019536178.tif 000046
【図１２】
2019536178.tif 000047
【図１３】
2019536178.tif 000048
【図１４】
2019536178.tif 000049
【図１５】
2019536178.tif 000050
【図１６】
2019536178.tif 000051
【図１７】
2019536178.tif 000052
【図１８】
2019536178.tif 000053
【図１９】
2019536178.tif 000054
【図２０】
2019536178.tif 000055
【図２１】
2019536178.tif 000056
【図２２Ａ】
2019536178.tif 000057
【図２２Ｂ】
2019536178.tif 000058
【図２３】
2019536178.tif 000059
【図２４】
2019536178.tif 000060
【図２５】
2019536178.tif 000061
【図２６】
2019536178.tif 000062
【図２７】
2019536178.tif 000063
【図２８】
2019536178.tif 000064
【図２９】
2019536178.tif 000065
【図３０】
2019536178.tif 000066
【図３１】
2019536178.tif 000067
【図３２】
2019536178.tif 000068
【図３３】
2019536178.tif 000069
【図３４】
2019536178.tif 000070
【図３５】
2019536178.tif 000071
【図３６】
2019536178.tif 000072
【図３７】
2019536178.tif 000073
【図３８】
2019536178.tif 000074
【図３９】
2019536178.tif 000075
【図４０】
2019536178.tif 000076
【図４１】
2019536178.tif 000077
【図４２】
2019536178.tif 000078
【図４３】
2019536178.tif 000079
【図４４】
2019536178.tif 000080
【図４５】
2019536178.tif 000081
【図４６】
2019536178.tif 000082
【図４７】
2019536178.tif 000083
【図４８】
2019536178.tif 000084
【図４９】
2019536178.tif 000085
【図５０】
2019536178.tif 000086
【図５１】
2019536178.tif 000087
【図５２】
2019536178.tif 000088
【図５３】
2019536178.tif 000089
【図５４】
2019536178.tif 000090
【図５５】
2019536178.tif 000091
【図５６】
2019536178.tif 000092
【図５７】
2019536178.tif 000093
【図５８】
2019536178.tif 000094
【図５９】
2019536178.tif 000095
【国際調査報告】
2019536178.tif 000096
2019536178.tif 000097