【手続補正書】
【提出日】令和2年5月22日(2020.5.22)
【手続補正１】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項１】
第１のクエリおよび第２のクエリを含む自然言語会話において会話継続性のタイプを判定するための方法であって、
ユーザ入力デバイスを介して、前記第１のクエリをユーザから受信するステップと、
データベースから、前記第１のクエリに関する第１の検索結果を読み出すステップと、
表示のために、制御回路を使用して、前記第１の検索結果を生成するステップと、
前記ユーザ入力デバイスを介して、前記第２のクエリを前記ユーザから受信するステップと、
制御回路を使用して、前記第１のクエリ内の第１のトークンを判定するステップと、
前記制御回路を使用して、前記第２のクエリ内の第２のトークンを判定するステップと、
前記制御回路を使用して、前記第１のトークンに関する第１のエンティティデータを識別するステップであって、前記第１のエンティティデータは、
前記第１のトークンに関する第１のエンティティタイプと、
前記第１のエンティティタイプが前記第１のトークンに対応する第１の確率と、
前記第１のトークンに関する第２のエンティティタイプと、
前記第２のエンティティタイプが前記第１のトークンに対応する第２の確率と
を含む、ステップと、
前記制御回路を使用して、前記第２のトークンに関する第２のエンティティデータを識別するステップであって、前記第２のエンティティデータは、
前記第２のトークンに関する第３のエンティティタイプと、
前記第３のエンティティタイプが前記第２のトークンに対応する第３の確率と、
前記第２のトークンに関する第４のエンティティタイプと、
前記第４のエンティティタイプが前記第２のトークンに対応する第４の確率と
を含む、ステップと、
知識グラフから、前記第１のエンティティデータと前記第２のエンティティデータとの間の１つまたはそれを上回るグラフ接続を読み出すステップと、
前記制御回路を使用して、前記第１のトークン、前記第２のトークン、前記第１のエンティティデータ、前記第２のエンティティデータ、および前記１つまたはそれを上回るグラフ接続を入力として人工ニューラルネットワークに適用するステップと、
前記制御回路を使用して、前記人工ニューラルネットワークから、前記第１のクエリと前記第２のクエリとの間の会話継続性のタイプを示す出力を判定するステップと、
前記制御回路を使用して、前記会話継続性のタイプに基づいて、前記第２のクエリを更新するステップと、
前記データベースから、前記更新された第２のクエリに関する第２の検索結果を読み出すステップと、
表示のために、制御回路を使用して、前記第２の検索結果を生成するステップと
を含む、方法。
【請求項２】
前記第１のクエリ内の第１のトークンを判定するステップは、
前記制御回路を使用して、前記第１のクエリ内の第１の用語および第２の用語を識別するステップと、
前記制御回路を使用して、前記第１の用語が挿入語であることを判定するステップと、
前記制御回路を使用して、前記第２の用語が挿入語ではないことを判定するステップと、
前記制御回路を使用して、前記第２の用語を前記第１のトークンに割り当てるステップと
を含む、請求項１に記載の方法。
【請求項３】
前記第１のエンティティデータと前記第２のエンティティデータとの間の１つまたはそれを上回るグラフ接続を読み出すステップは、
前記知識グラフから、前記第１のエンティティタイプである前記第１のトークンと前記第３のエンティティタイプである前記第２のトークンと間の第１のグラフ接続を読み出すステップと、
前記知識グラフから、前記第２のエンティティタイプである前記第１のトークンと前記第３のエンティティタイプである前記第２のトークンと間の第２のグラフ接続を読み出すステップと、
前記知識グラフから、前記第１のエンティティタイプである前記第１のトークンと前記第４のエンティティタイプである前記第２のトークンと間の第３のグラフ接続を読み出すステップと、
前記知識グラフから、前記第２のエンティティタイプである前記第１のトークンと前記第４のエンティティタイプである前記第２のトークンと間の第４のグラフ接続を読み出すステップと
を含む、請求項１に記載の方法。
【請求項４】
前記第１のトークン、前記第２のトークン、前記第１のエンティティデータ、前記第２のエンティティデータ、および前記１つまたはそれを上回るグラフ接続を入力として前記人工ニューラルネットワークに適用するステップは、
前記制御回路を使用して、前記第１のトークンに関する第１の値を前記人工ニューラルネットワークの入力層の第１の加重で乗算するステップと、
前記制御回路を使用して、前記第２のトークンに関する第２の値を前記人工ニューラルネットワークの入力層の第２の加重で乗算するステップと、
前記制御回路を使用して、前記第１のエンティティデータに関する１つまたはそれを上回る値を前記人工ニューラルネットワークの入力層の１つまたはそれを上回る加重で乗算するステップと、
前記制御回路を使用して、前記第２のエンティティデータに関する１つまたはそれを上回る値を前記人工ニューラルネットワークの入力層の１つまたはそれを上回る加重で乗算するステップと、
前記制御回路を使用して、前記１つまたはそれを上回るグラフ接続に関する１つまたはそれを上回る値を前記人工ニューラルネットワークの入力層の１つまたはそれを上回る加重で乗算するステップと
を含む、請求項１に記載の方法。
【請求項５】
前記人工ニューラルネットワークから、前記第１のクエリと前記第２のクエリとの間の会話継続性のタイプを示す出力を判定するステップは、
前記制御回路を使用して、前記人工ニューラルネットワーク内の隠れ層への１つまたはそれを上回る入力を前記隠れ層内の対応する１つまたはそれを上回る加重で乗算するステップと、
前記制御回路を使用して、前記乗算から結果として生じる値を加算し、前記出力値を判定するステップと
を含む、請求項１に記載の方法。
【請求項６】
前記会話継続性のタイプに基づいて、前記第２のクエリを更新するステップは、
前記制御回路を使用して、前記会話継続性のタイプがマージタイプであることを識別するステップと、
前記制御回路を使用して、前記会話継続性のタイプが前記マージタイプであることの識別に基づいて、前記第２のクエリと前記第１のクエリをマージするステップと
を含む、請求項１に記載の方法。
【請求項７】
前記会話継続性のタイプに基づいて、前記第２のクエリを更新するステップは、
前記制御回路を使用して、前記会話継続性のタイプが置換タイプであることを識別するステップと、
前記会話継続性のタイプが前記置換タイプであることの識別に基づいて、
前記制御回路を使用して、前記第１のクエリの一部に取って代わる前記第２のクエリの一部を判定するステップと、
前記制御回路を使用して、前記第２のクエリが前記第２のクエリの前記一部と置換される前記第１のクエリの前記一部を伴う前記第１のクエリであることを判定するステップと
を含む、請求項１に記載の方法。
【請求項８】
前記会話継続性のタイプに基づいて、前記第２のクエリを更新するステップは、
前記制御回路を使用して、前記会話継続性のタイプが分類タイプであることを識別するステップと、
前記会話継続性のタイプが前記分類タイプであることの識別に基づいて、
前記制御回路を使用して、前記第２のクエリに基づいて、前記第１のクエリ内の第１のトークンに関する代替エンティティタイプを判定するステップと、
前記制御回路を使用して、前記第２のクエリが前記代替エンティティタイプである前記第１のトークンを伴う前記第１のクエリであることを判定するステップと
を含む、請求項１に記載の方法。
【請求項９】
前記会話継続性のタイプに基づいて、前記第２のクエリを更新するステップは、
前記制御回路を使用して、前記会話継続性のタイプが無継続性タイプであることを識別するステップと、
前記会話継続性のタイプが前記無継続性タイプであることの識別に基づいて、前記制御回路を使用して、前記第２のクエリを前記更新された第２のクエリに割り当てるステップと
を含む、請求項１に記載の方法。
【請求項１０】
前記ユーザ入力デバイスから、前記判定された会話継続性のタイプが正しくないことのインジケーションおよび訂正された会話継続性のタイプを受信するステップと、
前記制御回路を使用して、前記訂正された会話継続性のタイプに基づいて、前記人工ニューラルネットワーク内の１つまたはそれを上回る加重を更新するステップと
をさらに含む、請求項１に記載の方法。
【手続補正２】
【補正対象書類名】明細書
【補正対象項目名】００２２
【補正方法】変更
【補正の内容】
【００２２】
本開示におけるプロセスおよび実施例は、クエリのペアに関して議論されるが、説明されるシステムおよび方法は、２つを上回るクエリにも等しく適用可能である。本システムおよび方法は、複数のクエリを横断する継続性を追跡し、必要に応じて、コンテキストを維持し得る。加えて、本開示におけるプロセスおよび実施例は、人工ニューラルネットワークに関して議論されるが、説明されるシステムおよび方法は、複数の人工ニューラルネットワークに等しく適用可能である、または他の機械学習技法と組み合わせられる。前述のシステム、方法、装置、および／または側面は、本開示に説明される他のシステム、方法、装置、および／または側面に適用される、またはそれに従って使用されてもよいことに留意されたい。
本願明細書は、例えば、以下の項目も提供する。
（項目１）
第１のクエリおよび第２のクエリを含む自然言語会話において会話継続性のタイプを判定するための方法であって、
ユーザ入力デバイスを介して、前記第１のクエリをユーザから受信するステップと、
データベースから、前記第１のクエリに関する第１の検索結果を読み出すステップと、
表示のために、制御回路を使用して、前記第１の検索結果を生成するステップと、
前記ユーザ入力デバイスを介して、前記第２のクエリを前記ユーザから受信するステップと、
制御回路を使用して、前記第１のクエリ内の第１のトークンを判定するステップと、
前記制御回路を使用して、前記第２のクエリ内の第２のトークンを判定するステップと、
前記制御回路を使用して、前記第１のトークンに関する第１のエンティティデータを識別するステップであって、前記第１のエンティティデータは、
前記第１のトークンに関する第１のエンティティタイプと、
前記第１のエンティティタイプが前記第１のトークンに対応する第１の確率と、
前記第１のトークンに関する第２のエンティティタイプと、
前記第２のエンティティタイプが前記第１のトークンに対応する第２の確率と
を含む、ステップと、
前記制御回路を使用して、前記第２のトークンに関する第２のエンティティデータを識別するステップであって、前記第２のエンティティデータは、
前記第２のトークンに関する第３のエンティティタイプと、
前記第３のエンティティタイプが前記第２のトークンに対応する第３の確率と、
前記第２のトークンに関する第４のエンティティタイプと、
前記第４のエンティティタイプが前記第２のトークンに対応する第４の確率と
を含む、ステップと、
知識グラフから、前記第１のエンティティデータと前記第２のエンティティデータとの間の１つまたはそれを上回るグラフ接続を読み出すステップと、
前記制御回路を使用して、前記第１のトークン、前記第２のトークン、前記第１のエンティティデータ、前記第２のエンティティデータ、および前記１つまたはそれを上回るグラフ接続を入力として人工ニューラルネットワークに適用するステップと、
前記制御回路を使用して、前記人工ニューラルネットワークから、前記第１のクエリと前記第２のクエリとの間の会話継続性のタイプを示す出力を判定するステップと、
前記制御回路を使用して、前記会話継続性のタイプに基づいて、前記第２のクエリを更新するステップと、
前記データベースから、前記更新された第２のクエリに関する第２の検索結果を読み出すステップと、
表示のために、制御回路を使用して、前記第２の検索結果を生成するステップと
を含む、方法。
（項目２）
前記第１のクエリ内の第１のトークンを判定するステップは、
前記制御回路を使用して、前記第１のクエリ内の第１の用語および第２の用語を識別するステップと、
前記制御回路を使用して、前記第１の用語が挿入語であることを判定するステップと、
前記制御回路を使用して、前記第２の用語が挿入語ではないことを判定するステップと、
前記制御回路を使用して、前記第２の用語を前記第１のトークンに割り当てるステップと
を含む、項目１に記載の方法。
（項目３）
前記第１のエンティティデータと前記第２のエンティティデータとの間の１つまたはそれを上回るグラフ接続を読み出すステップは、
前記知識グラフから、前記第１のエンティティタイプである前記第１のトークンと前記第３のエンティティタイプである前記第２のトークンと間の第１のグラフ接続を読み出すステップと、
前記知識グラフから、前記第２のエンティティタイプである前記第１のトークンと前記第３のエンティティタイプである前記第２のトークンと間の第２のグラフ接続を読み出すステップと、
前記知識グラフから、前記第１のエンティティタイプである前記第１のトークンと前記第４のエンティティタイプである前記第２のトークンと間の第３のグラフ接続を読み出すステップと、
前記知識グラフから、前記第２のエンティティタイプである前記第１のトークンと前記第４のエンティティタイプである前記第２のトークンと間の第４のグラフ接続を読み出すステップと
を含む、項目１に記載の方法。
（項目４）
前記第１のトークン、前記第２のトークン、前記第１のエンティティデータ、前記第２のエンティティデータ、および前記１つまたはそれを上回るグラフ接続を入力として前記人工ニューラルネットワークに適用するステップは、
前記制御回路を使用して、前記第１のトークンに関する第１の値を前記人工ニューラルネットワークの入力層の第１の加重で乗算するステップと、
前記制御回路を使用して、前記第２のトークンに関する第２の値を前記人工ニューラルネットワークの入力層の第２の加重で乗算するステップと、
前記制御回路を使用して、前記第１のエンティティデータに関する１つまたはそれを上回る値を前記人工ニューラルネットワークの入力層の１つまたはそれを上回る加重で乗算するステップと、
前記制御回路を使用して、前記第２のエンティティデータに関する１つまたはそれを上回る値を前記人工ニューラルネットワークの入力層の１つまたはそれを上回る加重で乗算するステップと、
前記制御回路を使用して、前記１つまたはそれを上回るグラフ接続に関する１つまたはそれを上回る値を前記人工ニューラルネットワークの入力層の１つまたはそれを上回る加重で乗算するステップと
を含む、項目１に記載の方法。
（項目５）
前記人工ニューラルネットワークから、前記第１のクエリと前記第２のクエリとの間の会話継続性のタイプを示す出力を判定するステップは、
前記制御回路を使用して、前記人工ニューラルネットワーク内の隠れ層への１つまたはそれを上回る入力を前記隠れ層内の対応する１つまたはそれを上回る加重で乗算するステップと、
前記制御回路を使用して、前記乗算から結果として生じる値を加算し、前記出力値を判定するステップと
を含む、項目１に記載の方法。
（項目６）
前記会話継続性のタイプに基づいて、前記第２のクエリを更新するステップは、
前記制御回路を使用して、前記会話継続性のタイプがマージタイプであることを識別するステップと、
前記制御回路を使用して、前記会話継続性のタイプが前記マージタイプであることの識別に基づいて、前記第２のクエリと前記第１のクエリをマージするステップと
を含む、項目１に記載の方法。
（項目７）
前記会話継続性のタイプに基づいて、前記第２のクエリを更新するステップは、
前記制御回路を使用して、前記会話継続性のタイプが置換タイプであることを識別するステップと、
前記会話継続性のタイプが前記置換タイプであることの識別に基づいて、
前記制御回路を使用して、前記第１のクエリの一部に取って代わる前記第２のクエリの一部を判定するステップと、
前記制御回路を使用して、前記第２のクエリが前記第２のクエリの前記一部と置換される前記第１のクエリの前記一部を伴う前記第１のクエリであることを判定するステップと
を含む、項目１に記載の方法。
（項目８）
前記会話継続性のタイプに基づいて、前記第２のクエリを更新するステップは、
前記制御回路を使用して、前記会話継続性のタイプが分類タイプであることを識別するステップと、
前記会話継続性のタイプが前記分類タイプであることの識別に基づいて、
前記制御回路を使用して、前記第２のクエリに基づいて、前記第１のクエリ内の第１のトークンに関する代替エンティティタイプを判定するステップと、
前記制御回路を使用して、前記第２のクエリが前記代替エンティティタイプである前記第１のトークンを伴う前記第１のクエリであることを判定するステップと
を含む、項目１に記載の方法。
（項目９）
前記会話継続性のタイプに基づいて、前記第２のクエリを更新するステップは、
前記制御回路を使用して、前記会話継続性のタイプが無継続性タイプであることを識別するステップと、
前記会話継続性のタイプが前記無継続性タイプであることの識別に基づいて、前記制御回路を使用して、前記第２のクエリを前記更新された第２のクエリに割り当てるステップと
を含む、項目１に記載の方法。
（項目１０）
前記ユーザ入力デバイスから、前記判定された会話継続性のタイプが正しくないことのインジケーションおよび訂正された会話継続性のタイプを受信するステップと、
前記制御回路を使用して、前記訂正された会話継続性のタイプに基づいて、前記人工ニューラルネットワーク内の１つまたはそれを上回る加重を更新するステップと
をさらに含む、項目１に記載の方法。
（項目１１）
第１のクエリおよび第２のクエリを含む自然言語会話において会話継続性のタイプを判定するためのシステムであって、
データベースおよび知識グラフのうちの少なくとも１つを記憶するメモリと、
制御回路と通信するユーザ入力デバイスと
を備え、前記制御回路は、
前記ユーザ入力デバイスを介して、前記第１のクエリをユーザから受信することと、
前記データベースから、前記第１のクエリに関する第１の検索結果を読み出すことと、
表示のために、前記第１の検索結果を生成することと、
前記ユーザ入力デバイスを介して、前記第２のクエリを前記ユーザから受信することと、
前記第１のクエリ内の第１のトークンを判定することと、
前記第２のクエリ内の第２のトークンを判定することと、
前記第１のトークンに関する第１のエンティティデータを識別することであって、前記第１のエンティティデータは、
前記第１のトークンに関する第１のエンティティタイプと、
前記第１のエンティティタイプが前記第１のトークンに対応する第１の確率と、
前記第１のトークンに関する第２のエンティティタイプと、
前記第２のエンティティタイプが前記第１のトークンに対応する第２の確率と、
を含む、ことと、
前記第２のトークンに関する第２のエンティティデータを識別することであって、前記第２のエンティティデータは、
前記第２のトークンに関する第３のエンティティタイプと、
前記第３のエンティティタイプが前記第２のトークンに対応する第３の確率と、
前記第２のトークンに関する第４のエンティティタイプと、
前記第４のエンティティタイプが前記第２のトークンに対応する第４の確率と、
を含む、ことと、
前記知識グラフから、前記第１のエンティティデータと前記第２のエンティティデータとの間の１つまたはそれを上回るグラフ接続を読み出すことと、
前記第１のトークン、前記第２のトークン、前記第１のエンティティデータ、前記第２のエンティティデータ、および前記１つまたはそれを上回るグラフ接続を入力として人工ニューラルネットワークに適用することと、
前記人工ニューラルネットワークから、前記第１のクエリと前記第２のクエリとの間の会話継続性のタイプを示す出力を判定することと、
前記会話継続性のタイプに基づいて、前記第２のクエリを更新することと、
前記データベースから、前記更新された第２のクエリに関する第２の検索結果を読み出すことと、
表示のために、前記第２の検索結果を生成することと
を行うように構成される、システム。
（項目１２）
前記第１のクエリ内の第１のトークンを判定するように構成される、前記制御回路は、
前記第１のクエリ内の第１の用語および第２の用語を識別することと、
前記第１の用語が挿入語であることを判定することと、
前記第２の用語が挿入語ではないことを判定することと、
前記第２の用語を前記第１のトークンに割り当てることと
を行うように構成される、前記制御回路を含む、項目１１に記載のシステム。
（項目１３）
前記第１のエンティティデータと前記第２のエンティティデータとの間の１つまたはそれを上回るグラフ接続を読み出すように構成される、前記制御回路は、
前記知識グラフから、前記第１のエンティティタイプである前記第１のトークンと前記第３のエンティティタイプである前記第２のトークンと間の第１のグラフ接続を読み出すことと、
前記知識グラフから、前記第２のエンティティタイプである前記第１のトークンと前記第３のエンティティタイプである前記第２のトークンと間の第２のグラフ接続を読み出すことと、
前記知識グラフから、前記第１のエンティティタイプである前記第１のトークンと前記第４のエンティティタイプである前記第２のトークンと間の第３のグラフ接続を読み出すことと、
前記知識グラフから、前記第２のエンティティタイプである前記第１のトークンと前記第４のエンティティタイプである前記第２のトークンと間の第４のグラフ接続を読み出すことと
を行うように構成される、前記制御回路を含む、項目１１に記載のシステム。
（項目１４）
前記第１のトークン、前記第２のトークン、前記第１のエンティティデータ、前記第２のエンティティデータ、および前記１つまたはそれを上回るグラフ接続を入力として前記人工ニューラルネットワークに適用するように構成される、前記制御回路は、
前記第１のトークンに関する第１の値を前記人工ニューラルネットワークの入力層の第１の加重で乗算することと、
前記第２のトークンに関する第２の値を前記人工ニューラルネットワークの入力層の第２の加重で乗算することと、
前記第１のエンティティデータに関する１つまたはそれを上回る値を前記人工ニューラルネットワークの入力層の１つまたはそれを上回る加重で乗算することと、
前記第２のエンティティデータに関する１つまたはそれを上回る値を前記人工ニューラルネットワークの入力層の１つまたはそれを上回る加重で乗算することと、
前記１つまたはそれを上回るグラフ接続に関する１つまたはそれを上回る値を前記人工ニューラルネットワークの入力層の１つまたはそれを上回る加重で乗算することと
を行うように構成される、前記制御回路を備える、項目１１に記載のシステム。
（項目１５）
前記人工ニューラルネットワークから、前記第１のクエリと前記第２のクエリとの間の会話継続性のタイプを示す出力を判定するように構成される、前記制御回路は、
前記人工ニューラルネットワーク内の隠れ層への１つまたはそれを上回る入力を前記隠れ層内の対応する１つまたはそれを上回る加重で乗算することと、
前記乗算から結果として生じる値を加算し、前記出力値を判定することと
を行うように構成される、前記制御回路を含む、項目１１に記載のシステム。
（項目１６）
前記会話継続性のタイプに基づいて、前記第２のクエリを更新するように構成される、前記制御回路は、
前記会話継続性のタイプがマージタイプであることを識別することと、
前記会話継続性のタイプが前記マージタイプであることの識別に基づいて、前記第２のクエリと前記第１のクエリをマージすることと
を行うように構成される、前記制御回路を含む、項目１１に記載のシステム。
（項目１７）
前記会話継続性のタイプに基づいて、前記第２のクエリを更新するように構成される、前記制御回路は、
前記会話継続性のタイプが置換タイプであることを識別することと、
前記会話継続性のタイプが前記置換タイプであることの識別に基づいて、
前記第１のクエリの一部に取って代わる前記第２のクエリの一部を判定することと、
前記第２のクエリが前記第２のクエリの前記一部と置換される前記第１のクエリの前記一部を伴う前記第１のクエリであることを判定することと
を行うように構成される、前記制御回路を含む、項目１１に記載のシステム。
（項目１８）
前記会話継続性のタイプに基づいて、前記第２のクエリを更新するように構成される、前記制御回路は、
前記会話継続性のタイプが分類タイプであることを識別することと、
前記会話継続性のタイプが前記分類タイプであることの識別に基づいて、
前記第２のクエリに基づいて、前記第１のクエリ内の第１のトークンに関する代替エンティティタイプを判定することと、
前記第２のクエリが前記代替エンティティタイプである前記第１のトークンを伴う前記第１のクエリであることを判定することと
を行うように構成される、前記制御回路を含む、項目１１に記載のシステム。
（項目１９）
前記会話継続性のタイプに基づいて、前記第２のクエリを更新するように構成される、前記制御回路は、
前記会話継続性のタイプが無継続性タイプであることを識別することと、
前記会話継続性のタイプが前記無継続性タイプであることの識別に基づいて、前記第２のクエリを前記更新された第２のクエリに割り当てることと
を行うように構成される、前記制御回路を含む、項目１１に記載のシステム。
（項目２０）
前記制御回路はさらに、
前記ユーザ入力デバイスから、前記判定された会話継続性のタイプが正しくないことのインジケーションおよび訂正された会話継続性のタイプを受信することと、
前記訂正された会話継続性のタイプに基づいて、前記人工ニューラルネットワーク内の１つまたはそれを上回る加重を更新することと
を行うように構成される、項目１１に記載のシステム。
（項目２１）
第１のクエリおよび第２のクエリを含む自然言語会話において会話継続性のタイプを判定するための装置であって、
ユーザ入力デバイスを介して、前記第１のクエリをユーザから受信するための手段と、
データベースから、前記第１のクエリに関する第１の検索結果を読み出すための手段と、
表示のために、制御回路を使用して、前記第１の検索結果を生成するための手段と、
前記ユーザ入力デバイスを介して、前記第２のクエリを前記ユーザから受信するための手段と、
制御回路を使用して、前記第１のクエリ内の第１のトークンを判定するための手段と、
前記制御回路を使用して、前記第２のクエリ内の第２のトークンを判定するための手段と、
前記制御回路を使用して、前記第１のトークンに関する第１のエンティティデータを識別するための手段であって、前記第１のエンティティデータは、
前記第１のトークンに関する第１のエンティティタイプと、
前記第１のエンティティタイプが前記第１のトークンに対応する第１の確率と、
前記第１のトークンに関する第２のエンティティタイプと、
前記第２のエンティティタイプが前記第１のトークンに対応する第２の確率と
を含む、手段と、
前記制御回路を使用して、前記第２のトークンに関する第２のエンティティデータを識別するための手段であって、前記第２のエンティティデータは、
前記第２のトークンに関する第３のエンティティタイプと、
前記第３のエンティティタイプが前記第２のトークンに対応する第３の確率と、
前記第２のトークンに関する第４のエンティティタイプと、
前記第４のエンティティタイプが前記第２のトークンに対応する第４の確率と
を含む、手段と、
知識グラフから、前記第１のエンティティデータと前記第２のエンティティデータとの間の１つまたはそれを上回るグラフ接続を読み出すための手段と、
前記制御回路を使用して、前記第１のトークン、前記第２のトークン、前記第１のエンティティデータ、前記第２のエンティティデータ、および前記１つまたはそれを上回るグラフ接続を入力として人工ニューラルネットワークに適用するための手段と、
前記制御回路を使用して、前記人工ニューラルネットワークから、前記第１のクエリと前記第２のクエリとの間の会話継続性のタイプを示す出力を判定するための手段と、
前記制御回路を使用して、前記会話継続性のタイプに基づいて、前記第２のクエリを更新するための手段と、
前記データベースから、前記更新された第２のクエリに関する第２の検索結果を読み出すための手段と、
表示のために、制御回路を使用して、前記第２の検索結果を生成するための手段と
を備える、装置。
（項目２２）
前記第１のクエリ内の第１のトークンを判定するための手段は、
前記制御回路を使用して、前記第１のクエリ内の第１の用語および第２の用語を識別するための手段と、
前記制御回路を使用して、前記第１の用語が挿入語であることを判定するための手段と、
前記制御回路を使用して、前記第２の用語が挿入語ではないことを判定するための手段と、
前記制御回路を使用して、前記第２の用語を前記第１のトークンに割り当てるための手段と
を含む、項目２１に記載の装置。
（項目２３）
前記第１のエンティティデータと前記第２のエンティティデータとの間の１つまたはそれを上回るグラフ接続を読み出すための手段は、
前記知識グラフから、前記第１のエンティティタイプである前記第１のトークンと前記第３のエンティティタイプである前記第２のトークンと間の第１のグラフ接続を読み出すための手段と、
前記知識グラフから、前記第２のエンティティタイプである前記第１のトークンと前記第３のエンティティタイプである前記第２のトークンと間の第２のグラフ接続を読み出すための手段と、
前記知識グラフから、前記第１のエンティティタイプである前記第１のトークンと前記第４のエンティティタイプである前記第２のトークンと間の第３のグラフ接続を読み出すための手段と、
前記知識グラフから、前記第２のエンティティタイプである前記第１のトークンと前記第４のエンティティタイプである前記第２のトークンと間の第４のグラフ接続を読み出すための手段と
を含む、項目２１に記載の装置。
（項目２４）
前記第１のトークン、前記第２のトークン、前記第１のエンティティデータ、前記第２のエンティティデータ、および前記１つまたはそれを上回るグラフ接続を入力として前記人工ニューラルネットワークに適用するための手段は、
前記制御回路を使用して、前記第１のトークンに関する第１の値を前記人工ニューラルネットワークの入力層の第１の加重で乗算するための手段と、
前記制御回路を使用して、前記第２のトークンに関する第２の値を前記人工ニューラルネットワークの入力層の第２の加重で乗算するための手段と、
前記制御回路を使用して、前記第１のエンティティデータに関する１つまたはそれを上回る値を前記人工ニューラルネットワークの入力層の１つまたはそれを上回る加重で乗算するための手段と、
前記制御回路を使用して、前記第２のエンティティデータに関する１つまたはそれを上回る値を前記人工ニューラルネットワークの入力層の１つまたはそれを上回る加重で乗算するための手段と、
前記制御回路を使用して、前記１つまたはそれを上回るグラフ接続に関する１つまたはそれを上回る値を前記人工ニューラルネットワークの入力層の１つまたはそれを上回る加重で乗算するための手段と
を含む、項目２１に記載の装置。
（項目２５）
前記人工ニューラルネットワークから、前記第１のクエリと前記第２のクエリとの間の会話継続性のタイプを示す出力を判定するための手段は、
前記制御回路を使用して、前記人工ニューラルネットワーク内の隠れ層への１つまたはそれを上回る入力を前記隠れ層内の対応する１つまたはそれを上回る加重で乗算するための手段と、
前記制御回路を使用して、前記乗算から結果として生じる値を加算し、前記出力値を判定するための手段と
を含む、項目２１に記載の装置。
（項目２６）
前記会話継続性のタイプに基づいて、前記第２のクエリを更新するための手段は、
前記制御回路を使用して、前記会話継続性のタイプがマージタイプであることを識別するための手段と、
前記制御回路を使用して、前記会話継続性のタイプが前記マージタイプであることの識別に基づいて、前記第２のクエリと前記第１のクエリをマージするための手段と
を含む、項目２１に記載の装置。
（項目２７）
前記会話継続性のタイプに基づいて、前記第２のクエリを更新するための手段は、
前記制御回路を使用して、前記会話継続性のタイプが置換タイプであることを識別するための手段と、
前記会話継続性のタイプが前記置換タイプであることの識別に基づいて、
前記制御回路を使用して、前記第１のクエリの一部に取って代わる前記第２のクエリの一部を判定するための手段と、
前記制御回路を使用して、前記第２のクエリが前記第２のクエリの前記一部と置換される前記第１のクエリの前記一部を伴う前記第１のクエリであることを判定するための手段と
を含む、項目２１に記載の装置。
（項目２８）
前記会話継続性のタイプに基づいて、前記第２のクエリを更新するための手段は、
前記制御回路を使用して、前記会話継続性のタイプが分類タイプであることを識別するための手段と、
前記会話継続性のタイプが前記分類タイプであることの識別に基づいて、
前記制御回路を使用して、前記第２のクエリに基づいて、前記第１のクエリ内の第１のトークンに関する代替エンティティタイプを判定するための手段と、
前記制御回路を使用して、前記第２のクエリが前記代替エンティティタイプである前記第１のトークンを伴う前記第１のクエリであることを判定するための手段と
を含む、項目２１に記載の装置。
（項目２９）
前記会話継続性のタイプに基づいて、前記第２のクエリを更新するための手段は、
前記制御回路を使用して、前記会話継続性のタイプが無継続性タイプであることを識別するための手段と、
前記会話継続性のタイプが前記無継続性タイプであることの識別に基づいて、前記制御回路を使用して、前記第２のクエリを前記更新された第２のクエリに割り当てるための手段と
を含む、項目２１に記載の装置。
（項目３０）
前記ユーザ入力デバイスから、前記判定された会話継続性のタイプが正しくないことのインジケーションおよび訂正された会話継続性のタイプを受信するための手段と、
前記制御回路を使用して、前記訂正された会話継続性のタイプに基づいて、前記人工ニューラルネットワーク内の１つまたはそれを上回る加重を更新するための手段と
をさらに備える、項目２１に記載の装置。
（項目３１）
第１のクエリおよび第２のクエリを含む自然言語会話において会話継続性のタイプを判定するためのその上に符号化された命令を伴うメモリを備える、非一過性機械可読媒体であって、
ユーザ入力デバイスを介して、前記第１のクエリをユーザから受信するための命令と、
データベースから、前記第１のクエリに関する第１の検索結果を読み出すための命令と、
表示のために、制御回路を使用して、前記第１の検索結果を生成するための命令と、
前記ユーザ入力デバイスを介して、前記第２のクエリを前記ユーザから受信するための命令と、
制御回路を使用して、前記第１のクエリ内の第１のトークンを判定するための命令と、
前記制御回路を使用して、前記第２のクエリ内の第２のトークンを判定するための命令と、
前記制御回路を使用して、前記第１のトークンに関する第１のエンティティデータを識別するための命令であって、前記第１のエンティティデータは、
前記第１のトークンに関する第１のエンティティタイプと、
前記第１のエンティティタイプが前記第１のトークンに対応する第１の確率と、
前記第１のトークンに関する第２のエンティティタイプと、
前記第２のエンティティタイプが前記第１のトークンに対応する第２の確率と
を含む、命令と、
前記制御回路を使用して、前記第２のトークンに関する第２のエンティティデータを識別するための命令であって、前記第２のエンティティデータは、
前記第２のトークンに関する第３のエンティティタイプと、
前記第３のエンティティタイプが前記第２のトークンに対応する第３の確率と、
前記第２のトークンに関する第４のエンティティタイプと、
前記第４のエンティティタイプが前記第２のトークンに対応する第４の確率と
を含む、命令と、
知識グラフから、前記第１のエンティティデータと前記第２のエンティティデータとの間の１つまたはそれを上回るグラフ接続を読み出すための命令と、
前記制御回路を使用して、前記第１のトークン、前記第２のトークン、前記第１のエンティティデータ、前記第２のエンティティデータ、および前記１つまたはそれを上回るグラフ接続を入力として人工ニューラルネットワークに適用するための命令と、
前記制御回路を使用して、前記人工ニューラルネットワークから、前記第１のクエリと前記第２のクエリとの間の会話継続性のタイプを示す出力を判定するための命令と、
前記制御回路を使用して、前記会話継続性のタイプに基づいて、前記第２のクエリを更新するための命令と、
前記データベースから、前記更新された第２のクエリに関する第２の検索結果を読み出すための命令と、
表示のために、制御回路を使用して、前記第２の検索結果を生成するための命令と
を備える、非一過性機械可読媒体。
（項目３２）
前記第１のクエリ内の第１のトークンを判定するための命令は、
前記制御回路を使用して、前記第１のクエリ内の第１の用語および第２の用語を識別するための命令と、
前記制御回路を使用して、前記第１の用語が挿入語であることを判定するための命令と、
前記制御回路を使用して、前記第２の用語が挿入語ではないことを判定するための命令と、
前記制御回路を使用して、前記第２の用語を前記第１のトークンに割り当てるための命令と
を含む、項目３１に記載の非一過性機械可読媒体。
（項目３３）
前記第１のエンティティデータと前記第２のエンティティデータとの間の１つまたはそれを上回るグラフ接続を読み出すための命令は、
前記知識グラフから、前記第１のエンティティタイプである前記第１のトークンと前記第３のエンティティタイプである前記第２のトークンと間の第１のグラフ接続を読み出すための命令と、
前記知識グラフから、前記第２のエンティティタイプである前記第１のトークンと前記第３のエンティティタイプである前記第２のトークンと間の第２のグラフ接続を読み出すための命令と、
前記知識グラフから、前記第１のエンティティタイプである前記第１のトークンと前記第４のエンティティタイプである前記第２のトークンと間の第３のグラフ接続を読み出すための命令と、
前記知識グラフから、前記第２のエンティティタイプである前記第１のトークンと前記第４のエンティティタイプである前記第２のトークンと間の第４のグラフ接続を読み出すための命令と
を含む、項目３１に記載の非一過性機械可読媒体。
（項目３４）
前記第１のトークン、前記第２のトークン、前記第１のエンティティデータ、前記第２のエンティティデータ、および前記１つまたはそれを上回るグラフ接続を入力として前記人工ニューラルネットワークに適用するための命令は、
前記制御回路を使用して、前記第１のトークンに関する第１の値を前記人工ニューラルネットワークの入力層の第１の加重で乗算するための命令と、
前記制御回路を使用して、前記第２のトークンに関する第２の値を前記人工ニューラルネットワークの入力層の第２の加重で乗算するための命令と、
前記制御回路を使用して、前記第１のエンティティデータに関する１つまたはそれを上回る値を前記人工ニューラルネットワークの入力層の１つまたはそれを上回る加重で乗算するための命令と、
前記制御回路を使用して、前記第２のエンティティデータに関する１つまたはそれを上回る値を前記人工ニューラルネットワークの入力層の１つまたはそれを上回る加重で乗算するための命令と、
前記制御回路を使用して、前記１つまたはそれを上回るグラフ接続に関する１つまたはそれを上回る値を前記人工ニューラルネットワークの入力層の１つまたはそれを上回る加重で乗算するための命令と
を含む、項目３１に記載の非一過性機械可読媒体。
（項目３５）
前記人工ニューラルネットワークから、前記第１のクエリと前記第２のクエリとの間の会話継続性のタイプを示す出力を判定するための命令は、
前記制御回路を使用して、前記人工ニューラルネットワーク内の隠れ層への１つまたはそれを上回る入力を前記隠れ層内の対応する１つまたはそれを上回る加重で乗算するための命令と、
前記制御回路を使用して、前記乗算から結果として生じる値を加算し、前記出力値を判定するための命令と
を含む、項目３１に記載の非一過性機械可読媒体。
（項目３６）
前記会話継続性のタイプに基づいて、前記第２のクエリを更新するための命令は、
前記制御回路を使用して、前記会話継続性のタイプがマージタイプであることを識別するための命令と、
前記制御回路を使用して、前記会話継続性のタイプが前記マージタイプであることの識別に基づいて、前記第２のクエリと前記第１のクエリをマージするための命令と
を含む、項目３１に記載の非一過性機械可読媒体。
（項目３７）
前記会話継続性のタイプに基づいて、前記第２のクエリを更新するための命令は、
前記制御回路を使用して、前記会話継続性のタイプが置換タイプであることを識別するための命令と、
前記会話継続性のタイプが前記置換タイプであることの識別に基づいて、
前記制御回路を使用して、前記第１のクエリの一部に取って代わる前記第２のクエリの一部を判定するための命令と、
前記制御回路を使用して、前記第２のクエリが前記第２のクエリの前記一部と置換される前記第１のクエリの前記一部を伴う前記第１のクエリであることを判定するための命令と
を含む、項目３１に記載の非一過性機械可読媒体。
（項目３８）
前記会話継続性のタイプに基づいて、前記第２のクエリを更新するための命令は、
前記制御回路を使用して、前記会話継続性のタイプが分類タイプであることを識別するための命令と、
前記会話継続性のタイプが前記分類タイプであることの識別に基づいて、
前記制御回路を使用して、前記第２のクエリに基づいて、前記第１のクエリ内の第１のトークンに関する代替エンティティタイプを判定するための命令と、
前記制御回路を使用して、前記第２のクエリが前記代替エンティティタイプである前記第１のトークンを伴う前記第１のクエリであることを判定するための命令と
を含む、項目３１に記載の非一過性機械可読媒体。
（項目３９）
前記会話継続性のタイプに基づいて、前記第２のクエリを更新するための命令は、
前記制御回路を使用して、前記会話継続性のタイプが無継続性タイプであることを識別するための命令と、
前記会話継続性のタイプが前記無継続性タイプであることの識別に基づいて、前記制御回路を使用して、前記第２のクエリを前記更新された第２のクエリに割り当てるための命令と
を含む、項目３１に記載の非一過性機械可読媒体。
（項目４０）
前記ユーザ入力デバイスから、前記判定された会話継続性のタイプが正しくないことのインジケーションおよび訂正された会話継続性のタイプを受信するための命令と、
前記制御回路を使用して、前記訂正された会話継続性のタイプに基づいて、前記人工ニューラルネットワーク内の１つまたはそれを上回る加重を更新するための命令と
をさらに備える、項目３１に記載の非一過性機械可読媒体。
（項目４１）
第１のクエリおよび第２のクエリを含む自然言語会話において会話継続性のタイプを判定するための方法であって、
ユーザ入力デバイスを介して、前記第１のクエリをユーザから受信するステップと、
データベースから、前記第１のクエリに関する第１の検索結果を読み出すステップと、
表示のために、制御回路を使用して、前記第１の検索結果を生成するステップと、
前記ユーザ入力デバイスを介して、前記第２のクエリを前記ユーザから受信するステップと、
制御回路を使用して、前記第１のクエリ内の第１のトークンを判定するステップと、
前記制御回路を使用して、前記第２のクエリ内の第２のトークンを判定するステップと、
前記制御回路を使用して、前記第１のトークンに関する第１のエンティティデータを識別するステップであって、前記第１のエンティティデータは、
前記第１のトークンに関する第１のエンティティタイプと、
前記第１のエンティティタイプが前記第１のトークンに対応する第１の確率と、
前記第１のトークンに関する第２のエンティティタイプと、
前記第２のエンティティタイプが前記第１のトークンに対応する第２の確率と
を含む、ステップと、
前記制御回路を使用して、前記第２のトークンに関する第２のエンティティデータを識別するステップであって、前記第２のエンティティデータは、
前記第２のトークンに関する第３のエンティティタイプと、
前記第３のエンティティタイプが前記第２のトークンに対応する第３の確率と、
前記第２のトークンに関する第４のエンティティタイプと、
前記第４のエンティティタイプが前記第２のトークンに対応する第４の確率と
を含む、ステップと、
知識グラフから、前記第１のエンティティデータと前記第２のエンティティデータとの間の１つまたはそれを上回るグラフ接続を読み出すステップと、
前記制御回路を使用して、前記第１のトークン、前記第２のトークン、前記第１のエンティティデータ、前記第２のエンティティデータ、および前記１つまたはそれを上回るグラフ接続を入力として人工ニューラルネットワークに適用するステップと、
前記制御回路を使用して、前記人工ニューラルネットワークから、前記第１のクエリと前記第２のクエリとの間の会話継続性のタイプを示す出力を判定するステップと、
前記制御回路を使用して、前記会話継続性のタイプに基づいて、前記第２のクエリを更新するステップと、
前記データベースから、前記更新された第２のクエリに関する第２の検索結果を読み出すステップと、
表示のために、制御回路を使用して、前記第２の検索結果を生成するステップと
を含む、方法。
（項目４２）
前記第１のクエリ内の第１のトークンを判定するステップは、
前記制御回路を使用して、前記第１のクエリ内の第１の用語および第２の用語を識別するステップと、
前記制御回路を使用して、前記第１の用語が挿入語であることを判定するステップと、
前記制御回路を使用して、前記第２の用語が挿入語ではないことを判定するステップと、
前記制御回路を使用して、前記第２の用語を前記第１のトークンに割り当てるステップと
を含む、項目４１に記載の方法。
（項目４３）
前記第１のエンティティデータと前記第２のエンティティデータとの間の１つまたはそれを上回るグラフ接続を読み出すステップは、
前記知識グラフから、前記第１のエンティティタイプである前記第１のトークンと前記第３のエンティティタイプである前記第２のトークンと間の第１のグラフ接続を読み出すステップと、
前記知識グラフから、前記第２のエンティティタイプである前記第１のトークンと前記第３のエンティティタイプである前記第２のトークンと間の第２のグラフ接続を読み出すステップと、
前記知識グラフから、前記第１のエンティティタイプである前記第１のトークンと前記第４のエンティティタイプである前記第２のトークンと間の第３のグラフ接続を読み出すステップと、
前記知識グラフから、前記第２のエンティティタイプである前記第１のトークンと前記第４のエンティティタイプである前記第２のトークンと間の第４のグラフ接続を読み出すステップと
を含む、項目４１−４２のいずれかに記載の方法。
（項目４４）
前記第１のトークン、前記第２のトークン、前記第１のエンティティデータ、前記第２のエンティティデータ、および前記１つまたはそれを上回るグラフ接続を入力として前記人工ニューラルネットワークに適用するステップは、
前記制御回路を使用して、前記第１のトークンに関する第１の値を前記人工ニューラルネットワークの入力層の第１の加重で乗算するステップと、
前記制御回路を使用して、前記第２のトークンに関する第２の値を前記人工ニューラルネットワークの入力層の第２の加重で乗算するステップと、
前記制御回路を使用して、前記第１のエンティティデータに関する１つまたはそれを上回る値を前記人工ニューラルネットワークの入力層の１つまたはそれを上回る加重で乗算するステップと、
前記制御回路を使用して、前記第２のエンティティデータに関する１つまたはそれを上回る値を前記人工ニューラルネットワークの入力層の１つまたはそれを上回る加重で乗算するステップと、
前記制御回路を使用して、前記１つまたはそれを上回るグラフ接続に関する１つまたはそれを上回る値を前記人工ニューラルネットワークの入力層の１つまたはそれを上回る加重で乗算するステップと
を含む、項目４１−４３のいずれかに記載の方法。
（項目４５）
前記人工ニューラルネットワークから、前記第１のクエリと前記第２のクエリとの間の会話継続性のタイプを示す出力を判定するステップは、
前記制御回路を使用して、前記人工ニューラルネットワーク内の隠れ層への１つまたはそれを上回る入力を前記隠れ層内の対応する１つまたはそれを上回る加重で乗算するステップと、
前記制御回路を使用して、前記乗算から結果として生じる値を加算し、前記出力値を判定するステップと
を含む、項目４１−４４のいずれかに記載の方法。
（項目４６）
前記会話継続性のタイプに基づいて、前記第２のクエリを更新するステップは、
前記制御回路を使用して、前記会話継続性のタイプがマージタイプであることを識別するステップと、
前記制御回路を使用して、前記会話継続性のタイプが前記マージタイプであることの識別に基づいて、前記第２のクエリと前記第１のクエリをマージするステップと
を含む、項目４１−４５のいずれかに記載の方法。
（項目４７）
前記会話継続性のタイプに基づいて、前記第２のクエリを更新するステップは、
前記制御回路を使用して、前記会話継続性のタイプが置換タイプであることを識別するステップと、
前記会話継続性のタイプが前記置換タイプであることの識別に基づいて、
前記制御回路を使用して、前記第１のクエリの一部に取って代わる前記第２のクエリの一部を判定するステップと、
前記制御回路を使用して、前記第２のクエリが前記第２のクエリの前記一部と置換される前記第１のクエリの前記一部を伴う前記第１のクエリであることを判定するステップと
を含む、項目４１−４６のいずれかに記載の方法。
（項目４８）
前記会話継続性のタイプに基づいて、前記第２のクエリを更新するステップは、
前記制御回路を使用して、前記会話継続性のタイプが分類タイプであることを識別するステップと、
前記会話継続性のタイプが前記分類タイプであることの識別に基づいて、
前記制御回路を使用して、前記第２のクエリに基づいて、前記第１のクエリ内の第１のトークンに関する代替エンティティタイプを判定するステップと、
前記制御回路を使用して、前記第２のクエリが前記代替エンティティタイプである前記第１のトークンを伴う前記第１のクエリであることを判定するステップと
を含む、項目４１−４７のいずれかに記載の方法。
（項目４９）
前記会話継続性のタイプに基づいて、前記第２のクエリを更新するステップは、
前記制御回路を使用して、前記会話継続性のタイプが無継続性タイプであることを識別するステップと、
前記会話継続性のタイプが前記無継続性タイプであることの識別に基づいて、前記制御回路を使用して、前記第２のクエリを前記更新された第２のクエリに割り当てるステップと
を含む、項目４１−４８のいずれかに記載の方法。
（項目５０）
前記ユーザ入力デバイスから、前記判定された会話継続性のタイプが正しくないことのインジケーションおよび訂正された会話継続性のタイプを受信するステップと、
前記制御回路を使用して、前記訂正された会話継続性のタイプに基づいて、前記人工ニューラルネットワーク内の１つまたはそれを上回る加重を更新するステップと
をさらに含む、項目４１−４９のいずれかに記載の方法。