(57)【要約】【課題】特定内容の会話が行われていることを音声認識の結果を用いて精度よく検知することができるようにすること。【解決手段】キーワード記憶手段11は、特定会話で出現頻度の高い複数の単語もしくはフレーズをキーワードとして記憶し、音声認識手段12は、会話中に前記キーワードが出現したことを検出する。シナリオ検出手段14は、シナリオ記憶手段13に記憶されている論理式を用いて、特定会話で共通に出現する頻度の高い会話内容であるシナリオの出現を検出する。特定会話推定値計算手段16は、検出された複数のシナリオの出現傾向を元に、会話が特定会話と推定されるかどうかを示す特定会話推定値を算出し、しきい値判定手段17は、特定会話推定値を所定しきい値と比較して前記会話が特定会話かどうかを検知する。【選択図】図６
2018013529.tif 000002
【特許請求の範囲】
【請求項１】
予め検知対象とする特定会話において出現頻度の高い複数の単語もしくはフレーズをキーワードとして記憶するためのキーワード記憶手段と、
会話での音声もしくは音声データにおいて前記キーワードが出現したことを検出するための音声認識手段と、
特定会話において共通に出現する頻度の高い会話内容であるシナリオの出現の有無を判別するための複数の論理式を記憶するシナリオ記憶手段と、
前記シナリオ記憶手段に記憶されている複数の論理式を用い、前記音声認識手段により検出された複数のキーワードの情報から複数のシナリオの出現を検出するシナリオ検出手段と、
前記シナリオ検出手段により検出された前記複数のシナリオの出現傾向を元に、前記会話に対する特定会話推定値を算出する特定会話推定値計算手段と、
前記特定会話推定値計算手段により算出された特定会話推定値を所定しきい値と比較して、前記会話が特定会話かどうかを検知するしきい値判定手段を備えることを特徴とする特定会話検知装置。
【請求項２】
特定会話における複数のシナリオの出現傾向を記憶するストーリ記憶部を備え、
前記特定会話推定値計算手段は、前記ストーリ記憶部に記憶された特定会話おける複数のシナリオの出現傾向と前記シナリオ検出手段により検出された前記複数のシナリオの出現傾向との類似度を特定会話推定値として算出することを特徴とする請求項１に記載の特定会話検知装置。
【請求項３】
前記ストーリ記憶部は、特定会話における複数のシナリオの各々に対し重みを付して複数のシナリオの出現傾向を記憶することを特徴とする請求項１または２に記載の特定会話検知装置。
【請求項４】
前記ストーリ記憶部は、複数のシナリオの出現傾向だけでなく、複数のシナリオの出現順に関する情報も記憶し、前記特定会話推定値計算手段は、各シナリオの出現順に関する情報も考慮して特定会話推定値を算出することを特徴とする請求項１ないし３のいずれか１つに記載の特定会話検知装置。
【請求項５】
各シナリオを複数のサブシナリオに分解し、前記シナリオ検出手段は、検出された複数のサブシナリオからシナリオを検出し、前記特定会話推定値計算手段および前記しきい値判定手段は、検出されたシナリオの出現傾向から前記会話が特定会話かどうかを検知することを特徴とする請求項１ないし４のいずれか１つに記載の特定会話検知装置。
【請求項６】
予め検知対象とする特定会話において出現頻度の高い複数の単語もしくはフレーズをキーワードとして用いて、会話での音声もしくは音声データにおいて前記キーワードが出現したことを検出する第1のステップと、
特定会話において共通に出現する頻度の高い会話内容であるシナリオの出現の有無を判別するための複数の論理式を用いて、前記第1のステップで検出された複数のキーワードの情報から複数のシナリオの出現を検出する第２のステップと、
前記第２のステップで検出された前記複数のシナリオの出現傾向を元に、前記会話に対する特定会話推定値を算出する第３のステップと、
前記第３のステップで算出された特定会話推定値を所定しきい値と比較して、前記会話が特定会話かどうかを検知する第４のステップを有することを特徴とする特定会話検知方法。
【請求項７】
コンピュータに、
予め検知対象とする特定会話において出現頻度の高い複数の単語もしくはフレーズをキーワードとして用いて、会話での音声もしくは音声データにおいて前記キーワードが出現したことを検出する第1の手順、
特定会話において共通に出現する頻度の高い会話内容であるシナリオの出現の有無を判別するための複数の論理式を用いて、前記第1の手順で検出された複数のキーワードの情報から複数のシナリオの出現を検出する第２の手順、
前記第２の手順で検出された前記複数のシナリオの出現傾向を元に、前記会話に対する特定会話推定値を算出する第３の手順、
前記第３の手順で算出された特定会話推定値を所定しきい値と比較して、前記会話が特定会話かどうかを検知する第４の手順を実行させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、特定会話検知装置、方法およびプログラムに関し、特に、特定内容の会話、例えば、振り込め詐欺などの詐欺の会話が行われていることを、会話の音声や音声データの認識結果を用いて精度よく検知することができる特定会話検知装置、方法およびプログラムに関する。
【背景技術】
【０００２】
音声や音声データの認識結果を用いて振り込め詐欺などの特定内容の会話が行われていることを検知し、この結果を本人や家族に知らせる技術が知られている。
【０００３】
特許文献１には、詐欺でよく用いられる用語(詐欺用語)をキーワードとして予め記憶しておき、電話での通話相手の音声を音声認識し、その認識結果と前記キーワードとを比較してその一致回数をカウンタで計数し、その計数値が所定しきい値を上回った場合に、通話相手を詐欺師と判定する電話装置が記載されている。
【０００４】
特許文献２には、振り込め詐欺の手口が巧妙化して詐欺師からの電話が複数回の短時間に分けて行われる傾向があることを考慮し、詐欺用語とキーワードとの一致回数を１回の通話ごとに計数するのではなく、所定時間内における複数回のすべての通話での一致回数を計数して、通話相手が詐欺師であるかどうかを判定する詐欺防止システムが記載されている。
【０００５】
特許文献３には、電話による詐欺には、振り込め詐欺の他、還付金詐欺、リフォーム詐欺などのタイプがあり、各タイプの詐欺で頻繁に使用されるキーワードが異なることから、詐欺で使用されるキーワードをタイプごとに予め登録しおき、会話で検出されたキーワードの数に基づいてまず該当するタイプの詐欺が行われている可能性が高いと判定し、その上で該タイプの詐欺の詐欺師の意志を表す表現(危険文章)が会話の中にいくつ現れるかを調べ、その数が所定のしきい値を上回った場合に通話の相手が詐欺師であると判定する不審会話検出装置が記載されている。なお、ここで、危険文章は"対象物"、"動作"、"願望"の組み合わせで構成され、例えば、振り込め詐欺では、"対象物"＝｛お金、保証金、示談金｝、"動作"＝｛振り込んで、送金して、預けて｝、"願望"＝｛してほしい、していただきたい、してください｝のように定義される。
【０００６】
特許文献４には、音声認識を用いてテキスト化した多数の音声データの中から、検索語出現傾向ベクトルを用いて類似度を評価することにより、所望の内容の音声データを識別する検索語出現傾向分析方法(装置)が記載されている。
【先行技術文献】
【特許文献】
【０００７】
【特許文献１】特開２００７−９６９６１号公報
【特許文献２】特開２０１５−１５４４７５号公報
【特許文献３】特開２００７−１３９８６４号公報
【特許文献４】特開２０１２−２５６３０４号公報
【発明の概要】
【発明が解決しようとする課題】
【０００８】
図１１は、特許文献１の電話装置や特許文献２の詐欺防止システムにおける詐欺検知技術を示すブロック図である。
【０００９】
これらの技術では、詐欺会話で使用頻度の高いフレーズをキーワードとしてキーワード記憶部101に予め辞書登録しておいた上で、音声(電話での発話)を音声認識部102で音声認識し、これにより検出されたキーワードの数をカウンタ103で計数する。しきい値判定部104は、カウンタ103の計数値が所定しきい値を超えた場合に、その音声は詐欺会話であると検知する。
【００１０】
このように、特許文献１や特許文献２の技術では、音声から検出されたキーワードの内容を考慮することなく、検出されたキーワードの数のみから詐欺会話を検知するので、詐欺会話か否かを精度よく検知できないという課題がある。
【００１１】
すなわち、発話から抽出されたキーワードの数のみから詐欺会話を判定する技術は、１つのキーワードを新たに検出する度に詐欺検知上の情報量(危険度)が一定量ずつ増加するということを前提としているが、実際の会話では、以下に説明するように、その前提は成立しない。したがって、その会話が詐欺会話か否かを精度よく検知できない。
【００１２】
１つの具体例として、警視庁ホームページで公開された複数の振り込め詐欺の会話内容を相互に比較して、共通する要素は何かについて検討した。この結果、多くの振り込め詐欺の会話に共通に出現する会話内容が存在することが判明した。以下では、この特定会話において共通に出現する会話内容を「シナリオ」と称する。
【００１３】
図１２は、振り込め詐欺におけるシナリオおよび各シナリオで頻繁に出現するフレーズの具体例を示す。
【００１４】
図１２に示すように、振り込め詐欺の会話のシナリオには、最初に"(1)声がいつもと違う言い訳"、"(2)頼みごとがあるという相談"が出現し、これに続いて、"(3)お金が必要な理由を説明"が出現し、その後、"(4)お金の借用を依頼"、"(6)要求を聞いた被害者の反応"が混在して出現し、最後に、"(5)銀行での引き出しを指示"が出現するという流れがある。
【００１５】
図１２の、あるシナリオで頻繁に使用されるフレーズを１つ検出したとしても、それは、特定の話題の日常会話でも起こり得る事象であり、それのみで詐欺検知上の情報量(有意性)が大きいとは言えない。
【００１６】
また、特許文献１や特許文献２の技術では、検出されたキーワードの数に比例して詐欺検知上の情報量(危険度)が増大するということを前提としているが、以下に説明するように、その前提は、一般的に成立しないので、そこで求められた情報量(危険度)は、本来のものと異なる。
【００１７】
検出されたキーワードの数のみから求められた情報量(危険度)が本来のものと異なることについて、具体例で説明する。
【００１８】
同一のシナリオに属しており、相互相関あるいは共起確率が高いキーワードを、例えば、４個検出した場合、そのシナリオの内容の発話が行われたことは、最初のキーワードの検出で分かり、それが誤検出でないことは、２個目のキーワードの検出で分かる。したがって、３個目以降のキーワードの検出により得られる情報は殆どない。したがって、検出されたキーワードの数のみから求められた詐欺検知上の情報量(危険度)は、本来のものと異なる。
【００１９】
このように、特許文献１や特許文献２の技術では、検出されたキーワードの数のみから詐欺検知上の情報量(危険度)を求めるので、会話において出現するシナリオの数が少なく、詐欺でないことが明らかな場合でも詐欺であると誤判定する可能性がある。例えば、風邪を引いたが、銀行に行ってお金を引き出してきたという会話内容でも詐欺と誤判定される可能性がある。
【００２０】
また、詐欺検知上の情報量(危険度)とは直接関係しない要因により検出されるキーワードの数が変動するので、しきい値判定でのしきい値の決定が困難であり、実際上では、それを最適に決定できない。なお、詐欺検知上の情報量(危険度)とは直接関係しない要因としては、会話の時間長、繰り返しの発話、同一シナリオに属するキーワードの検出などがある。例えば、会話の時間長にばらつきがあると、その時間長により検出されるキーワードの数が大きく変動し、また、重要な会話内容についての繰り返しの発話中にキーワードが含まれていると、検出されるキーワードの数が増大するので、しきい値判定でのしきい値の決定が困難となる。また、同一シナリオに属する複数個のキーワードが検出されても詐欺の危険度は増大しない場合もあるが、検出されるキーワードの数は増大するので、しきい値判定で精度よく詐欺会話を検知できない。
【００２１】
特許文献３の技術では、会話で検出されたキーワードの数に基づいてまず該当するタイプの詐欺が行われている可能性が高いと判定するので、その判定の信頼度は低く、その判定を行った上で該当するタイプの詐欺の詐欺師の意志を表す表現(危険文章)を調べてみても信頼性は低い。また、ここでは、会話の中に危険文章がいくつ現れるかを調べ、その数が所定のしきい値を上回った場合に通話の相手が詐欺師であると判定するので、上記と同様の問題が生じる。結局、精度よく詐欺検知を行うことができないという課題がある。
【００２２】
特許文献４の技術を利用すれば、検索語出現傾向ベクトルを用いて所望の内容の音声データを識別できるが、この手法は、発音内容が定型化されている場合にしか適用することができない。すなわち、特許文献４の手法を特定会話の検知に適用した場合には、発話表現のバリエーションが非常に大きい特定会話の検知で高い信頼度を得ることが困難であり、結局、精度よく詐欺検知を行うことができない。
【００２３】
本発明の目的は、上記課題を解決し、特定内容の会話、例えば、振り込め詐欺の会話が行われていることをその音声認識の結果を用いて精度よく検知することができる特定会話検知装置、方法およびプログラムを提供することにある。
【課題を解決するための手段】
【００２４】
上記課題を解決するため、本発明の特定会話検知装置は、予め検知対象とする特定会話において出現頻度の高い複数の単語もしくはフレーズをキーワードとして記憶するためのキーワード記憶手段と、会話での音声もしくは音声データにおいて前記キーワードが出現したことを検出するための音声認識手段と、特定会話において共通に出現する頻度の高い会話内容であるシナリオの出現の有無を判別するための複数の論理式を記憶するシナリオ記憶手段と、前記シナリオ記憶手段に記憶されている複数の論理式を用い、前記音声認識手段により検出された複数のキーワードの情報から複数のシナリオの出現を検出するシナリオ検出手段と、前記シナリオ検出手段により検出された前記複数のシナリオの出現傾向を元に、前記会話に対する特定会話推定値を算出する特定会話推定値計算手段と、前記特定会話推定値計算手段により算出された特定会話推定値を所定しきい値と比較して、前記会話が特定会話かどうかを検知するしきい値判定手段を備えることを特徴とする。
【００２５】
ここで、特定会話における複数のシナリオの出現傾向を記憶するストーリ記憶部を備え、前記特定会話推定値計算手段は、前記ストーリ記憶部に記憶された特定会話おける複数のシナリオの出現傾向と前記シナリオ検出手段により検出された前記複数のシナリオの出現傾向との類似度を特定会話推定値として算出することが好ましい。
【００２６】
また、前記ストーリ記憶部が、特定会話における複数のシナリオの各々に対し重みを付して複数のシナリオの出現傾向を記憶することも好ましい。
【００２７】
また、前記ストーリ記憶部が、複数のシナリオの出現傾向だけでなく、複数のシナリオの出現順に関する情報も記憶し、前記特定会話推定値計算手段が、各シナリオの出現順に関する情報も考慮して特定会話推定値を算出することも好ましい。
【００２８】
さらに、各シナリオを複数のサブシナリオに分解し、前記シナリオ検出手段が、検出された複数のサブシナリオからシナリオを検出し、前記特定会話推定値計算手段および前記しきい値判定手段が、検出されたシナリオの出現傾向から前記会話が特定会話かどうかを検知することも好ましい。
【００２９】
なお、本発明は、特定会話検知装置としてだけでなく、特定会話検知の順次のステップを実行する特定会話検知方法としても、あるいはコンピュータに特定会話検知の各手順を実行させるためのプログラムとしても実現できる。
【発明の効果】
【００３０】
本発明によれば、特定会話のストーリを構成する各シナリオで頻繁に出現するフレーズをキーワードとして登録した上で、これを検出した場合にそのシナリオでの発話が行われたと認識し、特定会話に特徴的なシナリオの出現傾向から特定会話を検知するので、会話の流れを考慮した特定会話検知が可能となり 、日常会話における誤検知率を高めることなく、特定会話の検知率を高めることができる。これにより特定会話を精度よく検知できるようになる。
【００３１】
すなわち、詐欺会話などの特定会話に特有であり、かつ互いに異なるシナリオに属し、相互相関あるいは共起確率が低いフレーズが偶然に複数個出現する確率は低いので、互いに異なるシナリオに属し、相互相関あるいは共起確率が低いキーワードを検出することにより、検出されるキーワードの数が増えるに従って特定会話であるという情報量は指数関数的に増大し、例えば、詐欺検知上の情報量(危険度)は、その数が増えるに従って指数関数的に増大するので、特定会話(詐欺会話)を精度よく検知できる。
【００３２】
ここで、複数のシナリオの出現傾向だけでなく、各シナリオの出現順に関する情報をも考慮した上で特定会話を検知することにより、実際にはあり得ない順でシナリオが検出された場合、これを特定会話と検知しないようすることができるので、検知精度をさらに高めることができる。
【００３３】
また、各シナリオをさらにサブシナリオに分解し、特定会話における各サブシナリオの出現傾向を元にして特定会話を検知することにより、会話での多様な表現に対処するための論理式の複雑さを低減できる。
【図面の簡単な説明】
【００３４】
【図１】音声認識の結果を用いて特定会話を検知する上での理想的動作を概念的に示す図である。
【図２】特定会話検知装置の設置状態を示す図である。
【図３】特定会話の種類と各ストーリでのシナリオと各シナリオの出現を検出するための論理式(例)の関係を示す図である。
【図４】振り込め詐欺の会話での"頼み事があるとの相談"のシナリオおよびその中で頻繁に出現するフレーズの具体例を示す説明図である。
【図５】図４のシナリオの出現を検出するための論理式の作成の説明図である。
【図６】本発明に係る特定会話検知装置の一実施形態の構成を示すブロック図である。
【図７】図６の特定会話検知装置における特定会話検知アルゴリズムの例を示すフローチャートである。
【図８】図７のアルゴリズムによる特定会話検知動作の結果の例を示す図である。
【図９】シナリオの出現順を考慮した場合の特定会話検知アルゴリズムの例を示すフローチャートである。
【図１０】シナリオをサブシナリオに分解した場合の、特定会話の種類と各ストーリでのシナリオと各シナリオで頻出する発話内容(サブシナリオ)と各サブシナリオの出現を検出するための論理式(例)の関係の例を示す図である。
【図１１】従来の詐欺防止システムにおける詐欺検知技術を示すブロック図である。
【図１２】振り込め詐欺におけるシナリオおよび各シナリオで頻繁に出現するフレーズの具体例を示す図である。
【発明を実施するための形態】
【００３５】
以下、図面を用いて本発明を説明する。
【００３６】
以下では、本発明を特定会話検知装置として実現した場合について説明するが、本発明は、特定会話の検知で順次実行されるステップ(手順)を有する特定会話検知方法としても、コンピュータに、特定会話の検知で順次実行される手順を実行させるためのプログラムとしても実現できる。
【００３７】
まず、音声認識の結果を用いて特定会話を検知する上での理想的動作を説明する。
【００３８】
図１は、その理想的動作を概念的に示す図である。
【００３９】
まず、通話相手は、詐欺などの特定会話の意図を以ってストーリを作成し、詐欺対象の人(被害者)に電話をかけ、特定会話を行う。例えば、振り込め詐欺の場合、通話相手は、詐欺犯であり、自分の銀行口座にお金を振り込ませる、あるいは被害者宅を訪問する詐欺仲間に金銭を渡すように仕向ける会話を行う。多くの場合、詐欺犯は、被害者の子息がただならぬ状況に置かれているという架空のストーリを作成し、このストーリに基づいて特定会話を行い、これを被害者に信じ込ませて、その状況を解消するために必要であるからとの理由をつけて被害者から金銭をだまし取ろうとする。
【００４０】
特定会話検知装置は、図２に示すように、被害者宅の電話機の内部または電話機と通信網の間に挿入され、通話相手の音声あるいは通話相手と被害者の両方の音声を音声認識してその中に含まれるキーワードを検出し、その結果に基づいてストーリを復元して会話の意図を検知し、特定会話(例えば、詐欺会話)であると判定すれば、本人や家族などに知らせる。これにより、例えば、詐欺などの被害を未然に防止できる。なお、特定会話検知装置は、パーソナルコンピュータあるいはスマートフォン上などにアプリケションとして実装することもでき、これにより種々の意図をもった特定会話の検知に適用できる。
【００４１】
上記したように、詐欺犯は、被害者を騙して高額の金銭を受領するために事前に架空のストーリを作り、これに基づいて被害者と特定会話を行うので、特定会話検知装置では、理想的には、事前に適切なキーワードを設定しておき、会話に現れたキーワードの出現傾向に基づいてストーリを復元し、さらに、復元されたストーリから特定会話の意図を検知すればよい。
【００４２】
本発明に係る特定会話検知装置では、上記した理想的な動作に鑑み、特定会話において共通に出現する頻度の高い会話内容の出現傾向からストーリを検知し、特定会話に対して予め記憶されたストーリとの類似度から特定会話を検知する。本明細書では、特定会話において共通に出現する頻度の高い会話内容を「シナリオ」と称する。
【００４３】
まず、本発明に係る特定会話検知装置での特定会話検知の原理について説明する。なお、以下では、特定会話にはその種類(タイプ)に応じて特徴的なシナリオが多く含まれることを前提とし、これは一般的に成立する。
【００４４】
図３は、特定会話の種類と各ストーリでのシナリオと各シナリオの出現を検出するための論理式(例)の関係を示す図である。
【００４５】
図３において、特定会話の種類は、例えば、振り込め詐欺、還付金詐欺、リフォーム詐欺などといったタイプを表し、各タイプでストーリ(ストーリ1, 2, ・・・, M)が相違する。各ストーリでは頻出する発話内容は、シナリオである。また、各シナリオの出現を検出するための論理式は、当該シナリオの出現を検出するためのキーワード論理式である。
【００４６】
このような関係を利用することにより、発話内容から検出されたキーワードからシナリオを検出でき、さらに、シナリオの出現傾向からストーリを検知できる。
【００４７】
例えば、ストーリ1は、シナリオ11から1N１までのN１個の特徴的な発話内容、すなわちシナリオを含む。また、ストーリ2は、シナリオ21から2N２までのN２個のシナリオを含む。ストーリ3以降についても同様である。
【００４８】
図３の例では、検知すべき特定会話としてM個のストーリを定義している。ここで、Mは、1以上の自然数である。例えば、振り込め詐欺、還付金詐欺、リフォーム詐欺の３つを検知したい場合、M=3とし、これら３つの詐欺の各々において共通に使用されて頻出する発話内容をシナリオ11からシナリオ1N１、シナリオ21からシナリオ2N２、シナリオ31から3N３として各々定義すればよい。
【００４９】
なお、互いに異なるストーリに共通のシナリオ、例えば、ストーリ1とストーリ2に共通のシナリオが含まれていてもよい。また、例えば、シナリオ11とシナリオ21は同一であってもよく、シナリオが共通であれば、その出現を検出するための論理式も共通となる。
【００５０】
図３の例では、１個あるいは複数個のキーワードの検出結果の論理式により各シナリオの出現が検出される。例えば、キーワードKW1が検出された場合、シナリオ11の出現が検出される。また、キーワードKW2またはKW3の少なくとも一方が検出された場合、シナリオ12の出現が検出され、キーワードKW4またはキーワードKW5とKW6の両方が同時に検出された場合、シナリオIN１の出現が検出される。
【００５１】
次に、各シナリオの出現を複数個のキーワードの検出結果の論理式で表現する方法について具体例で説明する。なお、以下では、具体例として、振り込め詐欺の場合について説明するが、他の詐欺の場合でも同様であり、また、詐欺以外でも、意図をもって働きかけ伴う会話、例えば、勧誘、セールスなどの会話でも同様である。
【００５２】
図４および図５は、図１２の振り込め詐欺の会話でのシナリオおよびその中で頻繁に出現するフレーズの具体例の"(2)頼みごとがあるとの相談"のシナリオの出現を検出するための論理式の作成の説明図である。
【００５３】
図１２に示すように、"(2)頼みごとがあるとの相談"のシナリオでは、"頼むから"、"助けてよ"、"他人には相談できない"などのフレーズが頻繁に出現する。なお、これらのフレーズは、"頼みごと"がある場合に高い頻度で出現するが、必ずしもこれら３つのフレーズが同時に出現するとは限らない。すなわち、これら３つのフレーズのいずれか１つを検出した場合でも、"(2)頼みごとがあるとの相談"のシナリオを検出したと判断できる。
【００５４】
図４は、これらのフレーズの内容に対して使用される頻度が高いと想定される表現(発話)を示す。図４に示すように、各フレーズの内容の表現では、シンプルに語尾のみが変化する場合だけでなく、全く別のフレーズにより同一内容が発話される場合もある。そこで、図４に示す一連のフレーズの表現の中のいずれの発話が行われた場合でもそれを検知できるようにするために、図５に示すように論理式を表す。
【００５５】
図５では、"X"はキーワードXを検出した場合に「１」、そうでない場合に「０」となる論理値を表し、論理和を「＋」、論理積を「＆」で表している。図５に示すように、図４における"頼むね"、"頼むよ"および"頼むから"を検出するために"頼む"をキーワードとして登録し、"お願い"を検出するために"お願い"をキーワードとして登録する。また、"悪いけどよろしく"を検出するために"悪い"および"よろしく"をキーワードとして登録し、この両方を同時に検出した場合に限り、"悪いけどよろしく"を検出したとする。
【００５６】
図６は、以上の原理に基づく、本発明に係る特定会話検知装置の一実施形態の構成を示すブロック図である。
【００５７】
図６に示すように、本実施形態の特定会話検知装置10は、キーワード記憶部11、音声認識部12、シナリオ記憶部13、シナリオ検出部14、ストーリ記憶部15、特定会話推定値計算部16およびしきい値判定部17を備える。
【００５８】
キーワード記憶部11は、各シナリオを検出するための論理式で使用されるキーワードを辞書データとして記憶しており、辞書データを音声認識部12に与える。キーワードは、一般に、音素列の形式で定義されるが、その形式は、発話内容を音声認識し得るものであればどのようなものでもよい。また、キーワード記憶部11には、音声認識における誤検出を防ぐための不要語などを追加して記憶させておいてもよい。
【００５９】
音声認識部12は、音声(電話などでの発話)を入力とし、キーワード記憶部11に記憶されているキーワードのいずれかの発話が行われるたびにそれを検出し、それを検出キーワード情報としてシナリオ検出部14に送出する。検出キーワード情報は、検出されたキーワードを特定するための情報を含む。検出キーワード情報には、キーワードを特定するための情報以外にキーワードを検出した時刻の情報を含ませることができ、その時刻の情報に基づいて一定時間以内に検出されたキーワードを組み合わせてシナリオを定義することができる。また、検出キーワード情報には、特定会話に必ず現れるキーワードであるか否かの情報や、キーワードの出現順などを含ませることができ、これにより実際の特定会話で必ず現れるキーワードが検出されない場合や、実際の特定会話にはあり得ない順にシナリオを検出した場合などに、これを特定会話と検知しないようにできる。音声認識部12からの検出キーワード情報は、シナリオ検出部14に送出される。
【００６０】
シナリオ記憶部13は、シナリオ定義情報を予め記憶している。シナリオ定義情報は、図３に示されているように、複数のシナリオの各々に対して、検出されるキーワードの組み合わせを論理式で表現したものである。最もシンプルなシナリオ定義情報は、ある特定の１つのキーワードが検出された場合に、あるシナリオが検出されたとするものであるが、通常は、表現の多様性が考慮されて、複数のキーワードのいずれか１つや複数のキーワードの論理的組合せにより、あるシナリオの検出が定義される。
【００６１】
シナリオ検出部14は、シナリオ記憶部13に記憶されているシナリオ定義情報を用いてシナリオを検出し、シナリオ検出信号によりシナリオの検出を特定会話推定値計算部16に通知する。
【００６２】
特定会話推定値計算部16は、シナリオ検出部14からのシナリオ検出信号を入力とし、特定会話らしさを示す特定会話推定値を算出し、特定会話推定値信号を送出する。詐欺会話の場合、特定会話推定値は、詐欺の危険度を示している。特定会話推定値は、例えば、下記の式(1)により算出できる。
【００６３】
【数１】
2018013529.tif 000003
【００６４】
式(1)に示すように、特定会話推定値Rは、各シナリオｉに対応したフラグFｉと重みWｉを掛け合わせたものとして定義される。式(1)は、特定会話における各シナリオの出現傾向と実際の会話で出現したシナリオの出現傾向との類似度を算出して、特定会話推定値Rを求めることを表す。なお、各シナリオｉに対応したフラグFｉの情報は、シナリオ検出信号から得られる。
【００６５】
一方、各シナリオｉを検出した事象のストーリ構成上の情報量は、一般に、各シナリオｉにより異なるので、特定会話度Rを求める際に、シナリオｉごとに重み付けするのが好ましい。そこで、例えば、複数のシナリオを構成要素とする出現傾向ベクトルを定義し、過去の詐欺会話における各シナリオの出現頻度をもとに重みWｉを決定する。この重みWｉの情報は、ストーリ記憶部15に格納することができ、これをストーリ情報として特定会話推定値計算部16に与えればよい。
【００６６】
しきい値判定部17は、特定会話推定値計算部16により算出された特定会話推定値信号を入力とし、これを所定しきい値と比較することで、当該会話が特定会話であるか否かの判定を行い、この判定結果を特定会話検知信号として送出する。
【００６７】
各シナリオに対する重みWｉやしきい値判定部17でのしきい値は、詐欺会話および日常会話の音声データもしくは音声テキストデータを用いて、最尤法により決定できる。また、この最尤法による重みWｉやしきい値の決定をDeep Learningなどによる機械学習の手法を用いて行うこともできる。
【００６８】
なお、各シナリオｉに対して重み付けをするための十分な情報がない場合には、ストーリの構成要素として抽出された全てのシナリオｉの重みWｉを１とし、抽出されなかったシナリオの重みWｉを０とすればよい。
【００６９】
また、詐欺を構成する主要な要件となるシナリオ("お金の借用を依頼"、"銀行での引き出しを指示")に対する重みWｉを相対的に大きくしてもよく、詐欺の会話に特有の表現として使用され易く、日常会話との識別に有効なキーワードが多いシナリオ("(2)頼みごとがあると相談"、"(6)要求を聞いた被害者の反応")に対する重みWｉを相対的に大きくしてもよい。
【００７０】
図７は、図６の特定会話検知装置における特定会話検知アルゴリズムの例を示すフローチャートである。このフローチャートは、主に、シナリオ検出部14、特定会話推定値計算部16およびしきい値判定部17における動作を示している。
【００７１】
まず、S1で、シナリオ検出フラグをクリアして初期化する。ここでは、詐欺の会話などの特定会話で頻繁に出現する発話内容としてシナリオ1〜6が定義されているとする。
【００７２】
次に、S2で、シナリオ1を検出したか否かを判定し、それを検出したと判定すれば、S3で、シナリオ1の検出フラグを「１」にセットし、シナリオ1に対するタイマT1を48時間(2日)にセットする。このタイマT1は、セットされた後から時間経過に従って計時(デクリメント)する。
【００７３】
その後およびS2でシナリオ1を検出しないと判定した場合には、シナリオ2〜6について同様の動作を行う。例えば、S12では、シナリオ6を検出したか否かを判定し、それを検出したと判定すれば、S13で、シナリオ6の検出フラグF6を「１」にセットし、シナリオ6に対するタイマT6を48時間(2日)にセットする。このタイマT6も、セットされた後から時間経過に従って計時する。
【００７４】
次に、S14で、タイマT1がタイムアップ(T1=0)したか否かを判定し、タイムアップしたと判定すれば、シナリオ1の検出フラグを「０」にリセットする。
【００７５】
その後およびS14でタイマT1の計時が完了していないと判定した場合には、タイマT2〜T6について同様の動作を行う。例えば、S24では、タイマT6がタイムアップ(T6=0)したか否かを判定し、タイムアップしたと判定すれば、シナリオ6の検出フラグF6を「０」にリセットする。
【００７６】
次に、S26で、シナリオ1〜6の検出フラグF1〜F6とストーリ記憶部15(図６)に記憶されている重みW1〜W6を用いて、上記の式(1)により特定会話推定値Rを算出し、S27で、特定会話推定値Rがしきい値R0を超えているか否かを判定する。
【００７７】
ここで、特定会話推定値Rがしきい値R0を超えていると判定すれば、S28で、特定会話検知信号を送出するが、特定会話推定値Rがしきい値R0を超えていると判定しなければ、S2以下の処理を繰り返す。
【００７８】
以上のように、図７のフローチャートでは、各シナリオを検出した時点で、そのシナリオに対応したフラグ(F1〜F6)をセットし、その都度、特定会話推定値Rを算出するようにしている。
【００７９】
また、振り込め詐欺の場合、詐欺の会話が複数回の通話に分けて行われ、最初の詐欺の会話の開始から最後の詐欺の会話の終了までの時間が長くなる場合がある。このような場合でも、通常、翌日には次の連絡がある。図７のアルゴリズムによれば、シナリオを検出した2日以内の複数回の通話から特定会話を検知でき、2日以上前に検出されて、その後に検出されないシナリオ分の重みについては加算しないようにすることができる。
【００８０】
図８は、図７のアルゴリズムによる特定会話検知動作の結果の例を示す。図８において、横軸は、最初の通話開始からの経過時間であり、縦軸は、特定会話推定値である。特定会話推定値には、各シナリオｉを検出した時点で、そのシナリオｉに応じた重み(ポイント)が随時加算され、特定会話推定値がしきい値を超えると、当該会話は特定会話と検知される。例えば、危険度が高い詐欺の会話と判定される。
【００８１】
図９は、シナリオの出現順を考慮した場合の特定会話検知アルゴリズムの例を示すフローチャートである。
【００８２】
シナリオの出現順を考慮する場合には、初期化の段階において、最初に出現する可能性のあるシナリオのみのシナリオ検出イネーブルフラグ、例えば、シナリオ１のシナリオ検出イネーブルフラグ(DE1)を有効とし、それ以外のシナリオのシナリオ検出イネーブルフラグ(DE2〜DE6)を無効に設定する。
【００８３】
そして、各シナリオの検出の判定においては、当該シナリオのシナリオ検出イネーブルフラグが無効の場合はキーワードを検出してもシナリオを検出しないものとし、当該シナリオのシナリオ検出イネーブルフラグが有効かつキーワードを検出した場合はシナリオを検出するものとする。また、特定のシナリオを検出した場合は、予め定められたシナリオの出現順に従って、その後に検出する可能性のあるシナリオのシナリオ検出イネーブルフラグを有効とする。
【００８４】
以上のように制御することにより、予め定めたシナリオの出現順の条件を満足した場合にのみシナリオを検知することが可能となり、これにより明らかな誤検出を防止できる。なお、シナリオの出現順の情報は、ストーリ記憶部15(図６)に記憶すればよい。
【００８５】
以上実施形態について説明したが、本発明は、上記実施形態に限定されるものでなく、種々に変形されたものも含むものである。
【００８６】
上記したように、各シナリオにおいて発話される内容はストーリの構成要素として統一性を有するが、発話において使用される表現としては、ある程度定型化される場合もあれば、多様に表現される場合もある。そこで、多様な表現に対処するために、ストーリを各シナリオに分解し、さらに各シナリオをサブシナリオに分解し、検出されたサブシナリオを元にしてストーリを推定することもできる。
【００８７】
例えば、図１２の"(2)頼みごとがあるとの相談"のシナリオで頻繁に出現するフレーズの"頼むから"、"助けてよ"、"他人には相談できない"は、互いに異なる内容である。このような場合には、発話内容(フレーズ)の分類の観点から、１つのシナリオを複数のサブシナリオに分解し、その中の１つを検出すれば当該シナリオを検出したとすればよい。この場合、図４の「フレーズ内容」は、サブシナリオとなり、「フレーズで想定される表現」は、サブシナリオに属するフレーズとなる。また、図５の「フレーズ内容」は、サブシナリオとなり、「フレーズ内容を検出するためのキーワードおよび論理式は、サブシナリオを検出するためのキーワードおよび論理式となる。このように、サブシナリオを導入しても、本質的にはサブシナリオを導入しない場合と同様の動作であるが、その導入により、発話のバリエーションが大きい場合に各シナリオを検出するための論理式の見かけ上の表記が過度の複雑になるのを避けることができる。
【００８８】
図１０は、サブシナリオを導入した場合の、特定会話の種類と各ストーリでのシナリオと各シナリオで頻出する発話内容(サブシナリオ)と各サブシナリオの出現を検出するための論理式(例)の関係の例を示す。
【００８９】
例えば、図１２において、"(4)お金の借用を依頼"のシナリオで頻繁に使用されるフレーズでは、内容の異なる表現が列挙されている(今日中に／お金を用意して／必ず返す)。このようなシナリオについては、それをさらに３つのサブシナリオ(期限を指定する発話／金銭を要求する発話／相手を安心させるための返却意志の表明)に分解する。
【００９０】
図１２において、例えば、キーワードKWS1が検出された場合、サブシナリオ11-1が検出される。また、キーワードKWS2またはKWS3の少なくとも一方が検出された場合には、サブシナリオ11-2が検出される。また、キーワードKWS4またはKWS5とKWS6の両方が同時に検出された場合には、サブシナリオ11-N１が検出される。そして、サブシナリオの検出からシナリオが検出され、さらに、シナリオの出現傾向からストーリが検知される。
【００９１】
なお、各サブシナリオの検出結果から当該シナリオの検出を判断する方法としては、いずれか１つのサブシナリオが検出された場合に当該シナリオが検出されたとすることができるが、シナリオ内での複数のサブシナリオの各々の重要度に応じた重みを予め定義しておき、検知されたすべてのサブシナリオの重みの加算結果をしきい値判定して当該シナリオを検出するようにしてもよい。さらに、複数のサブシナリオの出現傾向からシナリオを検出するようにしてもよい。
【００９２】
以上のようにして一連の通話おける音声からサブシナリオを検出し、検出されたサブシナリオを元にしてシナリオを検出でき、さらに、検出されたシナリオのパターンと各ストーリでの特定会話において出現頻度の高いシナリオのパターンの類似度から特定会話を検知できる。
【００９３】
また、例えば、名詞と動詞からなるフレーズにおいて、名詞と動詞の各々に複数の候補がある場合、この組み合わせを個別に登録するとキーワード数が非常に大きくなる。このような場合には、
【００９４】
(名詞１ or 名詞２ ) ＆ (動詞１ or 動詞２ ）
のように、論理式を用いて、検出すべきキーワードを定義してもよい。
【００９５】
また、主語と動詞、あるいは動詞と目的語からなるフレーズを検出する場合に、複数の主語の候補、複数の動詞の候補があり、任意の組み合わせが想定される場合には、それらを
【００９６】
(主語１ or 主語２ or 主語３ ) ＆ {動詞１ or 動詞２ }
【００９７】
{動詞１ or 動詞２ } ＆ {目的語１ or 目的語２ or 目的語３ }
のような、論理式で定義すればよい。
【００９８】
ここで、主語k(=1, 2, 3)、動詞m(=1, 2)、目的語n(=1, 2, 3)の各々は、特定のキーワードを表し、このキーワードが検出された場合に論理値「１」、未検出の場合に論理値「０」とし、論理式の値が「１」となる場合に当該シナリオが検出されたと判断すすればよい。
【００９９】
また、図７に示すフローチャートに従う動作では、タイマTｉを導入し、これを各シナリオｉの検出時に48時間(2日)に設定し、時間の経過とともにデクリメントさせ、そのタイマの値が0になった時、それに対応するシナリオのフラグFｉを0にリセットするようにして、シナリオｉを検出した事象に対する有効期間を設けているが、1回の通話内でシナリオｉを検出し、特定会話推定値Rを算出して特定会話を検知するようにすることもできる。
【符号の説明】
【０１００】
10・・・特定会話検出装置、11, 101・・・キーワード記憶部、12, 102・・・音声認識部、13・・・シナリオ記憶部、14・・・シナリオ検出部、15・・・ストーリ記憶部、16・・・特定会話推定値計算部、17, 104・・・しきい値判定部、103・・・カウンタ
【図１】
2018013529.tif 000004
【図２】
2018013529.tif 000005
【図３】
2018013529.tif 000006
【図４】
2018013529.tif 000007
【図５】
2018013529.tif 000008
【図６】
2018013529.tif 000009
【図７】
2018013529.tif 000010
【図８】
2018013529.tif 000011
【図９】
2018013529.tif 000012
【図１０】
2018013529.tif 000013
【図１１】
2018013529.tif 000014
【図１２】
2018013529.tif 000015