(57)【要約】【課題】電話を利用した詐欺の防止を支援すること。【解決手段】音声通話における通話内容を示す音声データから、音声認識手法によりテキストデータを作成する音声認識手段と、前記音声認識手段により作成されたテキストデータと、予め学習された学習済モデルとを用いて、前記音声通話が特定の通話に該当する確度を算出する確度算出手段と、前記確度算出手段により算出された確度が所定の閾値以上であるか否かを判定する判定手段と、前記判定手段により前記確度が前記閾値以上であると判定された場合、前記音声通話が特定の通話であることを所定の端末に通知する通知手段と、を有することを特徴とする。【選択図】図１
2019153961.tif 000002
【特許請求の範囲】
【請求項１】
音声通話における通話内容を示す音声データから、音声認識手法によりテキストデータを作成する音声認識手段と、
前記音声認識手段により作成されたテキストデータと、予め学習された学習済モデルとを用いて、前記音声通話が特定の通話に該当する確度を算出する確度算出手段と、
前記確度算出手段により算出された確度が所定の閾値以上であるか否かを判定する判定手段と、
前記判定手段により前記確度が前記閾値以上であると判定された場合、前記音声通話が特定の通話であることを所定の端末に通知する通知手段と、
を有することを特徴とする情報処理システム。
【請求項２】
前記音声データ及び前記テキストデータの少なくとも一方を用いて、感情分析手法により、前記音声通話における話者の感情を分析する感情分析手段を有し、
前記確度算出手段は、
更に、前記感情分析手段による分析結果を用いて、前記音声通話が特定の通話に該当する確度を算出する、ことを特徴とする請求項１に記載の情報処理システム。
【請求項３】
前記通知手段による通知が行われた場合、前記テキストデータを用いて、前記学習済モデルを追加学習して、該学習済モデルのパラメータを更新する更新手段を有する、ことを特徴とする請求項１又は２に記載の情報処理システム。
【請求項４】
前記通知手段は、
前記判定手段により前記確度が前記閾値以上であると判定された場合、前記音声通話に割り込み通話を行うための電話番号を前記端末に通知する、ことを特徴とする請求項１乃至３の何れか一項に記載の情報処理システム。
【請求項５】
前記判定手段により前記確度が前記閾値以上であると判定された場合、前記音声通話を切断させる切断手段を有する、ことを特徴とする請求項１乃至４の何れか一項に記載の情報処理システム。
【請求項６】
前記特定の通話は、電話を利用した詐欺に関する通話であり、
前記学習済モデルは、前記電話を利用した詐欺に関する通話に用いられる単語、フレーズ、及び文のうちの少なくとも１つが含まれる学習データを用いて学習されたニューラルネットワークモデルである、ことを特徴とする請求項１乃至５の何れか一項に記載の情報処理システム。
【請求項７】
音声通話における通話内容を示す音声データから、音声認識手法によりテキストデータを作成する音声認識手段と、
前記音声認識手段により作成されたテキストデータと、予め学習された学習済モデルとを用いて、前記音声通話が特定の通話に該当する確度を算出する確度算出手段と、
前記確度算出手段により算出された確度が所定の閾値以上であるか否かを判定する判定手段と、
前記判定手段により前記確度が前記閾値以上であると判定された場合、前記音声通話が特定の通話であることを所定の端末に通知する通知手段と、
を有することを特徴とする情報処理装置。
【請求項８】
音声通話における通話内容を示す音声データから、音声認識手法によりテキストデータを作成する音声認識手順と、
前記音声認識手順により作成されたテキストデータと、予め学習された学習済モデルとを用いて、前記音声通話が特定の通話に該当する確度を算出する確度算出手順と、
前記確度算出手順により算出された確度が所定の閾値以上であるか否かを判定する判定手順と、
前記判定手順により前記確度が前記閾値以上であると判定された場合、前記音声通話が特定の通話であることを所定の端末に通知する通知手順と、
をコンピュータが実行することを特徴とする情報処理方法。
【請求項９】
コンピュータを、請求項１乃至６の何れか一項に記載の情報処理システムにおける各手段として機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、情報処理システム、情報処理装置、情報処理方法及びプログラムに関する。
【背景技術】
【０００２】
電話を利用した詐欺（例えば、振り込め詐欺等）を防止する技術が従来から知られている。例えば、電話帳に登録されている番号以外からの着信をランプで知らせたり、通話を録音していることを発信元に知らせたり、所定のボタン押下により予め登録された番号へ発報したりする等の機能（これらの機能を「詐欺防止機能」とも表す。）を有する電話機が知られている。これ以外にも、電話機に取り付けることで、詐欺防止機能を提供するアダプタ装置も知られている。
【０００３】
また、電話を利用した詐欺に用いられた電話番号が格納されたデータベース（いわゆるブラックリスト）を参照し、このデータベースに格納されている電話番号からの着信を防止する技術も知られている。
【０００４】
更に、予め登録されたキーワードが通話内容に含まれていた場合、予め登録された通知先に注意メッセージを送信することで、電話を利用した振り込め詐欺等を防止する技術が知られている（例えば、特許文献１）。
【先行技術文献】
【特許文献】
【０００５】
【特許文献１】特開２０１５−２２０５９４号公報
【発明の概要】
【発明が解決しようとする課題】
【０００６】
しかしながら、例えば、詐欺防止機能を有する電話機や詐欺防止機能を提供するアダプタ装置を用いる場合、このような電話機又はアダプタ装置を購入し、ユーザが各種設定や取り付け等を行う必要があり、ユーザの負担となっていた。また、例えば、データベースに格納されている電話番号からの着信を防止する技術を用いる場合、このデータベースに格納されていない電話番号を用いた詐欺は防止することができなかった。
【０００７】
他方で、例えば、特許文献１に開示されている技術を用いる場合、ユーザは、キーワードを予め登録しておく必要があり、ユーザの負担となっていたと共に、予め登録されたキーワードが通話内容に含まれないような新たな手口の詐欺を防止することはできなかった。
【０００８】
このように、従来技術では、ユーザ側に何等かの作業負担（例えば、電話機又はアダプタ装置の設定作業や取り付け作業、キーワードの登録作業等）が生じていたり、新たな手口の詐欺を効果的に防止することができなかったりした。
【０００９】
本発明の実施の形態は、上記の点に鑑みてなされたもので、電話を利用した詐欺の防止を支援することを目的とする。
【課題を解決するための手段】
【００１０】
上記目的を達成するため、本発明の実施の形態は、音声通話における通話内容を示す音声データから、音声認識手法によりテキストデータを作成する音声認識手段と、前記音声認識手段により作成されたテキストデータと、予め学習された学習済モデルとを用いて、前記音声通話が特定の通話に該当する確度を算出する確度算出手段と、前記確度算出手段により算出された確度が所定の閾値以上であるか否かを判定する判定手段と、前記判定手段により前記確度が前記閾値以上であると判定された場合、前記音声通話が特定の通話であることを所定の端末に通知する通知手段と、を有することを特徴とする。
【発明の効果】
【００１１】
本発明の実施の形態によれば、電話を利用した詐欺の防止を支援することができる。
【図面の簡単な説明】
【００１２】
【図１】本実施形態に係る特定通話通知システムの全体構成の一例を示す図である。
【図２】コンピュータのハードウェア構成の一例を示す図である。
【図３】本実施形態に係る特定通話通知装置、音声認識装置、感情分析装置、及び通話内容分析装置の機能構成の一例を示す図である。
【図４】本実施形態に係る特定通話の通知処理の一例を示すシーケンス図である。
【図５】本実施形態に係る通話内容分析モデルの更新処理の一例を示すシーケンス図である。
【図６】本実施形態に係る特定通話の通知処理の他の例を示すシーケンス図である。
【発明を実施するための形態】
【００１３】
以下、本発明の実施の形態（以下、「本実施形態」と表す。）について説明する。本実施形態では、電話を利用した詐欺に関する通話（以降では、電話を利用した詐欺に関する通話を「特定通話」と表す。）が行われた場合に、予め登録した通知先に特定通話が発生したことを通知する特定通話通知システム１について説明する。
【００１４】
電話を利用した詐欺とは、電話を利用して不正に金銭その他の交付を受けることを目的とした詐欺であり、例えば、振り込め詐欺、オレオレ詐欺、融資保証金詐欺、還付金等詐欺、架空請求詐欺、金融商品取引名目詐欺等が挙げられる。なお、特定通話には、詐欺には該当しないものの着信者に何等かの不快を与える通話（いわゆる迷惑電話やいたずら電話等）が含まれていても良い。
【００１５】
＜特定通話通知システム１の全体構成＞
まず、本実施形態に係る特定通話通知システム１の全体構成について、図１を参照しながら説明する。図１は、本実施形態に係る特定通話通知システム１の全体構成の一例を示す図である。
【００１６】
図１に示すように、本実施形態に係る特定通話通知システム１には、特定通話通知装置１０と、中継装置２０と、端末３０と、音声認識装置４０と、感情分析装置５０と、通話内容分析装置６０とが含まれる。特定通話通知装置１０及び中継装置２０は、電気通信事業者の電話局や通信局等に構築されたシステム環境Ｅに含まれる。また、特定通話通知装置１０と、音声認識装置４０と、感情分析装置５０と、通話内容分析装置６０とは、例えばインターネット等のネットワークを介して通信可能に接続される。
【００１７】
端末３０は、電気通信事業者が提供する音声通話サービス（この音声通話サービスは、「電話サービス」、「通話サービス」、又は単に「電話」とも称される。）を利用する利用者の電話機、携帯電話機、スマートフォン等である。なお、端末３０は、音声通話機能を有するものであれば、例えば、タブレット端末、ＰＣ（パーソナルコンピュータ）、ウェアラブルデバイス、ゲーム機器等であっても良い。
【００１８】
本実施形態では、電話の発信側の端末３０を「発信端末３０ａ」、電話の着信側の端末３０を「着信端末３０ｂ」と表す。また、発信端末３０ａと着信端末３０ｂとの間の通話が特定通話であった場合に、特定通話が発生したことの通知先として着信端末３０ｂ以外に予め登録された端末３０を「通知先端末３０ｃ」と表す。
【００１９】
特定通話通知装置１０は、発信端末３０ａと着信端末３０ｂとの間で特定通話が発生したか否かを判定し、この判定結果に応じて着信端末３０ｂや通知先端末３０ｃに所定の通知を行うコンピュータ又はコンピュータシステムである。なお、以降では、このような通知を行うサービスを「特定通話通知サービス」とも表す。
【００２０】
特定通話通知装置１０は、発信端末３０ａと着信端末３０ｂとの間の通話内容を音声認識装置４０によりテキストデータ化する。また、同時に、特定通話通知装置１０は、発信端末３０ａと着信端末３０ｂとの間の通話内容を感情分析装置５０により感情分析する。そして、特定通話通知装置１０は、これらのテキストデータや感情分析結果を用いた通話内容分析装置６０による分析結果から当該通話が特定通話であるか否かを判定し、この判定結果に応じて通知先端末３０ｃに所定の通知を行う。
【００２１】
中継装置２０は、端末３０間の通話内容を示す音声を中継する装置であり、例えば、局内電話交換機や収容ルータ等である。中継装置２０は、発信端末３０ａと着信端末３０ｂとの間で通話が開始された場合、これら発信端末３０ａと着信端末３０ｂとの間の通話内容を示す音声を相互に中継すると共に、当該音声を特定通話通知装置１０に転送する。ただし、中継装置２０は、発信端末３０ａ及び着信端末３０ｂの少なくとも一方の利用者が特定通話通知サービスに加入している場合にのみ、当該音声を特定通話通知装置１０に転送するようにしても良い。
【００２２】
音声認識装置４０は、発信端末３０ａと着信端末３０ｂとの間の通話内容を表す音声データをテキスト化して、テキストデータを作成するコンピュータ又はコンピュータシステムである。
【００２３】
感情分析装置５０は、発信端末３０ａと着信端末３０ｂとの間の通話内容を感情分析して、感情分析結果を作成するコンピュータ又はコンピュータシステムである。なお、感情分析とは、例えば、電話の発信者や着信者の感情がポジティブであるのか又はネガティブであるのかを分析することである。
【００２４】
通話内容分析装置６０は、音声認識装置４０が作成したテキストデータや感情分析装置５０が分析した感情分析結果を用いて、発信端末３０ａと着信端末３０ｂとの間の通話内容を分析し、当該通話が特定通話である可能性を分析する。このような分析は、機械学習の手法により予め学習された学習済モデルを用いて、当該通話が特定通話であるか否かを分類することで行われる。
【００２５】
なお、後述するように、通話内容分析装置６０は、感情分析装置５０が分析した感情分析結果を用いずに、音声認識装置４０が作成したテキストデータのみを用いて、特定通話の可能性を分析しても良い。
【００２６】
図１に示す特定通話通知システム１の構成は一例であって、他の構成であっても良い。例えば、音声認識装置４０と、感情分析装置５０と、通話内容分析装置６０とのうちの少なくとも１つの装置がシステム環境Ｅに含まれていても良い。また、音声認識装置４０と、感情分析装置５０と、通話内容分析装置６０とが各々異なる装置である必要はなく、例えば、これらの装置のうちの２つ以上の装置が１台の装置で構成（又は１つのシステムとして構成）されていても良い。
【００２７】
＜各種装置のハードウェア構成＞
次に、本実施形態に係る特定通話通知システム１に含まれる特定通話通知装置１０、音声認識装置４０、感情分析装置５０及び通話内容分析装置６０のハードウェア構成について説明する。特定通話通知装置１０、音声認識装置４０、感情分析装置５０及び通話内容分析装置６０は、例えば、図２に示すコンピュータ１００を１台以上用いることにより実現される。図２は、コンピュータ１００のハードウェア構成の一例を示す図である。
【００２８】
図２に示すコンピュータ１００は、入力装置１０１と、表示装置１０２と、外部Ｉ／Ｆ１０３と、ＲＡＭ（Random Access Memory）１０４と、ＲＯＭ（Read Only Memory）１０５と、ＣＰＵ（Central Processing Unit）１０６と、通信Ｉ／Ｆ１０７と、補助記憶装置１０８とを有する。これら各ハードウェアは、それぞれがバスＢを介して通信可能に接続されている。
【００２９】
入力装置１０１は、例えばキーボードやマウス、タッチパネル等であり、コンピュータ１００の利用者が各種操作を入力するのに用いられる。表示装置１０２は、例えばディスプレイ等であり、各種の処理結果を表示する。なお、特定通話通知装置１０と、音声認識装置４０と、感情分析装置５０と、通話内容分析装置６０とは、入力装置１０１及び表示装置１０２の少なくとも一方を有していなくても良い。
【００３０】
外部Ｉ／Ｆ１０３は、外部装置とのインタフェースである。外部装置には、記録媒体１０３ａ等がある。コンピュータ１００は、外部Ｉ／Ｆ１０３を介して、記録媒体１０３ａ等の読み取りや書き込み等を行うことができる。
【００３１】
記録媒体１０３ａには、例えば、フレキシブルディスク、ＣＤ（Compact Disc）、ＤＶＤ（Digital Versatile Disk）、ＳＤメモリカード（Secure Digital memory card）、ＵＳＢ（Universal Serial Bus）メモリカード等がある。
【００３２】
ＲＡＭ１０４は、プログラムやデータを一時保持する揮発性の半導体メモリである。ＲＯＭ１０５は、電源を切ってもプログラムやデータを保持することができる不揮発性の半導体メモリである。ＲＯＭ１０５には、例えば、ＯＳ（Operating System）設定やネットワーク設定等が格納されている。
【００３３】
ＣＰＵ１０６は、ＲＯＭ１０５や補助記憶装置１０８等からプログラムやデータをＲＡＭ１０４上に読み出して処理を実行する演算装置である。
【００３４】
通信Ｉ／Ｆ１０７は、コンピュータ１００をネットワークに接続するためのインタフェースである。補助記憶装置１０８は、例えばＨＤＤ（Hard Disk Drive）やＳＳＤ（Solid State Drive）等であり、プログラムやデータを格納している不揮発性の記憶装置である。
【００３５】
補助記憶装置１０８に格納されているプログラムやデータには、例えば、ＯＳ、当該ＯＳ上において各種機能を実現するアプリケーションプログラム等がある。
【００３６】
本実施形態に係る特定通話通知装置１０、音声認識装置４０、感情分析装置５０及び通話内容分析装置６０は、図２に示すコンピュータ１００を１台以上用いることにより、後述する各種処理を実行することができる。
【００３７】
＜各種装置の機能構成＞
次に、本実施形態に係る特定通話通知システム１に含まれる特定通話通知装置１０、音声認識装置４０、感情分析装置５０及び通話内容分析装置６０の機能構成について、図３を参照しながら説明する。図３は、本実施形態に係る特定通話通知装置１０、音声認識装置４０、感情分析装置５０、及び通話内容分析装置６０の機能構成の一例を示す図である。
【００３８】
≪特定通話通知装置１０≫
図３に示すように、本実施形態に係る特定通話通知装置１０は、音声データ作成部１１と、音声認識要求部１２と、感情分析要求部１３と、通話内容分析要求部１４と、特定通話判定部１５と、通知部１６と、更新データ作成部１７と、更新要求部１８とを有する。これら各機能部は、例えば、特定通話通知装置１０にインストールされた１以上のプログラムがＣＰＵ等に実行させる処理により実現される。
【００３９】
音声データ作成部１１は、中継装置２０から転送された音声から音声データを作成する。音声データ作成部１１は、例えば、音声認識装置４０や感情分析装置５０が処理可能な任意のデータ形式の音声データを作成する。
【００４０】
音声認識要求部１２は、音声データ作成部１１が作成した音声データが含まれる音声認識要求を音声認識装置４０に送信する。音声認識要求部１２は、例えば、ストリーミング方式により音声認識要求を音声認識装置４０に送信する。ストリーミング方式を用いることで、発信端末３０ａと着信端末３０ｂとの間の音声をリアルタイムにテキスト化することができる。
【００４１】
ただし、これに限られず、音声認識要求部１２は、例えば、発信端末３０ａと着信端末３０ｂとの間の通話を所定の時間（例えば、数秒等）毎に区切って、この区切られた区間の間の音声を示す音声データが含まれる音声認識要求を音声認識装置４０に送信しても良い。又は、例えば、通話中における音声の切れ目（例えば、数ｍ秒の無音が発生した箇所等）を特定した上で、特定した音声の切れ目毎に通話を区切って、この区切られた区間の間の音声を示す音声データが含まれる音声認識要求を音声認識装置４０に送信しても良い。これら以外にも、例えば、発信端末３０ａと着信端末３０ｂとの間の通話開始から通話終了までの音声を示す音声データが含まれる音声認識要求を音声認識装置４０に送信しても良い。
【００４２】
感情分析要求部１３は、音声データ作成部１１が作成した音声データが含まれる感情分析要求を感情分析装置５０に送信する。感情分析要求部１３は、例えば、ストリーミング方式により感情分析要求を感情分析装置５０に送信する。ストリーミング方式を用いることで、発信端末３０ａと着信端末３０ｂとの間の音声の感情分析をリアルタイムに行うことができる。
【００４３】
ただし、これに限られず、感情分析要求部１３は、例えば、発信端末３０ａと着信端末３０ｂとの間の通話開始から通話終了までの音声を示す音声データが含まれる感情分析要求を感情分析装置５０に送信しても良い。また、感情分析装置５０がテキストデータから感情分析を行うものである場合には、感情分析要求部１３は、音声データに代えて、音声認識装置４０によりテキスト化されたテキストデータが含まれる感情分析要求を感情分析装置５０に送信しても良い。更に、感情分析装置５０が音声データ及びテキストデータの両方から感情分析を行うものである場合には、感情分析要求部１３は、音声データ及びテキストデータの両方が含まれる感情分析要求を感情分析装置５０に送信しても良い。
【００４４】
通話内容分析要求部１４は、音声認識装置４０によりテキスト化されたテキストデータと、感情分析装置５０による分析結果を示す感情分析結果データとが含まれる通話内容分析要求を通話内容分析装置６０に送信する。通話内容分析要求部１４は、例えば、或る一定の範囲のテキスト（例えば、１単語、数語の単語、１フレーズ、１文等）を示すテキストデータを１つの単位として、このテキストデータと、当該テキストデータに対応する感情分析結果データとが含まれる通話内容分析要求を通話内容分析装置６０に送信する。ただし、これに限られず、通話内容分析要求部１４は、例えば、１文字を示すテキストデータが含まれる通話内容分析要求を通話内容分析装置６０に送信しても良いし、或る意味のある単語の集まり等を示すテキストデータが含まれる通話内容分析要求を通話内容分析装置６０に送信しても良い。なお、テキストデータに対応する感情分析結果データとは、テキストデータを得るのに用いられた音声と同一の音声から得られた感情分析結果データのことである。
【００４５】
ここで、例えば、通話内容分析装置６０が感情分析結果データを用いずに通話内容分析を行うものである場合、通話内容分析要求部１４は、テキストデータのみが含まれる通話内容分析要求を通話内容分析装置６０に送信する。
【００４６】
特定通話判定部１５は、通話内容分析装置６０による分析結果を示す通話内容分析結果データを用いて、発信端末３０ａと着信端末３０ｂとの間の通話が特定通話に該当するか否かを判定する。
【００４７】
通知部１６は、特定通話判定部１５によって発信端末３０ａと着信端末３０ｂとの間の通話が特定通話に該当すると判定された場合、予め登録された着信端末３０ｂや通知先端末３０ｃに所定の通知を送信する。なお、通知先端末３０ｃを特定する情報（例えば、電話番号やメールアドレス等）は、例えば、特定通話通知サービスの利用開始等にあたって、発信端末３０ａや着信端末３０ｂの利用者が予め登録しておく。
【００４８】
ここで、所定の通知とは、例えば、詐欺に関する通話が発生したことを示す電子メールによる通知でも良いし、当該通話が発生したことを示す自動アナウンス等を電話によって通知しても良い。また、これらの通知の両方を行っても良い。更に、発信端末３０ａと着信端末３０ｂとの間の通話に通知先端末３０ｃが割り込み通話を行うための情報（割り込み通話を行うための電話番号等）を通知しても良い。
【００４９】
更新データ作成部１７は、例えば、発信端末３０ａと着信端末３０ｂとの間で通話が行われる度に、後述する通話内容分析モデル６３を更新するための更新データを作成する。
【００５０】
更新要求部１８は、更新データ作成部１７により更新データされると、当該更新データが含まれる更新要求を通話内容分析装置６０に送信する。
【００５１】
なお、図３では、一例として、特定通話通知装置１０の各機能部を１台の装置が有している場合を示しているが、これに限られない。例えば、特定通話通知装置１０が複数台の装置で構成される場合等には、これらの各機能部のそれぞれは、特定通話通知装置１０を構成する複数台の装置のうちのいずれかの装置が有していれば良い。
【００５２】
≪音声認識装置４０≫
図３に示すように、本実施形態に係る音声認識装置４０は、音声認識部４１を有する。音声認識部４１は、例えば、音声認識装置４０にインストールされた１以上のプログラムがＣＰＵ等に実行させる処理により実現される。
【００５３】
音声認識部４１は、特定通話通知装置１０からの音声認識要求を受信すると、既知の音声認識技術により、当該音声認識要求に含まれる音声データをテキスト化して、テキストデータを作成する。そして、音声認識部４１は、作成したテキストデータが含まれる音声認識結果を特定通話通知装置１０に送信する。
【００５４】
≪感情分析装置５０≫
図３に示すように、本実施形態に係る感情分析装置５０は、感情分析部５１を有する。感情分析部５１は、例えば、感情分析装置５０にインストールされた１以上のプログラムがＣＰＵ等に実行させる処理により実現される。
【００５５】
感情分析部５１は、特定通話通知装置１０からの感情分析要求を受信すると、既知の感情分析技術により、当該感情分析要求に含まれる音声データ（又はテキストデータ）に対して感情分析を行って、感情分析結果データを作成する。そして、感情分析部５１は、作成した感情分析結果データが含まれる感情分析結果を特定通話通知装置１０に送信する。
【００５６】
なお、感情分析結果データは、例えば、音声データ（又はテキストデータ）が示す通話における発信者や着信者の感情がポジティブである割合やネガティブである割合を示すデータである。ただし、これに限られず、感情分析データは、例えば、当該発信者や当該着信者の怒り、不安、喜び、悲しみ等の各種感情の割合を示すデータ等であっても良い。
【００５７】
≪通話内容分析装置６０≫
図３に示すように、本実施形態に係る通話内容分析装置６０は、通話内容分析部６１と、モデル更新部６２と、通話内容分析モデル６３とを有する。通話内容分析部６１及びモデル更新部６２は、例えば、通話内容分析装置６０にインストールされた１以上のプログラムがＣＰＵ等に実行させる処理により実現される。また、通話内容分析モデル６３は、例えば、通話内容分析装置６０の補助記憶装置等に記憶されている。
【００５８】
通話内容分析部６１は、特定通話通知装置１０からの通話内容分析要求を受信すると、通話内容分析モデル６３を用いて、当該通話内容分析要求に含まれるテキストデータを「特定通話」又は「特定通話でない」のいずれかに分類し、分類結果とその確度とが含まれる通話内容分析結果データを作成する。なお、このとき、当該通話内容分析要求に感情分析結果データが含まれる場合、通話内容分析部６１は、この感情分析結果データも用いて、当該テキストデータを「特定通話」又は「特定通話でない」のいずれかに分類する。
【００５９】
通話内容分析モデル６３は、既知の機械学習の手法を用いて、予め学習された学習済モデルである。通話内容分析モデル６３としては、例えば、ニューラルネットワーク（特に、ディープニューラルネットワーク）等のモデルを用いることができる。ただし、通話内容分析モデル６３は、これに限られず、例えば、ＳＶＭ（Support Vector Machine）等、機械学習に用いられる種々の分類モデルを用いることができる。なお、通話内容分析モデル６３として、ルールベースの手法により作成された分類モデルを用いても良い。
【００６０】
ここで、通話内容分析モデル６３は、例えば、特定通話に用いられる単語やフレーズ、文等を示すテキストデータと、このテキストデータが分類されるべき結果（「特定通話」又は「特定通話でない」）とが含まれる多数の学習データを用いて、予め学習される。
【００６１】
モデル更新部６２は、例えば、特定通話通知装置１０からの更新要求を受信すると、この更新要求に含まれる更新データを用いて、通話内容分析モデル６３を更新する。すなわち、モデル更新部６２は、当該更新データを用いて、通話内容分析モデル６３のパラメータを更新する。このように、発信端末３０ａと着信端末３０ｂとの間で通話が行われる度に、通話内容分析モデル６３のパラメータが更新されることで、例えば、新たな手口の詐欺も特定通話であると分類することができるようになる。
【００６２】
なお、図３では、一例として、通話内容分析装置６０の各機能部を１台の装置が有している場合を示しているが、これに限られない。例えば、通話内容分析装置６０が複数台の装置で構成される場合等には、これらの各機能部のそれぞれは、通話内容分析装置６０を構成する複数台の装置のうちのいずれかの装置が有していれば良い
＜処理の詳細＞
以降では、本実施形態に係る特定通話通知システム１の処理の詳細について説明する。
【００６３】
≪特定通話の通知処理≫
以降では、一例として、感情分析を用いずに、発信端末３０ａと着信端末３０ｂとの間の通話が特定通話であるか否かを判定して、この判定結果に応じて、着信端末３０ｂや通知先端末３０ｃに所定の通知を行う処理について、図４を参照しながら説明する。図４は、本実施形態に係る特定通話の通知処理の一例を示すシーケンス図である。なお、図４では、発信端末３０ａと着信端末３０ｂとの間の通話が開始され、この通話による音声が中継装置２０から特定通話通知装置１０に転送されたものとして説明する。
【００６４】
特定通話通知装置１０の音声データ作成部１１は、中継装置２０から転送された音声から音声データを作成する（ステップＳ１０１）。
【００６５】
なお、特定通話通知装置１０は、例えば、着信端末３０ｂの利用者が特定通話通知サービスに加入しているか否かを判定し、特定通話通知サービスに加入していると判定した場合にのみ、音声データを作成するようにしても良い。また、この判定は、特定通話通知装置１０とは異なる他の装置（例えば、中継装置２０、又は中継装置２０と特定通話通知装置１０との間に設置される装置等）が行っても良い。
【００６６】
次に、特定通話通知装置１０の音声認識要求部１２は、音声データ作成部１１が作成した音声データが含まれる音声認識要求を音声認識装置４０に送信する（ステップＳ１０２）。このとき、音声認識要求部１２は、例えば、ストリーミング方式を用いて、音声データが含まれる音声認識要求を音声認識装置４０に送信する。
【００６７】
音声認識装置４０の音声認識部４１は、音声認識要求を受信すると、既知の音声認識技術により、当該音声認識要求に含まれる音声データをテキスト化して、テキストデータを作成する（ステップＳ１０３）。
【００６８】
次に、音声認識装置４０の音声認識部４１は、上記のステップＳ１０３で作成したテキストデータが含まれる音声認識結果を特定通話通知装置１０に送信する（ステップＳ１０４）。
【００６９】
特定通話通知装置１０の通話内容分析要求部１４は、音声認識装置４０によりテキスト化されたテキストデータが含まれる通話内容分析要求を通話内容分析装置６０に送信する（ステップＳ１０５）。
【００７０】
通話内容分析装置６０の通話内容分析部６１は、通話内容分析要求を受信すると、通話内容分析モデル６３を用いて、当該通話内容分析要求に含まれるテキストデータを「特定通話」又は「特定通話でない」のいずれかに分類し、分類結果とその確度とが含まれる通話内容分析結果データを作成する（ステップＳ１０６）。なお、確度とは、該当の分類結果に分類される可能性を表す値（例えば、パーセンテージ）である。したがって、通話内容分析結果データは、例えば、分類結果「特定通話」、確度「６５％」等と表される。
【００７１】
次に、通話内容分析装置６０の通話内容分析部６１は、上記のステップＳ１０６で作成した通話内容分析結果データが含まれる通話内容分析結果を特定通話通知装置１０に送信する（ステップＳ１０７）。
【００７２】
特定通話通知装置１０の特定通話判定部１５は、通話内容分析結果を受信すると、当該通話内容分析結果に含まれる通話内容分析結果データを用いて、発信端末３０ａと着信端末３０ｂとの間の通話が特定通話に該当するか否かを判定する（ステップＳ１０８）。特定通話判定部１５は、例えば、通話内容分析結果データに含まれる分類結果「特定通話」の確度が、予め設定された所定の閾値以上であるか否かを判定し、当該確度が当該閾値以上である場合には、当該通話が特定通話に該当すると判定する。一方で、特定通話判定部１５は、例えば、当該確度が当該閾値未満である場合には、当該通話は特定通話に該当しないと判定する。
【００７３】
例えば、上記のステップＳ１０７で得られた通話内容分析結果データが分類結果「特定通話」、確度「６５％」であり、予め設定された閾値が「６０」であるものとする。この場合、当該確度「６５％」は閾値「６０」以上であるため、特定通話判定部１５は、当該通話は特定通話に該当すると判定する。一方で、例えば、上記のステップＳ１０７で得られた通話内容分析結果データが分類結果「特定通話」、確度「５５％」であり、予め設定された閾値が「６０」であるものとする。この場合、当該確度「５５％」は閾値「６０」未満であるため、特定通話判定部１５は、当該通話は特定通話に該当しないと判定する。
【００７４】
上記のステップＳ１０８において、当該通話が特定通話に該当すると判定された場合、特定通話通知装置１０の通知部１６は、予め登録された通知先端末３０ｃに所定の通知を送信する（ステップＳ１０９）。
【００７５】
なお、上述したように、通知としては、例えば、詐欺に関する通話が発生したことを示す電子メールでも良いし、当該通話が発生したことを示す自動アナウンス等を電話しても良い。また、これらの通知の両方を行っても良い。このとき、電子メールには、例えば、上記のステップＳ１０６の通話内容分析で特定通話と分類されたテキストデータが表すテキストやその分類結果の確度等が含まれていても良い。
【００７６】
更に、発信端末３０ａと着信端末３０ｂとの間の通話に通知先端末３０ｃが割り込み通話を行うための電話番号等を通知しても良い。これ以外にも、例えば、上記のステップＳ１０８で分類結果「特定通話」の角度が非常に高い場合等には、特定通話通知サービスの利用者の事前承諾等を前提として、発信端末３０ａと着信端末３０ｂとの間の通話を強制的に切断するようにしても良い。また、このような通話の切断は、上記の通知を行った後に行っても良いし、上記の通知の代わりに行っても良い。
【００７７】
以上のように、本実施形態に係る特定通話通知システム１では、機械学習の手法により予め学習された通話内容分析モデル６３を用いて、発信端末３０ａと着信端末３０ｂとの間の通話が特定通話であるか否かを判定することができる。そして、本実施形態に係る特定通話通知システム１では、発信端末３０ａと着信端末３０ｂとの間の通話が特定通話であると判定された場合、予め登録された通知先端末３０ｃ（例えば、着信端末３０ｂの家族等が利用する端末３０）に所定の通知を行う。
【００７８】
これにより、本実施形態に係る特定通話通知システム１では、特定通話通知サービスの利用者に対して何等かの作業負担（例えば、電話機又はアダプタ装置の設定作業や取り付け作業、キーワードの登録作業等）を発生させることなく、振り込め詐欺等に関する通話（特定通話）を防止することができるようになる。
【００７９】
また、本実施形態に係る特定通話通知システム１では、機械学習の手法により予め学習された通話内容分析モデル６３を用いることで、例えばルールベース等による手法と比較して、未知の単語やフレーズ等が用いられた場合であっても特定通話と分類できる可能性が高くなり、振り込め詐欺等をより効果的に防止することができる。同様に、当該通話内容分析モデル６３を用いることで、単なる単語やフレーズ等だけでなく、これらの単語やフレーズの前後の文脈をも考慮した分類が可能となり、例えばルールベース等による手法と比較して、特定通話をより高い精度で分類することが可能となる。
【００８０】
≪通話内容分析モデル６３の更新処理≫
以降では、発信端末３０ａと着信端末３０ｂとの間で通話が行われる度に、通話内容分析モデル６３を更新する処理について、図５を参照しながら説明する。図５は、本実施形態に係る通話内容分析モデル６３の更新処理の一例を示すシーケンス図である。なお、図５の処理は、例えば、発信端末３０ａと着信端末３０ｂとの間の通話終了後に実行されても良いし、発信端末３０ａと着信端末３０ｂとの間の通話中にバックグラウンド等で実行されても良い。又は、所定の期間（例えば、１週間や１か月）毎に実行されても良い。
【００８１】
まず、特定通話通知装置１０の更新データ作成部１７は、通話内容分析モデル６３を更新するための更新データを作成する（ステップＳ２０１）。
【００８２】
ここで、例えば、教師ありの手法により通話内容分析モデル６３が更新される場合には、更新データは、例えば、図４のステップＳ１０４で得られたテキストデータに対して、このテキストデータが分類されるべき結果を示す正解ラベル（「特定通話」又は「特定通話でない」）が付与されたデータである。このとき、正解ラベルは、例えば、図４のステップＳ１０９で通知を受けた通知先端末３０ｃからフィードバックされた情報等を利用することができる。例えば、図４のステップＳ１０９で通知を受けた通知先端末３０ｃから「特定通話でない」旨のフィードバックを受けた場合、当該テキストデータに対して、「特定通話でない」を示す正解ラベルが付与されれば良い。一方で、図４のステップＳ１０９で通知を受けた通知先端末３０ｃから「特定通話である」旨のフィードバックを受けた場合、当該テキストデータに対して、「特定通話」を示す正解ラベルが付与されれば良い。なお、正解ラベルは、通知先端末３０ｃからのフィードバックに限られず、種々の方法で決定されても良い。例えば、図４のステップＳ１０４で得られた大量のテキストデータを既知のデータ解析手法等により所定の観点でリスト化したデータベース等を用いて、オペレータ等によって、更新データとして用いるか否か、更新データとして用いる場合の正解ラベルを「特定通話」又は「特定通話でない」のいずれにするか等が判断されても良い。リスト化する観点としては、例えば、所定の数以上の複数の着信元電話番号に発信された通話の発信元電話番号でテキストデータをリスト化する、通話内容が同様又は類似するテキストデータでリスト化すること等が考えられる。
【００８３】
一方で、例えば、教師なし学習の手法により通話内容分析モデル６３が更新される場合には、更新データ作成部１７は、図４のステップＳ１０４で得られたテキストデータをそのまま更新データとすれば良い。
【００８４】
次に、特定通話通知装置１０の更新要求部１８は、上記のステップＳ２０１で作成された更新データが含まれる更新要求を通話内容分析装置６０に送信する（ステップＳ２０２）。
【００８５】
通話内容分析装置６０のモデル更新部６２は、更新要求を受信すると、当該更新要求に含まれる更新データを用いて、通話内容分析モデル６３を更新する（ステップＳ２０３）。すなわち、モデル更新部６２は、既知の機械学習の手法により、通話内容分析モデル６３の追加学習を行って、当該通話内容分析モデル６３のパラメータを更新する。
【００８６】
そして、通話内容分析装置６０のモデル更新部６２は、更新結果を特定通話通知装置１０に送信する（ステップＳ２０４）。
【００８７】
以上のように、本実施形態に係る特定通話通知システム１では、発信端末３０ａと着信端末３０ｂとの間で通話が行われる度に、この通話内容から通話内容分析モデル６３を更新する。これにより、例えば、新たな手口の詐欺も特定通話であると分類することができるようになる。
【００８８】
特に、本実施形態に係る特定通話通知システム１では、電気通信事業者の電話局や通信局等に構築されたシステム環境Ｅに含まれる特定通話通知装置１０が更新データを作成し、通話内容分析装置６０に対して更新要求を行う。このため、膨大な数の通話から作成した膨大な数の更新データを用いて、通話内容分析モデル６３を更新することができ、高い精度で特定通話を分類することができる通話内容分析モデル６３の獲得が期待できる。
【００８９】
なお、図５では、発信端末３０ａと着信端末３０ｂとの間で通話が行われる度に通話内容分析モデル６３を更新する場合について説明したが、例えば、通話内容分析モデル６３の更新が必要になった任意のタイミングで実行されても良い。例えば、社会情勢等に鑑みて或る種の詐欺の発生が予測されるような場合、上記のステップＳ２０１でこの詐欺特有の手口を表す更新データを作成して、当該更新データにより通話内容分析モデル６３が更新されても良い。
【００９０】
≪特定通話の通知処理の他の例≫
以降では、一例として、感情分析も用いて、発信端末３０ａと着信端末３０ｂとの間の通話が特定通話であるか否かを判定して、この判定結果に応じて、通知先端末３０ｃに所定の通知を行う処理について、図６を参照しながら説明する。図６は、本実施形態に係る特定通話の通知処理の他の例を示すシーケンス図である。なお、図６では、発信端末３０ａと着信端末３０ｂとの間の通話が開始され、この通話による音声が中継装置２０から特定通話通知装置１０に転送されたものとして説明する。図６のステップＳ１０１〜ステップＳ１０４及びステップＳ１０８〜ステップＳ１０９は、図４と同様であるため、その説明を省略する。
【００９１】
特定通話通知装置１０の感情分析要求部１３は、音声データ作成部１１が作成した音声データが含まれる感情分析要求を感情分析装置５０に送信する（ステップＳ３０１）。このとき、感情分析要求部１３は、例えば、ストリーミング方式を用いて、音声データが含まれる感情分析要求を感情分析装置５０に送信する。
【００９２】
なお、感情分析装置５０がテキストデータに対して感情分析を行う場合は、感情分析要求部１３は、音声認識装置４０から得たテキストデータが含まれる感情分析要求を当該感情分析装置５０に送信する。
【００９３】
また、感情分析装置５０がテキストデータに対して感情分析を行う場合は、例えば、テキストデータが含まれる感情分析要求を音声認識装置４０が感情分析装置５０に送信しても良い。この場合、音声認識装置４０は、感情分析装置５０から得られた感情分析結果データと、当該テキストデータとを特定通話通知装置１０に送信すれば良い。
【００９４】
感情分析装置５０の感情分析部５１は、感情分析要求を受信すると、既知の感情分析技術により、当該感情分析要求に含まれる音声データ（又はテキストデータ）に対して感情分析を行って、感情分析結果データを作成する（ステップＳ３０２）。ここで、感情分析結果データには、例えば、話者（発信者又は受信者）及びフレーズ毎に、感情がポジティブであるのか又はネガティブであるのかの分類とその確度とが含まれる。なお、感情分析結果データは、これに限られず、例えば、話者の怒り、不安、喜び、悲しみ等の各種感情の分類とその確度とが含まれるデータであっても良いし、話者が嘘を話しているか否かの分類とその確度とが含まれるデータであっても良い。
【００９５】
次に、感情分析装置５０の感情分析部５１は、上記のステップＳ３０２で作成した感情分析結果データが含まれる感情分析結果を特定通話通知装置１０に送信する（ステップＳ３０３）。
【００９６】
特定通話通知装置１０の通話内容分析要求部１４は、音声認識装置４０によりテキスト化されたテキストデータと、感情分析装置５０による分析結果を示す感情分析結果データとが含まれる通話内容分析要求を通話内容分析装置６０に送信する（ステップＳ３０４）。
【００９７】
通話内容分析装置６０の通話内容分析部６１は、通話内容分析要求を受信すると、通話内容分析モデル６３と、感情分析結果データとを用いて、テキストデータを「特定通話」又は「特定通話でない」のいずれかに分類し、分類結果とその確度とが含まれる通話内容分析結果データを作成する（ステップＳ３０５）。
【００９８】
なお、このとき、通話内容分析モデル６３は、感情分析結果データも用いて、テキストデータを「特定通話」又は「特定通話でない」のいずれかに分類し、分類結果とその確度とを得るモデルであるものとする。したがって、この場合、通話内容分析モデル６３は、感情分析結果も含まれる学習データを用いて、予め学習される。
【００９９】
次に、通話内容分析装置６０の通話内容分析部６１は、上記のステップＳ３０５で作成した通話内容分析結果データが含まれる通話内容分析結果を特定通話通知装置１０に送信する（ステップＳ３０６）。
【０１００】
以上のように、本実施形態に係る特定通話通知システム１では、感情分析の結果も用いて、発信端末３０ａと着信端末３０ｂとの間の通話が特定通話であるか否かを判定することができる。このため、感情分析の結果を用いない場合と比較して、特定通話をより高い精度で分類できることが期待できる。特に、例えば、或る特定の単語やフレーズ、文脈等では、テキストのみによる特定通話の分類が困難な場合が有り得るため、感情分析の結果を用いることで、より高い精度での分類が期待できる。
【０１０１】
＜変形例等＞
以上、本実施形態について説明したが、以下のような変形例又は応用例も可能である。
【０１０２】
（１）通話内容分析装置６０による通話内容分析は、テキストデータ（及び感情分析結果データ）に加えて、発信端末３０ａの電話番号と、着信端末３０ｂの場所と、通話の時間帯と、通話時間とのうちの少なくとも１つの情報を更に用いても良い。これにより、特定通話をより高い精度で分類できることが期待できる。これは、例えば、振り込め詐欺等に用いられる電話番号や振り込め詐欺等の電話が発生し易い時間帯、通話時間等も考慮した分類が可能となるためである。また、着信端末３０ｂの場所は、例えば、銀行のＡＴＭ付近での通話は振り込め詐欺等である可能性があるためである。なお、これらの情報の少なくとも１つの情報を用いた通話内容分析を行う場合には、通話内容分析モデル６３は、該当の情報も用いて予め学習させておく必要がある。
【０１０３】
（２）音声認識装置４０による音声認識と、感情分析装置５０による感情分析と、通話内容分析装置６０による通話内容分析とのうちの少なくも１つは、通話内容通知サービスを提供するサービス提供者とは異なる第三者により提供される外部サービス（例えば、クラウド型のサービス等）によって実現されても良い。
【０１０４】
（３）特定通話通知装置１０と、音声認識装置４０と、感情分析装置５０とが有する各機能のうちの一部の機能を着信端末３０ｂが有していても良い。例えば、音声認識装置４０による音声認識や感情分析装置５０による感情分析等を着信端末３０ｂが行っても良い。この場合、特定通話通知装置１０は、着信端末３０ｂからテキストデータや感情分析結果データ等を受信すれば良い。又は、例えば、着信端末３０ｂが音声認識装置４０や感情分析装置５０に対して、音声認識要求や感情分析要求等を送信しても良い。
【０１０５】
本発明は、具体的に開示された上記の実施形態に限定されるものではなく、特許請求の範囲から逸脱することなく、種々の変形や変更が可能である。
【符号の説明】
【０１０６】
１        特定通話通知システム
１０      特定通話通知装置
１１      音声データ作成部
１２      音声認識要求部
１３      感情分析要求部
１４      通話内容分析要求部
１５      特定通話判定部
１６      通知部
１７      更新データ作成部
１８      更新要求部
２０      中継装置
３０      端末
３０ａ    発信端末
３０ｂ    着信端末
３０ｃ    通知先端末
４０      音声認識装置
４１      音声認識部
４２      音声認識モデル
５０      感情分析装置
５１      感情分析部
５２      感情分析モデル
６０      通話内容分析装置
６１      通話内容分析部
６２      モデル更新部
６３      通話内容分析モデル
【図１】
2019153961.tif 000003
【図２】
2019153961.tif 000004
【図３】
2019153961.tif 000005
【図４】
2019153961.tif 000006
【図５】
2019153961.tif 000007
【図６】
2019153961.tif 000008