(57)【要約】【課題】複数の通話で行われる詐欺の進行度を判定する。【解決手段】詐欺進行度判定装置は、通信装置を用いた通話の内容の特徴に基づいて、その通話が、詐欺を構成する複数の過程のうちのそれぞれに属する確率である個別確率を導出し、その通話が行われた時点において、詐欺を構成する複数の過程のそれぞれに到達している確率である到達確率を導出する。このとき、詐欺進行度判定装置は、第一の通話が行われたときよりも前に前記通信装置を用いて行われた第二の通話に対して導出された到達確率が保持されている場合には、第二の通話に対する到達確率と、第一の通話に対する個別確率とを用いて、第一の通話に対する到達確率を導出し、保持されている到達確率を更新する。そして、詐欺進行度判定装置は、導出された到達確率に基づいて判定した詐欺進行度に応じた情報を出力する。【選択図】図８
2010273130.tif 000002
【特許請求の範囲】
【請求項１】
通信装置を用いた通話を解析して当該通話の特徴を特定する通話解析手段と、
前記通話解析手段によって特定された前記通話の特徴に基づいて、当該通話が、詐欺を構成する複数の過程のそれぞれに属する確率である個別確率を導出する個別確率導出手段と、
前記個別確率導出手段により導出された前記個別確率に基づき、前記通話が行われた時点において、詐欺を構成する複数の過程のそれぞれに到達している確率である到達確率を導出する到達確率導出手段と、
前記到達確率導出手段により導出された前記到達確率を保持する到達確率保持手段と、
前記到達確率導出手段により導出された前記到達確率に基づいて、詐欺が進行している度合いである詐欺進行度を判定し、判定した当該詐欺進行度に応じた情報を出力する詐欺進行度出力手段とを具備し、
前記到達確率導出手段は、
第一の通話が行われたときよりも前に前記通信装置を用いて行われた第二の通話に対して導出された前記到達確率が、前記到達確率保持手段により保持されている場合には、
保持されている前記第二の通話に対する到達確率と、前記第一の通話に対して前記個別確率導出手段により導出された前記個別確率とを用いて、当該第一の通話に対する前記到達確率を導出し、導出した当該到達確率で、前記到達確率保持手段により保持されている前記到達確率を更新する
ことを特徴とする詐欺進行度判定装置。
【請求項２】
詐欺を構成する各過程に相当する通話である詐欺通話の特徴を表す第一の辞書と、前記通信装置を用いた詐欺ではない通話である非詐欺通話の特徴を表す第二の辞書とを記憶する第一の記憶手段を具備し、
前記個別確率導出手段は、前記第一の記憶手段に記憶された前記第一の辞書及び前記第二の辞書によって表される特徴と、前記通話解析手段によって特定された特徴とを照合し、その照合結果に応じた前記個別確率を導出する
ことを特徴とする請求項１に記載の詐欺進行度判定装置。
【請求項３】
前記第一の辞書は、前記詐欺通話から抽出された複数の単語を含み、
前記第二の辞書は、前記非詐欺通話から抽出された複数の単語を含み、
前記通話解析手段は、前記通話に含まれる単語を当該通話の特徴として特定する
ことを特徴とする請求項２に記載の詐欺進行度判定装置。
【請求項４】
同一の前記通信装置を用いた時系列の１又は複数回の通話を解析して当該１又は複数回の通話の全てに含まれる特徴を特定し、当該特徴を表す第三の辞書を記憶する第二の記憶手段を具備し、
前記到達確率導出手段は、通信端末を用いた通話に対して前記通話解析手段により特定された当該通話の特徴と、当該通信端末において当該通話の前に行われた１又は複数回の通話についての前記第三の辞書が表す特徴とが重複している割合を加味して、前記到達確率を導出する
ことを特徴とする請求項１〜３のいずれか１に記載の詐欺進行度判定装置。
【請求項５】
前記第三の辞書は、前記１又は複数回の通話に含まれる単語群から特定される、通話における話題を当該通話の特徴として記憶する
ことを特徴とする請求項４に記載の詐欺進行度判定装置。
【請求項６】
前記到達確率導出手段は、
詐欺を構成する複数の過程のうち最初の過程に到達している前記到達確率として前記到達確率導出部により導出された値が閾値以下であった場合には、当該最初の過程以外の過程に到達している到達確率を導出しない
ことを特徴とする請求項１〜５のいずれか１に記載の詐欺進行度判定装置。
【請求項７】
詐欺進行度出力手段は、前記通信端末を用いた通話に対して前記到達確率導出手段により導出された到達確率に、当該通信端末を用いて行われた詐欺を構成する過程に相当する全通話の期間を加味して、前記詐欺進行度を判定する
ことを特徴とする請求項１〜６のいずれか１に記載の詐欺進行度判定装置。
【請求項８】
請求項２記載の詐欺進行度判定装置において用いられる第一の辞書及び第二の辞書を生成する辞書生成装置であって、
詐欺を構成する複数の過程のそれぞれについて分類された、詐欺に関する通話である詐欺通話から、当該過程毎に当該詐欺通話の特徴を抽出し、当該特徴を表す第一の辞書を生成する第一辞書生成手段と、
通信端末を用いた通話の話者毎に分類された、当該話者による、詐欺でない通話である非詐欺通話から、当該非詐欺通話の特徴を抽出し、当該特徴を表す第二の辞書を生成する第二辞書生成手段と、
を具備することを特徴とする辞書生成装置。
【請求項９】
前記第一の辞書は、前記詐欺通話から抽出された複数の単語を含み、
前記第二の辞書は、前記非詐欺通話から抽出された複数の単語を含む
ことを特徴とする請求項８に記載の辞書生成装置。
【請求項１０】
詐欺の進行度を判定する詐欺進行度判定装置が行う詐欺進行度判定方法であって、
通信装置を用いた通話を解析して当該通話の内容の特徴を特定する通話解析ステップと、
前記通話解析ステップにおいて特定された特徴に基づいて、前記通話が、詐欺を構成する複数の過程のうちのそれぞれに属する確率である個別確率を導出する個別確率導出ステップと、
前記個別確率導出ステップにおいて導出された前記個別確率に基づき、前記通話が行われた時点において、詐欺を構成する複数の過程のそれぞれに到達している確率である到達確率を導出する到達確率導出ステップと、
前記到達確率導出ステップにおいて導出された前記到達確率を保持する到達確率保持ステップと、
前記到達確率導出ステップにおいて導出された前記到達確率に基づいて、詐欺が進行している度合いである詐欺進行度を判定し、判定した当該詐欺進行度に応じた情報を出力する詐欺進行度出力ステップとを具備し、
前記到達確率導出ステップにおいて、
第一の通話が行われたときよりも前に前記通信装置を用いて行われた第二の通話に対して導出された前記到達確率が、前記到達確率保持ステップにより保持されている場合には、
保持されている前記第二の通話に対する到達確率と、前記第一の通話に対して前記個別確率導出ステップにより導出された前記個別確率とを用いて、当該第一の通話に対する前記到達確率を導出し、導出した当該到達確率で、前記到達確率保持ステップにより保持されている前記到達確率を更新する
ことを特徴とする詐欺進行度判定方法。
【請求項１１】
請求項２記載の詐欺進行度判定装置において用いられる第一の辞書及び第二の辞書を生成する辞書生成方法であって、
詐欺を構成する複数の過程のそれぞれについて分類された、詐欺に関する通話である詐欺通話から、当該過程毎に当該詐欺通話の特徴を抽出し、当該特徴を表す第一の辞書を生成する第一辞書生成ステップと、
通信端末を用いた通話の話者毎に分類された、当該話者による、詐欺でない通話である非詐欺通話から、当該非詐欺通話の特徴を抽出し、当該特徴を表す第二の辞書を生成する第二辞書生成ステップと、
を具備することを特徴とする辞書生成方法。
【発明の詳細な説明】
【技術分野】
【０００１】
本発明は、詐欺の進行度を判定するための技術に関する。
【背景技術】
【０００２】
近年、主に身内のトラブルを装って高齢者を電話越しに騙し、犯人の口座に金銭を振り込ませる、振り込め詐欺等と呼ばれる詐欺が横行し、問題となっている。これらの詐欺では、電話越しで十分な情報が得られないことを利用して、人を熟慮的な思考ができないパニック状態に陥れることで騙す。
このような詐欺に対応するための技術は、詐欺を検知して特定の対策を施すというものがほとんどである。例えば、特許文献１では、通話に含まれる詐欺に関するキーワードに応じて、信頼のおける第三者に通知することで、第三者に詐欺か否か判断してもらう方法が開示されている。また、特許文献２では、通話内容に含まれる詐欺に関するキーワードに応じて、警告メッセージや警告メールを発する方法が開示されている。また、特許文献３では、加害者の音声や口座情報をデータベースとして蓄積することで、通話内容がそれら加害者側情報と一致した際に、詐欺として検知し、適切な対策をとる方法が開示されている。
【０００３】
ところで、非特許文献１には、近年の振り込め詐欺は、架空のトラブルに巻き込まれた身内を１人の犯人が装った単純な手口から、複数の犯人がその架空のトラブルに関連する警察官、弁護士、トラブルの相手等の役割を演じ、より現実感の高い演技を行うことで被害者を騙そうとする、劇団型へ変化してきていることが記載されている。これら劇団型の詐欺は、交通事故、会社のトラブル、痴漢等の、現実的に発生しそうなトラブルを装うため、つい騙されてしまう被害者も多く、また、被害者に対して、複数の犯人が複数回の通話を行うことによって、トラブルの状況や対策等を逐一伝えていくことにより、より現実感が増し、騙されやすくなるという特徴がある。
【先行技術文献】
【特許文献】
【０００４】
【特許文献１】特開２００８−６１０９０号公報
【特許文献２】特開２００６−１９６９４９号公報
【特許文献３】特開２００８−２３４３９８号公報
【非特許文献】
【０００５】
【非特許文献１】内閣府・国民生活政策ホームページ内（その他の公表資料）「消費者の意思決定行動に係わる経済実験の実施及び分析調査」／ＵＲＬ（http://www5.cao.go.jp/seikatsu/index-2.html）
【発明の概要】
【発明が解決しようとする課題】
【０００６】
このような詐欺を考えた場合、一度の通話で完結するような従来の振り込め詐欺とは異なり、複数の犯人によって行われる一連の通話を総合的に観測しなければ、詐欺であるか否かの判定は難しい。一方で、詐欺の最終段階に至るまでの一連の通話を全て観測してからその判断をしていたのでは、被害者が騙されてしまって金銭の振込み行為を止められなくなる等、手遅れとなる可能性もある。
そこで、本発明の目的は、複数の通話で行われる詐欺の進行度を判定することにある。
【課題を解決するための手段】
【０００７】
上述した課題を解決するため、本発明に係る詐欺進行度判定装置は、通信装置を用いた通話を解析して当該通話の特徴を特定する通話解析手段と、前記通話解析手段によって特定された前記通話の特徴に基づいて、当該通話が、詐欺を構成する複数の過程のそれぞれに属する確率である個別確率を導出する個別確率導出手段と、前記個別確率導出手段により導出された前記個別確率に基づき、前記通話が行われた時点において、詐欺を構成する複数の過程のそれぞれに到達している確率である到達確率を導出する到達確率導出手段と、前記到達確率導出手段により導出された前記到達確率を保持する到達確率保持手段と、前記到達確率導出手段により導出された前記到達確率に基づいて、詐欺が進行している度合いである詐欺進行度を判定し、判定した当該詐欺進行度に応じた情報を出力する詐欺進行度出力手段とを具備し、前記到達確率導出手段は、第一の通話が行われたときよりも前に前記通信装置を用いて行われた第二の通話に対して導出された前記到達確率が、前記到達確率保持手段により保持されている場合には、保持されている前記第二の通話に対する到達確率と、前記第一の通話に対して前記個別確率導出手段により導出された前記個別確率とを用いて、当該第一の通話に対する前記到達確率を導出し、導出した当該到達確率で、前記到達確率保持手段により保持されている前記到達確率を更新することを特徴とする。
【０００８】
好ましくは、詐欺を構成する各過程に相当する通話である詐欺通話の特徴を表す第一の辞書と、前記通信装置を用いた詐欺ではない通話である非詐欺通話の特徴を表す第二の辞書とを記憶する第一の記憶手段を具備し、前記個別確率導出手段は、前記第一の記憶手段に記憶された前記第一の辞書及び前記第二の辞書によって表される特徴と、前記通話解析手段によって特定された特徴とを照合し、その照合結果に応じた前記個別確率を導出するとよい。
【０００９】
また、好ましくは、前記第一の辞書は、前記詐欺通話から抽出された複数の単語を含み、前記第二の辞書は、前記非詐欺通話から抽出された複数の単語を含み、前記通話解析手段は、前記通話に含まれる単語を当該通話の特徴として特定するとよい。
【００１０】
また、好ましくは、同一の前記通信装置を用いた時系列の１又は複数回の通話を解析して当該１又は複数回の通話の全てに含まれる特徴を特定し、当該特徴を表す第三の辞書を記憶する第二の記憶手段を具備し、前記到達確率導出手段は、通信端末を用いた通話に対して前記通話解析手段により特定された当該通話の特徴と、当該通信端末において当該通話の前に行われた１又は複数回の通話についての前記第三の辞書が表す特徴とが重複している割合を加味して、前記到達確率を導出するとよい。
【００１１】
また、好ましくは、前記第三の辞書は、前記１又は複数回の通話に含まれる単語を、当該通話の特徴として記憶するとよい。
【００１２】
また、上述の態様において、前記到達確率導出手段は、詐欺を構成する複数の過程のうち最初の過程に到達している前記到達確率として前記到達確率導出部により導出された値が閾値以下であった場合には、当該最初の過程以外の過程に到達している到達確率を導出しないことが望ましい。
【００１３】
また、好ましくは、詐欺進行度出力手段は、前記通信端末を用いた通話に対して前記到達確率導出手段により導出された到達確率に、当該通信端末を用いて行われた、詐欺を構成する過程に相当する全通話の期間を加味して、前記詐欺進行度を判定するとよい。
【００１４】
また、好ましくは、詐欺を構成する複数の過程のそれぞれについて分類された、詐欺に関する通話である詐欺通話から、当該過程毎に当該詐欺通話の特徴を抽出し、当該特徴を表す第一の辞書を生成する第一辞書生成手段と、通信端末を用いた通話の話者毎に分類された、当該話者による、詐欺でない通話である非詐欺通話から、当該非詐欺通話の特徴を抽出し、当該特徴を表す第二の辞書を生成する第二辞書生成手段と、を具備するとよい。
【００１５】
また、好ましくは、前記第一の辞書は、前記詐欺通話から抽出された複数の単語を含み、前記第二の辞書は、前記非詐欺通話から抽出された複数の単語を含むとよい。
【００１６】
また、本発明に係る詐欺進行度判定方法は、詐欺の進行度を判定する詐欺進行度判定装置が行う詐欺進行度判定方法であって、通信装置を用いた通話を解析して当該通話の内容の特徴を特定する通話解析ステップと、前記通話解析ステップにおいて特定された特徴に基づいて、前記通話が、詐欺を構成する複数の過程のうちのそれぞれに属する確率である個別確率を導出する個別確率導出ステップと、前記個別確率導出ステップにおいて導出された前記個別確率に基づき、前記通話が行われた時点において、詐欺を構成する複数の過程のそれぞれに到達している確率である到達確率を導出する到達確率導出ステップと、前記到達確率導出ステップにおいて導出された前記到達確率を保持する到達確率保持ステップと、前記到達確率導出ステップにおいて導出された前記到達確率に基づいて、詐欺が進行している度合いである詐欺進行度を判定し、判定した当該詐欺進行度に応じた情報を出力する詐欺進行度出力ステップとを具備し、前記到達確率導出ステップにおいて、第一の通話が行われたときよりも前に前記通信装置を用いて行われた第二の通話に対して導出された前記到達確率が、前記到達確率保持ステップにより保持されている場合には、保持されている前記第二の通話に対する到達確率と、前記第一の通話に対して前記個別確率導出ステップにより導出された前記個別確率とを用いて、当該第一の通話に対する前記到達確率を導出し、導出した当該到達確率で、前記到達確率保持ステップにより保持されている前記到達確率を更新することを特徴とする。
【００１７】
好ましくは、詐欺を構成する複数の過程のそれぞれについて分類された、詐欺に関する通話である詐欺通話から、当該過程毎に当該詐欺通話の特徴を抽出し、当該特徴を表す第一の辞書を生成する第一辞書生成ステップと、通信端末を用いた通話の話者毎に分類された、当該話者による、詐欺でない通話である非詐欺通話から、当該非詐欺通話の特徴を抽出し、当該特徴を表す第二の辞書を生成する第二辞書生成ステップと、を具備するとよい。
【発明の効果】
【００１８】
本発明によれば、複数の通話で行われる詐欺の進行度を判定することができる。
【図面の簡単な説明】
【００１９】
【図１】詐欺進行度判定システムの全体構成を示す図である。
【図２】辞書生成装置のハードウェア構成を例示するブロック図である。
【図３】辞書生成装置に予め記憶されている複数の音声ファイルを例示する図である。
【図４】辞書生成装置における第一辞書の生成に関する機能的構成を示す図である。
【図５】第一辞書を例示する図である。
【図６】辞書生成装置における第二辞書の生成に関する機能的構成を示す図である。
【図７】携帯電話機のハードウェア構成を例示するブロック図である。
【図８】携帯電話機の機能的構成を示す図である。
【図９】劇団型詐欺における４つのステージで行われる話題の一例を示す図である。
【図１０】実施形態に係る携帯電話機の機能的構成を示す図である。
【図１１】実施形態に係る携帯電話機の機能的構成を示す図である。
【図１２】実施形態に係る携帯電話機の機能的構成を示す図である。
【発明を実施するための形態】
【００２０】
以下、本発明を実施するための形態について説明する。
１．第一実施形態
１−１．構成
１−１−１．全体構成
図１は、本発明の第一実施形態である詐欺進行度判定システム９の全体構成を示す図である。同図に示すように、携帯電話機２は、携帯通信網であるネットワーク３から通話サービスやデータ通信サービスの提供を受ける通信装置である。このネットワーク３には、コンピュータによって構成された辞書生成装置１が接続されている。この辞書生成装置１は、詐欺進行度判定装置として機能する携帯電話機２において詐欺の進行度を判定するときに用いる辞書を生成し、携帯電話機２に配信する装置である。
【００２１】
１−１−２．辞書生成装置の構成
図２は、辞書生成装置１のハードウェア構成を例示するブロック図である。ＣＰＵ１１は、ＲＯＭ１２に記憶されているブートローダや記憶部１４に記憶されているコンピュータプログラムを読み出して実行することにより辞書生成装置１の各部を制御する。ＲＯＭ１２は半導体素子等で構成された読み出し専用の不揮発性記憶装置である。このＲＯＭ１２には、記憶部１４に記憶されている基本ＯＳ（Operating System）をＲＡＭ（Random Access Memory）１３にロードするためのブートローダやＢＩＯＳ（Basic Input/Output System）等が記憶されている。ＲＡＭ１３はＣＰＵ１１がプログラムを実行する際のワークエリアとして利用される。記憶部１４はハードディスクドライブ等の大容量の記憶手段であり、ＣＰＵ１１に読み込まれるプログラムや、後述する複数の音声ファイル等を記憶する。通信部１５は、ネットワーク３に接続されており、このネットワーク３を介して携帯電話機２と通信を行う通信手段である。さらに、辞書生成装置１には、メンテナンスや各種の操作を行うための、図示しない操作部および表示部等を有する。
【００２２】
図３は、辞書生成装置１の記憶部１４に予め記憶されている複数の音声ファイルを説明する概念図である。記憶部１４の詐欺通話群記憶領域１４０には、詐欺を行っているときの各々の通話（以下、詐欺通話）を録音して生成された音声ファイルが、その詐欺のステージ毎に記憶されている。ここで、１つの「通話」とは、ネットワーク３を介した或る通信回線が確立してから切断されるまでの、その通信回線を介した会話をいう。また、「詐欺のステージ」とは、詐欺が開始されてから終了するまでにおける、詐欺の過程のことである。
【００２３】
ここで、詐欺のステージについて詳細に説明する。非特許文献１によると、人が意思決定を行う際には、主に以下の４つのステージにより意志を決定することが知られている。
（ステージ１）  前提の理解
（ステージ２）  情報の探索
（ステージ３）  情報の評価
（ステージ４）  結論の導出
【００２４】
通常は、このような意思決定は、熟慮的処理（十分な情報と時間に基づいて意思決定を行う処理）と自動的処理（情報や時間が不足している場合に、過去の経験や感情的な要因等を元に直感的に意思決定を行う処理）をバランス良く行うことによってなされる。
ところが、振り込め詐欺における犯人は、「ステージ１：前提の理解」では偽の状況を理解させ、「ステージ２：情報の探索」では不安や恐怖を喚起させ、「ステージ３：情報の評価」では譲歩や解決策の提示を行い、「ステージ４：結論の導出」では解決策の具体化や実行への誘導を行う。これにより、被害者は、従来行われる正常な通話における意思決定とは明らかに異なり、自動的処理に偏った意思決定を行ってしまうと考えられている。
【００２５】
例えば、劇団型詐欺における、これら４つのステージで行われる話題の一例を図９に示す。この例では、「ステージ１：前提の理解」において、警察官になりすました犯人Ａが被害者の息子が事故をおこしたという偽の情報を与え、「ステージ２：情報の探索」において、犯人Ａとは異なる各犯人Ｂ，Ｃが、弁護士や被疑者の息子になりすまし、「帝王切開」とか「即日裁判」等の単語を利用したり、犯人Ｃが泣き声になったりする等の演出を行うことで、被害者を追い詰めて冷静な判断を不可能とする。「ステージ３：情報の評価」では、追い詰められた被害者へ示談や保釈金といった解決策の提示や譲歩を行うことで被害者を振込み行動へと誘導し、「ステージ４：結論の導出」では、被害者に、金銭の振り込み等の実際の行動を指示する。上記の通り、複数回に亘る一連の通話によって、被害者を徐々に自動的処理に追い込んでいく。
【００２６】
通常の通話において、受信者が熟慮的処理と自動的処理のバランスをとって意思決定を行っているのであれば、通話の途中で受信者が詐欺に気付くため、詐欺は進行しない。しかし、上記のように、ステージ１からステージ４まで段階的に構成された一連の通話によって、受信者が徐々に意思決定のバランスを失っていくと、詐欺が進行しやすくなる。そして、詐欺のステージが進めば進むほど、被害者が自動的処理に追い込まれていくため、詐欺が成功してしまう可能性も高まると言える。
【００２７】
図３の説明に戻る。詐欺通話群記憶領域１４０は、ステージ１〜４にそれぞれ関連付けられた詐欺通話群記憶領域１４０−１〜４の４つの記憶領域に区分けされており、これらの詐欺通話群記憶領域１４０−ｊ（ｊは１〜４の整数）には、各ステージｊに該当する詐欺通話の音声ファイルが複数格納されている。これら複数の音声ファイルは例えば、実際に起きた詐欺の通話や、それらの詐欺を参考にして役者が演じた通話等を録音した音声ファイルであり、警察や被害者、又は脳科学や神経科学といった知見を有する科学者により、それぞれ該当する詐欺のステージに分類されている。
【００２８】
記憶部１４の非詐欺通話群記憶領域１４１には、詐欺ではない通話（以下、非詐欺通話という）を示す複数の音声ファイルが、その通話の話者毎に記憶されている。ここでいう、通話の話者とは、携帯電話機２の利用者のことであり、これらの音声ファイルは、例えば、以下のようにして記憶部１４の非詐欺通話群記憶領域１４１に記憶される。
各携帯電話機２は自機において行われた通話を録音する機能を有している。各携帯電話機２の利用者は、操作部２７を操作して、録音した音声ファイルのうち、例えば通話相手が知人であることが確実なときに録音した音声ファイル等のように、非詐欺通話の音声ファイルであると確実に認められるものを指定し、指定したその音声ファイルを携帯電話機２の電話番号とともに、ネットワーク３を介して辞書生成装置１に送信する。辞書生成装置１の記憶部１４の非詐欺通話群記憶領域１４１は、予め携帯電話機２の電話番号１４２（１４２ａ，１４２ｂ，１４２ｃ…）毎に区分けされている。辞書生成装置１のＣＰＵ１１は、携帯電話機２から受信した音声ファイルを、これとともに受け取った電話番号１４２ａ，１４２ｂ，１４２ｃ…に対応する非詐欺通話群記憶領域１４１−ａ，１４１−ｂ，１４１−ｃ…に記憶する。この場合、話者を識別する情報は各話者が有する携帯電話機２の電話番号１４２である。
【００２９】
なお、携帯電話機２の利用者による非詐欺通話の音声ファイルであるか否かの判断については信頼できない場合もあるため、通話が詐欺通話であるか非詐欺通話であるかについて、利用者が判断を行わないようにしてもよい。すなわち、通話の音声ファイルを全て辞書生成装置１に収集し、科学者等が、収集した音声ファイルを精査して、これらのうち非詐欺通話の音声ファイルのみを知見に基づいて特定し、辞書生成装置１を操作して、非詐欺通話群記憶領域１４１に記憶させるようにしてもよい。また、携帯電話機２が通話を録音するのではなく、ネットワーク３を構成する交換局や基地局がネットワーク３を介した通話を録音してもよいし、ネットワーク３に音声録音専用のサーバ装置を設け、このサーバ装置がネットワーク３を介して通話を録音してもよい。
【００３０】
図４は、辞書生成装置１における第一辞書２４０の生成に関する機能的構成を示す図である。第一辞書２４０とは、各ステージの詐欺通話で出現する単語と、その単語がそのステージの詐欺通話群に出現する回数を対応付けて記憶した辞書である。ＣＰＵ１１がプログラムを実行することで実現される第一辞書生成部１１１は、記憶部１４の詐欺通話群記憶領域１４０から、音声ファイルをステージ毎に読み出し、そのステージに対応する第一辞書２４０をそれぞれＲＡＭ１３上に生成する。具体的には、第一辞書生成部１１１は、詐欺通話群記憶領域１４０−ｊからステージｊの音声ファイルを読み出し、この音声ファイルに対して隠れマルコフモデル等による音声認識を行うことで、この音声ファイルから、通話の内容を表す文字データを生成する。さらに、第一辞書生成部１１１は、形態素解析や構文解析等を行うことで、生成した文字データを単語毎に分解する。そして、第一辞書生成部１１１は、これらの単語が、詐欺通話群記憶領域１４０−ｊからそのステージについて読み出した全ての音声ファイルに出現する回数を計数し、計数した出現回数をその単語と対応付け、これらを第一辞書２４０−ｊとして記憶する。すなわち、第一辞書生成部１１１を実現するＣＰＵ１１は、詐欺を構成する複数の過程のそれぞれについて分類された、詐欺に関する通話である詐欺通話から、当該過程毎に当該詐欺通話の特徴を抽出し、当該特徴を表す第一の辞書を生成する第一辞書生成手段として機能する。また、ここでは、この第一辞書２４０は、詐欺通話から抽出された複数の単語を含む。
【００３１】
図５は、ステージｊ（ｊは１〜４の整数）の第一辞書２４０−ｊを例示する図である。この第一辞書２４０−ｊには、この第一辞書２４０−ｊを生成する際に解析された音声ファイルの数、すなわち解析されたステージｊの詐欺通話の数を示す解析通話数ｎjが記述されている。また、この第一辞書２４０−ｊには、解析されたステージｊの詐欺通話の音声ファイルに出現する単語Ｗ1j，Ｗ2j，…，Ｗhj，…が、各単語の出現回数Ｘ1j，Ｘ2j，…，Ｘhj，…と対応付けて記述されている。
このようにして、第一辞書生成部１１１によりＲＡＭ１３上に生成された４つの第一辞書２４０−１〜４は、通信部１５からネットワーク３を介して、複数の携帯電話機２にそれぞれ送信され、各携帯電話機２の記憶部２４にそれぞれ記憶される。
【００３２】
図６は、辞書生成装置１における第二辞書２４１の生成に関する機能的構成を示す図である。第二辞書２４１とは、各話者の非詐欺通話で出現する単語を、その単語がその話者の非詐欺通話群に出現する回数と対応付けて記憶した辞書である。ＣＰＵ１１がプログラムを実行することで実現される第二辞書生成部１１２は、記憶部１４の非詐欺通話群記憶領域１４１から、各話者の音声ファイルを読み出し、第一辞書生成部１１１と同様に、読み出した音声ファイルから各話者に対応する第二辞書２４１を生成する。すなわち、第二辞書生成部１１２を実現するＣＰＵ１１は、通信端末を用いた通話の話者毎に分類された、当該話者による、詐欺でない通話である非詐欺通話から、当該非詐欺通話の特徴を抽出し、当該特徴を表す第二の辞書を生成する第二辞書生成手段として機能する。また、ここでは、この第二辞書２４１は、非詐欺通話から抽出された複数の単語を含む。
【００３３】
例えば、第二辞書生成部１１２は、電話番号１４２ａに対応する非詐欺通話群記憶領域１４１−ａから、音声ファイルを読み出して解析し、ＲＡＭ１３上に電話番号１４２ａに対応付けて第二辞書２４１−ａを生成する。ＲＡＭ１３上に生成された第二辞書２４１−ａは、通信部１５からネットワーク３を介して、電話番号１４２ａに対応する携帯電話機２ａに送信され、その携帯電話機２ａの記憶部２４ａに記憶される。このようにして、第二辞書生成部１１２により生成された第二辞書２４１は、これに対応付けられた電話番号に対応する携帯電話機２にそれぞれ送信され、各携帯電話機２の記憶部２４に記憶される。第二辞書２４１は、第一辞書２４０が詐欺のステージ毎に生成されているのに対し、第二辞書は解析した音声ファイルを録音した携帯電話機２の電話番号毎に生成されている点が異なっている。
【００３４】
１−１−３．携帯電話機の構成
図７は、携帯電話機２のハードウェア構成を例示するブロック図である。ＣＰＵ２１、ＲＯＭ２２、及びＲＡＭ２３は、そのスペックや記憶・実行されるプログラム以外に関しては、前述したＣＰＵ１１、ＲＯＭ１２、及びＲＡＭ１３と共通する構成であるため、説明を省略する。記憶部２４はＥＥＰＲＯＭ（Electrically Erasable Programmable Read Only Memory）等の読み出し及び書き込みが可能な記憶手段であり、ＣＰＵ２１に読み込まれるプログラムのほか、辞書生成装置１から送信されてきた第一辞書２４０及び第二辞書２４１を記憶している。すなわち、記憶部２４は、詐欺を構成する各過程に相当する通話である詐欺通話の特徴を表す第一の辞書と、前記通信装置を用いた詐欺ではない通話である非詐欺通話の特徴を表す第二の辞書とを記憶する第一の記憶手段の一例である。通信部２５は、アンテナを備え、ネットワーク３とのデータ通信を無線で行う。表示部２６は、液晶ディスプレイや液晶駆動回路を備え、ＣＰＵ２１から供給される表示データに応じた画像を表示領域に表示する。操作部２７は、複数のキー（操作子）を備え、ユーザの操作に応じた操作信号をＣＰＵ２１に供給する。音声変換部２８は、マイク２８１による収音に応じた音声信号をＡ／Ｄ変換してＣＰＵ２１に供給したり、ＣＰＵ２１から供給される音声データをＤ／Ａ変換してスピーカ２８２から音として出力させたりする。
【００３５】
図８は、携帯電話機２の機能的構成を示す図である。図に示す各構成は、ＣＰＵ２１がプログラムを実行することで実現される。この携帯電話機２は、一連の通話によって行われる詐欺について、各通話が入力されるたびに、当該通話を含む一連の通話による詐欺の進行度を導出し、その進行度を表す詐欺進行度情報を出力する。
【００３６】
１−２．動作
１−２−１．定義
携帯電話機２による詐欺進行度判定の動作を説明する。この説明において各用語を以下の通り定義する。
詐欺のステージ（詐欺の過程）：ｊ
一連の通話におけるｉ番目の通話：Ｃi
通話Ｃiに含まれる単語：ｗik（ｋ＝１，２，…，Ｋ）
単語ｗikがステージｊの通話に出現する単語出現係数：φikj
単語ｗikが非詐欺通話に出現する単語出現係数：φik0
単語ｗikが出現した通話Ｃiがステージｊの詐欺通話である確率：ｐij(ｗik)
通話Ｃiがステージｊの詐欺通話である個別確率：ｐij（ｊ＝１，２，…，Ｊ）
第一辞書２４０−ｊにおいて単語ｗikに対応付けて記述されている出現回数：ｘikj
第二辞書２４１において単語ｗikに対応付けて記述されている出現回数：ｘik0
第一辞書２４０−ｊの総通話数：nj
第二辞書２４１の総通話数：n0
【００３７】
１−２−２．通話解析部及び個別確率導出部の動作
（１）単語出現係数の導出
通話の音声は音声変換部２８によってＡ／Ｄ変換されて音声データに変換され、変換された音声データは、１つの通話毎に１つの音声ファイルにまとめられて、通話解析部２１１に送られる。通話解析部２１１は、この音声ファイルを記憶部２４に記憶するとともに、この音声ファイルに対して音声認識、形態素解析及び構文解析を行って、通話の音声に含まれる単語を抽出する。これにより、通話解析部２１１は、通話Ｃiに含まれる単語ｗik（ｋ＝１，２，…，Ｋ）を抽出することになる。すなわち、通話解析部２１１を実現するＣＰＵ２１は、通信装置を用いた通話を解析して当該通話の特徴を特定する通話解析手段として機能する。なお、ここでは、通話解析部２１１は、通話に含まれる単語を当該通話の特徴として特定する。
【００３８】
次に、個別確率導出部２１２は、記憶部２４に記憶された第一辞書２４０及び第二辞書２４１を参照し、通話解析部２１１によって抽出された単語毎に、その単語がステージ１〜４の詐欺通話及び非詐欺通話に出現する出現回数に応じた係数を、単語出現係数として算出する。具体的には、個別確率導出部２１２は、抽出された単語ｗik毎に、各ステージにおける単語出現係数φikjを以下の式（１）に従って算出する。なお、単語ｗikが第一辞書２４０−ｊに出現した回数ｘikjは、第一辞書２４０−ｊにおいて単語ｗikに対応付けられている「出現回数」のことであり、単語ｗikが第二辞書２４１に出現した回数ｘik0は、第二辞書２４１において単語ｗikに対応付けられている「出現回数」のことである。
【００３９】
【数１】
2010273130.tif 000003
【００４０】
ｊは１〜４の整数であると説明したが、ここでは、例外的にｊを0〜４の整数として取り扱う。そしてｊ≠０のときの単語出現係数φikjは、単語ｗikがステージｊの詐欺通話に出現する出現回数に応じた係数であり、ｊ＝０のときの単語出現係数φikjは、単語ｗikが非詐欺通話に出現する出現回数に応じた係数である。αjは単語出現係数φikjを導出するに際してｊ毎に任意の重みを与える重み係数であり、例えば、α0＝２、αj＝１（ｊは１〜４の整数）と設定されている。この設定においては、第二辞書２４１に出現した回数を第一辞書２４０に出現した回数の２倍の重みをつけることとなり、詐欺通話を非詐欺通話であると誤検出することに比べて、非詐欺通話を詐欺通話であると誤検出し難くなるように、調整される。なお、式（１）に従って算出される単語出現係数φikjが１を超える場合には、単語出現係数φikjは１とする。また、以下の式（２）を満たさない場合には、個別確率導出部２１２は、この単語出現係数φikjを算出せずに、単語毎の個別確率を、予め定めた定数と見做す。
【００４１】
【数２】
2010273130.tif 000004
【００４２】
ここでＬとは、単語が辞書に出現する回数に関する閾値であり、例えば５である。Ｌ＝５、α0＝２、αj＝１（ｊは１〜４の整数）とした場合、単語ｗikが第一辞書２４０−ｊに出現した回数と、第二辞書２４１に出現した回数を２倍した数との和が５に満たない単語は、計算から外すこととなる。これにより、辞書を生成する際に用いた通話のうち、極めて稀にしか使用されないような特殊な単語による特徴が排除される。
【００４３】
（２）単語毎の個別確率の導出
次に、個別確率導出部２１２は、単語出現係数φikjに基づいて、単語ｗikが出現した通話Ｃiがステージｊ（ｊは１〜４の整数）の通話である確率、すなわち「単語毎の個別確率」ｐij(ｗik)を、以下の式（３）に従って、導出する。
【００４４】
【数３】
2010273130.tif 000005
【００４５】
つまり、ステージｊに係る単語毎の個別確率は、その単語ｗikがステージｊの詐欺通話に出現する回数により定まる単語出現係数φikjを、その単語出現係数φikjと、その単語ｗikが非詐欺通話に出現する回数により定まる単語出現係数φik0との和で除算した値である。ただし、導出した値が閾値ＬHよりも大きいとき、ステージｊに係る単語毎の個別確率は、ＬHであり、導出した値が閾値ＬLよりも小さいとき、ステージｊに係る単語毎の個別確率は、ＬLである。閾値ＬH及び閾値ＬLにより、個別確率の上限と下限が定まる。ここでは、閾値ＬHは０．９９であり、閾値ＬLは０．０１である。
【００４６】
なお、これらの閾値は、njやn0により定まる関数で求められてもよい。辞書の標本となった総通話数が多くなる程、個別確率の精度が高まるため、閾値を１や０の極限値に、より近づけることができるというように、標本数と精度・閾値には相関があるからである。また、これらの閾値は定めなくてもよい。この場合、上述した式（３）における２番目の式、すなわち、ステージｊに係る単語毎の個別確率を（φikj／φikj＋φik0）としてもよい。
また、上述の式（２）により、計算から外すこととされた場合には、単語毎の個別確率はＲa＝０．４という予め定められた定数に設定される。このＲaは０から１の間の実数であればどのように設定されてもよい。
【００４７】
例えば「弁償」という単語が、ステージ１の詐欺通話に係る単語出現係数が０．９２であり、非詐欺通話に係る単語出現係数が０．３３であるとする。このとき「弁償」が出現した通話が、ステージ１の詐欺通話である個別確率は（０．９２／（０．９２＋０．３３））＝０．７３６である。すなわち、或る単語について、或るステージの詐欺通話に係る単語出現係数が高いと、その単語が出現する通話がそのステージの詐欺通話である個別確率も高くなるし、或る単語について、非詐欺通話に係る単語出現係数が高いと、その単語が出現する通話がそのステージの詐欺通話である個別確率は低くなる。
【００４８】
（３）通話毎の個別確率の導出
次に、個別確率導出部２１２は、通話から抽出された全ての単語について導出された単語毎の個別確率を結合して、その通話がステージ１〜４の詐欺通話である確率（通話毎の個別確率ｐij）を導出する。すなわち、個別確率導出部２１２を実現するＣＰＵ２１は、通話解析手段によって特定された通話の特徴に基づいて、当該通話が、詐欺を構成する複数の過程のそれぞれに属する確率である個別確率を導出する個別確率導出手段として機能する。また、このＣＰＵ２１は、記憶部２４に記憶された第一辞書２４０及び第二辞書２４１によって表される特徴と、通話解析部２１１によって特定された通話の特徴とを照合し、その照合結果に応じた前記個別確率を導出する個別確率導出手段として機能する。具体的には、通話Ｃiがステージｊの詐欺通話である個別確率ｐijを導出する場合、個別確率導出部２１２は、この通話毎の個別確率ｐijに関し、通話Ｃiに含まれていた全単語ｗik（ｋ＝１〜Ｋ）についての単語毎の個別確率ｐij(ｗik)を利用し、次の式（４）に従って導出する。
【００４９】
【数４】
2010273130.tif 000006
【００５０】
つまり、単語毎の個別確率ｐij(ｗik)は、各単語ｗikが通話Ｃiにそれぞれ出現した場合における、その通話Ｃiがステージｊの詐欺通話に該当する確率であるのに対し、通話毎の個別確率ｐijは、各単語ｗikの全てが通話Ｃiに出現した場合における、その通話Ｃiがステージｊの詐欺通話に該当する確率である。
【００５１】
１−２−３．到達確率導出部の動作
到達確率導出部２１３は、入力された通話について個別確率導出部２１２により導出された個別確率と、その通話までに入力された通話によって到達した詐欺の到達確率とに基づいて、その通話を含む一連の通話により到達した詐欺の到達確率を導出する。すなわち、到達確率導出部２１３を実現するＣＰＵ２１は、個別確率導出手段により導出された個別確率に基づき、通話が行われた時点において、詐欺を構成する複数の過程のそれぞれに到達している確率である到達確率を導出する到達確率導出手段として機能する。ここで導出された到達確率は、到達確率保持部２１５により記憶部２４に保持され、次の通話の際に到達確率導出部２１３が到達確率を導出するときに、処理の対象となった通話までに入力された通話によって到達した詐欺の到達確率として用いられる。
【００５２】
通話毎の個別確率ｐijが導出されると、到達確率導出部２１３は、ｉ番目に入力された通話Ｃiにより詐欺がステージｊまで到達した確率を表す到達確率Ｐijを導出する。この到達確率Ｐijは、前回の（ｉ−１）番目までの通話Ｃi-1により到達したステージと、今回のｉ番目の通話Ｃiにより進行するステージとの間に飛躍がないことを条件として導出される。１回目（ｉ＝１）の通話Ｃ1においては、前回の通話がないため、前回までの通話により到達したステージはない。したがって、到達確率Ｐ1jは、Ｐ11＝ｐ11，Ｐ12＝ｐ11×ｐ12，…Ｐ1j＝ｐ11×ｐ12×ｐ13…×ｐ1jで導出される。すなわち、到達確率Ｐ1jは、次式（５）にしたがって導出される。
【００５３】
【数５】
2010273130.tif 000007
【００５４】
２回目以上（ｉ≧２）の通話Ｃiにおいては、到達確率Ｐijは、１回前の到達確率Ｐ(i-1)jと、ｉ回目の通話毎の個別確率ｐijとによって導出される。
すなわち、ステージｊに到達した到達確率Ｐijは、前回の通話Ｃi-1までにステージｊに到達した到達確率Ｐａと、今回の通話Ｃiのみによってステージ１からステージｊに到達した到達確率Ｐｂ、および前回の通話Ｃi-1までにステージｓ（ｓ＜ｊ）に到達し、今回の通話Ｃiによりステージ（ｓ＋１）からステージｊに到達した到達確率Ｐｃの合計である。これを一般化すると、次式（６）で表現される。
【００５５】
【数６】
2010273130.tif 000008
【００５６】
式（６）の右辺は、第１項が到達確率Ｐａ、第２項が到達確率Ｐｂ、第３項が到達確率Ｐｃを表している。ただし、ｊ＝１のときは、到達確率Ｐｃ＝０である。
到達確率導出部２１３は、ｉ番目に入力された通話Ｃiと詐欺のステージｊに対応する到達確率Ｐijを導出した後、通話の通し番号であるｉを記憶部２４に記憶する。そして、到達確率導出部２１３は、別の通話の開始を検知するとｉの値をインクリメント、すなわち、１増加させる。つまり、到達確率導出部２１３は、ｉ番目に入力された通話Ｃi（第一の通話）が行われたときよりも前に通信装置を用いて行われた（ｉ−１）番目までの通話Ｃi-1（第二の通話）に対して導出された到達確率Ｐ(i-1)jが、記憶部２４により保持されている場合には、保持されている通話Ｃi-1に対する到達確率Ｐ(i-1)jと、通話Ｃiに対して個別確率導出部２１２により導出された個別確率ｐijとを用いて、通話Ｃiに対する到達確率Ｐijを導出し、導出した到達確率Ｐijで、記憶部２４に保持されている到達確率Ｐ(i-1)jを更新する。
【００５７】
１−２−４．詐欺進行度出力部の動作
詐欺進行度出力部２１４は、到達確率導出部２１３が導出した到達確率Ｐijに応じた内容の詐欺進行度情報を出力する。すなわち、詐欺進行度出力部２１４を実現するＣＰＵ２１は、到達確率導出手段により導出された到達確率に基づいて、詐欺が進行している度合いである詐欺進行度を判定し、判定した当該詐欺進行度に応じた情報を出力する詐欺進行度出力手段として機能する。
記憶部２４には、予め閾値が記憶されている。詐欺進行度出力部２１４は、到達確率導出部２１３が導出した到達確率Ｐijから情報エントロピーＳijを導出し、情報エントロピーＳijと、記憶部２４に記憶された閾値とを比較して、情報エントロピーＳijが閾値を超えている場合に、通話Ｃiにより詐欺のステージｊに到達したと判断する。ここで、情報エントロピーＳijとは、到達確率Ｐijに対して次式（７）で求まる値のことである。
【００５８】
【数７】
2010273130.tif 000009
【００５９】
記憶部２４には、詐欺のステージ毎に、そのステージが進行するに従って目立つ表示となるように設定された注意や警告等の画像を表すデータが記憶されている。詐欺進行度出力部２１４は、到達した詐欺のステージのうち、最大のものに対応するデータを記憶部２４から読み出し、そのデータに応じた画像を表示部２６に表示させる。
【００６０】
到達確率Ｐijをそのまま進行度として利用すると、ステージが進めば進むほど確率の積算により得られる数値が小さくなるため、各ステージに共通した閾値を設定しづらいが、このように到達確率Ｐijから情報エントロピーＳijを導出し、進行度として利用することで、共通した閾値を設定することが容易になる。例えば閾値を０．１、詐欺のステージを最大４として、入力された通話Ｃiによって導出された到達確率が、Ｐi1=０．５、Ｐi2=０．２、Ｐi3=０．１、Ｐi4=０．０１であったとする。この場合、対数の底を１０とした情報エントロピーは、小数点以下２桁で丸めると、
ステージ１の進行度：Ｓi1＝−（Ｐi1）ｌｏｇ10（Ｐi1）=０．１５
ステージ２の進行度：Ｓi2＝−（Ｐi2）ｌｏｇ10（Ｐi2）=０．１４
ステージ３の進行度：Ｓi3＝−（Ｐi3）ｌｏｇ10（Ｐi3）=０．１
ステージ４の進行度：Ｓi4＝−（Ｐi4）ｌｏｇ10（Ｐi4）＝０．０２
となる。従って、詐欺進行度出力部２１４は、ステージ３まで進んでいると判断して、ステージ３に応じた表示を行う。なお、詐欺進行度出力部２１４は、表示部２６による表示に加えて又は代えて、音声変換部２８のスピーカ２８２に、詐欺の進行度合に応じた警告音等を、詐欺進行度情報として出力するようにしてもよい。また、詐欺進行度出力部２１４は、詐欺進行度情報の出力として、強制的に通話を切断したり、その通話の発信番号からの初呼に対する着信を拒否するように携帯電話機２の設定を変更したり、予め記憶されたアドレスへ警告を示す電子メールを送信したり、詐欺発生を示すための予め定められた信号を警察へ通知したりしてもよい。
【００６１】
１−２−５．到達確率保持部の動作
到達確率保持部２１５は、到達確率導出部２１３が導出した到達確率Ｐijを記憶する手段であり、記憶部２４によって実現される。すなわち、到達確率保持部２１５を実現する記憶部２４は、到達確率導出手段により導出された到達確率を保持する到達確率保持手段として機能する。
【００６２】
上述した第一実施形態によれば、例えば、詐欺がそれほど進行していない段階では、通話ログを取得するだけとし、詐欺が進行していけば、第三者への通知、通話の遮断等、徐々に対策を重くしていく等の処理を行うことができる。こうすることで、詐欺の進行度が低く、話者が自力で対処可能な状態の場合や、そもそも詐欺と類似しているだけの別の通話であった場合には、話者へ煩わしさを感じさせない軽めの対処が可能となる。また、詐欺の進行度が高く話者が騙されている可能性が高い場合や、明らかに詐欺と思われる通話がなされている場合には、相応に強めの対処を行うことが可能となる。すなわち、通話の利便性の確保と、詐欺の抑止とを両立することができる。
【００６３】
２．第二実施形態
次に、本発明の第二実施形態である詐欺進行度判定システムについて説明する。以下、第一実施形態と共通する点については説明を省略し、携帯電話機２の機能に係る相違点について主に説明する。
【００６４】
図１０は、第二実施形態に係る携帯電話機２の機能的構成を示す図である。同図に示すように、携帯電話機２は、第三辞書２４２を生成する第三辞書生成部２１６を備える。この第三辞書生成部２１６は、ＣＰＵ２１がプログラムを実行することによって実現される。ここでいう第三辞書２４２とは、携帯電話機２を用いた時系列の最新の通話を除く一連の通話、つまり、最新の通話の前に行われた１又は複数回の一連の通話から抽出された、その全ての通話の特徴を表している。この特徴とは、例えば通話がなされているときの話題である。到達確率導出部２１３は、このような第三辞書２４２を利用して、携帯電話機２を用いた新しい通話に対して特定されたその通話の特徴と、その携帯電話機２においてその新しい通話の前に行われた１又は複数回の通話についての第三の辞書が表す特徴とが重複している割合を加味して、到達確率を導出する。具体的な加味の仕方としては、例えば、通話が第三辞書２４２で定義されるような特徴を多く含む場合には、到達確率を導出する際に、個別確率の影響を強く反映させ、そうでない場合には弱く反映させるというものが考えられる。これは以下の理由による。
【００６５】
劇団型の詐欺において、数時間に渡って複数回の通話が行われる際を想定すると、詐欺に係る一連の通話だけではなく、詐欺とは関係ない通常の通話が混ざる可能性もある。新たに入力された通話が、もし現在進行中の詐欺と関係ない通話であれば、その通話による個別確率は、到達確率へ反映されるべきではない。そのために、現在進行中の詐欺通話の特徴を、第三辞書２４２として表し、新たに入力された通話がこの特徴を有するかどうかによって、その通話がその詐欺に関係したものであるかを判定する。
【００６６】
通話が入力された場合に、到達確率がどのように導出されるかについて説明する。第一実施形態と同様に、ｉ番目の通話が入力されると、通話の音声は音声変換部２８によって１つの音声ファイルにまとめられて、通話解析部２１１に送られる。通話解析部２１１は、音声変換部２８から送られた音声ファイルから、単語を抽出する。第三辞書生成部２１６は、通話解析部２１１が抽出した単語を、一旦、記憶部２４に記憶する。そして、第三辞書生成部２１６は、１番目から（ｉ−１）番目までの通話について記憶部２４に記憶させた単語と、記憶部２４に記憶されている第二辞書２４１を用いて、第三辞書２４２を生成し、記憶部２４に記憶する。この第三辞書２４２は、１番目の通話である通話Ｃ1から（ｉ−１）番目の通話である通話Ｃi-1までの一連の通話の全てから抽出される特徴であり、具体的には、通話Ｃ1から通話Ｃi-1までに含まれる単語群から特定される、通話における話題である。すなわち、第三辞書２４２が記憶される記憶部２４は、同一の通信装置を用いた時系列の１又は複数回の通話を解析して当該１又は複数回の通話の全てに含まれる特徴を特定し、当該特徴を表す第三の辞書を記憶する第二の記憶手段として機能する。
【００６７】
二つの文書間での話題の類似性を測る方法の一つとして、両文書の特徴ベクトルを導出し、そのコサイン相関値をとることで類似度とする方法がある。例えば、通話Ｃ1から通話Ｃi-1で構成される一連の通話を一つの文書とした場合に、話者の一般的な通話の特徴を表す辞書として、第二辞書２４１を利用すれば、TF（Term Frequency）−IDF （Inverse Document Frequency）解析により、一連の通話の特徴語列Ｕi（ｕi1、ｕi2、…、ｕim、…、ｕiM）に対応する重み付き特徴語列Ｖi（ｖi1、ｖi2、…、ｖim、…、ｖiM）が求まる。なお、特徴語ｕimとは、第二辞書２４１への出現頻度と比較して、一連の通話に頻出する単語のことであり、重み付き特徴語ｖimは、その出現頻度により各特徴語に重み付けを行ったものである。端的に言うと、被比較文書が、これらＭ個の特徴語列を含めば、それだけ話題が近いことになり、大きな重みを持つ特徴語を含めば含むほど、さらに話題が近いこととなる。なお、ここで抽出されたＭ個の特徴語列は、一連の通話中に存在する全ての単語より、重み付けの大きいものから順に抽出されたものである。第三辞書２４２は、例えば上記の特徴語列Ｖiで表されるものとする。
【００６８】
そして、到達確率導出部２１３は、第三辞書２４２で特徴付けられる話題が、ｉ番目の通話である通話Ｃiの話題とどの程度類似しているかによって、対応する個別確率ｐijが到達確率Ｐijに与える影響を決定する。より具体的には、到達確率導出部２１３は、被比較文書である通話Ｃiからクエリー列Ｑi（ｑi1、ｑi2、…、ｑim、…、ｑiM）を導出する。Ｑiの各要素は、通話Ｃiが特徴語ｕimを含んだ場合は１、ｕimを含まない場合は０である。従って、通話Ｃiが第三辞書２４２で表される特徴をどれだけ有するかを表す類似度をａiとして、両者のベクトルのコサイン相関値で表すと、類似度ａiは下記の式（８）で求まる。
【００６９】
【数８】
2010273130.tif 000010
【００７０】
到達確率導出部２１３は、導出された類似度ａiを利用して到達確率Ｐijへ、重み付けを行う。例えば、上述した式（６）に類似度ａiを利用した以下の式（９）のように重み付けを行う。これにより、類似度ａiが小さいほど、到達確率Ｐijの影響が小さくなり、相対的に第二の到達確率がそのまま第一の到達確率として反映されることとなる。
【００７１】
【数９】
2010273130.tif 000011
【００７２】
上述した第二実施形態によれば、携帯電話機２は、第三辞書２４２を参照して、新たに入力された通話が現在進行中の詐欺通話の特徴を有するかどうかを評価することができる。そして、その通話が現在進行中の詐欺と関係ない通話である可能性が高い場合には、その通話による個別確率が、到達確率へ反映され難くなるように、調整することができる。
【００７３】
３．第三実施形態
次に、本発明の第三実施形態である詐欺進行度判定システムについて説明する。以下、第一実施形態と共通する点については説明を省略し、携帯電話機２の機能に係る相違点について主に説明する。
【００７４】
ステージ１への到達確率Ｐi1が極めて低い場合には、一連の通話によって詐欺は発生していないか、すでに終了している可能性が高い。なぜなら、最初のステージへの到達確率が低い場合、その後のステージへの到達確率も同様に低くなるため、後のステージへ進行している確率はさらに低くなり、結果として詐欺である可能性が低くなる、という理由による。この点に着目し、第三実施形態では次のような構成を採る。
【００７５】
図１１は、第三実施形態に係る携帯電話機２の機能的構成を示す図である。同図に示すように、携帯電話機２は、ＣＰＵ２１がプログラムを実行することによって実現される初期化処理判定部２１７を備える。初期化処理判定部２１７は、通話Ｃiについて、最初のステージ１への到達確率Ｐi1が閾値よりも小さい場合に、詐欺進行度出力部２１４に初期化識別子を送る。詐欺進行度出力部２１４は、到達確率導出部２１３により導出された到達確率Ｐijに、受け取った初期化識別子を付与する。これにより、例えば、最初のステージへ到達している確率が極めて低い場合には、進行中の詐欺はないものと見做し、その旨を出力する。
【００７６】
また、初期化処理判定部２１７は、通話Ｃiに対応する詐欺の最初のステージ、すなわちステージ１への到達確率Ｐi1が閾値よりも小さい場合に、到達確率導出部２１３に初期化識別子を送る。到達確率導出部２１３は、初期化識別子を受け取ると、ステージ１への到達確率Ｐi1以外の到達確率の導出を中止し、（ｉ−１）番目の通話Ｃi-1の際に導出された到達確率Ｐ(i-1)jが、到達確率Ｐi1に代入される。すなわち、到達確率導出部２１３は、詐欺を構成する複数の過程のうち最初の過程に到達している到達確率として導出された値が閾値以下であった場合には、当該最初の過程以外の過程に到達している到達確率を導出しない到達確率導出部として機能する。
【００７７】
例えば、ステージ１への到達確率Ｐi1の閾値を０．１と定めた場合には、到達確率導出部２１３により導出されたステージ１への到達確率Ｐi1が０．１よりも小さいと、詐欺進行度出力部２１４は初期化識別子を出力する。具体的には、ＣＰＵ２１により表示部２６に、例えば「詐欺が進行している可能性はありません」というような、現在の通話により進行する詐欺がないことを示す文字列が表示される。これにより話者は、一連の通話による詐欺は終了している、あるいは開始されていないと判断し、無駄な対策を施さなくて済む。また、到達確率導出部２１３は到達確率の導出を中止するため、携帯電話機２における計算負荷が抑制される。なお、上記の例においてｉ=１の場合は、そもそも詐欺が発生していないと見做される。
【００７８】
上述した第三実施形態によれば、詐欺が開始されていない場合には、計算負荷を抑制するとともに、詐欺を防止するための対策を行わないようにして、利用者が感じる煩わしさを抑えることができる。
【００７９】
４．第四実施形態
次に、本発明の第四実施形態である詐欺進行度判定システムについて説明する。以下、第一実施形態と共通する点については説明を省略し、携帯電話機２の機能に係る相違点について主に説明する。
【００８０】
図１２は、第四実施形態に係る携帯電話機２の機能的構成を示す図である。同図に示すように、携帯電話機２は、ＣＰＵ２１がプログラムを実行することによって実現される傾向付与部２１８を備える。傾向付与部２１８は、詐欺の傾向により、傾向付与情報を生成する。この傾向付与情報は、詐欺進行度出力部２１４が到達確率から詐欺進行度情報を生成する際に、詐欺の傾向に応じて、その詐欺進行度情報に特定の傾向を付与されるものである。
【００８１】
付与する傾向の一例として、詐欺開始からの時間を考慮した例を以下に示す。一般に、振り込め詐欺は、人を自動的処理に陥れることで騙すことを特徴としているため、被害者側に多くの時間を与えすぎると、被害者が騙されていることに気付くことが可能である。また、実際には起きていないトラブルを基にして騙すため、時間が経つことで、被害者とその家族との連絡がとれて、被害者が詐欺に気付くことが可能である。上記を考えると、実際に行われた振り込め詐欺は、ある一定の時間内に収まっている可能性が高い。逆に、開始から一定の時間が経過したにも係わらず、ステージが進行していない一連の通話は、詐欺ではないか既に被害者が詐欺であることに気付いている可能性が高い。そこで、振り込め詐欺として見做されている一連の通話が開始してからの時間に応じて、詐欺進行度情報に対し、時間が経てば経つほど、詐欺進行度情報が小さくなるような傾向を付与する。
【００８２】
このような傾向の導出方法の一例を示す。
辞書生成装置１の詐欺通話群記憶領域１４０−１〜４のそれぞれに記憶されている過去の詐欺通話の音声ファイルには、その詐欺通話の開始時刻および終了時刻と、前後の詐欺通話の音声ファイルを特定する情報とが、それぞれ記述されている。例えば、詐欺通話群記憶領域１４０−１に記憶されている詐欺通話Ｃ001は、開始時刻が２００９年５月４日の「１８時３５分」で、終了時刻が同日の「１８時４７分」であり、次のステージ２の詐欺通話は、詐欺通話群記憶領域１４０−２に記憶されている詐欺通話Ｃ002であり、さらに、詐欺通話Ｃ002は、開始時刻が同日の「１８時５２分」でと終了時刻が同日の「１９時０１分」であるような場合、詐欺通話の前後関係を辿ることで、４つのステージで一つの詐欺を構成する各詐欺通話が、詐欺の開始時刻からどれくらいの時間が経過した時刻に開始／終了したかがわかる。
【００８３】
また、携帯電話機２において、到達確率導出部２１３が、ｉ番目に入力された通話Ｃiに対して、詐欺のステージｊに対応する到達確率Ｐijを導出すると、詐欺進行度出力部２１４は、通話Ｃiがステージｊの詐欺通話と仮定した場合にステージ１の詐欺通話に相当する通話が開始された時点から、通話Ｃiが終了するまでの経過時間ｔを算出する。この経過時間ｔは、通話Ｃiが終了するまでに携帯電話機２を用いて行われた詐欺を構成するステージに相当する全通話の期間である。
【００８４】
ここで、上記４つの詐欺通話で構成される詐欺の標本総数Ｘに対し、開始からの経過時間ｔの時点で持続している詐欺の数をｆ（ｔ）とする。この場合、時間ｔ以上続く詐欺の割合をＢ（ｔ）とすると、Ｂ（ｔ）＝ｆ（ｔ）／Ｘとなる。詐欺の経過時間が、過去と同様の傾向があるとすると、現在評価中の一連の通話について、これが詐欺である確率についても、Ｂ（ｔ）と見做しても良い。そこで、到達確率ＰijにＢ（ｔ）を乗じることで詐欺進行度情報とする。すなわち、詐欺進行度出力部２１４を実現するＣＰＵ２１は、通信端末を用いた通話に対して到達確率導出部２１３により導出された到達確率に、当該通信端末を用いて行われた詐欺を構成する過程に相当する全通話の期間を加味して、詐欺進行度を判定する詐欺進行度出力手段として機能する。この場合、到達確率Ｐijに乗じる「Ｂj（ｔ）」が、詐欺進行度出力部２１４が到達確率から詐欺進行度情報を生成する際に、詐欺の傾向に応じて、その詐欺進行度情報に付与される傾向付与情報である。
【００８５】
上述した第四実施形態によれば、過去の履歴に基づいて、現在評価中の一連の通話について、その開始からの経過時間が長くなる程、到達確率Ｐijが小さくなるような傾向を付与することが可能となる。
【００８６】
５．変形例
以上が実施形態の説明であるが、この実施形態の内容は以下のように変形し得る。また、以下の変形例を組み合わせてもよい。
【００８７】
（１）上述した実施形態において、「通話」とは、或る通信回線が確立してから切断されるまでの、その通信回線を介した会話である、としていたが、携帯電話機２の利用者に対して通信回線を介して話しかける人物を特定し、その特定した人物毎にその会話を分割して、分割されたそれぞれの会話を「通話」として処理してもよい。例えば、上記の人物を声の特徴によって特定する場合、携帯電話機２のＣＰＵ２１は、会話を録音した音声ファイルから声紋を抽出し、抽出した声紋を文章毎に比較する。そして、比較の結果、その声紋が切替ったことを検知すると、携帯電話機２のＣＰＵ２１は、それまでの会話とそれ以降の会話を別の「通話」として処理してもよい。
【００８８】
詐欺のステージが進行したことを示す特徴には、そこで語られる話題の変化のほかに、登場人物の変化が挙げられる。そして、同じ通信回線を介した会話であっても、複数の犯人が同じ通話口にいて、電話を受け渡すことで会話の相手が切替ることがあり、このようなときには、詐欺のステージが進行する場合が多い。上述のように、抽出した声紋の変化を検知することで、携帯電話機２のＣＰＵ２１は、詐欺のステージをより正確に判定することができる。
【００８９】
（２）上述した実施形態において、個別確率導出部２１２は、通話から抽出された全ての単語について導出された単語毎の個別確率を結合し、その通話がステージ１〜４の詐欺通話である確率を導出していたが、個別確率導出部２１２が結合する単語毎の個別確率は、通話から抽出された全ての単語について導出されたものでなくてもよい。例えば、個別確率導出部２１２は、予め定められた個数の単語について導出された単語毎の個別確率を結合して通話毎の個別確率を導出してもよい。また、個別確率導出部２１２は、単語毎の個別確率によって定まる値と、予め定められた閾値とを比較し、比較結果に応じて、結合する単語毎の個別確率を選択してもよい。この場合、単語毎の個別確率によって定まる値とは、例えば、単語毎の個別確率と０．５との差の絶対値等である。
【００９０】
例えば、個別確率導出部２１２は、抽出された全ての単語のうち、特徴的な単語を予め定められた個数として１５個だけ特定する。そして、個別確率導出部２１２は、それらの単語毎の個別確率を結合して、その通話がステージ１〜４の詐欺通話である確率を導出してもよい。なお、個別確率導出部２１２は、具体的には、全てのステージの詐欺通話毎に、全ての単語について「単語毎の個別確率と０．５との差の絶対値」を算出し、この値の大きい単語から順に１５個を「特徴的な単語」として特定する。また、詐欺のステージは４つに限られず、３以下であっても、５以上であってもよい。
【００９１】
（３）上述した実施形態において、単語ｗikが出現した通話Ｃiがステージｊの通話である確率を示す「単語毎の個別確率」ｐij(ｗik)を導出するに際し、個別確率導出部２１２は、その単語ｗikがステージｊの詐欺通話に出現する回数により定まる単語出現係数φikjを、その単語出現係数φikjと、その単語ｗikが非詐欺通話に出現する回数により定まる単語出現係数φik0との和で除算した値として導出していたが、これに限られない。例えば、個別確率導出部２１２は、単語毎の個別確率を、次の式（１０）に従って導出してもよい。
【００９２】
【数１０】
2010273130.tif 000012
【００９３】
上述の式（１０）は、単語ｗikがステージｊの詐欺通話に出現する回数により定まる単語出現係数φikjを、その単語ｗikが詐欺通話に出現する回数により定まる単語出現係数の総和（Ｊはステージの総数）と、その単語ｗikが非詐欺通話に出現する回数により定まる単語出現係数φik0との和で除算した値として、単語毎の個別確率ｐij(ｗik)を導出することを示している。つまり、ステージｊ以外の詐欺通話に係る単語出現係数は、ステージｊに係る単語毎の個別確率を低下させる要素になる。したがって、この式（１０）においては、或る単語について、非詐欺通話に係る単語出現係数が高い場合に、その単語が出現する通話がそのステージの詐欺通話である個別確率は低くなるだけでなく、ステージｊ以外の詐欺通話に係る単語出現係数が高い場合にも、個別確率は低くなる。これにより、通話が詐欺の各ステージのいずれであるかがより明確に判定される。
【００９４】
なお、通話によっては、複数のステージを進行するものも存在する場合がある。このような通話について、上述した単語毎の個別確率の導出方法を採用すると、その通話によって進行するステージのそれぞれの特徴が、互いに個別確率を低下させる可能性がある。
そこで、１つのステージの詐欺通話に係る「単語毎の個別確率」と、複数のステージを含む詐欺通話に係る「単語毎の個別確率」とをそれぞれ別に算出してもよい。
【００９５】
例えば、単語ｗikが出現した通話Ｃiがステージｘからステージｙまで進行する通話である確率を示す「単語毎の個別確率」を、ｐi｛x,y｝(ｗik)とする。個別確率導出部２１２は、この単語毎の個別確率ｐi｛x,y｝(ｗik)を、次の式（１１）に従って導出する。
【００９６】
【数１１】
2010273130.tif 000013
【００９７】
上述の式（１１）は、単語ｗikがステージｘからステージｙまでの詐欺通話に出現する回数によりそれぞれ定まる単語出現係数の総和を、その単語ｗikが詐欺通話に出現する回数により定まる単語出現係数の総和（Ｊはステージの総数）と、その単語ｗikが非詐欺通話に出現する回数により定まる単語出現係数φik0との和で除算した値として、単語毎の個別確率ｐi｛x,y｝(ｗik)を導出することを示している。つまり、ステージｘからステージｙまでの詐欺通話以外の詐欺通話に係る単語出現係数は、ステージｘからステージｙまでの詐欺通話に係る単語毎の個別確率を低下させる要素になる。
【００９８】
このような開始ステージｘと終了ステージｙの組み合わせの数は、異なるステージの総数であるＪから２つの異なるステージｘ、ｙを選択する組み合わせに等しいから、重複を持たない組み合わせの計算により、JＣ2＝（Ｊ！）／（２！・（Ｊ−２）！）で算出される。例えば、Ｊ＝４では、4Ｃ2と＝４！／（２！・２！）＝６である。これは、開始ステージｘと終了ステージｙの組み合わせを｛ｘ，ｙ｝と表記すると｛１，４｝、｛１，３｝、｛１，２｝、｛２，４｝、｛２，３｝、｛３，４｝の６通りであることを示している。
【００９９】
個別確率導出部２１２は、これら全ての組み合わせについて単語毎の個別確率ｐi｛x,y｝(ｗik)を導出してもよいが、これらのうちの一部についてのみ導出してもよい。例えば、１つの通話によって、閾値以上のステージが進行することが考え難い場合には、個別確率導出部２１２は、この閾値未満のステージが進行する通話についてのみ、単語毎の個別確率ｐi｛x,y｝(ｗik)を導出するようにすればよい。
【０１００】
（４）上述した実施形態において、到達確率Ｐijは、上述した式（６）又は式（９）により導出されたが、一回の通話で進行するステージの数に応じて重み係数を乗じるようにしてもよい。例えば、到達確率Ｐijは、次式（１２）に従って導出されてもよい。
【０１０１】
【数１２】
2010273130.tif 000014
【０１０２】
ここで、ｂjは、今回の通話Ｃiのみによってステージ１からステージｊに到達した到達確率Ｐｂに対して、そのステージ数（＝ｊ）に応じて予め定められた定数や、ｊによって定まる関数である。また、ｄsは、前回の通話Ｃi-1までにステージｓ（ｓ＜ｊ）に到達し、今回の通話Ｃiによりステージ（ｓ＋１）からステージｊに到達した到達確率Ｐｃに対して、そのｓに応じて予め定められた定数や、ｓによって定まる関数である。
これにより、１つの通話によって、閾値以上のステージが進行することが起こり難い場合に、この起こり難さを到達確率に反映することができる。
【０１０３】
（５）上述した実施形態において、辞書生成装置１の第一辞書生成部１１１及び第二辞書生成部１１２は、各ステージｊに該当する詐欺通話や非詐欺通話の音声ファイルから出現する単語を抽出して、その単語の出現回数と対応付けて第一辞書または第二辞書として記憶していたが、第一辞書及び第二辞書に記憶する情報はこれに限られない。例えば、同じ単語であっても実際に発音されたときのトーンや速度等の「発音の特徴」が異なっている場合がある。そこで、音声ファイルから抽出した単語毎にスペクトログラムを生成し、このスペクトログラムを予め定めた閾値や、予め定めたスペクトログラムと比較して、単語を複数の発音類型毎に分類してもよい。なお、スペクトログラムを解析することにより、泣き声や怒号等、単語以外の声の調子も発音の特徴として特定して、この発音の特徴を第一辞書ないし第二辞書に記憶する情報としてもよい。
【０１０４】
（６）また、上述した第二実施形態において、第三辞書生成部２１６は、一連の通話の音声ファイルから単語を抽出することにより、これらの通話がなされているときの話題をその特徴として、第三辞書２４２に記憶するが、一連の詐欺通話の特徴は、抽出された単語に限られず、上述したように発音の特徴によるものであってもよい。
【０１０５】
（７）また、第四実施形態において、付与する傾向の一例として、詐欺開始からの時間を考慮した例を挙げたが、付与する傾向はこれに限られない。例えば、上述したように発音の特徴に応じて、予め定められた傾向を付与してもよい。
【０１０６】
（８）第四実施形態の詐欺進行度情報は、詐欺のステージ毎に決定してもよい。この場合、詐欺のステージ毎の標本総数Ｘjに対して、そのステージの詐欺通話が持続している数をｆj（ｔ）とする。そして、現在評価中の一連の通話について、これがステージｊの詐欺通話である確率をＢj（ｔ）＝ｆj（ｔ）／Ｘjとして算出し、到達確率ＰijにＢj（ｔ）を乗じることで詐欺進行度情報とすればよい。これにより、過去の履歴と比べて、詐欺のステージの進行が異なっている程、到達確率Ｐijが小さくなるような傾向を付与することが可能となる。
【０１０７】
（９）辞書生成装置１のＣＰＵ１１や、携帯電話機２のＣＰＵ２１によって実行される各プログラムは、磁気テープや磁気ディスク等の磁気記録媒体、光ディスク等の光記録媒体、光磁気記録媒体、半導体メモリ等の、コンピュータ装置が読み取り可能な記録媒体に記憶された状態で提供し得る。また、このプログラムを、インターネットのようなネットワーク経由でダウンロードさせることも可能である。なお、このような制御を行う制御手段としてはＣＰＵ以外にも種々の装置を適用することができ、例えば、専用のプロセッサ等を用いてもよい。
【０１０８】
（１０）また、通話解析部２１１、個別確率導出部２１２、到達確率導出部２１３、詐欺進行度出力部２１４、及び到達確率保持部２１５の各機能は、携帯電話機２に備えられていなくてもよい。例えば、インターネット等のネットワーク３に接続された専用のサーバである詐欺進行度判定装置によって、これらの機能の全部又は一部を実行させ、携帯電話機２と情報の遣り取りを行うことで、携帯電話機２の表示部２６に警告等を表示するようにしてもよい。またこの詐欺進行度判定装置は、辞書生成装置１が兼ねてもよい。
【符号の説明】
【０１０９】
１…辞書生成装置、１１…ＣＰＵ、１２…ＲＯＭ、１３…ＲＡＭ、１４…記憶部、１５…通信部、１１１…第一辞書生成部、１１２…第二辞書生成部、１４０…詐欺通話群記憶領域、１４１…非詐欺通話群記憶領域、１４２…電話番号、２…携帯電話機、２１…ＣＰＵ、２２…ＲＯＭ、２３…ＲＡＭ、２４…記憶部、２５…通信部、２６…表示部、２７…操作部、２８…音声変換部、２１１…通話解析部、２１２…個別確率導出部、２１３…到達確率導出部、２１４…詐欺進行度出力部、２１５…到達確率保持部、２１６…第三辞書生成部、２１７…初期化処理判定部、２１８…傾向付与部、２４０…第一辞書、２４１…第二辞書、２４２…第三辞書、２８１…マイク、２８２…スピーカ、３…ネットワーク、９…詐欺進行度判定システム。
【図１】
2010273130.tif 000015
【図２】
2010273130.tif 000016
【図３】
2010273130.tif 000017
【図４】
2010273130.tif 000018
【図５】
2010273130.tif 000019
【図６】
2010273130.tif 000020
【図７】
2010273130.tif 000021
【図８】
2010273130.tif 000022
【図９】
2010273130.tif 000023
【図１０】
2010273130.tif 000024
【図１１】
2010273130.tif 000025
【図１２】
2010273130.tif 000026