(57)【要約】【課題】１つの側面によれば、送信元を偽った添付ファイルが開かれることを抑止することを目的とする。【解決手段】１つの態様では、送信元から受信したデータファイルのファイル名に関する問合せを前記送信元に送信し、前記問合せに応じて前記送信元から前記データファイルのファイル名に対応するファイル名を受信したか否かに応じて、前記データファイルと前記送信元との整合性を判定する、ことをコンピュータに実行させる。【選択図】  図３
2018173682.tif 000002
【特許請求の範囲】
【請求項１】
送信元から受信したデータファイルのファイル名に関する問合せを前記送信元に送信し、
前記問合せに応じて前記送信元から前記データファイルのファイル名に対応するファイル名を受信したか否かに応じて、前記データファイルと前記送信元との整合性を判定する、
ことをコンピュータに実行させる判定プログラム。
【請求項２】
前記問合せに応じて前記送信元から前記データファイルのファイル名と対応しないファイル名を受信した場合、前記データファイルと前記送信元とが整合しないと判定する、
ことを前記コンピュータに実行させる請求項１記載の判定プログラム。
【請求項３】
前記問合せの送信から所定時間以内に前記問合せに対する前記問合せに応じたいずれかのファイル名の受信を検出できない場合、前記データファイルと前記送信元とが整合しないと判定する、
ことを前記コンピュータに実行させる請求項１または２記載の判定プログラム。
【請求項４】
前記コンピュータは、前記データファイルの送信先と異なるコンピュータであり、
前記送信元から受信した前記データファイルの拡張子を含む、前記データファイルのファイル名である第１ファイル名を、前記拡張子に対応するアプリケーションとの関連性を無くした第２ファイル名に変換し、
ファイル名を前記第２ファイル名に変換した前記データファイルを、前記送信先に送信し、
前記整合性の判定の結果、前記データファイルと前記送信元とが整合すると判定された場合、前記第１ファイル名を前記送信先に送信する、
ことを前記コンピュータに実行させる請求項１〜３のいずれか１項に記載の判定プログラム。
【請求項５】
前記整合性の判定の結果、前記データファイルと前記送信元とが整合しないと判定された場合、前記第１ファイル名を前記送信先に送信しない、
ことを前記コンピュータに実行させる請求項４記載の判定プログラム。
【請求項６】
前記第１のファイル名全体を変換することで前記第２ファイル名への変換を行なう、
ことを前記コンピュータに実行させる請求項４または５記載の判定プログラム。
【請求項７】
前記第１ファイル名のうち、前記拡張子対応する文字列部分を所定の規則に基づいて変換することで前記第２ファイル名への変換を行なう、
ことを前記コンピュータに実行させる請求項４または５記載の判定プログラム。
【請求項８】
前記第１ファイル名に含まれる文字列または前記添付ファイルの拡張子に応じて異なる変換規則を用いて前記第２ファイル名への変換を行なう、
ことを前記コンピュータに実行させる請求項４または５記載の判定プログラム。
【請求項９】
前記データファイルは、前記送信元から送信された、前記送信先を宛先とする電子メールに添付された添付ファイルである、
請求項４〜８のいずれか１項に記載の判定プログラム。
【請求項１０】
前記問合せは、前記電子メールに示される送信元アドレスを宛先とする電子メールであり、
前記送信元アドレスを宛先とする電子メールに対する返信の電子メールに、前記第１ファイル名と完全一致する文字列が含まれる場合、前記第１ファイル名を前記送信先に送信する、
ことを前記コンピュータに実行させる請求項９記載の判定プログラム。
【請求項１１】
前記送信元から送信された電子メールは、所定の判定条件に基づいて、標的型攻撃メールの可能性があると判定された電子メールである、
ことを前記コンピュータに実行させる請求項９または１０記載の判定プログラム。
【請求項１２】
前記所定の判定条件は、電子メールの件名または本文に所定の文字列が存在する、ことを含む、
請求項１１記載の判定プログラム。
【請求項１３】
送信元から受信したデータファイルのファイル名に関する問合せを前記送信元に送信し、
前記問合せに応じて前記送信元から前記データファイルのファイル名に対応するファイル名を受信したか否かに応じて、前記データファイルと前記送信元との整合性を判定する、
ことをコンピュータが実行する判定方法。
【請求項１４】
送信元から受信したデータファイルのファイル名に関する問合せを前記送信元に送信する送信部と、
前記問合せに応じて前記送信元から前記データファイルのファイル名に対応するファイル名を受信したか否かに応じて、前記データファイルと前記送信元との整合性を判定する判定部と、
を備える判定装置。
【請求項１５】
サーバ装置と、
前記サーバ装置に接続された端末装置と、
を含む情報処理システムであって、
前記サーバ装置は、
前記端末装置を宛先とするデータファイルを、送信元から受信する受信部と、
前記データファイルの拡張子を含む、前記データファイルのファイル名である第１ファイル名を、前記拡張子に対応するアプリケーションとの関連性を無くした第２ファイル名に変換する変換処理部と、
ファイル名を前記第２ファイル名に変換した前記データファイルを、前記端末装置に送信する送信部と、
前記データファイルのファイル名に関する問合せを前記送信元に送信する問合せ処理部と、
前記問合せに応じて前記送信元から前記第１ファイル名を受信したか否かに応じて、前記データファイルと前記送信元との整合性を判定する判定部と、
前記整合性の判定の結果に応じて、前記端末装置に前記第１ファイル名を送信するか否かを制御する制御部と、
を備える情報処理システム。
【発明の詳細な説明】
【技術分野】
【０００１】
判定プログラム、判定方法、判定装置および情報処理システムに関する。
【背景技術】
【０００２】
標的型攻撃メールと呼ばれるサイバー攻撃が存在する。標的型攻撃メールは、特定の組織などを対象として行なわれる攻撃であり、例えば、標的の組織の社員等を宛先として、添付ファイルが添付された電子メールを送信する。標的型攻撃メールの添付ファイルは、例えば、受信者が添付ファイルを開いた際に、受信者の端末装置をコンピュータウイルスに感染させることを目的とした実行ファイル等である。
【０００３】
このような標的型攻撃メールに対する対策の１つとしては、セキュリティ対策ソフトウェアやフィルタリング機能を有するソフトウェアの利用が挙げられる。これらは、標的型攻撃の可能性のある電子メールを、宛先の装置に送信される前に遮断することで、危険性のある電子メールおよび添付ファイルが送信されることを抑止するものである。あるいは、標的型攻撃メールを受信したとしても、受信したユーザーが不用意に添付ファイルを実行しないような注意喚起等が講じられている。
【先行技術文献】
【特許文献】
【０００４】
【特許文献１】特開２０１５−１１５６１号公報
【発明の概要】
【発明が解決しようとする課題】
【０００５】
前述のように、セキュリティソフトウェアや電子メールのフィルタリングといった対策ソフトウェアの利用は標的型攻撃メールに対する対策の１つではある。しかしながら、標的型攻撃メールは、不特定多数に対してではなく、ある特定の対象を狙って攻撃が行われることから、対策ソフトウェアの定義が追従できず、標的型攻撃メールではない正当なメールと区別することが十分にできていない現状がある。したがって、電子メールの添付ファイルといったデータファイルの危険性が正しく判定できないおそれがある。
【０００６】
１つの側面によれば、データファイルの危険性を判定する判定精度の向上を図ることを目的とする。
【課題を解決するための手段】
【０００７】
１つの態様では、送信元から受信したデータファイルのファイル名に関する問合せを前記送信元に送信し、前記問合せに応じて前記送信元から前記データファイルのファイル名に対応するファイル名を受信したか否かに応じて、前記データファイルと前記送信元との整合性を判定することをコンピュータに実行させる。
【発明の効果】
【０００８】
１つの側面によれば、データファイルの危険性を判定する判定精度を向上させることができる。
【図面の簡単な説明】
【０００９】
【図１】本実施例におけるシステム構成の一例を示す。
【図２】ＭＸサーバ２の機能的構成を示す機能ブロック図を示す。
【図３】制御装置１の機能的構成を示す機能ブロック図を示す。
【図４】ＭＸサーバ２が実行する処理の流れを示すフローチャートを示す。
【図５】判定ルール情報記憶部２２１に記憶される情報の一例を示す。
【図６】制御装置１が実行する一連の処理の流れを示すフローチャートを示す。
【図７】変換ルール記憶部１２１に記憶される情報の一例を示す。
【図８】問合せ情報記憶部１２２に記憶される情報の一例を示す。
【図９】添付ファイルのファイル名を問合せる電子メールの一例を示す。
【図１０】問合せ処理が実行された後に制御装置１が実行する一連の処理の流れを示すフローチャートを示す。
【図１１】本実施例における制御装置１のハードウェア構成の一例を示す。
【発明を実施するための形態】
【００１０】
本発明を実施する実施例について、図面とともに説明をする。
【００１１】
〔概観〕
図１は、本実施例におけるシステム構成の一例を示す図である。図１には、制御装置１、ＭＸ（Mail eXchanger）サーバ２、端末装置３−１〜３−ｎ、メールサーバ４、端末装置５−１〜５−ｎ、外部ネットワーク装置６、ネットワーク７、８、９が示されている。
【００１２】
制御装置１は、端末装置３−１〜３−ｎについてのメールの送受信処理に関する制御を実行する。制御装置１は、ネットワーク８を介して、端末装置３−１〜３−ｎと有線または無線で通信可能に接続されている。制御装置１、端末装置３−１〜３−ｎは例えば企業の社内システムであり、ネットワーク８が社内ネットワークである。ここで、制御装置１は、社内システムにおけるメールサーバであってもよく、ハードウェアとして例えばサーバ装置などのコンピュータによって実現されても良い。
【００１３】
ＭＸサーバ２は、制御装置１と有線または無線で通信可能に接続されたコンピュータである。ＭＸサーバ２は、制御装置１または端末装置３−１〜３−ｎについて送受信されるメールに対してのフィルタリング処理を実行することが可能である。本実施例においてＭＸサーバ２が実行する処理については詳細を後述する。ＭＸサーバ２は、ハードウェアとして例えばサーバ装置などのコンピュータによって実現されても良い。なお、図１においては、制御装置１とＭＸサーバ２とを別個の装置として記載しているが、制御装置１とＭＸサーバ２がハードウェアとして１つのコンピュータで実現されても良い。
【００１４】
端末装置３−１〜３−ｎのそれぞれは、例えば、自装置上で動作するメーラー等のソフトウェアにより、電子メールの送受信を行なう機能を有する。端末装置３−１〜３−ｎのそれぞれは、例えば、ＰＣ（Personal Computer）や、スマートフォン、ＰＤＡ（Personal Digital Assistant）などの情報処理装置である。
【００１５】
メールサーバ４は、例えば、制御装置１と異なる、ネットワーク８の外部のメールサーバであり、端末装置５−１〜５−ｎと有線または無線で通信可能に接続されている。端末装置５−１〜５−ｎのぞれぞれは、メールサーバ４を介して、制御装置１や、端末装置３−１〜３−ｎを含む他の装置を宛先とした電子メールを送信することが可能となっている。
【００１６】
外部ネットワーク装置６は、ネットワーク８の外部の情報処理装置であり、制御装置１や、端末装置３−１〜３−ｎを含む他の装置を宛先とした電子メールを送信することが可能となっている。ただしここで、端末装置５−１〜５−ｎ、外部ネットワーク装置６を含め、ネットワーク８の外から送信される電子メールの中には、標的型攻撃メールが含まれている可能性があることに注意されたい。
【００１７】
〔ＭＸサーバの機能構成〕
図２は、ＭＸサーバ２の機能的構成を示す機能ブロック図である。ＭＸサーバ２は、例えば、通信部２０１、処理部２１０、記憶部２２０を備える。
【００１８】
通信部２０１は、有線または無線で、制御装置１を含む他の装置との通信を実行することが可能である。通信部２０１は、例えば、ＭＸサーバ２が備えるネットワークアダプタやＮＩＣ（Network Interface Controller）などの通信デバイスである。
【００１９】
処理部２１０は、攻撃メール判定部２１１、マーキング処理部２１２、アーカイブ処理部２１３、ウイルスチェック処理部２１４を備える。
【００２０】
攻撃メール判定部２１１は、ネットワーク７を介して制御装置１あるいは端末装置３−１〜３−ｎを宛先とした電子メールの内容を解析し、電子メールが標的型攻撃メールの可能性があるか否かの判定を実行する。
【００２１】
マーキング処理部２１２は、攻撃メール判定部２１１によって標的型攻撃メールの可能性があると判定された電子メールに対して、標的型攻撃メールの可能性があることを判別可能な情報を付加（以降、「マーキング」と記載）する処理部である。
【００２２】
アーカイブ処理部２１３は、攻撃メール判定部２１１によって標的型攻撃メールの可能性があると判定された電子メールを保存する処理を実行する処理部である。ただし、アーカイブ処理部２１３は、標的型攻撃メールの可能性がないと判定された電子メールも保存することとしても構わない。
【００２３】
ウイルスチェック処理部２１４は、ネットワーク７を介して制御装置１あるいは端末装置３−１〜３−ｎを宛先とした電子メールに対してウイルスチェックを実行する処理部である。
【００２４】
記憶部２２０は、判定ルール情報記憶部２２１、アーカイブ情報記憶部２２２、ウイルスチェックルール記憶部２２３を備える。
【００２５】
判定ルール情報記憶部２２１は、攻撃メール判定部２１１が実行する判定処理に用いられる判定ルールを記憶する記憶部である。
【００２６】
アーカイブ情報記憶部２２２は、アーカイブ処理部２１３により保存が行なわれた電子メールの情報が記憶される記憶部である。
【００２７】
ウイルスチェックルール記憶部２２３は、ウイルスチェック処理部２１４が実行するウイルスチェックのチェックルールを記憶する記憶部である。
【００２８】
〔制御装置１の機能構成〕
図３は、制御装置１の機能的構成を示す機能ブロック図である。制御装置１は、例えば、通信部１０１、処理部１１０、記憶部１２０を備える。
【００２９】
通信部１０１は、有線または無線で、ＭＸサーバ２、端末装置３−１〜３−ｎを含む他の装置との通信を実行することが可能である。通信部１０１は、例えば、制御装置１が備えるネットワークアダプタやＮＩＣなどの通信デバイスである。
【００３０】
処理部１１０は、マーキング判定部１１１、変換処理部１１２、問合せ処理部１１３、問合せ判定部１１４を備える。
【００３１】
マーキング判定部１１１は、ＭＸサーバ２を経由して受信した電子メールについて、マーキング処理部２１２によるマーキングが施されているか否かを判定する処理を実行する。
【００３２】
変換処理部１１２は、マーキング判定部１１１によってマーキングが施されていると判定された電子メールについて、電子メールに添付された添付ファイルのファイル名を変換する処理を実行する。
【００３３】
問合せ処理部１１３は、マーキング判定部１１１によってマーキングが施されていると判定された電子メールの送信元を特定し、特定した送信元に対して、添付ファイルのファイル名に関する問合せを送信する。詳細は後述するが、本実施例においては、問合せ処理部１１３は、特定した送信元に対して、電子メールに添付された添付ファイルのファイル名を問合せる電子メールを送信する。なお、問合せ処理部１１３は、送信部の一態様である。
【００３４】
問合せ判定部１１４は、問合せの電子メールに対する返信を受信した場合、受信した返信メールの内容を解析して、問合せに対する回答の有無や正誤を判定する。なお、問合せ処理部１１３は、判定部の一態様である。
【００３５】
記憶部１２０は、変換ルール記憶部１２１、問合せ情報記憶部１２２を備える。
【００３６】
変換ルール記憶部１２１は、変換処理部１１２が添付ファイルのファイル名を変換する際の変換ルールを記憶する記憶部である。
【００３７】
問合せ情報記憶部１２２は、問合せ処理部１１３による問合せが実行された電子メールに関する情報を記憶する。
【００３８】
以上で述べた制御装置１、ＭＸサーバ２の各処理部、各記憶部についての詳細は、各装置が実行する処理の詳細説明において後述する。
【００３９】
〔ＭＸサーバ２における処理〕
図４は、ＭＸサーバ２が実行する処理の流れを示すフローチャートである。本実施例においては、制御装置１または端末装置３−１〜３−ｎを宛先とした電子メールが送信された場合、電子メールはまずＭＸサーバ２において受信される。そして、例えば、ＭＸサーバ２が添付ファイル付きの電子メールを受信したことを契機として、図４に示す一連の処理が開始される。
【００４０】
まず、攻撃メール判定部２１１が、受信した電子メールが標的型攻撃メールである可能性があるか否かを判定する（ステップＳ４０１）。具体的には例えば、攻撃メール判定部２１１は、受信した電子メールの内容を解析し、判定ルール情報記憶部２２１に記憶された条件に合致する内容を電子メールが含むか否かを判定する。
【００４１】
図５は、判定ルール情報記憶部２２１に記憶される情報の一例を示す図である。判定ルール情報記憶部２２１には、標的型攻撃メールである可能性があるか否かを判定する判定条件が記憶される。判定条件としては、例えば、図５に示すような、ＩＰアドレス２２１１、拡張子２２１２、ＩＰアドレス：送信元アドレス２２１３、ホワイトリスト２２１４、ブラックリスト２２１５、文字列２２１６が含まれる。
【００４２】
ＩＰアドレス２２１１は、該当した場合に標的型攻撃メールである可能性があると判定するＩＰアドレスの条件である。条件の設定については、具体的な個別のＩＰアドレスとしても良いし、図５の「１２１．２０４．＊＊＊．＊＊＊（＊はワイルドカード）」のように、部分一致形式の条件設定であっても良い。
【００４３】
拡張子２２１２は、標的型攻撃メールである可能性があると判定する添付ファイルの拡張子に関する条件である。例えば、コンピュータウイルスに感染させることを目的とした悪意のデータファイルに用いられやすい拡張子が条件として設定されれば良い。図５では一例として、「．ｅｘｅ」の拡張子を条件に含めている。
【００４４】
ＩＰアドレス：送信元アドレス２２１３は、ＩＰアドレスと送信元のメールアドレスとの組み合わせを判定条件とするものである。このように、単にＩＰアドレスに基づく判定だけでなく、特定のＩＰアドレスと送信元のメールアドレスとの組み合わせに基づいて、攻撃メール判定部２１１が判定処理を行うこととしても良い。
【００４５】
ホワイトリスト２２１４は、他の条件についての該当の有無によらず、標的型攻撃メールである可能性がないと判定する送信元のメールアドレスに関する条件である。
【００４６】
ブラックリスト２２１５は、他の条件についての該当の有無によらず、標的型攻撃メールである可能性があると判定する送信元のメールアドレスに関する条件である。
【００４７】
文字列２２１６は、電子メールの件名または本文に含まれていた場合に標的型攻撃メールである可能性があると判定する文字列に関する条件である。本実施例においては、例えば、電子メールの件名または本文に、“ｉｎｖｏｉｃｅ”、あるいは“すぐに確認”という文字列が含まれる場合に、攻撃メール判定部２１１は、標的型攻撃メールである可能性があると判定する。
【００４８】
以上のような条件を用いて、攻撃メール判定部２１１は、受信した電子メールが標的型攻撃メールである可能性があるか否かを判定することができる。例えば攻撃メール判定部２１１は、上述した１または複数の条件に該当する電子メールを、標的型攻撃メールである可能性がある電子メールであると判定する。この他に、例えば、スパムメール対策ソフトウェアや、迷惑メール判定ソフトウェアによる判定結果が併せて利用されることとしても良い。ただし、上述した判定条件はあくまで判定条件の例示であり、適宜変更されても構わない。
【００４９】
図４の説明に戻る。ステップＳ４０１の判定の結果、受信した電子メールが標的型攻撃メールである可能性がないと判定された場合（ステップＳ４０１、ＮＯ）、ステップＳ４０３の処理が実行される。
【００５０】
一方、受信した電子メールが標的型攻撃メールである可能性があると判定された場合（ステップＳ４０１、ＹＥＳ）、マーキング処理部２１２は、受信した電子メールに対するマーキング処理を実行する（ステップＳ４０２）。マーキング処理とは、例えば、電子メールを制御装置１が受信した場合に、電子メールが標的型攻撃メールである可能性があると判定された電子メールであることを判別可能とするための情報を付加することである。例えば、電子メールにおいては、電子メールのヘッダ情報において「ｘ−○○（任意の文字列）」という記載形式の項目を任意で追加することができる。そこで例えば、本実施例においては、標的型攻撃メールである可能性があると判定された電子メールに「Ｘ−ｔ＿ｔｈｒｅａｔ」というヘッダ名のヘッダ情報を付加する。なお、ヘッダ名の文字列はあくまで一例であり、電子メールに付加される他のヘッダ名と重複しないものであれば、例示以外のヘッダ名を用いても構わない。ステップＳ４０２の実行後は、ステップＳ４０３の処理が実行される。
【００５１】
ステップＳ４０３において、アーカイブ処理部２１３は、受信した電子メールの内容をアーカイブ情報記憶部２２２に記憶する（ステップＳ４０３）。ここで、アーカイブ処理部２１３は、受信した全ての電子メールの内容を記憶することとしても良いし、受信した電子メールのうち標的型攻撃メールである可能性があると判定された電子メールの内容のみを記憶することとしても良い。
【００５２】
ステップＳ４０３の処理を実行後、ウイルスチェック処理部２１４が、受信した電子メールに対するウイルスチェックを実行する（ステップＳ４０４）。ウイルスチェックは、例えば、ウイルスチェックルール記憶部２２３に記憶されたウイルス定義に従って実行されることとしても良い。
【００５３】
ウイルスチェック処理部２１４は、ステップＳ４０４のウイルスチェックの結果、受信した電子メールにウイルス（コンピュータウイルス）が検出されたか否かを判定する（ステップＳ４０５）。電子メールにウイルスが検出された場合（ステップＳ４０５、ＹＥＳ）、受信したメールはウイルス感染防止のため、ＭＸサーバ２において破棄され、制御装置１には送信されない（ステップＳ４０６）。一方、電子メールにウイルスが検出されない場合（ステップＳ４０５、ＮＯ）は、受信したメールが通信部２０１を介して制御装置１に送信される（ステップＳ４０７）。ステップＳ４０６またはＳ４０７の実行後、図４に示す一連の処理は終了する。なお、ステップＳ４０４〜４０６として記載したウイルスチェックの処理については任意であり、ＭＸサーバ２の処理負荷などを考慮して省略されることとしても良い。
【００５４】
〔制御装置１における処理〕
次に、ＭＸサーバ２を介して電子メールを受信した場合に、制御装置１が実行する処理について説明する。
【００５５】
図６は、制御装置１が実行する一連の処理の流れを示すフローチャートである。まず、マーキング判定部１１１は、受信した電子メールについて、マーキングが施されているか否かを判定する（ステップＳ６０１）。本実施例の場合、受信した電子メールに標的型攻撃メールである可能性がある場合は、前述のようにマーキング処理部２１２によって、電子メールにヘッダ情報が付与されている。したがって、マーキング判定部１１１は、受信した電子メールに、標的型攻撃メールである可能性があることを示すヘッダ情報（例えば前述の「Ｘ−ｔ＿ｔｈｒｅａｔ」）が含まれているか否かを判定する。すなわち、ステップＳ６０１の処理は、制御装置１が、受信した電子メールが標的型攻撃メールである可能性があるか否かを判定する処理と言える。受信した電子メールにマーキングが施されていない場合（ステップＳ６０１、ＮＯ）、ステップＳ６０５の処理が実行される。
【００５６】
受信した電子メールにマーキングが施されている場合（ステップＳ６０１、ＹＥＳ）、変換処理部１１２は、受信した電子メールに添付された添付ファイルのファイル名を変更したデータファイル（以降、「差替えファイル」と記載）を生成する（ステップＳ６０２）。ここで、変換処理部１１２は、ファイル名の変更によって、添付ファイルの拡張子が変更または削除されるように処理を実行する。
【００５７】
図７は、変換ルール記憶部１２１に記憶される情報の一例を示す図である。変換処理部１１２によるファイル名の変換は、変換ルール記憶部１２１に記憶される情報に基づいて実行される。変換ルール記憶部１２１は、例えば、図７のように、条件文字列１２１１と変換ルール１２１２とを関連付けて記憶する。
【００５８】
条件文字列１２１１は、変換ルールを決定する条件として用いられる添付ファイル中の文字列を示す情報である。添付ファイルのファイル名（拡張子を含む）が条件文字列１２１１に示される文字列を含む場合、文字列に関連付けられた変換ルール１２１２を用いてファイル名の変換処理が実行される。
【００５９】
例えば、図７に示す例について説明すると、添付ファイルのファイル名に「．ｘｌｓ」の文字列が含まれる（拡張子が「．ｘｌｓ」である）場合、変換ルールとして「全体ランダム」が適用される。本実施例において「全体ランダム」は、拡張子を含むファイル名全体の文字列がランダムに変更される変換処理である。なお、添付ファイルのファイル名に「．ｘｌｓｘ」の文字列が含まれる（拡張子が「．ｘｌｓｘ」である）場合も、変換ルールとして「全体ランダム」が適用される。これは、拡張子が「．ｘｌｓ」、「．ｘｌｓｘ」であるファイルは、例えば「○○予算」、「○○集計」（○○は任意の文字列）のように、ファイル名から拡張子が「．ｘｌｓ」、「．ｘｌｓｘ」であることが比較的容易に推定できる場合が多いと考えられるためである。そのため、ファイル名から拡張子を推定しにくくするために、変換処理部１１２は、拡張子を含むファイル名全体の文字列をランダムに変更する。
【００６０】
また、添付ファイルのファイル名に「ドキュメント」の文字列が含まれる場合も、変換ルールとして「全体ランダム」が適用される。これは、ファイル名に「ドキュメント」という文字列が含まれている場合、ファイル名から、そのファイルの拡張子が文書作成アプリケーションに関連する拡張子である可能性が高く、拡張子が比較的容易に推定できてしまう可能性が高いと考えられるためである。
【００６１】
添付ファイルのファイル名に「．ｅｘｅ」の文字列が含まれる（拡張子が「．ｅｘｅ」である）場合、変換ルールとして「全体ランダム」が適用される。これは、実行ファイル形式の添付ファイルは、添付ファイルを実行したコンピュータをコンピュータウイルスに感染させるといった悪意のファイルである可能性が高いと考えられるためである。そのため、変換処理部１１２は、拡張子を含むファイル名全体の文字列をランダムに変更し、拡張子を含めファイル名が容易に特定できない、すなわち、添付ファイルが容易に実行されないようにする。また、ファイル名がランダムに変更されることで添付ファイルの内容の特定が困難なファイル名となるので、添付ファイルを受信した端末装置のユーザーに、添付ファイルに対して警戒心を持たせることを誘発させる効果も有する。
【００６２】
添付ファイルのファイル名に、条件文字列１２１１に示されるいずれの文字列も含まれない場合（図７では「−（該当なし）」として示している）、変換処理部１１２は、ファイル名の拡張子部分のみをランダムに変換する。または、変換処理部１１２は、ファイル名の拡張子部分をファイル名から削除する。この場合、拡張子が変換または削除されることで、変換処理部１１２は、そのままのファイル名では添付ファイルを開くことをできなくする。一方で、添付ファイルおよび添付ファイルが添付された電子メールが正当な電子メールである可能性を考慮し、拡張子以外の文字列は元のファイル名の文字列を維持することで、ある程度添付ファイルの内容を推定可能な状態としている。
【００６３】
以上のように、本実施例においては、添付ファイルのファイル名の態様に応じて、変換処理部１１２が複数の変換ルールの中から適用する変換ルールを選択することができるようになっている。ただし、ファイル名の変換処理については、例えば、ファイル名によらず、拡張子を含むファイル名全体の文字列をランダムに変更するといった、一律の変換ルールを適用する態様であっても構わない。また、ファイル名中の文字列と変換ルールとの対応関係は、図７に示す例示と異なる形としても構わない。
【００６４】
上述のように、添付ファイルの拡張子が変更または削除されることにより、添付ファイルが実行される際に使用されるアプリケーションとの関連付けが解除される。このため、電子メールを受信した端末装置においては、電子メールに添付された添付ファイルを、そのままの（変換処理がなされた状態の）ファイル名では実行できなくなる。これにより、電子メールに添付された添付ファイルが危険なデータファイルであっても、電子メールを受信した端末装置において添付ファイルが不用意に実行されてしまうことを抑止することができる。なお、変換処理部１１２は、変換後のファイル名について、変換前のファイル名の拡張子（本来の拡張子）と同一の拡張子が付与されていないかを確認した上で、変換後のファイル名を確定させることとしても良い。あるいは、変換処理部１１２は、変換後のファイル名について、現存するいずれの拡張子も付与されていないことを確認した上で、変換後のファイル名を確定させることとしても良い。これは、ランダムな文字列変換の結果、偶発的に添付ファイルに拡張子が付与され、端末装置において添付ファイルを開くことができる状態となってしまうことを防止するためである。
【００６５】
ステップＳ６０２の処理を実行後、問合せ処理部１１３は、差替えファイルが生成された電子メールについての情報を、問合せ情報記憶部１２２に記憶する（ステップＳ６０３）。
【００６６】
図８は、問合せ情報記憶部１２２に記憶される情報の一例を示す図である。問合せ情報記憶部１２２は例えば、１通の電子メールについて、メッセージＩＤ（Identifier）８０１、送信元メールアドレス８０２、送信元ＩＰ（Internet Protocol）アドレス８０３、添付ファイル名８０４、差替えファイル名８０５、問合せ送信日時８０６を記憶する。なお、図８では、１通の電子メールについての情報を示しているが、差替えファイルが生成された電子メールが複数存在する場合は、複数の電子メールそれぞれについての情報が問合せ情報記憶部１２２に記憶されることとなる。
【００６７】
メッセージＩＤ８０１は、電子メールそれぞれを一意に識別可能とする識別情報であり、各電子メールにメタデータとして含まれている。なお、メッセージＩＤ８０１は、電子メールそれぞれを一意に識別可能であれば、メッセージＩＤとは異なる情報で代替されても良い。
【００６８】
送信元メールアドレス８０２は、電子メールの送信元のメールアドレスを示す情報である。ただし、送信元メールアドレス８０２として記憶されるメールアドレスは、悪意のある送信者によって送信元が詐称されている可能性があることに注意されたい。
【００６９】
送信元ＩＰアドレス８０３は、電子メールの送信元のＩＰアドレスを示す情報である。
【００７０】
添付ファイル名８０４は、電子メールに添付された添付ファイルのファイル名（拡張子を含む）を示す情報である。なお、添付ファイル名８０４に示されるファイル名は、変換処理部１１２によって変更される前の（電子メールを受信した時点の）ファイル名である。
【００７１】
差替えファイル名８０５は、電子メールに添付された添付ファイルのファイル名について、変換処理部１１２によって変更された後のファイル名を示す情報である。
【００７２】
問合せ送信日時８０６は、後述するステップＳ６０４の問合せ処理が実行されたタイミングを示す情報である。
【００７３】
制御装置１は、マーキングが施されていると判断された電子メールのそれぞれについて、上述した各種の情報を記憶し、電子メールの管理を行なう。
【００７４】
ステップＳ６０３の実行後、問合せ処理部１１３は、電子メールの送信元に対する問合せ処理を実行する（ステップＳ６０４）。具体的には、例えば、問合せ処理部１１３は、送信元メールアドレス８０２に示されるメールアドレス宛に、電子メールに添付された添付ファイルのファイル名を問合せる電子メールを送信する。
【００７５】
図９は、添付ファイルのファイル名を問合せる電子メールの一例を示す図である。例えば、問合せ処理部１１３は、図９に示すような、添付ファイルが添付されていた電子メールの件名と送信日時とを含む、電子メールの送信元を問合せ先とする電子メールを送信し、問合せ先に対して添付ファイル名を含む返信（回答）を要求する。問合せの電子メールに対する返信の有無や返信の内容に基づいて、制御装置１は、添付ファイルが添付されていた電子メールの正当性を判定することができる（詳細は後述）。なお、図９は添付ファイル名についての問合せの一例であり、電子メールの態様については、必ずしも図９に示す態様と同一である必要はない。また、問合せ処理部１１３は、問合せにおいて電子メール以外のアプリケーションや通信手段を用いて問合せを実行することとしても良い。
【００７６】
ステップＳ６０４の実行後には、ステップＳ６０５の処理が実行される。ステップＳ６０５では、制御装置１が、ＭＸサーバ２を介して受信した電子メールを、通信部１０１を介して、端末装置３−１〜３−ｎのうちの、電子メールの宛先の端末装置に送信する。または、制御装置１が、ＭＸサーバ２を介して受信した電子メールを、電子メールの宛先となっているユーザーのメールボックスに配送する。なお、ここで送信または配送が行なわれる電子メールが、ステップＳ６０１においてマーキングが施されていると判断された電子メールである場合、電子メールに添付されている添付ファイルのファイル名は差替えファイル名８０５に示されるファイル名に変更されている。
【００７７】
ステップＳ６０５の処理の実行後、図６に示す一連の処理が終了する。なお、例えば、ステップＳ６０２の処理により添付ファイルのファイル名が変更された電子メールについては、ステップＳ６０３〜Ｓ６０５の処理は、前述の例示と異なる順序で実行される、あるいは並行して実行されることとしても良い。
【００７８】
以上のように、本実施例では、受信した電子メールに標的型攻撃メールである可能性があると判定される場合、制御装置１は、電子メールに添付された添付ファイルのファイル名を変更する。このとき、添付ファイルの拡張子についても変更が行なわれるため、電子メールを受信した端末装置のユーザーは、受信時点では添付ファイルを開くことができなくなる。このため、添付ファイルが、例えば端末装置をコンピュータウイルスに感染させることを目的とした危険なデータファイルであっても、データファイルが開かれることを防ぐことができる。一方で、ファイル名が変更されてはいるが、添付ファイル付きの電子メールは宛先の端末装置まで送信されるので、既存のメールフィルタリングとは異なり、端末装置のユーザーは自身を宛先とした電子メールが送信されたことを認知できるようになっている。
【００７９】
〔電子メールの正当性の判定〕
図１０は、問合せ処理が実行された後に制御装置１が実行する一連の処理の流れを示すフローチャートである。図１０に示す一連の処理は、例えば、問合せ処理の実行を契機として、問合せ処理が実行された電子メールのそれぞれについて実行される。
【００８０】
まず、問合せ判定部１１４は、送信した問合せに対する回答を受信したか否かを判定する（ステップＳ１００１）。例えば、電子メールにて問合せを実行した場合には、問合せの電子メールに対する返信メールを受信したか否かを、問合せ判定部１１４が判定する。送信した問合せに対する回答を受信した場合（ステップＳ１００１、ＹＥＳ）、ステップＳ１００３の処理が実行される。
【００８１】
一方、送信した問合せに対する回答がその時点で未受信の場合（ステップＳ１００１、ＮＯ）、問合せ判定部１１４は、処理対象の電子メールについて、問合せ情報記憶部１２２に記憶された問合せ送信日時８０６に示される日時から所定の時間が経過したか否かを判定する（ステップＳ１００２）。所定の時間が経過していない場合（ステップＳ１００２、ＮＯ）、ステップＳ１００１の処理が再実行される。一方、所定の時間が経過した場合（ステップＳ１００２、ＹＥＳ）、処理対象の電子メールについて図１０に示す一連の処理が終了する。この場合、後述するステップＳ１００４の処理は実行されない。
【００８２】
ステップＳ１００３では、問合せ判定部１１４は、受信した回答に示されるファイル名が正しいか否かを判定する（ステップＳ１００３）。例えば、電子メールにて問合せを実行した場合には、問合せ判定部１１４は、処理対象の電子メールについて、問合せ情報記憶部１２２に記憶された添付ファイル名８０４の値を参照する。そして、問合せ判定部１１４は、添付ファイル名８０４に示される文字列（すなわち変更前のファイル名）と一致する文字列が、問合せに対する返信の電子メールの本文に含まれているか否かを判定する。ステップＳ１００３の処理は、添付ファイルとその添付ファイルの送信元との整合性を判定する手法の１つとも言える。なお、ファイル名が正しいと判定する基準については、例えば、変更前のファイル名と完全一致する文字列が、問合せに対する返信の電子メールの本文に含まれていることであっても良い。あるいは、完全一致ではないものの、例えば、全角、半角の異同など実質的に同一のファイル名と認識可能であれば、ファイル名が正しいと判定することとしても良い。
【００８３】
添付ファイル名８０４に示される文字列と一致する文字列が返信の電子メールの本文に含まれていないと判定した場合、問合せ判定部１１４は、受信した回答に示されるファイル名が正しくないと判定する（ステップＳ１００３、ＮＯ）。受信した回答に示されるファイル名が正しくない場合、処理対象の電子メールについて図１０に示す一連の処理が終了する。この場合、後述するステップＳ１００４の処理は実行されない。
【００８４】
一方、添付ファイル名８０４に示される文字列と一致する文字列が返信の電子メールの本文に含まれていると判定した場合、問合せ判定部１１４は、受信した回答に示されるファイル名が正しいと判定する（ステップＳ１００３、ＹＥＳ）。そして、問合せ判定部１１４は、処理対象の電子メールについて添付ファイル名８０４に示されるファイル名、すなわち変更前のファイル名を、処理対象の電子メールの宛先の端末装置に送信する（ステップＳ１００４）。ファイル名の送信は、例えば電子メールが用いられても良いし、電子メールとは異なる伝達方式で送信されても良い。あるいは、制御装置１が、通信部１０１を介して、ファイル名を変更前のファイル名に再度変更した添付ファイルを、処理対象の電子メールの宛先の端末装置に送信することとしても良い。この際、元の電子メールと添付ファイルとの関連性が特定できるように、例えば、添付ファイルを添付する電子メールの件名や本文に、元々添付ファイルが添付されていた電子メールの件名や送信日時等が含まれるようにしても良い。添付ファイルのデータは、例えば、ＭＸサーバ２のアーカイブ情報記憶部２２２から取得することができる。ただし、添付ファイルのデータは、図８で示した情報とともに、制御装置１自身が保持していても良い。
【００８５】
ステップＳ１００４の処理終了後、処理対象の電子メールについて図１０に示す一連の処理が終了する。
【００８６】
上述した本実施例の処理の技術的意義について説明する。標的型攻撃メールに対する対策として、例えばメールフィルタリングという技術が存在するが、内容が巧妙化した標的型攻撃メールはメールフィルタリングでは適切に被害を防止できない可能性がある。すなわち、内容が巧妙化したことで、標的型攻撃メールか否かを電子メールの内容から判定することは容易でなくなる場合がある。そのため、標的型攻撃メールを遮断することができない場合や、過剰なフィルタリングにより正当な電子メールまで遮断されてしまうことが発生しうる。
【００８７】
遮断できなかった標的型攻撃メールについては、前述の通り、危険であることをユーザーが正しく判断することができれば被害を未然に防ぐことはできる。しかし、標的型攻撃メールでは、電子メールの送信元が特定されないように、送信元が詐称されている場合もある。例えば、電子メールの送信元となっているメールアドレスは、本来のメールアドレスとは異なる、かつ、受信者に関係のありそうなメールアドレスに詐称される。この場合、添付ファイルが受信者にとって危険でないものである（信頼できる送信元から送信されたものである）ように見せかけられるため、受信者が標的型攻撃メールであると気付かずに添付ファイルを開いてしまう可能性が高くなる。送信元の詐称などによって、電子メールを受信したユーザーにとっても、標的型攻撃メールの判別は一層困難になっていると考えられる。
【００８８】
そこで本実施例では、制御装置１が、標的型攻撃メールの可能性があると判定された電子メールの送信元に対して、添付ファイルのファイル名に関する問合せを送信する。そして、従来のメールフィルタリング等とは異なり、制御装置１は、問合せに対する応答の結果に基づいて、電子メールおよび添付ファイルと送信元との整合性を判定する。
【００８９】
送信元が詐称された電子メールの場合、電子メールに示される送信元への問合せは、真の送信元とは異なる宛先に送信される。そのため、問合せを受信した受信先のユーザーは、自身が送信していない電子メールに関する問合せを受け付けることとなるため、問合せに対する回答を行なわないものと考えられる。この場合、問合せに応じた、送信元からの添付ファイルのファイル名の受信は検出されない結果となる。あるいは、受信先のユーザーが問合せに対する回答を行なったとしても、ユーザーは実際に電子メールを送信していないので、正解となるファイル名は知り得ない。そのため、回答結果は正解と異なるものとなると考えられる。なお、これらの事象は、図１０のフローチャートにおいては、ステップＳ１００２のＹＥＳ、ステップＳ１００３のＮＯに対応し、添付ファイルとその添付ファイルについての送信先とが整合していない状態と言える。
【００９０】
このように、本実施例では、受信した添付ファイルについて電子メールおよび添付ファイルと送信元との整合性を判定するので、添付ファイルの危険性についての判定精度の向上が見込まれる。
【００９１】
本実施例においては、ＭＸサーバ２により、受信した電子メールが標的型攻撃メールである可能性があるか否かが判定される。ただし、標的型攻撃メールの可能性があると判定された電子メールも、添付ファイルのファイル名が変更された上で、宛先の端末装置への送信は実行される。ＭＸサーバ２により標的型攻撃メールの可能性があると判定され、かつ、送信元が詐称された電子メールは、電子メールの宛先に対する攻撃を目的とした危険な電子メールである可能性が高い。ただし、本実施例においては、送信元が詐称された電子メールであると判定された場合には、電子メールの宛先の端末装置において添付ファイルを開くことができないようにファイル名が変更されたままとなる。したがって、添付ファイルが開かれることによる、端末装置におけるコンピュータウイルスの感染などを抑止することができる。
【００９２】
一方、回答結果として、変更前のファイル名と一致するファイル名が得られた場合、標的型攻撃メールの可能性があると判定された電子メールの送信元と問合せの送信先とは一致していると判断できる。そこで、制御装置１は、一度は標的型攻撃メールの可能性があると判定された電子メールは正当な電子メールであったと判定し、変更前の添付ファイルのファイル名、すなわち真のファイル名を、電子メールの宛先の端末装置に通知する。これにより、電子メールの宛先の端末装置では、送信された添付ファイルを、拡張子を含む真のファイル名を用いて開くことが可能となる。
【００９３】
以上のように、本実施例においては、制御装置１が受信した電子メールの添付ファイルについての、変更前のファイル名と、問合せの回答に含まれるファイル名との一致をもって、制御装置１は正当な電子メールと判定する。正当と判定された電子メールに添付された添付ファイルは、宛先の端末装置において開くことが可能となる。
【００９４】
また、従来のメールフィルタリングにおいては、遮断できない標的型攻撃メールの発生を抑止するためにフィルタリングのレベルを上げた結果、正当なメールまで遮断されてしまう可能性がある。これに対し、本実施例によれば、一度は標的型攻撃メールの可能性があると判定された電子メールでも、添付ファイルのファイル名が変更された上で宛先の端末装置には送信される。したがって、正当なメールがメールフィルタリングによって遮断されてしまうことが抑止できる。
【００９５】
例えば、メールフィルタリングの態様の１つとして、電子メールの件名に含まれる文字列に基づくフィルタリングが考えられる。一例として、“ｉｎｖｏｉｃｅ”という文字列は、標的型攻撃メールの件名に含まれる可能性が高いと考えられる一方で、業務に関連する正当なメールの件名においても頻繁に利用されうると考えられる。そのため、メールフィルタリングのフィルタリング条件に、「“ｉｎｖｏｉｃｅ”という文字列が電子メールの件名に含まれる」という条件を加えた場合、業務に関連する正当なメールが完全に遮断されてしまう恐れがある。しかし、本実施例では、このようなメールであっても、添付ファイル名についての問合せにより電子メールの正当性が確認できれば、電子メールが宛先に送信された上で、添付ファイルが開ける状態とすることができる。
【００９６】
なお、本実施例においては、端末装置において添付ファイルが不用意に実行されてしまうことを抑止するために、添付ファイルのファイル名を変換して送信する処理を行なっている。この際、端末装置３−１〜３−ｎに導入されるメーラーについては、ソフトウェアの改変を行なわなくとも実現が可能である。すなわち、端末装置３−１〜３−ｎに導入されるメーラーについては、汎用のメーラーを利用することができるため、情報処理システムに適用する際の実装コストの高騰を抑えることができるという利点もある。
【００９７】
本実施例においては、ＭＸサーバ２において実行される、標的型攻撃メールであるか否かの判定処理と、制御装置１において実行されるファイル名の問合せ処理との組み合わせにより、標的型攻撃メールの判定精度を向上させることができる。この観点に基づけば、本実施例の変形例として、例えば、標的型攻撃メールの可能性があると判定された電子メールの送信（例えば図６のステップＳ６０５に対応）は実行せず、問合せ処理によって電子メールが正当であると判定された後（例えば図１０のステップＳ１００４に対応）で電子メールの送信を行なう態様とすることも考えられる。この場合、標的型攻撃メールの可能性があると判定された電子メールが一旦は遮断されるものの、従来のメールフィルタリングと比較して標的型攻撃メールの判定精度が向上するという技術的効果を得ることができる。
【００９８】
本実施例においては、端末装置３−１〜３〜ｎを宛先とする電子メールについて、制御装置１およびＭＸサーバ２が処理を実行することとしたが、本実施例の目的、効果の観点では、本実施例において説明した種々の処理は、端末装置３−１〜３〜ｎのそれぞれで内部的に実行されることとしても良い。
【００９９】
また、本実施例においては、電子メールに添付される添付ファイルを例として説明を記載しているが、データファイルと送信元との整合性に基づく、データファイルの危険性の判定は、本実施例で例示した事例以外でも有効である。例えば、電子メールを介さずにデータファイルの送受信が行なわれる状況下においても、悪意を持った攻撃においてＩＰアドレスやＭＡＣ（Media Access Control）アドレスが偽装されている場合が多く存在する。したがって、データファイルと送信元との整合性に基づく、データファイルの危険性の判定は、危険性に関する有効な判定手法の１つと言える。
【０１００】
〔ハードウェア構成例〕
図１１は、本実施例における制御装置１のハードウェア構成の一例である。なお、図１１では、制御装置１のハードウェア構成の一例を示すが、後述のように、ＭＸサーバ２、端末装置３−１〜３−ｎ、メールサーバ４、端末装置５−１〜５−ｎ、外部ネットワーク装置６等についても同様の構成が採用可能である。
【０１０１】
制御装置１は、例えば、それぞれがバス１１０１で相互に接続された、ＣＰＵ（Central Processing Unit）１１０２、メモリ１１０３、記憶装置１１０４、ＮＩＣ１１０５、媒体読取装置１１０６、入力装置１１０７、表示装置１１０８、を備える情報処理装置である。
【０１０２】
ＣＰＵ１１０２は、制御装置１における種々の動作制御を行う。メモリ１１０３、記憶装置１１０４は、本実施例で説明した各種の処理を実行するプログラムや、各種の処理に利用される種々のデータを記憶する。記憶装置１１０４は、例えば、ＨＤＤ（Hard Disk Drive）や、ＳＳＤ（Solid State Drive）等の記憶媒体である。
【０１０３】
ＣＰＵ１１０２は、メモリ１１０３あるいは記憶装置１１０４に記憶されたプログラムを読み出して処理、制御を実行することで、図３に示す処理部１１０に含まれる各機能部が実現されても良い。また、メモリ１１０３、記憶装置１１０４のそれぞれは、例えば、図３に記載した記憶部１２０として機能することができる。なお、ＣＰＵ１１０２は、ＭＰＵ（Micro Processing Unit）、ＡＳＩＣ（Application Specific Integrated Circuit）などのハードウェア回路で代替されても良い。
【０１０４】
ＮＩＣ１１０５は、有線または無線のネットワークを介したデータの送受信に用いられるハードウェアである。ＮＩＣ１１０５は、ＣＰＵ１１０２の制御の下で、通信部１０１として機能することができる。
【０１０５】
媒体読取装置１１０６は、記録媒体からデータを読み取るための装置であり、例えば、ＣＤ−ＲＯＭやＤＶＤ−ＲＯＭ等のディスク媒体に記憶されたデータを読み取るディスクドライブや、メモリカードに記憶されたデータを読み取るカードスロット等である。前述した記憶部３００に記憶されるデータの一部または全部は、媒体読取装置１１０６を用いて読み取り可能な記録媒体に記憶されることとしても良い。
【０１０６】
入力装置１１０７は、ユーザー（システム管理者を含む）からの入力や指定を受け付ける装置である。入力装置１１０７の例としては、例えばキーボードやマウス、タッチパッドが挙げられる。表示装置１１０８は、ＣＰＵ１１０２の制御の下で、種々の情報の表示を行う。表示装置１１０８は、例えば液晶ディスプレイである。
【０１０７】
本実施例のＭＸサーバ２、端末装置３−１〜３−ｎ、メールサーバ４、端末装置５−１〜５−ｎ、外部ネットワーク装置６については、図１１と同様のハードウェア構成のコンピュータを用いることが可能であるため、説明を省略する。ただし、ＣＰＵ、メモリ、記憶装置、ＮＩＣ、媒体読取装置、入力装置、表示装置の具体的なハードウェア（型式や性能等）は、それぞれの装置で異なって構わない。
【符号の説明】
【０１０８】
１  制御装置
２  ＭＸサーバ
３−１〜３−ｎ、５−１〜５−ｎ  端末装置
４  メールサーバ
６  外部ネットワーク装置
７、８、９  ネットワーク
１１０１  バス
１１０２  ＣＰＵ
１１０３  メモリ
１１０４  記憶装置
１１０５  ＮＩＣ
１１０６  媒体読取装置
１１０７  入力装置
１１０８  表示装置
【図１】
2018173682.tif 000003
【図２】
2018173682.tif 000004
【図３】
2018173682.tif 000005
【図４】
2018173682.tif 000006
【図５】
2018173682.tif 000007
【図６】
2018173682.tif 000008
【図７】
2018173682.tif 000009
【図８】
2018173682.tif 000010
【図９】
2018173682.tif 000011
【図１０】
2018173682.tif 000012
【図１１】
2018173682.tif 000013