チャイルドサイエンス, 2018, 15, 44-48● 研究論文投子供を取り巻くスマホアプリ

稿～レビュー情報からみる危険性についての一考察～
安彦智史（仁愛大学人間学部コミュニケーション学科）
丸岡正朋（仁愛大学人間学部コミュニケーション学科）
長谷川大（東京工科大学メディア学部）
池辺正典（文教大学情報部）
概要

近年、スマートフォン ( 以下：スマホ ) をはじめとする携帯機器が若年層へ急速に普及し、それに伴いスマホをアクセス手段としたサイバー犯罪が増加している。これらの犯罪はスマホのアプリケーション ( 以下：アプリ ) を介して行われることが多く、検挙に繋がったアプリは氷山の一角と言われている。そこで、本研究ではスマホアプリの実体把握に向けて、レビュー情報を利用したアプリ情報の調査を行う。また、その結果から子どもを取り巻くスマホアプリの危険性について考察する。
キーワード：スマホ，児童，アプリ，SNS，レーティング，レビュー

1. はじめにルタリングサービスの導入などが挙げられる。平成 21
年以降、青少年インターネット環境整備法では、18 歳

近年、スマートフォン ( 以後：スマホ ) をはじめと未満の青少年が利用する携帯機器については、保護者する携帯機器が若年層へ急速に普及している。平成が不要の申し出をしない限り、フィルタリングの利用27 年度青少年のインターネット利用実態調査 によるが条件となっている。そのため、各携帯電話事業者もと、青少年のスマホ所持率は 53.3% であり、その内訳

フィルタリングサービスを提供しているが、フィルタは、高校生が 93.6%、中学生が 45.8%、小学生が 23.7%

リングサービスの利用率3は青少年の 35.4% とそれほとなっている。これらの携帯機器の普及に伴い、青少

ど高くない。これは、フィルタリングサービスを導入年を狙ったサイバー犯罪が増加している。その中でもすることで、インターネットアクセスやアプリの起動児童ポルノや売春といった性的犯罪及びそれに関連す制限がかかることを青少年が嫌う傾向があることが理る法令違反の被害にあった青少年は多い。平成 28 年

由だと考えられる。スマホは複合的なデバイスであり、４月に警察庁が発表した「平成 27 年における出会い様々な用途で利用することができるが、青少年がスマ系サイト及びコミュニティサイトに起因する事犯の現ホを利用する用途として最も多いのがインターネット状と対策ついて 」によると、出会い系サイトでの事を利用した「コミュニケーション」である。次いで、「動犯発生数は平成 20 年の出会い系サイト規制法改正以画視聴」「、ゲーム」となる。しかし、フィルタリングサー

後、年々減少傾向にあるものの、コミュニティサイトビスの機能はこれらの利用を阻害することがあり、利に起因する事犯の被害児童数は年々増加傾向にある。

用率の低迷に繋がっていると考えられる。また、親が平成 27 年度のデータでは、青少年保護育成条例違反

スマホを青少年に買い与えている場合、青少年が自身に該当する事犯の被害件数が特に多く、出会い系サイでフィルタリングサービスを解除することも可能であトにおける被害が 15 件なのに対して、コミュニティり、平成 27 年に被害にあった青少年の中で、フィルサイトでは、699 件と 40 倍以上の被害が挙がっている。

タリングサービスを利用していた者は 5.2% であった

その他に強姦、略奪誘拐、強制猥褻の数字が目立ち、ことからも、フィルタリングサービスの普及には課題

児童買春・児童ポルノ法違反の数についても年々上昇があることがわかる。

12

している。そして、被害児童がコミュニティサイトにスマホをアクセス手段としたこれらの事犯の多くアクセスするために利用した手段は、スマホが最も多は、直接インターネットを閲覧するのでは無く、アプ

く、平成 27 年度に被害にあった児童のうち、全体のリケーション ( 以後：アプリ ) を介して行われる。ア

86.4% はスマホからのアクセスとなっている、今や青プリを介したインターネット通信は、通常の手段では少年を取りまくサイバー犯罪の多くがスマホからのアアプリ外からアクセスすることができず、一度インスクセスという時代に移り変わっている。

トールしてしまうとフィルタリングサービスでは防げ

このような事犯を抑制する取り組みとしては、フィ44ない場合がある。過去に検挙された事犯で利用されていたアプリとしては、児童の画像や卑猥な画像が原因

Crawl.py
URL入力

真カプセル」などの写真共有アプリや、チャットを介反または青少年保護育成条例違反で検挙された「ぎゃ待ち時間設定

るる」、「ひま部」などのチャットアプリなどがある。

検索開始

しかし、これらは氷山の一角であり、実際には数多く検索リストが空ではない終了キーが押されていないの犯罪が潜在的に発生していると考えられる。また、

メイン
アプリ情報
取得

お絵かきリレーアプリが出会い系に利用されるなど、本来のアプリの利用目的とはかけ離れたアプリの使用口の多様化と複雑化がみられている。

メイン
アプリ情報
保存

類似アプリリストが空ではないた。そして、本研究の目的を実現する手法として、過去の検挙された事例や法律に関連の深いワードを起点

アプリ情報
取得
アプリ情報
保存

に関して消費者によって書き込まれたレビュー情報を収集する。そして、収集した情報から危険性のあるアプリの実体調査を行い、その結果を考察する。なお、
本研究における危険アプリとは、青少年が犯罪に巻き込まれる可能性があるアプリと定義した。

YES

類似
アプリID
リスト取得

まくスマホアプリの実体把握を行うことを目的とし法を提案する。本提案手法では、アプリ情報とアプリ

NO

メイン
アプリ情報
アップデート

これらの現状をふまえ、本研究では、子どもを取りにスマホアプリの情報を収集し、危険性を調査する手稿

URLを検索リストに保存して出会い、性的な行為を行ったとして児童福祉法違の仕方で青少年が危険な事案に巻き込まれるなど、手投で、児童ポルノや猥褻として検挙された「写真箱」、「写※検索リストは和集合になっているため、1度メインアプリになったアプリは、2度とメインアプリにならない

NO

YES

アプリ情報
アップデート類似
アプリID
リストを検索リストに追加
終了

図１：アプリ 情報収集システム の仕様図

2. 研究概要ても、レビュー情報に犯罪を指摘する書き込みが多くみられた。さらに、レビュー情報はアプリの利用者が本研究では、スマホアプリとそのレビューの情報を増えるにつれて、より多く情報を収集できることから、収集し、解析することで青少年が犯罪に巻き込まれる危険性が高く利用者が多いアプリほど、事犯に関連す可能性があるアプリの実態を調査し、その結果を考察る指摘や被害報告を検出できると考えられる。

することを目的とする。
2.2 アプリ情報収集システムの構築
2.1 アプリのレビュー情報の利用

アプリ情報を収集するためにアプリ情報収集システ

本提案手法では、スマホアプリにおけるアプリのレムを構築した。本システムでは、Google Play に登録ビューを収集する。先行研究では、出会い系サイトやされているアプリを対象に、アプリの制作会社、レーコミュニティサイトでの事犯や、ネットいじめを抑制ティング、レビュー情報等を収集し、データベースにする取り組みとして、インターネット利用監視支援シ格納する。なお、Google Play を選択した理由は App

ステム や、ネットパトロール支援システム等の手Store と比較してアプリの審査が易しく、かつ配信数法が提案されてきた。しかし、スマホアプリを介したが多いからである。また、本システムを構築する上で、インターネット通信の場合、通常の手段ではアプリ外プログラミング言語 Python とデータを蓄積するためからのアクセスを行えず、インターネットを通じて継のデータベースに MySQL を利用した。クローリング

続的なサイトの監視が行えない。加えて、写真共有アの際は、Google Play への負荷を考慮し、１分～５分プリや音声アプリなどで事犯が発生している場合、解の待ち時間を設定している。本システムを利用した情析対象となるテキストデータが存在しないため、これ報収集の仕様を図１に示す。

4

5- 7

らの手法では対応することができない。そこで、本研究ではアプリのレビュー情報に着目した。アプリのレ2.2.1 初期 URL の指定

ビュー情報は、アプリを利用したユーザによりアプリアプリ情報の収集手順として、まずキーワードをの感想や批評、運営会社への要望等が記載されてい指定する。スマホアプリは Google Play だけを見てもる。過去に児童ポルノや恐喝の事例として取り上げら200 万件以上存在し、さらにそのレビュー情報となるれた「写真袋」や「斎藤さん」等、文章やテキストをと膨大な数となる。そこで、本研究では、犯罪白書8

介さずに異なるユーザがやり取りできるアプリについにおいてネットワーク利用犯罪に区分される中でも、45

投稿

特に検挙数が多い「詐欺」、「わいせつ物頒布等」、「児個のアプリと 217,334 件のレビュー情報を収集した。

童買春・児童ポルノ禁止法」、「児童買春」、「児童ポル

本研究の目的であるスマートフォンアプリの実態調査

ノ」、「出会い系サイト規制法」、「青少年保護育成条例」を行うために、収集したアプリ情報から次の２つの調と関係が深い 14 個のキーワードを起点に定めた。ネッ査・分析を行う。

トワーク利用犯罪と単語の対応を表１に示す。次に、それぞれのキーワードにより取得したアプリの URLを検索リストとして保存し、アプリ情報の収集を行った。なお、検索リストを和集合とすることで重複したアプリの登録を行わない仕様とした。

3.1 レビュー情報からネットワーク利用犯罪に関係する情報が取得できるか分析蓄積されたレビュー情報の中に、ネットワーク利用犯罪に関連する犯罪被害の報告等、危険性が示唆される書き込みが含まれているか調査を行う。通常、

表１：ネットワーク利用犯罪と起点ワードの対応

ネットワーク利用犯罪起点と定めたワード(重複)キャリアが提供しているフィルタリング9では、年齢やカテゴリに応じたブラックリスト・ホワイトリス

詐欺

フリマ，チャット，通話ト方式のフィルタリングが利用されている。例えば、

わいせつ物頒布等

画像，写真，画像共有，動画共有

Twitter というサービスは、ソーシャルネットワーキ

児童買春・児童ポルノ禁止

画像，写真，画像共有，動画共有法
児童買春

画像，写真，画像共有，動画共有

児童ポルノ画像，写真，画像共有，動画共有

出会い系サイト規制法

出会い，通信ゲーム，SNS，恋人，援交，チャット

青少年保護育成条例

画像，写真，画像共有，動画共有，出会い，通話，援交

ングサービスというカテゴリに属しており、フィルタリングで使用を制限することが可能である。しかし、この手法は年齢層に応じたホワイトリストやブラックリストのルールに従って、ソーシャルネットワーキングサービス全てを対象とした制限である。そのため、提供されている個々のスマホアプリが含む危険性を考慮したものではない。また、未成年がスマホアプリをインストールする際に、保護者による承認が必要となるフィルタリングサービスも存在するが、保護者がスマホアプリを承認するには、アプリごとに危険性を判2.2.2 アプリ情報収集機能別する相応の知識が求められる。本研究で用いるレアプリ情報収集機能では、検索リストの URL が示

ビュー情報は、アプリを利用したユーザの生の声であすスマホアプリの「アプリ名」、「登録会社」、「アプリる。これらの情報の中から危険性のある情報を抽出す

評価」、「更新日時」、「レビュー」、「レビュー記載者のることができれば、個々のスマホアプリの実態をより名前」、「レーティング」等の情報をデータベースに蓄詳細に把握できる。また、フィルタリングで規制され積する。アプリ名が重複した場合は、レビュー等のていないスマホアプリの中に危険性があるアプリが含一対多の関係が成り立つテーブルの情報のみをアップまれていた場合についても、より詳細に危険性を調査デートすることで、レビュー等の日々更新されるデーすることが可能であると考えられる。

タに対応した。

アプリ情報収集システムにより得たレビュー情報を分析して行く上で、膨大なレビュー情報を研究者が全2.2.3 類似アプリ収集機能て確認することが困難であったため、まず、インター類似アプリ収集機能では、アプリ情報収集機能によネット利用犯罪に関係する有害性が含まれる単語と、り指定されたアプリの類似アプリとして登録されてい既に把握できている危険性の高いアプリのレビュー情るアプリを次の情報収集対象として検索リストに登録

報からピックアップした「詐欺」、「出会い」、「変態」を行う。次に、検索リストに登録したアプリが０にななどの合計 30 単語から有害レビュー検索辞書を構築るまでアプリの情報収集を繰り返す。そして、収集対した。そして、収集した全レビューに対して本辞書を象アプリが０になった場合、次のアプリに進み、同様比較することにより、辞書の単語に該当するレビューの手順を繰り返す。類似アプリ収集機能を用いることを抽出する簡易比較システムを構築した。そして、本で、起点と定めたワードと直接関係のないアプリにつシステムを利用して絞り込んだ該当スマホアプリとそいても広い範囲で調査することが可能となる。のレビューについて、危険性が含まれたレビュー情報が含まれているか著者二名による精査を行う。

3. 収集したアプリ情報の実態調査と分析手法の検討

46

3.2 レビュー情報が含まれているアプリのレーティングの分析

本システムにより、アプリ情報収集システムを 2016

3.1 節により発見した危険なレビュー情報が含まれ年８月から 11 月までの４ヶ月間起動した結果、47,385るアプリのレーティングを調査する。レーティングとのことである。この調査を行うことにより、危険性がリが多く検出された。SNS に含まれる危険性についてあるアプリの中で、さらに未成年を対象としたアプリ

は、表２に示すように、猥褻画像の要求や出会いによがどの程度含まれるかを分析する。

る被害報告が多く存在した。画像共有系のアプリに関する被害レビューは僅かだった。これは、平成 26 年

4. 結果と考察に画像共有アプリ「写真袋」の事犯により、神奈川県

4.1 レビュー情報の分析結果と考察リの情報を提供し、削除するよう要請したことが関連

稿

結果では、SNS やエンタメ、出会いに分類されたアプ

投は、スマホアプリごとに定められたアプリの対象年齢

警が Google へ写真袋と類似した児童ポルノ拡散アプ

有害単語が含まれるレビュー情報を簡易比較システしていると考えられる。その他のレビューの内容につムにより抽出したところ、該当したレビューは 1,818

いては、性犯罪やそれに関連する法案だけでなく、猥件、アプリは 876 個であった。これらのレビューは、

褻画像の要求被害、出会い系サイトへの勧誘被害、援有害単語を含んでいても、否定文や偶然の一致による助交際の斡旋のほか、詐欺被害、個人情報の流出被害、無害なレビューも含まれている。そのため、抽出した

誹謗中傷被害、不正ダウンロード補助機能の報告などレビューに対して危険性が含まれるかを著者二名が判多岐に渡った。また、クイズアプリのように、テキス定し、ダブルチェックの結果危険性があると判断した

トデータを保持しないようなアプリについても、レレビューのみを精査したところ、589 件のレビューとビュー情報を用いることで、出会い目的に利用されてアプリ 329 個の存在が明らかになった。精査したアプ

いる等の情報も抽出することができた。さらに、「書籍」

リを Google Play に登録されているカテゴリに分類しというカテゴリタグがついていても、アプリ名やアプたものを図２に示す。また、実際のアプリとそのレリの内容が出会い系であるものも存在することが明らビューの一例を表２に示す。

かになった。これらの異なる意図で利用されるアプリ

危険アプリを Google Play のカテゴリ別に分類したや、異なるカテゴリが設定されたアプリの存在は、人手によるサイバーパトロールでは認知が困難な事象であり、本手法により明らかになった実態といえる。ま140

た、これらのアプリは Google Play のカテゴリを対象

120
100なし

80

18歳以上

60
40
20
SNS

ア 書 天 ビ 音 ス 動 ラ 写 ア ニ シ 通 ツ 出 エ会 ンド 籍 気 ジ 楽 ポ 画 イ 真 ク
信シル い タフベネスン
メツス プス
ンタチイル

不明

0

3歳以上
16歳以上

7歳以上

図２：危険アプリにおけるカテゴリ分類結果

12歳以上

図３：危険アプリにおけるレーティングの割合

表２：収集したアプリに含まれるレーティングとレビュー例
レーティング
18歳以上

アプリ

チャットアプリA

18歳以上

チャットアプリB

16歳以上

チャットアプリC

16歳以上

クイズアプリ

12歳以上

画像アプリ

レビュー
ロリコン 変態 ばっか。写真が見れなくなった

100人近くの方とメッセージを交換しましたが、ほとんどの人から裸の写メを要求されました

未成年と出会い系の人多くて犯罪感が強いです。それに匿名だから誹謗中傷や悪意のある表現をする人が多いのに無法地帯となっているアプリです

おい ここでナンパしとる出会い厨がおるな、絶対に童貞だろインストール止めるべきです 以前は使えましたが、最近は猥褻な画像や下品な画像が投稿多数。
運営も通報しない限り放置してるし。通報した回答も発見次第対応のマニュアル回答

12歳以上

チャットアプリD 運営がおかしい エロ目的禁止とか言ってる割に規約違反の売春野放し。男は即刻違反

3歳以上

チャットアプリE

3歳以上

チャットアプリFなし

メッセージアプリなし

掲示板アプリ

出会い系アプリ 規約では禁止されているものの実質出会い系アプリ。他社の通話アプリへの誘導やセクパ、エロい人などの卑猥なパーティを常に見かける

ちょっと… 結構いいd('∀'*)けど、変態がいたり、エッチな写真送って！っていう人がいて、結構迷惑してます

世界中の人に繋がれる、すばらしいツール 惜しむらくは、やっぱり変態はどこにでもいるってこと。世界中の変態さんからのメールを拾うことになります

最悪 勝手に投稿されて、住んでるとこ書かれて、電話番号も載せられて、通報を何回もしてるのに削除されません。何のための通報ですか?とにかく対処が遅い

47

投にフィルタリングを行っている仕様では防げない可能法を開発し、その調査結果から、直接インターネット性がある。

を経由しないスマホアプリにおいても危険性を発見できることや、カテゴリやレーティングに関わらず様々稿

4.2 レーティングの分析結果と考察
4.1 節により収集した 329 個のアプリ情報を対象に、各アプリのレーティングを調査した。各アプリにおけな被害情報がレビュー情報から取得できることを明らかにした。これらの結果から、スマホアプリの実態把握を行う上で本提案手法の有用性が評価できた。

るレーティングの割合を図３、発見したレビュー情報

今後は、レビュー情報を利用したこれらの知見を違の例は表１にまとめている。分析の結果、レーティ法・有害判定やサイバーパトロールに利用するために、ングを 18 歳以上としているアプリは 102 個であった。

法令にあわせて半自動的に分析するシステムの構築を一方でレーティングを 18 歳未満としているアプリは進める。なお、本研究では、青少年が犯罪に巻き込ま227 個あり、そのうち 12 歳以上は 62 個、３歳以上はれる可能性があるアプリを「危険性のあるアプリ」と132 個であった。また、レーティングなしは 22 個であっ定義したが、危険性のあるアプリが即ち犯罪に直結すた。危険アプリのレーティングを調査した結果では、るアプリではない。また、危険性があった場合におい18 歳未満が利用できるアプリでも多くの被害レビューても、運営会社によるアプリ改善により、健全性を担が抽出された。18 歳以上を対象とするアプリ 102 個保されたアプリも多々存在する。そのため、今後はアについては、ほとんどが出会い系もしくはチャットアプリやレビュー情報を継続的に調査し、時系列的にアプリであり、12 歳以上対象アプリでは、チャット、ゲープリの危険度の推移を計測していく予定である。

ムや掲示板が多数を占めた。
「はじめに」
で述べた通り、現在、事犯の多くはコミュニティサイトで起きており、謝辞

その発生場所がインターネットでアクセスできる場所

本研究は JSPS 科研費 15K16543「携帯機器を対象とから、出会い系チャットアプリ等にとって変わられてしたサイバーパトロール支援に関する研究」の助成をいることが本結果からもわかる。その他、レーティン受けたものです。

グが３歳以上やレーティング無しのアプリについては、チャットや動画配信サービス、フリーマーケット、掲〈参考文献〉示板など明らかに対象年齢のレーティングが不適切な

1内 閣府“平成 27 年度 青少年のインターネット利用環境実態調査

ものがみられた。その他の問題として、レーティングが３歳以上の中高生限定掲示板アプリ等では、社会人が中高生になりすまし、出会い目的にアプリをインストールしている等のレビュー情報も見られた。このような事例は、運営側がアプリを中高生対象に開発した
場合においても、レーティングでは年齢の上限は定められないため、防ぐことは困難であると考えられる。
以上の情報からレビュー情報を定期的にマイニング

list.html,（参照 2017-03-02）.
2警 察庁“平成 27 年における出会い系サイト及びコミュニティサイトに起因する事犯の現状と対策について”. http://www.npa.go.jp/
cyber/statics/h27/h27_community.pdf,（参照 2017-03-02）.
3総務省“情報通信白書平成 27 年版安全なインターネットの利用に向けた課題”. http://www.soumu.go.jp/johotsusintokei/whitepaper/ja/h27/html/nc372120.html,（参照 2017-03-02）.
4上田達巳 , 高井昌彰 . 子どもの保護を目的とした Web アクセス監視システム . 情報処理学会論文誌 , 情報処理学会 .2008, vol.49, no. 3, p.
1155-1162.

し、分析する手法は、スマホアプリの実態を把握して5中村健二 , 山本雄平 , 田中成典 , 北野光一 , 寺口敏生 , 安彦智史 , 辻

潜在的に発生している犯罪やアプリの危険性を判断す

光宏 . 非行逸脱行為監視のためのネットパトロール支援システムのる手段として寄与できると考える。また、今後の課題

開発 . ファジィシステムシンポジウム講演論文集 , 日本知能情報ファジィ学会 . 2011, vol.27, p. 633-638.

として、本研究では、危険性の評価をほぼ人手で行っ6中村健二 , 田中成典 , 北野光一 , 寺口敏生 , 大谷和史 . マルチエージェたため分析に時間と人的コストがかかった。今後は、ントクローラを用いた有害ユーザの効率的発見手法 . 情報処理学会

レビュー情報から得られる危険性を定量化し、判別するシステムの構築が必要である。そして、アプリの利用者が多くなるほどレビュー情報も多くなるため、複数人のユーザがアプリの危険性を指摘している場合、アプリの危険度を高める等の判定アルゴリズムを考案することで、より精密で効率的な分析を行うことが可能だと考えられる。

5. おわりに本研究では、子どもを取り巻くスマホアプリの実態把握に向けて、アプリのレビュー情報を用いた調査方
48

結果”http://www8.cao.go.jp/youth/youth-harm/chousa/net-jittai_

論文誌 , 情報処理学会 .2012, vol.53, no.1, p. 90-104.
7山本雄平 , 中村健二 , 田中成典 , 安彦智史 . 個別の詳細記事のためのWeb ページ分割手法の提案 . 情報処理学会論文誌 , 情報処理学会 .
2014, vol. 55, no. 2, p. 874-891.
8法 務 省“ 平 成 29 年 度 版 犯 罪 白 書 ”. http://hakusyo1.moj.go.jp/
jp/64/nfm/mokuji.html（参照 2018-2-21）.
9“NTTdocomo アクセス制限サービス”. https://www.nttdocomo.
co.jp/service/access_limit/（参照 2018-2-21）.