TA

BLEOFCONTE

NTS

タイラー・ナイスワンダー インタビュー… ………………………………………………… 3
千葉大学

セキュリティバグハンティングコンテスト レポート… ……………………… 6

Threat Scope… ………………………………………………………………………………… 10●はじめに
本文書は、株式会社日立システムズ セキュリティリサーチセンタが運営するセキュリティ情報サイト、S.S.R.C.(Shield Security ResearchCenter) の公開資料です。本サイトでは、本文書のバックナンバーをはじめ、S.S.R.C. によるリサーチ結果などを随時公開しています。
S.S.R.C. http://www.shield.ne.jp/ssrc/●ご利用条件
本文書内の文章等すべての情報掲載に当たりまして、株式会社日立システムズ（以下、「当社」といいます。）と致しましても細心の注意を払っておりますが、その内容に誤りや欠陥があった場合にも、いかなる保証もするものではありません。本文書をご利用いただいたことにより生じた損害につきましても、当社は一切責任を負いかねます。
本文書に記載した会社名・製品名は各社の商標または登録商標です。
本文書に掲載されている情報は、掲載した時点のものです。掲載した時点以降に変更される場合もありますので、あらかじめご了承ください。
本文書の一部または全部を著作権法が定める範囲を超えて複製・転載することを禁じます。
© Hitachi Systems, Ltd. 2017. All rights reserved.

2

自動化されたマシン同士の攻防戦（ＣＧＣ）を制したチームの開発メンバー

Tyler
Tyler Nighswander
Nighswander

タイラー・ナイスワンダー
インタビュー
昨夏、米国ラスベガスの DEFCON 会場にてマシン同士の競う CTF 大会である CGC（CyberGrand Challenge）が開催された。大会を主催するのは DARPA（国防高等研究計画局）で、開催までに 3 年の期間を要し、5500 万ドル（約 62 億円）もの資金が投じられているという。
そして、この記念すべき大会を制したのは、ForAllSecure が開発した Mayhem というシステムだ。CGC 優勝マシンには翌日から開催される DEFCON CTF への出場権が与えられ、人間と競うこととなっている。
今回のインタビューに登場するタイラー・ナイスワンダー氏は、Mayhem 開発メンバーの一員。
CGC 大会終了後、DEFCON CTF 開催直前というタイミングで話を伺った。
●インタビュー = 笠原利香（Rika Kasahara）●写真＋構成 = 斉藤健一（Ken-ichi Saito）

3

CGC の優勝マシン
Mayhem の実力
笠 原 利 香（ 以 下）：CGC（Cyber Grand Chal-lenge）での優勝、おめでとうございます。歴史的な大会を制した見事な勝利でした。今回のインタビューでは、CGC のために開発されたシステムである Mayhem（メイヘム）の実力や、自動化によってもたらされるセキュリティ業界の変化などについて伺いたいと思います。よろしくお願いします。
タイラー・ナイスワンダー（以下）：こちらこそ、よろしくお願いします。
早速ですが、ForAllSecure というチームについて教えていただけますか。

●タイラー・ナイスワンダー

私が所属している ForAllSecure は 2012 年に創Tyler Nighswander

立された企業のチームです。ソフトウェアをよりカーネギーメロン大学学生の CTF チームである PPPセキュアにするという理念のもと、カーネギーメ （Plaid Parliament of Pwning）の初期メンバー。PPP はDEFCON CTF を は じ め 世 界 各 国 の CTF 大 会 で 優 勝 をロン大学の教授らが中心となり創立されました。 飾っている。その後、ForAllSecure 社に在籍。2016 年、従業員もすべて同大学の卒業生で、私自身はリ開発に携わった全自動ハッキングシステム、Mayhemが DARPA 主催の CGC で優勝を果たす。
サーチャー兼 Mayhem 開発チームの一員として従事しています。
どのような経緯で CGC に参加されたのでしょることができます。

うか。

開発ではどのような点で苦労されましたか。

私自身は Exploit（エクスプロイト）の自動生先ほども言いましたが、私とチームメンバーの成を研究テーマとしており、その成果をどこかでアレックス・ロバート（Alex Robert）は Exploit発表したいと考えていました。そこにちょうどよの自動生成を研究テーマとしていましたから、脆いタイミングで CGC が開催されることとなった

弱性を見つけることはそれほど難しくありませんのです。

でした。むしろ、脆弱性を修正するパッチ生成の単刀直入にお聞きしますが、CGC で優勝でき部分で苦労しました。

た要因は何だと思われますか。

先ほどのお話では 10 分間で 1 ダースの脆弱性基本的にはハードワークにあると思います。競発見と Exploit 生成が可能とのことでしたが、パッ技に参加した他チームの人たちは、CGC の他にもチの方はどの程度の速度なのでしょうか。

プロジェクトを抱えていたと思いますが、私個人

パッチの生成だけを見れば、脆弱性の発見に比は、これまでの 2 年間を CGC のためだけに費やべて 3 倍ほどの速度で処理できます。ただし、パッしてきました。時期によってばらつきはあるものチには検証が必要です。具体的には、パッチ適用の、週に 40 時間～ 100 時間ほど働いてきました。前のオリジナルとパッチ適用後のプログラムを付

次に Mayhem の性能についてお聞きします。

き合わせなくてはならず、結果としてより多くの例えば、Mayhem では一定時間にどのくらいの脆時間が掛かってしまうのです。

弱性を見つけることができるのでしょうか。

CGC の 競 技 で は、 対 象 と な る プ ロ グ ラ ム は

CGC の競技データはまだ検証できていません

DARPA が意図的に脆弱性を含めて作成されたもが、通常であれば、10 分間に 12（1 ダース）ほのだと聞いています。ここで疑問なのですが、オーどの脆弱性を見つけ出し、その Exploit を生成す

プンソースなどで公開されている一般的なソフト
4ウェアに対して Mayhem を使用したことはある全くありません（笑）。

のでしょうか。

では、将来的にはどうでしょう。

使用したことはありません。対象となるプログ皆目見当もつきません。というのも、マシンとラムの容量に制限はありませんが、ソフトウェア人間では特性が異なるのです。例えば小さなプロが大きくなると、それに応じて処理時間が大幅にグラムが 100 個あり、それらの脆弱性を次々と解伸びてしまうからです。

析していくのであれば、マシンの方が圧倒的に有利です。しかし、大きなプログラムの脆弱性を解Mayhem には他に特徴的な実装などはありま

析する場合は人間の方が得意だと思います。人間

すか。
CGC の競技では、DARPA が作成したチャレンが解析をする場合には、コードの重要な部分とそジ（脆弱性を含むプログラム）を解析し、生成しうでない部分を判断することができますが、マシた Exploit を使って他のチームに攻撃を仕掛けらンにはこれができません。ただし、これは現時点れるという側面があります。Mayhem では自身がでの話であって、5 年後くらいには状況が変わる発見できなかった脆弱性が使われた攻撃を受けた可能性もあります。

場合、その Exploit を解析するような機能も実装

とても興味深いお話です。人とマシンの関係性しています。

を踏まえて、今後 10 年でセキュリティの仕事はどのように変化すると思いますか。

コンピューターによる自動化によって現在、私は 1 日あたり 10 時間ほど、プログラ

セキュリティは今後ムのバグを見つける作業をしています。今後は、どのように変化するのか ?

マシンがバックグラウンドで常に動いていて、何かしらの判断が必要な場合に限り、人が介在するような状況になっていくと思います。

DARPA では各チームのプログラムソースや競技中のネットワークトラフィックのログといった CGC

今後、プログラムが実用的なプログラムを書くの成果を公開する予定です。これによって現実の世ような時代は来ると思いますか。界に何か影響を与えられると考えていますか。

マシンがそこまでできるようになるにはより多影響は 2 つあります。1 つはこういった攻防くの時間が必要です。ただし、人が書いたプログ戦が全自動で実現できたと世界に示せた点だと思ラムを解析したりパッチを当てたりすることは、います。もう 1 つは、全自動システムを構築し近いうちに実現できると思います。

たいと考える人たちの参考になるという点です。

未知の攻撃（ゼロデイ）に対してマシンで防御DARPA が作成したチャレンジと各チームのシスすることは可能だと思いますか。

テムを比較しながら読むことで、より理解が深まOS やブラウザーといった巨大なプログラムでると思います。

は無理ですが、IoT 関連などで使われる小さなプログラムであれば対応できると思います。

一般的な質問ですが、このような全自動システムを攻撃者が悪用する可能性はあると思いますか。

これまでの話を伺い、現在のマシンでできるこもちろん、その可能性は大いにあると思っていと、まだ実現できていないことなどが明確になります。ただし、このようなテクノロジーを誰もがました。今後しばらくは人とマシンが協調する時使えるということは、簡単に悪用できる脆弱性が代なのですね。

減ることにもつながるはずですから、長い目で見そのとおりです。マシンが得意なことはマシンれば攻撃者に不利な状況になると思います。

に任せて、人はより創造的な活動に取り組んでいくのがよいと思います。

CGC で の 優 勝 に よ り Mayhem は DEFCON 24の CTF 本戦に出場することとなりましたが、勝算本日はありがとうございました。

はありますか。

5

国内初の試み セキュリティ向上と人材育成を目指す

千葉大学 セキュリティバグハンティングコンテスト
レポート
取材・文 = 斉藤健一
コンテストの開催期間は 2016 年 12 月 15 日か
さまざまな組織に広がるら 2017 年 1 月 15 日までの 1 ヵ月間。参加には事「バグ報奨金制度」前に行われる講習を受講し、ハンターライセンスを取得する必要がある。ハンターは大学から指定新聞をはじめとする各種メディアで報じられてされたサイトへ、学内ネットワーク・インターネッ

いるとおり、サイバー攻撃による被害は増加の一トを問わず接続可能で、コンテスト期間中に脆弱途を辿っている。その要因の 1 つがダーク Web性を調査し、そのレポートを提出する。などと呼ばれるブラック・マーケットの存在だ。

コンテストが開始される 12 月 15 日には講習

通信経路を秘匿する特殊なブラウザーを用いるた会が開かれた。参加者は学内に貼り出されたポスめに、一般ユーザーが目にすることはない。ここ

ターなどを見て興味を持った学生たちで、理系にでは麻薬・銃器・児童ポルノなどあらゆるものが限らず文系学部の学生も含め 47 名の参加があっ売買の対象となっているが、他にもボットネットた（後日行われた補講には 16 名が参加）。これのレンタル・マルウェア作成キット・ソフトウェ

は大学側が予想していた数字を大幅に上回るものアのゼロデイ脆弱性なども売買されている。

だったという。

こうした状況に対抗するため、自社のソフト法律と技術、2 本立ての講義

ウェアや Web サービスなどの脆弱性を発見した社外の技術者に対して報奨金を支払う「バグバウンティ・プログラム」を設ける企業も出てきてい講習会では石井徹哉副学長による法律・倫理面る。米国では Google やマイクロソフトなどの ITの講義と、セキュアスカイテクノロジー社の長谷大手企業はもちろんのこと、ユナイテッド航空な川陽介氏による Web セキュリティの基礎に関すどの企業や陸軍といった組織にまで広がりを見せる講義が行われた。

ており、日本国内でもサイボウズ社や LINE 社と石井副学長の講義では、バグという言葉の説明

いった企業がこの制度を設けて外部の力を活用しから、脆弱性診断などの行為に関連する不正アている。

クセス禁止法の解説が行われた。さらに終盤では、発見した脆弱性の取り扱いについても言及し、大学の Web サービスをIPA（独立行政法人 情報処理推進機構）が窓口と学生自身が調査するコンテストなっている「ソフトウェア等の脆弱性届出受付」などが紹介された。

このような中、千葉大学が「セキュリティバグ一方、Web セキュリティの基礎講義は脆弱性のハンティングコンテスト」を実施した。在学生を定義を考えるところから始まった。脆弱性はバグ対象としたバグ報告奨励制度で、学内ネットワーの一種で「本来できてはいけないことができてしクのセキュリティ強化と人材育成を目的としていまう」というのが一般論だが、講師の長谷川氏はる。日本の大学としては初の試みとなる。主催は経済産業省や IPA、マイクロソフトなどの定義を同大学の CSIRT、技術協力を行ったのはセキュア

紹介し、ソフトウェアの開発者・運用者・利用者・

スカイテクノロジー社だ。

業務としてソフトウェアの診断を行う人など、立6講習会開会の挨拶に立った千葉大学石井徹哉副学長は法律・倫

セキュアスカイテクノロジー社の長谷川陽介氏による Web セ理の講義も担当

キュリティの基礎講義

場や状況により解釈が異なることを示した。また、を探りその裏を突こうとするチャレンジ精神など

セキュリティ強化のためにはプログラムの品質向が挙げられる。
一方、診断レポートに関しても読む側への配慮上が重要であるとも強調した。
ま た、 脆 弱 性 の 種 類 も 万 別 で、 一 意 に 識 別が大切だとし、診断の結果発見された脆弱性や問す る た め の CVE（Common Vulnerabilities and

題点は現実にどのような脅威や被害をもたらす可Exposures：共通脆弱性識別子）や、脆弱性の深能性があるかを想定したり、脆弱性が発見されな刻度を測る CVSS（Common Vulnerability Scoring

かった場合にはその根拠を示したりすることなど

System：共通脆弱性評価システム）などの意義にも重要だと力説した。また、診断作業の記録を残ついても語った。しておけば、仮に不測の事態が起こったとしても講義中盤では実際の脆弱性が紹介され、SQL イ

診断者の責任の範囲を明確にすることができ、ひンジェクション、クロスサイトスクリプティングいては診断者自身を守ることにもつながる、と長（XSS）、クロスサイト・リクエスト・フォージェ

谷川氏はアドバイスした。

リ（CSRF）といった代表的なものの仕組みが解説

コンテストを想定した演習も実施された。
優れた診断者になるためのポイントとは ?

講義終了後にはコンテストを想定した演習が行われた。用意されたのは図書館のサービスを模

Web セキュリティの講義はさらに続き、内容はしたサイトで、貸し出し履歴の閲覧などを行うこ脆弱性の見つけ方といった核心部へと移る。もちとができる。講習の会場となった教室にはデスク

ろん、実際に試すのは許可を得たサイトに限られトップ PC が設置されており、学生たちはこのマると長谷川氏は学生に対して釘を刺す。講義では

シンを使ってサイトに接続して隠された脆弱性を時間の都合から診断ツールの使い方などについて探っていく。

は参考資料（記事末のリストを参照）の提示にと30 分間ほどの短時間であり、ソフトウェアのどめ、主に脆弱性を見つけるための考え方や診断インストールも制限された PC ということもあっレポートの書き方に関して、ポイントを絞って解て、多くの学生が苦労していたようだが、それで説を行った。

も SQL インジェクションなどの脆弱性を発見できた参加者もいた。

長谷川氏によれば、脆弱性を見つけるには技術また、演習の最後には長谷川氏が想定していた的な知見も必要だが、それ以上に診断者の意識がいくつかの脆弱性が紹介された。

重要だという。例えば、Web アプリにさまざまなパラメーターを入力したときに現れる挙動のちょっとした違いに気づく感性や、開発者の思考
7

表彰式で記念撮影。前列が各賞を受賞した学生で後列が審査員功だったと語った。
コンテストの対象はその後、成績優秀者 5 名が表彰されたが、特筆

学生ポータルと学習管理システムすべきは発見された脆弱性の中にはコンテスト対象の実運用サイトに修正が反映されるものもあったという点であろう。

講習の最後にはコンテストの対象となるサイト

表彰式の終了後、この学生たちに話を聞いてみの発表やルール説明の他、ハンターライセンスのた。筆者は当初、熱心に CTF 大会などに参加し、交付が行われた。
コンテストの対象となるサイトは 3 つ。1 つは将来はセキュリティ業界へ進むことを目指すよう前述の演習でも使われたようなコンテストのためな学生を想像していた。しかし、実際はそのように制作された環境だが、残りの 2 つは学生ポータな人物は少なく、多くは情報セキュリティに興味ルと Moodle（ムードル）という学習管理システを持っているレベルで進路も未定という学生が多ムで実際に運用されているものと同等のものとなかった。

る。そして、これこそが「セキュリティバグハンまた、レポートの内容が講義内容を越えられたティングコンテスト」と冠し、他の CTF 大会など点について質問してみると、多くの学生がインとは一線を画す理由でもある。

ターネットで検索したり、情報セキュリティに詳しい友人に助言を求めたりしたとの答えが返ってコンテストの結果は ?

きた。
実運用環境の脆弱性を発見・修正できたというコンテストの表彰式が行われたのは 2017 年 2

大きな成果とともに、多くの学生が興味を持って月 27 日。千葉大学の発表によると、コンテスト参加したという点も成果だといえる。このような終了後にレポートを提出したハンターは 15 名（レ

革新的な取り組みを行った千葉大学の実行力は大ポートは 26 本）だったという。審査委員長であいに評価されるべきだろう。

る千葉大学 CSIRT チームリーダーの今泉貴史氏はまた、石井副学長によれば、来年度以降は他の総評で、提出されたレポートについて、限られた大学を交えた展開も検討しているとのことなの時間で行われた講習の内容を越えるものであり高で、このような取り組みが広がるよう期待したい。

く評価していると述べ、コンテストについても成8

講義で紹介された診断ツール・参考資料●代表的な診断ツール
・Fiddler
http://www.telerik.com/fiddler
・Burp Suite
https://portswigger.net/burp/
・OWASP ZAP
https://www.owasp.org/index.php/OWASP_Zed_Attack_Proxy_Project●その他のツール・sqlmap（SQL インジェクションの診断ツール）
http://sqlmap.org/
・ratproxy（Web アプリの診断ツール）
https://code.google.com/archive/p/ratproxy/・skipfish（Web アプリの診断ツール）
https://code.google.com/archive/p/skipfish/●参考書籍など
・安全なウェブサイトの作り方（IPA）
https://www.ipa.go.jp/security/vuln/websecurity.html
・体系的に学ぶ 安全な Web アプリケーションの作り方（徳丸浩著・ソフトバンククリエイティブ刊）
http://www.sbcr.jp/products/4797361193.html
・HTTP の教科書（上野宣著・翔泳社刊）
http://www.shoeisha.co.jp/book/detail/9784798126258
・Web セキュリティ担当者のための脆弱性診断スタートガイド（上野宣著・翔泳社刊）
http://www.shoeisha.co.jp/book/detail/9784798145624

9ハッカーやセキュリティにまつわるニュースを独自の視点から捉える時事コラム

Threat Scope＃ 24 AI 時代におけるサイバーセキュリティの攻防
文 = エル・ケンタロウ
みならず、データ改ざんなどを行うことで、感染人工知能を搭載したマルウェアの脅威に気づかれることなく業務を妨害する可能性もあるという。例を挙げれば、石油プラントを破壊す日々変わり続けるサイバー脅威に対抗すべく、るようなマルウェアは即座に発見され駆除されるさまざまなセキュリティベンダーが人工知能（AI）だろう。しかし、プラントのネットワーク内にあを利用したソリューションを開発している。本誌

るデータ収集センサーにマルウェアを感染させ、Vol.20 においても、生物界の免疫システムにヒン長期間にわたりデータを改ざんし続ければ、いずトを得た防衛ソリューションを開発した Darktraceれ事業運営を困難にする状況を作り出すことも可社の取り組みを紹介した。一方、攻撃者もこの技能だという。
パルマー氏は AI を搭載したランサムウェアの術を応用したマルウェアの開発を急いでおり、AI登場も予想している。ネットワークの状況を監視技術はいわば諸刃の剣であるとも言える。
経済誌フィナンシャルタイムズ誌がロンドンでしながら、最大限の被害を生み出すタイミングを開催したサイバーセキュリティサミットに参加し見計らって一気に攻撃を開始するというものだ。

た Darktrace 社テクノロジーデレクターのデイヴ・マルウェアに対抗して構成や設定をパルマー（Dave Palmer）氏によれば、マルウェ変化させるネットワークの研究もアは日進月歩で進化を続けており、AI を搭載する日も近いだろうと警鐘を鳴らしている。AI マルウェアでは、標的の行動の監視・分析、有効な感ICT 情報ニュースサイト、Information Age の記

染経路の特定、感染のトリガーとなるメール文書者であるニック・イスマエル（Nick Ismail）氏にの作成までを自動化できる可能性があるという。

よれば、すでに一部のマルウェアでまだ稚拙なレ文書の自動生成についていえば、ニューラルベルであるとしながらも AI 的な機能を持つものが現れてきていると指摘する。

ネ ッ ト（ 脳 の 神 経 組 織 の 仕 組 み を 模 し た コ ン
ピューターの学習機能モデル）を使った記事の作

マルウェアを開発する者たちはマルウェアの検知成や、クリックベイトと呼ばれるユーザーの誘導や解析を回避するための技術に注力している。例えを目的とした Web ページやヘッドラインの作成ば、マルウェアがどのような環境に置かれているかなどが挙げられる。そして、このような技術を使をマルウェア自身が判断し、サンドボックスや解析えば、標的型攻撃とはほぼ特定できないメール文用の仮想環境では悪意ある挙動を見せないといった章が作成できるようになるというのだ。

機能が挙げられる。さらに、こうした技術は洗練された一部のマルウェアから一般的なマルウェアと広また、AI マルウェアでは、標的の行動を監視・分がっていくだろうとも示唆している。

析した後に攻撃を展開するようになるとパルマー氏
は指摘する。例えば、取引先とのミーティング直後

しかし、守る側も手をこまぬいているわけではに「次回のミーティングはこちら」といった内容でない。米国政府はこのような新たな脅威に対して地図が添付されたメールを送るなど、業務での連絡もさまざまな対策を検討している。米国陸軍は軍をマルウェアが偽装するようになるという。

事企業の Raytheon 社と共同で、ネットワークの構成を変化させる（シェイプシフト）防衛アルゴ

さらに、このマルウェアは直接的な破壊活動の10の管理者へ送信後に自己破壊を行うという。

リズム、Morphinator（Morphing Network Assets
to Restrict Adversarial Reconnaissance）を開発しAI のアルゴリズムも窃取の対象にている。Morphinator の特長は、ネットワーク運用における管理性を損なうことなく、ネットワークの設定状況やホスト・アプリケーションの設定

このように、AI は次世代防衛策の要と期待されをダイナミックに変化させることで、マルウェアているが、スイス連邦工科大学ローザンヌ校と米によるネットワーク調査・推測を困難にさせると国ノースキャロライナ大学の共同研究チームは、いう点にある。

今では AI のアルゴリズムそのものが窃取の対象に現在開発が進められているプロトタイプでは、なっているとの論文を発表した。研究チームでは無線通信などで使われる周波数ポッピングのようAI のアルゴリズムに対してさまざまなやりとりをに、アプリケーションが使用する IP アドレスやポー行い返答を分析することで基礎となっているアルトをダイナミックに変更する機能を実装している。

ゴリズムのリバースエンジニアリングに成功したと発表している。

また、この Raytheon 社の技術以外にも Azos AI
社では CogDat という技術を開発している。これ

AI の開発は日進月歩で進化しており、2016 年

はコグニティブ（認識）データをファイルに埋め

ラ ス ベ ガ ス で 開 催 さ れ た DEFCON 24 で 話 題 に込み、ファイルがどこに保存されているのか、ファな っ た DARPA の Cyber Grand Challenge と 同 様

イル自身が判断するというものだ。仮にファイルにアルゴリズム対アルゴリズムのサイバー覇権争が盗まれ攻撃者の元にあると判断すれば、CogDatいが勃発する日もそう遠くないかもしれない。

は攻撃者のマシン環境に関する情報を収集、正規●参考 URL“Artificial intelligence-powered malware is coming, and it's going to be terrifying”
http://uk.businessinsider.com/darktrace-dave-palmer-artificial-intelligence-powered-malware-hacks-interview-2016-10“How to Steal an AI”
https://www.wired.com/2016/09/how-to-steal-an-ai/
How machine learning and AI will 'save the entire security industry'
http://www.techrepublic.com/article/how-machine-learning-and-ai-will-save-the-entire-security-industry/
How does advanced malware act like AI?
http://www.information-age.com/advanced-malware-act-like-ai-123462010/
The Next Big Threat: AI Malware
http://semiengineering.com/the-next-big-threat-ai-malware/11