CODE BLUE 2015に行ってきました(1日目:前半)

こんにちは、ひろかずです。

CODEBLUE2015に行ってきましたので、レポートします。
ライブで書いているので、多少の誤字脱字、表記揺れはご容赦ください。

予定の500名を超えて、600名の来場者

#お品書き
0.挨拶
東京電機大学教授　佐々木良一(実行委員長)

1.基調講演：シンギュラリティがやってくる
神戸大学名誉教授　松本卓也

2.医療機器のセキュリティ
フローリアン・グルーノ
[Medical][IoT]

=== 以降は[後半](http://qiita.com/fnifni/items/5a7a77fe4b8387e08a77) ===

3.Firefox の倒し方
西村 宗晃 （にしむねあ）
[Web][Firefox][OSS][CORS]

4.中国における情報セキュリティの新たな免疫システム 
シャオドゥン・ファン
[bug report][Community][Zero-day market]

5.日本の組織をターゲットにした攻撃キャンペーンの詳細
朝長 秀誠 & 中村 祐
[APT][reverse engineering]

#0.挨拶
東京電機大学教授　佐々木良一(実行委員長)

今年から2パラレルセッション、Under25枠(学生2名)の新しい試み
情報交換、交流会の場も設けている。各国から応募があったが、日本から2名参加
20歳以下のスピーカーが一般枠で1名いる(年齢伏せて応募)

#1.基調講演：シンギュラリティがやってくる
神戸大学名誉教授　松本卓也

##2045年問題 コンピュータが人類を超える日
シンギュラリティ(技術的特異点)
人類を遥かに超える知能(超知能)が生まれるのが2045年。
知能爆発が起こる(自分のプログラムを自分で書き換える)
この時に人類社会に大きな影響(ユートピアorアポカリプス?)

##ハリウッド映画に見る人工知能

* 2001年宇宙の旅：HAL9000：強い人工知能(意識を持っているということ：哲学用語)
* ターミネーター：スカイネット/殺人ロボット：強い人口知能
* 攻殻機動隊：義体化/電脳化：実現する会のコンペが神戸で開催予定。神戸市には公安9課があるw
* マトリックス：ネオとアーキテクト：シュミレーション現実化説
* Her 世界で一つの彼女：virtual秘書：強い人工知能
* トランセンデンス：マインドアップローディング(コンピュータの上に人間の意識を移植)：
* ルーシー：超人間：
* Ex-Machina：チューリングテスト：人間同一なものを作る(日本未公開)

##超知能の種類
機械超知能：ターミネータ、マトリクス
超人類：生物学的に増強された人間(ルーシー：ありそうにない)
知能増強(AI)人間：攻殻機動隊(一番有り得る)

##本題
上記のことを実際にやろう、できるという話

分類

* 狭い人工知能：特定目的、チェスマシン、ワトソン、Siri
* 汎用人工知能：人間的、一応なんでもできて常識ある、2029年に実現?

手法

* 生物学的手法：大脳皮質の模倣
* 数学的手法：深層学習大流行
* 工学的方法：従来的なAI(Siriとか)

シンギュラリティへの道のり

* ~2029年：スマートマシンの発達(ガートナー社予測)、技術的失業
* 2029年：前特異点(プレ・シンギュラリティ)汎用人工知能、チューリングテストのパス
* 2045年：シンギュラリティ(全人類並の知能)

起きる時期(アンケート結果)

* 21世紀以内が一番高い予測

シンギュラリティ後の世界

* 楽観的世界観：不死になる、あるゆる問題が解決
* 悲観的世界観：ハリウッド的な世界

人工知能脅威論

* ホーキンス博士
* イーロン・マスク(ヴァイカリウスに投資)
* ビル・ゲイツ(MSは膨大な人工知能投資)

→　言ってることと、やってることが違うので、ハリウッド的な世界観かなー

専門家は脅威論に与しない

* 中立以上が75%

シンギュラリティ後の現実的世界

* 超知能と共存
* 国家間の格差拡大(先進国による妨害も)
* 個人間格差拡大(金持ちだけが救われる)

目指すべき社会

* 全知全能の慈悲深い超知能？：人類補完計画？
* 人は働かなくていい：総カルチャーセンター、ベーシックインカム(ロボットが稼いで人が消費)
* ギリシャ・ローマが理想：奴隷が仕事、市民は学問・娯楽

人類史の転換点

* 農業革命：1万年前：定住、国家の起源
* 産業革命：250年前の英国(米国、EU、日本)
* 第二次産業革命

中国の失敗

* 伝統的な先進国だったが、明時代の大航海以降、洋出禁止

今後の日本

* 現在は、幕末の泰平の眠りに似てる 
* 超知能は黒船
* 指導層の覚醒が必要（政治家、官僚、起業家、メディア）
* 志士(数学、英語、コンピュータが武器)

人工知能の進歩は止められない

* 促進の動機(ペンタゴンとウォール・ストリート)

政府レベルの取り組み

* EU：ヒューマンブレインプロジェクト：2023年前に人間の脳を再現
* アメリカ：

ITジャイアントと人工知能

* グーグル、フェイスブック、MS、IBM、百度(最も脅威)

人工知能競争

* マンハッタン計画
* 天才を買う
* 東大発のロボットベンチャーSHAFTを買収(国防総省→Google)

Googleの野望

* ロボット製造会社、火災報知機会社、人工衛星会社、監視カメラ会社を買収

日本の取組み

* 予算配分は米国：IT企業；日本＝100:10:1
* 敗北は必至

日本からシンギュラリティを！

* 齋藤元章「エクサスケールの衝撃」
* アメリカで医療機器ベンチャー成功（日本では挑戦者が成功し得ない土壌）
* 日本でスパコン開発(2014年)：7ヶ月で開発
* エクサスケールスパコン(京の100倍：1日600万円の電気代)を2020年までに作る
* ハードはOK。後はソフト...H(S)TM理論など
* 機械超知能(人工大脳皮質)はクラウド
* ウェアブルデバイスであらゆる知識を教えてくれる
* 大阪で会合
* `齋藤元章 ワイアード` で検索
* 論文を書いて、科学研究補助で超知能を実現できる！

#2.医療機器のセキュリティ
フローリアン・グルーノ
[Medical][IoT]

CODE BLUEは医療用語では `重要なイベント(心肺停止)` `助けを必要としている` を示す。

##動機
* 重要性：医師と患者は機器を信じている
* 技術：非常に複雑、独占的なプロトコル、技術の結晶
* FDAから勧告：サイバー攻撃からの脅威を低減を保証する適切な措置を講じること
* マカフィーのテクニカルハッカーにて、医療機器の設定を変える事を実証(ハードコードされたパスワード等の脆弱性)

##成果発表
これまで

* シーメンスBS1(パラレルポートとプリンタポート)
* 日本光電ニューロファックス脳波計(外部とのコミュニケーションは要しない)

変わること

* プロセスの最適化
* 通信ポートオプションの有効化
* ICUで特に必要
* 相互運用(ehealth記録、画像保存通信システム)

これらの変化への準備

* 病院ITの状況(リソース/ノウハウが足りているか)
* 異なるネットワーク(医師、患者、関係者...)
* ホームモニタリングはどうか？(安価で、セキュアでないといけない)
* HTTPで送信されている(ASCIIでデコードすれば判ってしまう。Wifmo)
* ベンダーは学習を活かしているか？(ポートは使わないが、基盤は対応してしまっている。セキュアな病院ネットワークとインターネットに両方接続するPC)

ドイツでは、安全とセキュリティは同じ言葉(区別がない)
安全はほぼ機能するが、セキュリティは守られているか？

* ハッカーにどうせやられてしまう
* 501(k)は、敵対的でなく医者が患者を傷つけない前提でいる。
* 認証も安全にFOCUSしている

##問題
リソースがなく、セキュリティ侵害に対応できない。

##対象
* 有効化された通信ポート持つ医療機器
* 重症度評価：平時を観察(Low),患者にフィードバック(High)
* 診断：MRIの設定を誤ると大事故になる、除細動器、酸素ポンプ(入手難しい)
* ベンダーは関心がない？
* 高価なのでベンダー、病院の協力が必要

##これまでの発見
###事例1.脳波計
有線なので、暗号化、認証はなかった。
Open脳波計プロジェクトというものもある。
###事例2.生体モニター(心拍計のようなもの)
攻撃実演：ネットワークからDoS攻撃で生体モニターを無効にする。(表示データを消してしまう。手術時はCritical)
pythonスクリプトでブロードキャストMessageを流して生体モニタを再起動させる。
攻撃が止まるまで再起動できない。
###事例3.生体モニター(心拍計のようなもの)
攻撃実演：閾値を変更することで心拍数警報境界を変えてしまう。
###事例4.MRI構成ステーション
ホストシステム(WindowsPC)
画像処理システム(生データ抽出と処理)
VxWorks(コイルの制御)

* WindowsXPでFWがOffになっている。
* ベンダーは64bitOSなので大丈夫と言っている
* ポートは114個空いてた(httpdも！)
* システムクラッシュに成功

###事例5.シリンジポンプ
セキュリティコードで設定値を保護

* ネットワークからセキュリティコードを窃取して、設定変更できた。

###事例6.麻酔ポンプ
* ネットワークから装置をフリーズさせることができた。
* アラームが鳴った
* 幸運にもバックアップが稼働

###事例7.生体モニター(バイタルサインの表示する機器)
ICUに入ったVIPをモニタしているシナリオ
* ネットワーク経由で攻撃スクリプトを実行し、平常時のバイタルサインを録画し、クラッシュさせた後に、装置上で再生させる事ができた。
* 全く別の画面を表示させることができた。

#最後に
医療機器には攻撃は可能であり、検証が必要である。
入院の際は周囲に気をつけて！:)

#質疑応答
患者が医療機器の誤使用による死亡事故が増えている。
現実に起こっているか？

* 検知することができていないので、そういったデータはない。
* 標的型としてはあり得る。
* 一般患者としては、ネットワークセキュリティを高めることが必要

検証は、実際の病院ネットワークで行ったのか？

* コントロールされたラボ環境で行った。
* 対象機器には最終的にクリーンナップを行った。

前半はここまで。
[後半](http://qiita.com/fnifni/items/5a7a77fe4b8387e08a77)に続きます。