日本ディープラーニング協会の「AI for Everyone」講座をまとめてみる-4週目後編

# この記事について
日本ディープラーニング協会(JDLA)の初学者向けAI講座を個人的にまとめたメモです。

[記事一覧、連載の購読はこちらから。](https://hide.ac/magazines/WDkd1XSxU)

受講は無料のため、このまとめ記事で興味を持ったらぜひ本家の講座を受講してみてください。

[・DL for DX｜日本ディープラーニング協会](https://www.jdla.org/promotion/)

[・AI For Everyone （すべての人のためのAIリテラシー講座） | Coursera](https://www.coursera.org/learn/ai-for-everyone-ja)

# AIに対する敵対的攻撃
最新のAIは非常に強力だが、特にディープラーニングの限界の１つは「騙される可能性があること」

悪意のある第三者がAIシステムを騙そうと企てた場合、今のAIシステムは敵対的攻撃の影響を受けやすいことがある

## AIの攻撃的手法
### 小さな摂動を加える

※「摂動」とは・・・小さな攪乱(かくらん)・ずれ。

![Perturbation](https://firebasestorage.googleapis.com/v0/b/hideaki-97c59.appspot.com/o/images%2F1RDyS5DGxZfw0nPKaoVhsQlhkO52%2FFXuq7YaOR.png?alt=media)

AIシステムにこの鳥の画像を与えて分類させると、これが「ハチドリ」であると出力した

この画像に小さな摂動を加える　→　ピクセルの値をごく僅かに変更する

すると、同じAIシステムはこれを「ハンマー」であると出力する

もう一つの例では、うさぎの写真に僅かな摂動を加えると、AIは「机」と出力した

人間の目にはほとんど知覚できない変化だが、AIシステムでは全く異なった見え方をしている

そのため、攻撃者が「人間には知覚できないような変更」を画像に加えると、AIを騙して画像をまったく違うものと認識させることが出来る

これをAIシステムに対する「敵対的攻撃」と呼ぶ

コンピューターセキュリティにおける攻撃とは、「意図した動作以外のことを実行させようとすること」

AIシステムに置き換えると、上記のような「誤った分類を出力させようとする試み」等

その他には、スパムやヘイトスピーチのフィルタリングAIが敵対的攻撃を受けると、フィルターの有効性が低下する

敵対的攻撃をするためには、画像を直接変更する能力が必要

　→　画像をWebサイトにアップロードする前に直接変更する、等

## 物理的な攻撃

物理的な世界を変えることで機能する攻撃もある

![PhysicalAttack](https://firebasestorage.googleapis.com/v0/b/hideaki-97c59.appspot.com/o/images%2F1RDyS5DGxZfw0nPKaoVhsQlhkO52%2F9EXhWeRi1.png?alt=media)

### メガネとミラ・ジョヴォヴィッチ
カーネギーメロン大学のグループは上の写真のようなファンキーなメガネをデザインした

男性がこのメガネを着用すると、AIシステムは騙されて女優の「ミラ・ジョヴォヴィッチ」だと認識する

### 一時停止標識を認識できない
カリフォルニア大学バークレー校ミシガン大学および他の大学の別の研究者グループの研究結果

上の写真のようなステッカーを一時停止標識に貼り付けるとAIシステムを騙すことができる

AIシステムは一時停止標識を全く認識出来なくなってしまう

一時停止標識に落書きがされているように見えるが、ほとんどの人間は簡単に一時停止標識と認識できる

しかし、自動運転車にコンピュータービジョンシステムが組み込まれている場合、これらのステッカーによって一時停止の標識を車が認識できないのは大きな問題となる

### バナナとトースター
Googleの研究者グループが行ったのは「ステッカーをデザインすること」

上のバナナの写真にステッカーを配置すると、このバナナが誤分類される

動画では、左側には分類器の入力が表示され、右側には分類器の出力が表示されている

![Banana](https://firebasestorage.googleapis.com/v0/b/hideaki-97c59.appspot.com/o/images%2F1RDyS5DGxZfw0nPKaoVhsQlhkO52%2FzospyX_I3.png?alt=media)

この時点ではバナナである可能性が非常に高いと判断している(ナメクジの可能性もわずかにある)

ここにステッカーが配置されると、AIシステムはこの写真が「トースターの写真」であることをほぼ確定する

![Toaster](https://firebasestorage.googleapis.com/v0/b/hideaki-97c59.appspot.com/o/images%2F1RDyS5DGxZfw0nPKaoVhsQlhkO52%2FPcuEDsWNm.png?alt=media)

注:この講座の動画では字幕が間違っていたので[オリジナルの動画](https://youtu.be/i1sp4X57TL4)から引用

<iframe width="560" height="315" src="https://www.youtube.com/embed/i1sp4X57TL4" title="YouTube video player" frameborder="0" allow="accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture" allowfullscreen></iframe>

この取り組みで興味深い側面の１つは、この論文の著者が巻末資料としてステッカーの写真を論文に掲載していること

そのため、用紙をダウンロードしてステッカーを印刷すれば、存在しないトースターを存在しているとAIシステムに誤認識させることが出来る

## 攻撃に対する防御
このように、残念ながら簡単にAIシステムを攻撃できる方法が示されている

これらの敵対的攻撃から守るために何ができるか？

### 防御は存在するがコストがかかる
防御は非常に技術的である傾向があるが、ニューラルネットワークやその他のAIシステムを変更して攻撃をやや難しくする方法がある

主な欠点としては以下が挙げられる

* 防御にはコストがかかる

* AIシステムの動きが少し遅くなる場合がある

しかし、これは現在進行中の研究分野であり、AIを応用したいすべての重要なアプリケーションにとって十分と思われる強力な敵対的防御からはほど遠い

### スパム対アンチスパム状態
スパム対アンチスパム状態のように、激しいせめぎ合いの状態にある例も存在する

多くのAIシステムでは誰もがそれを攻撃しようとする動機はない

例:コーヒーカップ工場の自動目視検査システムを攻撃する動機を持つ人はほとんどいない

その一方で、AIコミュニティが防御を構築し、防御を欺こうとする攻撃者コミュニティがあるため、激しいせめぎ合いの状態にあるアプリケーションも存在する

スパマーがスパムメールを通過させようとし、スパムフィルターがそれらを阻止しようとしている「スパム対アンチスパム」に似た状況

講師の体験談では、不正防止システムに取り組んだ時はゼロサムゲームの戦争をしているように感じたとのこと

しかし、敵の攻撃を受けにくいAIアプリケーションも沢山ある

# AIの誤った活用
## ディープフェイク
人々が実際には全くしていないことを「しているかのような」動画を合成する

例:BuzzFeedは、当時米国大統領であったバラク・オバマ氏が、実際には言わなかったことを話している映像を作成した

BuzzFeedは動画公開時に偽物だと明かしていたが、もし同様の技術が個人をターゲットにしてしまった場合、実際にはしていないことをフェイク動画のせいでやったと決めつけられてしまい、身を守らなければならなくなる

## 民主主義とプライバシーを損なう
抑圧的な監視

世界には抑圧的な政権もあり、市民に対して抑圧的な監視を行うためにAI技術を使用する可能性がある

## フェイクコメント
偽のコメントを生成する

商業の面では製品の偽コメントがあり、政治的な面では公共の場での政治的発言の偽コメントがある

人に書かせるよりも遥かに効率的に偽のコメントを生成する

このような偽コメントを検出して取り除くことは、オンラインで読むかもしれないコメントの信頼度を維持するのに重要なテクノロジーである

## スパム防止や詐欺防止
そう遠くない将来、どちらの側でも争いが起こる可能性があるが、講師は楽観的に見ている

対策をより良くしようと取り組む人は多く、攻撃者の方が少ないため、対策側の方がリソースが多い

# AIと発展途上国
## 発展途上国
### 従来の発展途上国のロードマップ
多くの発展途上国が実行した梯子のようなロードマップがあった

1. 低価格の農産物を輸出

2. 衣料品製造などの低価格の繊維製造業に移行

3. プラスチック部品などの安価なコンポーネント製造に移行

4. 低価格の電子機器製造に移行

5. 高額な電子機器製造や自動車製造などに移行

この段階的な進歩により、市民がスキルを獲得し、先進国に近付いていく

![AIwithDevelopingCountry](https://firebasestorage.googleapis.com/v0/b/hideaki-97c59.appspot.com/o/images%2F1RDyS5DGxZfw0nPKaoVhsQlhkO52%2FLhEYO_Kvb.png?alt=media)

AIが引き起こし得る問題の１つは、この梯子の低い段がAIによる自動化の影響を特に受けやすいこと

工場や農業がより自動化されると雇用が減り、発展途上国の人口の大部分は梯子から上がれなくなる

AIが梯子の低い段を破壊しているとしたら、次の義務はAIがトランポリンを作って、発展途上国を梯子のもっと高い段により早く飛び上がるようにすること

### 先進国の経済を追い抜くケース
初期のテクノロジーの波の高まりにより、多くの国々が先進国を追い抜き、一気により高度なテクノロジーに到達できる

#### 例:携帯電話
米国では殆どの人が固定電話を使用していた

国民の多くが固定電話を持っていたため、携帯電話に移行するのに時間がかかった

対照的に、インドや中国など多くの発展途上国では固定電話を設置せずに携帯電話へと一直線に飛び越えた

#### モバイル決済
多くの先進国には成熟したクレジットカードシステムがある

その影響もあり、一部の発展途上国と比較してモバイル決済の導入が遅れている

一部の発展途上国には、定着したクレジットカード業界がないため

#### オンライン教育
物理的な学校や教員を必要なだけ設置できていない国では、先進国の一部よりも迅速にオンライン教育を導入する方法を模索している

先進国もこうした技術を急速に導入しているが、発展途上国の利点は、既存のシステムが確立されていないため、さらに急速に構築できる領域があること

すべての国に、まだ創出されていない価値を生み出す大きな役割を得る機会があり、その大部分を勝ち取ることさえできる

## 発展途上国のAIの構築
### 米国と中国が先陣を切っているが、今日のAIはまだ未熟

### 国の縦型構造産業を強化するためにAIに集中する

例:コーヒー豆製造の強い縦型構造産業を持っている場合、コーヒー製造用のAIを構築することで既に得意なものをさらに強化できる

すべての国がAIに関して米国や中国と競争する必要はない

多くの国はAIを使用してその国の得意分野と将来その国がしたいことを強化するようアドバイスする

### AI開発を加速させる官民パートナーシップ

縦型構造産業のAI開発を加速するのに役立つ(医療、自動運転車、金融等)

業界へのAIソリューションの採用を可能にすると同時に、市民の保護に配慮している政府は国内の経済成長と技術開発の迅速化を実現する

### 教育に投資する

AIはまだ未熟なため発展途上国は教育に投資すべき

# AIと仕事
AIの台頭により、自動化できるものが以前よりも多くなった

その結果、仕事への影響も大きくなっている

どれだけの仕事がAIに置き換えられるのか？どれだけの新しい仕事が生まれたのか？

## AIが全世界の仕事に与える影響
2030年までに失われる仕事：4億～8億人

2030年までに創出される仕事：5.55億～8.9億人

AIの雇用への影響については多くの研究が行われており、様々な予測がされている

対象や算出方法に差はあるものの、世界的に雇用への影響が大きくなるという見方が強い

### 未来の仕事
未来の仕事の多くはまだ名前がついていない

* ドローンによる交通量の最適化
* 3Dプリントの服飾デザイナー
* DNAをベースにしたカスタムメイドの製薬

AIが仕事を奪うことへの懸念がある一方で、将来的には多くの新しい仕事が生み出されるという希望もある

### AIに仕事が奪われる可能性を推定する
典型的な調査方法

1. ある仕事を取り上げる
1. その仕事を構成するタスクを全て調べる
1. それぞれのタスクについて、AIによる自動化がどの程度可能かを推定する
1. その仕事が主に自動化できる可能性が高いタスクで構成されている場合、その仕事がAIに置き換えられる確率は高くなる

多くのAIエンジニアは、AIは「人の仕事」に適用されるというよりも、「タスク」に適用される方が適切だと考えている

しかし、このフレームワークを使えば、AIによってどれだけの仕事が置き換えられる可能性があるかを推定できる

### AIに置き換えられる可能性の高い仕事、低い仕事

![AutomatedForThePeople](https://firebasestorage.googleapis.com/v0/b/hideaki-97c59.appspot.com/o/images%2F1RDyS5DGxZfw0nPKaoVhsQlhkO52%2Fb54Ka-d6N.png?alt=media)

当然ながら、ルーチンや反復作業が多い仕事は自動化に適している

それに対し、ルーチン性や反復性が低く、人との関わりが多い仕事は自動化の影響を受けにくい可能性がある

## 解決案
人々は、AIによる仕事への影響をどのように乗り切れば良いのか？

### 条件付きベーシックインカム：セーフティーネットを提供するが、学習を奨励する
ユニバーサル・ベーシックインカム(政府が国民に無条件でお金を支払う)よりも、条件付きベーシックインカムの方が効果的だと考える

失業者であっても学習能力のある人には、セーフティーネットを提供しつつも、学習を続け、自分の成長に投資し続けることを奨励する

学習能力のある人たちが学習できるような仕組みを提供することで、そのような人たちが再就職して社会に貢献できる確率が高まれば、このセーフティーネットの費用を負担する納税者も増えることになる

### 生涯学習
生涯学習社会の構築

変化の激しい今日の世界では、政府、企業、個人、全員が学び続ける必要がある

そうすれば、たとえ仕事がなくなっても、新しい仕事が生まれれば誰もが有利な立場に立てる可能性が高まる

### 政治的解決案
政治的な解決策も検討されている

新たな雇用創出のためのインセンティブや支援、人々が公平に扱われるようにするための法律など

## 終わりに
もしAIを活用した仕事をしたいのであれば、オンラインコースなどでAIを一から学ぶことは可能

自分がすでに知識を持っている分野にプラスしてAIを行えば、非常に価値のあるユニークな仕事ができるかもしれない