文字部分の可読に支障がある場合は、こちらを使用してください（バナーなど）

AI 倫理の現状
三國陸真

要旨
本⽂書はウェブ記事をもとに AI 倫理の現状についてまとめたものである。
はじめに AI 倫理に関連する出来事について確認する。続いて具体例を挙げながら企業に設置されている AI 倫理専⾨家の役割やその運⽤状況、課題について述べ、最後に市⺠のプライバシーを守るために企業の AI 倫理に対して抗議活動を⾏う団体やӍ,俑㶵鿇ⴓխ鿇ⴓ
Ӎ,
企業に残された課題について⾒ていくこととする。

Ӎ,

キーワードlAI 倫理lAI 倫理専⾨家l

プライバシー

概要 1 2l

AI 倫理に対する注⽬は近年⾼まってきている。
n2015 年、Google は⾃社のアプリである「Google フォト」に採⽤されていた文字部分の可読に支障がある場合は、AI が⿊⼈⼥性をゴリラと判別したことを謝罪した。

n

こちらを使用してください（バナーなど）

2018 年、ティムニット・ゲブル（Timnit Gebru）⽒とジョイ・ブオラムウ
ィニ（Joy Buolamwini）⽒が顔認証システムの課題に着⽬した研究結果を発表した。これを受け、化粧品会社の中には AI を活⽤したプロジェクトの中⽌を決定した会社もある。

n2020 年、IBM やマイクロソフト、Amazon は顔認証システムによる性・⼈種差別の可能性を考慮し、連邦法の適⽤⽅法についても指摘しながら警察がシステムを使⽤することを禁⽌した。

n2020 年、⾃社の AI ソフトウェアに対する問題点を指摘する論⽂を公表した
ゲブル⽒を解雇したことにより、多くの会社が AI について再び考えるようになった。これは AI 倫理専⾨家の間でとても重要な問題であると考えられている。

1

Jonathan Vanian, "Why companies are thinking twice about using artificial intelligence",

Fortune , Febrary 1, 2021, https://fortune.com/2021/01/31/ai-ethics-why-companies-arethinking-twice-artificial-intelligence/.
2
Srishti Deoras, "Tech Firms Are Racing To Hire AI Ethicists ", Analytics India Magazine ,Febrary 26, 2021, https://analyticsindiamag.com/tech-firms-are-racing-to-hire-ai-ethicists/.

本資料は，JST，RISTEX，JJPMJRX19B5 の⽀援を受けた研究成果の⼀部です。

nl

2021 年、偽情報の伝播により発⽣した⽶国連邦議会議事堂で暴動が発⽣した。

現在アメリカの⼤企業のうち 30%が AI を⽤いたプロジェクトや AI アプリケーションを展開している。しかし、AI の利⽤は関係者に影響を与えるにも関わらず、公正な AI 利⽤を裏付ける具体的な計画を持ち合わせていない。

l

AI 利⽤に関する意思決定を⼿助けする存在として、AI 倫理専⾨家は期待されている。

2

AI 倫理専⾨家の現状 3l

AI 倫理管理者の役割
n

AI に関する倫理的懸念に対処するための適切なガバナンスメカニズムを構築することに加え、AI の影響についての教育やスキルアップが重要である。そのため、AI 倫理管理者は AI やテクノロジーの倫理的懸念の理解・監査を⾏うと同時に、従業員のための⾸尾⼀貫した関連ポリシー推奨事項の作成を⽀援することが求められている。

n

例１：デロイトロンドン（Deloitte London）
u ⾦融サービス部⾨において AI や機械学習を使⽤した際に発⽣するリスクや倫理的懸念のトレンドや問題点、契機に理解がある者を募集した。
u この管理者は、企業が AI のリスクに対処し、規制戦略、テクノロジーリスク、モデル検証など様々な社内及びグローバルチームと調整ができるように、製品やサービスの設計、設定、展開に積極的に参画することが求められている。

n

例２：Twitteru Twitter の ML Ethics Transparency and Accountability(META)の管理者は次の 5 点を⾏うことが求められている。
① システムが公平性や⼈権を保守していることを確認する② 機械学習の倫理、透明性や Twitter での説明責任に関連するあらゆる分野で、エンジニアと研究者の世界クラスのチームの製品戦略に貢献し、製品の決定を促す③ 他のチームと計画の作成やコラボに取り組み、影響⼒のある変更を⾏う④ 問題や成功の指標の適切なセットを定義し、Twitter への影響や価値を最⼤化する⑤ 部⾨の枠を超えた管理を保証する

l

運⽤状況
n

マイクロソフト社を⽪切りに数多くの会社がデータ・AI 倫理専⾨家を雇⽤し始めているが、彼らの主な仕事として、データ倫理コンサルタント、ML 倫理学者、データ倫理統率、AI 政策コーディネーター、AI 倫理マネージャー、
AI 倫理学者、AI ガバナンスマネージャーがある。

n

会社が専⾨家を雇⽤する際に使⽤する呼称として、AI 倫理学者（IBM）、倫理 AI 統率（Google）などがある。

3

See id .

3

nAmazon Web Services(AWS)や Twitter など積極的に専⾨家を雇⽤している会社がある⼀⽅で、⼀握りの会社でしかその動きが⾒られない国もある（インドなど）。

n

AI 倫理学者が不⾜している理由として、次の 2 つが挙げられる① 会社は専⾨家の必要性を理解している⼀⽅で、どのような仕事を求めているのかについて明確な記載をしていない② 新しい職業であるため、応募者の数が少ない

4

AI 倫理の課題 4l

AI 倫理に関する組織が⽴ち上げられてきているが、Color Of Charge のように企業に対して厳しい意⾒を向ける組織もある。

lColor Of Charge の活動実績
nZoom などの⼤⼿ハイテク企業は多様性に富んだ専⾨家を雇った。

n

Google は右翼団体プラウドボーイズのウェブサイトとオンラインストアをブロックした。

n

TikTok のような主要ソーシャルメディアプラットフォームは、憎悪に満ちたコンテンツを禁⽌するためのより強⼒なポリシーを採⽤し始めた。

lColor Of Change はこれまで、Facebook や Twitter、Google の代表者たちと協議を重ねてきたが、ユーザーや⿊⼈コミュニティの安全を守るための施策は不完全であり、連邦議事堂の襲撃の責任の⼀端を担っていると⾔える。
nFacebook や Twitter、YouTube をはじめとするビッグテック企業のビジネスモデルはサービス利⽤の最⼤化のみを⽬的としているため、⾃社の利益や評判が脅かされまでは問題に取り掛かることをしない。また、偏向的なコンテンツほどエンゲージメントが⾼まり、コメントやシェアが多ければ多いほど注⽬を集め、広告主にアピールすることができることも理由の⼀つである。
u Facebook に対して⽩⼈市⾄上主義者や極右陰謀論者、⼈種差別主義者たちがプラットフォームを利⽤して暴⼒を組織化、勧誘し、先導することの危険性について警告していたが、Facebook のリーダーは⽿を貸すことはなく、問題が発⽣してから対応することを強いられている。確かにFacebook は「Facebook 監視委員会」という組織を適切なポリシー実施の⼤体として⽴ち上げ問題に取り組んでいるアピールをしているが、これは問題の最終決定を曖昧にし、責任を回避しているだけである。

l

これらの問題に対してハイテク企業は PR チームを駆使して問題に対処しているように振舞うのではなく真剣に取り組むべきである。

l

現状、ビッグテック企業は積極的に問題解決に取り組もうとしないため、連邦政府は説明責任を求めたり企業の動きを監視するために連邦規制を制定するなど次のような介⼊をするべきである。
n

企業の説明責任をないがしろにし、⿊⼈のビジネスや労働者に影響を与える⼤⼿ハイテク企業の独占状況を打破するために、より強⼒な独占禁⽌法を制Aricha Hatch（Dragonfly 訳）「信⽤できない⼤⼿ハイテク企業の⾃主規制、今、⽶国議会の⾏動が必要とされている」, TechCrunch Japan , 2021 年 3 ⽉ 28 ⽇
（https://jp.techcrunch.com/2021/03/28/2021-03-12-big-tech-companies-cannot-be-trustedto-self-regulate-we-need-congress-to-act/）。
45

定する。
n

データから得られる利益が搾取の助⻑に使⽤されないようにするために、包括的なプライバシー及びアルゴリズムによる差別禁⽌法を制定する。

n⿊⼈や低所得者のコミュニティにおける情報格差を解消するために、ブロードバンドアクセスを拡⼤する。また、インターネットサービスやプロバイダーがコンテンツや危機によって異なる料⾦を請求できないようにしてネットの中⽴性を回復させる。

n

情報格差やコンテンツの適正化を図るために、〔通信品位法〕第 230 条が公⺠権法の遵守からプラットフォームを免除するものではないことを明確化する。

6

まとめ¹
l

LivePerson の最⾼技術責任者であるアレックス・スピネリ（Alex Spinelli）⽒は、偽情報の伝播により発⽣した⽶国議会議事堂の暴動を例に挙げて偽情報の危険性を指摘した。彼はこれまでに AI に潜む偽情報の危険性を考慮し、プロジェクトを中⽌したことがあるとも語った。

l

多くの会社が AI 倫理に関⼼を持つようになったことは⼤きな進歩である⼀⽅で、AI の利⽤に課題は残されている。顧客の信頼を得るためにも、企業のスタンスやAI の利⽤⽅法を公表する必要があるとスピネリ⽒は考えている。

⽂責：三國 陸真7