特集

人事 のtext ＝入倉由理子（4 〜 33P）
photo ＝刑部友康、鈴木慶子、宮田昌彦

4Works No.156 Oct–Nov 2019illustration＝市村 譲

原則

はじめに

今こそ、議論を始めるべきときである
医療やマーケティングなどの領域では実装が進む人工を取り扱う機能であり、人事の決定は働く人の人生に大い知能（AI）だが、人事という領域では AIの活用はまだ端に影響を与えるものだ。ルールの議論を早急に始めるべき緒についたばかりである。しかし、データとテクノロジー

であると考え、特集を組むことを決めた。

をより経営に活かすべきという論調が高まるなか、人的資原則づくりの前に、AIのテクノロジーは今どこまで進み、源をより充実させ、その配置や育成によって事業の成長に

近未来はどうなっていくのか、それによって生じる課題は資するべしというミッションを持つ人事部が、AIを利用し何か、AIの研究者や法学者、実際に AIのサービスを提供たいという思いを抱くのは当然だといえよう。

する企業などに話を聞いた。そして、さまざまな国や機関

同時に、AIが個人の情報を扱うことにより、社会が内の AI 原則づくりにかかわった人々からも知見を得たうえ

包する差別を助長したり、新たな差別を生んだり、また、

で、人事、AIの技術、法律などの専門家の力を借り、AI

AIが下す意思決定の不透明さが問題になったり、とAIがとともにある未来の人事が守るべき原則を議論した。

持つ負の側面が指摘されてもいる。そのため、AIを活用

AIにかかわる技術の進展は著しく、また、人々の使いするにあたっての倫理規定や原則づくりに多くの国や企業方も変化するなかで、多くの AI 原則がそうであるように、が実際に取り組み始めている。

原則を一度決めて終わりというのは非現実的であり、継続

前述のように人事領域の AI 活用はまだ夜明け前にすぎして議論を重ねる必要がある。読者諸氏の意見も、ぜひないため、この領域では活用にあたってのルールの議論は聞きたいと思う。

本格的に始まっていない。だが、そもそも人事は“ 個人 ”

本誌編集／入倉由理子

Works No.156 Oct–Nov 20195

AIとはどのような技術か

今、どこまで進んでいるのか
第 3 次 AI ブームといわれて約 5 年が過ぎようとしている。
もはやそれはブームというよりはあらゆる産業にとって欠かせない技術領域の 1 つとなりつつあるが、進化のスピードが速いだけに実態やできることの現在地がつかみにくい。

AI とはそもそも何か、今何ができるのか、そして近い未来にはどのようなことができるようになるのかを探った。

ディープラーニング のその先 へ技 術のホワイトボックス化が急 が れる
AIとは何か。その問いに対して、

ディープラーニングの進化が目覚まし習し、そこに潜むパターンを見つけ出慶應義塾 大学教 授、山口高平氏はかったゆえに起こったものです」（山

し、そのパターンを新たなデータに適「“AI”という技術はそもそもありませ

口氏）

用してそのデータを分類したり結果をん。AIを構成する技術は150から200

ディープラーニングは、機械学習

予測したりする技術である。これに、にも及ぶのです」と答える。
「現在のの1 種である。機械学習とは、プログ

パターンを抽出するための特徴量ま

第3 次 AIブームは、その技術の1つ、ラムが大量のデータから反復的に学で自ら探索して学習する能力を備え

6

Works No.156 Oct–Nov 2019

たのがディープラーニングだ。より複そこに至った理由を説明できません。

このような知識を獲得したAIは、

雑な構造のデータについて、より精度

意味そのものは理解していないため、推論の根拠も説明できる。
「IBMが開の高い分析・予測を行うことができる

出した結論の根拠がわからないので発したWatsonの 後 継 である『プロと期待されている。センサーの進歩

す」
（山口氏）

ジェクトディベーター』は、意味ネッ

や、ウェブ上の画像やテキストなどのそこで今、結論の根拠を提示でき

トワークを使っており、ディベート大

デジタルデータが爆発的に増えたこと、る“ホワイトボックス”型のAIに注目

会で地区チャンピオンを負かしたこと

ハードウェアの処理能力が上がったこが集まっている。山口氏の研究領域が米国で話題となりました。プロジェとが相まって、ビジネスや医療などのであるオントロジーも、ホワイトボッ

クトディベーターは相手の論の欠陥を現場での実用に堪えるレベルのサークス型 AIを実現するための技術の1見抜き、自分の論の正当性を十分にビスが次々と生まれているのだ。

種である。

主張できるのです」（山口氏）「画像やテキストなどを、大量に“ 見「知識を体系化する方法論がオント

山口氏の研究室で開発された意味

る”ことで区別するのがディープラー

ロジーです。1つの言葉に対して、そネットワークを搭載したロボットが、ニングは得意です。特に画像認識技の言葉の意味、ほかの言葉との関係

東京都の小学校で子どもたちが行う術の進化は目覚ましく、工場での不性を定義し、リンクさせ合って意味

フリーディスカッションに加わるとい良品の検出や、医療における画像診

ネットワークを構築します。たとえば

う実験も行われている。あるときの断などでは非常に高い成果をあげて“ 信長 ”という言葉を入力すると、AI

テーマは、“ 地球温暖化に対して個人います。人間の見る力を補っているとが“ 秀吉＝部下 ” “ 光秀＝敵 ”というよができること”だ。子どもが“ 氷が溶いう意味では“ 人工知覚 ”といってもうな関係性までを理解できるようにすける”などと発言すると、ロボットがいいでしょう」（山口氏）

る。AIに“ 意味 ”を理解させるのがオ「今、氷が溶けると言ったね」と口をントロジーです」
（山口氏）

はさむ。
「氷が溶けると、海の水が増のちに詳述するが、人事の領域で使 わ れ ようとし ているのも、 主 にえるね」と視点を広げたり、難しい言

ディープラーニングである。多くの人

葉には解説を加えたりする。それにのデータをAIに与え、そこから一定

よって子どもたちの議論を活性化してのパターンを抽出させ、採用や人材いくのだ。

配置などにおけるさまざまな分析・予「企業でも、会議の場にこのようなロ測に役立てようとしている。

ボットがいるのが当たり前になるでしょう。ひらめきとは、離れた領域に

AI はブラックボックスからホワイトボックスへある知識と知識の結びつきから生まれます。それは人間の得意分野だと

ところが、ディープラーニングにはされてきましたが、意味ネットワーク

問題がある、という主張が生まれてもがもっと膨大になれば、意味のリンク

いる。それは、“ブラックボックス” だ。

を辿って人間が思いもよらなかった発「ディープラーニングでは、パターンを当てはめ、結論を導き出しますが、山口高平氏
慶應義塾大学理工学部管理工学科 教授
人工知能・ビッグデータ研究開発センター長想を提示してくれる可能性もあるで
しょう」
（山口氏）

Works No.156 Oct–Nov 20197

の研究機関や企業がしのぎを削って口氏は“ 利用知”を高めることを挙げいるという。

る。
「利用知を高めるとは、エンドユー「そうしたなかにあって、日本が後

ザーがいろんな使い方を試して、より

ただし、問題は「意味ネットワーク

れを取っていることは否めません。AI

メリットを享受できる使い方を、実地をつくっているのは人間。それには膨に投入される国家予算は、ほかの領で生み出していくことです。技術とい

大なコストがかかる」（山口氏）こと

域よりも潤沢とはいえ、開発ではるかうものはコインの裏表で、使い方にだ。そこで、ディープラーニングと意に先行する米国や中国とは大きな差

よって善にも悪にもなる。だからこそ、

味ネットワークの融合が注目を集めてがあります。もはや追いつくのは難し

ユーザーの使い方の原則をきちんといる。意味ネットワークの構築を自動

いかもしれません」（山口氏）

定め、善となる使い方を世界に示す“ 利用知 ” で世界をリードするための原則づくりを化し、スピーディにすることに、各国

そんな日本が戦える分野として、山ことが求められます」（山口氏）

開 発 が 進む、 自律 性、汎用 性を持つA I
ま すま すルール の存 在 が 重 要に今のところ、AIは目的に応じて事

囲のことを判断し活動するAI、つまにしろ、人工ダイヤモンドにしろ、“ 人前に学習する必要があるし、その目的

り、より人間の知的活動に近い働きを工◯◯ ”というものをつくり出すには、は、特定の狭い範囲のものでなくてはするAIの研究開発も進んでいる。そその“ ◯◯ ”の部分の仕掛けや構造がならない。これに対し、自ら幅広い範の研究者の1人が、慶應義塾大学教わかっていることが前提です。ところ授の栗原聡氏である。
「現在のAIは、が、知能とは何かということはまだ議人間の能力を拡張する“高度な道具 ”

論し尽くされていません。まず、“ 知でしかない。しかし、AIの研究はそ能 ”を定義しなければならないのでもそも“ 知能 ”を“ 人工的に”つくりた

す」
（栗原氏）

いという科学者の純粋な欲求から始

栗原氏は、知能を「目的のためにまったものです。その思いを受け継ぎ、生き抜く力」と定義づける。
「生物、人の知能を模したAIの研究開発に取特に人は目的のために自律的、能動り組んでいます」（栗原氏）

的に動き、汎用性を獲得し、目的を“ 人工 ” の “ 知能 ” を持つ
AI の開発が進む栗原 聡氏
慶應義塾大学理工学部管理工学科 教授
電気通信大学人工知能先端研究センター 特任教授

8

Works No.156 Oct–Nov 2019

こうしたAIの開発において最も高実現しようとします。ですから、真の人工知能を実現するためには、この自律性や能動性、汎用性を備えればい
いということになります」（栗原氏）

い壁は、人の知能が何たるかが解明

たとえば、センサーを搭載した車をされていないことである。
「人工心肺

走らせ、集めたデータでディープラー

ニングを行うことによって、自動運転
技術はかなり進化してきた。また、目的地を設定すれば最短で行く方法を見つけ、到達できる技術も既にある。
「しかし、高速道路のような条件の限定された道は別として、人や自転車も通る一般道での自動運転はまだまだ難しい。人が運転するとき、混み合った道では、人やほかの車と譲り合った
り、駆け引きをしたりしながら運転します。ところが、自動運転の車は、人が至近距離にいる以上、安全を守る

りなくなるといわれているからです。

とえば、AIの兵器にこうした自律性ために1ミリも動けません。人は、知目的をともにし、配慮や譲り合いもしが備わると、人間に対する大いなる覚というセンサーだけを使って運転しながら人と協働できるAIが、確実に脅威となる。2019 年 8月、自ら標的をているわけではなく、知識や経験を必要となります」（栗原氏）

選び、自らの判断で攻撃をする自律総動員しているのです」（栗原氏）
このとおり、現在のAIは、まだ本当の意味での知能を持つには至ってAI が差別や攻撃をするならそれは人間社会の “ 負 ”

型 AI 兵器の開発を認めないという指針を含む報告書が国連の専門家会合にて採択された。

いない。栗原氏の研究では、AIにも、このような人と同じレベル、あるい「力がある技術は、負の面も大きい。

目的地に到達するという目的に向かっは人を超えるようなAIの出現はSF 小

原子力は有用なエネルギーですが、て、臨機応変に譲り合い、駆け引きし、説の世界での話のようにも思えるが、それを使いこなせなければ事故につ配慮しながら行動する自律性と能動「5 年後には、最初は AIスピーカーとながり、爆弾にすれば人類をおびや性を求めようというのだ。

いうようなシンプルなものかもしれま

かす、というように。自律的に動くAI

また、汎用性とは“ 学んだことをほせんが、目的を与えれば自律的・能もパワーがあるからこそ、使う側がリかの場面に応用できる性質 ”である。

動的に考えるAIが登場する可能性はテラシーを身につけ、一定のルールを

私たちは、本を“ 読むもの”として認高い」と、栗原氏は主張する。
「背後守ることが求められます」（栗原氏）

識しているだけでなく、暑いときにはに検索エンジンがあってQ&Aに答え

同時に栗原氏が指摘するのは、「AI

うちわの代わりにあおぐものとしてもるというレベルを超えて、目的や場、はそもそも人間社会から学ぶ」という使うことができる。この、人間の持つ相手のニーズに合った回答を自ら探ことだ。
「AIが差別をしたり、攻撃を論理性を超えた能力を、どのように索し、自然な会話を続けるAIは早晩したりするならば、それは人間社会そAIに搭載するかというのも1つの大き登場するでしょう」（栗原氏）のものに内在する“ 負”だと考えたほしかし、人間に近い知能を持つとうがいいでしょう。
『日本社会で育っ「私たちが人間に近い AIの開発を急なれば、栗原氏がいうような協働でき

たAIはいいね』といわれるような社

ぐのは、日本は、今後、超少子高齢

るAIだけではなく、人に脅威をもた会にするための原則をつくっていくべ

化時代に突入し、労働力が大幅に足らす AIが登場する可能性もある。たきでしょう」（栗原氏）

な課題だという。

Works No.156 Oct–Nov 20199

A I が人 間の知 識 や 知恵を拡 張し、人事の “Gue s s Work ” にエビ デンスを与える
では、人事の領域では今、どのよ

置で高いという。これまで多くの企業「一方で、その会社にある性別や学歴

うにAIが活用されているのか。実用

で、採用選考や人事異動は手作業でによるバイアスをAIが学習し、差別化 が 進 む AIとし て 知 ら れ る の が、行われてきた。確かにノウハウは存在を助長するという課題が挙げられまIBMが開発したWatsonである。
「私するのだが、それは職人芸ともいえる

すが、逆にそのバイアスを統制するア

たちはWatsonを、同じAIでも“Artificial

暗黙知であり言語化されたものではルゴリズムを組めば、バイアスフリーIntelligence”ではなく“Augmented（拡張なかった。またある一定の人数まではな選択をできるようにもなるはずでされた）Intelligence”だととらえていま丁寧に検討できるとしても、数千人、

す」
（石田氏）

す。人間が諦めていたこと、できな数万人を相手にするとき、すべての

ただし、人事で AIを活用する場合、かったことを支援し、人間の知識や個人の能力やスキル、志向を見られ課題もある。
「最大の課題は、データ

知恵を増強、補強するものと考えれるわけではないため、最適な人材のが揃っていない、使われていない、更ば、“Augmented”という概念がフィッ

採用や最適な人材配置をするには限新されていないこと」（石田氏）だといトします」と説明するのは、日本 IBM界があった。しかし、「AIを活用すれう。
「日本企業は、実は膨大な人のデー

で人事領域のサービスを統括する石ば、人事は従来よりも、より広い範囲

タを持っています。採用時のエント

田秀樹氏である。

で、より細かい人材情報を手に入れ

リーシートや面接結果、入社後の上司

石田氏によれば、人事領域こそ、ることができるため、適切な人の見落からの評価、360度評価、従業員サー

やりたかったけれど諦めていたことがとしを回避し、さまざまな機会損失を

ベイ、管理職昇進時に行われる試験

多く、AIの活用が必要だという。そ防ぐことができる」という（石田氏）。

や論文……。しかし、これらは使えるの 理 由 は、
「 人 事 の 仕 事 の 多くが状態に整理されておらず、実際に使わ“Guess Work”であるため」（石田氏）れることもありません。また、本人のだ。
「採用や配置においては、たぶん異動希望や保有するスキルに関する

この人はこうだろう、と予測すること

データは、最新のものに更新されていが多い。なぜその人を採用するのか、ないことも少なくありません」（石田氏）

なぜその配置が最適なのか明白な理人に関するデータの取り扱いにはも由がないまま行われてきました。AI

ちろん十分な注意が必要だが、「自分はそこに、エビデンスを提供してくれに関するデータを使って、キャリアのる可能性があるのです」（石田氏）

方向性を改めて考えるなど、データが整備されていれば個人にとってもメ

課題はデータがリットがある。これをもっとアピール整備されていないこと
事実、IBMが 2018 年に行った人事担当役員向けのサーベイ

によれば、

（＊）

AI 活用のニーズは要員計画と最適配（＊）Cognitive Computing Survey (IBM、2018 年 )10Works No.156 Oct–Nov 2019石田秀樹氏
日本アイ・ビー・エム パートナー
グローバル・ビジネス・サービス事業部
コグニティブ・プロセス変革
タレント＆トランスフォーメーション リーダー

して、働く人自身が進んで自らのデー
タを適宜更新し、最新の状態に保とうという意識を持つ仕掛けが必要」と石田氏は訴える。

XAI の進化で、AIのブラックボックス問題は解決するのか

Columnディープラーニングによる分析や予測における課題の１つは、その判断の根拠が “ブラックボックス ” である、つまり説明されないことだと既に述べた。
最近では、この課題を乗り越え、判断の根拠を “ ホワイトボックス ” で示せる

AI、“ 説 明 可 能 な AI（Explainable AI、
XAI）”の研究が進められている。７ペー
ジで紹介した、意味ネットワークを活用したオントロジーなどの技術も、XAI

どの変数が重み付けされているかが明化に寄与するものだ。また、ディープ

らかになります」（原氏）

もう 1 つ目的がある。その目的に照らせば、それなりに能力を発揮する」（原氏）

ラーニング自体の説明力の向上を目指

たとえば従業員の評価において、重という。
「それは、AI がおかしな“ 挙動”

す研究者もいる。
「2016 年頃から急速きを置かれたのが“過去の業績 ”と “360をするときに、どこに問題があるのか、に、XAI の論文が世界的に増えました」

度評価のフリーコメント”であるとわかどうすればより精度が上がるのかを開と、話すのは、大阪大学産業科学研究

れば、多くの人事はその推論の方向性

発サイドが確認するという目的です。

所助教の原聡氏だ。

は間違っていないと感じるだろう。これ

従来は、いってみれば当てずっぽうでが “出身大学”と“子どもの頃の運動経

アルゴリズムを修正してきましたが、AI

験 ”に着目しているとなれば、そのアルによる重み付けの説明などがあれば、「方法はさまざまですが、最も一般的ゴリズムを使い続けるのはまずいと感どこを修正すべきか仮説をより緻密になのは、AI に与えたデータのうち、どじるだろう。つまり、ある程度の納得とつくれます」（原氏）。たとえば、AI がの項目を見て決めたのかを AI にアウト判断ができるのだ。

犬の画像を見て犬だと認識するのに、変数の重み付けを明らかにプットさせる方法です。実際にどのよ

ただし、何が重み付けされているか

犬の顔ではなく背景や地面など無関係

うなロジックで分析したのかというア説明されたとしても、データを提供し、な部位に注目しているとわかれば、修ルゴリズムまでは説明されなくても、AI による推論をされる側が納得できる

正のヒントが得られるのだ。

とは限らないという問題は残る。
「AI

ただし、
「こうした状況は、いずれ変の判断によって不利益を被ったと感じわっていく」と原氏は予測する。
「多くる人が、その不当性を主張するとして、の人にとって、今のところ AI は未知のそれに対して、納得のいく説明ができ領域だからこそ、使うことに不安を感るほどには現状の AI は賢くないのです。

じ、根拠を説明してほしいと思うので人間が情報を咀嚼して、説明する必要す。しかし、ほかのテクノロジーと同があるわけですから、AI で分析や予測

様に、社会のなかでさまざまに実装さを行う場合、人の介入を求める AI 原則

れ、人々の間に AI 活用の経験知が蓄積が多いのは当然のことです」（原氏）

されれば、次第に “これまでも使ってAI のおかしな挙動を説明

原 聡氏
大阪大学産業科学研究所 助教

きたのだから大丈夫 ”と思えるようになるはずです。そのためには AI を導入し、XAI の開発の目的を、データを提供すこう使ったらうまくいった・失敗した、る側に推論の根拠を説明することとす

失敗のあとここを直したら問題が解消るならば、できることはまだごくわずされたというような試行錯誤の経験をかだ。しかし、「実は、XAI の開発には重ねることが重要なのです」（原氏）

Works No.156 Oct–Nov 201911

A I 活用の進展で見えてきた

そのリスクと課題

加速度的に進化する AI。研究者たちが強調したのは、「AI は人間の使い方によって、善にも悪にもなる」ということだ。活用法を誤ると、どのようなリスクや課題が生じ得るのか。
専門家や、実際に AI サービスを提供する企業の経営者に聞いた。

A I 活用にあたって考えるべき
日本 国憲 法に定められ た “ 個 人の尊 重 ”
まずは、日本という国や国民のあり

法』（日本経済新聞出版社）の編著者

属性によるセグメントをつくる。そのようの基盤である、憲法の視点で AIである慶應義塾大学法科大学院教授

セグメントによって、そこに入る人は活用における課題を見てみたい。
「AIの山本龍彦氏だ。

このような行動を取る、このような能は使い方を誤ると、『個人の尊重』とAIが人に関する推論を行うとき、力があるという結果に結びつけ、新たいう憲法の根本原理を毀損する可能

ディープラーニングなどの技術を活用

な個人の情報を取得したとき、どのセ性がある」と指摘するのは、『AIと憲し、大量のデータを学習し、共通のグメントに当てはまるかを識別して、

12

Works No.156 Oct–Nov 2019

その人の行動や能力を予測したり評に生まれた者は農民として生きること

価したりする。
「どれだけセグメントが定められ、職業選択や婚姻の自由が細分化されたとしても“このセグメがなかった。
「これを否定して、誰もントに含まれる人は◯◯する確率がが１人の独立した存在として見られ、高い”という確率論であって、その人判断してもらえるべきだ、という考え自身が絶対にそうするとはいえません。

が重要になったのです」（山本氏）

セグメントによってつくられる“デー

もう1つの“ 個人の自律 ”とは、個タ的分身 ”と実存する自分の間には、人が主体的に自分の人生をデザイン

必ずズレがあるのです」（山本氏）

し、それに従って歩むことができなけ

また、いくら大量のデータによってればならないということである。
「こ

分析されたとしても、「データが完全の2つの観点に照らすと、確率的存在であることはあり得ない」
（山本氏）
という。
「たとえば、オフィスのトイレ

山本龍彦氏にすぎない自己のデータ的分身によっ慶應義塾大学法科大学院 教授て判断される個人は、セグメントといなどでの同僚同士の気軽な会話。こう“ 集団”を根拠にその能力などが決こには360 度評価にも出てこないよう本氏）

めつけられ、人生の主体的な自己決な上司に対する評価、仕事への不満「“ 集団的拘束からの自由”というの定が妨げられるという問題が生じることいった本音が詰まっているかもしれは、集団的な属性によって個人の能とになります」（山本氏）ません。しかし、こうした場で発せら力や生き方を短絡的に決めつけられ

もちろん、従来の人による評価にれる感情や本音はプライバシーの観ない、ということを意味します。これ

おいても、「◯◯大学出身者は活躍す

点からは取れないデータです。このよは前近代の身分制度の反省です」（山る」「女性は◯◯が苦手」というよううに、本人の行動や感情をすべて漏

本氏）。身分制度の下では、農民の家

な、属性による決めつけ、すなわちバ

れなくデータとして取得できるわけではないので、データには必ず偏りが生じる。すると、やはりデータ的分身と個人の尊重とは自分の間には誤差が生じることになり
ます」
（山本氏）

1.

人 間の尊 厳自律的な人生の邪魔をする

個人は平等に尊重されなければならない。身分制社会では、個2.

用して人を評価したり、その人に対す集団的拘束からの 自由得るのだ。山本氏によれば、個人の人は身分のような集団的で固定的な属性によって短絡的に評価され、あらかじめ自らの生き方を規定されてきたが、近代憲法では、個人を集団的属性ではなく、それぞれの人格を持った “ 個人”
として評価し、事前に集団的属性によって生き方が決めつけられることがないように配慮すべきであるとする

るなんらかの対応の結論を出す場合に、“ 個人の尊重 ”との矛盾が起こりの生命や身体の安全が確実に保障されなければ、個人として尊重されることもない

ズレのあるデータ的分身がこうした問題がある以上、AIを利個人は “人間 ” として尊重されなければならない。人間として

個人は人格的に自律した存在として尊重されなければならない。

3.

個 人の 自律4.

多様 性 、
個 別 性の尊 重

個人が自律の能力を持つことを前提に、誰からも命じられることなく主体的に自己の人生をデザインしていくことを認める

尊重には4 つの側面があるという（右表）。
「AIの活用が損なう可能性があるのは、特に“ 集団的拘束からの自由”と“ 個人の自律 ”という側面です」（山

個人が自律的・主体的に決定・選択した結果を尊重しなければ
ならない

出典：
『AIと憲法』（山本龍彦編著、日本経済新聞出版社）より編集部作成

Works No.156 Oct–Nov 201913

弱みを発見し、能力を伸ばしたりキャ
リア選択の参考にしたり、ということが可能になります。“AIによるメリット”を享受するためにも、AI 活用によるリスクをなくしていく必要があるの
です」
（山本氏）

リスクを減らすための透明性とアカウンタビリティ
では、リスクをなくしていくには、どのような原則が必要だろうか。
「最も重要なのは、“ 透明性 ”と“アカウンタビリティ ”です」
（山本氏）
透明性とは、AIによる推論や分析
イアスは存在し、個人が1 個の独立した存在として評価されないことはある。
だが、相手が人間であるならば、たとえば採用選考であれば、相手が持つ能性があるからです」（山本氏）

AI 活用のメリットを享受するためにリスクを減らすにかけられる個人に対して、AIを使う目的、使用するデータの種類とその重み付け、使用の範囲などをあらか
じめ提示すること。つまり、“隠れてバイアスの見当もつくし、「エントリー

既に述べたように、人間の能力にシートのあの部分の書き方が悪かったは限界があることを私たちは認めなけ

そして、AIによって導き出されたのかもしれない」「面接でのあの態度

ればならない。たとえば採用の場面

評価は、どういうロジックで、どのよが悪かったのかもしれない」など、不で、エントリーシートを数千、数万枚

うな算定をしたのか、その説明を明確採用になった根拠をある程度推測すと読まなければならないとき、人は疲にすること。AIが導き出した結果をることもできる。

れてしまえば、じっくりと読み込み、用いた行為の、責任の所在を明らか「人間が相手の場合とは異なり、AI

適正に判断することができなくなるだにすること。これがアカウンタビリ

による評価の場合、インプットされる

ろう。かといって、複数人で読めばティだ。

データが多様かつ大量であり、どのよ判断基準が異なるという問題も生じる。

「透明性とアカウンタビリティが確保うなデータが、どのような重み付けで人材配置の場面でも、社員全員の能されていれば、個人は結果に異議を用いられ、結論に至ったのかわからな力やスキル、志向を個別に見て、す申し立てること、自分とデータ的分身いという問題が生じます。判断過程

べての人に対して適材適所を実現すの間の齟齬を指摘することもできるでのブラックボックス化は、自己改善のることは、実際には困難だ。

しょう」
（山本氏）

きっかけを与えてくれず、排除の不条「人間の限 界を、AIのサポートに理性が高まることを意味しています」

よって伸長させることが可能になりま（山本氏）す。それによって、個々の能力や人こそこそやらない”ということだ。

どんな社会にしたいのか
選択を迫られているだからといって、「AIの活用を規制

格を尊重し、自律的な生き方のデザ

もう1つ、重 要なことは、「“More

すべき、というつもりはない」と、山インの支援もできるでしょう。個人にData”の誘惑を断ち切ること」（山本

本氏は主張する。
「AIは、活用の仕方

とっても、AIの分析や予測によって、氏）だという。
「データ量と予測精度

によっては、個人の尊重に資する可

自分では気づかなかったような強み・はトレードオフの関係にあります。予

14Works No.156 Oct–Nov 2019

測の精度を上げようと思うと、より多かもしれない。テロリスト予備軍の早権憲章という EU の “ 憲法 ” の第 8 条

くのデータを取りたい、ということに期発見を優先し、プライバシーを犠に、データ保護の権利が書かれていなりがちです。しかし、多くのデータ

牲にするのか。あるいはテロリスト予ます。EUの『 一 般デ ータ保 護 規 則を取ろうとすればするほど、プライバ

備軍の発見が難しくなろうと、人々の（GDPR）』は第8 条を具現化する立法

シー侵害の危険は増しますし、ブラッ

プライバシーを守るのか。何を守り何であり、その前文にもデータ保護は基

クボックスの闇も深くなります」（山を犠牲にするのかは、社会のコンセン

本的人権だと明記されています」（山本氏）

サスの問題だ。

本氏）

たとえば、あらゆる場所に監視カメ「たとえば EUは、プライバシー保護

今、AIが私たちに突きつけている

ラを設置し、個人の行動履歴をつぶのほうに力点を置いた社会であり、のは、どのように人権を尊重し、どのさに取ることによって、テロを起こす

データの保護は基本的人権に属するような社会を志向するのかという選択可能性のある人を早期に特定できる問題だととらえています。EU 基本の問題なのだ。

A I によるスコアリング が 引き起こす“ バーチャル ・スラム化 ”
AIによる分析・評価が、既にビジ

用力をスコアリングしている。

ネスとなっている例がある。AIによる「こういったAIによるスコアリングがスコアリング（格付け）ビジネスがそ社会に浸透していけば、それまではれだ。
「スコアリングビジネスには、所得や勤務先などによってローン審

複数の企業が参入したり、参入を表査に通らなかった人々が、その人が明したりしています」と話すのはデロ

生活態度として積み上げてきた“ 信イト トーマツ グループで、デジタル用”の力によってお金を借りられるよ分野における社会課題およびテクノ

うになるなど、個人にもメリットがあ

ロジーによる社会課題解決に関するリります。一方で、“バーチャル・スラム”

サーチやルール形成支援を行う矢守という新たな貧困層が生まれる可能

亜夕美氏だ。最も有名なのは、中国性という、負の側面も持ち合わせてのアリババグループが運営する芝麻

います」
（矢守氏）

信用だ。アリババグループでは、アリペイの一機能として、利用者の全支
払い履歴データを管理し、資産状況

あらゆる機会や

矢守亜夕美氏
デロイト トーマツ グループ
Social Impact ／ Regulatory Strategy マネジャー

権利が剥奪されるや社会的ステイタス、SNS上での人AIによるスコアリングが導入され脈などの情報を加味して、個人の信る前、つまり現 在までの世界にも、

Works No.156 Oct–Nov 201915

ローン審査や住宅の賃貸、企業の採しまった場合、ほかの領域での審査

矢守氏のチームでは、AIによるス

用選考など、個人の信用が問われるや評価にもそのスコアが影響を与え

コアリングが広く浸透することによっ

領域はもちろんある。
「しかし、基本

る可能性が出てきます。あらゆる領域て、バーチャル・スラムという新たな的に、金融は金融、不動産賃貸は不で、機会や権利が剥奪され、格差が貧困層に陥ってしまう可能性のある人

動産賃貸というように、領域ごとに評固定化してしまう。こうして生み出さの数は、主要国（G20）において３億

価基準は異なっていて、金融と不動れるかもしれない新たな社会的弱者

4000 万～ 5 億 4000 万人にのぼると試産賃貸の間で評価を共有することはグループがバーチャル・スラムなので算 し た（「AI時 代 の 新 た な 貧 困 ―ほとんどありません。つまり、金融面

す」
（矢守氏）

『バーチャル・スラム』とは」デロイ

で信用力がないとしてお金を借りる

AIが、領域を問わぬ多様かつ大量

ト トーマツ グループ）。これは仮説ことができなかったとしても、それのデータを連携させながら飲み込んであるが、私たちが過度にAIに依存が賃貸住宅を借りることや、就職にでいくことの現実的なリスクは、既にしたときに来るべき世界でもある。

影響することはほとんどないのです。

顕在化している。
「単体ではそれほどそこで重みを増すのが、使い方の就職することによって金融面での信センシティブではないデータでも、いガイドラインだ。
「その問題にかかわ用力も上がるなど、一度何かでつまくつかのデータを連携・突合し、類るステークホルダーになり得るすべて

ずいても、再チャレンジができます」

推することで、人種や性的指向や性の人、人事でいうならば人事部の人々（矢守氏）

自認など、センシティブな個人情報がや人事領域の専門家だけではなく、

今後、AIスコアリングが多様な分導き出され、それによって不利益を被データを取られる側の人々やサービス

野で共通に用いられるようになることることがあります。データを取得され提供者、法律家などを広く交えて議で、この社会が一変する可能性がある側は、データの使用目的や使用さ論し、特定の立場に偏らない現実的ることを矢守氏は指摘する。
「一度何れる範囲を認 識する必要があるでなルールを決めていくべきでしょう」

かの領域で低いスコアをつけられて

しょう」
（矢守氏）

（矢守氏）

責任の所 在、 不 審 者の特 定……
事 業の現 場で見えてきたリスク
AIサービスを実際に提供する企業を検索するのは、AIの仕事だ。
「このサイドからは、どのような課題が見えとき問題となるのは、その映像・画像てきているのだろうか。

の“ 真偽 ”です。フェイクニュースやAIのフィルターで判定するシステム

スペクティは、世界中のウェブやいたずらではないかどうかを見定め、はあるという。過去にあった偽情報をSNS上にアップされた映像や画像を、それを排除することは、私たちのサー

データベース化し、また、偽情報をニュースの情報源としてテレビなどのビスの質を担保するための重要な要

書く人の文章のパターンや使いがち

メディアに提供している。映像・画像

件です」と、同社の代表取締役 CEO

な単語も登録されており、それによる

16

Works No.156 Oct–Nov 2019の村上建治郎氏は話す。
AIが検索する映像・画像の真偽を、

判定を行う。今や映像や画像の合成

人なのか。もし、一方的にメーカーがが容易なため、これまでにアップされ悪いということになれば、AIの研究とたほかの映像や画像と同じ部分はな

開発は確実に足踏みするでしょう」

いかという比較検証もしている。
「こ

（村上氏）

れらは、ものの1分もあればできるAI

また、村上氏は、AIの“ブラックボッの得意分野です。しかし、それでもクス問題 ”についてこう話す。
「AIの最終的に判断するのは人です。私た

判定がブラックボックスであることのちのスタッフもチェックしていますし、問題が取りざたされていますが、もし、クライアントにもお願いしています。

すべての根拠を明確にするならば、事実でなかったとき、“ 責任を取る”

AIではなく従来のプログラムで十分。

という行為は AIにはできないからで明白な基準と手順によって、100回や

す」
（村上氏）

れば100回、同じ答えを出せます」（村

責任の所在はどこにあるのか上氏）。AIのよさは、「もっと曖昧な、

村上建治郎氏スペクティ

代表取締役 CEO

人間も判定しにくいところを過去の膨大なデータを学習させることで、そこ「従来の機械は、人がプログラムしから導き出した何らかの基準によってたとおりにしか動かないものでした。

判定を下してくれること」だと、村上

多くの情報から自ら結論を導き出す

氏は言う。

AIだからこそ、責任の所在はどこに「責任を取るとは、なぜこういう判断

あるのかという問題が生じます」（村をしたのかを説明することでもありまSEQSENSEは AIを 搭 載し て自 律上氏）
。これは自動運転車での事故なす。AIの判定の根拠を責任者が知っ的に動く警備ロボットを開発する。

ど命にかかわる場合に、よりクリティておく必要があることになりますが、

警備ロボットは、2019 年 8 月より東

カルな問題となる。
「責任を負うのは技術そのものの特徴とのジレンマが生

京の大手町のオフィスビルで実際にメーカーなのか、それを操作している

じるのは間違いありません」（村上氏）

使われ始めている。

高度な安全の実現のために課題に丁寧に対応する「私たちが、最も気を配るのは“ 安全 ”です」と、同社 CEOの中村壮一郎氏は言う。ロボットは AIによってビル内の地図を学習し、自ら動くルー
トやその安全性を判断して巡回警備する。人が近づいてきたらどの程度手前で止まるのか、死角があって人とぶつかりそうな場合、どのようなルートを取るのかなど、細かくプログラムされているという。
「たとえ非常にレアなケースでも、実験の最中に生じた課題に丁寧に対応し、積み重ねることによって高度な安全を実現しようとしています」（中村氏）

Works No.156 Oct–Nov 201917

AI を使える環境をつくる
使う側が慣れる人と違って、ロボットがいれば寄ってくるし、触ります。社会のなかにロボッ
トが増えていけば、ソフトバンクのその一方で、社会で実装されるた

Pepperがそうであるように、だんだんめには、「AIを使える環境を整備し、“いるのが珍しくない” 状態になり、共同時に使う側が慣れることも重要」と存が容易になるのです」（中村氏）

中村氏は言う。SEQSENSEのロボッ

また、警備という領域において、気トが導入されているのは、オフィスビになるのはプライバシーの問題だ。警ルだ。
「オフィスビルは通路が広く、備では不審者を特定する必要がある

比較的ものが少ない、そこにいる人たが、ビデオや写真を撮られることに対ちはすべて大人であるなど、ロボットする忌避感を持つ人は少なくない。

不当な差別を発生させるリスク、AIが“ 動きやすい” 環境が整っています」「どのようなデータを取得し、どう使を使った結果に対する責任の所在が（中村氏）うかは、結局はデータを取得される側不明瞭という課題、AIの判断がブラッ

同社は、人手不足を解消するためと合意形成できるかどうかという問題

クボックスであるという課題、AIがのロボット開発をミッションとして掲です。警備については、安心と安全

存在することに多くの人が慣れないなげている。
「ロボットの使途として、のためのコストだと理解されるため合か、不安や不信が高まるという課題

病院でのものの運搬など、医療を担意は得やすいと思います。しかし、メなどである。

う人々の支援も検討しました。しかし、リットが少なかったり見えなかったり

データに基づく経営を志向する企松葉杖を使って歩く人や高齢者もいする状態では、多くの人はデータ提業は増えつつあり、今後、人事の領る病院への導入は、私たちの経験知

供に躊躇するでしょう」（中村氏）

域でも多様なシーンでのAIの活用がこのとき求められるのは、「データ見込まれる。慶應義塾大学の山本氏を取得される側からどのように見えるが指摘したように、AIのメリットをき子どもが多い商業ビルも、ひとまずかという想像力」（中村氏）だ。
「開

ちんと享受するためにも、私たちは人避けた。
「自律的に動くロボットに人発者同士のみ、サービス提供側だけ、事領域におけるAI 活用の課題やリスが慣れることも重要です。子どもは大というように限られた人としか会話しクを知っておく必要がある。そこで、

なければ、データを取られる側の不取材をもとに、リスクとはどのような安やリスクにも気づけません。こと細ものかを整理したものが右の表である。

かに法律やルールをつくるというより今後、AIが進化し、自律的なAIなも、まっとうな倫理観に基づいて自らどが生まれれば、また別の課題やリス判断する力が求められます」（中村氏）

クが生じるだろう。ただし、人事領域が少ない段階では難しいと判断しま
した」
（中村氏）

人事領域における課題やリスクはどのようなものか中村壮一郎氏SEQSENSE

18

Co-Founder、代表取締役

Works No.156 Oct–Nov 2019における活用は、データをもとに機械学習やディープラーニングで分析・予測することがほとんどというのが現ここまでの取材によって、AI 活用状である。まずは、機械学習やディー

におけるさまざまな課題とリスクが見プラーニングを中心とした活用シーン

えてきた。具体的には、AIの活用にや課題、リスクを表で挙げている。こよって憲法に定められた個人の尊厳のあと、原則を検 討するにあたり、やプライバシーを毀損するリスクや、

しっかりと認識しておきたい。

人事領域で AI が使われるシーンと、そこにある課題・リスク
人事の領域

採用

AI が使われるシーン

課題・リスク●

過去の実績に基づくバイアスがそのまま踏襲されてしまう●

データの組み合わせによって、実際に取得した情報以外のこと
を勝手に類推してしまう

初 期 選 考でのスクリーニング●

ある特定の “ カテゴリ” に属すると判断され、それによって採否●アルゴリズムがブラックボックス化しており、どのような根拠でが決まってしまう
採否を判断したかが説明できない●人 材 を 評 価 するためのデータを 集める

評 価・
配 置 転 換・昇進

昇進や昇 格や 配 置 転 換の
案 をつくる、 決 定 するを集めようとするため、プライバシーを侵害する可能性がある●

低い評価の履歴がいつまでも残り、評価の固定化につながる●

意図していない相手に情報が開示されたり分析されたりする●

過去の実績に基づくバイアスがそのまま踏襲されてしまう●

ある特定の “ カテゴリ ” に属すると判断され、それによって昇進するか否かが決まってしまう●

キャリア開発アルゴリズムがブラックボックス化しており、どのような根拠で昇進させるか否かを判断したかが説明できない●

低い評価の履歴がいつまでも残り、昇進や昇格を防げる●

AI の決定に対して、不服を申し立てられない●

正確な評価のためにより多くの “ 相関性がある ” とされる情報を集めようとするため、プライバシーを侵害する可能性がある

健 康 状 態や心の 状 態 を知る

受けるべ き 研 修 など のレコメンドをする

正確な評価のためにより多くの “ 相関性がある ” とされる情報●

退職予測など目的以外の予測に使われる●レコメンドの根拠がブラックボックス化されており、なぜ、それをやるべきかがわからない●

意図的な誘導につながる可能性がある●

正確な評価のためにより多くの “ 相関性がある ” とされる情報を集めようとするため、プライバシーを侵害する可能性がある

組 織 の 状 態 を知る

組 織開発

全員のデータが集められるわけではなく、データプールがその組織の代表性を担保できない場合、適正な判断ができない●

相関から誤った因果を読み取って、間違った施策を打つ可能性がある

組 織 の ダイバーシ ティ＆インクル ージョン を 推 進 する

AI や
ロボットと
協 働する

●

自律 的に動くロボットとともに（ 工 場 などで） 作 業 をするロボットが 提 案 をする●

データの偏りによって少数派への差別を再生産する●

人の仕事が奪われる●ロボットの判断によって事故が起きたとき、責任の所在が不明瞭●

なぜそれを提案するのか説明されないため、その良し悪しを人が判断できない

出典：編集部作成

Works No.156 Oct–Nov 201919

課題やリスクに向き合え
国内外で始まる“ 原則 ” 策定
より有効に AI 活用をしていくために、国内外を問わず、国際機関、各国政府、大学や研究機関、企業などでAI 原則や倫理指針の策定が進む。私たちが人事の AI 原則をつくるに先立ち、政府や各種団体における原則・倫理指針づくりでリーダーシップを取った人々から原則策定にあたって重視すべきことを学んだ。

内閣府 人間中心の AI 社会原則

“ 機 械中心” ではなく “人間中心 ” の社会のための企 業、個 人のあるべき姿を提 示
内閣府は「人間中心のAI 社会原則」「日本が提出した人間中心原則は、下、OECD 原則）の策定にも日本代（以下、人間中心原則）を2019年 3月

OECDや欧州委員会がそれぞれ定め

表としてかかわった。
「特に、“ 人間中に発表した。検討会議の発足は、2018

たAI 基本原則にも影響を与えたと考心 ”という概念は、非常に評価されま

年5月。AIの研究者、企業人、法曹界えています」と、話すのは東京大学した。OECD 原則の冒頭では『AIは、などさまざまな分野の専門家や実務

大学院情報学環教授の須藤修氏だ。

包摂的成長と持続可能な発展、暮ら家が参加し、8回にわたって会議が行検討会議では議長を務め、OECDのし良さを促進することで、人々と地球

われ、議論が重ねられた成果である。

「人工知能に関するOECD 原則」（以

環境に利益をもたらすものでなけれ20

Works No.156 Oct–Nov 2019

「人間中心の AI 社会原則」の
全体像

基本理念

ビジョン

●

人間の尊厳が尊重される社会●

多様な背景を持つ人々が多様な幸せを追求できる社会●

持続性ある社会●

Society5.0 実現に必要な社会変革「人」「社会システム」「産業構造」「イノベーションシステム」「ガバナンス」

人間中心のAI社会原則

出典：「人間中心の AI 社会原則」（統合イノベーション戦略推進会議決定）をもとに編集部作成ばならない』と謳われ、日本の人間中

人々の間に格差が生じないようにする

心原則と非常に近しいものになりまし

包摂性を持つこと。このように、基本

た」
（須藤氏）

理念では、単にAIをどう使うのか、

日本社会や企業、個人などのあるべき姿を提示する

1 人間中心の原則
2 教育・リテラシーの原則
3 プライバシー確保の原則
4 セキュリティ確保の原則
5 公正競争確保の原則
6 公平性、説明責任及び透明性の原則
7 イノベーションの原則

何を禁止するのかといったルールではなく、日本社会、企業、教育機関、
そして個人の未来はどのような姿であ

人間中心原則の中身を見てみよう。

るべきかを提示しています」（須藤氏）

人間中心原則は、基本理念、ビジョ

なぜ、“ 人間中心 ”とあえて言わな

ン、原則（人間中心のAI 社会原則とければならないのか。須藤氏はそのAI開発利用原則）の3つのパートか

理由を、「AIが社会や人にもたらすイ

ら成る。基本理念は、「人間の尊厳がンパクトが非常に大きいため」と話す。

尊重される社会」「多様な背景を持つ「私たちは、人類の転換点ともいえる

人々が多様な幸せを追求できる社会」

ような大きな変化のただなかにありま「持続性ある社会」の3つだ。特に、す。これまで私たちが基礎教育で学うが変わらず、人が今のままの能力

最初の2つで“ 人間中心 ”ということんできたのは、与えられた問いに対し形成をするならば、AIに負け、多くを強く打ち出している。
「人間が AIをて最適に答えること、目的に対して最の仕事が代替されてしまうでしょう。

使いこなして能力・創造性を拡張し、適な手段、最短のルートでソリュー

それでは“ 機械中心 ”になってしまう。

やりがいのある仕事に従事できる社

ションを出すことですが、この、いわそういう未来を目指しているのではな

会にすること。高齢者や若者、地方

ば最適化能力というのは、AIが非常

いと強く表すために“ 人間中心 ”とい在住者など、日本で暮らすあらゆるに長けているものです。教育のありよ

う言葉を使いました」
（須藤氏）

須藤 修氏
東京大学大学院情報学環・学際情報学府 教授
東京大学総合教育研究センター長Works No.156 Oct–Nov 201921

そのため、ビジョンや原則でも特に関で次世代の人材を育みます。同時

38カ国とそれ以外の7カ国を加えた

強調されているのが、教育やリテラに、ビジネスパーソンもこの変化の波

45カ国が、この原則に署名しました」

シーの重要性である。
「データや AIについていけない可能性があるため、（須藤氏）の基礎教養から実装及び設計等の応リカレント教育を意識して、大学など

ただし、日本の人間中心原則でも用力を、幅広い分野の横断的、複合での人材育成を既に始めています」

ルール自体は決めていないが、「ルー的及び融合的な枠組みで身につけた（須藤氏）ルを決めるに際しての基準・考え方

人材が十分に存在すること」を社会の前提とし、すべての人が AIを使いこなせるようになるために、「原則にルールは決めなくても決めるための基準は提示は提示した」（須藤氏）という。今後、異なる文化や慣習の集団ごとに、あるいは、自動運転、医療、軍事など

沿う教育・リテラシーを育む教育環

人間中心原則は、具体的なルール

異なる分野ごとに個別のルールがつく

境が全ての人に平等に提供されなけや禁止事項を定めたものではない。

られていくだろう。
「そのとき、どのよ

ればならない」と述べている。

「基本理念や原則を提示し、ルールにうな目的でつくられたルールであるか「政府がかなりの費用を投入して、国ついてはそれぞれのステークホルダーにかかわらず、すべてのルールが踏民全体のリテラシーを上げようとしてが考えていきましょう、というスタン

まえなくてはいけない問題については、います。テクノロジーの教育に加え、スを取りました。OECD 原則でも、当7つの原則のうちプライバシー確保の

法規、経営のあり方、倫理的な教育

初の思惑の違いを乗り越えて、『規制

原則やセキュリティ確保の原則、公も行い、分離されていた文理の学問を定めるのではなく、基本理念を定め

平性、説明責任及び透明性の原則なを再統合し、初等教育や高等教育機る』という形式が取り入れられ、加盟どで示しています」（須藤氏）

人工知能学会

倫理指針

A I と社 会とのかかわりを規 定 する
研 究 者、 開 発 者のための “ 職 業 倫 理 ”
人工知能学会でも、会員である研

情報学研究所教授の武田英明氏は、というステレオタイプな表現に対して究 者・ 開 発 者 約 4000 人 に 向 け て、

「倫理委員会の発足は、2014 年に人異議が噴出したのです」（武田氏）。

2017 年にAIに関する倫理指針を発表

工知能学会誌の表紙がネット上で“炎当時はまだ、AI 研究は“ 冬の時代 ”としている。倫理指針を議論し、決定上 ”したことがきっかけでした」と振いわれていた頃で、「まさか社会からしたのは同学会の倫理委員会である。

り返る。
「その表紙は、女性のように

このような反応があるとは思っていな

倫理委員会発足時からのメンバー

見えるロボットが家事をしている、とかった」（武田氏）という。

であり、現在は委員長を務める国立いうものでした。“ 家事は女性の仕事 ”「それまで AIの研究者は、新しいア

22

Works No.156 Oct–Nov 2019

人工知能学会 倫理指針（抜粋）序文
高度な専門的職業に従事する者として、人工知能の研究、設計、開発、運用、教育に広く携わる人工知能研究者は、人工知能が人間社会にとって有益なものとなるようにするために最大限の努力をし、自らの良心と良識に従って倫理的に行動しなければならない。人工知能研究者は、社会の様々な声に耳を傾け、社会から謙虚に学ばなければならない。
（中略）
人工知能学会は、自らの社会における責任を自覚し、社会と対話するために、人工知能学会会員の倫理的な価値判断の基礎となる倫理指針をここに定める。

4. 公 正 性
人工知能学会会員は、人工知能の開発と利用において常に公正さを持ち、人工知能が人間社会において不公平や格差をもたらす可能性があることを認識し、開発にあたって差武田英明氏
国立情報学研究所 教授

別を行わないよう留意する。人工知能学会会員は人類が公平、平等に人工知能を利用できるように努める。

6 . 誠 実な 振る舞い
人工知能学会会員は、人工知能が社会へ与える影響が大きいことを認識し、社会に対しルゴリズムをつくりたいという意欲はて誠実に信頼されるように振る舞う。人工知能学会会員は専門家として虚偽や不明瞭なあっても、社会への影響には興味がに説明を行う。

ありませんでした。これほどにAIに興味を持つ人が世の中にいるのであれば、社会との関係を考えなければならないと考えたのです」（武田氏）
メンバーは、AIの専門家、研究者

主張を行わず、研究開発を行った人工知能の技術的限界や問題点について科学的に真摯

7. 社会に対する責任
人工知能学会会員は、研究開発を行った人工知能がもたらす結果について検証し、潜在的な危険性については社会に対して警鐘を鳴らさなければならない。人工知能学会会員
は意図に反して研究開発が他者に危害を加える用途に利用される可能性があることを認識し、悪用されることを防止する措置を講じるように努める。また、同時に人工知能が悪用されることを発見した者や告発した者が不利益を被るようなことがないように努める。

を約半数とし、残りの半数は経営者
やSF 作家などさまざまな人々の協力

出典：「人工知能学会 倫理指針」（人工知能学会）より抜粋

を仰いだ。
しているものですが、登場した当時はことだ。
「こうした2つの特徴を持つ

驚かれても、それが社会に浸透し人々

ため、人間に与える影響が大きい。

が使うことに慣れると、それを知的なだから、AIが人間や社会に悪い影響

AI以前にも電卓やパソコン、スーシステムとしてはとらえなくなります。

を及ぼさないようにするための倫理指

パーコンピュータといったシステムがAIとは、その時代ごとの最先端のエッ針が必要なのです」（武田氏）

存在したにもかかわらず、なぜ、AIジにある技術の集合体だと私は考えという領域には倫理指針が必要なのていますが、ここに来てそのエッジが、か。
「それは、これまでのシステムと従来人間にしかできないと思われては異なることが２つあるからです」（武

いた知的な領域と重なってきました」

田氏）

（武田氏）

より知的行為に迫るものだからこそ倫理指針が必要

１つは、AIがより高度な知的行為、

もう1つは、生活の現場はもとより、自らの研究が社会に実装されたときを想像する
上は、倫理指針の抜粋である。研
究者、開発者が持つべき職業倫理として書かれているのが特徴の1つだ。

知的活動を扱っていることだという。

AIが人の感情やメンタリティに近い「私自身も含め、研究者や開発者は「もちろん電卓ですら知的行為を代替ところまで入り込んでくる技術である

やはり、自由に新しいことを探求してWorks No.156 Oct–Nov 201923

いきたいという欲求が強い。しかし、理したのは、そういう思いがあったか

徐々に認知されてきた状態」（武田氏）

研究の成果の多くは、誰かの手によっ

らです」
（武田氏）

だという。
「政府や企業なども原則やてサービス化されます。社会で実装

現在は、「倫理委員会としてシンポ指針を定めています。そうした動きがされたらどのような影響があるのか、ジウムを行うなどの活動をし、『人工相まって、AIに携わる人々の意識は想像力を働かせることの必要性に、知能学会には倫理委員会がある』と変わっていくと思います」（武田氏）

議論を重ねるうちに気づきました」（武田氏）。AIの研究者や開発者たちに対して、論文を書いたら自分の研究は完成ではなく、その先に起こり得ることまでを見据えて研究や開発をせよという期待を込めているのである。
ただし、新しいことをやりたい、発見したいという意欲に歯止めをかけることはしたくなかったという。
「禁止
事項を設けるのではなく、研究や開発にあたって求められる行動として整ピープルアナリティクス＆ HR テクノロジー協会

ガイドライン企 業と個 人 が ともにメリットを享受 する
データ活用を目指す
人事領域におけるテクノロジーやと理事を引き受けました」と、同協会活用しようという動きが企業に出てきデータ活用におけるガイドラインの作の理事であり、早稲田大学教授としたことをリスクと感じたのです。これ成も進む。ピープルアナリティクス＆て人事におけるデータ活用を研究す

らはかなりプライバシーに踏み込む情

HRテクノロジー協会では、2020 年 3る大湾秀雄氏は話す。

報であり、それによって一方的に不利

月の一般公表に向けてガイドラインの「人事が持つ、人にかかわるデータ

益を被る人が出てくる可能性がある整備を進めている。

をどう分析し、どう使うかを学生や企

からです」
（大湾氏）

「協会の設立は、2018 年 5月のこと

業人に教える活動を通じて、ガイドラ

人事が人にかかわるデータを活用でした。近いうちにガイドラインを作

インの作成が急務だと思いました。特する目的は、会社をよくすることであ成するという趣旨を聞き、それならば、に、社員の健康データや行動履歴をり、同時にそれによって従業員も働き

24

Works No.156 Oct–Nov 2019

やすくなることだと大湾氏は主張する。

可能性を予測したり、働き方や働く環「一方的に不利益を被る人が出てくる

境を最適化するうえでは非常に有効

ような使い方をしてはならない、とですが、統計的な差別を助長したり、はっきり線を引きたいと考えました」

プライバシーを侵害するといったさま（大湾氏）

ざまな問題が生じ得ることも知ってお信頼関係の構築なくしてデータ活用は進まない

かなければなりません」（大湾氏）
予測がどのように使われるのかわ
からないままデータを取られたり、そ

データの活用によって、個人情報

れによって不条理と感じるような扱いを提供する側の従業員や応募者にもを受けたりした場合、労使の信頼関たらされる利益は必ずある。
「従来は係は著しく毀損される。
「十分な配慮

人間が判断してきたため、たとえば人のうえで実行される必要があります」

事異動においては、配置を判定する（大湾氏）

役員や上級管理職の目に留まりやす
い人のほうが有利だという傾向がありました。縁の下の力持ちタイプの人はAI を理解する人事がいてこそのデータ活用

大湾秀雄氏
早稲田大学政治経済学術院 教授制をつくる必要があります」（大湾氏）

能力や実績が見えにくい、というようガイドラインでは、プロファイリン

そして最後が、意思決定には必ずな不公平が存在したのは事実です。

グをはじめとするデータ活用における人間が関与することである。
「『AIがそれを是正し、これまでよりも公平に

具体的な配慮について言及するという。

決めたので出向してもらいます』とい

評価や判断を行える可能性があるこ

まず、労使協議のなかできちんとうのでは絶対に納得できません。AI

とがデータ活用の大きなメリットといデータを活用することを話し合っておが出したリコメンドを見て、人が確認、えるでしょう」
（大湾氏）

くことだ。
「説明なきままのデータ活分析した結果として配置や評価を行こうしたメリットを含めたデータ活用によって不利益を被る人が生まれ、う、というように人間が責任を持って用の目的の説明がなければ、何か不その人が会社を訴えるようなことがあ

結論を出し、その結果を説明する必利益を被るのではないか、監視され、れば、個人情報保護法違反に問われ要があります」（大湾氏）

弱みをつかまれるのではないか、といるだけでなくレピュテーションも低下

こうした 配 慮とともにAIによるうような疑心暗鬼を従業員の間に生するなどのリスクが考えられます」

データ活用をしようとするとき、人事

むことにつながりかねない。
「肝に銘

（大湾氏）
。労使協議の際に説明すべに求められるのは AIに関する相応のじておくべきことは、データ活用は労きポイントは2つ。
「何のためにデータ

リテラシーだ。
「AIによって実現でき使関係が良好な会社のほうが進みやを活用するのかという目的、それにることは何か。従業員がどんな不利

すいという点です」（大湾氏）

よって企業・個人双方にどんな効果益を被る可能性があるのか。アルゴ

同協会が発表する予定のガイドライがあるのか。それを説明したうえで、

リズムは適正なのか。AIが導き出すンでは、特に “プロファイリング ”に関目的に沿った使い方以外はしないとい結論にどんなバイアスがかかっている

するリスクを強調している。プロファ

う約束をすべきです」（大湾氏）

可能性があるのか。これらを理解でイリングとは、データ分析によって得

次に、苦情申し立ての手続きを決きる人事担当者がいてこそ、企業・られたモデルから、個人のパフォーマ

めておくことだ。
「データを取得され個人双方に利益をもたらすデータ活ンスや離職の可能性を予測するものだ。

る側が不満に思ったり、おかしいと用が可能になるのだと思います」（大「プロファイリングは人がより活躍する

思ったりしたことを申し立てられる体湾氏）

Works No.156 Oct–Nov 201925

人事の AI 原則を議論しよう
ここからは、いよいよ「人事の AI 原則」づくりに取り組む。まずは編集部で草案を作成した。
これをもとに人事領域の専門家、実務家、AI と法律、AI と社会の専門家による検討会を実施して、内容を吟味した。
彼らの意見を参考に修正を加えた “ 暫定版 ” を、34 ページで提示する。

人事の AI 原則（草案）基本原理1

個人尊重の原理

人事が人事の諸活動においてAIを利用す
るのは、その利用によって、多様な働く人々
が、今より無理や無駄のない仕事と働き方
で、より高い成果を出すことのできる、よ原則 1.1

データ主体の 権 利 尊 重の原 則

データ所有者はデータ主体である。データ主体は、データの開示・修正・消去を求める権利、デー
タの利用のされ方に異議を申し立てる権利を有する。
原則 1. 2

プ ライバシー確 保の原 則

りよい職場を実現するためである。人事は、

人事は、パーソナルデータの取り扱いには一層の慎重性をもってあたる。人事は、パーソナルデー

AIを利用することで、日本国憲法および国タの活用が個人の自由、尊厳、平等を侵害しないことを常に確認し、検証する。人事は、パーソナ

際的な規範の保障する基本的人権を侵すこ

ルデータの収集とその保管に対して道義的責任と技術的責任を負う。

とのないようにすること、また、AIの利用が、社会や企業内に新たな不当な差別を生んだ
り、個人の尊厳を損なう不当な扱いを生じさせたりしないことを追求し続ける。

基本原理

2

原則 1.3公 平 性 確 保の原 則

人事は、AIを活用するにあたって、人々がその人種、性別、国籍、年齢、政治的信念、宗教などの多様なバックグラウンドを理由に不当な差別をされないよう、その設計思想における公平性を常に検証する。

公正プロセスの原理

人事におけるAIの利用が、人々に対してその人の持つ多様な背景を理由とする不当な差別をもたらすことになってはならない。
そのため、AIの開発・提供・利用にかかわ

原則 2 .1

合目的 性の原 則

人事は、AIを活用するにあたって、利用目的・範囲・プロセスを明確にするとともに、目的外のデー
タをみだりに取得したり、利用したりしないよう、データ最小化を目指す。
原則 2 . 2

本 人 同 意の原 則る人々は、公正なプロセスを設計し、それ人事は、データを収集するに先立って、データ主体に対して、データ収集の目的、収集データの種類、に則って適正な開発・提供・利用を実現す

データ主体の持つ権利などに関する説明を実施し、それに対する同意をデータ主体から得る。また、る。人事は、AIが必要とするデータを提供

これらの説明をし、同意を得たことを、必要に応じて証明できるようにする。

する人々に対して、AIを利用している事実とそのプロセスなどについて説明を施し、データ提供とその利用に関する許諾を得る。
AIの利用がもたらす結果については、問題の特性に応じて、AIの開発・提供・利用にかかわったステークホルダーが適切に分担して責任を負う。

原則 2 . 3

正 確 性の原 則

人事は、AIを利用するにあたって、AIが必要とするデータの最新性と真正性、データに欠落がないことを常に検証し、不正確なデータを用いない。また、AIが用いるアルゴリズムにエラーがないことを検証する。
原則 2 .4

適 正 性の原 則

人事は、データを取得するにあたっては、適正適法にこれを行う。また、AIを利用するにあたっては、信頼できる開発者・提供者を活用し、信頼性を担保するための複数の仕組みの構築に努める。
原則 2 .5

セキュリティ確 保の原 則

人事は、データを取り扱うにあたって、安全性の確保に努める。データの匿名化・仮名化を可能な限り実施し、データ保管にあたって、漏洩などが起きないように、技術的措置を講じる。
原則 2 .6

危 機 管 理の原 則

人事は、AIを利用するにあたって、起こり得る問題を想起し、技術的・非技術的対応策を事前、ならびに事後的に講じる。問題が発生した場合に、どのような行動を取るか、事前に決めておく。

26

Works No.156 Oct–Nov 2019

前ページおよび下記が、編集部で理」には、個人に不当な不利益をも作成した人事のAI 原則の草案である。

たらさないように手続き上の正しさを

草案をまとめるにあたっては、ここ

追求すべきということと、AIを活用しに至るまでに取材した専門家や実務た人事を行うにあたって、受益者や家からの示唆を活かし、加えて既にステークホルダーに正しく情報を開示

紹介した各国・各団体が作成した原

し、説明を行う義務があるということ

則やガイドライン（＊）を参考にしている。

を表した。4 つ目は「知性と倫理性のまずは、4 つの大きな基本原理を掲原理」とした。AIを活用していく時

げた。1つ目の「個人尊重の原理」は、代にこそ、人事としての倫理観、リテ

人事が AIを活用して人事権を行使す

ラシーを持つべきだということを意図るにあたって、個人の尊厳を毀損ししている。

てはならないという原理である。2 番

この草案を一読していただき、その目の「公正プロセスの原理」と３番目

うえで次ページからの５人の専門家たの「透明性とアカウンタビリティの原

ちの意見に耳を傾けてほしい。

基本原理

3

透明性とアカウンタビリティの原理

人事が AIを利用するにあたっては、AIの利用によって何を実現しようとしているのか、
それをどのようなプロセスとアルゴリズムで行うのかについて、情報を開示する。AI

原則 3 .1

透明性の原則人事は、AIを利用するに先立って、AIを利用するという事実、利用の目的、利用に用いるデータなどについて情報を開示し、透明性を確保する。
原則 3 . 2

アカウンタビリティの原則の利用がもたらす結果について、なぜその人事は、AIによる分析に対して、そのプロセスやアルゴリズムを理解し、それを説明できる体制を結果になったのかを説明する。人々が AIの構築する。

提案を理解したり判断したりするために、AIの利用や運用について、必要に応じて開かれた対話の場を適切に持つ。

基本原理

4

原則 3 .3

人間による意思決定の原則

AIによるいかなるサジェスチョンがあっても、その採否の決定や最終的な意思決定は、人事が責任を持って行う。

知性と倫理性の原理

AIは、人間の労働の一部を代替するのみな
らず、高度な道具として人間を補助することによって人間の能力や創造性を拡大することができる。人事ならびに、人事で用いるAIを開発、利用、提供しようとする者は、AIに対する正確な理解を持ち続け、また、
社会的に正しい利用ができるよう、法をはじめとする知識と職業倫理を持つ。

原則 4.1

リテラシー確保の原則

人事は、AI をコントロールする知識を獲得するための体制を構築し、その利用にあたっては、
適切なサービスとその提供者を見極める。また、従業員などのステークホルダーが知識の不足ゆえに AI 時代の弱者となることがないよう、従業員への AI リテラシー教育の体系をつくりこれを実行する。
原則 4. 2AI からの自立の原則

人事をはじめとするステークホルダーは、AIの進化を見極めつつ、同時に AIの限界についても認知し、AIに依存しない。
原則 4.3

倫理尊重の原則

そもそも人事に求められる職業倫理は、AIを利用することによって損なわれてはならない。人事ならびに経営は、AIを社会的に正しく利用するために、適切なコストを負担することを惜しまない。

（＊）内閣府「人間中心の AI 社会原則」、人工知能学会「人工知能学会 倫理指針」、OECD「人工知能に関する OECD 原則」、EU「一般データ保護規則（GDPR）」

Works No.156 Oct–Nov 201927

編集部：今日はお集まりいただきあり

トップであり、多くの企業のHRの課

私たちは、これを絶対的な規則としてがとうございます。

題や最近のAIに対するニーズをご存提示するのではありません。各業界、私たちは、取材を通じ、AIの進化じです。東京大学の江間有沙さんは、各企業が、AIを実用していくにあたっは留まるところを知らず、そして、人科学技術と社会の関係性を研究され、て、自業界、自社なりの原則を考える

事領域でもAIを使いたいニーズはど

人工知能学会倫理指針をはじめ、多必要があります。また、今の時点でのんどん高まっていること、同時にリス

くの原則づくりの現場を見ておられま

AIにできることを想定してつくっていクもあることを学びました。各国や地す。慶應義塾大学の山本龍彦さんにるものなので、今後、より賢い AIが域、多様なステークホルダーの間では、法律の専門家として出席していた

登場すれば原則も変わると思います。

原則の議論が始まっていますが、人だきました。

今回作成するものは、いわば “ 暫定のことを取り扱う仕事である人事こそ、

まず、私たちが今回提示しようとしAIを使うにあたっての原則を話し合ている原則の位置づけを説明します。

版 ”です。変化していくことを前提にしています。

うべきだと考えました。
編集部で作成した「草案」（26 〜
27ページ）をベースに、「人事のAI原則」に何を盛り込むべきか、今日は議論したいと思います。
お集まりいただいたのは、各分野

Theme 1

この原則の目的は何か。
誰に向けたものかの専門家の方々です。学習院大学の守島基博さんは、人的資源管理論の江間：各論を議論する前に、私が絶対いものになってしまいます。

専門家です。志水静香さんは外資をにあったほうがいいと思うのは“ 前鵜澤：いろんな団体が倫理憲章などを含めた複数の企業で人事トップを務文 ”です。なぜこれを、誰に向かって、

つくるなかで、どう差別化するかといめられました。鵜澤慎一郎さんは、どういうスタンスでつくるのか、など

う視点も必要です。今の内容は非常EYのHRコン サ ル ティング 部 門 のを説明しなくては、誰の心にも響かなにオーソドックスで、特に否定するとディスカッションの参加者

28

Works No.156 Oct–Nov 2019

志水静香氏

鵜澤慎一郎氏ファンリーシュ 代表取締役
ストラテジック・ピープルパートナー

EY アドバイザリー・アンド・コンサルティング
ピープルアドバイザリーサービス リード パートナー

ころもありませんが、一方で、ここが鵜澤：もう1つ、原則を持つことは、

山本：確かにそれは重要です。適切に重要、という特徴もありません。

グローバルな視点からも必要なのだとAIを使えば、人の判断に伴うバイア

江間：名称も、「人事のAI 原則」とい言っておきたいですね。海外で事業スのためにこれまで不利益を被っていう無味乾燥なものではなく、つくり手を展開する企業では、人のデータのた人々に、適切な機会が与えられるの意図を込めた名称をつけるといい取り扱いは、グローバルに統一化さ可能性がある。AIの活用は、よりよですね。

れたルールに縛られることになります。

い意思決定のためになるんだというこ

編集部：前文をつくるということは考そのことに敏感でなくてはなりません。

とは強調しておきたいですね。

えていませんでしたが、確かにあった

守島： ダイバーシティ＆インクルー

編集部：私たちの目的意識を明確にすほうがいいですね。ほかに前文に入ジョンを実現する、という視点も欠かるためにも、前文をきちんと作成したれるべきことはありますか。

せないですね。

いと思います。

鵜澤：基本的なこととして、これからの時代、人事が取り扱う人に関するデータは最高の経営資産であり、同時に最 高 機 密だと考えるべきだと言っておきたいですね。この自覚がな
いから、データを軽んじてしまうのだ

Theme 2

人事にとって「個人を尊重する」とはどういうことかと思います。
守島：なぜ最高機密か、理由も説明し

志水：基本原理1の「個人尊重の原理」

会社にある”という旧態依然の感覚のたいですね。ファイナンスの情報が最は何より重視したい点です。AIを使ままでは、個人を尊重するのとはまっ高機密なのは、企業の公正な競争とうかどうか以前に、人事が働き手であたく逆方向の施策が取られてしまう可の関係が深いからです。人に関するる個人を尊重しているかが問われる

能性があります。人事の基本的な価データが最高機密なのは、人権を侵のではないでしょうか。 “ 社員は経営値観、職業倫理が問われているとい害してはならないからなのです。

者のもの”あるいは“ 人事権はすべてうことをしっかり盛り込むべきだと思

江間有沙氏

山本龍彦氏

東京大学
未来ビジョン研究センター 特任講師

慶應義塾大学法科大学院

守島基博氏
教授

学習院大学
経済学部経営学科 教授 副学長

Works No.156 Oct–Nov 2019

29

います。

行うことが必要です。AIの活用以前

いう言葉が重要だと思います。前提

守島：本来、人事という仕事は人に対にこの問題を考えることが必要です。

として、経営と働く人々にとってメ

する取り扱いを決めるものです。しか現実的には、AIの提案が経営の観点

リットをもたらすものでなくてはなり

し社内における人事では、雇用関係からは最適だとしても、会社全体をよません。“ 経営 ”そして“ 社員”にとっのために、個人の権利は一定の制限

りよくするために、人事などが個人のてよりよい決断をすることで、エンプを受けるのです。人事上の意思決定

尊 重の観 点から問題がないかをウ

ロイー・エクスペリエンスの向上を目

は、経営をよくする側面と、個人の尊オッチする必要があるでしょう。

指すことを原則に入れる必要がある重を実現する側面の両方を見ながら

志水：まさに守島先生の “よりよく”とのではないでしょうか。

Theme 3

人事に求められる
AIリテラシーとは 何か

早くリテラシーを高めることに着手すべきです。
江間：そもそもAIにできることは、現状では限られています。また「AIが志水：もう1つ、これからの人事で重シー確保の原則」は、そういった意

選んだ、判断した」というように、AI要なものとして、AIなどのテクノロ味でも非常に重要です。

を擬人化しがちなこともミスリーディ

ジーを使いこなすためのリテラシーを

鵜澤：AIリテラシーが低いと、相性診ングを生みます。人が機械を賢く使高めることが挙げられます。日本では、

断のようなレベルのサービスを信じていこなし、判断にかかる時間が短縮

HRテックに関するリテラシーが欧米しまうことがあります。
「この2 人は同できたり、よりよい判断ができたりすと比較してまだ低いと思います。それじチームにしないほうがいい」などとるように、人と機械の協力関係の仕は人事だけの責任ではなく、経営の大真面目に議論し始めたら、企業の組みを考えるのが大切です。AIへの問題でもあります。テクノロジーを導人材育成力や競争力が失われること

過度な期待や懸念のあまり、人の仕入する際、人事にも研修やOJTを通になりかねません。AIやテクノロジー

事が余計に増えたり、HRテックの進して学びを深める継続的な学習の提を使わずに済む時代ではなくなったと展が阻害されることにはなってほしく供が不可欠です。原則４.1の「リテラいう潮目の変化に敏感に気づいて、ありません。

30

Works No.156 Oct–Nov 2019

Theme 4

本人が同意すれば何をやってもいいのかは、こういう場合に独占禁止法の優越的地位の濫用を適用できないかを検討しています。企業内でも、データの収集や利用に関して同意を求め

鵜澤：私は、原則2.2の「本人同意のGDPRは同意至上主義ではないんでられたら、やはり従業員は同意せざる原則」という項目がとても気になってす。どういう目的のために使うのか。

を得ないでしょう。その意味で個人はいます。既に多くの企業では、個人

そこを固めて、説明できるようにして弱い。だからこそ、労使間のコミュニ情報を活用するにあたっては本人のおけば、同意がなくても法的に問題なケーションが求められます。

同意を得ることがルールというのを理いということは十分あり得ます。

守島：これまで長らく協調的な労使関解しています。でも、きちんと同意を鵜澤：本人の同意があれば永遠にOK係が続いてきたため、経営や人事が得ていたなら、何をやってもいいかとではなく、撤回できる権利や忘れられ

なんらかの方向に変化を起こそうとい

いうと、それは別問題なのです。ここ

る権利もある、ということも大事です

うときに、日本企業の労働組合などはに企業の品格が問われていると思いね。物理的に本当にデータベース上ストッパーの役割を果たせないというます。同意さえあれば何をしてもいい、から消去し、消去されていることが説問題もあります。

という同意至上主義には、大きなリス

明できるというトレーサビリティの確

山本：持てる情報の量と質が変わってクを感じています。

保も必要です。個人は、いつでもそきて、情報の非対称性が増すなかで、

山本：欧州のGDPR では、形式的な同のゲームから降りられるという状態に情報を持たざる者が持つ者に関与す意の問題性を強く意識しています。一しておかなければなりません。

ることができるプロセスがより重要に

方日本は、同意至上主義であると同山本：ここで重要な視点は、個人のほなると思います。基本原理 2の「公正時に同意形式主義ですよね。

うが立場が弱いということです。インプロセスの原理」のなかに、ベンダー

鵜澤：適切なプロセスで実質的な同意

フラの役割を果たしているプラットとユーザー企業の間、企業と従業員を得ていた場合ですら、当局に否定フォーム事業者から、個人情報の提の間のコミュニケーションを確保するされる事例が、欧州では既に起きて出やその使用について同意を求めらこと、と入れてはどうでしょうか。

います。

れた場合、個人は事実上同意せざる

たとえば、個人の人事評価などの

志水：以前勤めていた会社で、グローを得ません。最近、公正取引委員会

情報は、マネジャーなど管理者だけ

バル人事システムを構築する機会がが見られる場合が多い。ですが、デーありました。欧州では社員個人の同タを提供して評価をされた側も、その意を得るにあたり、事前に当局に相談

データを見て、自分のどこがどのようして、この目的で社員のデータを取得に評価されたのか、どんな努力をすする、このように本人から同意を得る

れば評価が高まるのかを理解できるプロセスがある、これで問題ないか、ことが重要でしょう。それが本人の気という確認を行いました。

づきにもつながる。原則1.1にデータ

山本：GDPRには、正当な利益を追求の所有者はデータ主体とありますが、する場合など、本人の同意を得なく本人の関与を実質化する仕組みがなても正当化されるデータの取り扱いがければ、絵に描いた餅になってしまい

5つ挙げられています。その意味ではます。

Works No.156 Oct–Nov 201931

Assessment）とも呼 ば れ ています。

Theme 5“透明性”と“アカウンタビリティ”は実現可能なのか

ただ、すべての企業にこれを行うリソースがあるのか、HRIAの妥当性を誰が評価するのかが問題になります。
守島：チェックする能力をどこかに担保したほうがいいということですね。
江間：基本原理３にあるアカウンタビ

論をしなければなりません。

それが社内か社外かは持っているリ

リティの概念がしっかり理解されてい山本：そうですね。ディープラーニン

ソースによる、と。

ないように思います。そもそもの訳さ

グの複雑さから見て、説明可能性に個人に対するアカウンタビリティでれ方の問題でもありますが、説明しては限界がある。最近、説明を補完す

いえば、従来、人事の世界では“ 救済 ”

情報開示さえすればいいのではなく、べく議論されているのは、アセスメンということを重視してきました。つまり、結果に対して誰が責任を取るのか特トという手法です。自分たちが設計し何らかの不利益を受けたときに“ 文句”

定するのがアカウンタビリティの意味

たＡＩの予測モデルが人権にどのようを言えるというプロセスです。アカウするところです。

な影響をもたらすのかを査定・検証

ンタビリティのあとに、結果に対して守島：原則のなかには、誰が責任を取しようというものです。人権影響評価

異議を申し立てる仕組みを持つ、といるのか決めておく、と書いておくべき（HR IA：Human R ig hts Impact

うところまで原則には明記したいです。

でしょう。

山本：GDPR でも、重要事項について

江間：たとえば医行為は人間が行わな

AIの完全自動意思決定を組み込む場

ければならないと法律で定められて合には、決定を争う権利を保障しないますが、人事については人間がしければならないと規定されています。

なければならないという法律はありま

争うには情報がないといけませんから、せん。極端な話、人事は AIで決めまやはりそのためにも決定のプロセスにす、という会社が出てきてもおかしく

ついて説明しなければならない、といはないのです。だからこそ、AI 原則

うことになるわけです。

には問題が起きたときの責任の所在を決めると明記する必要があると思います。AIを使って起きたことの結果について、責任を負うのは誰なのかを決めておきます、というルールです。

Theme 6

人がどれだけ関与することを求めるのか

もう1つ、疑問を感じていることがあります。世に出ている多くのAI 原

守島：原則3.3「人間による意思決定

ういう使い方をしているのかをきちん

則でも、「アルゴリズムがどのようなの原則」については、意思決定に限と説明する必要があります。

ものかを説明する」といったことが簡らず、AIがどのように関与しているか

鵜澤：GDPR では、AIによる完全自動

単に書かれていますが、実際にアルは開示したほうがいいと明記すべきで化された判断は基本的に否定されてゴリズムを見せられたところで、一般

すね。AIの提案をそのまま使っていおり、人間が必ず介在すること、と明の人にはほとんど意味がわかりません。

るのか、それとも人が介在しているの記されています。

AIによる推論の過程を明らかにするか。それを知るだけでも、結果を受

山本：そして、形式的に人間を関与さとはどのようなことなのか、という議

け取る側の心証はかなり違います。どせるだけでなく、権限のある人が関与

32

Works No.156 Oct–Nov 2019

することを求めています。ただし、実上げるため、というのがほとんどでしの配分は、場合によって変わると思い際には、採用の初期のスクリーニング

た。採用の初期段階で、“ 絶対に合わます。必ずこう使ってくださいではな

をAIで行うというとき、人間がすべない”人は AIの診断で除いてしまい

く、会社の方針に従って、こういう方て関与するのは難しい。むしろ、それましょう、というように。ところが、針だからこう使う、と説明することがにより意思決定の質が落ちる可能性

今は AIを使って最適な人材配置を実求められるでしょう。

もあります。どういう場面で人間が関現したい、という話になっています。

志水：AIが出してくるリコメンドは一与するかを明確にしておくべきです。

AIを使った意思決定の重要性がかな

参照データにすぎないという認識も必雇い入れたあとの従業員に不利益にり格上げされることになります。だか要です。意見 A、B、Cのうちの１つ

なる意思決定をする場合に、人間をらこそ、本当に信頼に足るのか、AIであって、AIが示すものが万能であ関与させるということは、AI 原則にが間違った分析をしていないか、といるという思い込み、AIの出す結果だ

入れていいと思います。

う議論が必要になっているのです。

け重み付けを高くするという行為はな

鵜澤：これまで AIを使うのは、効率を江間：人と機械の協力体制における力

くさなくてはなりません。

Theme 7

“ データ最小化 ” にいかに真剣に取り組むか
鵜 澤： 原 則2.1に 小 さく入 って いる

ビッグデータに対する幻想にはもっと「データ最小化」は、もっとしっかり主

注意を喚起すべきでしょう。

張すべきです。“ビッグデータ至上主

山本：そのとおりですね。データを取っ義”を取る企業は少なくないからです。

てはいけないではなく、目的によってなんでもいいからデータを集めておけは取っていいのですが、必要に応じてば、思わぬ素敵な示唆が出てくると取る範囲を決めておくべきです。目的

本的な欲求です。必要のない情報は思っている。こうなると、メールの文章、に照らして考えると匿名でもいいもの取らないという表現では不十分で、会議の音声、歩いているモーションのがもっとあるはずです。それもデータ人権に抵触する可能性があることをキャプチャなど、なんでもデータとしての最小化の重要な考え方の1つです。

しない、という言い方が必要でしょう。

取っておきたくなる。これは倫理的に

守島：とはいえ、個人情報をできるだ

編集部：みなさんの意見を聞いて、AIも問題ですし、オペレーション効率的

け細かく欲しい、というのが人事の基を活用するにあたって考えるべきなのにも無駄です。GDPRの影響で、ミニは、人事とは何か、そこに携わる人々

マムなデータからどう示唆を得るかとが持つべき矜持とは何かということないうふうに、世の中が変わっています。

のだとわかってきました。AIを使う・使わないにかかわらず大事にすべきこと、そしてAIを活用するからこそ持つべきこと、守るべきことを形にしたいと思います。
本日はありがとうございました。

Works No.156 Oct–Nov 201933

人事のAI 原則《暫定版》、発表
Works 作成の草案をもとに前ページまで議論してきたことをここに集約し、人事のための AI 原則の “ 暫定版 ” を発表する。
各界の専門家たちの知恵によって、構造、内容ともに進化させた。

ディスカッションを受けて変更した

る必要があるとの指摘に基づいて、して、それらの基盤として、人事としのは、主に原則の内容と文書の構造

前文を加え、よりメッセージ性の強いての職業倫理とリテラシーを置いた。

である。

ものにすることを目指した。

それぞれの詳細は、右ページの前文

前者については、本人同意やアカ

また、ディスカッションでは、文書

ウンタビリティ、データ最小化など、が構造化されていないという指摘がなお、ディスカッションを経て完成

ディスカッションで検討された部分をあった。そこで、個人の権利の尊重

したこのAI 原則を“ 暫定版 ”と呼ぶの中心に大きく書き換えている。

という大原則をベースに、インプット

は、今後も多くの人々と検討を重ねてそして後者はまず、「誰に向けたも時とアウトプット時という、プロセス

いき、よりよいものにしたいという思のか」「作成の目的」などを明確にすを分ける形での構造化を試みた。そいを込めたためである。

で述べている。

「人事のための AI 原則」の構造

インプット（個人情報）に対する
センシティビティ
5

データ主体の権利尊重の原則

6

本人同意の原則

10 人間による意思決定の原則

7

データ最小化の原則

11 アカウンタビリティの原則

8

適正性の原則12 異議申し立ての権利確保の原則

9

セキュリティ確保の原則

個人の権利の尊重

人事としての職業倫理とリテラシー
出典：編集部作成

34

アウトプットに対する
アカウンタビリティ

Works No.156 Oct–Nov 20191

個人の権利尊重の原則

2

公平性確保の原則

3

プライバシー確保の原則

4

透明性の原則13 倫理尊重の原則

14 適正コストの原則

15 リテラシー確保の原則

16 危機管理の原則

人事のための AI 原則
前 文
私たち企業人事に携わる人々は、経営のための重大な資産である従業員などの人的資産に対して、さまざ
まな施策を通じて広範かつ直接に影響を与える立場にあります。したがって私たちには、経営と働く人々の間にあって、働く人々がよりよく働き、満足を得られるように努める義務があります。
AI という優れた技術を、人事におけるツールとしても活用することが可能な時代が幕を開けようとしています。ですが、このツールの使い方を間違えば、私たちは、働く人々の尊厳を損ねたり、プライバシーを侵害したりすることによって、結果的に彼らの安心安全とよりよく働く権利を脅かすことになりかねません。
また、個人の尊厳が世界的にますます重視されるなか、私たちは人とそのデータにかかわるグローバルな規
範を遵守することも求められています。
そこで、私たち企業人事に携わるすべての人々が、AI を活用するにあたって守るべき基本的な原則をここにまとめます。

16 個の人事のための AI 原則は、大きく以下の 4 つの観点でまとめられています。
●

個人の権利の尊重●

インプット（個人情報）に対するセンシティビティ●

アウトプットに対するアカウンタビリティ●

人事としての職業倫理とリテラシー

人事は、AI を利用することで、日本国憲法および国際的な規範の保障する基本的人権を侵したり、社会や企業内に新たな不当な差別を生んだり、個人の尊厳を損なう不当な扱いを生じさせたりしないことを約束しなくてはなりません（個人の権利の尊重）。そして、そのためにはまず、AI に与える個人に関するデータの取り扱いに対して、細心の注意と敬意をもってあたる必要があります（インプット〈個人情報〉に対するセンシティビティ）。また、AI を活用した後段階では、その結果に対して、説明し、対話し、責任を負う必要があります（アウトプットに対するアカウンタビリティ）。これらは人事として当然守るべき義務であり、AI を活用するに際しても少しも損なわれることがあってはなりません。そのためにも、AI という新しい技術に対して、学び、経験を積み、正しい知識と理解を構築する努力が必要です（人事としての職業倫理とリテラシー）。

私たちは、AI を正しい形で活用することで、人という経営資産に関するよりよい意思決定ができるようになることを望みます。また、そのように人事が進化することで、企業における真のダイバーシティ＆イン
クルージョンを実現することや、働く人々にこれまでになかった新しい仕事や学習の機会およびキャリア展
望を提供することが可能になると信じます。
この原則は、私たちが理解し、守るべきものであると同時に、各企業の理念と AI の進歩に応じて発展させていくものです。私たちはこの AI 原則をもとに、AI の研究や開発、サービス提供に携わる人々との間で、また経営者や従業員、入社を希望する人々との間での対話を重ねていきます。

Works No.156 Oct–Nov 201935

個人の権利の尊重
1

個人の権利尊重の原則
そもそも人事は、よりよい経営のために人的資産に働きかけるものであるが、同時に従業員などの個人の権利と尊厳を尊重することが求められている。人事がその意思決定にAIを利用する場合であっても、個人の権利と尊厳が不当に毀損されることがあってはならない。

2

公平性確保の原則
人事は、AIを活用するにあたって、人々がその人種、性別、国籍、年齢、政治的信念、宗教などの多様なバックグラウンドを理由に不当な差別をされないよう、その設計思想における公平性を常に検証する。

3

プライバシー確保の原則
人事は、AIに与える個人情報の取り扱い、また、AIが導き出した個人にかかわる推論の取り扱いには一層の慎重性をもってあたる。
人事は、個人情報の収集とその保管、AIシステム自体と結果データのセキュリティに対して道義的責任と技術的責任を負う。

4

透明性の原則人事は、AIを利用するに先立って、AIを利用するという事実、利用の目的、利用に用いるデータなどに関する情報を従業員などに開示する。また、AIの利用について、従業員代表と話し合うなど、開かれたコミュニケーションの場を持つ。

インプット（個人情報）に対するセンシティビティ
5

データ主体の権利尊重の原則
データを提供する個人は、データの所有権のみならず、データの開示・修正・消去を求める権利、データの利用のされ方に異議を申し立てる権利を有する。人事は、データの取得や活用についてデータを提供する個人とコミュニケーションする機会を
もうける。

6

本人同意の原則
人事は、個人情報などのデータを収集するに先立って、データを提供する個人に対して、データ収集の目的、収集データの種類、個人の持つ権利などに関する説明を実施し、それに対する同意を得る。人事は、この同意が、データを提供する個人の理解と納得を伴う“実質的な同意”になるよう最善の努力をする責任を負う。個人は、同意を撤回する権利を有する。

7

データ最小化の原則
人事は、AIを活用するにあたって常に合目的性を重視し、利用目的・範囲・プロセスを明確にする。そのうえで、目的外のデー
タをみだりに収集したり、利用したりしないよう、取得するデータの最小化を目指す。

8

適正性の原則人事は、データを取得するにあたっては、適正適法にこれを行う。また、人事は、AIを利用するにあたって、AIが必要とするデー
タの最新性と真正性、データに欠落がないことを常に検証し、不正確なデータを用いない。

9

セキュリティ確保の原則
人事は、個人情報を取り扱うにあたって、安全性の確保に努める。データの匿名化を可能な限り実施し、データ保管にあたって、漏洩などが起きないように、技術的措置を講じる。また、問題が発生した場合にどのような行動を取るか、事前に決めておく。

36

Works No.156 Oct–Nov 2019

アウトプットに対するアカウンタビリティ
10 人間による意思決定の原則
人事が AIを利用するにあたって、最終的な意思決定は人間がこれを行い、AIによる完全自動化した意思決定は行わない。人事は、AIがどのように意思決定に関与しているのかを明らかにする。また、AIによる示唆は参照データの1つとし、過度な重み付けをしない。

11 アカウンタビリティの原則
人事は、AIを活用した意思決定のもたらす結果についての責任の所在をあらかじめ決めておく。また、要望に応じて、その意
思決定プロセスを説明する責任を持ち、それに応えられる人員を人事部内に育成する。また、利用しているAIのアルゴリズムの適切性を検証する機関を社内あるいは社外に持ち、継続的にこれを検証する。

12 異議申し立ての権利確保の原則
従業員などは、AIが分析・予測した結果に対して、異議を申し立てる権利を持ち、人事はこれを受ける仕組みを構築する。また、
人事は、従業員が知識の不足ゆえにAI時代の弱者となることがないよう、従業員へのAIリテラシー教育の体系をつくりこれを実行する。

人事としての職業倫理とリテラシー
13 倫理尊重の原則
人事に求められる職業倫理は、AIを利用することによって損なわれてはならない。人事は、AIを利用するにあたって、データ提供者からの同意があり、適切なプロセスを踏襲するとしてもなお、倫理的・道義的な観点からその利用が正しいものであるかどうかを常に点検し続ける。

14 適正コストの原則
人事ならびに経営は、AIを社会的に正しく利用するために、適正なコストを負担することを惜しまない。AIサービスの利用にあたっては、適切なサービスを見極め、信頼できる開発者・提供者とのコミュニケーションを続ける。

15 リテラシー確保の原則
人事は、AIを過信せず、コントロールするための知識を獲得し、AIの進化についていくための学習を継続的に行う。経営は、人事を含む従業員全員が AIリテラシーを高めることへの責任を持ち、AIリテラシー教育の体系をつくり、継続的な学習機会を提供する。

16 危機管理の原則
人事は、AIを利用するにあたって、起こり得る問題を想起し、技術的・非技術的対応策を事前、ならびに事後的に講じる能力を高め、継続的に点検を実施する。

Works No.156 Oct–Nov 2019

37

まとめ

機械とともにあるからこそ人間同士の対話を重視すべし石原直子（本誌編集長）

未来を拓くテクノロジーとして注目される AI だが、社会への実装が進展するにつれ、AI の持つ負の側面にも人々の関心が集まっている。本特集でも、AI の活用が引き起こし得る問題、課題としてさまざまなものを取り上げた。
だが、現段階で本当の自律型の AIが生まれていない以上、AI が何か“ 悪さをする ”とすれば、それは人間の意思や人間社会の歪みの反映なのだということも、多くの専門家が異口同音に強調した。私たちは、そのことをしっかりと認識しておく必要

経営における人的資産の効用の最大がある。

化と働く個人の幸せの最大化、両方

片側の立場だけでものごとを決め

人事領域で AI を活用するというこを “ 同時に ” 追求する仕事である。どないために大事なのは、想像力ととは、人事という機能が内包していのような人に集まってほしいのか、

まっとうな倫理観だと指摘してくれる課題や問題もまた、AI によって増どのように働いてほしいのかという、たのは SEQSENSE の中 村 氏だ。想幅される可能性があるということだ。

経営サイドの視点と、働く人たちに像力を培う具体的な方法が、多様なだからこそ、人事がどのような世界

どのように報いるのか、何があればステークホルダーとの対話というこ観を持っているかが、今後ますます働く人が幸せになれるのかという、とになるだろう。開発者だけの言い重要になる。

従業員サイドの視点。両方が常に必分、経営サイドだけの言い分しか聞要だ。このような、いわば各社なり

かぬまま、新しい技術や施策に飛びの “ 人事ビジョン ” を今一度確認し、つくのはリスクである。社会あるい肚に落とすプロセスなしには、AI には従業員はどう感じるのか、何を望「人事のための AI 原則」全文を通じ何を選別してほしいのかという基本

んでいるのかを知るのは、人事の基て繰り返し表したとおり、人事とは設計図をつくることすらできないは本的な役割であり、これは AI 時代に変わらない

人事の基本的な役割

38

Works No.156 Oct–Nov 2019

ずだ。

の望む仕事、望むキャリアに出会える。そのおかげで経営がよりうまくいく。そんな未来を期待したい。

“ ありたい姿 ”とともにそれぞれの AI 原則を
わざわざ “ 人間中心 ” を謳わなけ
れば “ 機械中心 ” になってしまうと指摘したのは、「人間中心の AI 社会原則」の検討会議において議長を務めた東京大学の須藤氏である。人間のために AIという機械、ツールが存在する。その AI に何もかも丸投げしなろうと変わることはないと、ファ

拾える可能性がある。これが人事領てしまうのではなく、AI に助けてもンリーシュの志水氏も強調していた。

域で AI を用いることの大きなメリッ

らいながらも、私たち自身が責任をトの 1 つだと考えている。

持って今よりいい未来をつくるのだ

また、早稲田大学の大湾氏は、労使関係のよい企業のほうがデータ活

そもそも企業人事という領域では、というスタンスと、それを実行でき用がうまく進んでいると教えてくれた。

すべての働く人の権利が完全に尊重

話し合いや、情報開示を通じて信頼されているとはいえない面があると今回、編集部が多くの方の力を借関係が構築されていることは、新し指摘したのは、学習院大学の守島氏

りてつくった「人事のための AI 原

いテクノロジーを用いるにあたってだ。意に染まぬ異動、不得意な仕事、則」は、完成版ではない。各社会、の最低限の前提条件になるだろう。

本意でないキャリア。そういうもの

企業、コミュニティにおける “ ありでも、なんとか納得してもらうのがたい姿 ” の議論の末に、それぞれが、人事の仕事でもあった。AI を活用す

自らの原則を構築する必要がある。

ることで、こうした個人と企 業のWorks 版「人事のための AI 原則」が、これまでの人事ではすくい上げる

ニーズのアンマッチが少しずつでもそのときの参考文献になるというのことのできなかった、“ 小さき声 ” を解消され、より多くの従業員が自分が、私たちの望むところである。

AI を用いて“ 小さき声 ” をすくい上げる

るだけのリテラシーが大切だ。

Works No.156 Oct–Nov 201939