」
定が生む「差別ＡＩの統計的推表示されるのか実験研究が行われた。するとＡＩによる振り分けの結果、スーパーの求人広告は約％が女性ユーザーに、木材加工では ％以上が男性ユーザーに表示された（図）。米連邦法では、性別を限定した求人広告は原則禁止で属性と点数の関係を学習し、少しこともあるが、過去のデータからる。もちろんＡＩの予想が外れる

役に立ちそうかの点数が出力され入力すれば、応募者がどれくらいえば、求人応募者の属性をＡＩに（ＡＩ）に置き換わりつつある。例

ワイトカラーの仕事が人工知能

０００点満点で顧客の信用度を判趣味といった情報を基にＡＩが１職種や年収、勤務先の企業規模、ディング」は、生まれた年月、性別、融資サービス「ＡＩスコア・レンとが報道された。同社の個人向け

スコア」（東京都港区）で起きたこ

ソフトバンクが共同出資する「Ｊこうした問題が、みずほ銀行とキング・サービス）では、個人のＳＮＳ（ソーシャル・ネットワー

別はある。フェイスブックなどの身近なところでもＡＩによる差差別問題になった。

より仮釈放されにくくなり、人種って判断したところ、黒人は白人を仮釈放するかどうかをＡＩを使

米司法省では、刑務所での受刑者し、中止に追い込まれた。また、に低い点数をつける傾向が判明

採用にＡＩを用いていたが、女性米国でも、アマゾンの人事部が雇って利益を上げる企業が参入し競争の下では、安い賃金で黒人をは白人以下になる。しかし、自由求人が減り、結果的に黒人の賃金経営者ばかりだと、黒人に対するを持っている場合だ。このような人を雇うのは嫌だ」といった偏見

一つは、経営者が根拠なく「黒差別の原因は２種類ある。

研究してきた。例えば、採用時のィグリッツら、多くの経済学者が受賞者のベッカー、アロー、ステか、ＡＩ登場以前からノーベル賞

こうした差別はなぜ起こるのあるにもかかわらずだ。

ずつ修正していくことで正確にな断。点数が高いほど、低金利で借属性や利用履歴によって、異なるてくる。偏見を持つ経営者は、コ高くなるように調整が行われた。て、ＡＩ）によっす人工知能（推定を繰り返が必要だ。
から統計的なは何か、再考膨大なデータる。公正さとれる恐れがあ差別が助長さっていく。しかし、ここで問題とり入れできる。ところが、性別を広告が表示される。そこで、フェスト高のため淘汰されていく。そ﹁女性﹂だけで低評価なってくるのが「差別」の問題だ。

男性から女性に変えると、その他

イスブックにいろいろな職種の求マーケティングといったホ

性別や国籍といった属性だけで点の属性がまったく同じでも点数がの結果、黒人の求人も増え、偏見

とうた

数が異なったら、差別と感じる人

人広告を出すと、どのユーザーに行の与信判断、社員採用、亮下がることが判明。女性の点数が銀

ほりい・りょう 1973年京都府生まれ。96年京都大学工学部数理工学科卒業、2000年京都大学大学院経済学研究科修士課程修了。06年大阪大学博士（経済学）。同大講師、東北大学経済学研究科准教授、同教授を経て、14年より現職。専門はマクロ経済学。

85

68

2019.6.18 週刊エコノミスト

2019/06/04 20:54

P068-069_視点争点.indd 68（大阪大学社会経済研究所教授）

堀井もいるだろう。

講師）の6氏が交代で執筆します。

治大学専任

90

による賃金格差（経済的差別）は助長される可能性がある。
しかし、Ｉの完成度が高まるほど、差別が籍といった属性を参考にして推定

め、学歴、資格、年齢、性別、国
例えば、生命保険料は平均寿命のかは、時代や社会によって変わる。

統計的差別がどこまで許される変わる﹁公正さ﹂人としてはたまらない。

企業にはよくても、差別される個いずれなくなっていく。
ところが、こうした偏見がなくても、統計的推定によって起こってしまう差別がある。これが「統計的差別」だ。採用活動では、応する。ＡＩの場合、ある応募者と違いから男女差があり、今の日本募者の本当の能力が分からないた

似た属性を持つ既存社員の業績デＪスコアが行ったように、男女では公正とされるが、欧州連合（Ｅ績が性別や国籍によって異なるなや人種で点数に差がつかないよータを参考に、応募者の能力を推ら、ＡＩは応募者の能力にも同じう、
加点する方法もある。しかし、Ｕ）では違法とされている。

傾向があると判断する。これは統統計的推定としては正しくなくな

弁護士 タクシー AI技術者 木材加工
外食
医師
看護師
秘書

定する。仮にデータ上、社員の業計による一種の差別だ。

り、与信判断など企業の経営には採用する男女比など結果の平等

Ｊスコアの例も同じだ。過去にう。米司法省のＡＩも黒人の再犯を強制したらどうだろうか。男性

不利だ。そうすると、こっそり本率が高い傾向を学習した。フェイに人気がある職種で男女同数採用

同一性障害の人は、さらにつらいお金を借りた人の中で、滞納者がスブックの広告差別も、女性はレしようとすると、女性にかなり加目に遭うことになる。

来のＡＩの結果を使う「闇ＡＩ」

ジ打ちの求人広告をクリックしや点することになる。そうすると、女性に偏っていた場合、ＡＩは女すいという傾向を学習した結果だ。

ではどうすればよいか。最初か

性別︑人種のデータで傾向を「学習」

自らの意思でもないのに、生物学

20

偏見による差別と異なり、統計30

ら性別を聞かない、というのも一40

的に男性に生まれた人は不利に扱がはびこりかねない。

女性
50

的差別は効率を高め、利益につな60案だ。実際、米国では、履歴書に70

われ、新たな差別が生まれる。性80

がる。だから競争があるほど、Ａ性の信用度点数を低くつけてしま

男性90

性別・人種・年齢を書かないし、面接で聞くのも禁止だ。
日本でも、一部の都道府県の公立高校は、入学志願書の性別欄を廃止した。現在は女子労働者保護規定や年金支給年齢に男女差があり、実務上、性別を聞かなければならない場面はあるが、育児休業制度のように今後は男女そろえる方向にある。米国のように労働法制が男女同一になれば、性別を聞く必要もなく、差別の可能性も低くなるだろう。

ただし、性別を直接聞くことを禁止しても、趣味や好きな音楽といった別の情報から、ＡＩで性別を類推まで保護するかがますます重要にか、ＡＩ時代には個人情報をどこやマーケティングに使ってよいのっている。どのような情報を採用呼ばれる巨大ＩＴ企業が大量に持した情報はプラットフォーマーとすることは可能だ。そして、こう（注）米フェイスブックの求人広告配信先を11種類の職種ごとに男女比を調査（出所）Muhammad Ali, Piotr Sapiezynski, Miranda Bogen, Aleksandra Korolova, Alan Mislove, and Aaron Rieke “Discrimination
through optimization: How Facebook's ad delivery can lead to skewed outcomes（2019）より筆者作成なるだろう。

2019/06/04 20:54

P068-069_視点争点.indd 69

100

保育士
清掃
スーパー0

AIによる求人広告配信先は職種によって大きな男女差（％）

10講師）の6氏

本欄は、堀井亮（大阪大学教授）、小林慶一郎（東京財団政策研究所研究主幹）、
高橋賢（横浜国立大学教授）、
宮本弘暁（国際通貨基金エコノミスト）、
稲水伸行（東京大学准教授）、倉地真太郎（明治大学専任

69 週刊エコノミスト 2019.6.18