資料１

人事データ活用への関心とガイドライン作成に向けての議論
AIネットワーク社会推進会議 AIガバナンス検討会
2018年12月10日、早稲田大学政治経済学術院 大湾秀雄

1

人事データの活用（People Analytics）領域
 現在模索されている人事データの活用領域は主として３つ

パフォーマンス予測や離職分析やネットワーク分析など、個人に紐づけした予測（プロファイリング）で、選抜や支援の提供を最適化② 職場改善、人財育成、健康経営などにおけるデータを活用した改善領域の特定③ 人事制度・施策の効果測定①

 主として①において、統計的差別、平等原則の侵害、個人の尊厳原理との衝突、といった問題が議論されつつある。
 ②、③の活用がもっと探索・試行されても良い。
‒ 企業や職種によって必要な人財や施策は大きく異なる。
‒ 外部ベンダーには出来ない「課題」特定のための分析を内部者が行うべき。
2

人事分野におけるAI利用の問題点（１） 人事において将来の予測は難しく、AI活用による予測精度向上は小さい。
‒ 能力や生産性といった時間と共に変わる変数が興味の対象。

あまり変わらない嗜好を対象とするマーケティングと異なる。
‒ 個人ごとの予測は誤差が大きい。1％の説明力向上は、マーケティングでは莫大な利益になり得るが、人事ではほぼ無視できる程度。
‒ AIは記録に残らないものは扱えない。人間の目で見た評価情報を代替するものではない。
‒ 大企業の人事データでもビックデータではない。精度を上げるのに必要なデータ数が確保できない。企業がデータをシェアすれば話は変わるが、それでも企業ごとの異質性を上手く処理できないだろう。
3

人事分野におけるAI利用の問題点（２） 因果関係を特定できない。相関関係のみに基づき、ブラックボックスのまま、予測に使うのは極めて危険。
‒ 決定係数が高いことは予測精度の高さを意味しない（過学習問題）。
‒ 予測は、因果関係を検証し、構造変化の有無を確認しながら行うもの。
 当面AIの活用領域は、採用の書類選考などに限定される。
‒ ここは元々予測精度が悪くバイアスが大きい領域であるため、AIに付随する問題は小さい。
‒ 逆に埋もれた人材を発掘しマッチングの効率が高まる可能性が高い。
‒ 人件費削減効果が大きい。
4

プロファイリングの問題点（１） プロファイリングとは‒ 「自然人に関するある一定の個人的な側面を評価するために、特に、当該自然人の業績、経済状況、健康、個人的嗜好、興味、信頼性、行動、位置又は移動に関連する側面を分析し又は予測するために、個人データの利用から構成されるあらゆる形態による個人データの自動的な取扱い」（GDPR4条4項）
 問題①：統計的差別‒ 活躍確率が低い、離職確率が高い、という理由で昇格、研修対象から外される危険性。
‒ 例：アマゾンの採用プロファイリングに女性差別傾向があり、開発を断念したという報道。
‒ ただし、学歴等で「足切り」されていた人達が評価を受け統計的差別が減るという効用もある。
5

プロファイリングの問題点（２） 問題② ：平等原理の侵害‒ 採用における適性検査の利用が進むが、多くの企業がベンダーが提供する統合されたスコアを無条件に使っている。
‒ 書類選考の基準が画一化している。
‒ 多くの企業から面接に呼ばれる人と、すべての企業から落とされる人と二極化する。
‒ 内定辞退者の多くは、適性検査で高い非言語能力と英語力を示す人。
‒ ただし、データ活用が高度化すれば、各社の書類選考は差別化が進むことが期待できる。

6

プロファイリングの問題点（３） 問題③個人の尊厳の侵害リスク‒ AIによる自動意思決定によって、採用、異動、研修の機会を否定された時に、納得できる理由が明かされなければ、個人の尊厳が否定されたと見るべき。
‒ 人間関与の原則を徹底することによって避けられる。

 問題④（労働契約上の）安全配慮義務が生じるリスク‒ 健康リスクを積極的に予測しようという試みがあるが、それが一般化した時に、健康リスクがあるのに、会社が何もしなかったと訴えられるケースが出てくる。

7

データ活用によるゲーミング（操作）の問題
 従業員満足度調査、360度評価は、社員が「正直に」語ることを前提としている。しかし、正直に語ることが不利益をもたらす場合には、嘘をついたり、答えないという選択をとる。
‒ 上司への不満を報告すると、上司あるいは自分の評価が下げられる場合、不満があっても報告しない。
‒ 競争相手である同僚を低く評価する。
‒ 同僚との談合を図る。
 職場単位の平均値しか使わないという約束は、正直な報告を増やすが、同時にデータの有用性も大きく低下する。
 近年進む行動記録の評価も、それが昇格や異動の意思決定に使われると、行動を戦略的に変える社員が出てくる。

8

人事データ特有の留意点
個人に紐づけした予測を目的とするAIの活用（プロファイリング）は、法原理、倫理、経済効率のいずれの面から見ても問題点が多い。

‒ バイアス、因果関係、解釈や各種リスクに留意した使い方が出来ない限りは、個人に紐づけした利用は避けるべき。

社員のためという原則を守らないと社員の協力は得られず、データの質は悪化する（従業員満足度調査、360度評価、行動記録など）。

‒ 良好な労使関係の確保が必須。

人事施策の多様化につながるデータの活用を推奨すべき。

‒ 自社にどういう人材が必要かという点を定量化できなければ、採用における差別化ができない。

説明責任を果たすためにも、個々人のキャリアに重要な影響を与える重要な決定には人間が関与しなければいけない（人間関与原則）。

‒ どんな分析を行っているかということを社員に知らせる透明性が重要。
9

データ活用ガイドライン（私案）骨子
目的：社員の生産性と満足度の向上や支援のために行う。

使途の限定：制度や組織の改善、能力開発、（採用異動など）マッチングの向上に限定。施策結果の画一化ではなく多様化につながる用途を心掛ける。

匿名化：分析過程や結果解釈の段階では、データは匿名化されていなければならない。支援が必要な場合のみ、個人情報を用いる。

信頼性の精査：内在するバイアスや結果の精度を吟味して用いる。分析結果を利用する人間は、統計的問題に精通している必要がある。

透明性：継続的な分析を行う場合は、どんな情報をどんな目的でどのように使っているか、社員に通知する。

操作可能性：用いるデータは、操作可能性を検証し、操作の影響を受けない情報源を出来るだけ用いる。

標準化：データ活用が少数の社員によって継続して行われないよう、継続的に行う分析は標準化し、他人が再現性を容易に検証できるようにする。

人間関与の原則：完全自動意思決定は行わない。社員からの請求があれば、理由を説明する。
10

HRテックでもガイドラインが必要
 業務データ（メール送信記録、チャット履歴、ウェラブルセンサーによる行動記録など）を用いたHRテックの開発が進みつつあるが、本人の意図せざる利用が、特に本人に不利益をもたらす可能性がある場合には、問題となる。
 設計段階からどのような法的・倫理的なリスクが発生し得るか検討を促す必要性がある。
 早めに手を打たないと、個別の問題が表面化した際に、どこまで許されるか不透明であるために、開発がストップする可能性がある。

11

自己情報コントロール権をどこまで守るのか？
 強めすぎると、組織改善や従業員の支援につながる分析まで制限がかかる。
‒ 雇用契約でどの程度まで、個人情報の利用が許されるのか？
‒ 現在は要求されていない「個人情報の利用範囲に対する本人の同意が必要」という判断を示し、対応を推奨すべきか。
‒ 個人と紐づけした利用をしない（個人に関する予測値を使わない）のであれば、本人の同意は必要ないか？
‒ 透明性（個人情報をどのように使っているかという情報の開示）はどの程度必要か？
‒ 労使の信頼関係を醸成するためにはできるだけ透明性を確保することが必要だが、細かく使い方を公開すると、操作（ゲーミング）によりデータの質が低下するという問題が生じうる。
12

データサイエンティスト不足がもたらす問題
 法的・倫理的リスクを抑え、正しいデータ活用を進めていくためには、統計学と社会科学の知識を併せ持つデータサイエンティストが必須。
 現在、国内の大学で育成する経済学、経営学、社会学の博士課程大学院生の数を所与とすると、将来データサイエンティスト不足が、成長の足かせとなる可能性がある。
 産学官連携して、大学院進学を奨励・支援していくことが必要。

13