資料１－８
第45回世界プライバシー会議クローズドセッション
2023年10月
人工知能と雇用に関する決議（仮訳）
本決議は、人工知能における倫理とデータ保護に関する作業部会を代表して、スポンサーにより提出されたものである。
スポンサー：
・情報コミッショナーオフィス（ＩＣＯ、英国）
・連邦データ保護・情報自由監察官（ＢｆＤＩ、ドイツ）
・データ保護機関（ＧＰＤＰ、イタリア）
共同スポンサー：・連邦データ保護情報コミッショナー（ＦＤＰＩＣ、スイス）
・情報処理と自由に関する国家委員会（ＣＮＩＬ、フランス)
・データ保護機関（ＵＲＣＤＰ、ウルグアイ）
・透明性、情報アクセス及び個人データ保護に関する国家機関（ＩＮＡＩ、メキシコ)
・ケベック州データ保護機関（カナダ）
・オンタリオ州データ保護機関（カナダ）
・ブリティッシュコロンビア州情報プライバシーコミッショナーオフィス（カナダ）
・プライバシーコミッショナーオフィス（ＯＰＣ、カナダ）
・欧州評議会・個人データプライバシーコミッショナー事務所（ＰＣＰＤ、香港）・個人データ管理・保護国家委員会（ＣＮＤＰ、モロッコ）
・欧州データ保護監察機関

1第45回世界プライバシー会議クローズドセッションは、
雇用活動には、候補者の探索・採用、雇用主と従業員の間の雇用契約の締結、職場での従業員の業績、成長及び行動に対する雇用主の監視・管理並びに雇用関係の終了を含み得ること、また、ギグワーカー、契約社員及び労働組合の採用・管理並びに職場での健康・安全及び労働・社会的保護の要件遵守への配慮を含み得ることに留意し、2018年10月23日に第40回データ保護・プライバシーコミッショナー国際会議で採択された「人工知能における倫理とデータ保護に関する宣言」及び第42回世界プライバシー会議クローズドセッションで採択された「人工知能の開発と利用における説
明責任に関する決議」を想起し、採用候補者の初期調査及びスクリーニング、従業員の監視・管理等を含むが、これらに限られない雇用主の主導による様々な活動において、組織が探究している、雇用ライフサイクル全体における意思決定に対して、人工知能(ＡＩ)の利用がもたらす可能性のある、事業の規模に応じた、潜在的な効率性と利益を認識し、雇用に関して利用されるＡＩは、個人1、団体、労働者の代表者（労働組合等）、コミュニティ及び組織に対して高いリスクをもたらす可能性があることを強調する。
ＡＩの利用が不透明な形で行われたり、誤って適用されたり、不正確に設計されたり、不適切にその利用に依存したりする場合には、不当な差別など、プライバシー、人間の尊厳及び権利の平等を含む基本的な権利と自由に対する危害又は侵害につながる可能性がある。これにより、労働者の個人的な又は職業上の開発に重大な影響を及ぼし、ＡＩツールの学習でのバイアスのある履歴データの利用及びＡＩシステ
ムでの不適切な又は違法なパラメーターや値の利用のせいで、雇用アクセスの機会均等を否定する結果につながる可能性があり、自動化された又はＡＩ支援された決定のみを行うことを目的として、個人データの取得を比例的ではなく又は不法に行うことは、従業員の業績、仕事の割当てその他の個人の権利に対して悪影響も及ぼす可能性もあるといったリスクがあることを更に強調する。これらのリスクには、以下のものを含むが、これらに限られない。
・私生活や家族生活の権利（例えば、ＡＩシステムが在宅労働者の監視や労働者の過剰な詳細管理や職場の監視に利用される場合）
1

リスクは、米国国立標準技術研究所が今年初めに公表した「人工知能リスク管理枠組み」、「ISO/IEC 23894:2023ＡＩのリスク管理に関するガイダンス」その他ツールを参照して評価することが可能である。世界プライバシー会議ＡＩワーキン
ググループの「人工知能システムによって引き起こされる個人の権利と自由のリスク－一般的なリスク管理フレームワークの提案」も参照。

2

・健康及び福利に対する悪影響
・集会や結社の自由（例えば、労働組合員のデータ又は推論が、従業員や候補者に不利益をもたらすために利用される場合）・個人が、単に若しくは部分的に自動化された決定に基づく決定に従わない権利を行使でき、又はプライバシーやデータ保護に関するその他の個人の権利を行使することができること、及び・例えば、候補者又は従業員が、ＡＩの利用又はその利用の程度の事実を認識していない、透明性が欠如している場合に、情報及びデータ保護に対する個人の権利が侵害されること（ＡＩの影響を受ける場合のことをいう）
職場におけるＡＩシステムの利用について、システムの導入前に、被雇用者や労働組合に対して、知らされる側が理解できる形で、ＡＩ利用の目的や利用の方法、利用される生体情報が通知されることを確保する透明性の重要性を改めて強調し、組織が雇用目的で利用するＡＩシステムが、ＡＩシステムの利用者だけでなく、当該システム単独で又はその支援によって行われる決定の対象者にとっても理解可能な方法により、説明可能である必要があることを強調する。適用される労働法、社会的保護法及び健康安全法に基づく義務だけでなく、説明責任の中核部分として、ＡＩの利用に関する専用の組織的ポリシーに詳細が記載できるほど、そのような説明可能性とメカニズムを提供する必要がある。当該システムを導入する組織は、従業員、候補者又は労働者が例えば、差別、バイアス及び不透明性に関する問題が観察された場合に援助や救済を求めることが可能となるように、意思決定プロセスのロジックを理解できる必要があり、雇用に関して、開発された、又は導入された大半のＡＩアプリケーションは、開発段階又は導入段階で個人データを処理することになることに留意する。それらの様々な段階で処理されるデータのソース、配布及び性質が異なる可能性がある一方、雇用におけるＡＩのライフサイクルの全ての段階において、ほとんどの場合、データ保護・プライバシー及び労働者の権利を考慮する必要があり、雇用におけるＡＩの利用には、特に労働者の採用と監視に影響を及ぼし得るデータ保護・プライバシー上の高いリスクを伴う可能性があることを懸念する。それらのリスクには、特に以下のものを含める。
・透明性の欠如
・バイアスに基づく差別パターンの存在
・特定の雇用に関するＡＩ利用の必要性と比例性についての考慮の欠如
・意味のある人的介入の欠如
・ＡＩシステムを運用すること及び雇用エコシステムにおける高いリスクの意思決定を進めることに関する十分な研修及び関連する専門知識の欠如
3

・有効で、一般的な又は雇用特有の法的根拠の欠如
・個人の自身の個人データの収集及び処理に対するコントロールの喪失
・自身のデータに対する権利の行使において、従業員が直面する困難・特定の保護措置の欠如
・不十分なデータセキュリティ
・機能クリープ
・比例原則又は人間の尊厳の原則を尊重しない健康データ、生体認証データ等の要配慮データの処理
自然人の感情を推論するＡＩシステムの利用2及びより一般的なあらゆる形式の「生体認証による分類」は、リスクが高く、雇用の文脈では、ほとんどの場合で禁止する必要があること、そして、限定的で、明確な形で利用する場合には、当該システムが、有効で、信頼できる方法論を利用し、意図したとおりに動作することを確保するために、堅牢なテストその他の評価を含む適切な保護措置を適用する必要があることを強調し、民間部門と公共部門の組織が、雇用関係のＡＩに依存することが多くなり、また、ＡＩシステムとサービスがリモートで国境を越えて提供される可能性があるため、データ保護・プライバシー機関が、労働・保健当局とともに、ＡＩシステムが学習データをどこから取得するか、その開発と運用が国内の法的枠組みにどのように遵守しているか、従業員のデータ保護・プライバシーの権利が、国内外でどのような影響を受けるかについて、洞察を得ることが重要であることを強調し、データ保護・プライバシー機関、政府及び国際機関が、法、政策及びガイダンスに関する文書の公表を通じて、世界的な議論に重要な貢献をしていることに留意し、雇用におけるＡＩの様々な利用及び応用が、異なる種類及び水準のリスクをもたらすこと、それゆえ、それぞれの状況や利用において適切な保護措置を特定するため、ＡＩの導入とライフサイクルを通じて慎重な検討が求められることを認識し、世界プライバシー会議が、以前より、グローバルな政策、基準及びモデルに向けて取り組み、データ保護・プライバシーの課題に対する効率的な予防、検出、抑止及び救済を強化するための規制協力の水準の引上げを確保し、また、データ主導経済における監視システムの一貫性と予見可能性を確保する必要性を特定してきたことを想起し、

2

例えば、従業員の気分を監視するために職場で使用される感情認識システムの場合を指す。

4

データ保護・プライバシー機関が、労働・健康・安全当局とともに各自の取組を調整し、世界中でそのようなデータ保護・プライバシーのアプローチの作成と実施に影響を与え、そして、適切な場合には行動をとることの必要性を確認し、そして、2010年にエルサレムでの第32回会議で採択された「プライバシー・バイ・デザインに関する決議」、2013年にワルシャワでの第35回会議で採択された「プロファイリングに関する決議」、2014年にフォート・バラクラヴァでの第36回会議で採択された「ビッグデータに関する決議」、2018年にブリュッセルでの第40回世界プライバシー会議で採択された「ＡＩにおける倫理とデータ保護に関する宣言」及び2020年にオンライン開催での第42回世界プライバシー会議で採択された「ＡＩの開発と利用における説明責任に関する決議」を再確認する。
これを踏まえ、第45回世界プライバシー会議は、次に掲げる事項を重視する。
１．雇用関係のＡＩシステムの利用が、人間中心であることを確保すること、
２．ＡＩシステムが、従業員、契約社員、組合員、日雇い労働者、ギグワーカー等を含むが、これらに限られない、それらの私生活や職業生活に与える可能性のある影響を認識する、雇用関係のＡＩツールの開発におけるデータ保護・プライバシー・バイ・デザイン及びデータ保護・プライバシー・バイ・デフ
ォルトの原則、
３．ＡＩライフサイクルの全ての段階で、個人データを処理するための十分な法的根拠を持つことの重要性及び候補者・従業員と雇用主の間の力の不均衡の可能性を考慮した、雇用に関連した法的根拠としての同意の限界を認識する
こと、
４．実施される業務に関連する目的のために、従業員の個人データを処理する際に、ＡＩの業務管理に関する労働組合の決定への参加を含む、従業員のプライバシー及び尊厳を侵害する不当な労働者による監視の回避等のための十分な保護措置を詳述すること、
５．雇用におけるＡＩシステムの開発及び導入が、必要性、比例性、データ最小化、利用目的の特定及び制限、自動的な手段に単に基づく又は主として基づく決定に従わない権利等のみでなく、この決議において言及される原則を含むが、これらに限られない特定の文脈において関連性を有する可能性のある、確立された人権フレームワークを含む、適用され得るデータ保護の法及び原則並びに関連する労働規則その他のすべての規則を完全に遵守する必要性、
６．従業員（アルゴリズムの又はＡＩのシステムが、管轄区域に特有の規制枠組みについて、雇用関係の導入される場合におけるＡＩ支援による決定の対象）に対して、候補者や従業員の地位、業務の割当て、管理又は解雇などを決定する自動化された意思決定又は監視のシステムの利用に関する詳細情報とともに、業績の違法な評価、過少支払い及び不法解雇に対して、異議を申し立5てたり、救済を求めたりするなどの労働者の権利を損なうことなく、従業員の契約上の義務の監督、評価及び履行に関する詳細情報を提供する雇用主の義務が特に関わる、ＡＩ関連の処理の開発、導入及び結果を含む、個人データの処理方法に関する適法性、公平性及び透明性、
７．ＡＩ支援による決定の対象となる候補者又は従業員が、雇用主が保持する個人データ、個人データの利用方法並びにこれらのＡＩシステムを利用して推定されたデータ及び構築されたプロファイルに関する情報にアクセスする権利、
８．システムの出力の影響を受ける従業員、候補者又は労働者だけでなく、ＡＩシステムを導入する雇用主が、ＡＩシステムで行われた決定を理解すること、その説明に直接的かつタイムリーにアクセスできることを確保するとともに、従業員、候補者又は労働者に対する説明には、従業員が情報に基づいて苦情を申し立て、該当する国内の法的枠組みに従って救済の権利を行使できるようにするため、関係するロジック並びに一般的な場合及び従業員特有の場合においてＡＩシステムの利用における重要性及び想定される結果についての分かりやすい情報が含まれていることを確保するための、雇用ライフサイク
ルのあらゆる段階で利用されるＡＩシステムの説明可能性、
９．ＡＩシステムを利用して行われた雇用決定について記録された意味のある人的審査を得る、自分の見解を表明する、そして、関連する自動化された又はＡＩベースの決定に異議を申し立てる又は雇用主が利用するＡＩシステムの独立した監査や一般的に求められる第三者監査を要求する、雇用ライフサイ
クルのあらゆる段階で雇用主が利用するＡＩシステムの影響を受けるデータ主体の能力、10．ＡＩツールへの過剰な信頼につながる可能性のある自動化バイアスの影響を当該決定が受けないようにするとともに、ＡＩツールの利用者が必要な専門知識、経験及び技術的資格を取得して、この研修が効果的かどうかを判断するためにＡＩツールの利用の追跡や監視を行うことにより、ＡＩシステムの出力によって影響を受けるタスクのリスク水準を考慮することを確保するた
めの、ＡＩ支援による決定に対する人的審査を行う担当者を含むＡＩツールの利用者への研修、
11．組織や雇用主に対し、個人データを処理するためにＡＩの利用から生じる労働者の権利と自由に対するリスクを考慮し、軽減し、必要に応じて防ぐことを求める、原則としての説明責任（例えば、結社の権利や労働組合を組織する権利は、労働者の活動の不当な監視によって妨げられる可能性がある）、
12．職場でのＡＩシステムの利用、ＡＩシステムの認定又は認証、ＡＩ特有のリスクの特定、そして、権限ある当局による監視を促進する手段としても利用される、雇用のライフサイクルの間に利用されるＡＩシステムに関する内部告発と救済のメカニズムの概要に起因する労働者にとって合理的に予見可能
6

な全てのリスクが考慮される導入前のＡＩ影響評価をサポートする組織的ポ
リシー、
13．雇用関係のＡＩシステムを開発及び導入する際には、システムの学習及び自動化された意思決定において利用される個人データがシステムの利用に関連して、代表的で、正確であり、定期的に更新されることを確保するための合理的な措置を講ずることによるもの及び特に個人データの不正確さをもたらす採用・業務管理システムの要因が、確実に修正されて、誤りのリスクが、最小化されることを確保するための適切な技術的な及び組織的な措置並びに適用される国内法の遵守を実施することによるものを含む直接的及び間接的なバイアスや差別の削減及び軽減、そして、第45回世界プライバシー会議では、次のことを決議する。
１．雇用関係で利用するＡＩシステムを開発又は利用する組織に対し、この決議で概説されている考慮事項を検討するよう促し、
２．世界プライバシー会議の全メンバーに対し、自己の管轄区域内及び世界中において、雇用関係で利用するＡＩシステムを開発又は利用する組織と協働し、当該組織がこの決議で概説されている考慮事項を取り入れることを支援するよう求め、
３．雇用におけるＡＩの利用に関する法的又は技術的な状況に変化が生じる可能性がある場合には、必要に応じて、人工知能における倫理とデータ保護に関する作業部会の調査結果（解説以下の調査報告を参照）を更新する。
解説（仮訳では省略）

7