人工知能権利の章典の青写真1
遠藤 悟
大統領府科学技術政策室（OSTP）は、2022 年 10 月 4 日、人工知能権利の章典の青写真（Blueprintfor an AI Bill of Rights）を発表した。同書は、人工知能の時代において、米国民の権利を保護するための、自動化されたシステムの設計、利用、配備を導く支援のための 5 つの原則と関連する実践を取りまとめたものである。OSTP は、本書を、米国内の影響を受けたコミュニティー、技術開発に関わる企業のステークホルダー等の専門家、連邦政府政策決定者等からの意見聴取、パネルディスカッション、公聴会、パブリックコメント等を通して作成したとしている。
以下においては、同書の内容を仮訳に近い形で掲載し、併せて「人工知能権利の章典の青写真において考慮すべき、自動化されたシステムの事例（Examples of Automated Systems）」の内容のポイントを紹介する。
人工知能権利の章典の青写真（Blueprint for an AI Bill of Rights）
https://www.whitehouse.gov/ostp/ai-bill-of-rights/
自動化されたシステムの事例（Examples of Automated Systems）
https://www.whitehouse.gov/ostp/ai-bill-of-rights/examples-of-automated-systems/＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊
現在の民主主義に向けられた大きな課題は、技術、データそして自動化されたシステムが、米国の人々の権利を脅かす形で利用されることである。非常に頻繁に、これらのツールは我々の機会を制限し、重要なリソースやサービスへのアクセスを妨げる。これらの問題は、十分に文書化されている。米国や世界各国において、患者の治療支援するシステムは安全ではなく、効果的でもなく、バイアスを持つものであることが明らかとなっている。雇用やクレジットの判断に用いられるアルゴリズムは、現在の望まれない不公平を再生産したり、新たな有害なバイアスや差別を埋め込んだりすることが明らかとなっている。チェックされないソーシャルメディアのデータ収集は、人々の機会を脅かし、人々のプライバシーを低下させ、人々の活動を広くトラッキングするが、それらはしばしば人々の理解を得られたものでも、同意を得たものでもない。
これらのアウトカムは極めて有害である－しかしそれらは防げないものではない。自動化されたシステ
ムは、農家がより効率的に食料を生産する技術や嵐の通過を予測するコンピューターから、患者の疾病を特定することが出来るアルゴリズムまで、多大な利益をもたらしてきた。これらのツールは現在幅広い部門において重要な決定を導き、また、データは世界の産業が革新してゆくことを支援している。米国のイノベーションの力を得て、これらのツールは我々の社会の各所を再定義し、全ての人々の生命・生活1「米国の科学政策」ウェブサイト 2022 年 12 月 25 日掲載

をより良いものとする潜在性を有している。
この重要な進歩は、バイデン大統領がその政権の礎と定めた米国の基盤的な原則である公民権や民主的な価値を代償として実現されてはならない。就任の第一日に、大統領は連邦政府全体が、政策決定プロセスにおいては公平性に根差し、公正性が埋め込まれた形で業務を進め、米国における公民権、機会均等、そして人種間の正義を前進させることを指示した。大統領は、現在の民主主義が抱える喫緊の課題について強く表明し、そして大統領自身が「我々がこの国の構造に当然のこととして組み込まれた数多くの権利の基盤」と呼ぶプライバシーの権利を含む公民権を保持するための行動を、良心ある人々が起こすことを常に求めた。
バイデン大統領のヴィジョンを前進させるため、大統領府科学技術政策室（OSTP）は、人工知能の時代における米国民を保護するための自動化されたシステムの設計、利用、開発を導く 5 つの原則を明らかにした。人工知能権利の章典の青写真は、全ての人々を脅威から保護し、技術を我々の最高の価値を強化するといった形で利用する社会を主導するものである。米国の人々の経験に応え、また、研究者、技術者、唱道者、ジャーナリスト、そして政策決定者の洞察を得ることにより、この枠組みには、技術的な設計プロセスにおけるこれらの原則の実装に向けた詳細な段階を含めた、これらの保護を政策や実践に組み込もうとする人々のためのハンドブックである「原則から実践へ」が伴われている。これらの原則は、自動化システムが人々の権利、機会あるいは重要なニーズへのアクセスに対する意味あるインパクトをもたらすための指導の提供を支援する。
安全で効果的なシステムあなたは、安全でない、あるいは効果的でないシステムから守られなければならない。自動化されたシステムは、システムの懸念、リスク、潜在的なインパクトを明らかにするため、多様なコミュニティー、ステークホルダーおよびドメインエキスパートの意見を取り入れ開発されるべきである。システムは、開発前の試験、リスクの同定と低減、そしてそれらがその利用目的に照らして安全で効果的か、意図した利用を超えたものを含む安全でないアウトカムが低減されているか、そして個々のドメインが持つ標準に固着しているかといったことが明らかであるという現行のモニタリングを経るべきである。これらの保護的な取り組みには、システムを配備しない、あるいはシステムを利用から切り離すといった可能性も含めるべきである。自動化されたシステムは、あなたの安全やあなたのコミュニティーの安全の危険にさらす意図や十分に予見できる可能性のある形で設計されるべきでない。それらは、自動化されたシステムの、意図しないが予見できる利用やインパクトから生じる有害性から積極的に守られるよう設計されるべきである。あなたは、自動化されたシステムの設計、開発、配備において不適切および無関係なデータの利用、およびその再利用の複合的な有害性から保護されるべきである。潜在的な有害性を低減させるための取り組みの報告を含む、システムが安全で効果的であるということを確認する独立の評価および報告が実施され、その結果は可能な限り公表されるべきである。

アルゴリズムの差別の保護
あなたは、アルゴリズムによる差別に直面すべきではなく、システムは公平な形で利用され設計されるべきである。アルゴリズムの差別は、自動化されたシステムが、人種、皮膚の色、民族、性別（妊娠、出産、および関連する病状、性自認、インターセックスの状態、性的指向を含む）、宗教、年齢、出身国、障がい、退役軍人、遺伝情報あるいは他の法により保護される区分に基づき、不正な異なる取り扱いやインパクト、あるいは人々を不当な扱いが行われるといった際に生じる。特定の状況に基づき、そのようなアルゴリズムの差別は法的な保護に違反する。自動化システムの設計者、開発者、そして配備を行う者
は、アルゴリズムの差別から個人やコミュニティーを保護するための手段を積極的、継続的に実施し、システムを公平な手順により利用・設計すべきである。この保護には、システムの設計の一部としての公平性に関する積極的なアセスメント、代表データの利用と人口統計的特徴の代用からの保護、設計と開発における障がいを持つ人々のアクセシビリティーの確実な保持、配備前および実行中における格差の有無の試験と低減の実施、そして明白な組織的な監督が含まれるべきである。これらの保護を確認するた
め、独立した評価と、格差の有無の試験の結果と低減に関する情報を含むアルゴリズムのインパクトのアセスメントの簡潔な言語による報告が実施され、可能な限り公表されるべきである。
データのプライバシー
あなたは、組み込まれた保護を通した虐待的なデータの実行から保護され、また、あなたはあなたに関するデータがどのように利用されているかに関する代理権を持つべきである。あなたは、データの収集うが妥当性のある期待に適合していることや、特定のコンテクストに厳密に必要とされるデータのみが収集されることを確かなものとすることを含め、初期設定としてそのような保護が含まれていることを確かとする設計の選択を通して、プライバシーの違反から保護されるべきである。自動化システムの設計者、開発者、そして配備する者は、あなたのデータの収集、利用、アクセス、移転、消去に関し、適切な方法で可能な限り最大限、あなたの許諾を求めるべきであり、それが不可能な場合、設計時における保護手順による代替的なプライバシーを用いるべきである。システムは、初期設定として、利用者の選択を曖昧としたり、利用者に負担をかけたりする、プライバシー侵襲的な利用者の経験や設計の決定を取り入れるべきでない。同意は、それが適切で意味ある形で提供されることができる場合に限り、データの収集を正当化するために利用されるべきである。同意の要請は、短く平易な言葉で理解可能で、あなたにデータ収集と特定のコンテクストにおける利用に関し代理権の提供が提供されるべきであり、データの幅広い利用に向けた理解困難な告知と選択の実践は修正されるべきである。保健、労働、教育、刑事司法、金融を含む機微な領域に関するデータと推論や、青少年に関するデータの保護や規制の強化は、あなたを第一とすべきである。機微なデータの領域においては、あなたのデータと関連する推論は、必要な機能にのみ利用され、あなたは倫理的レビューと利用の禁止により保護されるべきである。あなたとあなたのコミュニティーは、チェックされていない監視にさらされるべきでなく、監視の技術は、プライバシーと市民の自由を保護するため、少なくともその潜在的な有害性と対象範囲の制約についての開発前のアセスメントを含む、高度な監督の下になければならない。継続的な監視とモニタリングは、教育、労働、住居、あるいはその他監視の利用技術が権利、機会、アクセスを制約すると考えられる場合、利用されるべきでない。可能な限り、あなたはあなたのデータに関する決定が尊重されることを確認し、あなたの権利、機会、アクセスに関する監視技術の潜在的なインパクトのアセスメントが提供されることの報告へのアクセスを保持すべきである。
告知と説明
あなたは、自動化されたシステムが利用されていることを知り、それがどのように、また、なぜあなたにインパクトをおよぼすアウトカムに関わるかについて理解すべきである。自動化されたシステムの設計者、開発者、配備する者は、システム全体の機能と自動化が果たす役割についての明白な記述を含む平易な言葉による一般的にアクセス可能な文書を提供し、そのシステムが利用されること、システムに責任を持つ者あるいは組織、そしてアウトカムが明白で時宜を得てアクセス可能であることの説明を告知すべきである。そのような告知は、常に更新され、システムにインパクトを受ける人々は大規模な利用の場合や大きな機能の変更については通知されるべきである。あなたは、あなたにインパクトを及ぼすアウトカムについて、自動化システムがアウトカムの唯一の決定へのインプットではない場合も含め、どのように、また、なぜ自動化されたシステムによって決定されたが、知るべきである。自動化されたシス
テムにおいては、あなたやシステムを理解する必要があるオペレーターや他の者が技術的に有効であり、意味があり、利便性があるということについての説明が提供され、コンテクストに基づくリスクのレベルに対応し較正されるべきである。平易な言葉によるこれらの自動化されたシステムの要約情報を含む報告と、告知と説明の明白さと質に関するアセスメントは、可能な限り公表されるべきである。
ヒトの代替、検討およびフォールバック
あなたは、適切な場合にオプトアウトし、あなたが遭遇した問題を速やかに検討し修復することのできる者へのアクセスの保持が出来るようにすべきである。あなたは、適切な場合、ヒトの代替を選択し自動化システムからオプトアウトすることができるべきである。適切性は、所与のコンテクストにおける十分な期待に基づき、幅広いアクセス可能性を確かなものとし、特に有害性のあるインパクトから人々を保護することに焦点を絞った形で決定されるべきである。場合によっては、ヒトや他の代替は法律により要請されることがある。あなたは、自動化したシステムが機能せず、エラーを発生させ、あるいはあなたがあなたにインパクトを及ぼすと主張あるいは異議申し立てを行いたい場合は、フォールバックあるいはエスカレーションのプロセスによる適時のヒトの検討と修復へのアクセスを保持すべきである。
ヒトの検討とフォールバックは、適切な運営者のトレーニングにより利用可能で、公平で、効果的で、維持され、付随するものであるべきであり、人々に意味ない負担が課されないものとなるべきである。刑事
司法、雇用、教育、保健などが含まれる機微な領域における意図された利用に用いられる自動化されたシステムは、追加的にその目的に合わせ調整され、システムに関係する人々のトレーニングを含む監視への意味あるアクセスが提供され、敵対的あるいはハイリスクの決定に対するヒトの検討が組み込まれるべきである。これらのヒトのガバナンスのプロセスの記述と、その適時性、アクセス可能性、アウトカムおよび効果に対する評価を含む報告については、可能な限り公表されるべきである。

青写真の人工知能権利の章典への適用
本枠組みにおいて示された懸念の多くは人工技能の利用から生じたものであるが、そのシステムの技術的な能力や特定の定義はイノベーションの速度により変化し、その利用の潜在的な有害性は、技術的な洗練性に劣るツールにおいてさえ生じる。
そのため、この枠組みは、どのシステムが対象となっているかを決定する二つの部分の試験を使用している。この枠組みは、 (1) 自動化されたシステム、それが (2) 米国の人々の権利、機会あるいは重要なリソースやサービスへのアクセスへの意味あるインパクトへの潜在性があること、に適用される。これ
らの権利、機会、そして重要なリソースやサービスへのアクセスは、自動化されたシステムが我々の生活に及ぼす役割の変化に関わらず、等しく享受され、十分に保護されなければならない。
この枠組みは、個人やコミュニティーの以下の実践に対し、意味あるインパクトが及ぶ潜在性がある自動化された全てのシステムに関し適用されるべき保護を記述するものである。
権利、機会、あるいはアクセス
発言、投票の自由、および公的部門および民間部門の双方コンテクストにおける差別、過度の懲罰、非合法的な監視、およびプライバシーと他の自由への違反を含む、公民権、市民の自由、およびプライバシー
教育、住居、クレジット、雇用および他のプログラムへの公平なアクセスを含む公平な機会
ヘルスケア、金融サービス、安全、社会サービス、商品やサービスに関する欺瞞的でない情報、および政府の利益といった、重要なリソースあるいはサービスこれらの原則が考慮されるべき自動化されたシステムの事例のリストは、付属文書において提供されている。続いて提供されるテクニカル面の手引書は、人々や、自動化されたシステムを創造、配備、監督する主体に向けた支援的な指導内容が含まれる。
人工知能権利の章典の青写真の 5 つの原則と関連した実践は、一体的に検討されることにより、潜在的な有害性に対する重なり合う防護措置を形成する。この目的を持った重なり合う枠組みは、全体として取り扱われた時、人々を有害性から保護することを支援する青写真を形成する。この枠組みにおいて設定されたヴィジョンを実現するための取り組みは、人々の権利、機会、およびアクセスへの有害性あるいは有害性のリスクの範囲や本質に応じて進められるべきである。

＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊＊

人工知能権利の章典の青写真において考慮すべき、自動化されたシステムの事例
・公民権、市民の自由、あるいはプライバシー－発言に関連したシステム（インターネット上のコンテンツのチェック・削除システムなど）－監視（surveillance）および刑事司法アルゴリズム（リスクアセスメント、予測警察活動、自動ナン
バープレート解読、即時顔認証システム、ソーシャルメディアモニタリング、足首装着監視装置など）－投票関連システム（署名一致ツールなど）－潜在的にプライバシーにインパクトのあるシステム（スマート住居システム、保健関連データの収集・利用、刑事司法システムデータ、ターゲティング広告システム、個人プロフィール作成のためのビッグデータ分析システムなど）
・機会均等－教育関連システム（児童生徒学生のカンニング・剽窃検出アルゴリズム、入試アルゴリズム、オンライン・VR 児童生徒学生モニタリングシステム、児童生徒学生の学習進捗予測、リソース・プログラ
ムの利用決定アルゴリズム、授業の監視など）－住居関連システム（入居者スクリーニングアルゴリズム、モーゲージ引受・住居保険の自動評価、ウェブサイト情報収集による自動評価など）－雇用関連システム（給与・昇進・採用・解雇を含む雇用契約において参照するアルゴリズム、VR・拡張現実トレーニングプログラム、電子勤務監視管理システムなど）・重要なリソースやサービスへのアクセス－健康および保険技術（医療 AI システム・機器、AI 支援診断ツール、臨床の意思決定支援のアルゴリ
ズム・予測モデル、医療保険リスクアセスメント、薬物中毒リスクアセスメント、ウェアラブル技術、ウェルネスアプリ、保険ケア配置アルゴリズム、健康保険費用・引受アルゴリズムなど）－金融システムアルゴリズム（ローン配分アルゴリズム、金融システムアクセス決定アルゴリズム、クレジットスコアリングシステム、リスクアセスメントを含む保険アルゴリズム、自動利率決定、給与差し押さえ徴税等の懲罰的金融アルゴリズムなど－コミュニティーの安全に影響を及ぼすシステム（自動交通管理システム、配電網管理、スマートシテ
ィ技術、産業排出物と環境インパクト管理アルゴリズムなど）－利益・サービスへのアクセルあるいは懲罰的措置の適用（情報照合・分析等の政策決定者の判断支援システム、行政罰・刑事罰の判定・判決支援システム、不正検出アルゴリズム、サービス提供・利益供与へのアクセス管理アルゴリズム、アクセス管理に用いる生体認証システム、利益取消等を含む自動化に基づく利益供与やサービス提供に関する決定システム