人工知能の倫理
欧州委員会(EC)は、「人工知能に関するハイレベル専門家グループ」を設置している。2019年4月8日、このグループは「信頼できる人工知能のための倫理的ガイドライン」を発表した。また欧州委員会には「ロボット工学と人工知能のイノベーションとエクセレンス部門」があり、2020年2月19日に「人工知能イノベーションにおける卓越性と信頼に関する白書」を発行した。欧州委員会は人工知能法(英語版)も提案した。
OECDは「AI政策に関するオブザーバトリー」を設立した。
. In Schmidhuber, Thórisson, and Looks 2011, 388–393.
↑ Russell, Stuart『Human Compatible: Artificial Intelligence and the Problem of Control』Viking、United States、2019年10月8日。ISBN 978-0-525-55861-3。OCLC 1083694322。
↑ Yampolskiy, Roman V. (2020-03-01). “Unpredictability of AI: On the Impossibility of Accurately Predicting All Actions of a Smarter Agent”. Journal of Artificial Intelligence and Consciousness 07 (1): 109–118. doi:10.1142/S2705078520500034. ISSN 2705-0785. オリジナルの2021-03-18時点におけるアーカイブ。. https://web.archive.org/web/20210318060657/https://www.worldscientific.com/doi/abs/10.1142/S2705078520500034 2020年11月29日閲覧。.
AIに関連する倫理的な問題は、何十年も前からSF文学や長編映画で取り上げられてきたが、より長く複雑な筋書きやキャラクター設定を可能にする様式としてテレビシリーズが登場したことで、テクノロジーの倫理的な意味合いを扱ったいくつかの重要な作品が生まれてきた。スウェーデンの「Real Humans(英語版)」シリーズ(2012-2013)は、人工的な感覚を持つ生物を社会に取り込むことがもたらす複雑な倫理的、社会的帰結に取り組んだものである。イギリスのディストピアSFアンソロジーシリーズ「ブラック・ミラー(Black Mirror)」(2013-2019)は、最近のさまざまな技術開発と結びついた暗黒世界的なフィクションの発展を試みたことで特に注目された。フランスのシリーズ「Osmosis(英語版)」(2020)とイギリスのシリーズ「The One(英語版)」(2021)は、いずれもテクノロジーが人の理想的なパートナーを見つけようとしたときに何が起こるかを扱っている。Netflixのシリーズ「ラブ、デス&ロボット(Love, Death+Robots)」のいくつかのエピソードでは、ロボットと人間が一緒に暮らす場面が想像されている。その中で最も代表的な第2シーズン第1話では、人間がロボットに依存しすぎた場合、ロボットが制御不能になったときに、どれだけ悪い結果を招くかを描いている。
不屈の可能性を秘めたテクノロジーによって支配される未来への期待は、長い間、作家や映画製作者の想像力をかき立ててきたが、フィクションが技術開発の着想にどのような役割を果たしたかについてはあまり分析されてこなかった。たとえば、若き日のアラン・チューリングが1933年にバーナード・ショーの戯曲「メトセラへ還れ」を観て評価していたことは記録されているし、国際的に成功し多くの言語に翻訳された「R.U.R.」のような演劇も少なくとも認識していたはずだと考えられる。
また、AI開発の原理や倫理的な意味合いを確立する上で、SFが果たした役割についてを考えることもできる。アイザック・アシモフは、1942年の短編集「I, Robot」の一部である短編小説「堂々めぐり (en:英語版) 」で「ロボット工学の三原則」を概念化した。また、スタンリー・キューブリックの映画「2001年宇宙の旅」の原作となったアーサー・C・クラークの短編「前哨(英語版)」は、1948年に執筆され、1952年に出版された。とりわけ、1968年に出版されたフィリップ・K・ディックスの多数の短編小説と小説、特に「アンドロイドは電気羊の夢を見るか?」は、人間と見分けがつかないアンドロイドの感情反応を測定するために独自のチューリングテストであるフォークト・カンプフ・テストを取り入れた作品である。この小説は、後にリドリー・スコットによる反響を呼んだ1982年の映画「ブレードランナー」の原作となった。
1976年、ジョセフ・ワイゼンバウムは、敬意と配慮を必要とする次のような立場の人の代わりにAI技術を使うべきではないと主張した。
カスタマーサービス担当者(今日では、電話を使った対話型音声応答システムで、AI技術が既に使われている)
高齢者のための介護者(パメラ・マコーダック(英語版)が著書「The Fifth Generation」で報告したように)
兵士
裁判官
警察官
セラピスト(1970年代にケネス・コルビー(英語版)が提唱した)
ワイゼンバウムは、このような立場の人々には、本物の共感の感情が必要だと説明している。「もし機械が彼らに取って代わったなら、人工知能システムは共感をシミュレートできないので、私たちは疎外され、価値を下げられ、不満を感じることになるだろう。人工知能がこのように使われれば、人間の尊厳が脅やかされることになる」。ワイゼンバウムは、こうした職種を機械化する可能性への考えは、人々が「自らをコンピューターと考えることからくる人の魂の萎縮」を経験していることを示唆すると主張した。
パメラ・マコーダック(英語版)は、女性やマイノリティを代表して「公平なコンピューターに望みを託したい」と反論し、個人的な意図をまったく持たない自動化された裁判官や警察がいることを望む状況があることを指摘している。
. In Cognitive, Emotive and Ethical Aspects of Decision Making in Humans and in Artificial Intelligence, edited by Iva Smit and George E. Lasker, 12–17. Vol. 2. Windsor, ON: International Institute for Advanced Studies in Systems Research / Cybernetics.
↑ Umbrello, Steven; Baum, Seth D. (2018-06-01). “Evaluating future nanotechnology: The net societal impacts of atomically precise manufacturing” (英語). Futures 100: 63–73. doi:10.1016/j.futures.2018.04.007. hdl:2318/1685533. ISSN 0016-3287. オリジナルの2019-05-09時点におけるアーカイブ。. https://web.archive.org/web/20190509222110/https://www.sciencedirect.com/science/article/pii/S0016328717301908 2020年11月29日閲覧。.
↑ Yudkowsky, Eliezer. 2011. "Complex Value Systems in Friendly AI" Archived 2015-09-29 at the Wayback Machine.