人工知能の倫理
この戦略がイノベーションの進展を遅らせることを危惧する人もおり、論争の的となっている。また、規制はシステムの安定化をもたらし、長期的にイノベーションを支援することができるという議論もある。2019年現在、OECD、国連、EU、そして多くの国々が、AIを規制するための戦略を立て、適切な法的枠組みの構築に取り組んでいる。
2019年6月26日、欧州委員会(EC)の人工知能に関するハイレベル専門家グループ(AI HLEG)は、「信頼できる人工知能のための政策と投資に関する提言」を発表した。これは、2019年4月に発表された「信頼できるAIのための倫理ガイドライン」に続く、AI HLEGの2番目の成果物である。同年6月のAI HLEG勧告は、人間と社会全体、研究と学術、民間企業、公共の4つの主要分野に及んでいる。欧州委員会は、「HLEGの勧告は、AI技術が経済成長、繁栄、イノベーションを促進する機会と、それに伴う潜在的なリスクの両方に対する評価を反映した」と主張し、AIを管理する政策形成においてEUが国際的な主導的役割を果たすと述べている。危害を防ぐためには、規制に加えて、AIを展開する組織は「信頼できるAIの原則」に沿った信頼できるAIの開発と展開で中心的な役割を果たし、リスクを軽減するための説明責任を負う必要がある。2021年4月21日、欧州委員会は人工知能法(英語版)を提案した。
Moral Machines: Teaching Robots Right from Wrong. USA: Oxford University Press. ISBN 978-0-19-537404-9
↑ “The Ethics of Artificial Intelligence”. Cambridge Handbook of Artificial Intelligence. Cambridge Press (2011年). 2016年3月4日時点のオリジナルよりアーカイブ。2011年6月22日閲覧。
↑ Santos-Lang, Chris (2002年). “Ethics for Artificial Intelligences”. 2014年12月25日時点のオリジナルよりアーカイブ。2015年1月4日閲覧。
↑ Howard, Ayanna. “The Regulation of AI – Should Organizations Be Worried? | Ayanna Howard”. MIT Sloan Management Review. 2019年8月14日時点のオリジナルよりアーカイブ。2019年8月14日閲覧。
1 2 Jobin, Anna; Ienca, Marcello; Vayena, Effy (2 September 2020). “The global landscape of AI ethics guidelines”. Nature 1 (9): 389–399. arXiv:1906.11668. doi:10.1038/s42256-019-0088-2.
↑ Floridi, Luciano; Cowls, Josh (2 July 2019).
↑ Center for the Governance of AI
↑ AIの助けを借りて生成され、改ざんされたビデオ画像や音声を含む場合、ディープフェイクと呼ばれる。
↑ High-Level Expert Group on Artificial Intelligence
↑ Ethics Guidelines for Trustworthy AI
↑ 英語版記事の Personhood を参照
↑ Global Initiative on Ethics of Autonomous and Intelligent Systems
↑ Robotics and Artificial Intelligence Innovation and Excellence
↑ デジタルコンピュータの基礎を築いた最初の重要な論文を発表するわずか3年前
他のエージェントを全滅させたり、行動を変えるよう説得することも、干渉しようとする試みを阻止することも可能である。」と論じている。
しかし、ボストロムは、「超知能が人類を圧倒して滅亡に導くのではなく、病気や貧困、環境破壊など多くの難問を解決し、人類を『強化』するのに役立つ可能性もある」とも主張している。
人間の価値体系は非常に複雑であるため、AIの動機を人間らしいものにすることは非常に困難である。道徳哲学が完璧な倫理理論を提供してくれない限り、AIの効用関数は、与えられた倫理的枠組みに適合しても、「常識」から外れた多くの潜在的に有害なシナリオを許容する可能性がある。エリーザー・ユドコウスキー(英語版)によると、人工的に設計された知性がそのような適合を持つと信じる理由はほとんどない。スチュワート・J・ラッセル、ビル・ヒバード(英語版)、ローマン・ヤンポルスキー(英語版)、シャノン・ヴァラー(英語版)、Steven Umbrello、ルチアーノ・フロリディといったAI研究者は、有益な機械を開発するための設計戦略を提案している。
機械倫理(英: machine ethics)または機械道徳(英: machine morality)とは、道徳的あるいは道徳的であるかのようにふるまうロボット、人工知能を持つコンピュータ、人工道徳エージェント(英語版)(Artificial Moral Agents、AMA)の設計に関わる研究分野である。これらのエージェントの性質を説明するために、AMAの概念に関連するエージェンシー(英語版)の標準的な特徴、合理的エージェンシー(英語版)、道徳的エージェンシー(英語版)、人工的エージェンシーのような特定の哲学的概念を考慮することが提案されている。
1950年代、アイザック・アシモフは、著書「I, Robot(われはロボット)」でこのテーマを考察した。編集者のジョン・W・キャンベル・ジュニアの勧めで、彼は人工知能システムが従うべき「ロボット工学の三原則」を提案した。その後、彼の研究の多くは、3つの原則がどこで破綻し、どこで逆説的な行動や予期しない行動を起こすか、その境界を検証することに費やされた。彼の研究は、固定された法則の集まりでは、起こりうるすべての状況を十分に予測することができないことを示唆している。最近では、学者や多くの政府が、AI自体に説明責任があるという考えに対して疑問を呈している。2010年に英国で開催された研究会では、アシモフの原則を改訂し、AIはその製造者または所有者/操作者のいずれかの責任であることを明確にした。
2009年、スイス連邦工科大学ローザンヌ校の知能システム研究所で行われた実験では、相互に協力するようにプログラムされたロボット(有利な資源を捜し出し、不利な資源を回避する)が、有利な資源を貯め込もうと嘘をつくことを学習したことが明らかになった。
AIに関する84の倫理指針のレビューでは、透明性、正義と公正、無危害、責任、プライバシー、善行、自由と自律、信頼、持続可能性、尊厳、連帯という11の原則群が見いだされた。
ルチアーノ・フロリディとジョシュ・カウルズは、生命倫理の4原則(与益(善行)、無加害、自主尊重、正義)と、追加のAI実現原則(説明可能性)によって設定されたAI原則の倫理的枠組みを作成した。
ニューラルネットワークによる機械学習のような手法では、コンピュータが、コンピュータ自身だけでなくそのコンピュータをプログラムした人間でも説明できないような意思決定をすることがある。このような意思決定が公正で信頼できるものであるかどうかを人が判断することは困難で、AIシステムのバイアスが発見されなかったり、人々がそのようなシステムの使用を拒否する可能性がある。このため、説明可能な人工知能(XAI)が提唱され、法域によっては法的要件が設けられるようになった。
歴史的に見ると、「考える機械」(英: thinking machines)の道徳的、倫理的な意味合いの探究は、少なくとも啓蒙主義時代にまで遡る。ライプニッツは、あたかも知的存在のように振る舞うメカニズムに知性を帰することができるかを問い、デカルトもチューリング・テストの初期バージョンと呼べるものを記述している。
ロマン主義の時代には、創造者の制御から逃れ、悲惨な結末を迎える人工生物がしばしば描かれた。最も有名なのはメアリー・シェリーの「フランケンシュタイン」である。しかし、19世紀から20世紀初頭にかけて、工業化と機械化に対する広範な先入観は、倫理的に問題のある技術開発をフィクションの最前線に押し上げることになった。カレル・チャペックの戯曲「ロッサム万能ロボット(R.U.R - Rossum's Universal Robots)」は、感情を持った知的ロボットが奴隷労働に使われるという設定で、「ロボット」という言葉(強制労働を表すチェコ語の robota に由来)の発明につながっただけでなく、1921年の初演後に国際的な成功を収めた。1921年に発表されたジョージ・バーナード・ショーの戯曲「メトセラへ還れ(英語版)(Back to Methuselah)」は、人間のように振る舞う思考機械の妥当性を問う場面がある。1927年のフリッツ・ラングの映画「メトロポリス」では、技術主義政治の圧政に対して、搾取された大衆の蜂起を導くアンドロイドが描かれている。