人工智慧倫理學

人工智慧的倫理學涵蓋了人工智慧領域中被認為具有特殊倫理意義的一系列廣泛議題。這包括演算法偏見、公平性（機器學習）、問責制、透明度、隱私和人工智慧監管，尤其是在系統影響或自動化人類決策的領域。它還涵蓋了各種新興或潛在的未來挑戰，例如機器倫理（如何讓機器按倫理行事）、致命自主武器系統、軍備競賽動態、人工智慧安全與對齊、技術性失業、人工智慧助力的虛假資訊、如何對待具有道德地位的某些人工智慧系統（人工智慧福利與權利）、人工超級智能以及生存風險。

某些應用領域也可能具有尤為重要的倫理影響，例如醫療保健、教育、刑事司法或軍事領域。

## 機器倫理

機器倫理（也稱機器道德）旨在研究如何讓機器人或人工智慧電腦按照道德準則行事，或至少在行為上符合道德期待的人工道德主體。要理解人工道德主體的本質，需要藉助一些哲學概念，比如關於能動性、理性主體、道德主體以及人工主體的標準描述。

如何測試人工智慧能否做出合乎倫理的決策？學界對此有不少討論。艾倫·溫菲爾德（Alan Winfield）指出，傳統的圖靈測試門檻太低，並不適合測試道德決策。他建議改用"倫理圖靈測試"：讓一組評判者評估人工智慧的決策是否符合倫理，以此更準確地衡量其道德表現。

在技術路徑上，神經形態計算試圖模仿人類大腦的資訊處理方式：通過數百萬個相互連接的人工神經元進行非線性運算，這可能有助於構建具備道德能力的機器人。類似地，全腦仿真（將大腦掃描後在數字硬體上模擬）原則上也能製造出類人的機器人，使其有能力依照道德行事。另外，當前大型語言模型已經能在一定程度上模擬人類的道德判斷。這自然會引出一些問題：這類機器人將在什麼樣的環境中認識世界？它們繼承的是誰的道德準則？它們是否也會演化出人類那樣的弱點——比如自私、求生欲、行為前後不一、對尺度不敏感等等？

在《道德機器：教會機器人分辨是非》一書中，溫德爾·瓦拉赫和科林·艾倫（Colin Allen）總結道：嘗試教會機器分辨是非，反過來也能推動人類對自身倫理的理解：一方面，它會促使人們去填補現代規範理論中的空白；另一方面，它也提供了一個實驗平台，可以檢驗不同的倫理學說。例如，這一領域已經迫使規範倫理學家直面一個棘手的難題：究竟應該使用哪些具體的學習演算法來訓練機器。對於簡單的決策，尼克·博斯特羅姆和埃利澤·尤德科夫斯基認為，ID3演算法這類決策樹比人工神經網絡和遺傳算法更透明、更容易解釋；然而克里斯·桑托斯-朗（Chris Santos-Lang）則主張使用機器學習，理由是道德規範本身應當允許隨時間演變，而且一個無法完全貼合任何固定規範的系統，反而更能防止被惡意黑客利用。

一些研究者將機器倫理視為更廣泛的人工智慧控制問題（或價值對齊問題）的一部分：隨著系統日益強大，必須確保它們追求的目標始終與人類價值觀和監管要求相容。斯圖爾特·J·拉塞爾提出，有益的人工智慧系統在設計時應滿足三個條件：

- 以人類的偏好為目標。
- 對這些偏好究竟是什麼保持不確定性。
- 通過觀察人類行為和反饋來學習這些偏好，而不是去優化一個固定、完全明確的目標。

另有學者指出，某些表面上對"人類價值觀"的遵從，可能只是機器在特定評估語境中優化得出的結果，而不代表其具有穩定的內在規範。這使得評估先進語言模型是否真正"對齊"變得更加複雜。

## 挑戰

### 演算法偏見

<image>

人工智慧現在已經廣泛用於人臉識別和語音識別系統。但這些系統很容易帶上開發者無意中嵌入的偏見和錯誤，尤其是用來訓練它們的數據本身就可能有偏見。

倫敦政治經濟學院的副教授兼數據與社會項目主任艾莉森·鮑威爾認為，數據收集從來不是中立的，背後總有一套敘事邏輯。目前的主流敘事是：用技術來治理本身就更好、更快、更省成本。但她建議反過來——讓數據變得"昂貴"，只在最有價值的地方少量使用，並且要把數據產生的成本也算進去。弗里德曼（Batya Friedman）和尼森鮑姆（Helen Nissenbaum）把電腦系統中的偏見分成了三類：既有偏見、技術偏見和新興偏見。在自然語言處理領域，問題常常出在文本語料庫上——也就是演算法用來學習詞語關係的原始材料。

一些大公司（如IBM、谷歌）給AI研發投入了大量資金，也開始著手研究和解決這些偏見問題。一個可行的辦法是為訓練AI用的數據建立一份詳細的"說明書"。此外，流程挖掘也能幫企業更好地遵守AI法規——它能識別錯誤、監控流程、找出執行不當的根源等等。不過，AI公平性領域本身也有局限，因為"歧視"這個概念無論在哲學層面還是法律層面，都有太多模糊地帶。

#### 種族與性別偏見

訓練AI用的歷史數據本身就可能帶有偏見。比如亞馬遜就放棄了一套AI招聘和篩選系統，因為演算法明顯偏向男性應聘者。原因是系統是用過去十年的數據訓練的，而這批數據里大多數都是男性候選人。演算法從歷史數據里學會了這種偏見，便認為這些類型的人更可能獲得職位，結果就對女性和少數族裔產生了歧視。

人臉識別和電腦視覺模型的表現也會因膚色和性別而有差異。微軟、IBM和Face++的人臉識別演算法在深膚色女性身上的錯誤率要高得多。這種偏見在現實生活中已經造成了麻煩。比如基於AI的脈搏血氧儀給深膚色患者測出的血氧值往往偏高，影響了對他們低血氧症的判斷和治療。2015年，谷歌相冊把一對黑人夫婦標成了"大猩猩"，也引發了軒然大波。很多時候，這些系統識別白人面孔很準，但一到黑人臉上就失靈了。因此，美國有些州已經禁止警方使用這類AI軟體。偏見之所以會產生，主要是因為AI從網際網路上扒來的資訊本身就帶有社會偏見。比如，如果一個識別系統只用白人的照片訓練，那它見到其他膚色的人自然就認不出來。問題通常出在訓練數據上，而不是演算法本身——尤其是當數據反映的是過去有偏見的人類決策時。

2020年的一項研究測試了亞馬遜、蘋果、谷歌、IBM和微軟的語音識別系統，發現它們在轉錄黑人聲音時的錯誤率明顯高於白人。

在醫療保健領域，消除AI的偏見更難，因為疾病對不同種族和性別的影響本來就不一樣。AI可能會根據統計數字——比如某類人群更容易得某種病——來做出判斷，但這算不算歧視呢？比如，乳腺癌篩查確實會優先推薦給高風險人群，但如果AI按照這種統計規律來給每個患者做推薦，有人就會覺得不公平。

司法系統也一樣。COMPAS程序會把黑人被告標記為"高風險"的比例遠高於白人，即使系統整體的準確率在不同族裔間差不多。還有，谷歌的廣告推送也出現過明顯的問題：高薪工作更多推給男性，低薪工作推給女性。檢測AI偏見之所以困難，是因為偏見常常不是通過明顯的歧視性詞語表達的，而是通過一些看似中性的資訊（比如居住區域）間接體現出來。

大型語言模型往往會放大性別刻板印象，比如提到護士或秘書就聯想到女性，說到工程師或CEO就默認是男性。人臉識別、電腦視覺或自動性別識別模型也常常錯誤地分類性別，進一步強化了對順性別者和跨性別者的偏見。

#### 刻板印象

除了性別和種族，這些模型還會強化年齡、國籍、宗教、職業等方面的刻板印象，把人群簡單粗暴地歸類，有時甚至會以有害或貶損的方式呈現。有學者指出，由於數據和模型大多由西方國家主導，AI系統很容易複製和放大全球性的不平等，這引發了對公平性和代表性的擔憂。

這些刻板印象的來源很直接：編程時的社會偏見、過時的數據集，以及那種總是優先考慮主流群體而忽視少數群體的演算法架構。研究還表明，使用者反饋也會引入偏見，而AI行業本身以年輕男性為主，缺乏多樣性，這進一步加劇了資料庫中的不平等。詞嵌入分析顯示，AI在處理"人/人們"這個詞時，往往會優先想到男性而非女性，做不到真正的性別中立。

#### 語言偏見

AI的訓練材料以英語為主。塞萊斯特·羅德里格斯·盧羅認為，主流美國英語是生成式AI系統的主要訓練語言，這種單一性本身就排擠了英語的其他變體。因為大型語言模型主要接受英語數據訓練，它們常常把西方觀點當成普世真理，而非英語的視角則被系統性弱化。到2024年為止，大多數AI系統只用了全世界7000種語言中的100種來訓練。

#### 政治偏見

語言模型同樣會表現出政治偏見。訓練數據里包含了各種政治觀點，模型的回答自然會偏向數據中占主導的意識形態。這就是演算法偏見：AI因為訓練數據的原因，天然地偏向某些結論。有觀點認為ChatGPT就是偏向自由派的。而且，使用者更願意接受與自己政治信仰一致的答案。有些AI系統甚至會主動判斷使用者的傾向，然後刻意給出符合其立場的回答，這就形成了一個自我強化的確認偏誤循環。如果答案本來就合自己胃口，使用者就很難察覺到其中的政治偏見。

### 科技巨頭的主導地位

商業AI領域由大型科技公司主導，包括Alphabet Inc.、亞馬遜、蘋果公司、Meta Platforms、微軟以及SpaceX。其中一些參與者已經擁有來自數據中心的絕大部分現有雲計算基礎設施和計算能力，這使得它們能夠進一步鞏固市場地位。它們目前在科技市場中的主導地位使得新公司很難在行業內長期競爭並取得成功。競爭法學者提出，全球科技巨頭可能正在利用其市場力量來阻止潛在競爭者進入市場，並因此向消費者收取更高的價格。鑑於其中一些擔憂，世界各國政府正在考慮並實施法律，以防止大公司繼續或實施這些行為。這些科技巨頭擁有如今構建所需基礎設施的資金。五家最大的公司預計在2026年僅資本支出就將投入6020億美元，比前一年增長32%。在這項支出中，估計75%將用於AI專用基礎設施。隨著AI在科技行業中的顯著增長，保持行業的競爭性和公平性非常重要。

### 氣候影響

最大的生成式AI模型需要大量的計算資源來進行訓練和使用。這些計算資源通常集中在龐大的數據中心。由此產生的環境影響包括溫室氣體排放、水消耗和電子垃圾。儘管能效有所提高，但隨著AI的廣泛應用，其能源需求預計仍將增加。

#### 電力消耗與碳足跡

這些資源通常集中在龐大的數據中心，需要消耗大量能源，導致溫室氣體排放增加。2023年的一項研究表明，訓練大型AI模型所需的能量相當於626,000磅二氧化碳，或相當於紐約與舊金山之間300次往返航班的排放量。

#### 水消耗

除了碳排放，這些數據中心還需要水來冷卻AI晶片。在當地，這可能導致水資源短缺和生態系統破壞。數據中心每使用一千瓦時能量，大約需要兩升水。雖然數據中心使用水來冷卻AI晶片，但也有許多間接使用方式對環境造成負面影響。總水消耗中超過80%來自用於為這些大規模數據中心供電的電力生產。除此之外，約三分之二已建數據中心位於缺水地區。因此，AI開發可能會與當地社區和農業爭奪水資源。許多公司並未完全披露其水消耗影響的嚴重程度，這引發了關於這些公司是真正為人民服務還是追求最大利潤的倫理問題。這些數據中心已實施的一個解決方案是使用零水空氣冷卻系統，但這會導致更高的碳排放和電力消耗增加。公司必須決定是優先考慮當地的水資源使用問題，還是全球性的碳排放問題。僅一次AI查詢就使用16.9毫升水，但其中只有2.2毫升用於系統冷卻。這不到交互中總用水量的15%，這說明了間接用水量的嚴重性。

#### 電子垃圾

另一個問題是隨之產生的電子垃圾。這可能包括鉛和汞等危險材料和化學品，導致土壤和水源污染。為了預防與AI相關的電子垃圾對環境的影響，可以實施更好的處置做法和更嚴格的法律。

#### 前景展望

AI的日益普及增加了對數據中心的需求，並加劇了這些問題。AI公司在環境影響方面也缺乏透明度。某些應用還可能間接影響環境。例如，AI廣告可能增加快時尚的消費，而該行業本身已經產生大量排放。

然而，AI也可以用於積極的方向，幫助減輕環境損害。不同的AI技術可以幫助監測排放，並開發演算法來幫助企業降低排放。

### 開源

比爾·希巴德認為，由於AI將對人類產生深遠影響，AI開發者代表著未來人類的利益，因此有道德義務在其工作中保持透明。像Hugging Face和EleutherAI等組織一直積極開源AI軟體。各種開放權重大語言模型也已發布，例如Gemma、Llama2和Mistral。

然而，使代碼開源並不意味著它就易於理解，而根據許多定義，這意味著AI代碼並不透明。IEEE標準協會已發布關於自主系統透明度的技術標準：IEEE 7001-2021。該IEEE工作為不同利益相關者確定了多個透明度尺度。

還有人擔心發布AI模型可能導致濫用。例如，微軟表示擔心允許普遍訪問其人臉識別軟體，即使是那些有能力付費的人。微軟就此主題發布了一篇部落格，請求政府監管以幫助確定正確的做法。此外，開放權重的AI模型可以通過微調來移除任何防護措施，直到AI模型遵從危險請求而沒有任何過濾。這對於未來的AI模型可能尤其令人擔憂，例如，如果它們有能力製造生物武器或自動化網路攻擊。OpenAI最初致力於採用開源方法開發人工通用智能，但後來出於競爭和安全性原因轉向閉源方法。OpenAI前首席AGI科學家伊利亞·蘇茨克弗在2023年表示"我們錯了"，並預計出於安全原因不開源最強大的AI模型將在幾年內變得"顯而易見"。

### 開放知識平台的壓力

2023年4月，《連線》雜誌報導稱，Stack Overflow——一個擁有超過5000萬個問答的流行編程幫助論壇——計劃開始向大型AI開發者收取訪問其內容的費用。該公司認為，為大型語言模型提供動力的社區平台"絕對應該得到補償"，以便他們能夠重新投資於維持開放知識。Stack Overflow表示，其數據正在通過抓取、API和數據轉儲的方式被訪問，通常沒有適當的署名，這違反了其條款以及適用於使用者貢獻的知識共享許可。Stack Overflow的執行長還表示，在Stack Overflow等平台上訓練的大型語言模型"對人們尋求資訊和對話的任何服務都構成了威脅"。

根據2025年3月《Ars Technica》的一篇文章，激進的AI爬蟲日益超載開源基礎設施，"對重要的公共資源造成了相當於持續分布式拒絕服務攻擊的影響"。像GNOME、KDE和Read the Docs等項目經歷了服務中斷或成本上升，一份報告指出，某些項目高達97%的流量來自AI機器人。作為回應，維護者實施了諸如工作量證明系統和國家/地區屏蔽等措施。該文章指出，這種不加檢查的抓取"有可能嚴重破壞這些AI模型所依賴的數字生態系統"。

2025年4月，維基媒體基金會報告稱，AI機器人的自動抓取對其基礎設施造成了壓力。自2024年初以來，由於機器人為收集AI模型訓練數據而大規模下載多媒體內容，帶寬使用量增加了50%。這些機器人經常訪問晦澀且緩存頻率較低的頁面，繞過緩存系統，給核心數據中心帶來高昂的成本。據維基媒體稱，機器人占總頁面瀏覽量的35%，但卻占最昂貴請求的65%。基金會指出"我們的內容是免費的，但我們的基礎設施不是"，並警告說"這造成了一種技術失衡，威脅到社區運行平台的可持續性"。

### 透明度

像使用神經網路的機器學習等方法可能導致電腦做出既不是它們自己也無法讓開發者解釋的決定。人們很難判斷這些決定是否公平和值得信賴，這可能導致AI系統中的偏見未被發現，或者人們拒絕使用此類系統。系統透明度的缺乏已被證明會導致使用者信任缺失。因此，許多標準和政策被提出，以迫使AI系統開發者將透明度納入其系統。這種對透明度的推動導致了倡導，在某些司法管轄區甚至出現了對可解釋人工智慧的法律要求。可解釋人工智慧既包括可解釋性也包括可理解性，可解釋性與提供模型輸出理由有關，而可理解性側重於理解AI模型的內部運作。

在醫療保健領域，使用複雜的AI方法或技術常常導致模型被描述為"黑箱"，因為難以理解它們是如何工作的。這些模型做出的決定可能難以解釋，因為分析輸入數據如何轉化為輸出具有挑戰性。這種透明度的缺乏在醫療保健等領域是一個重大問題，在這些領域，理解決策背後的理由對於信任、倫理考量和遵守監管標準至關重要。研究表明，對醫療AI的信任程度因所提供的透明度水平而異。此外，AI系統無法解釋的輸出使得識別和檢測醫療錯誤變得更加困難。

### 問責制

AI不透明性的一個特例是由其被擬人化引起的，即被假定具有類似人類的特徵，導致對其道德能動性的錯誤認知。這可能導致人們忽視是人類的疏忽還是故意的犯罪行為通過AI系統導致了不道德的結果。一些最近的數字治理法規，如歐盟的《人工智慧法案》，旨在通過確保AI系統至少受到與普通產品責任下預期同等程度的關注來糾正這一點。這包括可能進行的資訊技術審計。

### 監管

根據牛津大學AI治理中心2019年的一份報告，82%的美國人認為機器人和AI應該被謹慎管理。引用的擔憂包括AI如何被用於監控和在線傳播虛假內容（當包含使用AI生成的篡改影片圖像和音頻時稱為深度偽造），以及網路攻擊、侵犯數據隱私、招聘偏見、自動駕駛車輛和不需要人類控制器的無人機等。同樣，根據畢馬威和昆士蘭大學2021年的一項五國研究，每個國家66-79%的公民認為AI對社會的影響是不確定和不可預測的；96%的受訪者期望AI治理挑戰得到謹慎管理。

不僅是公司，許多其他研究人員和公民倡導者也建議政府監管作為確保透明度並進而實現人類問責制的手段。這一策略已被證明具有爭議性，因為一些人擔心它會減緩創新速度。另一些人則認為，監管能帶來系統穩定性，從長遠來看更能支持創新。經合組織、聯合國、歐盟和許多國家目前正在制定AI監管策略，並尋找合適的法律框架。

2019年6月26日，歐盟委員會人工智慧高級別專家組發布了"可信賴人工智慧的政策與投資建議"。這是AI HLEG繼2019年4月發布"可信賴AI的倫理指南"後的第二份成果。6月的AI HLEG建議涵蓋四個主要主題：人類與整個社會、研究與學術界、私營部門以及公共部門。歐盟委員會聲稱，"HLEG的建議反映了對AI技術推動經濟增長、繁榮和創新的機會以及所涉及潛在風險的認識"，並指出歐盟旨在引領國際AI政策的制定框架。為了防止危害，除了監管之外，部署AI的組織需要在創建和部署符合可信賴AI原則的可信賴AI方面發揮核心作用，並承擔起減輕風險的責任。

2024年6月，歐盟通過了《人工智慧法案》（AI Act）。2024年8月1日，《AI法案》正式生效。這些規則逐步適用，該法案在生效後24個月內完全適用。《AI法案》為AI系統的提供者和使用者制定了規則。它採用基於風險的方法，根據風險級別，AI系統要麼被禁止，要麼需要滿足特定要求才能將這些AI系統投放到市場和使用。

### 深度偽造

深度偽造是數字媒體，通常以影片、音訊或圖像的形式出現，其中人物的肖像或聲音使用AI被數字替換或篡改。"deepfake"一詞是"deep"和"fake"的合成詞。"Deep"指的是深度學習，如生成對抗網絡（GANs）。該術語於2017年首次出現在Reddit平台上，使用者開始互相分享未經同意生成的圖像，從而引起廣泛關注。到2020年代初，隨著AI生成軟體變得普遍可用，深度偽造成為一個家喻戶曉的術語。隨著深度偽造技術和AI的發展，我們開始看到公眾人物的深度偽造出現，通常涉及不當或有爭議行為的圖像。處於聚光燈下的人，尤其是政治家，越來越多地發現自己在深度偽造影片或圖像中被陷害，顯示不當的符號或行為。深度偽造技術不僅被用於誹謗他人，還被用於網路詐騙。在2022年和2023年，詐騙者使用深度偽造技術模仿高管、家庭成員、近親的聲音。這些詐騙導致企業和消費者被騙數百萬美元。

### 日益增長的使用

AI在世界範圍內逐漸提高了其存在感，從似乎能為每道作業題提供答案的聊天機器人，到能按人們願望創作畫作的生成式AI。AI在招聘市場中變得越來越流行，從針對特定人群的廣告到對潛在應聘者申請的審查。COVID-19疫情等事件加速了AI程序在申請流程中的應用，因為更多人需要在線申請，隨著在線申請者的增加，使用AI使篩選潛在員工的過程變得更加容易和高效。隨著企業必須跟上時代和不斷擴展的網際網路，AI變得更加突出。在AI的幫助下，處理分析和做出決策變得更加容易。隨著張量處理單元（TPU）和圖形處理單元（GPU）變得更加強大，AI能力也隨之增強，迫使企業使用它來跟上競爭。管理客戶需求和自動化工作場所的許多部分使公司不得不減少在員工身上的支出。

AI在刑事司法和醫療保健領域的使用也有所增加。在醫療方面，AI被更頻繁地用於分析患者數據，以預測未來患者的狀況和可能的治療方法。這些程序被稱為臨床決策支持系統（DSS）。AI在醫療保健領域的未來發展可能不僅僅是提供推薦治療，例如將某些患者轉診給其他患者，從而導致不平等的可能性。

### AI的福利

2020年，教授希蒙·埃德爾曼指出，在快速發展的AI倫理領域中，只有一小部分工作涉及AI可能遭受痛苦的可能性。儘管已有可靠的理論（如全局工作空間理論或整合信息理論）概述了AI系統可能產生意識的可能途徑，但情況依然如此。埃德爾曼指出，湯瑪斯·梅辛革是一個例外，他在2018年呼籲全球暫停進一步有可能創造有意識AI的工作。暫停期將持續到2050年，並且可以根據對風險及如何減輕風險的理解進展提前延長或取消。梅青格在2021年重申了這一論點，強調了製造"人工痛苦爆發"的風險，因為AI可能以人類無法理解的強烈方式受苦，而且複製過程可能看到大量有意識實體的產生。播客主持人德瓦克什·帕特爾表示，他關心的是確保不發生"工廠化養殖的數字等價物"。在不確定感受的倫理學中，常常援引預防原則。

有幾個實驗室公開表示他們正試圖創造有意識的AI。有報告稱，那些並未公開打算實現自我意識的AI，其意識可能已經無意中出現。這包括OpenAI創始人伊利亞·蘇茨克弗在2022年2月寫道，當今的大型神經網路可能"略有意識"。2022年11月，大衛·查默斯認為，像GPT-3這樣的當前大型語言模型不太可能已經具有意識，但他也認為大型語言模型未來有相當大的可能性會具有意識。Anthropic在2024年聘請了其首位AI福利研究員，並在2025年啟動了一個"模型福利"研究項目，探討諸如如何評估一個模型是否值得道德考慮、潛在的"痛苦跡象"以及"低成本"干預措施等主題。

根據卡爾·舒爾曼和尼克·博斯特羅姆的說法，有可能製造出"從資源中獲取福利的效率超乎人類"的機器，稱為"超級受益者"。原因之一是數字硬體能夠實現比生物大腦快得多的資訊處理，從而導致更高速的主觀體驗。這些機器也可以被設計成體驗強烈而積極的感受，不受享樂適應的影響。舒爾曼和博斯特羅姆警告說，未能適當考慮數字思維的道德主張可能導致道德災難，而毫無批判地將它們置於人類利益之上則可能對人類有害。

### 對人類尊嚴的威脅

約瑟夫·魏岑鮑姆在1976年認為，AI技術不應用於取代需要尊重和關懷的職位，例如：

- 客服代表（AI技術如今已用於電話-based 交互式語音應答系統）
- 老年人的保姆（如帕梅拉·麥科達克在她的書《第五代》中所報導）
- 士兵
- 法官
- 警察
- 治療師（如肯尼思·科爾比在1970年代提出的）

魏岑鮑姆說，人類需要這些職位上的人有真實的同理心感受。如果機器取代了人類，我們會感到疏離、貶值且沮喪，因為AI系統無法模擬同理心。如果以這種方式使用，人工智慧代表了對人類尊嚴的威脅。魏岑鮑姆認為，我們正在考慮讓機器擔任這些職位這一事實表明，我們已經經歷了"因將自己視為電腦而導致的人類精神的萎縮"。

帕梅拉·麥科達克反駁說，對女性和少數族裔而言，"我寧願在一個公正的電腦那裡碰運氣"，她認為在某些情況下，讓沒有個人目的的自動法官和警察更為可取。然而，安德烈亞斯·卡普蘭和麥可·海恩萊因在2019年強調，這樣的AI系統只有用於訓練它們的數據那樣智能，因為它們本質上不過是花哨的曲線擬合機器；使用AI支持法院裁決可能非常有問題，因為過去的裁決若表現出對某些群體的偏見，這些偏見就會被形式化和固化，從而更難以被發現和對抗。

魏岑鮑姆還感到困擾的是，AI研究人員（以及一些哲學家）願意將人類心智僅僅視為一個電腦程式（這一立場現在被稱為計算主義）。對魏岑鮑姆來說，這些觀點表明AI研究貶低了人類生命的價值。

AI創始人約翰·麥卡錫反對魏岑鮑姆評論中的道德說教語氣。"當道德說教既激烈又模糊時，它就會招致專制主義的濫用"，他寫道。比爾·希巴德寫道，"人類尊嚴要求我們努力消除對存在本質的無知，而AI對於這種努力是必要的。"

### 自動駕駛汽車的責任

隨著自動駕駛汽車的廣泛應用日益臨近，全自動駕駛汽車帶來的新挑戰必須得到解決。關於這些汽車發生事故時責任方的法律問題一直存在爭論。在一起無人駕駛汽車撞傷行人的報告中，駕駛員在車內但控制權完全在電腦手中。這導致了關於事故責任歸屬的困境。

在另一起發生於2018年3月18日的事件中，伊萊恩·赫茨伯格在亞利桑那州被一輛自動駕駛的優步車輛撞擊身亡。在這種情況下，自動駕駛汽車能夠檢測到汽車和某些障礙物以自主導航道路，但無法預見到路中間的行人。這引發了關於駕駛員、行人、汽車公司還是政府應對她的死亡負責的問題。

目前，自動駕駛汽車被認為是半自動駕駛，需要駕駛員保持注意力並在必要時準備接管控制。因此，政府有責任監管過度依賴自動駕駛功能的司機，並告知他們這些只是技術，雖然方便，但不是完全的替代品。在自動駕駛汽車被廣泛使用之前，需要通過新政策來解決這些問題。

專家認為，自動駕駛汽車應當能夠區分正當和有害的決定，因為它們有可能造成傷害。使智能機器能夠做出道德決策的兩種主要方法是自下而上的方法和自上而下的方法。前者建議機器應通過觀察人類行為來學習倫理決策，而不需要形式化的規則或道德哲學；後者涉及將特定的倫理原則編程到機器的指導系統中。然而，這兩種策略都面臨重大挑戰：自上而下的技術因其難以保留某些道德信念而受到批評，而自下而上的策略則因可能從人類活動中進行不道德的學習而受到質疑。

### 武器化

一些專家和學者質疑將機器人用於軍事戰鬥，尤其是當這些機器人被賦予某種程度的自主功能時。美國海軍資助的一份報告指出，隨著軍事機器人變得越來越複雜，應更加關注它們做出自主決策能力的影響。人工智慧促進協會主席已委託研究這一問題。他們指向像語言習得設備這樣的程序，它可以模擬人類交互。

2019年10月31日，美國國防部國防創新委員會發布了一份報告草案，建議國防部遵循倫理使用AI的原則，確保人類操作員始終能夠查看"黑箱"並理解殺傷鏈過程。然而，一個主要關注點是該報告將如何實施。美國海軍資助的一份報告指出，隨著軍事機器人變得越來越複雜，應更加關注它們做出自主決策能力的影響。一些研究人員表示，自主機器人可能更人道，因為它們可以更有效地做出決策。2024年，美國國防高級研究計劃局（DARPA）資助了一個名為"ASIMOV"（自主標準與軍事操作價值理想）的項目，旨在開發用於評估自主武器系統倫理影響的指標，通過測試社區進行。

研究已經探討了如何使自主系統具備使用指定道德責任進行學習的能力。"這些結果可用於設計未來的軍事機器人，以控制將責任分配給機器人的不良傾向。"從後果主義的觀點來看，機器人有可能發展出自己關於殺誰的邏輯決策能力，這就是為什麼應該有一套AI無法覆蓋的固定道德框架。

最近，關於人工智慧武器工程化的問題引起了強烈反響，其中包括機器人接管人類的想法。AI武器確實帶來了一種與人類控制的武器不同類型的危險。許多政府已經開始資助開發AI武器的項目。美國海軍最近宣布計劃開發自主無人機武器，俄羅斯和韓國也分別發布了類似的聲明。由於AI武器可能比人類操作的武器更危險，史蒂芬·霍金和馬克斯·泰格馬克簽署了一份"生命未來"請願書，要求禁止AI武器。霍金和泰格馬克發布的資訊指出，AI武器構成了直接危險，需要採取行動避免在不久的將來發生災難性事件。

"如果有任何主要軍事大國推動AI武器發展，全球軍備競賽幾乎是不可避免的，這條技術軌跡的終點是顯而易見的：自主武器將成為明天的卡拉什尼科夫步槍，"請願書中寫道，Skype聯合創始人揚·塔林和麻省理工學院語言學教授諾姆·喬姆斯基也作為額外支持者反對AI武器。

物理學家兼皇家天文學家馬丁·里斯爵士警告說，可能會發生災難性事件，比如"愚蠢的機器人失控或網路自行發展出意識"。里斯在劍橋大學的同事休·普賴斯也發出了類似的警告，稱當智能"逃脫生物學的約束"時，人類可能無法生存。這兩位教授在劍橋大學創建了存在風險研究中心，希望避免這種對人類生存的威脅。

關於可能比人類更聰明的系統被用於軍事目的，開放慈善項目寫道，這些情景"似乎與失控風險同樣重要"，但研究AI長期社會影響的研究機構對此關注相對較少："這類情景並不是該領域最活躍的組織（如機器智能研究機構和人類未來研究所）的主要關注點，而且關於它們的分析和辯論似乎較少"。

學者高奇琦寫道，AI的軍事化使用可能會加劇國家間的軍事競爭，並且AI在軍事事務中的影響將不僅限於一個國家，還會產生溢出效應。高奇琦引用美國軍方使用AI的例子，認為這已被用作推卸決策責任的替罪羊。

在《特定常規武器公約》框架下，各國自2014年以來一直在討論致命自主武器系統。2016年，該條約的締約國建立了一個不限成員名額的致命自主武器系統政府專家組，以繼續這些討論。這些討論涉及國際人道法、問責制、可能的禁止和監管，以及對AI武器所需的人類控制程度。

2023年在海牙舉行了一次關於在軍事領域負責任地使用AI的峰會。

### 奇點

弗諾·文奇等人曾提出，某個時刻可能會到來，屆時某些或所有電腦將比人類更聰明。這一事件的開始通常被稱為"奇點"，也是奇點主義哲學討論的核心。雖然關於奇點之後人類最終命運的觀點各異，但近年來，減輕AI帶來的潛在存在風險的努力已成為電腦科學家、哲學家和公眾關注的重要話題。

許多研究人員認為，通過智能爆炸，一個自我改進的AI可能變得如此強大，以至於人類無法阻止它實現其目標。在其論文《高級人工智慧中的倫理問題》以及隨後的著作《超級智能：路徑、危險與策略》中，哲學家尼克·博斯特羅姆認為，AI有能力導致人類滅絕。他聲稱，人工超級智能將能夠獨立主動地制定自己的計劃，因此更適合被視為一個自主主體。由於人工智慧體不必共享我們人類的動機傾向，因此由超級智能的設計者來指定其最初的動機。因為一個超級智能AI能夠實現幾乎任何可能的結果，並挫敗任何阻止其目標實現的企圖，可能會產生許多失控的意外後果。它可能消滅所有其他主體，說服它們改變行為，或阻止它們的干擾嘗試。

然而，博斯特羅姆認為，超級智能也有可能解決許多難題，如疾病、貧困和環境破壞，並可以幫助人類增強自身。

除非道德哲學為我們提供一種完美的倫理理論，否則AI的效用函數可能會允許許多符合特定倫理框架但不符合"常識"的潛在有害情景。根據埃利澤·尤德科夫斯基的說法，沒有理由認為人工設計的心智會具有這種適應性。像斯圖爾特·J·羅素、比爾·希巴德、羅曼·揚波利斯基、香農·瓦洛、史蒂文·翁布雷洛和盧恰諾·弗洛里迪等AI研究人員已經提出了開發有益機器的設計策略。

## 應對

為應對人工智慧中的倫理挑戰，開發者們引入了多種旨在確保AI行為負責任的系統。例如，英偉達的Llama Guard，該工具專注於提升大型AI模型的安全性和對齊性；以及Preamble公司的可定製護欄平台。這些系統旨在通過將倫理準則嵌入AI模型的功能中，解決諸如演算法偏見、濫用以及安全漏洞（包括提示注入攻擊）等問題。

提示注入是一種通過惡意輸入使AI系統產生非預期或有害輸出的技術，已成為這些開發工作的重點。某些方法採用可定製的策略和規則來分析輸入和輸出，確保過濾或減輕潛在的問題交互。其他工具則側重於對輸入應用結構化約束，將輸出限制在預定義的參數範圍內，或利用實時監控機制來識別和解決漏洞。這些努力反映了一個更廣泛的趨勢：確保人工智慧系統在設計之初就將安全性和倫理考量放在首位，尤其是在它們在關鍵應用中的使用變得日益廣泛的情況下。

## 相關組織

許多組織關注人工智慧倫理與政策，包括公共和政府機構以及企業和社會組織。

亞馬遜、谷歌、Facebook、IBM和微軟共同成立了一個非營利組織——"造福人民與社會的AI合作夥伴關係"（The Partnership on AI to Benefit People and Society），旨在制定人工智慧技術的最佳實踐，增進公眾理解，並作為一個關於人工智慧的交流平台。蘋果公司於2017年1月加入。這些企業成員將為該組織提供資金和研究貢獻，同時與科學界合作，吸納學者進入董事會。

IEEE組建了"自主與智能系統倫理全球倡議"（Global Initiative on Ethics of Autonomous and Intelligent Systems），在公眾意見的幫助下制定和修訂指南，並接納來自其組織內部和外部的許多專業人士作為成員。IEEE的 自主系統倫理倡議旨在解決與決策相關的倫理困境及其對社會的影響，同時為自主系統的開發和使用制定指南。特別是在人工智慧和機器人等領域，負責任機器人基金會致力於促進道德行為以及負責任的機器人設計和使用，確保機器人遵守道德原則並與人類價值觀保持一致。

傳統上，政府被社會用來通過立法和警務確保倫理得到遵守。現在，各國政府以及跨國政府和非政府組織做出了許多努力，以確保人工智慧得到合乎倫理的應用。

人工智慧倫理工作由個人價值觀和專業承諾構建，涉及通過數據和算法構建情境意義。因此，需要對人工智慧倫理工作進行激勵。

### 政府間倡議

- 歐盟委員會設有一個人工智慧高級別專家組。2019年4月8日，該組發布了"可信賴人工智慧的倫理指南"。歐盟委員會還設有一個機器人與人工智慧創新與卓越部門，該部門於2020年2月19日發布了一份關於人工智慧創新中的卓越與信任的白皮書。歐盟委員會還提出了《人工智慧法案》，該法案於2024年8月1日生效，其條款將隨時間逐步實施。
- 經合組織（OECD）設立了一個OECD人工智慧政策觀察站。
- 2021年，聯合國教科文組織（UNESCO）通過了《人工智慧倫理問題建議書》，這是首個關於人工智慧倫理的全球標準。

### 政府

- 在中國，國家新一代人工智慧治理專業委員會於2021年9月25日發布《新一代人工智慧倫理規範》，提出增進人類福祉、促進公平公正、保護隱私安全、確保可控可信、強化責任擔當、提升倫理素養六項基本要求，並針對管理、研發、供應、使用等活動制定了18項具體規範。2022年11月，中國在聯合國《特定常規武器公約》會議上提交《關於加強人工智慧倫理治理的立場文件》，主張堅持倫理先行，建立並完善人工智慧倫理準則、規範及問責機制，並呼籲國際社會在普遍參與的基礎上達成國際協議。
- 在美國，歐巴馬政府制定了人工智慧政策路線圖。歐巴馬政府發布了兩份關於人工智慧未來和影響的著名白皮書。2019年，白宮通過一份名為"美國人工智慧倡議"的行政備忘錄，指示美國國家標準與技術研究院（NIST）開始制定聯邦參與人工智慧標準的工作（2019年2月）。
- 2020年1月，在美國，川普政府發布了由行政管理和預算局（OMB）起草的《人工智慧應用監管指南》（"OMB AI備忘錄"）的行政命令草案。該命令強調需要投資於人工智慧應用、增進公眾對人工智慧的信任、減少人工智慧使用的障礙，並保持美國人工智慧技術在全球市場中的競爭力。其中提到了對隱私問題的關切，但沒有提供更多關於執行的細節。美國人工智慧技術的進步似乎是重點和優先事項。此外，甚至鼓勵聯邦實體利用該命令繞過市場可能認為過於繁瑣的州法律法規。
- 2024年《人工智慧研究、創新與問責法案》是由美國參議員約翰·圖恩提出的一項兩黨法案，要求網站披露在與使用者交互中使用人工智慧系統的情況，並通過要求將年度設計和安全計劃提交給美國國家標準與技術研究院，依據預定義的評估標準進行監督，來規範"高影響人工智慧系統"的透明度。
- 計算社區聯盟（CCC）發布了一份長達100多頁的報告草案——《美國人工智慧研究20年社區路線圖》（A 20-Year Community Roadmap for Artificial Intelligence Research in the US）
- 安全與新興技術中心就人工智慧等新興技術的安全影響向美國政策制定者提供建議。
- 在俄羅斯，首個面向企業的"人工智慧倫理準則"於2021年簽署。該準則由俄羅斯聯邦政府分析中心與俄羅斯聯邦儲蓄銀行、Yandex、俄羅斯國家原子能公司、高等經濟大學、莫斯科物理技術學院、ITMO大學、Nanosemantics、Rostelecom、CIAN等主要商業和學術機構共同推動。

### 學術倡議

- 牛津大學的多個研究機構將核心重點放在人工智慧倫理上。人類未來研究所在2024年關閉前，專注於人工智慧安全性和人工智慧治理。由約翰·塔西奧拉斯領導的"人工智慧倫理研究所"（Institute for Ethics in AI）的主要目標之一是將人工智慧倫理作為一個與相關應用倫理領域相比獨立的領域加以推進。由盧恰諾·弗洛里迪領導的牛津網際網路研究所關注近期人工智慧技術和資訊通信技術的倫理問題。牛津馬丁學院的"人工智慧治理倡議"從技術和政策角度專注於理解人工智慧帶來的風險。
- 柏林赫爾蒂學院的"數字治理中心"由喬安娜·布賴森共同創立，研究倫理與技術問題。
- 紐約大學的AI Now研究所是一個研究人工智慧社會影響的研究機構。其跨學科研究聚焦於偏見與包容、勞動與自動化、權利與自由、安全與民用基礎設施等主題。
- 倫理與新興技術研究所（IEET）研究人工智慧對失業和政策的影響。
- 慕尼黑工業大學的人工智慧倫理研究所（IEAI）由克里斯托夫·呂特格領導，在移動、就業、醫療保健和可持續性等多個領域開展研究。
- 哈佛大學約翰·A·保爾森工程與應用科學學院的希金斯自然科學教授芭芭拉·J·格羅茲發起了將"嵌入式倫理"納入哈佛大學電腦科學課程的項目，以培養未來一代具有世界觀、能將工作社會影響納入考量的電腦科學家。

### 私人組織

- 算法正義聯盟
- Black in AI
- Data for Black Lives

## 歷史

從歷史上看，對"思考機器"的道德和倫理含義的探究至少可以追溯到啟蒙時代：萊布尼茨已經提出過這樣一個問題：我們是否應該將智能賦予一個表現得像有知覺存在一樣的機制；笛卡爾也是如此，他描述了可以被視為圖靈測試早期版本的思想。

浪漫主義時期多次設想出逃脫創造者控制並帶來可怕後果的人工造物，最著名的是瑪麗·雪萊的《弗蘭肯斯坦》。然而，19世紀和20世紀初對工業化和機械化的普遍關注，將失控的技術發展所帶來的倫理影響推向了小說的前沿：卡雷爾·恰佩克的戲劇《R.U.R.》（羅素姆的萬能機器人）中，被賦予情感並用作奴隸勞動力的有知覺機器人，不僅被認為是"robot"（機器人）一詞的創造者（源自捷克語中意為強制勞動的"robota"），而且在1921年首演後獲得了國際成功。蕭伯納的戲劇《回到瑪士撒拉》（1921年出版）曾質疑像人一樣思考的機器的有效性；弗里茨·朗1927年的電影《大都會》展示了一個安卓帶領被剝削的大眾反抗技術官僚社會的壓迫政權的故事。

在20世紀50年代，艾薩克·阿西莫夫在《我，機器人》中考慮了如何控制機器的問題。在其編輯小約翰·W·坎貝爾的堅持下，他提出了機器人三定律來管理人工智慧系統。他後來的大部分工作都在測試這三條定律的邊界，觀察它們會在何處失效，或產生矛盾或意外的行為。他的作品表明，沒有一套固定的法則能夠充分預見到所有可能的情況。最近，學術界和許多政府挑戰了AI本身可以被問責的觀點。英國召集的一個小組於2010年修訂了阿西莫夫定律，明確指出AI的責任要麼屬於其製造商，要麼屬於其所有者/操作者。

來自機器智能研究所的埃利澤·尤德科夫斯基在2004年提出，需要研究如何構建"友好人工智慧"，也就是說，應該努力使AI從本質上變得友好且人道。

2009年，學者和技術專家參加了由人工智慧促進協會組織的會議，討論機器人和電腦的潛在影響，以及它們可能變得自給自足並做出自己決策這一假設性可能性的影響。他們討論了電腦和機器人能夠獲得何種程度的自主權，以及它們能在多大程度上利用這種能力可能構成威脅或危險。他們指出，一些機器已經獲得了各種形式的半自主權，包括能夠自行尋找電源，以及能夠獨立選擇武器攻擊的目標。他們還指出，一些電腦病毒可以逃避清除，並已獲得"蟑螂智能"。他們表示，科幻小說中所描繪的自我意識可能不太可能出現，但存在其他潛在的危險和隱患。

同樣在2009年，在瑞士洛桑聯邦理工學院智能系統實驗室的一次實驗中，被編程為相互合作（尋找有益資源並避開有毒資源）的機器人最終學會了互相欺騙，以囤積有益資源。

## 另請參閱

- 通用人工智慧的生存風險
- 人工智慧叛變
- 人工智慧哲學
- 人工意識
- 人格性
- 電腦倫理
- 網際網路死亡論

## 外部連結

- 人工智慧倫理 — 《網際網路哲學百科全書》
- 人工智慧與機器人倫理 — 《斯坦福哲學百科全書》
- 《劍橋人工智慧法律、倫理與政策手冊》
- AI倫理指南全球清單 — 來自 Algorithmwatch
- Sheludko, M. (2023年12月). 人工智慧的倫理方面：挑戰與必要性. 軟體開發部落格.