人工智慧監管

人工智慧監管是指公共部門為促進和規範人工智慧而制定的政策與法律。在全球各司法管轄區，包括像IEEE或OECD這樣沒有直接執法權的國際組織，人工智慧的監管與政策格局都是一個新興問題。

自2016年以來，為了保持社會對這項技術的控制，已發布了大量人工智慧倫理指南。此外，部署人工智慧的組織在創建和實施可信賴人工智慧、遵守既定原則以及承擔降低風險的責任方面，需要發揮核心作用。歐盟已於2024年通過《人工智慧法案》，為人工智慧建立了一個共同的法律框架。

## 背景

根據史丹福大學2025年人工智慧指數報告，自2023年以來，75個國家立法中對人工智慧的提及增加了21.3%，自2016年以來增長了九倍。美國聯邦機構在2024年出台了59項與人工智慧相關的法規，是2023年的兩倍多。2024年，全美45個州提出了近700項與人工智慧相關的法案，而2023年僅為191項。

目前，關於人工智慧監管的程度或機制尚無廣泛共識。該領域的幾位知名人士，包括埃隆·馬斯克、薩姆·奧爾特曼、達里奧·阿莫代伊和德米斯·哈薩比斯，已公開呼籲立即對人工智慧進行監管。2023年，在GPT-4問世後，埃隆·馬斯克等人簽署了一封暫停巨型人工智慧實驗：一封公開信，呼籲暫停訓練更強大的人工智慧系統。另一些人，如馬克·扎克伯格和馬克·安德森則警告過早監管可能會扼殺創新。

在2022年益普索的一項調查中，各國對人工智慧的態度差異很大；78%的中國公民同意「使用人工智慧的產品和服務利大於弊」，而美國人中這一比例僅為35%。益普索的民意調查還發現，61%的美國人同意人工智慧對人類構成風險，22%的人不同意。在2023年福克斯新聞的一項民意調查中，35%的美國人認為聯邦政府監管人工智慧「非常重要」，另有41%的人認為「有些重要」，而13%的人回答「不太重要」，8%的人回答「完全不重要」。

2023年，英國啟動了系列人工智慧國際峰會，以AI安全峰會為首。隨後是2024年的AI首爾峰會、2025年在巴黎舉行的AI行動峰會，以及2026年在新德里舉行的AI影響峰會。

## 觀點

人工智慧監管是指公共部門為促進和規範人工智慧而制定的政策與法律。公共行政和政策考量通常集中在技術和經濟影響、可信賴和以人為中心的人工智慧系統、對人工超級智能的監管、機器學習演算法的風險和偏見、模型輸出的可解釋性、以及開源人工智慧與不受約束的人工智慧使用之間的張力。

關於人工智慧監管，已有硬法和軟法兩種提案。一些法律學者指出，硬法路徑在人工智慧監管方面面臨重大挑戰。在這些挑戰中，人工智慧技術正在迅速發展，導致「步調問題」，即傳統法律法規往往無法跟上新興應用及其相關的風險和收益。同樣，人工智慧應用的多樣性挑戰了現有的監管機構，這些機構通常管轄範圍有限。作為替代方案，一些法律學者認為軟法路徑在人工智慧監管方面很有前景，因為它們提供了更大的靈活性來適應新興技術和人工智慧應用不斷發展的性質。然而，軟法路逕往往缺乏實質性的執行潛力。

卡森·施密特、梅根·多爾（Megan Doerr）和珍妮弗·華格納（Jennifer Wagner）提出，通過利用某些人工智慧對象（即人工智慧模型和訓練數據集）的智慧財產權（即著佐權許可）並將執行權委託給指定的執行實體，來創建一個準政府監管機構。他們認為，人工智慧可以按照要求遵守特定倫理實踐和行為準則的條款進行許可（例如軟法原則）。

專注於人工智慧的知名青年組織，如Encode AI，也發布了全面的議程，呼籲更嚴格的人工智慧監管和公私合作夥伴關係。

人工智慧監管可能源於基本原則。2020年伯克曼·克萊因網際網路與社會中心對現有原則集（如阿西洛馬原則和北京原則）的一項元審查確定了八項基本原則：隱私、問責、安全與保障、透明度與可解釋性、公平與非歧視、人類對技術的控制、職業責任、尊重人類價值觀。人工智慧法律和法規被分為三個主要主題：自主智能系統的治理、系統的責任與問責、以及隱私和安全問題。公共行政視角看到了人工智慧法律與法規、人工智慧倫理以及「人工智慧社會」（定義為勞動力替代與轉型、社會接受與對人工智慧的信任、以及人機互動的轉型）之間的關係。在地方、國家、和國際層面，以及在從公共服務管理和問責到執法、醫療保健（特別是「人類保證」的概念）、金融部門、機器人、自動駕駛汽車、軍事和國家安全、以及國際法等領域，制定公共部門管理和監管人工智慧的戰略被認為是必要的。

亨利·基辛格、埃里克·施密特和丹尼爾·胡滕洛赫爾於2021年11月發表了一份聯合聲明，題為《人工智慧時代的人類》，呼籲設立一個政府委員會來監管人工智慧。

2025年，英國和美國政府拒絕在巴黎舉行的AI行動峰會上簽署一項關於人工智慧的國際協議。該協議被描述為提出了一個開放、包容和道德的人工智慧發展路徑，包括環境保護措施。美國副總統JD·萬斯認為，該協議將損害人工智慧行業的發展。英國政府補充說，該協議「沒有為全球治理提供足夠的實際明確性，也沒有充分解決圍繞國家安全的更棘手問題」。

### 作為對人工智慧控制問題的回應

人工智慧監管可以被視為管理人工智慧控制問題（確保長期有益的人工智慧的必要性）的積極社會手段，而其他社會應對措施（如無所作為或徹底禁止）被認為是不切實際的，並且通過超人類主義技術（如腦機接口）增強人類能力的方法被視為可能具有互補性。對人工通用智能（AGI）研究的監管側重於審查委員會的作用（從大學或公司到國際層面），以及鼓勵AI安全研究，同時結合差異化技術發展（在人工智慧發展中優先考慮保護性策略而非風險性策略）或進行國際大規模監控以實施AGI軍備控制的可能性。例如，「AGI保姆」是一項被提議的策略，可能置於人類的控制之下，旨在防止危險的超級智能的產生，並解決對人類福祉的其他重大威脅（如顛覆全球金融體系），直到可以安全地創造出真正的超級智能。它涉及創建一個比人類更聰明但尚未達到超級智能水平的AGI系統，連接到一個大型監控網絡，目標是監控人類並保護其免受危險。對有意識、具有倫理意識的AGI的監管側重於如何將它們與現有人類社會融合，並可分為對其法律地位和道德權利的考量。人工智慧監管被視為具有限制性，存在阻礙AGI發展的風險。

## 全球指導

<image>

設立全球治理委員會來監管人工智慧發展的提議至少早在2017年就已提出。2018年12月，加拿大和法國宣布計劃建立一個G7支持的國際人工智慧小組，仿照政府間氣候變化專門委員會的模式，研究人工智慧對人類和經濟的全球影響，並引導人工智慧的發展。2019年，該小組更名為全球人工智慧夥伴關係。

全球人工智慧夥伴關係（GPAI）於2020年6月啟動，指出需要根據人權和民主價值觀發展人工智慧，以確保公眾對該技術的信心和信任，正如OECD《人工智慧原則》（2019年）所概述的那樣。全球人工智慧夥伴關係的15個創始成員是澳大利亞、加拿大、歐盟、法國、德國、印度、義大利、日本、韓國、墨西哥、紐西蘭、新加坡、斯洛維尼亞、美國和英國。2023年，GPAI已有29個成員。GPAI秘書處設在法國巴黎的OECD。GPAI的職責涵蓋四個主題，其中兩個由蒙特婁國際人工智慧專業知識中心支持，分別是負責任的人工智慧和數據治理。巴黎的一個相應卓越中心將支持另外兩個主題：未來工作，以及創新與商業化。GPAI還研究了如何利用人工智慧應對COVID-19大流行。

OECD人工智慧原則於2019年5月通過，G20人工智慧原則於2019年6月通過。2019年9月，世界經濟論壇發布了十項「人工智慧政府採購指南」。2020年2月，歐盟發布了其促進和監管人工智慧的戰略文件草案。

在聯合國，多個實體已開始推動和討論人工智慧監管與政策的各個方面，包括UNICRI人工智慧與機器人中心。與國際刑警組織合作，UNICRI中心於2019年4月發布了報告《執法中的人工智慧與機器人》，並於2020年5月發布了後續報告《邁向負責任的人工智慧創新》。在2019年11月聯合國教科文組織第40屆科學會議上，該組織啟動了一個為期兩年的進程，以達成一項「關於人工智慧倫理的全球標準制定文書」。為實現這一目標，教科文組織舉辦了關於人工智慧的論壇和會議，以收集利益相關者的意見。2020年9月，教科文組織特設專家組發布了《人工智慧倫理建議書》草案文本，其中呼籲填補立法空白。教科文組織於2021年11月將關於人工智慧倫理的國際文書提交其大會通過；該文書隨後獲得通過。雖然聯合國在人工智慧的全球管理方面正在取得進展，但其管理AGI存在風險的制度和法律能力更為有限。

最近的研究表明，各國也將開始使用人工智慧作為國家網路防禦的工具。人工智慧是網路軍備工業中的一個新因素，因為它可以用於防禦目的。因此，學者們敦促各國應該為人工智慧的使用制定法規，就像其他軍事工業有法規一樣。

近年來，學術研究人員做出了更多努力來促進多邊對話和政策制定，倡導通過國際框架來規範人工智慧在軍事和網路安全背景下的部署，並特別強調人權和國際人道法。諸如《慕尼黑人工智慧、數據與人權公約》等倡議——匯集了來自不同學術機構的學者——呼籲制定具有約束力的國際協議，以在人工智慧時代保護人權。此類倡議的一個關鍵要素是找到不同區域方法之間的共同點，例如非洲聯盟和歐洲委員會的方法。

2025年9月，在聯合國大會上提出了一項全球關於人工智慧紅線的呼籲，敦促各國政府在2026年底前達成一項具有約束力的協議，禁止不可接受的人工智慧使用和行為。

### 七國集團

2023年10月30日，七國集團國家通過了一套關於先進人工智慧系統設計、開發和部署的十一項指導原則。這些原則是廣島進程的一部分，該進程是一個旨在確保人工智慧技術在全球市場上得到負責任實施的框架。除了這些原則，還推出了一套針對人工智慧開發者的自願行為準則，以鼓勵新興人工智慧模型和平台中的透明度、問責制和風險緩解。

該公告在國際上受到歡迎，尤其是烏爾蘇拉·馮德萊恩表示，該倡議反映了當時處於最後談判階段的AI指令的方向。

新的指南還旨在建立一項協調一致的全球努力，以促進先進人工智慧系統的負責任開發和使用。雖然不具約束力，但七國集團政府鼓勵組織自願採用這些指南，這些指南強調了貫穿人工智慧生命周期——從部署前風險評估到部署後事件報告和緩解——的基於風險的方法。

七國集團的人工智慧原則及行為準則還強調了人工智慧系統安全性、內部對抗性測試（「紅隊演練」）、關於能力和局限性的公開透明度，以及包含隱私保護和內容認證工具的治理程序的重要性。該指南還促進了旨在解決氣候變化和公共衛生等全球挑戰的人工智慧創新，並呼籲推進國際技術標準。

展望未來，七國集團計劃與其他組織（如經合組織、全球人工智慧夥伴關係）以及更廣泛的利益相關者合作，進一步完善其原則和行為準則。需要進一步發展的領域包括：更明確的人工智慧術語（例如「先進人工智慧系統」）、設定風險基準，以及建立關於潛在人工智慧風險的跨境資訊共享機制。儘管在人工智慧安全性方面總體上保持一致，但分析人士指出，不同的監管理念——例如歐盟規範性的AI法案與美國針對特定行業的方法——可能會對全球監管協調構成挑戰。

## 區域與國家監管

<image>

人工智慧的監管與政策格局是全球各區域和國家司法管轄區的一個新興問題，例如在歐盟和俄羅斯。自2016年初以來，許多國家、區域和國際機構已開始通過關於人工智慧的戰略、行動計劃和政策文件。這些文件涵蓋了廣泛的主題，例如監管與治理，以及工業戰略、研究、人才和基礎設施。

不同國家以不同方式處理這個問題。關於三大經濟體，有人指出「美國遵循市場驅動的方法，中國推行國家驅動的方法，而歐盟則追求權利驅動的方法」。

### 非洲聯盟

非洲聯盟在這一領域日益活躍。最重要的是，非洲人權和人民權利委員會發布了一份關於人工智慧與人權的研究報告，並倡導制定《非洲人工智慧與人權框架公約》。這一倡議建立在非盟內部較早的辯論基礎上，特別是關於自主致命武器的討論，非洲代表此前已在國際論壇上提出過這一問題。

擬議的非洲框架的一個顯著特點是其強烈強調集體權利，正如《非洲人權和人民權利憲章》所載明的那樣。這一方法嵌入在更廣泛的辯論中，即如何使人工智慧治理與非洲價值觀（包括像烏班圖「對人仁慈」這樣的倫理傳統）保持一致。

### 澳大利亞

2023年10月，澳大利亞電腦協會、澳大利亞商業理事會、澳大利亞工商會、澳大利亞工業集團、澳大利亞小企業組織理事會和澳大利亞技術理事會聯合發表了一封公開信，呼籲採取全國性的人工智慧戰略方法。這封信支持聯邦政府建立一個全政府的人工智慧特別工作組。

此外，2024年8月，澳大利亞政府制定了自願性人工智慧安全標準，隨後於同年9月發布了一份提案文件，概述了針對高風險人工智慧的潛在護欄，這些護欄可能成為強制性的。這些護欄包括模型測試、透明度、人工監督和記錄保存等領域，所有這些都可能通過新的立法來強制執行。然而，值得注意的是，澳大利亞尚未通過專門針對人工智慧的法律，但現有的法規，如1988年《隱私法》、2001年《公司法》和2021年《在線安全法》，都適用於人工智慧的使用。

2024年9月，提出了一項法案，授予澳大利亞通信與媒體管理局監管人工智慧生成的錯誤信息的權力。包括ACMA、澳大利亞競爭與消費者委員會和澳大利亞信息專員辦公室在內的幾個機構預計都將在未來的人工智慧監管中發揮作用。

南澳大利亞州政府於2026年3月任命了該州的人工智慧與數字經濟部長。

### 巴西

2021年9月30日，巴西眾議院批准了《巴西人工智慧法律框架》。該立法旨在監管人工智慧的開發和使用，同時促進在優先考慮文化、正義、公平和問責的道德人工智慧解決方案方面的研究和創新。這項包含10條條款的法案確立了若干關鍵目標：制定人工智慧的倫理原則、促進持續的研究投資、消除創新障礙。第4條特別強調了防止歧視性人工智慧解決方案、確保多元性和保護人權。

當該法案首次向公眾發布時，它面臨了實質性的批評，使政府對關鍵條款感到警覺。根本問題在於，該法案未能徹底和審慎地解決問責、透明度和包容性原則。第六條確立了主觀責任，意味著任何受到人工智慧系統損害並希望獲得賠償的個人必須指定利益相關者，並證明在機器的生命周期中存在錯誤。學者們強調，鑑於人工智慧系統的高度自主性、不可預測性和複雜性，讓個人負責證明演算法錯誤是不符合法律邏輯的。這也引起了人們對巴西目前發生的人臉識別系統導致警察不公正逮捕問題的關注，這意味著當該法案通過後，個人將不得不證明和解釋這些機器錯誤。

該草案的主要爭議針對三項擬議原則。首先，非歧視原則建議人工智慧的開發和使用必須以僅減輕濫用和歧視性做法的可能性的方式進行。其次，追求中立原則列出了為利益相關者減輕偏見的建議；但沒有義務實現這一目標。最後，透明度原則規定，只有在存在侵犯基本權利的高風險時，系統的透明度才是必要的。顯而易見，巴西人工智慧法律框架缺乏有約束力和強制性的條款，而是充滿了寬鬆的指導方針。事實上，專家們強調，這項法案甚至可能使人工智慧歧視性偏見的問責更加難以實現。與歐盟提出的廣泛的基於風險的法規相比，巴西的法案只有10條條款，提出了模糊和籠統的建議。

巴西的人工智慧法案缺乏構成早期巴西網際網路立法特徵的多樣化視角。當巴西在2000年代起草《網際網路民法》（巴西網際網路權利法案）時，它採用了多利益相關方治理方法，匯集了包括政府、民間社會、學術界和工業界在內的各種群體，參與對話、決策和實施。這種協作過程有助於捕捉不同利益相關者的不同觀點和權衡，最終提高人工智慧監管的透明度和有效性。

2023年5月，一項新法案獲得通過，取代了2021年的法案。它要求在部署人工智慧系統之前進行風險評估，並區分「高風險」和「過度風險」系統。後者以其暴露或利用漏洞的潛力為特徵，並將受到行政部門的監管。

### 加拿大

《泛加拿大人工智慧戰略》（2017年）由聯邦政府提供1.25億加元的資金支持，其目標是增加加拿大優秀人工智慧研究人員的數量和高技能畢業生，在三個主要人工智慧中心建立科學卓越節點，就人工智慧進步的經濟、倫理、政策和法律影響發展「全球思想領導力」，並支持從事人工智慧研究的國家研究社區。加拿大CIFAR人工智慧教席計劃是該戰略的基石。它在五年內獲得8650萬加元的資金，以吸引和留住世界知名的人工智慧研究人員。聯邦政府於2019年5月任命了一個人工智慧諮詢委員會，其重點是研究如何利用加拿大的優勢，確保人工智慧的進步反映加拿大的價值觀，如人權、透明度和開放性。人工智慧諮詢委員會成立了一個工作組，研究從加拿大擁有的人工智慧和數據分析中提取商業價值。2020年，聯邦政府和魁北克省政府宣布在蒙特婁開設國際人工智慧專業知識中心，該中心將推動人工智慧負責任發展的事業。2022年6月，加拿大政府啟動了泛加拿大人工智慧戰略的第二階段。2022年11月，加拿大提出了《數字憲章實施法案》（C-27號法案），該法案提出三項法案，被描述為關於信任和隱私的整體立法方案：《消費者隱私保護法》、《個人資訊和數據保護法庭法》以及《人工智慧與數據法》（AIDA）。

2023年9月，加拿大政府推出了一項《負責任開發和管理的先進生成式人工智慧系統自願行為準則》。該準則最初基於公眾諮詢，旨在為加拿大公司提供關於負責任人工智慧實踐的臨時指導。其最終目的是在正式立法（如《人工智慧與數據法》）頒布之前作為臨時措施。此外，2024年11月，加拿大政府還宣布成立加拿大人工智慧安全研究所（CAISI），作為24億加元聯邦人工智慧投資計劃的一部分。其中包括20億加元用於支持新的人工智慧主權計算戰略和人工智慧計算獲取基金，旨在加強加拿大的先進計算基礎設施。進一步的資金包括7億加元用於國內人工智慧發展，10億加元用於公共超級計算基礎設施，以及3億加元用於幫助公司獲取新的人工智慧資源。

### 中國

中國對人工智慧的監管主要由中華人民共和國國務院2017年7月8日發布的《新一代人工智慧發展規劃》（國發〔2017〕35號）規定。在該規劃中，中共中央和國務院敦促中國各治理機構促進人工智慧的發展直至2030年。關於人工智慧發展中的倫理和法律支持問題的監管正在加速，政策確保了國家對中資企業和有價值數據（包括將中國使用者數據存儲在國內、強制使用中華人民共和國國家標準進行人工智慧開發，包括大數據、雲計算和工業軟體）的控制。2021年，中國發布了人工智慧倫理指南，指出研究人員必須確保人工智慧遵循共同的人類價值觀，始終處於人類控制之下，並且不危及公共安全。2023年，中國出台了《生成式人工智慧服務管理暫行辦法》。

2023年8月15日，中國首批生成式人工智慧措施正式生效，成為全球首批針對生成式人工智慧的全面國家監管框架之一。這些措施適用於向中國公眾提供生成式人工智慧服務的所有提供者，包括外國實體，最終制定了與數據保護、透明度和算法問責相關的規則。

2026年4月，中國國家發展和改革委員會命令Meta解除其以20億美元收購Manus (AI agent)（一家於2025年從中國遷至新加坡的人工智慧初創公司）的交易。這標誌著阻止已完成的跨境科技交易的罕見舉措。這一決定表明北京方面試圖阻止外國公司獲取中國人工智慧人才和智慧財產權，將國家安全審查確立為涉及中國資產、創始人或技術的跨境技術交易的常規條件。

與此同時，早期的法規，如中國政府的《深度合成規定》（2023年1月生效）和《演算法推薦規定》（2022年3月生效），繼續塑造中國對人工智慧驅動系統的治理，包括要求向國家網際網路資訊辦公室（CAC）進行水印標註和算法備案。此外，2023年10月，中國還實施了一套科技倫理審查辦法，對被認為具有社會敏感性或可能對輿論產生負面影響的AI項目強制進行某些倫理評估。截至2024年年中，已有超過1400種人工智慧演算法在CAC的演算法備案制度下註冊，該制度包括披露要求和違規處罰。這種分層方法反映了更廣泛的政策過程，不僅由中央指令塑造，還受到學術輸入、民間社會關切和公共討論的影響。

後續程序制定了詳細的強制性人工智慧內容標註規則。2025年，中國監管機構發布了《人工智慧生成合成內容標識辦法》。這些程序規範了人工智慧生成的文本、圖像、音訊、影片和虛擬場景中使用螢幕披露標籤和嵌入來源元數據的標準。此外，它們還引入了在線服務提供商在嵌入元數據中披露其名稱或代碼以及內容參考號的強制性要求，鼓勵使用數字水印，要求在線內容平台檢測或推斷人工智慧生成的素材並添加明顯的消費者披露，並要求提供商在在線服務條款中描述其標註方法。

### 哥倫比亞

儘管哥倫比亞尚未出台具體的人工智慧法律，但這並不意味著缺乏管理它的框架或倡議。事實上，為此目的已經發布了眾多文書，包括國家政策、倫理框架、路線圖、裁決和指南。此外，還有其他適用於人工智慧系統的現有法規，如數據保護、智慧財產權、消費者法律和民事責任規則。

最早發布的具體文書之一是2019年的CONPES 3920號文件，即《國家數據（大數據）利用政策》。該政策的主要目的是通過創造條件將數據作為一種資產來處理以產生社會和經濟價值，從而在哥倫比亞利用數據。

另一個里程碑發生在2021年，當時國家政府發布了《哥倫比亞人工智慧倫理框架》。這是一份針對公共實體的軟法指南，提供了在管理人工智慧相關項目時需要考慮的建議。

哥倫比亞於2022年採納了另一個關於人工智慧的框架：聯合國教科文組織的《人工智慧倫理問題建議書》。它包含了在人工智慧系統生命周期各個階段適用於公共和私營部門的價值觀和原則。

2023年，拉丁美洲和加勒比國家參與了一項關於人工智慧的區域政治承諾。它被稱為《聖地牙哥宣言》，其主要目的是促進該地區的倫理人工智慧。

2024年是在哥倫比亞治理人工智慧方面多產的一年。國家政府推出了倫理和可持續人工智慧採用的路線圖。工業和商業監督管理局發布了一份關於人工智慧系統中個人數據處理的指南。司法委員會發布了關於在司法部門使用人工智慧的指南。在全球範圍內，OECD原則得到了更新，聯合國發布了《全球數字契約》，聯合國通過了關於安全、可信和可靠的人工智慧系統促進可持續發展的A/78/L.49號決議。

2025年，國家政府發布了新的人工智慧國家政策，包含在CONPES 4144號文件中。憲法法院的T-067/25號裁決為獲取公共資訊和算法透明度提供了一些規則。

在國會頒布人工智慧法規之前，這些軟法文件可以指導哥倫比亞人工智慧系統的設計、開發和使用。

### 歐洲委員會

歐洲委員會是一個促進人權、民主和法治的國際組織。它包括46個成員國，包括歐盟2018年人工智慧合作宣言的所有29個簽署國。歐洲委員會創建了一個共同的法律空間，在此空間中，各成員國有法律義務保障《歐洲人權公約》中規定的權利。特別是關於人工智慧，「歐洲委員會的目標是確定人工智慧與我們的人權、民主和法治標準之間的交叉領域，並制定相關的標準制定或能力建設解決方案」。歐洲委員會確定的大量相關文件包括指南、憲章、論文、報告和戰略。這些人工智慧監管文件的撰寫機構不限於社會的某一個部門，包括組織、公司、機構和民族國家。

2019年，歐洲委員會啟動了一個評估對人工智慧進行具有法律約束力的監管必要性的進程，特別關注其對人權和民主價值觀的影響。關於條約的談判於2022年9月開始，涉及歐洲委員會的46個成員國以及阿根廷、澳大利亞、加拿大、哥斯大黎加、羅馬教廷、以色列、日本、墨西哥、秘魯、美利堅合眾國和烏拉圭，以及歐盟。2024年5月17日，通過了《人工智慧與人權、民主和法治框架公約》。它於2024年9月5日開放簽署。儘管由歐洲組織制定，但該條約對世界其他地區的國家開放加入。前十個簽署國是：安道爾、喬治亞、冰島、挪威、摩爾多瓦、聖馬利諾、英國、以色列、美國和歐盟。

### 捷克共和國

捷克共和國於2019年通過了《國家人工智慧戰略》，並於2024年更新為《捷克共和國2030年國家人工智慧戰略》。更新的戰略包括一項確保有效立法的條款，為開發者和使用者制定道德準則，建立監督機構，並促進人工智慧的倫理使用。

### 歐洲聯盟

歐盟是世界上最大的司法管轄區之一，通過《通用數據保護條例》（GDPR）、《數字服務法》和《數字市場法》在全球數位技術監管中發揮著積極作用。特別是在人工智慧方面，《人工智慧法案》在2023年被認為是全球影響最深遠的AI法規。

大多數歐盟成員國都有自己的國家人工智慧監管戰略，但這些戰略大體上是趨同的。歐盟以《歐洲人工智慧戰略》為指導，並得到人工智慧高級別專家組的支持。2019年4月，歐盟委員會發布了《可信賴人工智慧的倫理指南》，隨後於2019年6月發布了《可信賴人工智慧的政策與投資建議》。歐盟委員會的人工智慧高級別專家組負責可信賴AI的相關工作，委員會還發布了關於AI的安全與責任方面以及自動駕駛汽車倫理的報告。2020年，歐盟委員會就AI專項立法的提案徵求意見，該進程仍在進行中。

2020年2月2日，歐盟委員會發布了《人工智慧白皮書——歐洲追求卓越與信任的方法》。白皮書由兩個主要部分組成：「卓越生態系統」和「信任生態系統」。「信任生態系統」概述了歐盟對人工智慧監管框架的方法。在提議的方法中，委員會根據AI應用是否為「高風險」進行區分。只有高風險AI應用才應屬於未來歐盟監管框架的範圍。如果AI應用在風險行業（如醫療、交通或能源）中運行，並且「以可能產生重大風險的方式使用」，則被視為高風險。對於高風險AI應用，要求主要涉及：「訓練數據」、「數據與記錄保存」、「需提供的資訊」、「穩健性與準確性」以及「人工監督」。還有針對特定用途（如遠程生物識別）的要求。不屬於「高風險」的AI應用可以通過自願標籤計劃進行管理。在合規與執法方面，委員會考慮了事先合格評定，可能包括「測試、檢查或認證程序」和/或「對開發階段使用的演算法和數據集的檢查」。以國家主管部門合作框架形式存在的歐洲AI治理結構可以促進監管框架的實施。

2021年1月的草案於2021年4月14日在線洩露，一周後歐盟委員會提交了正式的「關於制定人工智慧統一規則的法規提案」。不久之後，《人工智慧法案》在此基礎上正式提出。該提案對2020年的基於風險的方法進行了細化，這次分為四個風險類別：「最小」、「有限」、「高風險」和「不可接受」。該提案在公眾辯論中受到嚴厲批評。學者們對提案中各種不明確之處表示擔憂——例如對AI構成的寬泛定義——並擔心可能產生意想不到的法律後果，特別是對患者和移民等弱勢群體。

風險類別「通用人工智慧」被添加到AI法案中，以適應像ChatGPT這樣的多功能模型，這些模型不適合基於應用的監管框架。與其他風險類別不同，通用AI模型可以根據其能力進行監管，而不僅僅是其用途。較弱的通用AI模型需要遵守透明度要求，而被認為構成「系統性風險」的模型（特別是那些使用超過1025次浮點運算的計算能力訓練的模型）還必須經過徹底評估過程。AI法案的後續版本最終於2024年5月通過。AI法案將逐步執行。情緒識別和實時遠程生物識別將被禁止，但有一些例外，例如執法部門使用。

歐盟的《人工智慧法案》創建了一個具有重大全球影響的監管框架。該立法引入了一種基於風險的方法對AI系統進行分類，重點關注高風險應用，如醫療、教育和公共安全。它要求組織確保其AI解決方案的透明度、數據治理和人工監督。雖然這旨在促進合乎倫理的AI使用，但嚴格的要求可能會增加管理費用和合規成本，延誤某些AI的設計和部署。

觀察人士對馮德萊恩委員會下立法提案的激增表示擔憂。立法倡議的速度在一定程度上受到歐盟政治雄心的驅動，可能危及歐洲公民的數字權利，包括隱私權，特別是在面臨通過網路安全保護數據的不確定保障時。馮德萊恩委員會下AI領域各種立法提案中所述的指導原則包括戰略自主和數字主權的概念。2024年5月29日，歐洲審計院發布了一份報告，指出歐盟的措施與成員國的措施協調不佳；投資監測不系統；需要更強有力的治理。

歐盟的《人工智慧法案》（條例(EU) 2024/1689）於2024年8月1日生效，創建了一個基於風險的AI系統法律框架，包括對通用人工智慧模型的特殊規定，該規定將於2025年8月2日起執行。

### 芬蘭

芬蘭已任命一個工作組，評估歐盟《人工智慧法案》所需的國家立法，並準備關於其實施的國家立法提案。該工作組於2024年4月29日開始評估，預計將於2026年6月30日結束。

### 德國

2020年11月，DIN、DIN和VDE的德國電工、電子與資訊技術委員會和德國聯邦經濟事務和能源部發布了第一版《德國人工智慧標準化路線圖》（NRM KI），並在德國聯邦政府的數字峰會上向公眾展示。NRM KI描述了對人工智慧背景下未來法規和標準的要求。實施行動建議旨在幫助加強德國經濟和科學在人工智慧領域國際競爭中的地位，並為這一新興技術創造有利於創新的條件。第一版是由300名專家撰寫的200頁文件。NRM KI的第二版於2022年12月9日與德國政府數字峰會同時發布。DIN協調了來自科學、工業、民間社會和公共部門等廣泛領域的570多位參與專家。第二版是一份450頁的文件。

一方面，NRM KI涵蓋了應用方面的重點主題（如醫學、交通、能源與環境、金融服務、工業自動化）和基本問題（如AI分類、安全性、可認證性、社會技術系統、倫理）。另一方面，它提供了跨廣泛利益群體和資訊來源的AI領域及其環境的核心術語概述。總計，該文件涵蓋了116項標準化需求，並提出了六項核心行動建議。

### 以色列

2022年10月30日，根據2021年8月第212號政府決議，以色列創新、科學與技術部發布了《人工智慧政策、監管與倫理原則》白皮書徵求公眾意見。到2023年12月，創新部與司法部聯合發布了一份AI監管與倫理政策文件，概述了若干AI倫理原則和一系列建議，包括選擇基於部門的監管、基於風險的方法、偏好「軟性」監管工具（如AI沙盒），以及與現有全球AI監管方法保持一致。

2023年12月，以色列公布了其首個全面的國家AI政策，該政策是通過部際和利益相關者協商合作制定的。總體而言，新政策概述了與當前OECD指南一致的倫理原則，並推薦了一個基於部門、風險驅動的監管框架，重點關注透明度和問責等領域。該政策提議建立一個國家AI政策協調中心以支持監管機構，並進一步開發負責任部署AI所需的工具。此外，與其他56個國家一起，除了國內政策制定，以色列於2024年3月簽署了世界上首個具有約束力的人工智慧國際條約。該特定條約由歐洲委員會牽頭，要求籤署國確保當前的AI系統維護民主價值觀、人權和法治。

### 義大利

2024年3月，義大利數據保護機構主席重申該機構已準備好實施歐盟新出台的《人工智慧法案》，並讚揚了機構能力和獨立性的框架。義大利繼續通過現有法律框架制定AI應用指南，包括在執法面部識別、醫療AI、深度偽造和智能助手等領域的最新創新。義大利政府的國家AI戰略（2022-2024年）強調負責任的創新，並概述了人才發展、公共和私營部門採用以及與歐盟層面倡議協調的監管清晰度等目標。雖然義大利尚未頒布獨立的AI立法，但法院和監管機構已開始解釋現有法律，以解決演算法決策中的透明度、非歧視和人工監督問題。

### 摩洛哥

在摩洛哥，議會中的一個政黨聯盟提出了一項新的立法提案，旨在建立國家人工智慧機構。該機構旨在監管AI技術，加強與國際實體的合作，並提高公眾對AI可能性和風險的認識。

近年來，摩洛哥努力在法律領域推進人工智慧的使用，特別是通過協助司法預測和文檔分析的AI工具，幫助簡化判例法研究並支持法律從業者處理更複雜的任務。在建立國家AI機構的同時，AI正逐步引入摩洛哥的立法和司法程序，持續的討論強調了這些技術的好處和潛在風險。

總體而言，摩洛哥的更廣泛數字政策包括強有力的數據治理措施，如2009年《個人數據保護法》和2020年《網路安全法》，這些法律在隱私、違規通知和數據本地化等領域制定了要求。截至2024年，額外的法令還擴大了國家雲基礎設施和數據審計的網路安全標準。雖然不強制要求普遍數據本地化，但敏感的政府和關鍵基礎設施數據必須存儲在國內。監管工作由國家個人數據保護委員會（CNDP）和資訊系統安全總局（DGSSI）領導，但該國的公共執法行動仍然有限。

### 紐西蘭

截至2023年7月，紐西蘭尚無專門的AI立法，但AI的使用受現有法律監管，包括《隱私法》、《人權法》、《公平交易法》和《有害數字通信法》。

2020年，紐西蘭政府贊助了世界經濟論壇的一個試點項目，名為「為人工智慧時代重新構想監管」，旨在創建圍繞AI的監管框架。同年，《隱私法》得到更新，以規範紐西蘭人在AI中的個人資訊使用。2023年，隱私專員發布了關於根據資訊隱私原則使用AI的指南。2024年2月，總檢察長兼技術部長宣布成立議會跨黨派人工智慧核心小組，並正在制定政府使用AI的框架。她還宣布，當時沒有計劃進行額外監管。

### 菲律賓

2023年，菲律賓眾議院提出了一項法案，提議建立人工智慧發展局（AIDA），負責監督人工智慧的開發和研發。AIDA還被提議作為打擊利用AI犯罪行為的監督機構。

選舉委員會也在2024年考慮禁止在競選活動中使用AI和深度偽造。他們希望實施的法規最早能適用於2025年的大選。

### 瑞士

瑞士目前沒有專門的人工智慧立法，但2025年2月12日，聯邦委員會宣布計劃批准歐洲委員會的AI公約並將其納入瑞士法律。草案和實施方案將在2026年底前準備就緒。該方法包括基於部門的監管、有限的跨部門規則（如數據保護）以及非約束性措施（如行業協議）。其目標是支持創新、保護基本權利並建立公眾對AI的信任。

### 英國

英國通過2015年初由Innovate UK作為英國數字戰略一部分推出的《2015-2018年數字經濟戰略》，支持AI在商業中的應用和發展。在公共部門，數字、文化、媒體和體育部就數據倫理提供建議，艾倫·圖靈研究所提供關於負責任設計和實施AI系統的指導。在網路安全方面，2020年國家網路安全中心發布了關於「智能安全工具」的指南。次年，英國發布了為期10年的國家AI戰略，其中描述了評估長期AI風險（包括與AGI相關的災難性風險）的行動。

2023年3月，英國發布了白皮書《促進創新的AI監管方法》。該白皮書提出了普遍的AI原則，但給現有監管機構留下了很大的靈活性，使它們能夠將這些原則應用於特定領域（如交通或金融市場）。2023年11月，英國主辦了首屆AI安全峰會，首相里希·蘇納克旨在將英國定位為AI安全監管的領導者。在峰會期間，英國創建了一個AI安全研究所，作為由Ian Hogarth領導的「前沿AI工作組」的演變。該研究所被特別賦予推進世界上最先進AI模型（也稱為前沿AI模型）安全評估的責任。

英國政府表示不願過早立法，認為這可能會降低該行業的增長速度，並且法律可能會因進一步的技術進步而過時。

<image>

### 美國

在美國，關於AI監管的討論包括諸如監管AI的時機、規範和促進AI的聯邦監管框架的性質（包括由哪個機構領導、該機構的監管和治理權力）、如何在快速變化的技術面前更新法規，以及州政府和法院的角色等問題。

在美國，2023年10月關於AI安全與保障的行政命令提出了聯邦對AI開發和部署的要求。該命令還要求開發最強大AI系統的人在向公眾發布之前，與政府機構分享所有安全測試結果。

2025年12月12日，川普總統簽署了一項行政命令，指示聯邦機構制定統一的全國AI政策方法，評估州AI法律是否存在潛在衝突，通過法律行動挑戰這些法律，並根據州的合規情況決定某些聯邦資金的撥付，同時豁免與兒童安全、數據中心基礎設施和州政府採購相關的州法律。白宮助手威爾·沙夫在橢圓形辦公室評論該行政命令時說：「這是一項行政命令，要求你們政府的各個方面採取果斷行動，確保AI能夠在這個國家的單一國家框架內運行，而不是受制於可能嚴重損害該行業的州級監管。」美國經濟研究所出版物的撰稿人沃爾特·唐威批評該命令說：「其背後的前提在哲學上是錯誤的：中央權威比在自由市場中運作的數百萬參與者的分布式知識更能預見新興技術的風險。這個前提在應用於鐵路、廣播、電力、電話、航空和核電時是錯誤的。應用於人工智慧時則更加災難性地錯誤。」

## 對全自主武器的監管

根據《特定常規武器公約》，各國自2014年以來一直在就致命自主武器系統的可能國際規則進行討論，這是戰爭中人工智慧監管的一個重要領域。值得注意的是，非正式專家會議於2014年、2015年和2016年舉行，2016年任命了一個政府專家組進一步審議該問題。2018年，致命自主武器系統政府專家組確認的一套關於致命自主武器系統的指導原則獲得通過。這些討論涉及國際人道法、問責制、可能的禁止和監管，以及對AI賦能武器所需的人類控制程度。

2016年，中國發表了一份立場文件，質疑現行國際法是否有能力應對全自主武器的可能性，成為聯合國安理會第一個提出該問題的常任理事國，並導致了對全球監管的提議。其他《特定常規武器公約》締約國代表團也曾多次提出暫停或先發制人禁止開發和使用致命自主武器系統的可能性，並且得到了停止殺手機器人運動（一個非政府組織聯盟）的強烈倡導。美國政府堅持認為，現行國際人道法能夠規範致命自主武器系統的開發或使用。美國國會研究服務部在2023年表示，美國庫存中沒有致命自主武器系統，但其政策並不禁止其開發和部署。