人工智能监管

人工智能监管是指公共部门为促进和规范人工智能而制定的政策与法律。在全球各司法管辖区，包括像IEEE或OECD这样没有直接执法权的国际组织，人工智能的监管与政策格局都是一个新兴问题。

自2016年以来，为了保持社会对这项技术的控制，已发布了大量人工智能伦理指南。此外，部署人工智能的组织在创建和实施可信赖人工智能、遵守既定原则以及承担降低风险的责任方面，需要发挥核心作用。欧盟已于2024年通过《人工智能法案》，为人工智能建立了一个共同的法律框架。

## 背景

根据斯坦福大学2025年人工智能指数报告，自2023年以来，75个国家立法中对人工智能的提及增加了21.3%，自2016年以来增长了九倍。美国联邦机构在2024年出台了59项与人工智能相关的法规，是2023年的两倍多。2024年，全美45个州提出了近700项与人工智能相关的法案，而2023年仅为191项。

目前，关于人工智能监管的程度或机制尚无广泛共识。该领域的几位知名人士，包括埃隆·马斯克、萨姆·奥尔特曼、达里奥·阿莫代伊和德米斯·哈萨比斯，已公开呼吁立即对人工智能进行监管。2023年，在GPT-4问世后，埃隆·马斯克等人签署了一封暂停巨型人工智能实验：一封公开信，呼吁暂停训练更强大的人工智能系统。另一些人，如马克·扎克伯格和马克·安德森则警告过早监管可能会扼杀创新。

在2022年益普索的一项调查中，各国对人工智能的态度差异很大；78%的中国公民同意“使用人工智能的产品和服务利大于弊”，而美国人中这一比例仅为35%。益普索的民意调查还发现，61%的美国人同意人工智能对人类构成风险，22%的人不同意。在2023年福克斯新闻的一项民意调查中，35%的美国人认为联邦政府监管人工智能“非常重要”，另有41%的人认为“有些重要”，而13%的人回答“不太重要”，8%的人回答“完全不重要”。

2023年，英国启动了系列人工智能国际峰会，以AI安全峰会为首。随后是2024年的AI首尔峰会、2025年在巴黎举行的AI行动峰会，以及2026年在新德里举行的AI影响峰会。

## 观点

人工智能监管是指公共部门为促进和规范人工智能而制定的政策与法律。公共行政和政策考量通常集中在技术和经济影响、可信赖和以人为中心的人工智能系统、对人工超级智能的监管、机器学习算法的风险和偏见、模型输出的可解释性、以及开源人工智能与不受约束的人工智能使用之间的张力。

关于人工智能监管，已有硬法和软法两种提案。一些法律学者指出，硬法路径在人工智能监管方面面临重大挑战。在这些挑战中，人工智能技术正在迅速发展，导致“步调问题”，即传统法律法规往往无法跟上新兴应用及其相关的风险和收益。同样，人工智能应用的多样性挑战了现有的监管机构，这些机构通常管辖范围有限。作为替代方案，一些法律学者认为软法路径在人工智能监管方面很有前景，因为它们提供了更大的灵活性来适应新兴技术和人工智能应用不断发展的性质。然而，软法路径往往缺乏实质性的执行潜力。

卡森·施密特、梅根·多尔（Megan Doerr）和珍妮弗·瓦格纳（Jennifer Wagner）提出，通过利用某些人工智能对象（即人工智能模型和训练数据集）的知识产权（即著佐权许可）并将执行权委托给指定的执行实体，来创建一个准政府监管机构。他们认为，人工智能可以按照要求遵守特定伦理实践和行为准则的条款进行许可（例如软法原则）。

专注于人工智能的知名青年组织，如Encode AI，也发布了全面的议程，呼吁更严格的人工智能监管和公私合作伙伴关系。

人工智能监管可能源于基本原则。2020年伯克曼·克莱因互联网与社会中心对现有原则集（如阿西洛马原则和北京原则）的一项元审查确定了八项基本原则：隐私、问责、安全与保障、透明度与可解释性、公平与非歧视、人类对技术的控制、职业责任、尊重人类价值观。人工智能法律和法规被分为三个主要主题：自主智能系统的治理、系统的责任与问责、以及隐私和安全问题。公共行政视角看到了人工智能法律与法规、人工智能伦理以及“人工智能社会”（定义为劳动力替代与转型、社会接受与对人工智能的信任、以及人机交互的转型）之间的关系。在地方、国家、和国际层面，以及在从公共服务管理和问责到执法、医疗保健（特别是“人类保证”的概念）、金融部门、机器人、自动驾驶汽车、军事和国家安全、以及国际法等领域，制定公共部门管理和监管人工智能的战略被认为是必要的。

亨利·基辛格、埃里克·施密特和丹尼尔·胡滕洛赫尔于2021年11月发表了一份联合声明，题为《人工智能时代的人类》，呼吁设立一个政府委员会来监管人工智能。

2025年，英国和美国政府拒绝在巴黎举行的AI行动峰会上签署一项关于人工智能的国际协议。该协议被描述为提出了一个开放、包容和道德的人工智能发展路径，包括环境保护措施。美国副总统JD·万斯认为，该协议将损害人工智能行业的发展。英国政府补充说，该协议“没有为全球治理提供足够的实际明确性，也没有充分解决围绕国家安全的更棘手问题”。

### 作为对人工智能控制问题的回应

人工智能监管可以被视为管理人工智能控制问题（确保长期有益的人工智能的必要性）的积极社会手段，而其他社会应对措施（如无所作为或彻底禁止）被认为是不切实际的，并且通过超人类主义技术（如脑机接口）增强人类能力的方法被视为可能具有互补性。对人工通用智能（AGI）研究的监管侧重于审查委员会的作用（从大学或公司到国际层面），以及鼓励AI安全研究，同时结合差异化技术发展（在人工智能发展中优先考虑保护性策略而非风险性策略）或进行国际大规模监控以实施AGI军备控制的可能性。例如，“AGI保姆”是一项被提议的策略，可能置于人类的控制之下，旨在防止危险的超级智能的产生，并解决对人类福祉的其他重大威胁（如颠覆全球金融体系），直到可以安全地创造出真正的超级智能。它涉及创建一个比人类更聪明但尚未达到超级智能水平的AGI系统，连接到一个大型监控网络，目标是监控人类并保护其免受危险。对有意识、具有伦理意识的AGI的监管侧重于如何将它们与现有人类社会融合，并可分为对其法律地位和道德权利的考量。人工智能监管被视为具有限制性，存在阻碍AGI发展的风险。

## 全球指导

<image>

设立全球治理委员会来监管人工智能发展的提议至少早在2017年就已提出。2018年12月，加拿大和法国宣布计划建立一个G7支持的国际人工智能小组，仿照政府间气候变化专门委员会的模式，研究人工智能对人类和经济的全球影响，并引导人工智能的发展。2019年，该小组更名为全球人工智能伙伴关系。

全球人工智能伙伴关系（GPAI）于2020年6月启动，指出需要根据人权和民主价值观发展人工智能，以确保公众对该技术的信心和信任，正如OECD《人工智能原则》（2019年）所概述的那样。全球人工智能伙伴关系的15个创始成员是澳大利亚、加拿大、欧盟、法国、德国、印度、意大利、日本、韩国、墨西哥、新西兰、新加坡、斯洛文尼亚、美国和英国。2023年，GPAI已有29个成员。GPAI秘书处设在法国巴黎的OECD。GPAI的职责涵盖四个主题，其中两个由蒙特利尔国际人工智能专业知识中心支持，分别是负责任的人工智能和数据治理。巴黎的一个相应卓越中心将支持另外两个主题：未来工作，以及创新与商业化。GPAI还研究了如何利用人工智能应对COVID-19大流行。

OECD人工智能原则于2019年5月通过，G20人工智能原则于2019年6月通过。2019年9月，世界经济论坛发布了十项“人工智能政府采购指南”。2020年2月，欧盟发布了其促进和监管人工智能的战略文件草案。

在联合国，多个实体已开始推动和讨论人工智能监管与政策的各个方面，包括UNICRI人工智能与机器人中心。与国际刑警组织合作，UNICRI中心于2019年4月发布了报告《执法中的人工智能与机器人》，并于2020年5月发布了后续报告《迈向负责任的人工智能创新》。在2019年11月联合国教科文组织第40届科学会议上，该组织启动了一个为期两年的进程，以达成一项“关于人工智能伦理的全球标准制定文书”。为实现这一目标，教科文组织举办了关于人工智能的论坛和会议，以收集利益相关者的意见。2020年9月，教科文组织特设专家组发布了《人工智能伦理建议书》草案文本，其中呼吁填补立法空白。教科文组织于2021年11月将关于人工智能伦理的国际文书提交其大会通过；该文书随后获得通过。虽然联合国在人工智能的全球管理方面正在取得进展，但其管理AGI存在风险的制度和法律能力更为有限。

最近的研究表明，各国也将开始使用人工智能作为国家网络防御的工具。人工智能是网络军备工业中的一个新因素，因为它可以用于防御目的。因此，学者们敦促各国应该为人工智能的使用制定法规，就像其他军事工业有法规一样。

近年来，学术研究人员做出了更多努力来促进多边对话和政策制定，倡导通过国际框架来规范人工智能在军事和网络安全背景下的部署，并特别强调人权和国际人道法。诸如《慕尼黑人工智能、数据与人权公约》等倡议——汇集了来自不同学术机构的学者——呼吁制定具有约束力的国际协议，以在人工智能时代保护人权。此类倡议的一个关键要素是找到不同区域方法之间的共同点，例如非洲联盟和欧洲委员会的方法。

2025年9月，在联合国大会上提出了一项全球关于人工智能红线的呼吁，敦促各国政府在2026年底前达成一项具有约束力的协议，禁止不可接受的人工智能使用和行为。

### 七国集团

2023年10月30日，七国集团国家通过了一套关于先进人工智能系统设计、开发和部署的十一项指导原则。这些原则是广岛进程的一部分，该进程是一个旨在确保人工智能技术在全球市场上得到负责任实施的框架。除了这些原则，还推出了一套针对人工智能开发者的自愿行为准则，以鼓励新兴人工智能模型和平台中的透明度、问责制和风险缓解。

该公告在国际上受到欢迎，尤其是乌尔苏拉·冯德莱恩表示，该倡议反映了当时处于最后谈判阶段的AI指令的方向。

新的指南还旨在建立一项协调一致的全球努力，以促进先进人工智能系统的负责任开发和使用。虽然不具约束力，但七国集团政府鼓励组织自愿采用这些指南，这些指南强调了贯穿人工智能生命周期——从部署前风险评估到部署后事件报告和缓解——的基于风险的方法。

七国集团的人工智能原则及行为准则还强调了人工智能系统安全性、内部对抗性测试（“红队演练”）、关于能力和局限性的公开透明度，以及包含隐私保护和内容认证工具的治理程序的重要性。该指南还促进了旨在解决气候变化和公共卫生等全球挑战的人工智能创新，并呼吁推进国际技术标准。

展望未来，七国集团计划与其他组织（如经合组织、全球人工智能伙伴关系）以及更广泛的利益相关者合作，进一步完善其原则和行为准则。需要进一步发展的领域包括：更明确的人工智能术语（例如“先进人工智能系统”）、设定风险基准，以及建立关于潜在人工智能风险的跨境信息共享机制。尽管在人工智能安全性方面总体上保持一致，但分析人士指出，不同的监管理念——例如欧盟规范性的AI法案与美国针对特定行业的方法——可能会对全球监管协调构成挑战。

## 区域与国家监管

<image>

人工智能的监管与政策格局是全球各区域和国家司法管辖区的一个新兴问题，例如在欧盟和俄罗斯。自2016年初以来，许多国家、区域和国际机构已开始通过关于人工智能的战略、行动计划和政策文件。这些文件涵盖了广泛的主题，例如监管与治理，以及工业战略、研究、人才和基础设施。

不同国家以不同方式处理这个问题。关于三大经济体，有人指出“美国遵循市场驱动的方法，中国推行国家驱动的方法，而欧盟则追求权利驱动的方法”。

### 非洲联盟

非洲联盟在这一领域日益活跃。最重要的是，非洲人权和人民权利委员会发布了一份关于人工智能与人权的研究报告，并倡导制定《非洲人工智能与人权框架公约》。这一倡议建立在非盟内部较早的辩论基础上，特别是关于自主致命武器的讨论，非洲代表此前已在国际论坛上提出过这一问题。

拟议的非洲框架的一个显著特点是其强烈强调集体权利，正如《非洲人权和人民权利宪章》所载明的那样。这一方法嵌入在更广泛的辩论中，即如何使人工智能治理与非洲价值观（包括像乌班图“对人仁慈”这样的伦理传统）保持一致。

### 澳大利亚

2023年10月，澳大利亚计算机协会、澳大利亚商业理事会、澳大利亚工商会、澳大利亚工业集团、澳大利亚小企业组织理事会和澳大利亚技术理事会联合发表了一封公开信，呼吁采取全国性的人工智能战略方法。这封信支持联邦政府建立一个全政府的人工智能特别工作组。

此外，2024年8月，澳大利亚政府制定了自愿性人工智能安全标准，随后于同年9月发布了一份提案文件，概述了针对高风险人工智能的潜在护栏，这些护栏可能成为强制性的。这些护栏包括模型测试、透明度、人工监督和记录保存等领域，所有这些都可能通过新的立法来强制执行。然而，值得注意的是，澳大利亚尚未通过专门针对人工智能的法律，但现有的法规，如1988年《隐私法》、2001年《公司法》和2021年《在线安全法》，都适用于人工智能的使用。

2024年9月，提出了一项法案，授予澳大利亚通信与媒体管理局监管人工智能生成的错误信息的权力。包括ACMA、澳大利亚竞争与消费者委员会和澳大利亚信息专员办公室在内的几个机构预计都将在未来的人工智能监管中发挥作用。

南澳大利亚州政府于2026年3月任命了该州的人工智能与数字经济部长。

### 巴西

2021年9月30日，巴西众议院批准了《巴西人工智能法律框架》。该立法旨在监管人工智能的开发和使用，同时促进在优先考虑文化、正义、公平和问责的道德人工智能解决方案方面的研究和创新。这项包含10条条款的法案确立了若干关键目标：制定人工智能的伦理原则、促进持续的研究投资、消除创新障碍。第4条特别强调了防止歧视性人工智能解决方案、确保多元性和保护人权。

当该法案首次向公众发布时，它面临了实质性的批评，使政府对关键条款感到警觉。根本问题在于，该法案未能彻底和审慎地解决问责、透明度和包容性原则。第六条确立了主观责任，意味着任何受到人工智能系统损害并希望获得赔偿的个人必须指定利益相关者，并证明在机器的生命周期中存在错误。学者们强调，鉴于人工智能系统的高度自主性、不可预测性和复杂性，让个人负责证明算法错误是不符合法律逻辑的。这也引起了人们对巴西目前发生的人脸识别系统导致警察不公正逮捕问题的关注，这意味着当该法案通过后，个人将不得不证明和解释这些机器错误。

该草案的主要争议针对三项拟议原则。首先，非歧视原则建议人工智能的开发和使用必须以仅减轻滥用和歧视性做法的可能性的方式进行。其次，追求中立原则列出了为利益相关者减轻偏见的建议；但没有义务实现这一目标。最后，透明度原则规定，只有在存在侵犯基本权利的高风险时，系统的透明度才是必要的。显而易见，巴西人工智能法律框架缺乏有约束力和强制性的条款，而是充满了宽松的指导方针。事实上，专家们强调，这项法案甚至可能使人工智能歧视性偏见的问责更加难以实现。与欧盟提出的广泛的基于风险的法规相比，巴西的法案只有10条条款，提出了模糊和笼统的建议。

巴西的人工智能法案缺乏构成早期巴西互联网立法特征的多样化视角。当巴西在2000年代起草《互联网民法》（巴西互联网权利法案）时，它采用了多利益相关方治理方法，汇集了包括政府、民间社会、学术界和工业界在内的各种群体，参与对话、决策和实施。这种协作过程有助于捕捉不同利益相关者的不同观点和权衡，最终提高人工智能监管的透明度和有效性。

2023年5月，一项新法案获得通过，取代了2021年的法案。它要求在部署人工智能系统之前进行风险评估，并区分“高风险”和“过度风险”系统。后者以其暴露或利用漏洞的潜力为特征，并将受到行政部门的监管。

### 加拿大

《泛加拿大人工智能战略》（2017年）由联邦政府提供1.25亿加元的资金支持，其目标是增加加拿大优秀人工智能研究人员的数量和高技能毕业生，在三个主要人工智能中心建立科学卓越节点，就人工智能进步的经济、伦理、政策和法律影响发展“全球思想领导力”，并支持从事人工智能研究的国家研究社区。加拿大CIFAR人工智能教席计划是该战略的基石。它在五年内获得8650万加元的资金，以吸引和留住世界知名的人工智能研究人员。联邦政府于2019年5月任命了一个人工智能咨询委员会，其重点是研究如何利用加拿大的优势，确保人工智能的进步反映加拿大的价值观，如人权、透明度和开放性。人工智能咨询委员会成立了一个工作组，研究从加拿大拥有的人工智能和数据分析中提取商业价值。2020年，联邦政府和魁北克省政府宣布在蒙特利尔开设国际人工智能专业知识中心，该中心将推动人工智能负责任发展的事业。2022年6月，加拿大政府启动了泛加拿大人工智能战略的第二阶段。2022年11月，加拿大提出了《数字宪章实施法案》（C-27号法案），该法案提出三项法案，被描述为关于信任和隐私的整体立法方案：《消费者隐私保护法》、《个人信息和数据保护法庭法》以及《人工智能与数据法》（AIDA）。

2023年9月，加拿大政府推出了一项《负责任开发和管理的先进生成式人工智能系统自愿行为准则》。该准则最初基于公众咨询，旨在为加拿大公司提供关于负责任人工智能实践的临时指导。其最终目的是在正式立法（如《人工智能与数据法》）颁布之前作为临时措施。此外，2024年11月，加拿大政府还宣布成立加拿大人工智能安全研究所（CAISI），作为24亿加元联邦人工智能投资计划的一部分。其中包括20亿加元用于支持新的人工智能主权计算战略和人工智能计算获取基金，旨在加强加拿大的先进计算基础设施。进一步的资金包括7亿加元用于国内人工智能发展，10亿加元用于公共超级计算基础设施，以及3亿加元用于帮助公司获取新的人工智能资源。

### 中国

中国对人工智能的监管主要由中华人民共和国国务院2017年7月8日发布的《新一代人工智能发展规划》（国发〔2017〕35号）规定。在该规划中，中共中央和国务院敦促中国各治理机构促进人工智能的发展直至2030年。关于人工智能发展中的伦理和法律支持问题的监管正在加速，政策确保了国家对中资企业和有价值数据（包括将中国用户数据存储在国内、强制使用中华人民共和国国家标准进行人工智能开发，包括大数据、云计算和工业软件）的控制。2021年，中国发布了人工智能伦理指南，指出研究人员必须确保人工智能遵循共同的人类价值观，始终处于人类控制之下，并且不危及公共安全。2023年，中国出台了《生成式人工智能服务管理暂行办法》。

2023年8月15日，中国首批生成式人工智能措施正式生效，成为全球首批针对生成式人工智能的全面国家监管框架之一。这些措施适用于向中国公众提供生成式人工智能服务的所有提供者，包括外国实体，最终制定了与数据保护、透明度和算法问责相关的规则。

2026年4月，中国国家发展和改革委员会命令Meta解除其以20亿美元收购Manus (AI agent)（一家于2025年从中国迁至新加坡的人工智能初创公司）的交易。这标志着阻止已完成的跨境科技交易的罕见举措。这一决定表明北京方面试图阻止外国公司获取中国人工智能人才和知识产权，将国家安全审查确立为涉及中国资产、创始人或技术的跨境技术交易的常规条件。

与此同时，早期的法规，如中国政府的《深度合成规定》（2023年1月生效）和《算法推荐规定》（2022年3月生效），继续塑造中国对人工智能驱动系统的治理，包括要求向国家互联网信息办公室（CAC）进行水印标注和算法备案。此外，2023年10月，中国还实施了一套科技伦理审查办法，对被认为具有社会敏感性或可能对舆论产生负面影响的AI项目强制进行某些伦理评估。截至2024年年中，已有超过1400种人工智能算法在CAC的算法备案制度下注册，该制度包括披露要求和违规处罚。这种分层方法反映了更广泛的政策过程，不仅由中央指令塑造，还受到学术输入、民间社会关切和公共讨论的影响。

后续程序制定了详细的强制性人工智能内容标注规则。2025年，中国监管机构发布了《人工智能生成合成内容标识办法》。这些程序规范了人工智能生成的文本、图像、音频、视频和虚拟场景中使用屏幕披露标签和嵌入来源元数据的标准。此外，它们还引入了在线服务提供商在嵌入元数据中披露其名称或代码以及内容参考号的强制性要求，鼓励使用数字水印，要求在线内容平台检测或推断人工智能生成的素材并添加明显的消费者披露，并要求提供商在在线服务条款中描述其标注方法。

### 哥伦比亚

尽管哥伦比亚尚未出台具体的人工智能法律，但这并不意味着缺乏管理它的框架或倡议。事实上，为此目的已经发布了众多文书，包括国家政策、伦理框架、路线图、裁决和指南。此外，还有其他适用于人工智能系统的现有法规，如数据保护、知识产权、消费者法律和民事责任规则。

最早发布的具体文书之一是2019年的CONPES 3920号文件，即《国家数据（大数据）利用政策》。该政策的主要目的是通过创造条件将数据作为一种资产来处理以产生社会和经济价值，从而在哥伦比亚利用数据。

另一个里程碑发生在2021年，当时国家政府发布了《哥伦比亚人工智能伦理框架》。这是一份针对公共实体的软法指南，提供了在管理人工智能相关项目时需要考虑的建议。

哥伦比亚于2022年采纳了另一个关于人工智能的框架：联合国教科文组织的《人工智能伦理问题建议书》。它包含了在人工智能系统生命周期各个阶段适用于公共和私营部门的价值观和原则。

2023年，拉丁美洲和加勒比国家参与了一项关于人工智能的区域政治承诺。它被称为《圣地亚哥宣言》，其主要目的是促进该地区的伦理人工智能。

2024年是在哥伦比亚治理人工智能方面多产的一年。国家政府推出了伦理和可持续人工智能采用的路线图。工业和商业监督管理局发布了一份关于人工智能系统中个人数据处理的指南。司法委员会发布了关于在司法部门使用人工智能的指南。在全球范围内，OECD原则得到了更新，联合国发布了《全球数字契约》，联合国通过了关于安全、可信和可靠的人工智能系统促进可持续发展的A/78/L.49号决议。

2025年，国家政府发布了新的人工智能国家政策，包含在CONPES 4144号文件中。宪法法院的T-067/25号裁决为获取公共信息和算法透明度提供了一些规则。

在国会颁布人工智能法规之前，这些软法文件可以指导哥伦比亚人工智能系统的设计、开发和使用。

### 欧洲委员会

欧洲委员会是一个促进人权、民主和法治的国际组织。它包括46个成员国，包括欧盟2018年人工智能合作宣言的所有29个签署国。欧洲委员会创建了一个共同的法律空间，在此空间中，各成员国有法律义务保障《欧洲人权公约》中规定的权利。特别是关于人工智能，“欧洲委员会的目标是确定人工智能与我们的人权、民主和法治标准之间的交叉领域，并制定相关的标准制定或能力建设解决方案”。欧洲委员会确定的大量相关文件包括指南、宪章、论文、报告和战略。这些人工智能监管文件的撰写机构不限于社会的某一个部门，包括组织、公司、机构和民族国家。

2019年，欧洲委员会启动了一个评估对人工智能进行具有法律约束力的监管必要性的进程，特别关注其对人权和民主价值观的影响。关于条约的谈判于2022年9月开始，涉及欧洲委员会的46个成员国以及阿根廷、澳大利亚、加拿大、哥斯达黎加、罗马教廷、以色列、日本、墨西哥、秘鲁、美利坚合众国和乌拉圭，以及欧盟。2024年5月17日，通过了《人工智能与人权、民主和法治框架公约》。它于2024年9月5日开放签署。尽管由欧洲组织制定，但该条约对世界其他地区的国家开放加入。前十个签署国是：安道尔、格鲁吉亚、冰岛、挪威、摩尔多瓦、圣马力诺、英国、以色列、美国和欧盟。

### 捷克共和国

捷克共和国于2019年通过了《国家人工智能战略》，并于2024年更新为《捷克共和国2030年国家人工智能战略》。更新的战略包括一项确保有效立法的条款，为开发者和用户制定道德准则，建立监督机构，并促进人工智能的伦理使用。

### 欧洲联盟

欧盟是世界上最大的司法管辖区之一，通过《通用数据保护条例》（GDPR）、《数字服务法》和《数字市场法》在全球数字技术监管中发挥着积极作用。特别是在人工智能方面，《人工智能法案》在2023年被认为是全球影响最深远的AI法规。

大多数欧盟成员国都有自己的国家人工智能监管战略，但这些战略大体上是趋同的。欧盟以《欧洲人工智能战略》为指导，并得到人工智能高级别专家组的支持。2019年4月，欧盟委员会发布了《可信赖人工智能的伦理指南》，随后于2019年6月发布了《可信赖人工智能的政策与投资建议》。欧盟委员会的人工智能高级别专家组负责可信赖AI的相关工作，委员会还发布了关于AI的安全与责任方面以及自动驾驶汽车伦理的报告。2020年，欧盟委员会就AI专项立法的提案征求意见，该进程仍在进行中。

2020年2月2日，欧盟委员会发布了《人工智能白皮书——欧洲追求卓越与信任的方法》。白皮书由两个主要部分组成：“卓越生态系统”和“信任生态系统”。“信任生态系统”概述了欧盟对人工智能监管框架的方法。在提议的方法中，委员会根据AI应用是否为“高风险”进行区分。只有高风险AI应用才应属于未来欧盟监管框架的范围。如果AI应用在风险行业（如医疗、交通或能源）中运行，并且“以可能产生重大风险的方式使用”，则被视为高风险。对于高风险AI应用，要求主要涉及：“训练数据”、“数据与记录保存”、“需提供的信息”、“稳健性与准确性”以及“人工监督”。还有针对特定用途（如远程生物识别）的要求。不属于“高风险”的AI应用可以通过自愿标签计划进行管理。在合规与执法方面，委员会考虑了事先合格评定，可能包括“测试、检查或认证程序”和/或“对开发阶段使用的算法和数据集的检查”。以国家主管部门合作框架形式存在的欧洲AI治理结构可以促进监管框架的实施。

2021年1月的草案于2021年4月14日在线泄露，一周后欧盟委员会提交了正式的“关于制定人工智能统一规则的法规提案”。不久之后，《人工智能法案》在此基础上正式提出。该提案对2020年的基于风险的方法进行了细化，这次分为四个风险类别：“最小”、“有限”、“高风险”和“不可接受”。该提案在公众辩论中受到严厉批评。学者们对提案中各种不明确之处表示担忧——例如对AI构成的宽泛定义——并担心可能产生意想不到的法律后果，特别是对患者和移民等弱势群体。

风险类别“通用人工智能”被添加到AI法案中，以适应像ChatGPT这样的多功能模型，这些模型不适合基于应用的监管框架。与其他风险类别不同，通用AI模型可以根据其能力进行监管，而不仅仅是其用途。较弱的通用AI模型需要遵守透明度要求，而被认为构成“系统性风险”的模型（特别是那些使用超过1025次浮点运算的计算能力训练的模型）还必须经过彻底评估过程。AI法案的后续版本最终于2024年5月通过。AI法案将逐步执行。情绪识别和实时远程生物识别将被禁止，但有一些例外，例如执法部门使用。

欧盟的《人工智能法案》创建了一个具有重大全球影响的监管框架。该立法引入了一种基于风险的方法对AI系统进行分类，重点关注高风险应用，如医疗、教育和公共安全。它要求组织确保其AI解决方案的透明度、数据治理和人工监督。虽然这旨在促进合乎伦理的AI使用，但严格的要求可能会增加管理费用和合规成本，延误某些AI的设计和部署。

观察人士对冯德莱恩委员会下立法提案的激增表示担忧。立法倡议的速度在一定程度上受到欧盟政治雄心的驱动，可能危及欧洲公民的数字权利，包括隐私权，特别是在面临通过网络安全保护数据的不确定保障时。冯德莱恩委员会下AI领域各种立法提案中所述的指导原则包括战略自主和数字主权的概念。2024年5月29日，欧洲审计院发布了一份报告，指出欧盟的措施与成员国的措施协调不佳；投资监测不系统；需要更强有力的治理。

欧盟的《人工智能法案》（条例(EU) 2024/1689）于2024年8月1日生效，创建了一个基于风险的AI系统法律框架，包括对通用人工智能模型的特殊规定，该规定将于2025年8月2日起执行。

### 芬兰

芬兰已任命一个工作组，评估欧盟《人工智能法案》所需的国家立法，并准备关于其实施的国家立法提案。该工作组于2024年4月29日开始评估，预计将于2026年6月30日结束。

### 德国

2020年11月，DIN、DIN和VDE的德国电工、电子与信息技术委员会和德国联邦经济事务和能源部发布了第一版《德国人工智能标准化路线图》（NRM KI），并在德国联邦政府的数字峰会上向公众展示。NRM KI描述了对人工智能背景下未来法规和标准的要求。实施行动建议旨在帮助加强德国经济和科学在人工智能领域国际竞争中的地位，并为这一新兴技术创造有利于创新的条件。第一版是由300名专家撰写的200页文件。NRM KI的第二版于2022年12月9日与德国政府数字峰会同时发布。DIN协调了来自科学、工业、民间社会和公共部门等广泛领域的570多位参与专家。第二版是一份450页的文件。

一方面，NRM KI涵盖了应用方面的重点主题（如医学、交通、能源与环境、金融服务、工业自动化）和基本问题（如AI分类、安全性、可认证性、社会技术系统、伦理）。另一方面，它提供了跨广泛利益群体和信息来源的AI领域及其环境的核心术语概述。总计，该文件涵盖了116项标准化需求，并提出了六项核心行动建议。

### 以色列

2022年10月30日，根据2021年8月第212号政府决议，以色列创新、科学与技术部发布了《人工智能政策、监管与伦理原则》白皮书征求公众意见。到2023年12月，创新部与司法部联合发布了一份AI监管与伦理政策文件，概述了若干AI伦理原则和一系列建议，包括选择基于部门的监管、基于风险的方法、偏好“软性”监管工具（如AI沙盒），以及与现有全球AI监管方法保持一致。

2023年12月，以色列公布了其首个全面的国家AI政策，该政策是通过部际和利益相关者协商合作制定的。总体而言，新政策概述了与当前OECD指南一致的伦理原则，并推荐了一个基于部门、风险驱动的监管框架，重点关注透明度和问责等领域。该政策提议建立一个国家AI政策协调中心以支持监管机构，并进一步开发负责任部署AI所需的工具。此外，与其他56个国家一起，除了国内政策制定，以色列于2024年3月签署了世界上首个具有约束力的人工智能国际条约。该特定条约由欧洲委员会牵头，要求签署国确保当前的AI系统维护民主价值观、人权和法治。

### 意大利

2024年3月，意大利数据保护机构主席重申该机构已准备好实施欧盟新出台的《人工智能法案》，并赞扬了机构能力和独立性的框架。意大利继续通过现有法律框架制定AI应用指南，包括在执法面部识别、医疗AI、深度伪造和智能助手等领域的最新创新。意大利政府的国家AI战略（2022-2024年）强调负责任的创新，并概述了人才发展、公共和私营部门采用以及与欧盟层面倡议协调的监管清晰度等目标。虽然意大利尚未颁布独立的AI立法，但法院和监管机构已开始解释现有法律，以解决算法决策中的透明度、非歧视和人工监督问题。

### 摩洛哥

在摩洛哥，议会中的一个政党联盟提出了一项新的立法提案，旨在建立国家人工智能机构。该机构旨在监管AI技术，加强与国际实体的合作，并提高公众对AI可能性和风险的认识。

近年来，摩洛哥努力在法律领域推进人工智能的使用，特别是通过协助司法预测和文档分析的AI工具，帮助简化判例法研究并支持法律从业者处理更复杂的任务。在建立国家AI机构的同时，AI正逐步引入摩洛哥的立法和司法程序，持续的讨论强调了这些技术的好处和潜在风险。

总体而言，摩洛哥的更广泛数字政策包括强有力的数据治理措施，如2009年《个人数据保护法》和2020年《网络安全法》，这些法律在隐私、违规通知和数据本地化等领域制定了要求。截至2024年，额外的法令还扩大了国家云基础设施和数据审计的网络安全标准。虽然不强制要求普遍数据本地化，但敏感的政府和关键基础设施数据必须存储在国内。监管工作由国家个人数据保护委员会（CNDP）和信息系统安全总局（DGSSI）领导，但该国的公共执法行动仍然有限。

### 新西兰

截至2023年7月，新西兰尚无专门的AI立法，但AI的使用受现有法律监管，包括《隐私法》、《人权法》、《公平交易法》和《有害数字通信法》。

2020年，新西兰政府赞助了世界经济论坛的一个试点项目，名为“为人工智能时代重新构想监管”，旨在创建围绕AI的监管框架。同年，《隐私法》得到更新，以规范新西兰人在AI中的个人信息使用。2023年，隐私专员发布了关于根据信息隐私原则使用AI的指南。2024年2月，总检察长兼技术部长宣布成立议会跨党派人工智能核心小组，并正在制定政府使用AI的框架。她还宣布，当时没有计划进行额外监管。

### 菲律宾

2023年，菲律宾众议院提出了一项法案，提议建立人工智能发展局（AIDA），负责监督人工智能的开发和研发。AIDA还被提议作为打击利用AI犯罪行为的监督机构。

选举委员会也在2024年考虑禁止在竞选活动中使用AI和深度伪造。他们希望实施的法规最早能适用于2025年的大选。

### 瑞士

瑞士目前没有专门的人工智能立法，但2025年2月12日，联邦委员会宣布计划批准欧洲委员会的AI公约并将其纳入瑞士法律。草案和实施方案将在2026年底前准备就绪。该方法包括基于部门的监管、有限的跨部门规则（如数据保护）以及非约束性措施（如行业协议）。其目标是支持创新、保护基本权利并建立公众对AI的信任。

### 英国

英国通过2015年初由Innovate UK作为英国数字战略一部分推出的《2015-2018年数字经济战略》，支持AI在商业中的应用和发展。在公共部门，数字、文化、媒体和体育部就数据伦理提供建议，艾伦·图灵研究所提供关于负责任设计和实施AI系统的指导。在网络安全方面，2020年国家网络安全中心发布了关于“智能安全工具”的指南。次年，英国发布了为期10年的国家AI战略，其中描述了评估长期AI风险（包括与AGI相关的灾难性风险）的行动。

2023年3月，英国发布了白皮书《促进创新的AI监管方法》。该白皮书提出了普遍的AI原则，但给现有监管机构留下了很大的灵活性，使它们能够将这些原则应用于特定领域（如交通或金融市场）。2023年11月，英国主办了首届AI安全峰会，首相里希·苏纳克旨在将英国定位为AI安全监管的领导者。在峰会期间，英国创建了一个AI安全研究所，作为由Ian Hogarth领导的“前沿AI工作组”的演变。该研究所被特别赋予推进世界上最先进AI模型（也称为前沿AI模型）安全评估的责任。

英国政府表示不愿过早立法，认为这可能会降低该行业的增长速度，并且法律可能会因进一步的技术进步而过时。

<image>

### 美国

在美国，关于AI监管的讨论包括诸如监管AI的时机、规范和促进AI的联邦监管框架的性质（包括由哪个机构领导、该机构的监管和治理权力）、如何在快速变化的技术面前更新法规，以及州政府和法院的角色等问题。

在美国，2023年10月关于AI安全与保障的行政命令提出了联邦对AI开发和部署的要求。该命令还要求开发最强大AI系统的人在向公众发布之前，与政府机构分享所有安全测试结果。

2025年12月12日，特朗普总统签署了一项行政命令，指示联邦机构制定统一的全国AI政策方法，评估州AI法律是否存在潜在冲突，通过法律行动挑战这些法律，并根据州的合规情况决定某些联邦资金的拨付，同时豁免与儿童安全、数据中心基础设施和州政府采购相关的州法律。白宫助手威尔·沙夫在椭圆形办公室评论该行政命令时说：“这是一项行政命令，要求你们政府的各个方面采取果断行动，确保AI能够在这个国家的单一国家框架内运行，而不是受制于可能严重损害该行业的州级监管。”美国经济研究所出版物的撰稿人沃尔特·唐威批评该命令说：“其背后的前提在哲学上是错误的：中央权威比在自由市场中运作的数百万参与者的分布式知识更能预见新兴技术的风险。这个前提在应用于铁路、广播、电力、电话、航空和核电时是错误的。应用于人工智能时则更加灾难性地错误。”

## 对全自主武器的监管

根据《特定常规武器公约》，各国自2014年以来一直在就致命自主武器系统的可能国际规则进行讨论，这是战争中人工智能监管的一个重要领域。值得注意的是，非正式专家会议于2014年、2015年和2016年举行，2016年任命了一个政府专家组进一步审议该问题。2018年，致命自主武器系统政府专家组确认的一套关于致命自主武器系统的指导原则获得通过。这些讨论涉及国际人道法、问责制、可能的禁止和监管，以及对AI赋能武器所需的人类控制程度。

2016年，中国发表了一份立场文件，质疑现行国际法是否有能力应对全自主武器的可能性，成为联合国安理会第一个提出该问题的常任理事国，并导致了对全球监管的提议。其他《特定常规武器公约》缔约国代表团也曾多次提出暂停或先发制人禁止开发和使用致命自主武器系统的可能性，并且得到了停止杀手机器人运动（一个非政府组织联盟）的强烈倡导。美国政府坚持认为，现行国际人道法能够规范致命自主武器系统的开发或使用。美国国会研究服务部在2023年表示，美国库存中没有致命自主武器系统，但其政策并不禁止其开发和部署。