生成式人工智能服务管理暂行办法

《生成式人工智能服务管理暂行办法》是中华人民共和国针对生成式人工智能服务制定的一项行政规章，由中央网络安全和信息化委员会办公室联合中华人民共和国国家发展和改革委员会、中华人民共和国教育部、科学技术部、工业和信息化部、公安部及国家广播电视总局共同发布。该办法于2023年7月13日公布，自2023年8月15日起施行。

该办法被认为是全球范围内较早针对ChatGPT等生成式人工智能服务出台的专项监管规则之一。部分研究者认为，其体现了中国在人工智能治理中强调内容安全、算法备案与平台责任的监管路径。

## 背景

《生成式人工智能服务管理暂行办法》的出台，建立在中国自2021年以来逐步形成的互联网算法与人工智能治理框架基础之上。2021年，中国陆续针对推荐算法、深度合成技术以及数据安全等领域出台专项监管规定。

2022年3月生效的《互联网信息服务算法推荐管理规定》首次建立中国的算法备案制度，要求具有“舆论属性或者社会动员能力”的算法推荐服务提供者向国家互联网信息办公室进行备案，并接受安全评估。该规定同时要求算法推荐服务提供者建立用户标签管理、内容审核、干预机制和未成年人保护制度，对利用算法实施不正当竞争、流量操纵及影响网络舆论秩序等行为作出限制。

2023年1月生效的《互联网信息服务深度合成管理规定》将监管范围扩展至深度伪造、语音合成、人脸生成与编辑等技术领域。该规定要求深度合成服务提供者建立内容审核、数据安全与技术标识制度，对生成或者编辑的信息进行显著标识，并要求相关服务履行算法备案和安全评估程序。多家研究机构将《暂行办法》视为上述两项制度在生成式人工智能领域的进一步延伸。

2023年4月11日，国家互联网信息办公室发布《生成式人工智能服务管理办法（征求意见稿）》，向社会公开征求意见，征求意见期持续至2023年5月10日。草案发布时正值大型语言模型与聊天机器人快速普及阶段，中国科技企业包括百度、阿里巴巴集团、商汤科技等公司已相继公布自研大语言模型计划。征求意见稿中的部分条款引起国内外媒体与研究机构关注，包括要求生成内容符合“社会主义核心价值观”、训练数据“真实准确”、服务提供者对训练数据来源合法性负责，以及生成式人工智能产品上线前需提交安全评估等内容。部分分析认为，草案在数据来源、内容责任和模型备案方面采用了较严格的监管要求。

2023年7月，国家互联网信息办公室联合国家发展和改革委员会、教育部、科学技术部、工业和信息化部、公安部及国家广播电视总局正式发布《生成式人工智能服务管理暂行办法》，并于同年8月15日起施行。与征求意见稿相比，正式版本缩小了适用范围，将监管对象限定为“向中华人民共和国境内公众提供生成式人工智能服务”的行为，并删除了部分针对模型训练与数据来源的绝对责任条款。根据未来隐私论坛及多家法律机构的比较分析，正式版本增加了支持技术创新与产业发展的表述，并强调“发展和安全并重”。国家互联网信息办公室随后将其监管原则概括为“包容审慎”和“分类分级监管”。

## 适用范围

本办法适用于利用生成式人工智能技术向中华人民共和国境内公众提供文本、图片、音频、视频或其他内容的服务（第二条）。不适用于未向境内公众提供服务、仅在内部开发或使用生成式人工智能的组织，如行业协会、企业和研究机构。其服务可被中国用户访问的境外提供者也受本办法约束。

## 关键条款

《暂行办法》第四条规定，提供和使用生成式人工智能服务应当遵守法律、行政法规，尊重社会公德和伦理道德，并坚持社会主义核心价值观。该条禁止生成煽动颠覆国家政权、推翻社会主义制度，危害国家安全和利益、损害国家形象，煽动分裂国家、破坏国家统一和社会稳定，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，以及暴力、淫秽色情、虚假有害信息等法律、行政法规禁止的内容。相关规定与《中华人民共和国网络安全法》以及既有互联网内容治理制度中的内容管理要求存在衔接关系。该条同时要求服务提供者在算法设计、训练数据选择、模型生成和优化等过程中采取措施防止歧视，并依法保护知识产权、商业秘密以及个人合法权益，提高生成内容的真实性和准确性。

第七条规定，生成式人工智能服务提供者应当采取有效措施提高训练数据质量，增强训练数据的真实性、准确性、客观性与多样性，并确保数据来源合法。涉及知识产权的，不得侵害相关权利；涉及个人信息的，应依法取得个人同意或者符合法律、行政法规规定的其他情形。与2023年4月公布的《生成式人工智能服务管理办法（征求意见稿）》相比，正式施行版本删除了服务提供者需对“预训练数据来源合法性负责”的表述，改为要求采取措施提高训练数据质量。

第八条要求服务提供者在人工标注训练数据时制定清晰、具体、可操作的标注规则，并对标注内容进行质量评估与抽样核验。第十二条则规定，对图片、视频等生成内容应依照《互联网信息服务深度合成管理规定》进行标识。

第十条规定，服务提供者应明确服务的适用对象、场合和用途，并采取有效措施防范未成年人用户过度依赖或者沉迷生成式人工智能服务。第十一条要求服务提供者依法处理用户输入信息和使用记录，不得非法留存能够识别用户身份的输入信息，不得非法向他人提供用户信息。用户依法享有查阅、更正、补充、删除个人信息等权利。

第十七条规定，具有“舆论属性或者社会动员能力”的生成式人工智能服务，应依照国家有关规定开展安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案、变更及注销备案程序。相关要求将生成式人工智能服务纳入中国既有算法治理与平台监管框架之中。

## 实施

### 算法备案流程

在实践中，《暂行办法》下的备案要求已发展为两级流程。第一级是根据先前的《算法推荐管理规定》进行的标准算法备案，涉及向国家互联网信息办公室提交有关算法设计、目的和数据源的信息。该流程主要是一个注册机制。

对于面向公众的生成式AI产品，还有一个额外的、更为严格的流程，通常称为“大模型备案”。这涉及提交安全自评估报告、数据标注规则、关键词拦截列表和评估测试题集。该流程包括省级技术测试，随后是国家网信办层面的审查。算法备案针对特定算法，而大模型备案评估的是更广泛的系统架构、训练数据、模型参数和潜在社会影响。

2024年4月2日，国家互联网信息办公室公布了首个已成功完成备案流程的生成式AI服务列表，根据国家互联网信息办公室的年末公告，截至2024年底，已有302项生成式AI服务完成国家级备案（其中238项为当年新增），另有105项应用完成地方级登记。截至2025年底，累计总数已上升至748项国家级备案和435项地方级登记。

### 内容合规与测试

根据卡内基国际和平基金会的研究，国家互联网信息办公室对生成式AI服务进行了合规性审计，特别关注确保对政治敏感话题查询的适当回应。大模型备案流程要求服务在向公众开放之前，必须通过省级和国家级技术测试。

2024年3月1日，全国网络安全标准化技术委员会（TC260）发布了TC260-003《生成式人工智能服务安全基本要求》，这是一项技术标准，为《暂行办法》要求的安全评估提供了详细指导。该标准涵盖了训练数据安全、模型安全和内容安全评估的要求，并作为备案流程的参考。

## 分析

### 与中国互联网监管体系的关系

《暂行办法》将中国既有的网络信息管控体系延伸到了生成式人工智能领域。法律学者认为，文件中要求服务提供者遵守社会主义核心价值观以及各类具体内容禁令，与《中华人民共和国网络安全法》及相关法规对互联网平台的一贯要求一脉相承。亚洲协会政策研究所指出，中国政府在该领域的最高监管优先事项是保持对信息的控制，内容相关的义务也比其他条款执行得更严格。

### 备案制度的性质

学者们对备案制度的性质意见不一。张欣月（Angela Huyue Zhang）在《哥伦比亚跨国法律期刊》上撰文认为，《暂行办法》及相关立法在某种程度上更像是信号传递，向人工智能行业释放支持增长的信号，而非对行业施加实质性限制。卡内基国际和平基金会的马特·希恩（Matt Sheehan）则记录了一个活跃的执行过程：网信办团队会进行合规性审计，重点检查政治敏感内容，且获批备案的比例随着时间推移不断加快。

### 与其他司法管辖区的比较

《暂行办法》采取的是纵向监管方式，只针对生成式人工智能这一特定应用。这与欧盟《人工智能法案》的横向方式形成对比——后者建立了一个适用于所有人工智能应用的统一框架。这项办法与早先中国针对特定算法的法规以及更广泛的法律体系并存，包括《中华人民共和国网络安全法》、《中华人民共和国数据安全法》和《中华人民共和国个人信息保护法》。

国务院最初计划制定一部更全面的《人工智能法》，建成一个更广泛的横向监管框架。但这部综合性的人工智能法后来被从2025年的立法计划中移除。截至2025年底，官方草案尚未发布，立法时间表也仍不明确。2025年10月，全国人民代表大会转而通过了《中华人民共和国网络安全法》修正案，首次将人工智能相关条款写入国家法律，内容包括支持算法研发以及人工智能伦理和风险评估的要求。

## 外部链接

- 《生成式人工智能服务管理暂行办法》全文

## 基本资料

- 简称：生成式AI管理办法
- 起草机关：国家互联网信息办公室
- 公布日期：2023年7月13日
- 公布者：国家互联网信息办公室等七部门
- 公布命令：国家互联网信息办公室等七部门令第15号
- 施行日期：2023年8月15日
- 现状：已生效
- flk-id：ZmY4MDgxODE4OTRlOWRhNTAxODk0ZmNhODJiZTAxMzg
- 类别：部门规章