生成式人工智慧服務管理暫行辦法

《生成式人工智慧服務管理暫行辦法》是中華人民共和國針對生成式人工智慧服務制定的一項行政規章，由中央網路安全和資訊化委員會辦公室聯合中華人民共和國國家發展和改革委員會、中華人民共和國教育部、科學技術部、工業和資訊化部、公安部及國家廣播電視總局共同發布。該辦法於2023年7月13日公布，自2023年8月15日起施行。

該辦法被認為是全球範圍內較早針對ChatGPT等生成式人工智慧服務出台的專項監管規則之一。部分研究者認為，其體現了中國在人工智慧治理中強調內容安全、演算法備案與平台責任的監管路徑。

## 背景

《生成式人工智慧服務管理暫行辦法》的出台，建立在中國自2021年以來逐步形成的網際網路演算法與人工智慧治理框架基礎之上。2021年，中國陸續針對推薦演算法、深度合成技術以及數據安全等領域出台專項監管規定。

2022年3月生效的《網際網路資訊服務演算法推薦管理規定》首次建立中國的演算法備案制度，要求具有「輿論屬性或者社會動員能力」的演算法推薦服務提供者向國家網際網路資訊辦公室進行備案，並接受安全評估。該規定同時要求演算法推薦服務提供者建立使用者標籤管理、內容審核、干預機制和未成年人保護制度，對利用演算法實施不正當競爭、流量操縱及影響網路輿論秩序等行為作出限制。

2023年1月生效的《網際網路資訊服務深度合成管理規定》將監管範圍擴展至深度偽造、語音合成、人臉生成與編輯等技術領域。該規定要求深度合成服務提供者建立內容審核、數據安全與技術標識制度，對生成或者編輯的資訊進行顯著標識，並要求相關服務履行演算法備案和安全評估程序。多家研究機構將《暫行辦法》視為上述兩項制度在生成式人工智慧領域的進一步延伸。

2023年4月11日，國家網際網路資訊辦公室發布《生成式人工智慧服務管理辦法（徵求意見稿）》，向社會公開徵求意見，徵求意見期持續至2023年5月10日。草案發布時正值大型語言模型與聊天機器人快速普及階段，中國科技企業包括百度、阿里巴巴集團、商湯科技等公司已相繼公布自研大語言模型計劃。徵求意見稿中的部分條款引起國內外媒體與研究機構關注，包括要求生成內容符合「社會主義核心價值觀」、訓練數據「真實準確」、服務提供者對訓練數據來源合法性負責，以及生成式人工智慧產品上線前需提交安全評估等內容。部分分析認為，草案在數據來源、內容責任和模型備案方面採用了較嚴格的監管要求。

2023年7月，國家網際網路資訊辦公室聯合國家發展和改革委員會、教育部、科學技術部、工業和資訊化部、公安部及國家廣播電視總局正式發布《生成式人工智慧服務管理暫行辦法》，並於同年8月15日起施行。與徵求意見稿相比，正式版本縮小了適用範圍，將監管對象限定為「向中華人民共和國境內公眾提供生成式人工智慧服務」的行為，並刪除了部分針對模型訓練與數據來源的絕對責任條款。根據未來隱私論壇及多家法律機構的比較分析，正式版本增加了支持技術創新與產業發展的表述，並強調「發展和安全並重」。國家網際網路資訊辦公室隨後將其監管原則概括為「包容審慎」和「分類分級監管」。

## 適用範圍

本辦法適用於利用生成式人工智慧技術向中華人民共和國境內公眾提供文本、圖片、音訊、影片或其他內容的服務（第二條）。不適用於未向境內公眾提供服務、僅在內部開發或使用生成式人工智慧的組織，如行業協會、企業和研究機構。其服務可被中國使用者訪問的境外提供者也受本辦法約束。

## 關鍵條款

《暫行辦法》第四條規定，提供和使用生成式人工智慧服務應當遵守法律、行政法規，尊重社會公德和倫理道德，並堅持社會主義核心價值觀。該條禁止生成煽動顛覆國家政權、推翻社會主義制度，危害國家安全和利益、損害國家形象，煽動分裂國家、破壞國家統一和社會穩定，宣揚恐怖主義、極端主義，宣揚民族仇恨、民族歧視，以及暴力、淫穢色情、虛假有害資訊等法律、行政法規禁止的內容。相關規定與《中華人民共和國網路安全法》以及既有網際網路內容治理制度中的內容管理要求存在銜接關係。該條同時要求服務提供者在演算法設計、訓練數據選擇、模型生成和優化等過程中採取措施防止歧視，並依法保護智慧財產權、商業秘密以及個人合法權益，提高生成內容的真實性和準確性。

第七條規定，生成式人工智慧服務提供者應當採取有效措施提高訓練數據質量，增強訓練數據的真實性、準確性、客觀性與多樣性，並確保數據來源合法。涉及智慧財產權的，不得侵害相關權利；涉及個人資訊的，應依法取得個人同意或者符合法律、行政法規規定的其他情形。與2023年4月公布的《生成式人工智慧服務管理辦法（徵求意見稿）》相比，正式施行版本刪除了服務提供者需對「預訓練數據來源合法性負責」的表述，改為要求採取措施提高訓練數據質量。

第八條要求服務提供者在人工標註訓練數據時制定清晰、具體、可操作的標註規則，並對標註內容進行質量評估與抽樣核驗。第十二條則規定，對圖片、影片等生成內容應依照《網際網路資訊服務深度合成管理規定》進行標識。

第十條規定，服務提供者應明確服務的適用對象、場合和用途，並採取有效措施防範未成年人使用者過度依賴或者沉迷生成式人工智慧服務。第十一條要求服務提供者依法處理使用者輸入資訊和使用記錄，不得非法留存能夠識別使用者身份的輸入資訊，不得非法向他人提供使用者資訊。使用者依法享有查閱、更正、補充、刪除個人資訊等權利。

第十七條規定，具有「輿論屬性或者社會動員能力」的生成式人工智慧服務，應依照國家有關規定開展安全評估，並按照《網際網路資訊服務演算法推薦管理規定》履行演算法備案、變更及註銷備案程序。相關要求將生成式人工智慧服務納入中國既有算法治理與平台監管框架之中。

## 實施

### 演算法備案流程

在實踐中，《暫行辦法》下的備案要求已發展為兩級流程。第一級是根據先前的《演算法推薦管理規定》進行的標準演算法備案，涉及向國家網際網路資訊辦公室提交有關演算法設計、目的和數據源的資訊。該流程主要是一個註冊機制。

對於面向公眾的生成式AI產品，還有一個額外的、更為嚴格的流程，通常稱為「大模型備案」。這涉及提交安全自評估報告、數據標註規則、關鍵詞攔截列表和評估測試題集。該流程包括省級技術測試，隨後是國家網信辦層面的審查。演算法備案針對特定演算法，而大模型備案評估的是更廣泛的系統架構、訓練數據、模型參數和潛在社會影響。

2024年4月2日，國家網際網路資訊辦公室公布了首個已成功完成備案流程的生成式AI服務列表，根據國家網際網路資訊辦公室的年末公告，截至2024年底，已有302項生成式AI服務完成國家級備案（其中238項為當年新增），另有105項應用完成地方級登記。截至2025年底，累計總數已上升至748項國家級備案和435項地方級登記。

### 內容合規與測試

根據卡內基國際和平基金會的研究，國家網際網路資訊辦公室對生成式AI服務進行了合規性審計，特別關注確保對政治敏感話題查詢的適當回應。大模型備案流程要求服務在向公眾開放之前，必須通過省級和國家級技術測試。

2024年3月1日，全國網路安全標準化技術委員會（TC260）發布了TC260-003《生成式人工智慧服務安全基本要求》，這是一項技術標準，為《暫行辦法》要求的安全評估提供了詳細指導。該標準涵蓋了訓練數據安全、模型安全和內容安全評估的要求，並作為備案流程的參考。

## 分析

### 與中國網際網路監管體系的關係

《暫行辦法》將中國既有的網路資訊管控體系延伸到了生成式人工智慧領域。法律學者認為，文件中要求服務提供者遵守社會主義核心價值觀以及各類具體內容禁令，與《中華人民共和國網路安全法》及相關法規對網際網路平台的一貫要求一脈相承。亞洲協會政策研究所指出，中國政府在該領域的最高監管優先事項是保持對資訊的控制，內容相關的義務也比其他條款執行得更嚴格。

### 備案制度的性質

學者們對備案制度的性質意見不一。張欣月（Angela Huyue Zhang）在《哥倫比亞跨國法律期刊》上撰文認為，《暫行辦法》及相關立法在某種程度上更像是信號傳遞，向人工智慧行業釋放支持增長的信號，而非對行業施加實質性限制。卡內基國際和平基金會的馬特·希恩（Matt Sheehan）則記錄了一個活躍的執行過程：網信辦團隊會進行合規性審計，重點檢查政治敏感內容，且獲批備案的比例隨著時間推移不斷加快。

### 與其他司法管轄區的比較

《暫行辦法》採取的是縱向監管方式，只針對生成式人工智慧這一特定應用。這與歐盟《人工智慧法案》的橫向方式形成對比——後者建立了一個適用於所有人工智慧應用的統一框架。這項辦法與早先中國針對特定演算法的法規以及更廣泛的法律體系並存，包括《中華人民共和國網路安全法》、《中華人民共和國數據安全法》和《中華人民共和國個人資訊保護法》。

國務院最初計劃制定一部更全面的《人工智慧法》，建成一個更廣泛的橫向監管框架。但這部綜合性的人工智慧法後來被從2025年的立法計劃中移除。截至2025年底，官方草案尚未發布，立法時間表也仍不明確。2025年10月，全國人民代表大會轉而通過了《中華人民共和國網路安全法》修正案，首次將人工智慧相關條款寫入國家法律，內容包括支持演算法研發以及人工智慧倫理和風險評估的要求。

## 外部連結

- 《生成式人工智慧服務管理暫行辦法》全文

## 基本資料

- 簡稱：生成式AI管理辦法
- 起草機關：國家網際網路資訊辦公室
- 公布日期：2023年7月13日
- 公布者：國家網際網路資訊辦公室等七部門
- 公布命令：國家網際網路資訊辦公室等七部門令第15號
- 施行日期：2023年8月15日
- 現狀：已生效
- flk-id：ZmY4MDgxODE4OTRlOWRhNTAxODk0ZmNhODJiZTAxMzg
- 類別：部門規章