我國對于AIGC（人工智能生成內容）的第一份政府文件或將出爐，4月11日，國家互聯網信息辦公室（簡稱“網信辦”）發布通知，就《生成式人工智能服務管理辦法（征求意見稿）》（簡稱“《意見征求稿》”）向社會公開征求意見，意見反饋截止時間為5月10日。

《意見征求稿》發布后，A股相關概念出現短時波動，wind統計的ChatGPT指數、AIGC指數、存儲器指數、WEB3.0指數等短期有約1個百分點的下挫，但隨后即恢復早間上漲勢頭。截至發稿，AIGC指數、WEB3.0指數均有3%左右漲幅。

促進健康發展

從文件表述來看，網信辦對行業的健康發展持鼓勵支持態度。網信辦表示，制定本辦法的目的為促進生成式人工智能健康發展和規范應用，并在辦法中明文表示“國家支持人工智能算法、框架等基礎技術的自主創新、推廣應用、國際合作，鼓勵優先采用安全可信的軟件、工具、計算和數據資源”。

網信辦定義，所謂“生成式人工智能”，是指基于算法、模型、規則生成文本、圖片、聲音、視頻、代碼等內容的技術。網信辦明確研發、利用生成式人工智能產品，面向中華人民共和國境內公眾提供服務的，適用本辦法。

在服務提供者的準入資格方面，《意見征求稿》要求利用生成式人工智能產品向公眾提供服務前，應當按照《具有輿論屬性或社會動員能力的互聯網信息服務安全評估規定》向國家網信部門申報安全評估，并按照《互聯網信息服務算法推薦管理規定》履行算法備案和變更、注銷備案手續。

其中，《具有輿論屬性或社會動員能力的互聯網信息服務安全評估規定》由網信辦和公安部在2018年11月發布，旨在維護網上信息安全、秩序穩定，防范謠言和虛假信息等違法信息傳播帶來危害。重點評估內容包括：用戶真實身份核驗以及注冊信息留存措施，個人信息保護以及防范違法有害信息傳播擴散、社會動員功能失控風險的技術措施等。

《互聯網信息服務算法推薦管理規定》則在2021年12月由網信辦、工信部、公安部、市場監管總局聯合發布，聚焦算法推薦服務亂象問題，構建算法安全治理體系，規范互聯網信息服務算法推薦活動，規定要求服務提供者應當在提供服務之日起十個工作日內履行備案手續。

而針對用戶端，《意見征求稿》明確，提供生成式人工智能服務應當按照《中華人民共和國網絡安全法》規定，要求用戶提供真實身份信息。提供者發現用戶利用生成式人工智能產品過程中違反法律法規，違背商業道德、社會公德行為時，包括從事網絡炒作、惡意發帖跟評、制造垃圾郵件、編寫惡意軟件，實施不正當的商業營銷等，應當暫?；蛘呓K止服務。

明確服務提供、預訓練數據的具體要求

在此基礎上，《意見征求稿》詳細地分別對提供生成式人工智能產品或服務，對用于生成式人工智能產品的預訓練、優化訓練數據提出明確要求。

《意見征求稿》明確，提供生成式人工智能產品或服務應當遵守法律法規的要求，尊重社會公德、公序良俗，符合五項要求：

（一）利用生成式人工智能生成的內容應當體現社會主義核心價值觀，不得含有顛覆國家政權、推翻社會主義制度，煽動分裂國家、破壞國家統一，宣揚恐怖主義、極端主義，宣揚民族仇恨、民族歧視，暴力、淫穢色情信息，虛假信息，以及可能擾亂經濟秩序和社會秩序的內容。

（二）在算法設計、訓練數據選擇、模型生成和優化、提供服務等過程中，采取措施防止出現種族、民族、信仰、國別、地域、性別、年齡、職業等歧視。

（三）尊重知識產權、商業道德，不得利用算法、數據、平臺等優勢實施不公平競爭。

（四）利用生成式人工智能生成的內容應當真實準確，采取措施防止生成虛假信息。

（五）尊重他人合法利益，防止傷害他人身心健康，損害肖像權、名譽權和個人隱私，侵犯知識產權。禁止非法獲取、披露、利用個人信息和隱私、商業秘密。

《意見征求稿》明確，用于生成式人工智能產品的預訓練、優化訓練數據，應滿足五大要求：

（一）符合《中華人民共和國網絡安全法》等法律法規的要求；

（二）不含有侵犯知識產權的內容；

（三）數據包含個人信息的，應當征得個人信息主體同意或者符合法律、行政法規規定的其他情形；

（四）能夠保證數據的真實性、準確性、客觀性、多樣性；

（五）國家網信部門關于生成式人工智能服務的其他監管要求。

此外，《意見征求稿》還對一些可能的情形提出針對性的要求，比如：

提供者應當明確并公開其服務的適用人群、場合、用途，采取適當措施防范用戶過分依賴或沉迷生成內容；

提供者在提供服務過程中，對用戶的輸入信息和使用記錄承擔保護義務；

提供者不得根據用戶的種族、國別、性別等進行帶有歧視性的內容生成；

提供者應當指導用戶科學認識和理性使用生成式人工智能生成的內容，不利用生成內容損害他人形象、名譽以及其他合法權益，不進行商業炒作、不正當營銷等。

在意見征求稿的最后，還擬定了提供者違反辦法規定的處罰，處罰包括終止利用生成式人工智能提供服務，具體分為兩大類情況：

1、供者違反本辦法規定的，由網信部門和有關主管部門按照《中華人民共和國網絡安全法》《中華人民共和國數據安全法》《中華人民共和國個人信息保護法》等法律、行政法規的規定予以處罰。

2、法律、行政法規沒有規定的，由網信部門和有關主管部門依據職責給予警告、通報批評，責令限期改正；拒不改正或者情節嚴重的，責令暫?；蛘呓K止其利用生成式人工智能提供服務，并處一萬元以上十萬元以下罰款。構成違反治安管理行為的，依法給予治安管理處罰；構成犯罪的，依法追究刑事責任。

校對：高源