4月11日,國家網信辦發布《生成式人工智能服務管理辦法(征求意見稿)》(下稱《管理辦法》),向社會公開征求意見。受此影響,數據安全方向午后走強,截至收盤,美亞柏科漲超18%;三未信安漲超8%,盤中一度漲超11%;任子行漲超6%。
近段時間,以ChatGPT為代表的生成式人工智能服務受到業界廣泛關注。國內多家互聯網巨頭也紛紛布局生成式人工智能賽道。百度此前推出“文心一言”,阿里云也在4月11日發布了“通義千問”產品。
隨著ChatGPT等類似應用越來越火熱,未來因生成式人工智能引發的社會問題也將快速增長,由此也將帶來諸多法律問題。中南財經政法大學數字經濟研究院高級研究員金天認為,在越來越多的企業布局生成式人工智能業務之際,國家迅速啟動相關領域政策法規制定工作,將更好促進生成式人工智能技術健康發展和規范應用。
此外,據華爾街日報,拜登政府也已經開始研究是否需要對ChatGPT等人工智能工具進行審查,因為人們越來越擔心該技術可能會引起歧視或傳播有害信息。
利用生成式人工智能生成的內容應當真實準確
《管理辦法》明確,國家支持人工智能算法、框架等基礎技術的自主創新、推廣應用、國際合作,鼓勵優先采用安全可信的軟件、工具、計算和數據資源。
《管理辦法》要求,提供生成式人工智能產品或服務應當遵守法律法規的要求,尊重社會公德、公序良俗。
《管理辦法》提出,利用生成式人工智能生成的內容應當體現社會主義核心價值觀,不得含有顛覆國家政權、推翻社會主義制度,煽動分裂國家、破壞國家統一,宣揚恐怖主義、極端主義,宣揚民族仇恨、民族歧視,暴力、淫穢色情信息,虛假信息,以及可能擾亂經濟秩序和社會秩序的內容。
在算法設計、訓練數據選擇、模型生成和優化、提供服務等過程中,采取措施防止出現種族、民族、信仰、國別、地域、性別、年齡、職業等歧視。
《管理辦法》還要求,不得利用算法、數據、平臺等優勢實施不公平競爭。利用生成式人工智能生成的內容應當真實準確,并采取措施防止生成虛假信息。同時,禁止非法獲取、披露、利用個人信息和隱私、商業秘密。
《管理辦法》明確,利用生成式人工智能產品提供聊天和文本、圖像、聲音生成等服務的組織和個人(下稱“提供者”),包括通過提供可編程接口等方式支持他人自行生成文本、圖像、聲音等,承擔該產品生成內容生產者的責任。
提供者應當指導用戶科學認識和理性使用生成式人工智能生成的內容,不利用生成內容損害他人形象、名譽以及其他合法權益,不進行商業炒作、不正當營銷。
提供者發現用戶利用生成式人工智能產品過程中違反法律法規,違背商業道德、社會公德行為時,包括從事網絡炒作、惡意發帖跟評、制造垃圾郵件、編寫惡意軟件,實施不正當的商業營銷等,應當暫?;蛘呓K止服務。
生成式人工智能產品訓練數據應合法合規
《管理辦法》指出,用于生成式人工智能產品的預訓練、優化訓練數據,應符合《中華人民共和國網絡安全法》等法律法規的要求,不含有侵犯知識產權的內容。提供者還要保證數據的真實性、準確性、客觀性、多樣性。
在個人信息保護方面,《管理辦法》明確,涉及個人信息的,提供者承擔個人信息處理者的法定責任,履行個人信息保護義務。訓練數據包含個人信息的,應當征得個人信息主體同意。
同時,提供者在提供服務過程中,對用戶的輸入信息和使用記錄承擔保護義務。不得非法留存能夠推斷出用戶身份的輸入信息,不得根據用戶輸入信息和使用情況進行畫像,不得向他人提供用戶輸入信息。
《管理辦法》還要求,提供者應當明確并公開其服務的適用人群、場合、用途,采取適當措施防范用戶過分依賴或沉迷生成內容。
“技術大廠”紛紛入局生成式人工智能賽道
據記者不完全梳理,當前百度、華為、騰訊、阿里、京東、360等互聯網企業都開始布局生成式人工智能業務,而且部分企業已經推出相應的產品。
百度早在2019年3月發布預訓練模型ERNIE 1.0,2023年3月推出了“文心一言”。2021年4月,華為發布盤古大模型。2022年4月,騰訊對外披露混元大模型。
2023年,4月11日,阿里云發布“通義千問”;阿里云智能CTO周靖人在北京云峰會現場表示,將開放通義千問的能力,幫助每家企業打造自己的專屬大模型。
在金天看來,生成式人工智能技術富有巨大的商業化潛力。其有望成為“數據與內容生產”的強大引擎,特別是促使內容生成朝向品質更高、成本更低、更有效率的方向發展。
他認為,生成式人工智能是當前發展最快、最具影響力的技術之一,有望在2-5年內進入“生產成熟期”。圍繞這一科技競爭的新領域、新賽道做好布局、補齊短板和塑造優勢,日益成為促動傳統產業升級和謀求中國經濟高質量發展的題中之義。在此方面,只有立足國內需求、激發創新活力,理順基礎研究投入、技術成果轉化及相關配套協同機制,才能為搶抓戰略機遇、服務實體經濟提供不竭動力。
附:《生成式人工智能服務管理辦法(征求意見稿)》全文:
第一條為促進生成式人工智能健康發展和規范應用,根據《中華人民共和國網絡安全法》《中華人民共和國數據安全法》《中華人民共和國個人信息保護法》等法律、行政法規,制定本辦法。
第二條研發、利用生成式人工智能產品,面向中華人民共和國境內公眾提供服務的,適用本辦法。
本辦法所稱生成式人工智能,是指基于算法、模型、規則生成文本、圖片、聲音、視頻、代碼等內容的技術。
第三條國家支持人工智能算法、框架等基礎技術的自主創新、推廣應用、國際合作,鼓勵優先采用安全可信的軟件、工具、計算和數據資源。
第四條提供生成式人工智能產品或服務應當遵守法律法規的要求,尊重社會公德、公序良俗,符合以下要求:
(一)利用生成式人工智能生成的內容應當體現社會主義核心價值觀,不得含有顛覆國家政權、推翻社會主義制度,煽動分裂國家、破壞國家統一,宣揚恐怖主義、極端主義,宣揚民族仇恨、民族歧視,暴力、淫穢色情信息,虛假信息,以及可能擾亂經濟秩序和社會秩序的內容。
(二)在算法設計、訓練數據選擇、模型生成和優化、提供服務等過程中,采取措施防止出現種族、民族、信仰、國別、地域、性別、年齡、職業等歧視。
(三)尊重知識產權、商業道德,不得利用算法、數據、平臺等優勢實施不公平競爭。
(四)利用生成式人工智能生成的內容應當真實準確,采取措施防止生成虛假信息。
(五)尊重他人合法利益,防止傷害他人身心健康,損害肖像權、名譽權和個人隱私,侵犯知識產權。禁止非法獲取、披露、利用個人信息和隱私、商業秘密。
第五條利用生成式人工智能產品提供聊天和文本、圖像、聲音生成等服務的組織和個人(以下稱“提供者”),包括通過提供可編程接口等方式支持他人自行生成文本、圖像、聲音等,承擔該產品生成內容生產者的責任;涉及個人信息的,承擔個人信息處理者的法定責任,履行個人信息保護義務。
第六條利用生成式人工智能產品向公眾提供服務前,應當按照《具有輿論屬性或社會動員能力的互聯網信息服務安全評估規定》向國家網信部門申報安全評估,并按照《互聯網信息服務算法推薦管理規定》履行算法備案和變更、注銷備案手續。
第七條提供者應當對生成式人工智能產品的預訓練數據、優化訓練數據來源的合法性負責。
用于生成式人工智能產品的預訓練、優化訓練數據,應滿足以下要求:
(一)符合《中華人民共和國網絡安全法》等法律法規的要求;
(二)不含有侵犯知識產權的內容;
(三)數據包含個人信息的,應當征得個人信息主體同意或者符合法律、行政法規規定的其他情形;
(四)能夠保證數據的真實性、準確性、客觀性、多樣性;
(五)國家網信部門關于生成式人工智能服務的其他監管要求。
第八條生成式人工智能產品研制中采用人工標注時,提供者應當制定符合本辦法要求,清晰、具體、可操作的標注規則,對標注人員進行必要培訓,抽樣核驗標注內容的正確性。
第九條提供生成式人工智能服務應當按照《中華人民共和國網絡安全法》規定,要求用戶提供真實身份信息。
第十條提供者應當明確并公開其服務的適用人群、場合、用途,采取適當措施防范用戶過分依賴或沉迷生成內容。
第十一條提供者在提供服務過程中,對用戶的輸入信息和使用記錄承擔保護義務。不得非法留存能夠推斷出用戶身份的輸入信息,不得根據用戶輸入信息和使用情況進行畫像,不得向他人提供用戶輸入信息。法律法規另有規定的,從其規定。
第十二條提供者不得根據用戶的種族、國別、性別等進行帶有歧視性的內容生成。
第十三條提供者應當建立用戶投訴接收處理機制,及時處置個人關于更正、刪除、屏蔽其個人信息的請求;發現、知悉生成的文本、圖片、聲音、視頻等侵害他人肖像權、名譽權、個人隱私、商業秘密,或者不符合本辦法要求時,應當采取措施,停止生成,防止危害持續。
第十四條提供者應當在生命周期內,提供安全、穩健、持續的服務,保障用戶正常使用。
第十五條對于運行中發現、用戶舉報的不符合本辦法要求的生成內容,除采取內容過濾等措施外,應在3個月內通過模型優化訓練等方式防止再次生成。
第十六條提供者應當按照《互聯網信息服務深度合成管理規定》對生成的圖片、視頻等內容進行標識。
第十七條提供者應當根據國家網信部門和有關主管部門的要求,提供可以影響用戶信任、選擇的必要信息,包括預訓練和優化訓練數據的來源、規模、類型、質量等描述,人工標注規則,人工標注數據的規模和類型,基礎算法和技術體系等。
第十八條提供者應當指導用戶科學認識和理性使用生成式人工智能生成的內容,不利用生成內容損害他人形象、名譽以及其他合法權益,不進行商業炒作、不正當營銷。
用戶發現生成內容不符合本辦法要求時,有權向網信部門或者有關主管部門舉報。
第十九條提供者發現用戶利用生成式人工智能產品過程中違反法律法規,違背商業道德、社會公德行為時,包括從事網絡炒作、惡意發帖跟評、制造垃圾郵件、編寫惡意軟件,實施不正當的商業營銷等,應當暫?;蛘呓K止服務。
第二十條提供者違反本辦法規定的,由網信部門和有關主管部門按照《中華人民共和國網絡安全法》《中華人民共和國數據安全法》《中華人民共和國個人信息保護法》等法律、行政法規的規定予以處罰。
法律、行政法規沒有規定的,由網信部門和有關主管部門依據職責給予警告、通報批評,責令限期改正;拒不改正或者情節嚴重的,責令暫?;蛘呓K止其利用生成式人工智能提供服務,并處一萬元以上十萬元以下罰款。構成違反治安管理行為的,依法給予治安管理處罰;構成犯罪的,依法追究刑事責任。
第二十一條本辦法自2023年 月 日起實施。
校對:祝甜婷
預告丨對話中國科創力量