本文內容由神州信息新動力數字金融研究院提供

作者：楊垚立

AIGC的發展，一方面因其強大的知識和內容生成能力，讓行業看到其廣泛的應用場景。另一方面，也由于AIGC存在不透明、不可解釋性，使得其在知識產權、安全、倫理和環境四個方面的面臨巨大挑戰。

為規范我國AIGC發展，保障合規，合法，合情，合理、安全，由互聯網信息辦公室牽頭，經發改委、教育部、科技部、工信部、公安部、廣電總局同意發布《生成式人工智能服務管理暫行辦法》（以下稱“辦法”）。相較于之前的征求意見稿，辦法仍保持發展與安全并重、包容審慎和分類分級監管的基本態度，在具體表述上有所變化，在可操作性上也更加清楚

1.明確我國對AIGC的態度

首先該辦法明確管理范圍為向國內提供服務，在國內進行技術研發向境外提供服務的不在本辦法管理范圍內。

該辦法闡明我國對AIGC的態度為積極支持、引導AIGC發展，并使得AIGC可以發揮更大的社會和商業價值。強化國家對生成式人工技術層面的鼓勵，明確服務層面的“包容審慎”。但相較于征求意見稿中較為籠統的表述為支持自主創新、鼓勵安全可信，在辦法中則明確對服務的態度為“包容審慎”，在算法、框架、芯片、配套軟件平臺等基礎技術方面則為鼓勵，并且提出“推動基礎設施和公共訓練資源平臺建設”。

2.在道德倫理層面提出要求

該辦法要求AIGC服務及生成內容“符合社會主義的價值觀”、防止出現民族、信仰等歧視、尊重商業道德、尊重他人合法權益、“防止生成虛假信息”等。

同時，在保障內容真實準確的方面的可行性有明顯提升。征求意見稿中要求“生成的內容應當真實準確，采取措施防止生成虛假信息”可操作性難度大，與生成式人工智能不可控的特征相沖突，辦法中改為提升透明度，提高準確性、可靠性，可行性明顯提升。

3.明確服務提供者為最主要責任人

確認AIGC服務提供者為最主要的責任人，也就是說即使服務提供者是內容的“搬運工”也要承擔主要責任。管理辦法將“提供者”定義為“利用生成式人工智能技術提供生成式人工智能服務（包括通過提供可編程接口等方式提供生成式人工智能服務）的組織、個人”。提供者需承擔責任包括：

● 個人信息保護

● 訓練數據來源的合法性

● 制定標注規則、培訓標注人員、保障標注正確性

● AIGC服務具有防沉迷能力

● 生成內容不包含歧視性

● 對不合規內容及時進行修正

● 保障用戶正常使用，同時需提供指引防止用戶不當使用

● 生成內容按照《互聯網信息服務深度合成管理規定》進行標識

● 提供可以影響用戶信任和選擇的必要信息

相較于征求意稿，正式版中刪除要求用戶提供真實身份信息的表述。相當于對生成式人工智能服務不再要求實名制。同時正式稿中還放了松算法備案和安全評估要求，按征求意見稿中表述“利用生成式人工智能產品向公眾提供服務前”均需進行評估和按要求備案，辦法中放松為“具有輿論屬性或者社會動員能力的生成式人工智能服務”需進行安全評估和算法備案。這兩處表述的放松更表現了國家對AIGC發展“包容審慎”的態度。

4.監管責任更加明確

辦法中對監督檢查和法律責任的主體定義為“網信、發展改革、教育、科技、工業和信息化、公安、廣播電視、新聞出版等部門，依據各自職責依法加強對生成式人工智能服務的管理。”較征求意見稿中以網信責任為主的表述更加具體。

同時，增加對于國家監督檢查人員的要求。“參與生成式人工智能服務安全評估和監督檢查的相關機構和人員對在履行職責中知悉的國家秘密、商業秘密、個人隱私和個人信息應當依法予以保密，不得泄露或者非法向他人提供”，更符合生成式人工智能的技術和行業特征。