關注 | 給生成式人工智慧「帶上緊箍圈」
▋關注
該辦法體現了國家對於AIGC堅持發展和安全並重、促進創新和依法治理相結合的原則，對以往的政策內容進行了很好的銜接和補充，推動了人工智慧治理體系的完善，也為推動AIGC在規範中開展技術創新和應用賦能提供了指引。
原文：推進生成式人工智慧規範發展
作者 | 之江實驗室人工智慧研究院 裴冠雄
圖片 |網絡
生成式人工智慧（AIGC）技術的快速發展和應用，使得新業態、新場景、新模式不斷湧現，但也給原有社會生態帶來了潛在的風險和挑戰。在此背景下，國家網信辦聯合七部門出台了《生成式人工智慧服務管理暫行辦法》（以下簡稱「辦法」），並自2023年8月15日起施行。該辦法具有精準性、前瞻性和引領性三個重要鮮明特徵，旨在促進生成式人工智慧健康發展和規範應用，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權益。
該辦法強調治理的精準性，將包容審慎的理念和分類監管的手段有機結合。首先，《辦法》根據「是否向境內公眾提供生成式人工智慧服務」釐清了適用範圍，行業組織、企業、教育和科研機構、公共文化機構、有關專業機構等研發、應用生成式人工智慧技術，未向境內公眾提供生成式人工智慧服務的，不適用該辦法的規定。這就為科技研發、企業內部應用、組織內部效率工具開發等提供了相對包容的環境，實質是鼓勵AIGC技術的快速疊代創新。其次，該辦法根據所屬行業做了分類監管的要求，比如「國家對利用生成式人工智慧服務從事新聞出版、影視製作、文藝創作等活動另有規定的，從其規定」，並要求對網信、發展改革、教育、科技、工業和信息化、公安、廣播電視、新聞出版等加強監管，這有助於合理利用現有監管資源，同時提升監管效率。可以預見，未來在相關重點行業將會出台辦法的實施細則或補充規定。最後，該辦法依據風險程度區分了應用場景，對於可能產生高風險的領域，特別是具有輿論屬性或者社會動員能力的生成式人工智慧服務的提供者，需要按照國家有關規定開展安全評估，並按照《網際網路信息服務算法推薦管理規定》履行算法備案和變更、註銷備案手續。
該辦法強調風控的前瞻性，覆蓋技術流程全鏈路和生成內容全方位的風險點。《辦法》對AIGC提供服務所依託的技術流程做了明確規定，包括數據和基礎模型來源的合法性、數據標註、預訓練、模型微調、應用運行、模型優化等全生命周期。此外，《辦法》對AIGC服務生成內容做了全面規範，禁止涉黃，涉恐，涉暴以及涉及歧視，編造虛假信息，損害他人肖像權、名譽權、榮譽權、隱私權和個人信息權益等。綜上所述，該辦法對可預見的技術風險做了流程全鏈路、內容全方位的規範，為AIGC研發和產業的健康發展提供了護欄和指南。但是AIGC技術本身存在一定的不透明、不可解釋性，且訓練用的數據審核和標註本身存在海量異構、主觀性強、質量層次不齊等問題，因此數據提供者、AIGC開發者和服務提供者等全產業價值鏈應該加強協同配合，明確主體責任和連帶責任，多方共建合規體系及風險管理框架。
該辦法強調發展的引領性，在健康規範的軌道上予以積極支持。《辦法》明確了國家對於促進AIGC技術發展的積極態度，一是鼓勵創新應用，在各行業、各領域生成積極健康、向上向善的優質內容，探索優化應用場景，構建應用生態體系；二是鼓勵多方協作，支持行業組織、企業、教育和科研機構等不同主體在生成式人工智慧技術創新、數據資源建設、轉化應用、風險防範等方面合作共建；三是鼓勵自主創新，在算法、框架、晶片及配套軟體平台等基礎技術方面加大研發力度，並參與相關國際規則制定，這有助於在人工智慧全球治理版圖中融入中國方案和智慧；四是鼓勵資源建設，包括算力基礎設施、公共訓練數據資源平台等，這有助於形成資源集聚優勢和先發優勢，並降低全社會AIGC的整體研發和應用成本。此外，《辦法》兩次提及了晶片，表明了國家對卡脖子關鍵科學問題突破的重視。
總體而言，該辦法體現了國家對於AIGC堅持發展和安全並重、促進創新和依法治理相結合的原則，對以往的政策內容進行了很好的銜接和補充，推動了人工智慧治理體系的完善，也為推動AIGC在規範中開展技術創新和應用賦能提供了指引。此外，《辦法》為AIGC發展注入了強心劑，有助於打消科學研發投入、人工智慧基礎設施和大科學裝置建設、產業資金注入等方面存在的顧慮，激發資本市場和民間力量共同參與技術研發和成果轉化的熱情。可以預見，《辦法》為AIGC提供了規範遵循和發展機遇，為我國在通用人工智慧制度比較優勢方面奠定基礎，為新技術與應用深度融合併逐步走進千行百業、千家萬戶提供了可能，將會引領生產力、生產關係的創新變革，促進智能化、數字化社會效能的整體躍升。
文章為社會科學報「思想工坊」融媒體原創出品，原載於社會科學報第1868期第4版，未經允許禁止轉載，文中內容僅代表作者觀點，不代表本報立場。
本期責編：宋獻琪
拓展閱讀
關注 | 以本土知識傳承，延續活態遺產的生命力
國家治理 | 以法治化解生成式人工智慧風險