對生成式人工智慧，鼓勵和監督要雙管齊下 | 社會科學報
▋關注
國家網信辦聯合七部門出台的《生成式人工智慧服務管理暫行辦法》自2023年8月15日起施行。該辦法體現了國家對於生成式人工智慧堅持發展和安全並重、促進創新和依法治理相結合的原則，對以往的政策內容進行了很好的銜接和補充，推動了人工智慧治理體系的完善，也為推動AIGC在規範中開展技術創新和應用賦能提供了指引。
原文 ：生成式人工智慧發展應鼓勵與監管並重
作者 | 上海人工智慧研究院 王資凱
圖片 |網絡
隨著我國大力推動人工智慧技術的發展，必須高度重視可能出現的安全風險挑戰，以確保人工智慧的安全可控發展，從而提升國家競爭力。為此，國家七部委共同發布的《生成式人工智慧服務管理暫行辦法》全面規範了生成式人工智慧服務的提供和使用，以客觀、合理、適度的價值導向為基礎，具有前瞻性的預防和約束引導作用。
當前，生成式人工智慧技術相關應用越來越多，同時也帶來了一系列的安全和隱私風險。此次《辦法》的發布，確立了鼓勵生成式人工智慧創新發展和實施包容審慎、分類分級監管的有效措施。生成式人工智慧技術的快速發展為經濟社會帶來了新的機遇，但也引發了虛假信息傳播、個人信息權益侵害、數據安全和偏見歧視等問題。如何統籌生成式人工智慧的發展與安全成為各方關注的焦點。《辦法》的出台既是促進生成式人工智慧健康發展的重要要求，又是為了防範生成式人工智慧服務風險的現實需要。《辦法》立足於促進生成式人工智慧健康發展，提出了具體措施，鼓勵創新應用，多方協作，同時鼓勵自主創新與國際間的合作及資源共享。從產業應用到內容質量，它以鼓勵為導向，適用於各個領域的多線發展。這展現了中國對於生成式人工智慧技術全球發展的前瞻性認知，也彰顯了中國的雄心壯志。
《辦法》的發布為引導生成式人工智慧的健康發展提供了政策依據和行動指南，但要實現其效果，需要監管部門和行業共同努力。各相關部門需要在貫徹執行過程中進一步完善相關規定，共同培育安全有序的發展環境，以更好地應對生成式人工智慧技術帶來的挑戰，確保其在推動社會進步的同時，符合法律規範，保障公眾利益。《辦法》從促進發展和防範風險的角度，構建了相對系統和全面的管理框架。它不僅提出了總體遵循的原則，還從技術研發、數據管理、服務規範等環節制定了重要規定，並增設了監督檢查等制度設計，體現了多維度的監管思路。
為明確服務規範，《辦法》明確規定了生成式人工智慧服務提供者與使用者之間應簽訂服務協議，明確雙方的權利和義務。針對生成式人工智慧服務的提供方，《辦法》提出了一系列的提供方服務規範，包括保護網絡信息安全、防止未成年人沉迷、保護用戶個人信息等。同時，《辦法》也要求生成式人工智慧服務使用方合法使用服務，不得有違法、有害、侵權等行為。
強化生成式人工智慧監管手段，要通過制定法律進一步健全生成式人工智慧的管理制度，提高透明度和問責性，更好地平衡科技發展和監管需求，為實現科技與社會的共同進步打下堅實的基礎。《辦法》強調了對生成式人工智慧服務內容的監管，生成式人工智慧服務提供者要確保提供的內容真實、合法、正當，並採取措施防止虛假信息的傳播。生成式人工智慧服務提供者需要進行風險評估，並採取必要的安全措施，確保生成式人工智慧服務的安全可控。此外，對於特定領域和關鍵領域的生成式人工智慧服務還要進行審查和備案，加強監督管理。同時，也要防止生成式人工智慧服務產生的內容對用戶權益造成個人隱私權、智慧財產權等損害。
需要額外注意的是，在監管境外服務方面，《辦法》規定了對於從中國境外向中國境內提供生成式人工智慧服務的違法違規行為，國家網信部門有權通知相關機構採取技術措施進行處置。這意味著，如果在跨境服務過程中發現違法違規行為，國家網信部門有權通過技術手段採取屏蔽、攔截等處置措施，為國家進一步管理來源於境外的生成式人工智慧服務提供了法律依據，以保障國家技術產業和數字經濟的和諧發展。
生成式人工智慧作為技術發展的全新產物，國內外都在積極探索相關的監管措施。《辦法》通過明確監管適用對象和監管紅線，以及規範生成式人工智慧服務的提供方行為，可以有效維護社會秩序，保護用戶權益，推動生成式人工智慧服務的健康發展。國家在加速集中資源鼓勵科技創新的同時出台相關監管政策，在發展人工智慧技術的同時防範可能存在的道德、法律風險，引導生成式人工智慧技術向著健康、良性的方向發展，營造安全有序的法治環境。作為人工智慧從業者，我們期待更系統化的法律法規出台，完善監管體系，為國家人工智慧技術產業與數字經濟社會協同創新發展保駕護航。
文章為社會科學報「思想工坊」融媒體原創出品，原載於社會科學報第1868期第4版，未經允許禁止轉載，文中內容僅代表作者觀點，不代表本報立場。
本期責編：宋獻琪
拓展閱讀
見地 | 「Z世代」教育，如何擁抱生成式人工智慧？
關注 | 給生成式人工智慧「帶上緊箍圈」