人工智慧技術在推動科技向星辰大海探索的同時，也在挑戰一系列顛覆現有認知之外的倫理、內容、數據安全問題，AIGC安全風險迫切需要對症解決。
6月9日，AIGC安全實驗室、博特智能、創業黑馬聯合發布了首份《AIGC安全研究報告》（以下簡稱「安全報告」），從AIGC框架安全、內容安全、數據安全三大維度全面介紹了當前生成式人工智慧帶來的新型數據泄露、賦能網絡攻擊及內容濫用的風險問題。
隨著人工智慧技術的持續進化和AI大模型的迅速落地，AIGC(Al-Generated Content）技術得到深度應用，在提高生產效率，降低製作成本，同時滿足不同客戶個性化需求方面得到廣泛認可和追捧，目前已在寫作、視頻、音樂、繪畫等領域多點爆發。
生成式AI服務的大規模出現，同時也讓數據真實性、內容合規性、漏洞病毒攻擊，以及倫理問題遭到空前挑戰。AIGC時代，我們該如何進行安全合規治理？
近日，高層會議也為AIGC安全治理指明了方向，由中央國家安全委員會審議通過了《加快建設國家安全風險監測預警體系的意見》、《關於全面加強國家安全教育的意見》等文件。會議強調，要提升網絡數據人工智慧安全治理水平、加快建設國家安全風險監測預警體系、推進國家安全法治建設、加強國家安全教育等方面工作。
在此期間，博特智能AIGC安全實驗室對市面上9大領域主流AIGC應用進行了抽樣評測（應用類型涵蓋Al聊天、Al寫作、Al繪畫、Al圖像、Al文案、Al設計、Al辦公、Al音頻和Al視頻）。《安全報告》指出，此次評測結果發現97%的應用已經部署內容安全機制，能夠對中文提示詞和違規內容進行攔截過濾，但通過提示詞調整（例如，採用英文提示詞或其他描述方式），99%的AIGC應用仍然會生成違規內容。此外，評測數據顯示傳統的Al內容識別方式對AIGC內容識別率大幅度降低，尤其在Al寫作內容的真實性和Al圖像二次創作後的違規識別上表現更為突出。
此次評測依據國家網信辦4月11日頒布的《生成式人工智慧服務管理辦法（徵求意見稿）》，採用定量注入「負樣本特徵提示詞」方式，對被測應用的內容安全機制是否健全和生成內容是否違規進行檢測。違規內容包括：敏感信息、有害信息、不良信息和虛假信息4大類。
此次發布的《AIGC安全研究報告》也對AIGC數據泄露、數據污染、數據合成等10種技術攻擊手段以及面臨的多重安全風險進行了詳細闡述。如模型算法攻擊挑戰；數據非法獲取、敏感信息、數據泄露及惡意濫用等數據安全問題；AIGC可能帶來數據偽造的風險；AIGC可能帶來的「數據投毒」風險問題。
當前，生成式人工智慧（AIGC）技術也在助推網絡安全行業的發展。以ChatGPT 為代表的生成式人工智慧（AIGC）技術快速演進疊代。從攻擊者的角度來看，惡意攻擊代碼和釣魚攻擊變得「唾手可得」，大大降低了網絡犯罪的門檻，同時加劇了數據泄露以及個人隱私泄露等問題。而從防禦者的角度來看，生成式人工智慧（AIGC）技術浪潮又加快了安全知識與經驗的大規模複製速度，提升了安全代碼生成、智能研判等領域的實現效率，且為數據安全防護的實現路徑提供了新的解決思路。在「矛」與「盾」角逐中，對人工智慧領域的安全規範化監管要求也迫在眉睫，從而催生了涵蓋生成式人工智慧（AIGC）內容鑒偽、安全評估與諮詢服務等為代表的一系列AI安全治理相關的全新市場機遇。
值得關注的是，在AIGC領域專業的安全產品還非常少。今年3月，微軟推出的Microsoft Security Copilot，也是目前市面上唯一一個生成式Al安全產品。
作為國內首個 AIGC 領域空間安全測繪研究實驗室——博特智能 AIGC 安全實驗室旨在為AIGC技術構建安全邊界，立足於網絡空間安全領域，通過開展創新性前沿研究，為網際網路用戶、技術開發者和監管部門提供安全監測情報與解決方案。
AIGC應用安全評測解決方案
以30萬+違規線索庫和提示詞生成模型為基礎，對AI應用回答的圖片、文字、視頻進行審核。檢測範圍包括涉政涉暴、涉敏感人物、涉黃、信息安全等內容，以及AI應用嚴謹的思維以及認知是否符合道德標準、遺漏的屏蔽詞和屏蔽詞的變形體、數據質量、數據來源和數據的準確性。
AIGC內容安全合規解決方案
AIGC內容風控解決方案是一種致力於處理AI賦能內容產生過程中的版權、內容審查和合規性難題的工具。無論是內容生成、社交媒體管理，還是音視頻製作等多樣化的應用場景，都能找到其應用之處。此方案能幫助AIGC產品開發商、服務提供方進行有效的內容審查，精細化管理訓練數據，提升內容生成的透明度和解釋性，並確保所有內容嚴格遵守各項法規，符合監管要求。通過AIGC內容風控，可以有效降低合規風險，提升內容質量，增強公眾的信任度，使產品和服務更具價值。