新華網(wǎng)北京9月2日電（曹玥）2025年9月1日零時，國家網(wǎng)信辦、工業(yè)和信息化部、公安部、國家廣播電視總局聯(lián)合制定的《人工智能生成合成內(nèi)容標識辦法》（以下簡稱《標識辦法》)正式生效，“標識辦法”提出強制添加顯式和隱式標識等規(guī)范要求，即用AI生成的每一段文字、每一張圖片、每一條音頻、視頻，都必須強制亮明“數(shù)字身份證”。

新華網(wǎng)整理發(fā)現(xiàn)，在9月1日前，包括騰訊、抖音、快手、B站在內(nèi)的多個平臺分別針對上述《標識辦法》出臺了細化規(guī)則，其中抖音平臺發(fā)布公告進一步規(guī)范平臺上的AI內(nèi)容創(chuàng)作與傳播，并上線了兩項功能，一是，內(nèi)容標識功能，協(xié)助創(chuàng)作者為AI內(nèi)容添加提示標識；二是，AI內(nèi)容元數(shù)據(jù)標識讀寫功能，可識別并寫入AI內(nèi)容的元數(shù)據(jù)信息，為內(nèi)容溯源提供技術(shù)支撐。

AI生成內(nèi)容生態(tài)鏈進入規(guī)范化管理階段

人工智能技術(shù)正重塑信息生產(chǎn)和傳播方式。中國互聯(lián)網(wǎng)絡信息中心（CNNIC）發(fā)布的《中國互聯(lián)網(wǎng)絡發(fā)展狀況統(tǒng)計報告》顯示，2024年，我國人工智能產(chǎn)業(yè)規(guī)模已突破7000億元，連續(xù)多年保持20%以上的增長率。

技術(shù)快速普及的同時帶來新的內(nèi)容風險。人工智能技術(shù)被用于制造虛假新聞、實施網(wǎng)絡詐騙的案例逐年增長。中國信通院發(fā)布的《人工智能治理藍皮書（2024年）》中指出，隨著人工智能技術(shù)通用泛化的水平提升，內(nèi)容安全管理將面臨著重大挑戰(zhàn)。

政策的核心在于雙重標識要求。顯式標識需讓普通用戶“一眼可見”，如在AI生成文章的開頭或結(jié)尾添加文字說明，在音視頻內(nèi)容中加入語音提示或特殊圖標。隱式標識則需在文件元數(shù)據(jù)中嵌入“隱藏信息”，包括內(nèi)容屬性、服務商信息及唯一識別編碼。

當前我國人工智能領(lǐng)域正在飛速發(fā)展，相應的安全標準和法律準則在不斷完善當中，《標識辦法》承接了《網(wǎng)絡安全法》《數(shù)據(jù)安全法》《個人信息保護法》構(gòu)建的基礎(chǔ)法律框架，并與2023年8月實施的《生成式人工智能服務管理暫行辦法》以及2023年10月發(fā)布的《生成式人工智能服務安全基本要求》共同完善了我國內(nèi)容協(xié)同治理的體系。

浙江大學計算機科學與技術(shù)學院院長任奎教授是《生成式人工智能服務安全基本要求》的起草參與者之一，他對新華網(wǎng)表示，《標識辦法》的正式實施有三個層面上的重大意義：一是，首次將生成服務提供者、內(nèi)容傳播平臺、終端用戶納入統(tǒng)一治理框架，以內(nèi)容的顯式標識和隱式標識為抓手，將生成式人工智能服務的各利益方串接在一塊。同時也與《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》《生成式人工智能服務管理暫行辦法》等形成制度遞進，明確責任邊界。二是，有助于推動AIGC行業(yè)的規(guī)范化發(fā)展，倒逼企業(yè)建立合規(guī)體系，通過標識這一技術(shù)合規(guī)前置的制度設計，促使企業(yè)將倫理考量融入技術(shù)研發(fā)全流程；同時通過建立可信的內(nèi)容標識體系，提高內(nèi)容使用的透明度，重塑公眾對AIGC技術(shù)的信任基礎(chǔ)。三是，有效的提高了我國在人工智能安全與治理領(lǐng)域的話語權(quán)?！稑俗R辦法》和《標識方法》是全球首個由政府主導，同時通過技術(shù)標準化進行強制性實施的治理模式，為全球內(nèi)容治理提供了范本。

雙重標識體系：顯式可感知，隱式嵌元數(shù)據(jù)

從新規(guī)實施最大的特點來看，《標識辦法》的核心是構(gòu)建了“顯式+隱式”雙重標識體系，對不同類型的AI生成內(nèi)容提出明確標注要求，確保用戶與監(jiān)管方能夠清晰識別內(nèi)容的AI屬性。

在顯式標識層面，要求以用戶可直接感知的方式標注：文本內(nèi)容需在開頭、結(jié)尾或關(guān)鍵位置標注“人工智能生成”或“AI生成”，字體需清晰可辨，不得刻意縮小或模糊。

而隱式標識更側(cè)重于技術(shù)層面的追溯，要求在AI生成內(nèi)容的文件內(nèi)部嵌入元數(shù)據(jù)，且字段名稱必須包含“AIGC”標識符號。元數(shù)據(jù)需涵蓋AI生成確認狀態(tài)、生成服務提供方信息、內(nèi)容傳播平臺名稱、唯一編號，以及數(shù)字簽名或哈希校驗值等關(guān)鍵信息，為內(nèi)容溯源與責任認定提供技術(shù)支撐。

對于文本內(nèi)容，要求在起始、末尾或中間適當位置添加文字提示或通用符號提示；對音頻內(nèi)容，要求在起始、末尾或中間添加語音提示或音頻節(jié)奏提示；對視頻和圖片，則要求在適當位置添加顯著提示標識。

任奎教授認為，“嵌入的標識有不同的功能和類型。例如，對于某個生成內(nèi)容，可以只是簡單的標識出它們是自然真實存在的還是由AI模型生成的。此外，標識還可以標記生成這些內(nèi)容的具體模型。更進一步地說，標識還可以同時標記用戶和模型，合成內(nèi)容標識在功能性上也可以進一步劃分，以滿足監(jiān)管的不同要求?！?/p>

在明確AI生成內(nèi)容標識體系的同時，《標識辦法》著重落腳在適當?shù)毓膭钣肁I進行原創(chuàng)性的內(nèi)容創(chuàng)作。公安部第三研究所副所長金波發(fā)文表示，“《標識辦法》體現(xiàn)出在數(shù)據(jù)內(nèi)容創(chuàng)作與打擊濫用間尋求平衡的考量，也表明在立法思路上對當前蓬勃發(fā)展的人工智能產(chǎn)業(yè)整體上的鼓勵傾向，可理解為早期確立的平臺避風港原則在新時代背景下的創(chuàng)新性發(fā)展?！?/p>

明確主體責任邊界，但監(jiān)管仍面臨挑戰(zhàn)

《標識辦法》的另一重意義在于在法律層面上，對不同主體設置了不同義務。服務提供者有義務確保其生成的內(nèi)容符合標識要求，并在生成內(nèi)容時主動添加標識。

傳播平臺需要核驗文件元數(shù)據(jù)中是否含有隱式標識，對于含有隱式標識的，應當采取適當方式在發(fā)布內(nèi)容周邊添加顯著的提示標識。

應用分發(fā)平臺則需在應用程序上架或上線審核時，核驗服務提供者是否按要求提供生成合成內(nèi)容標識功能。

《標識辦法》的實施對普通人而言，通過顯性標識對AIGC進行鑒別可以更加清晰地認識接收到的信息是否可信。但從落地實踐來看，《標識辦法》并不能徹底地杜絕AI生成謠言、假消息的產(chǎn)生。

例如，對于顯性標識，用戶可以刪除相關(guān)文字及標識圖形來去除；對于隱性標識，用戶也可以通過轉(zhuǎn)碼等方式進行一定程度的規(guī)避。也就是說，基于標識的識別無法對于惡意用戶發(fā)布的內(nèi)容進行精準鑒別。

“AI生成也只是謠言等產(chǎn)生的工具，沒有AI的時候也存在同樣問題?！敝袀愇牡侣蓭熓聞账虾＾k公室高級合伙人王祺律師對新華網(wǎng)表示，AI生成內(nèi)容應用的風險是無法完全規(guī)避，“對于惡意使用者，即使沒有AI也可以通過雇傭人來批量產(chǎn)生造謠內(nèi)容?！?/p>

從權(quán)、責、利層面來看，王祺還指出，內(nèi)容發(fā)布平臺或?qū)⒊袚嗟呢熑?，“從盡量平衡生成式人工智能的收益與風險的角度，除了要求人工智能應用服務提供者盡到更加嚴格的注意義務外，建議監(jiān)管使內(nèi)容發(fā)布平臺承擔更多的責任?！?/p>

例如，如果AI生成內(nèi)容只有在內(nèi)容發(fā)布平臺算法的助推下才會吸引更多人的關(guān)注，而目前算法難以真正對于非正常流量增長的謠言等進行及時控制?！皟?nèi)容生成平臺欲思算法推送流量之利，則也應盡相應的內(nèi)容監(jiān)管之義務。這也是權(quán)責相適應的價值要求?！蓖蹯鲗π氯A網(wǎng)說。

鑒于《標識辦法》在落地實踐中所面臨的挑戰(zhàn)，從技術(shù)層面，任奎教授建議，大力發(fā)展安全保證的內(nèi)容隱式標識技術(shù)。“利用內(nèi)容隱式標識的魯棒性與難以去除能力，配合顯式標識和元數(shù)據(jù)隱式標識共同維護基于標識的內(nèi)容治理體系?！?/p>

最后，標識是AI生成內(nèi)容治理邁出的關(guān)鍵一步，但它只是多層次防控體系的一部分。要真正規(guī)避風險，還需要細化法律法規(guī)、建立行業(yè)自律標準、加大執(zhí)法力度和國際合作。

“AI生成內(nèi)容跨國傳播時，數(shù)據(jù)主權(quán)歸屬與執(zhí)法管轄權(quán)爭議頻發(fā)。如何在全球化背景下實現(xiàn)跨境的AIGC執(zhí)法也是面臨的挑戰(zhàn)之一。”任奎教授表示，“進一步推動技術(shù)標識協(xié)同，建立跨境執(zhí)法互助機制。與‘一帶一路’國家、金磚國家聯(lián)合構(gòu)建互認標識體系，并推動AI生成內(nèi)容快速響應機制，支撐跨境執(zhí)法是未來內(nèi)容治理的重點方向之一。