三部門發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》

提供深度合成服務(wù)應(yīng)進行顯著標識

□　本報記者 劉欣

近年來，深度合成技術(shù)快速發(fā)展，在服務(wù)用戶需求、改進用戶體驗的同時，也被一些不法人員用于制作、復(fù)制、發(fā)布、傳播違法和不良信息，詆毀、貶損他人名譽、榮譽，仿冒他人身份實施詐騙等，影響傳播秩序和社會秩序，損害人民群眾合法權(quán)益，危害國家安全和社會穩(wěn)定。

近日，國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部聯(lián)合發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》（以下簡稱《規(guī)定》），明確了深度合成服務(wù)的一般規(guī)定、深度合成數(shù)據(jù)和技術(shù)管理規(guī)范、監(jiān)督檢查與法律責任、相關(guān)用語的含義等。

國家網(wǎng)信辦有關(guān)負責人表示，出臺《規(guī)定》，旨在加強互聯(lián)網(wǎng)信息服務(wù)深度合成管理，弘揚社會主義核心價值觀，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權(quán)益。

避免濫用深度合成技術(shù)

AI換臉、語音合成、虛擬主播……隨著各類商業(yè)化產(chǎn)品普及，深度合成的信息內(nèi)容在網(wǎng)絡(luò)上大量涌現(xiàn)，越來越多的社會公眾接觸到了深度合成技術(shù)。

據(jù)悉，深度合成技術(shù)是指利用深度學(xué)習、虛擬現(xiàn)實等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等網(wǎng)絡(luò)信息技術(shù)。近年來，深度合成技術(shù)應(yīng)用廣泛、形式多樣，在影視、傳媒、教育等領(lǐng)域有大量應(yīng)用形式，可實現(xiàn)特效制作、元宇宙場景、虛擬仿真教學(xué)等功能。

但當前，網(wǎng)絡(luò)傳播環(huán)境日趨復(fù)雜，新型合成方法層出不窮，技術(shù)濫用的風險也在不斷加劇。記者了解到，此前有不法分子通過非法獲取的他人照片或有償收購的他人聲音等“物料”，利用人工智能技術(shù)將照片合成動態(tài)視頻，仿冒他人身份進行電信網(wǎng)絡(luò)詐騙、網(wǎng)絡(luò)賭博等；更有不法分子利用AI技術(shù)移花接木制作不雅視頻，將視頻中的人臉換成明星后在網(wǎng)絡(luò)上出售。

國家網(wǎng)信辦有關(guān)負責人表示，出臺《規(guī)定》，是防范化解安全風險的需要，也是促進深度合成服務(wù)健康發(fā)展、提升監(jiān)管能力水平的需要。

《規(guī)定》明確了制定目的依據(jù)、適用范圍、部門職責和導(dǎo)向要求。明確在中華人民共和國境內(nèi)應(yīng)用深度合成技術(shù)提供互聯(lián)網(wǎng)信息服務(wù)，適用本規(guī)定。明確國家和地方網(wǎng)信部門統(tǒng)籌協(xié)調(diào)深度合成服務(wù)的治理和相關(guān)監(jiān)督管理職責，國務(wù)院電信主管部門、公安部門以及地方相關(guān)部門的監(jiān)督管理職責。明確提供深度合成服務(wù)的總體要求。鼓勵相關(guān)行業(yè)組織加強行業(yè)自律。

建議研制相關(guān)標準規(guī)范

常言道，耳聽為虛，眼見為實。但隨著科技的發(fā)展，“以假亂真”的畫面、聲音、視頻等并不少見，給人帶來困擾。此次《規(guī)定》明確了深度合成服務(wù)提供者的標識要求，引發(fā)熱議。

國家網(wǎng)信辦有關(guān)負責人介紹，深度合成服務(wù)提供者對使用其服務(wù)生成或者編輯的信息內(nèi)容，應(yīng)當采取技術(shù)措施添加不影響用戶使用的標識，并依法依規(guī)保存日志信息。提供智能對話、合成人聲、人臉生成、沉浸式擬真場景等具有生成或者顯著改變信息內(nèi)容功能服務(wù)的，應(yīng)當在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進行顯著標識，向公眾提示信息內(nèi)容的合成情況，避免公眾混淆或者誤認；提供非上述深度合成服務(wù)的，應(yīng)當提供顯著標識功能，并提示使用者可以進行顯著標識。任何組織和個人不得采用技術(shù)手段刪除、篡改、隱匿相關(guān)標識。

中國科學(xué)院信息工程研究所所長孟丹認為，《規(guī)定》充分結(jié)合深度合成技術(shù)特點與發(fā)展趨勢，提出了針對深度合成服務(wù)和技術(shù)的普適性的規(guī)范思路，但在生成合成類算法服務(wù)范圍、深度合成技術(shù)具體范圍、深度合成服務(wù)業(yè)務(wù)分類、顯式標識條件與標識方式、隱式標識方法與識別等諸多具體方面，亟須行業(yè)內(nèi)部進一步細化相關(guān)配套標準規(guī)范。

“在實際落地過程中，建議行業(yè)內(nèi)推進產(chǎn)業(yè)聯(lián)盟建立，研制相關(guān)標準規(guī)范，以產(chǎn)業(yè)自治、多方共治的方式，不斷推進深度合成技術(shù)應(yīng)用高質(zhì)量發(fā)展?！泵系そㄗh。

《規(guī)定》還明確了深度合成服務(wù)提供者和技術(shù)支持者的數(shù)據(jù)和技術(shù)管理規(guī)范。國家網(wǎng)信辦有關(guān)負責人介紹，一是加強訓(xùn)練數(shù)據(jù)管理。采取必要措施保障訓(xùn)練數(shù)據(jù)安全；訓(xùn)練數(shù)據(jù)包含個人信息的，應(yīng)當遵守個人信息保護的有關(guān)規(guī)定；提供人臉、人聲等生物識別信息顯著編輯功能的，應(yīng)當提示使用者依法告知被編輯的個人，并取得其單獨同意。

二是加強技術(shù)管理。定期審核、評估、驗證生成合成類算法機制機理；提供具有對人臉、人聲等生物識別信息或者可能涉及國家安全、國家形象、國家利益和社會公共利益的特殊物體、場景等非生物識別信息編輯功能的模型、模板等工具的，應(yīng)當依法自行或者委托專業(yè)機構(gòu)開展安全評估。

聚焦違法不良信息治理

值得注意的是，《規(guī)定》還聚焦違法和不良信息治理，引導(dǎo)深度合成服務(wù)向上向善。

“針對利用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播違法信息等行為，《規(guī)定》劃定‘紅線’，規(guī)定不得利用深度合成服務(wù)開展法律法規(guī)禁止的活動，要求深度合成服務(wù)提供者制定和公開管理規(guī)則、平臺公約，完善服務(wù)協(xié)議，依法依約履行信息安全管理責任。發(fā)現(xiàn)違法和不良信息的，依法采取處置措施，保存有關(guān)記錄，及時向有關(guān)主管部門報告?！敝袊茖W(xué)院自動化研究所所長徐波說。

《規(guī)定》還明確了監(jiān)督檢查與法律責任：具有輿論屬性或者社會動員能力的深度合成服務(wù)提供者、技術(shù)支持者應(yīng)當履行備案和變更、注銷備案手續(xù)。上線具有輿論屬性或者社會動員能力的新產(chǎn)品、新應(yīng)用、新功能的，應(yīng)當開展安全評估。深度合成服務(wù)提供者、技術(shù)支持者應(yīng)當依法配合網(wǎng)信部門和有關(guān)主管部門開展的監(jiān)督檢查，并提供必要的支持和協(xié)助。發(fā)現(xiàn)存在較大信息安全風險的，網(wǎng)信部門和有關(guān)主管部門可以按照職責依法要求其采取暫停信息更新、用戶賬號注冊或者其他服務(wù)等措施。明確違反規(guī)定的法律責任。

徐波認為，《規(guī)定》統(tǒng)籌各方力量，構(gòu)建政府監(jiān)管、企業(yè)履責、行業(yè)自律、社會監(jiān)督的多元共治體系，將網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理和深度合成服務(wù)管理有機結(jié)合，通過貫穿深度合成服務(wù)事前事中事后的監(jiān)管模式，針對不同的深度合成活動給出規(guī)范要求，進一步明確深度合成服務(wù)提供者、技術(shù)支持者和使用者以及應(yīng)用程序分發(fā)平臺責任，鼓勵推動行業(yè)自律和出臺標準規(guī)范，要求社會監(jiān)督和申訴渠道暢通，及時處理公眾訴求，對深度合成服務(wù)管理提出了兼具針對性、指導(dǎo)性、規(guī)范性的中國方案。

國家互聯(lián)網(wǎng)信息辦公室有關(guān)負責人指出，深度合成服務(wù)治理需要政府、企業(yè)、社會、網(wǎng)民等多方主體共同參與，推動深度合成技術(shù)的依法、合理、有效使用，積極防范化解深度合成技術(shù)帶來的風險，促進互聯(lián)網(wǎng)信息服務(wù)健康發(fā)展，維護網(wǎng)絡(luò)空間良好生態(tài)。