原標(biāo)題：“AI換臉擬聲”不當(dāng)濫用頻繁出現(xiàn) 全國(guó)人大代表建議加快立法

促進(jìn)生成式人工智能健康發(fā)展規(guī)范應(yīng)用

法治日?qǐng)?bào)記者　　蒲曉磊

“去年‘十一’假期，有網(wǎng)友說(shuō)，放了7天假，卻被‘AI雷軍’罵了8天。”全國(guó)人大代表，小米集團(tuán)創(chuàng)始人、董事長(zhǎng)兼首席執(zhí)行官雷軍說(shuō)，當(dāng)自己想通過(guò)法律維權(quán)時(shí)，卻發(fā)現(xiàn)對(duì)此沒(méi)有專門的立法，只能以侵犯隱私權(quán)、肖像權(quán)、名譽(yù)權(quán)等起訴，而這些都要量化損失，“在網(wǎng)上被罵8天，損失根本沒(méi)法量化”。

北京互聯(lián)網(wǎng)法院3月13日在通報(bào)建院以來(lái)涉網(wǎng)絡(luò)消費(fèi)虛假宣傳案件審理情況時(shí)指出，一些商家利用AI技術(shù)假冒公眾人物形象制作虛假?gòu)V告，或利用網(wǎng)紅達(dá)人進(jìn)行“種草”營(yíng)銷，并通過(guò)算法精準(zhǔn)推送，導(dǎo)致消費(fèi)者容易“踩雷”。

無(wú)論是名人還是普通人，在被“AI換臉擬聲”行為侵權(quán)時(shí)，都會(huì)感到苦不堪言。

對(duì)此，多名全國(guó)人大代表建議，加快制定人工智能法，對(duì)人工智能法律問(wèn)題作出全面規(guī)定，明確強(qiáng)化技術(shù)監(jiān)管、壓實(shí)平臺(tái)責(zé)任、加大懲處力度等內(nèi)容，填補(bǔ)因人工智能技術(shù)興起而形成的各法律之間的空白地帶，為促進(jìn)生成式人工智能健康發(fā)展和規(guī)范應(yīng)用提供有力法治保障。

不當(dāng)濫用帶來(lái)社會(huì)治理風(fēng)險(xiǎn)

近年來(lái)，人工智能為社會(huì)生活和商業(yè)活動(dòng)帶來(lái)巨大便利和機(jī)遇的同時(shí)，也衍生出一系列社會(huì)、倫理、安全和法律問(wèn)題，引發(fā)社會(huì)公眾普遍關(guān)注。

陜西警方2024年通報(bào)一起案件，某公司財(cái)務(wù)人員接到經(jīng)理的視頻通話，要求她轉(zhuǎn)賬186萬(wàn)元到一個(gè)指定賬戶。因?yàn)橐曨l通話中對(duì)方的聲音、長(zhǎng)相和言談舉止都與經(jīng)理一樣，財(cái)務(wù)人員迅速完成轉(zhuǎn)賬。事后當(dāng)上級(jí)領(lǐng)導(dǎo)詢問(wèn)時(shí)，財(cái)務(wù)人員才發(fā)現(xiàn)被騙并連忙報(bào)警求助，最終保住了其中的156萬(wàn)元。在本案中，犯罪分子就是用人工智能實(shí)現(xiàn)了聲音和視頻畫(huà)面的深度偽造，以此實(shí)施詐騙。

近段時(shí)間，有商家在視頻切片中通過(guò)AI技術(shù)更換專家語(yǔ)音和字幕，制作虛假?gòu)V告，不少消費(fèi)者上當(dāng)受騙。

“過(guò)去一年，至少有幾十個(gè)視頻冒用我的聲音、形象講述虛假內(nèi)容，有的連我自己都覺(jué)得很逼真?！比珖?guó)人大代表、中國(guó)工程院院士張伯禮表示，利用人工智能生成虛假內(nèi)容的違法犯罪事件越來(lái)越多，必須采取有力措施予以遏制。

雷軍指出，“AI換臉擬聲”不當(dāng)濫用造成了違法侵權(quán)行為頻發(fā)，易引發(fā)侵犯肖像權(quán)、隱私權(quán)以及詐騙等犯罪行為，甚至造成難以挽回的大規(guī)模聲譽(yù)損害，帶來(lái)社會(huì)治理等風(fēng)險(xiǎn)。AI深度合成技術(shù)具有所需素材獲取便利、技術(shù)使用門檻低、侵權(quán)主體及其手段隱蔽性強(qiáng)等特點(diǎn)，給治理帶來(lái)較大挑戰(zhàn)。

相關(guān)制度存在一定滯后性

近年來(lái)，為促進(jìn)生成式人工智能健康發(fā)展和規(guī)范應(yīng)用，我國(guó)持續(xù)完善相關(guān)制度。

近日，國(guó)家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國(guó)家廣播電視總局聯(lián)合發(fā)布《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》，該辦法將于2025年9月1日起施行。在此之前，我國(guó)還頒布實(shí)施了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》。

多名全國(guó)人大代表認(rèn)為，相關(guān)法規(guī)、規(guī)章在促進(jìn)人工智能健康發(fā)展方面發(fā)揮了重要作用，但由于位階低、內(nèi)容分散等原因，不足以充分應(yīng)對(duì)人工智能技術(shù)所引發(fā)的各類問(wèn)題。

雷軍認(rèn)為，相關(guān)法規(guī)、規(guī)章的頒布實(shí)施，對(duì)人工智能立法進(jìn)行了有益探索。但目前“AI換臉擬聲”的有關(guān)規(guī)定，尚存在效力位階偏低、內(nèi)容偏原則且分散、多個(gè)部門職責(zé)交叉或職權(quán)定位有待明晰等不足，導(dǎo)致現(xiàn)階段針對(duì)“AI換臉擬聲”造成的侵害，只能依靠基礎(chǔ)法律中關(guān)于隱私權(quán)、肖像權(quán)、名譽(yù)權(quán)等的零散法條進(jìn)行規(guī)制。

全國(guó)人大代表、西南政法大學(xué)教授付子堂表示，人工智能等技術(shù)加速突破，必將深刻改變?nèi)藗儸F(xiàn)行的生產(chǎn)生活方式，而目前相關(guān)的法律制度存在一定滯后性。例如，生成式人工智能等新興領(lǐng)域存在規(guī)范真空，數(shù)據(jù)隱私保護(hù)、算法責(zé)任認(rèn)定等方面存在法律適用問(wèn)題，并且在個(gè)人數(shù)據(jù)信息保護(hù)、算力治理等方面存在多頭管理問(wèn)題，監(jiān)管協(xié)同性不足。

細(xì)化認(rèn)定標(biāo)準(zhǔn)加大懲處力度

2025年全國(guó)人大常委會(huì)工作報(bào)告指出，要圍繞人工智能、數(shù)字經(jīng)濟(jì)、大數(shù)據(jù)、自動(dòng)駕駛、低空經(jīng)濟(jì)、航天等新興領(lǐng)域加強(qiáng)立法研究。

多名全國(guó)人大代表建議，加快人工智能立法進(jìn)程，有力解決人工智能發(fā)展和崛起所導(dǎo)致的各類法律問(wèn)題，促進(jìn)生成式人工智能健康發(fā)展和規(guī)范應(yīng)用。

“立法層面對(duì)于謠言的認(rèn)定標(biāo)準(zhǔn)和處罰措施還有待細(xì)化完善，懲處力度也需要加大，此外AI技術(shù)服務(wù)提供者的監(jiān)督責(zé)任也需要加強(qiáng)，全力引導(dǎo)技術(shù)向善?！比珖?guó)人大代表、中華全國(guó)律師協(xié)會(huì)副會(huì)長(zhǎng)萬(wàn)立認(rèn)為，這些內(nèi)容在立法時(shí)都要有所考慮。

“要著手構(gòu)建階梯式法律框架，夯實(shí)制度根基，可細(xì)分制定人工智能法等專門法律，并完善能與個(gè)人信息保護(hù)法等上位法相銜接的、對(duì)深度合成內(nèi)容進(jìn)行有效規(guī)范的配套條例?！备蹲犹谜f(shuō)。

雷軍建議，探索推出人工智能單行法，提高立法位階及其效力，在分級(jí)分類的基礎(chǔ)上進(jìn)行務(wù)實(shí)治理，明確“AI換臉擬聲”應(yīng)用邊界紅線，完善侵權(quán)證據(jù)規(guī)則，加大對(duì)利用人工智能技術(shù)實(shí)施犯罪行為的刑事處罰力度。

“要規(guī)范‘AI換臉擬聲’技術(shù)的不當(dāng)利用，有必要要求深度合成服務(wù)提供商對(duì)人工智能生成的內(nèi)容進(jìn)行強(qiáng)制標(biāo)識(shí)，減少惡意濫用。這也有助于厘清責(zé)任、對(duì)違法犯罪行為追責(zé)?！比珖?guó)人大代表，TCL創(chuàng)始人、董事長(zhǎng)李東生說(shuō)。