胡欣紅

近期，多地公安機(jī)關(guān)發(fā)布了多起利用AI工具實(shí)施造謠的相關(guān)案件。上海市公安局城市軌道和公交總隊(duì)發(fā)布警情通報(bào)：兩名營(yíng)銷人員為博取關(guān)注造謠地鐵站發(fā)生持刀傷人的情況，被上海警方依法處以行政拘留。其中一人使用AI軟件生成視頻技術(shù)，編造了地鐵行兇的虛假視頻等不實(shí)信息發(fā)布到網(wǎng)上，造成惡劣社會(huì)影響。

信息時(shí)代，各種資訊滿天飛，有些事情本身就真假難辨，容易混淆視聽。謠言往往具有傳播速度快、影響范圍廣的特點(diǎn)，一旦形成規(guī)模，就會(huì)對(duì)社會(huì)秩序和社會(huì)穩(wěn)定造成威脅。使用AI技術(shù)讓造謠更加便捷和高效，并提升了謠言的數(shù)量級(jí)和傳播力，進(jìn)一步加劇了謠言的危害性。去年，上海發(fā)生一起女童走失事件，一個(gè)造謠團(tuán)伙以“標(biāo)題黨”“震驚體”方式，惡意編造炒作“女孩父親系繼父”“女孩被帶往溫州”等系列謠言。該團(tuán)伙利用AI工具等生成謠言內(nèi)容，通過(guò)114個(gè)賬號(hào)矩陣，在6天內(nèi)發(fā)布268篇文章，多篇文章點(diǎn)擊量超過(guò)100萬(wàn)次。

鑒于自媒體造謠嚴(yán)重傷害了網(wǎng)絡(luò)生態(tài)，監(jiān)管部門依法加大了對(duì)網(wǎng)絡(luò)謠言的打擊力度。今年4月，中央網(wǎng)信辦部署在全國(guó)范圍內(nèi)開展為期兩個(gè)月的“清朗·整治‘自媒體’無(wú)底線博流量”專項(xiàng)行動(dòng)，整治的重點(diǎn)之一是“擺拍發(fā)布涉及國(guó)內(nèi)外時(shí)事、社會(huì)民生等領(lǐng)域虛假事件信息。拼湊剪接網(wǎng)絡(luò)視頻圖片，篡改事件發(fā)生的時(shí)間、地點(diǎn)、人物等要素，以假亂真欺騙公眾”。

不得不說(shuō)，目前網(wǎng)絡(luò)造謠的成本還是太低了。據(jù)央視報(bào)道，江西南昌一家MCN機(jī)構(gòu)使用AI技術(shù)，最高峰一天生成4000至7000篇謠言，最高的一條收入700元，初步估算每天收入1萬(wàn)元以上，但相關(guān)責(zé)任人僅僅被處以行政拘留5日。

《刑法》第291條規(guī)定：“編造虛假的險(xiǎn)情、疫情、災(zāi)情、警情，在信息網(wǎng)絡(luò)或者其他媒體上傳播，或者明知是上述虛假信息，故意在信息網(wǎng)絡(luò)或者其他媒體上傳播，嚴(yán)重?cái)_亂社會(huì)秩序的，處三年以下有期徒刑、拘役或者管制；造成嚴(yán)重后果的，處三年以上七年以下有期徒刑?！睋?jù)此，對(duì)網(wǎng)絡(luò)造謠（及故意或惡意傳謠）行為，除治安處罰外，情節(jié)嚴(yán)重的應(yīng)追究刑事責(zé)任，切實(shí)提高其造謠成本，方能以儆效尤。

AI造謠呈現(xiàn)出門檻低、批量化、識(shí)別難等特點(diǎn)，亟待加強(qiáng)監(jiān)管，斬?cái)啾澈罄骀湕l。線下的懲處力度固然要加強(qiáng)，線上的技術(shù)監(jiān)管和追蹤也要更新迭代。利用AI技術(shù)批量造謠往往涉及大量的網(wǎng)絡(luò)活動(dòng)和數(shù)據(jù)傳輸，相關(guān)部門應(yīng)加強(qiáng)對(duì)網(wǎng)絡(luò)空間的監(jiān)管和追蹤，及時(shí)發(fā)現(xiàn)和處置謠言信息。

對(duì)于涉及的網(wǎng)絡(luò)平臺(tái)，也應(yīng)追究其監(jiān)管責(zé)任。用技術(shù)解決技術(shù)，用魔法打敗魔法，在大數(shù)據(jù)和新技術(shù)面前，識(shí)別利用AI炮制的垃圾信息，并沒(méi)有那么困難。如果平臺(tái)未能有效監(jiān)管和清理謠言信息，應(yīng)依法對(duì)其進(jìn)行處罰，并責(zé)令其加強(qiáng)內(nèi)容審核和管理。此外，網(wǎng)絡(luò)平臺(tái)、媒體機(jī)構(gòu)等應(yīng)加強(qiáng)自律，遵守法律法規(guī)，不傳播未經(jīng)證實(shí)的信息。各行業(yè)之間也應(yīng)加強(qiáng)合作，共同打擊利用AI批量造謠的行為。

“造謠一張嘴，辟謠跑斷腿?！碑?dāng)前也亟須通過(guò)教育和宣傳，幫助公眾提高對(duì)謠言的識(shí)別能力，做到理性看待網(wǎng)絡(luò)信息，避免被謠言誤導(dǎo)。尤其是看到聳人聽聞的信息時(shí)，不妨多留個(gè)心眼，讓子彈再飛一會(huì)兒，切莫落入信息陷阱之中，甚至盲目跟風(fēng)轉(zhuǎn)發(fā)評(píng)論，有意無(wú)意助紂為虐。