整治AI技術(shù)濫用，并不是反對AI技術(shù)應(yīng)用，而是在規(guī)范中尋求技術(shù)發(fā)展的空間，做到鼓勵創(chuàng)新與防范風(fēng)險的平衡。

王石川

為規(guī)范AI服務(wù)和應(yīng)用，促進行業(yè)健康有序發(fā)展，保障公民合法權(quán)益，中央網(wǎng)信辦近日印發(fā)通知，在全國范圍內(nèi)部署開展為期3個月的“清朗·整治AI技術(shù)濫用”專項行動。本次專項行動分兩個階段開展，重點整治13類突出問題。

當前，AI技術(shù)已走入我們的生活，其在給人們工作生活帶來諸多便利的同時，也被不法分子盯上并濫用，由此帶來的“花樣”違法犯罪問題層出不窮。例如，今年全國兩會期間，全國政協(xié)委員、中國煤礦文工團團長靳東直言：“一些喜歡我影視劇的觀眾，被AI換臉視頻騙得很慘，這個性質(zhì)非常惡劣，希望能建立更好的規(guī)則?！痹偃纾?024年，一男子使用AI去衣技術(shù)偽造近7000張裸照，最終被追究法律責任。這些案例表明，AI技術(shù)濫用帶來的風(fēng)險已危害到了社會秩序和公眾權(quán)益。由此可見，開展“清朗·整治AI技術(shù)濫用”專項行動，來得正是時候。整治AI技術(shù)濫用，避免濫用AI沖擊道德倫理和法治底線，既是大眾的強烈呼聲，也是社會治理的應(yīng)有之義。

此次專項行動著眼于技術(shù)源頭治理，落腳于內(nèi)容生態(tài)整治，精準鎖定六大突出問題與七類社會公害，體現(xiàn)了我國在AI治理方面的系統(tǒng)思維，比如行動既劍指利用AI制作發(fā)布謠言、不實信息、色情低俗內(nèi)容，也整治利用AI假冒他人實施侵權(quán)違法行為，以及利用AI從事網(wǎng)絡(luò)水軍活動等，可以說是全面治理。

在奔著問題去的同時，此次專項行動還提出加強AI生成合成技術(shù)和內(nèi)容標識管理，推動網(wǎng)站平臺提升檢測鑒偽能力，集中清理相關(guān)違法不良信息，處置處罰違規(guī)賬號、MCN機構(gòu)和網(wǎng)站平臺。這一系列安排傳遞出明確信號：相關(guān)部門并不是簡單止步于消除AI技術(shù)濫用的種種亂象，而是致力于推動構(gòu)建全生命周期監(jiān)管體系，讓AI服務(wù)和應(yīng)用更規(guī)范。

此前某短視頻平臺發(fā)布報告稱，2024年借助科普傳播、反詐宣傳，以及一系列安全治理措施，累計攔截不實信息超500萬條，處理低質(zhì)AI內(nèi)容超93萬條，處罰同質(zhì)化發(fā)文超781萬篇。對此，有專家指出，這些數(shù)據(jù)揭示了AI時代謠言治理的殘酷現(xiàn)實：當技術(shù)普惠與人性弱點結(jié)合時，我們正面臨一場前所未有的認知戰(zhàn)爭。

基于此，整治AI技術(shù)濫用不能僅停留在處理多少低質(zhì)AI內(nèi)容，打掉多少濫用AI技術(shù)而走向犯罪深淵的不法分子，還應(yīng)深度思考如何推動網(wǎng)站平臺提升檢測鑒偽能力，如何健全AI生成合成內(nèi)容審核機制，如何引導(dǎo)各方正確認識和應(yīng)用人工智能技術(shù)等。

當然，整治AI技術(shù)濫用，并不是反對AI技術(shù)應(yīng)用，而是在規(guī)范中尋求技術(shù)發(fā)展的空間，做到鼓勵創(chuàng)新與防范風(fēng)險的平衡。因此，此次專項行動絕非技術(shù)管制，而是構(gòu)建“技術(shù)向善”生態(tài)的系統(tǒng)工程。一方面，通過技術(shù)手段識別和攔截AI濫用行為，推動“以技術(shù)反制技術(shù)”的治理創(chuàng)新；另一方面，進一步明確相關(guān)人員的倫理責任、平臺的內(nèi)容審核義務(wù)、公眾的監(jiān)督權(quán)利，以形成多方共治的制度閉環(huán)。這種疏堵結(jié)合的治理邏輯，既為AI技術(shù)劃定了不可逾越的紅線，也為其健康發(fā)展保留了創(chuàng)新空間。

整治AI技術(shù)濫用，既需要久久為功，也需要多方協(xié)力，構(gòu)建一個由平臺、有關(guān)部門與公眾共同參與的治理體系。必須承認，AI治理目前還面臨著法律法規(guī)滯后與技術(shù)快速創(chuàng)新之間的矛盾。所以，在這個過程中，還需要在完善立法等方面多下功夫。

當前，《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》《生成式人工智能服務(wù)管理暫行辦法》已付諸實施，《人工智能生成合成內(nèi)容標識辦法》也將于9月1日起施行。隨著相關(guān)制度的不斷完善，整治AI技術(shù)濫用的法治基礎(chǔ)更加堅實。但正如業(yè)內(nèi)人士所稱，治理AI違法犯罪需不斷健全法治體系，以實現(xiàn)“AI技術(shù)發(fā)展到哪里，法律法規(guī)就延伸到哪里”，通過增強立法的前瞻性、精準性和落地性，更好地消除AI技術(shù)濫用帶來的危害。

數(shù)字時代的文明高度，取決于技術(shù)向善的能力與社會治理的精度。技術(shù)向善不僅需要法律政策約束，也需要行業(yè)自律與社會共識的形成。此次“清朗”行動啟示我們，必須凝聚社會共識，只有將法治剛性、技術(shù)韌性與人性溫度融為一體，形成治理合力，實現(xiàn)“智治”與“善治”的統(tǒng)一，才能讓AI技術(shù)更好服務(wù)人類社會，給人類帶來更多福祉。