天津大學(xué)法學(xué)院王燃在《法律科學(xué)》2024年第2期上發(fā)表題為《論網(wǎng)絡(luò)暴力的平臺(tái)技術(shù)治理》的文章中指出：

隨著社交網(wǎng)絡(luò)媒體的深入發(fā)展，侮辱、謾罵、造謠、誹謗等行為開始在網(wǎng)絡(luò)空間蔓延，網(wǎng)絡(luò)暴力成為法律亟須回應(yīng)的社會(huì)熱點(diǎn)問(wèn)題。網(wǎng)絡(luò)暴力是以網(wǎng)絡(luò)為媒介，通過(guò)誹謗侮辱、煽動(dòng)滋事、公開隱私等人身攻擊方式，侵害他人人格權(quán)益，危害網(wǎng)絡(luò)空間正常秩序的失范行為。網(wǎng)絡(luò)暴力的治理，從賬號(hào)管理、信息發(fā)布審核、監(jiān)測(cè)預(yù)警到舉報(bào)救助等各個(gè)環(huán)節(jié)，均離不開平臺(tái)技術(shù)手段的支持。

網(wǎng)絡(luò)暴力的行為特殊性導(dǎo)致既有法律治理難見成效。無(wú)論是傳統(tǒng)個(gè)案司法救濟(jì)模式，還是網(wǎng)信部門“信息內(nèi)容”監(jiān)管模式，均無(wú)法有效預(yù)防、控制網(wǎng)絡(luò)暴力。平臺(tái)技術(shù)治理成為目前的主要方案并被相關(guān)立法所規(guī)定。技術(shù)治理可實(shí)現(xiàn)對(duì)網(wǎng)絡(luò)暴力的事前預(yù)防、事中阻斷以及信息的準(zhǔn)確識(shí)別；平臺(tái)作為“守門人”，是控制網(wǎng)絡(luò)暴力信息的最佳著力點(diǎn)，其數(shù)據(jù)壟斷地位也使得相關(guān)技術(shù)方案有落地可能性。

在技術(shù)治理方式上，相關(guān)立法規(guī)定建立網(wǎng)絡(luò)暴力識(shí)別模型、用戶保障機(jī)制以及阻斷處置機(jī)制等。其中，建立網(wǎng)絡(luò)暴力識(shí)別模型是關(guān)鍵，其包括對(duì)信息內(nèi)容的識(shí)別模型和對(duì)高危賬號(hào)的識(shí)別模型。此外，除了傳統(tǒng)的方式外，平臺(tái)可傳播良性信息與有害信息進(jìn)行對(duì)抗性互動(dòng)，以遏制、降低網(wǎng)絡(luò)暴力信息的影響?？赏ㄟ^(guò)社交機(jī)器人等智能生成技術(shù)來(lái)對(duì)網(wǎng)絡(luò)暴力言論進(jìn)行正向引導(dǎo)。社交機(jī)器人是自動(dòng)化的軟件程序，通過(guò)算法自動(dòng)生成內(nèi)容并建立互動(dòng)，很容易被視為人類賬戶。社交機(jī)器人技術(shù)本身是中立的，其完全有能力去生成并引導(dǎo)正向信息的傳播，從而減輕網(wǎng)絡(luò)暴力信息對(duì)用戶的傷害。

平臺(tái)在進(jìn)行網(wǎng)絡(luò)暴力技術(shù)治理的過(guò)程中，面臨著諸多法律與技術(shù)風(fēng)險(xiǎn)：針對(duì)“不良信息型”網(wǎng)絡(luò)暴力的認(rèn)定，應(yīng)將個(gè)體感受、人物關(guān)系、上下文情境等要素納入識(shí)別模型；針對(duì)平臺(tái)用戶權(quán)利保障風(fēng)險(xiǎn)，引入“技術(shù)正當(dāng)程序”與比例原則，保障用戶的被通知權(quán)、知情權(quán)、算法解釋權(quán)等權(quán)利并限制平臺(tái)權(quán)力；針對(duì)社交機(jī)器人安全風(fēng)險(xiǎn)，要考慮網(wǎng)絡(luò)暴力治理場(chǎng)景的正當(dāng)性，加強(qiáng)其價(jià)值觀引導(dǎo)，確保內(nèi)容可靠并控制傳播邊界；此外，要合理界定注意義務(wù)主體范圍，由大型平臺(tái)與超大型平臺(tái)承擔(dān)網(wǎng)絡(luò)暴力治理義務(wù)。