弱人工智能背景下的犯罪治理
每一次科技領(lǐng)域的重大變革，都會(huì)顯著改變犯罪的方式及應(yīng)對(duì)策略。人工智能的快速興起，亦會(huì)改變犯罪的方式及其防治對(duì)策。人工智能技術(shù)主要包括計(jì)算機(jī)視覺(jué)、自然語(yǔ)言處理、圖像識(shí)別、機(jī)器學(xué)習(xí)等，其實(shí)質(zhì)在于強(qiáng)大的數(shù)據(jù)識(shí)別、分析、學(xué)習(xí)能力。對(duì)于人工智能背景下可能引發(fā)的犯罪問(wèn)題以及如何利用人工智能預(yù)防犯罪，理論上進(jìn)行了諸多富有建設(shè)性、前瞻性的研究。人工智能根據(jù)其智能化的程度，大致可以分為弱人工智能、強(qiáng)人工智能、超強(qiáng)人工智能，強(qiáng)人工智能及超強(qiáng)人工智能是指人工智能能夠獨(dú)立于程序、軟件的設(shè)計(jì)者設(shè)定的算法、學(xué)習(xí)范圍而進(jìn)行思考與行動(dòng)，接近甚至超過(guò)人。目前科學(xué)界較為普遍的認(rèn)識(shí)是，走向強(qiáng)人工智能、超強(qiáng)人工智能可能還需要經(jīng)歷至少四五十年。人工智能仍將長(zhǎng)期處于弱人工智能發(fā)展階段，正確認(rèn)識(shí)當(dāng)前弱人工智能背景下的犯罪現(xiàn)狀，運(yùn)用人工智能防范、懲治犯罪，是當(dāng)前更為緊迫的現(xiàn)實(shí)任務(wù)。
一、弱人工智能背景下的犯罪現(xiàn)狀
在弱人工智能背景下，風(fēng)險(xiǎn)更多的是來(lái)源于“人”的風(fēng)險(xiǎn)，即人利用人工智能或發(fā)現(xiàn)人工智能的漏洞實(shí)施犯罪。由于人工智能在數(shù)據(jù)獲取、數(shù)據(jù)分析、風(fēng)險(xiǎn)規(guī)避等方面的技術(shù)優(yōu)勢(shì)，使得諸多犯罪更具有“智能化”的特征，部分特定犯罪的數(shù)量也呈現(xiàn)出幾何式的遞增，犯罪方式也更加隱蔽。通過(guò)對(duì)“北大法寶”上的裁判文書(shū)的梳理，2015年至今，涉“人工智能”這一關(guān)鍵詞的刑事判決書(shū)有106份，實(shí)際上利用人工智能所實(shí)施的犯罪可能遠(yuǎn)超這一數(shù)據(jù)。
較為突出的是“人工智能”被用于對(duì)公民個(gè)人數(shù)據(jù)信息的獲取，據(jù)《中國(guó)網(wǎng)民權(quán)益保護(hù)調(diào)查報(bào)告2021》顯示，網(wǎng)民在網(wǎng)購(gòu)過(guò)程中遭受個(gè)人信息泄露的高達(dá)68％。通過(guò)人工智能手段獲取公民個(gè)人信息在當(dāng)下已經(jīng)具有一定的典型性，危害性也較以往更為突出。例如，我國(guó)于2017年成功破獲的首例利用人工智能所實(shí)施獲取驗(yàn)證碼案件，犯罪分子利用人工智能技術(shù)打造出一條從盜號(hào)撞庫(kù)、破解驗(yàn)證碼到販賣公民信息、實(shí)施網(wǎng)絡(luò)詐騙的全鏈條黑產(chǎn)?！翱彀〈痤}”人工智能“打碼”平臺(tái)在此黑色產(chǎn)業(yè)鏈中起著重要作用，該平臺(tái)接入“曬密”軟件100多款，接入用戶高達(dá)1萬(wàn)余人，在2017年一季度內(nèi)破解驗(yàn)證碼259億次，累計(jì)破解驗(yàn)證碼1204億次。域外人工智能被用于非法獲取個(gè)人信息也較為突出，例如，2018年3月，F(xiàn)acebook發(fā)生大規(guī)模用戶數(shù)據(jù)泄露事件，有大約8700萬(wàn)名用戶的數(shù)據(jù)遭到侵害。隨著人工智能對(duì)信息采集的能力進(jìn)一步增強(qiáng)，利用人工智能所收集的信息進(jìn)一步實(shí)施犯罪的危害性更大。
諸多傳統(tǒng)型的財(cái)產(chǎn)犯罪，如詐騙、盜竊、敲詐勒索罪等，也因人工智能的“智能化”使犯罪方式更為便捷、危害性更大、隱蔽性更強(qiáng)。例如，在電信網(wǎng)絡(luò)詐騙案件中，犯罪行為人運(yùn)用人工智能，能同時(shí)與多達(dá)5000名被害人通話。又如，我國(guó)現(xiàn)階段也出現(xiàn)了在面部識(shí)別支付的技術(shù)應(yīng)用下，通過(guò)技術(shù)手段從海量數(shù)據(jù)中，模仿他人面部特征而竊取他人賬戶資金。實(shí)踐中，行為人將淫穢色情電影中的演員的臉與被害人進(jìn)行交換，利用人工智能大規(guī)模地進(jìn)行數(shù)據(jù)信息匹配，進(jìn)而實(shí)施詐騙、敲詐勒索等犯罪亦較為典型。更值得注意的是，現(xiàn)今的人工智能技術(shù)，可以讓人工智能軟件模仿特定人的聲音，進(jìn)而對(duì)被害人實(shí)施詐騙。據(jù)英國(guó)《每日郵報(bào)》報(bào)道，2019年3月，一名詐騙犯利用AI語(yǔ)音模仿軟件冒充公司大老板，成功讓一家英國(guó)能源公司的CEO相信自己正在與德國(guó)母公司的老板通電話，騙取其22萬(wàn)歐元。諸多財(cái)產(chǎn)犯罪都有人工智能的特征，尤其是詐騙與敲詐勒索犯罪。《2017年度網(wǎng)絡(luò)空間安全報(bào)告》指出，全球約6300個(gè)平臺(tái)提供勒索軟件交易，勒索軟件在2016至2017年的銷售量增加了約2502％。犯罪分子傾向于加密被感染設(shè)備的數(shù)據(jù)，向受害者勒索比特幣等加密貨幣。還有諸多利用人工智能所實(shí)施的犯罪行為，未被實(shí)務(wù)充分認(rèn)識(shí)。例如，大數(shù)據(jù)殺熟也是非法獲取他人財(cái)物，可能涉及詐騙罪、盜竊罪，但實(shí)踐中更多的是作為一般違法行為處理。2021年《深圳經(jīng)濟(jì)特區(qū)數(shù)據(jù)條例》規(guī)定，不得通過(guò)數(shù)據(jù)分析無(wú)正當(dāng)理由對(duì)交易條件相同的交易相對(duì)人實(shí)施差別待遇，違反以上規(guī)定者最高可被處以5000萬(wàn)元人民幣的罰款。
其他犯罪也因人工智能的運(yùn)用，出現(xiàn)了新的表現(xiàn)形式，或者出現(xiàn)了新類型的犯罪。例如，人工智能的水平不斷提高，可以制造出更逼近真人效果并能夠順利溝通的機(jī)器人，利用機(jī)器人與人發(fā)生性關(guān)系，或者組織機(jī)器人進(jìn)行淫穢表演。又如，在交通領(lǐng)域，隨著自動(dòng)輔助駕駛技術(shù)的快速發(fā)展，駕駛?cè)吮救嗽诤艽蟪潭壬蠒?huì)將駕駛的責(zé)任、注意義務(wù)寄托于系統(tǒng)本身，對(duì)于此種背景下出現(xiàn)的交通事故，涉及如何劃分駕駛員、自動(dòng)駕駛程序的設(shè)計(jì)者與經(jīng)營(yíng)者的責(zé)任。
二、人工智能在應(yīng)對(duì)犯罪中的現(xiàn)狀
宏觀層面而言，人工智能已經(jīng)被逐步運(yùn)用于犯罪預(yù)警、偵查、防控方面。人工智能犯罪預(yù)警機(jī)制作為大數(shù)據(jù)技術(shù)的產(chǎn)兒，在對(duì)社會(huì)各類信息、犯罪模型分析的基礎(chǔ)上，可以做出預(yù)測(cè)性分析和自主布置防控措施的機(jī)制。例如，近年來(lái)，刑事司法領(lǐng)域主動(dòng)與大數(shù)據(jù)、人工智能領(lǐng)域協(xié)作，開(kāi)展了一系列國(guó)家重點(diǎn)研發(fā)計(jì)劃，如“犯罪嫌疑人特征精確刻畫(huà)與精準(zhǔn)識(shí)別”“職務(wù)犯罪智能評(píng)估、預(yù)防”等一系列以人工智能犯罪風(fēng)險(xiǎn)評(píng)估為主題的跨學(xué)科科研項(xiàng)目，其效果也被實(shí)證數(shù)據(jù)所肯定。域外的相關(guān)做法亦值得我們借鑒，美國(guó)普利策獎(jiǎng)得主ProPublica調(diào)研了佛羅里達(dá)州布勞沃德縣的重新犯罪風(fēng)險(xiǎn)評(píng)估情況，通過(guò)人工智能對(duì)多種數(shù)據(jù)進(jìn)行量化分析，將被逮捕的1萬(wàn)余人的風(fēng)險(xiǎn)評(píng)估結(jié)論與實(shí)際發(fā)生的重新犯罪率進(jìn)行比較，結(jié)果準(zhǔn)確。
針對(duì)具體犯罪的防治，理論研究與實(shí)務(wù)已經(jīng)逐步開(kāi)展。例如，實(shí)證研究表明，充分運(yùn)用人工智能進(jìn)行數(shù)據(jù)分析，認(rèn)為運(yùn)用數(shù)據(jù)挖掘模型是探索有效防控貸款詐騙風(fēng)險(xiǎn)的重要路徑。通過(guò)客戶受教育程度、工作年限、家庭收入、債務(wù)收入比率、信用卡負(fù)債、其他債務(wù)和風(fēng)險(xiǎn)分類等變量，對(duì)于貸款詐騙罪的發(fā)生有著較為合理的解釋，也有助于防范風(fēng)險(xiǎn)。又如，醫(yī)療技術(shù)領(lǐng)域，運(yùn)用人工智能完成諸多輔助工作，可以減少醫(yī)生的過(guò)失進(jìn)而防范醫(yī)療事故犯罪。武漢同濟(jì)醫(yī)院在2016年就上線試用了AI-DR輔助診斷技術(shù)，5個(gè)月的時(shí)間，使用AI-DR共診斷X線片8093張。在測(cè)試實(shí)際病人X線片的過(guò)程中，AI-DR于160例病例中發(fā)現(xiàn)了2例醫(yī)生診斷中遺漏的病灶。
人工智能對(duì)于犯罪的防治已經(jīng)從具體個(gè)罪的理論模型走向?qū)嵺`。例如，對(duì)于拐賣兒童犯罪的打擊，人工智能系統(tǒng)可以對(duì)拐賣犯罪所有的數(shù)據(jù)快速做出整合，對(duì)拐賣兒童犯罪模式和犯罪規(guī)律進(jìn)行提煉，可以較為準(zhǔn)確地鎖定哪些人是潛在的拐賣犯罪高危人群。同時(shí)，智能系統(tǒng)可以通過(guò)社會(huì)網(wǎng)絡(luò)智能化分析，將拐賣犯罪嫌疑人復(fù)雜的人際關(guān)系變?yōu)樾蜗蟮木W(wǎng)絡(luò)圖形，使得偵查人員迅速獲取整個(gè)拐賣團(tuán)伙交易鏈。又如，近年來(lái)，經(jīng)濟(jì)犯罪愈發(fā)智能化、職業(yè)化、信息化，經(jīng)偵工作中的重點(diǎn)是“資金流”，當(dāng)前人工智能技術(shù)在對(duì)經(jīng)濟(jì)犯罪案件涉案資金查控方面的應(yīng)用主要體現(xiàn)在經(jīng)偵云系統(tǒng)、違法資金查控平臺(tái)以及包括可視化數(shù)據(jù)分析在內(nèi)的軟件和硬件設(shè)備。部分地方的經(jīng)偵部門(mén)多利用中國(guó)銀聯(lián)警銀協(xié)助“JASS”系統(tǒng)，查詢銀聯(lián)轉(zhuǎn)賬（跨境、跨行轉(zhuǎn)賬）；利用可視化數(shù)據(jù)分析系列軟件用于研判分析涉眾型、犯罪人員關(guān)系復(fù)雜、資金交易來(lái)往頻繁的傳銷和非法集資等案件。
三、幾點(diǎn)思考
進(jìn)入弱人工智能時(shí)代，如何在人工智能的初級(jí)階段完善相關(guān)的立法及制度，以期進(jìn)一步防范利用人工智能所實(shí)施的犯罪，發(fā)揮人工智能在犯罪防治中的意義，需要進(jìn)行更加規(guī)范化的思考。
首先，對(duì)于犯罪的治理，應(yīng)該從事后回應(yīng)式打擊向犯罪預(yù)防、預(yù)警、預(yù)測(cè)的治理模式轉(zhuǎn)變。傳統(tǒng)的犯罪偵查、治理模式，無(wú)法應(yīng)對(duì)人工智能背景下犯罪的技術(shù)與數(shù)量的雙重升級(jí)。應(yīng)建立好的智能系統(tǒng)、營(yíng)造好的網(wǎng)絡(luò)環(huán)境、數(shù)據(jù)保護(hù)措施等，解決人工智能被用來(lái)犯罪的問(wèn)題。而我國(guó)目前尚沒(méi)有對(duì)人工智能產(chǎn)品的研發(fā)、流通、使用等制定出較為全面的管理制度，技術(shù)規(guī)范的介入應(yīng)當(dāng)始于人工智能技術(shù)生產(chǎn)應(yīng)用之前，嚴(yán)格控制研發(fā)后投入使用的人工智能產(chǎn)品類型。同時(shí)，完善過(guò)程的跟蹤監(jiān)管，避免產(chǎn)生算法、功能上的改變，防止數(shù)據(jù)被盜用的風(fēng)險(xiǎn)，加強(qiáng)事后的危害處置。例如，隨著自動(dòng)駕駛技術(shù)的推廣，技術(shù)本身存在的缺陷亦會(huì)導(dǎo)致交通事故等，因此，如何在合適的時(shí)機(jī)，推廣何種自動(dòng)駕駛技術(shù)，對(duì)于自動(dòng)駕駛過(guò)程中所可能出現(xiàn)的責(zé)任各方應(yīng)如何承擔(dān)，都是需要進(jìn)一步防范的。對(duì)于犯罪的具體治理策略，也應(yīng)從簡(jiǎn)單的經(jīng)驗(yàn)主義模式轉(zhuǎn)向更為精準(zhǔn)的數(shù)據(jù)、科學(xué)的量化分析等模式。早期的經(jīng)驗(yàn)主義的犯罪治理觀，更多的是通過(guò)司法人員的經(jīng)驗(yàn)，而人工智能有助于我們用更為科學(xué)、量化的數(shù)據(jù)研判犯罪的形成、發(fā)展、變化趨勢(shì)，可以更為精準(zhǔn)地提供策略。這也需要相關(guān)部門(mén)和單位精準(zhǔn)認(rèn)識(shí)數(shù)據(jù)，合理的規(guī)范數(shù)據(jù)的范圍。
其次，通過(guò)制度、規(guī)范權(quán)衡人工智能在具體場(chǎng)景中運(yùn)用的利與弊。例如，自動(dòng)駕駛技術(shù)整體上對(duì)于防范交通事故具有積極意義，但自動(dòng)駕駛系統(tǒng)的風(fēng)險(xiǎn)降至何種程度才可以推向市場(chǎng)、不同智能等級(jí)背景下的駕駛?cè)藛T對(duì)事故承擔(dān)責(zé)任的大小、自動(dòng)駕駛中遇到突發(fā)情況如何選擇優(yōu)先保護(hù)的利益，均需要通過(guò)制度、立法予以規(guī)范。又如，“人工智能”應(yīng)受倫理道德標(biāo)準(zhǔn)的約束。再如，對(duì)于過(guò)度依賴人工智能所造成的問(wèn)題，亦值得警醒。
最后，刑法理論亦應(yīng)積極回應(yīng)人工智能對(duì)犯罪的變革。例如，人工智能輔助系統(tǒng)，包括自動(dòng)駕駛、醫(yī)療輔助等，在一定程度上承擔(dān)了人的義務(wù)，此種背景下人的過(guò)失責(zé)任如何認(rèn)定，需要對(duì)過(guò)失犯罪理論賦予新的內(nèi)容。又如，在鼓勵(lì)科技創(chuàng)新的同時(shí)，如何從制度、立法層面容忍其可能存在的風(fēng)險(xiǎn)，亦是需要解決的問(wèn)題。人工智能在整體上減少醫(yī)療事故、交通事故的同時(shí)，亦可能會(huì)因?yàn)槭褂萌斯ぶ悄芏T發(fā)新的事故，在對(duì)人的責(zé)任從寬處理的同時(shí)，對(duì)被害人的救助也需要進(jìn)行制度、立法上的完善。
（郭曉紅，江西財(cái)經(jīng)大學(xué)法學(xué)院）
編輯：張怡時(shí)
京公網(wǎng)安備 11010502000576號(hào)