本報(bào)訊 記者蔣安杰 10月11日，首師大政法學(xué)院舉辦的一場(chǎng)聚焦法學(xué)前沿、引領(lǐng)學(xué)術(shù)潮流的學(xué)術(shù)研討會(huì)——“人工智能與刑法的對(duì)話(huà)：AI時(shí)代詐騙犯罪的理論與實(shí)務(wù)問(wèn)題研討會(huì)”在京舉行。首都師范大學(xué)政法學(xué)院院長(zhǎng)吳高臣主持開(kāi)幕式。

首都師范大學(xué)黨委書(shū)記繆勁翔指出，政法學(xué)院在人工智能時(shí)代的來(lái)臨這個(gè)前提下，立足法學(xué)研究的本位，積極研究交叉學(xué)科所帶來(lái)的新的制度治理難題，符合學(xué)校發(fā)展和學(xué)科發(fā)展的需求。

中國(guó)法學(xué)會(huì)副會(huì)長(zhǎng)姜偉提到，人工智能是一把雙刃劍，既可以提高社會(huì)生產(chǎn)力，也給社會(huì)治理帶來(lái)新的風(fēng)險(xiǎn)，作為技術(shù)工具，價(jià)格低廉容易操作，迭代速度遠(yuǎn)超監(jiān)管部門(mén)的反應(yīng)速度，幾乎可以觸及社會(huì)各領(lǐng)域的法益。《中共中央關(guān)于進(jìn)一步全面深化改革、推進(jìn)中國(guó)式現(xiàn)代化的決定》明確要求完善生成式人工智能發(fā)展和管理機(jī)制也就成了應(yīng)有之義。

研討會(huì)第一單元“AI時(shí)代詐騙犯罪的理論問(wèn)題研討”由北京師范大學(xué)教授黃曉亮主持。

北京外國(guó)語(yǔ)大學(xué)法學(xué)院教授王文華認(rèn)為，AI詐騙問(wèn)題不僅是刑法問(wèn)題，更多的還延伸到前置法的問(wèn)題，即具有外擴(kuò)性，是一個(gè)技術(shù)治理的問(wèn)題，同時(shí)也是商業(yè)、產(chǎn)業(yè)邏輯的問(wèn)題。只有將AI置于不同的應(yīng)用場(chǎng)景，才能具體確定應(yīng)用AI平臺(tái)是否進(jìn)入了詐騙犯罪的規(guī)制領(lǐng)域。

中國(guó)人民大學(xué)法學(xué)院教授付立慶認(rèn)為，我國(guó)刑法第二百六十六條詐騙罪的罪狀描述是極為簡(jiǎn)約的，若放棄對(duì)欺騙行為的限縮，過(guò)度擴(kuò)張?jiān)p騙罪法網(wǎng)范圍的后果是：詐騙罪的構(gòu)成要件喪失定型性和罪刑法定主義機(jī)能，其與盜竊罪的區(qū)分將變得極為困難。

北京航空航天大學(xué)教授孫運(yùn)梁認(rèn)為，法學(xué)概念要著重考量其本身概念特征，一方面它要比日常生活概念更規(guī)范，另一方面它也達(dá)不到科學(xué)概念能夠測(cè)量的程度。具體到詐騙罪的領(lǐng)域，傳統(tǒng)法學(xué)中“占有”和“財(cái)產(chǎn)處分”的概念就受到了沖擊，很多爭(zhēng)論與分歧其實(shí)就來(lái)源于概念的流變，這需要學(xué)者們審慎觀察。

北京大學(xué)法學(xué)院文科一級(jí)教授陳興良點(diǎn)評(píng)時(shí)表示，此前他對(duì)人工智能犯罪的研究方向有一點(diǎn)“跑偏”的擔(dān)心，但在對(duì)相關(guān)領(lǐng)域進(jìn)行了解以及參與本次研討會(huì)的基礎(chǔ)上產(chǎn)生了幾點(diǎn)新的想法：第一，刑法學(xué)者應(yīng)當(dāng)積極應(yīng)對(duì)人工智能犯罪時(shí)代的到來(lái)，刑法理論研究應(yīng)當(dāng)有所作為；第二，在探討人工智能犯罪問(wèn)題時(shí)，要區(qū)分弱人工智能和強(qiáng)人工智能，前者只有在將其作為犯罪的工具考察時(shí)才有意義，至于強(qiáng)人工智能的犯罪主體性能否成立問(wèn)題，我們可以做適度的預(yù)見(jiàn)性研究，但不能將研究基礎(chǔ)完全放在幻想上，這樣會(huì)導(dǎo)致研究走向沒(méi)有根基的“科幻法學(xué)”。

北京師范大學(xué)教授盧建平用《貓和老鼠》動(dòng)畫(huà)片做了一個(gè)比喻，認(rèn)為我們的研究不能僅局限于“貓捉老鼠”的追趕式治理，要進(jìn)行一定的前瞻性研究，相信人類(lèi)的智慧，從人類(lèi)的基本理性出發(fā)去做前瞻性的思考，當(dāng)然，也要承認(rèn)人類(lèi)普遍理性的固有局限。他又舉了電影《機(jī)械姬》中所涉及的阿西莫夫機(jī)器人三定律作為點(diǎn)評(píng)的未來(lái)展望，并作出了期待“后浪們”作為新一代“深度學(xué)習(xí)機(jī)器”帶來(lái)新成果的結(jié)束語(yǔ)。

研討會(huì)第二單元“AI時(shí)代詐騙犯罪的實(shí)踐問(wèn)題研討”由首都經(jīng)濟(jì)貿(mào)易大學(xué)副教授劉傳稿主持。

北京市公安局警官楊燕燕介紹，盜取采集自然人音視頻信息生成的視頻為重災(zāi)區(qū)，所以大家在接到詐騙分子電話(huà)和視頻的時(shí)候應(yīng)該及時(shí)掛斷，不宜再和以往一樣抱著“逗一逗”的心情與詐騙犯罪“周旋”，這樣會(huì)增加自己音視頻被盜取然后用于犯罪的風(fēng)險(xiǎn)。從實(shí)務(wù)經(jīng)驗(yàn)來(lái)看，已經(jīng)出現(xiàn)了幾乎可以反向欺騙“圖靈測(cè)試”的人工智能，強(qiáng)人工智能乃至超人工智能的到來(lái)可能比我們預(yù)想得更快。

北京市公安局警官孟凡芹提到，目前警方有關(guān)人工智能的業(yè)務(wù)就包括大模型的測(cè)評(píng)，北京地區(qū)作為高校和研究機(jī)構(gòu)重鎮(zhèn)，產(chǎn)出了許多大模型，公安機(jī)關(guān)都需要配合網(wǎng)信辦對(duì)其進(jìn)行安全測(cè)試，包括測(cè)試平臺(tái)和專(zhuān)家審核的模式。

北京尚梓律師事務(wù)所律師李紅釗認(rèn)為，有必要將人工智能做弱人工智能與強(qiáng)人工智能的區(qū)分。不能對(duì)超人工智能的刑事責(zé)任采取簡(jiǎn)單的否定說(shuō)或肯定說(shuō)，因?yàn)槠湓O(shè)計(jì)者和產(chǎn)品本身都具備自由自主決定并實(shí)施行為的能力，應(yīng)該采取二元限制刑事責(zé)任結(jié)構(gòu)較為合理。

北京市朝陽(yáng)區(qū)人民檢察院檢察官石林山從案例出發(fā)，讓與會(huì)者有了更為直觀的感受。其中一起案件涉及跨境電信詐騙，田某通過(guò)加密軟件與境外電詐團(tuán)伙取得聯(lián)系，伙同團(tuán)伙在北京市朝陽(yáng)區(qū)多個(gè)酒店輾轉(zhuǎn)，假設(shè)維護(hù)手機(jī)口的設(shè)備，為境外電詐分子提供通訊傳輸幫助，最后查證田某等人手機(jī)號(hào)關(guān)聯(lián)到的詐騙金額為100多萬(wàn)元。該案件事實(shí)簡(jiǎn)單，但實(shí)際辦理并不簡(jiǎn)單。首先是上游犯罪在境外與犯罪分子頻繁更換地點(diǎn)、手機(jī)號(hào)等導(dǎo)致的破案難；其次是證據(jù)的收集與金額認(rèn)定難；再次是對(duì)于主觀明知的認(rèn)定，本案的主要犯罪嫌疑人都不能主動(dòng)供述，嫌疑人之間也不會(huì)談及具體作案情況，很難通過(guò)聊天記錄等客觀證據(jù)來(lái)印證主觀明知，辦案人員從初犯偶犯進(jìn)行突破，通過(guò)口供和部分聊天記錄相互印證的方式來(lái)綜合證明；最后是罪名認(rèn)定問(wèn)題，公安機(jī)關(guān)移送的罪名是幫助信息網(wǎng)絡(luò)犯罪活動(dòng)罪，檢察院的起訴書(shū)中還包含了對(duì)詐騙罪的指控。該案最終被評(píng)為2023年度電信網(wǎng)絡(luò)詐騙的典型案件，對(duì)于之后可能出現(xiàn)的類(lèi)似案件的偵辦也起到了很大程度的幫助與指引。

北京市第二中級(jí)人民法院法官楊子良主要探討的是在現(xiàn)有的法律框架下，有些罪名能不能夠用來(lái)應(yīng)對(duì)AI時(shí)代的詐騙犯罪。第一個(gè)罪名是提供侵入、非法控制計(jì)算機(jī)信息系統(tǒng)程序、工具罪，生成式人工智能雖然不屬于專(zhuān)門(mén)用來(lái)犯罪的工具，但刑法第二百八十五條第3款規(guī)定的罪狀從文義理解上可以將其囊括進(jìn)去，在司法實(shí)務(wù)中也可以檢索到相關(guān)生效裁判，例如全國(guó)首例的“AI外掛”案。第二個(gè)罪名是幫助信息網(wǎng)絡(luò)犯罪活動(dòng)罪，楊法官認(rèn)為認(rèn)定提供者“明知”是符合事實(shí)的，依據(jù)是充分的，即使需要平衡科技創(chuàng)新和風(fēng)險(xiǎn)防范，也應(yīng)當(dāng)是在法律框架下進(jìn)行。第三個(gè)罪名是拒不履行信息網(wǎng)絡(luò)安全管理義務(wù)罪，對(duì)于人工智能的提供者來(lái)說(shuō)，目前出臺(tái)了新的法規(guī)與司法解釋?zhuān)瑸槠湓O(shè)置了相應(yīng)的義務(wù)，該罪名的適用，對(duì)于打擊防范也能起到一定的作用。

北京理工大學(xué)教授彭海青介紹，AI詐騙呈現(xiàn)出手段多樣化、精準(zhǔn)高效性與隱蔽性三個(gè)特點(diǎn)，受害群體有著年輕化趨勢(shì)，且除了經(jīng)濟(jì)損失嚴(yán)重外，還存在著心理創(chuàng)傷與社會(huì)信任危機(jī)。技術(shù)應(yīng)對(duì)不足、跨部門(mén)協(xié)作不暢、法律法規(guī)滯后與公眾防范意識(shí)薄弱是目前所面臨的治理困境，并且提出相應(yīng)的措施。

清華大學(xué)法學(xué)院院長(zhǎng)、全國(guó)人大常委會(huì)委員、憲法和法律委員會(huì)副主任委員周光權(quán)對(duì)本次會(huì)議進(jìn)行了點(diǎn)評(píng)。周光權(quán)認(rèn)為，無(wú)論人工智能技術(shù)多么強(qiáng)大，它都不能成為獨(dú)立的犯罪主體或是獨(dú)立承擔(dān)侵權(quán)責(zé)任。刑法學(xué)中講責(zé)任主義、罪責(zé)原則的時(shí)候，包含了憲法的要求，即憲法尊重個(gè)人有自己獨(dú)立的意識(shí)，因此要為自己的行為負(fù)責(zé)，而機(jī)器通過(guò)分析數(shù)據(jù)來(lái)學(xué)習(xí)，其所謂的“意志”，實(shí)際上是生產(chǎn)者使用者灌輸?shù)?。將機(jī)器視為犯罪主體，違背了憲法基本要求，是對(duì)刑法教義學(xué)的一些基本原理和底線的沖擊，也與法學(xué)上的自由意志相矛盾，再高級(jí)的人工智能，追根溯源仍然是人的價(jià)值取向與選擇。人工智能技術(shù)，它確實(shí)對(duì)犯罪學(xué)思維和刑法學(xué)思維怎么緊密地結(jié)合起來(lái)提出了新的考慮，面對(duì)人工智能提出來(lái)的這些新的問(wèn)題，我們不禁去思考教義學(xué)是不是需要調(diào)整？總的來(lái)講，教義學(xué)確實(shí)要認(rèn)識(shí)到犯罪學(xué)當(dāng)中所提的一些基本理念，比如說(shuō)犯罪是正常的，雖然這令人遺憾。犯罪同樣對(duì)這個(gè)社會(huì)有一些正面的功能。犯罪一個(gè)現(xiàn)實(shí)的功能就是讓我們?cè)诎l(fā)展人工智能技術(shù)的同時(shí)，要想到這個(gè)技術(shù)有可能有什么漏洞，可能被犯罪分子利用，那就要把這些補(bǔ)丁都打出來(lái)，這對(duì)于法律的發(fā)展，無(wú)疑起著推動(dòng)的作用。