中國(guó)政法大學(xué)解志勇在《中外法學(xué)》2025年第2期上發(fā)表題為《高風(fēng)險(xiǎn)人工智能的法律界定及規(guī)制》的文章中指出:
鑒于人工智能普遍應(yīng)用帶來(lái)的促進(jìn)經(jīng)濟(jì)效益、社會(huì)進(jìn)步、文明更迭等價(jià)值,擁抱人工智能已成為時(shí)代所趨。人工智能是計(jì)算機(jī)科學(xué)的一個(gè)重要分支,是模擬、延伸和拓展人類(lèi)智能活動(dòng)的科學(xué),基于此底層科學(xué)邏輯,其風(fēng)險(xiǎn)也應(yīng)當(dāng)是可認(rèn)知、可描述、可分析的,具有可界定性。與歐盟《人工智能法》確立的一般風(fēng)險(xiǎn)治理進(jìn)路不同,我國(guó)可采取“風(fēng)險(xiǎn)+情境融合治理”的進(jìn)路,以高質(zhì)效應(yīng)對(duì)高風(fēng)險(xiǎn)人工智能的系統(tǒng)風(fēng)險(xiǎn)。
“高風(fēng)險(xiǎn)”的界定標(biāo)準(zhǔn),可基于人工智能本體能力強(qiáng)弱、功能作用對(duì)象、潛在致害程度三個(gè)維度進(jìn)行確認(rèn)。首先,風(fēng)險(xiǎn)級(jí)別與人工智能本體強(qiáng)弱呈正相關(guān)關(guān)系。人工智能按照其本體強(qiáng)弱的能力區(qū)分,可分為弱人工智能、強(qiáng)人工智能和超級(jí)人工智能三類(lèi)。強(qiáng)人工智能與超級(jí)人工智能原則上均屬高風(fēng)險(xiǎn)系統(tǒng);弱人工智能是否屬于高風(fēng)險(xiǎn)系統(tǒng),還需結(jié)合具體情境加以討論。其次,直接作用對(duì)象為“重大安全”,涵蓋國(guó)家安全、社會(huì)公共安全、個(gè)人生命安全以及其他重要基本權(quán)利安全。最后,存在對(duì)“重大安全”造成實(shí)質(zhì)性顯著減損的可能。
高風(fēng)險(xiǎn)人工智能系統(tǒng)的規(guī)制,主要在特定情境中針對(duì)其安全性展開(kāi),在促進(jìn)人工智能科技進(jìn)步的同時(shí),應(yīng)遵循合法性原則、科技倫理約束原則、技術(shù)治理原則,秉持包容審慎與合作規(guī)制理念。
高風(fēng)險(xiǎn)人工智能系統(tǒng)的情境化規(guī)制,應(yīng)當(dāng)以重大安全維護(hù)為規(guī)制目標(biāo),在我國(guó)未來(lái)的專(zhuān)門(mén)立法進(jìn)路上,應(yīng)采取“行為規(guī)制+個(gè)體賦權(quán)”的立法模式,進(jìn)行事前、事中、事后的全過(guò)程治理。對(duì)高風(fēng)險(xiǎn)人工智能系統(tǒng)進(jìn)行事先規(guī)制,主要通過(guò)管理情境化具體清單、制定高風(fēng)險(xiǎn)技術(shù)標(biāo)準(zhǔn)、設(shè)置安全評(píng)估以及預(yù)防型備案制的方式開(kāi)展,彰顯“智能法律預(yù)測(cè)化”導(dǎo)向;對(duì)高風(fēng)險(xiǎn)人工智能系統(tǒng)的事中規(guī)制,主要依靠強(qiáng)化此類(lèi)系統(tǒng)研發(fā)、提供、使用者的義務(wù)體系建設(shè),健全風(fēng)險(xiǎn)監(jiān)測(cè)預(yù)警、報(bào)告響應(yīng)機(jī)制,建立科技倫理跟蹤審查工作機(jī)制等手段;對(duì)高風(fēng)險(xiǎn)人工智能系統(tǒng)的事后規(guī)制,在行政法律責(zé)任承擔(dān)方面,主要包括行政處罰、失職問(wèn)責(zé)以及行政救濟(jì)等形式。
編輯:武卓立