□ 本報(bào)記者 王衛(wèi)

從ChatGPT的萬能問答到Sora的文生視頻，通用人工智能正在由科幻轉(zhuǎn)化為現(xiàn)實(shí)，如此迅猛的發(fā)展帶來新技術(shù)突破和產(chǎn)業(yè)變革的同時(shí)，其引發(fā)的安全風(fēng)險(xiǎn)也對監(jiān)管和治理提出新要求。

世界范圍內(nèi)，各主要經(jīng)濟(jì)體醞釀多年的人工智能立法實(shí)踐將在2024年陸續(xù)進(jìn)入成熟期。當(dāng)?shù)貢r(shí)間5月21日，歐盟理事會(huì)正式批準(zhǔn)《人工智能法案》。外界普遍認(rèn)為，作為全球首部全面的人工智能法規(guī)，歐盟《人工智能法案》實(shí)施后將對全球人工智能產(chǎn)業(yè)鏈產(chǎn)生深遠(yuǎn)影響。

從多個(gè)維度界定適用范圍

總體上，《人工智能法案》在適用范圍、人工智能系統(tǒng)風(fēng)險(xiǎn)分級(jí)管理、通用人工智能模型管理、執(zhí)法與處罰等方面，為整個(gè)人工智能產(chǎn)業(yè)鏈上的相關(guān)方提供了一個(gè)合規(guī)義務(wù)框架。

具體而言，法案從多個(gè)維度界定了適用范圍。適用對象包括與歐盟市場有連接點(diǎn)的人工智能系統(tǒng)提供商、使用商、進(jìn)口商、分銷商和產(chǎn)品制造商。廣泛的域外適用效力確保了所有在歐盟經(jīng)營的市場參與者必須遵守相同的條件。適用事項(xiàng)上也僅限于“人工智能系統(tǒng)”。

法案按照人工智能系統(tǒng)對用戶和社會(huì)的潛在影響程度將其分為4類：不可接受風(fēng)險(xiǎn)類、高風(fēng)險(xiǎn)類、有限風(fēng)險(xiǎn)類、最小風(fēng)險(xiǎn)類。風(fēng)險(xiǎn)等級(jí)越高，管控越嚴(yán)格。構(gòu)成不可接受風(fēng)險(xiǎn)的人工智能系統(tǒng)，如為唆使犯罪而利用人工智能技術(shù)操縱人的潛意識(shí)、將人臉識(shí)別等生物識(shí)別技術(shù)實(shí)時(shí)應(yīng)用于犯罪搜查等，是被禁止的；高風(fēng)險(xiǎn)人工智能系統(tǒng)，須對其風(fēng)險(xiǎn)進(jìn)行評估，并確保其受到人為監(jiān)督。多數(shù)人工智能系統(tǒng)屬于風(fēng)險(xiǎn)較低的類別，但仍可能需要根據(jù)法案要求履行相應(yīng)義務(wù)。

法案為人工智能系統(tǒng)中的通用人工智能模型引入了透明度義務(wù)，包括遵守歐盟版權(quán)法和發(fā)布用于培訓(xùn)內(nèi)容的詳細(xì)摘要。對于具有系統(tǒng)性風(fēng)險(xiǎn)的通用人工智能模型，法案設(shè)置了更多約束，如對其進(jìn)行模型評估和減輕系統(tǒng)性風(fēng)險(xiǎn)等。此外，經(jīng)過人工或其他方式處理的圖像、音頻或視頻內(nèi)容（“深度偽造”）需要明確標(biāo)記其被處理過。

違反法案的處罰結(jié)果將取決于人工智能系統(tǒng)的類型、公司的規(guī)模和違法行為的嚴(yán)重程度。法案規(guī)定，如涉足“禁止”領(lǐng)域，相關(guān)方會(huì)被處以3500萬歐元或全球年銷售總額7%的罰款，以較高金額為準(zhǔn)。如未履行除“禁止”以外的其他風(fēng)險(xiǎn)分類中的義務(wù)，則根據(jù)相關(guān)方業(yè)務(wù)規(guī)模等處以1500萬歐元或最高不超過全球年銷售總額3%的罰款。

立法進(jìn)程總體進(jìn)展迅速

《人工智能法案》立法進(jìn)程總體進(jìn)展迅速。2019年以來，歐盟就在一直布局人工智能監(jiān)管領(lǐng)域，陸續(xù)發(fā)布《歐盟機(jī)器人民事法律規(guī)則》《歐盟人工智能》《人工智能白皮書——追求卓越和信任的歐洲方案》等一系列人工智能政策。

2021年4月21日，歐盟委員會(huì)提出《人工智能法案》提案的談判授權(quán)草案。2022年12月6日，歐洲理事會(huì)一致通過《人工智能法案》草案；2023年6月14日，歐洲議會(huì)全體會(huì)議表決確認(rèn)其認(rèn)同立場。此后，歐洲議會(huì)、歐洲理事會(huì)和歐盟委員會(huì)立即就法案舉行了第一次“三方會(huì)談”。經(jīng)過多次會(huì)談，三方于2023年12月8日就草案達(dá)成一致。這份草案于2024年3月13日得到歐洲議會(huì)批準(zhǔn)。2024年5月21日，歐盟理事會(huì)也正式批準(zhǔn)了該法案。

法案在經(jīng)歐洲議會(huì)議長和歐洲理事會(huì)主席簽署后，將于近日在歐盟官方公報(bào)上公布，公布20天后生效，并在生效兩年后全面實(shí)施，風(fēng)險(xiǎn)級(jí)別最高的“禁止”條款預(yù)計(jì)率先于2024年底啟動(dòng)適用。

然而，有反對者認(rèn)為，這份法案太過嚴(yán)苛。歐盟的超前和過度監(jiān)管可能會(huì)進(jìn)一步造成歐洲人工智能產(chǎn)業(yè)落后的局面，諸多事前監(jiān)管環(huán)節(jié)都將影響人工智能的開發(fā)進(jìn)程。2020年一項(xiàng)針對使用人工智能技術(shù)的歐洲企業(yè)的調(diào)查顯示，對有計(jì)劃但尚未采用人工智能技術(shù)的歐洲公司來說，43%的歐洲企業(yè)將法律責(zé)任問題視為其使用人工智能技術(shù)的最大外部障礙之一。此外，人工智能監(jiān)管沙盒等要求使創(chuàng)新型初創(chuàng)公司面臨巨大挑戰(zhàn)，導(dǎo)致經(jīng)濟(jì)負(fù)擔(dān)過重。

歐洲的公民權(quán)利團(tuán)體表示這份法案仍有較大漏洞。法案對規(guī)制對象的責(zé)任界定不夠清晰，未明確多方參與場景下多個(gè)責(zé)任主體間的責(zé)任分配，責(zé)任承擔(dān)方式也較為單一。據(jù)美聯(lián)社報(bào)道，公民權(quán)利團(tuán)體還對人工智能生物信息識(shí)別在執(zhí)法權(quán)上的豁免表示擔(dān)憂，同時(shí)認(rèn)為法案對在邊境和移民管理中的人工智能應(yīng)用規(guī)定也有欠缺。除了對法律文本本身的質(zhì)疑之外，這份法案最終的執(zhí)行情況也受到質(zhì)疑。

深刻影響全球人工智能監(jiān)管

報(bào)道稱，《人工智能法案》旨在促進(jìn)歐盟單一市場內(nèi)安全可信的人工智能系統(tǒng)的開發(fā)和采用，保障歐盟公民基本權(quán)利。隨著人工智能技術(shù)的迅猛發(fā)展，各主要經(jīng)濟(jì)體也都在籌謀人工智能的監(jiān)管之策。

近期美國國會(huì)密集引入了《透明自動(dòng)化治理法案》《全球技術(shù)領(lǐng)導(dǎo)法案》《人工智能披露法案》《國家人工智能委員會(huì)法案》。為了夯實(shí)拜登政府的政治成果并為民主黨候選人贏得美國總統(tǒng)大選增加砝碼，民主黨將通過拜登政府頒布行政命令、國會(huì)立法并進(jìn)的方式加速人工智能立法。

英國議會(huì)于2023年11月發(fā)布《人工智能監(jiān)管法（草案）》，英國科學(xué)、創(chuàng)新和技術(shù)部于2024年2月向英國議會(huì)提交《人工智能監(jiān)管的創(chuàng)新方法：政府的回應(yīng)》，明確其目標(biāo)是成為人工智能安全開發(fā)和部署的全球領(lǐng)導(dǎo)者。

2023年生效的《生成式人工智能服務(wù)管理暫行辦法》，是中國首份專門針對生成式人工智能的監(jiān)管文件。當(dāng)?shù)貢r(shí)間5月14日，中美人工智能政府間對話首次會(huì)議在瑞士日內(nèi)瓦舉行。雙方圍繞人工智能科技風(fēng)險(xiǎn)等問題深入、專業(yè)、建設(shè)性地交換了意見。專家表示，在人工智能安全議題上進(jìn)行溝通交流和合作是確保雙方人工智能發(fā)展安全可靠的必要保障，更是中美雙方作為人工智能發(fā)展與治理的國際重要力量需要為全球作出的共同努力。

國際社會(huì)指出，歐盟《人工智能法案》為全球應(yīng)對人工智能風(fēng)險(xiǎn)提供了一些思路，但并不代表是全球通用規(guī)則。鑒于人工智能的特性，監(jiān)管者在考慮如何制定相關(guān)法律和政策時(shí)，不僅要從技術(shù)的角度出發(fā)，還要從社會(huì)、倫理和文化的角度進(jìn)行思考。未來歐盟和各國政府還需要繼續(xù)加強(qiáng)對于人工智能技術(shù)的監(jiān)管和研究，以確保其安全、合規(guī)地服務(wù)于人類社會(huì)。