編者按

最近，人工智能機(jī)器人ChatGPT迅速走紅，其表現(xiàn)出來(lái)的強(qiáng)大“創(chuàng)作”功能讓公眾嘆服。那么由ChatGPT“創(chuàng)作”生成的內(nèi)容可否構(gòu)成作品？如何看待ChatGPT可能帶來(lái)的網(wǎng)絡(luò)治理威脅？本期“聲音”版編發(fā)一組專(zhuān)家稿件，與讀者一道進(jìn)行探討。

ChatGPT引發(fā)著作權(quán)問(wèn)題新思考

萬(wàn) 勇

人工智能作為一項(xiàng)具有顛覆性的新技術(shù)，不斷對(duì)法律、治理提出新挑戰(zhàn)。2017年，微軟機(jī)器人“小冰”出版詩(shī)集《陽(yáng)光失了玻璃窗》，就受到社會(huì)的廣泛關(guān)注，隨即引起了法律界的熱烈討論。

此次伴隨著ChatGPT的“一夜成名”，人工智能生成的內(nèi)容可否構(gòu)成作品？人工智能是否應(yīng)被承認(rèn)為作者……相關(guān)話題再次引發(fā)各方激烈爭(zhēng)論。值得關(guān)注的是，多家知名學(xué)術(shù)期刊已迅即作出反應(yīng)?！犊茖W(xué)》（Science）明確禁止將ChatGPT列為論文作者，且不允許在論文中使用ChatGPT所生成的文本?！蹲匀弧罚∟ature）的態(tài)度略微緩和，允許在論文中使用ChatGPT等大型語(yǔ)言模型工具生成的文本，但不能將其列為論文作者。兩大頂流學(xué)術(shù)期刊非常明確的表態(tài)，讓我們不禁反思“何為作者”“何以創(chuàng)作”這兩個(gè)對(duì)于著作權(quán)法與學(xué)術(shù)研究而言至關(guān)重要的基礎(chǔ)性問(wèn)題。

從現(xiàn)行著作權(quán)法律制度來(lái)看，無(wú)論是大陸法系還是英美法系，均排除了人工智能成為作者的可能。大陸法系國(guó)家一般規(guī)定只有自然人才能成為作者，連法人都不能成為作者。英美法系國(guó)家通常以產(chǎn)業(yè)發(fā)展為導(dǎo)向，因此，在這些國(guó)家，除了直接創(chuàng)作作品的自然人之外，法人也可以成為作者。我國(guó)著作權(quán)法一方面強(qiáng)調(diào)，創(chuàng)作作品的自然人是作者；另一方面也規(guī)定，由法人或者非法人組織主持，代表法人或者非法人組織意志創(chuàng)作，并由法人或者非法人組織承擔(dān)責(zé)任的作品，法人或者非法人組織視為作者。因此，無(wú)論是域外立法還是我國(guó)法律規(guī)定，在著作權(quán)法律制度框架內(nèi)，除了自然人與法人之外，不存在其他可以成為作者的主體；就此而言，ChatGPT不能成為作者自然是題中應(yīng)有之義。

不過(guò)，著作權(quán)法的界定似乎與公眾的日常感知有較大差異。從新聞報(bào)道來(lái)看，ChatGPT可以撰寫(xiě)郵件、代碼、小說(shuō)，通過(guò)大學(xué)和專(zhuān)業(yè)資格考試，還能撰寫(xiě)專(zhuān)業(yè)性極高的學(xué)術(shù)論文，且這些論文甚至連專(zhuān)業(yè)研究者也無(wú)法輕易分辨。面對(duì)如此智能的ChatGPT，公眾不禁提出疑問(wèn)：這不叫創(chuàng)作嗎？其還不能成為作者嗎？

ChatGPT的技術(shù)原理是，依靠從訓(xùn)練數(shù)據(jù)中學(xué)到的模式和關(guān)系，來(lái)生成風(fēng)格和內(nèi)容與訓(xùn)練數(shù)據(jù)中的文本相似的新文本。盡管ChatGPT也有能力生成以前從未見(jiàn)過(guò)的單詞、短語(yǔ)和句子的新組合，但這些內(nèi)容都是基于人預(yù)先設(shè)定好的程序、算法的結(jié)果，ChatGPT并未突破人類(lèi)輔助工具的范疇。

事實(shí)上，ChatGPT在與網(wǎng)友的“聊天”中，自己也承認(rèn)，“我對(duì)生成的文本沒(méi)有切身經(jīng)歷、想法或創(chuàng)意控制”“我生成的文本旨在用作工具或資源，而不是原創(chuàng)作品”。著作權(quán)法意義上的創(chuàng)作，應(yīng)當(dāng)是有目的、有意識(shí)且具有原創(chuàng)性的行為。ChatGPT顯然并未實(shí)施著作權(quán)法意義上的創(chuàng)作行為，自然不能成為作者。

除了不符合作者的法定構(gòu)成要件之外，阻礙ChatGPT成為作者的另一個(gè)法律障礙，來(lái)自其沒(méi)有獨(dú)立的責(zé)任能力。我們通常所說(shuō)的“文責(zé)自負(fù)”，意在強(qiáng)調(diào)，如果文章出現(xiàn)問(wèn)題，責(zé)任由作者承擔(dān)。然而，在人工智能生成內(nèi)容的語(yǔ)境下，一旦發(fā)生著作權(quán)糾紛，最終責(zé)任的承擔(dān)者顯然不是人工智能。

應(yīng)當(dāng)說(shuō)，知名期刊禁止將人工智能列為作者或者在論文中使用人工智能生成的內(nèi)容，除了法律層面的考慮外，也意在控制倫理風(fēng)險(xiǎn)?？茖W(xué)技術(shù)是一把雙刃劍，在推動(dòng)生產(chǎn)和生活方式發(fā)生深刻變革的同時(shí)，也帶來(lái)科技倫理挑戰(zhàn)。在科學(xué)研究中使用人工智能生成的內(nèi)容，除了在學(xué)術(shù)倫理上可能引發(fā)是否構(gòu)成剽竊、學(xué)術(shù)失范等爭(zhēng)議外，還可能存在算法偏見(jiàn)、虛假敘述等一系列倫理風(fēng)險(xiǎn)?？萍家?jiǎng)?chuàng)新，倫理應(yīng)先行，知名期刊率先在學(xué)術(shù)領(lǐng)域規(guī)范人工智能技術(shù)的使用，在未來(lái)可能進(jìn)一步形成行業(yè)自律規(guī)范，有助于引導(dǎo)人工智能發(fā)展“科技向善”。

盡管進(jìn)入人工智能時(shí)代后，人類(lèi)在創(chuàng)造性活動(dòng)中獨(dú)一無(wú)二的主體地位受到挑戰(zhàn)，人類(lèi)的主體地位似乎有所衰落，有學(xué)者甚至提出了人工智能時(shí)代就是“后人類(lèi)時(shí)代”這一命題。然而，在人與物的關(guān)系上，物永遠(yuǎn)只應(yīng)是手段，人永遠(yuǎn)是目的。讓人的創(chuàng)造物——人工智能成為作者，令其獲得與人平等的地位，于法無(wú)據(jù)、于理不合。

（作者系中國(guó)人民大學(xué)法學(xué)院知識(shí)產(chǎn)權(quán)法教研室主任、教授）

理性應(yīng)對(duì)ChatGPT網(wǎng)絡(luò)安全威脅

趙精武

聊天機(jī)器人ChatGPT的最初功能定位是以貼近人類(lèi)溝通的方式進(jìn)行人機(jī)互動(dòng)，但是用戶在使用過(guò)程中發(fā)現(xiàn)，ChatGPT除了能與用戶進(jìn)行正常對(duì)話外，甚至能夠很好地完成代碼、論文、短評(píng)、新聞、翻譯、郵件等內(nèi)容的創(chuàng)作，并讓人難以分辨其創(chuàng)作者為真人還是機(jī)器人。

ChatGPT作為一種現(xiàn)象級(jí)產(chǎn)品，表現(xiàn)出的強(qiáng)大功能展現(xiàn)了人工智能技術(shù)對(duì)社會(huì)人力資源分配和產(chǎn)業(yè)結(jié)構(gòu)優(yōu)化的潛在市場(chǎng)價(jià)值。但與任何一項(xiàng)新技術(shù)應(yīng)用一樣，ChatGPT也會(huì)具有兩面性，在提升人類(lèi)生活品質(zhì)和工作效率的同時(shí)，也有可能因其濫用而產(chǎn)生一些負(fù)面的社會(huì)效果，特別是其有可能產(chǎn)生網(wǎng)絡(luò)安全威脅：

第一，ChatGPT的代碼編寫(xiě)功能將拓展黑客攻擊的技術(shù)工具，使得原有的網(wǎng)絡(luò)攻擊呈現(xiàn)更加龐大的規(guī)模化趨勢(shì)。ChatGPT能夠輔助黑客高效完成惡意軟件的編寫(xiě)，如此一來(lái)，針對(duì)關(guān)鍵信息基礎(chǔ)設(shè)施有組織、有規(guī)模的網(wǎng)絡(luò)安全攻擊頻次將會(huì)增加，同時(shí)，過(guò)去以大型企業(yè)為主要目標(biāo)的攻擊模式可能轉(zhuǎn)變?yōu)槟依ù笾行⌒推髽I(yè)的攻擊模式。

第二，ChatGPT的信息編寫(xiě)功能能夠輔助網(wǎng)絡(luò)詐騙分子生成規(guī)?；?、低成本的網(wǎng)絡(luò)釣魚(yú)軟件，并且生成的詐騙信息由于具有智能化特征，使得被詐騙者識(shí)別信息真?zhèn)蔚碾y度增加。

第三，ChatGPT的信息編寫(xiě)功能可能導(dǎo)致網(wǎng)絡(luò)虛假信息泛濫，并且網(wǎng)絡(luò)用戶更加難以甄別這些信息的真?zhèn)?，由此網(wǎng)絡(luò)空間輿情治理壓力勢(shì)必增加。

針對(duì)這些問(wèn)題，有專(zhuān)家學(xué)者提出應(yīng)對(duì)ChatGPT“制定專(zhuān)門(mén)立法”“制定配套措施”。實(shí)際上，ChatGPT的市場(chǎng)成功不等于人工智能產(chǎn)業(yè)取得了突破性發(fā)展?？紤]到ChatGPT目前能夠處理的工作任務(wù)具有鮮明的重復(fù)性、模板性特征，因此，監(jiān)管機(jī)構(gòu)沒(méi)有必要立即將ChatGPT技術(shù)監(jiān)管作為現(xiàn)階段網(wǎng)絡(luò)空間治理的核心工作任務(wù)，否則，我國(guó)立法模式會(huì)陷入“出現(xiàn)一項(xiàng)新技術(shù)，制定一項(xiàng)新規(guī)定”的邏輯怪圈。

其實(shí)，我國(guó)已先后頒布了網(wǎng)絡(luò)安全法、《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》、《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規(guī)定》等法律法規(guī)，針對(duì)人工智能技術(shù)和算法技術(shù)濫用規(guī)定了詳細(xì)的法定義務(wù)和監(jiān)管體系，足以應(yīng)對(duì)短期內(nèi)ChatGPT可能導(dǎo)致的網(wǎng)絡(luò)安全風(fēng)險(xiǎn)。現(xiàn)階段，我國(guó)監(jiān)管部門(mén)可以充分利用現(xiàn)有法律制度，加強(qiáng)對(duì)ChatGPT相關(guān)產(chǎn)業(yè)的監(jiān)管；未來(lái)在經(jīng)驗(yàn)成熟時(shí)，可以考慮啟動(dòng)人工智能技術(shù)應(yīng)用領(lǐng)域的立法，以應(yīng)對(duì)各種潛在的安全風(fēng)險(xiǎn)。

首先，重點(diǎn)監(jiān)管大型企業(yè)研發(fā)活動(dòng)，落實(shí)人工智能技術(shù)標(biāo)準(zhǔn)。ChatGPT對(duì)于算法、數(shù)據(jù)乃至服務(wù)器的需求量驚人，具備開(kāi)發(fā)類(lèi)似產(chǎn)品的主體大多僅限于超大型互聯(lián)網(wǎng)企業(yè)或技術(shù)公司。在相關(guān)產(chǎn)品投入市場(chǎng)之前，可以利用算法備案機(jī)制，對(duì)具備影響網(wǎng)絡(luò)安全和國(guó)家安全可能性的產(chǎn)品或服務(wù)進(jìn)行安全性審查。并且，相較于對(duì)用戶使用行為進(jìn)行監(jiān)管而言，從源頭上對(duì)研發(fā)企業(yè)進(jìn)行監(jiān)管成效更顯著，且研發(fā)企業(yè)也有技術(shù)能力對(duì)惡意軟件代碼片段編寫(xiě)功能進(jìn)行限制。

其次，明確研發(fā)機(jī)構(gòu)、網(wǎng)絡(luò)平臺(tái)經(jīng)營(yíng)者對(duì)于人工智能產(chǎn)品應(yīng)用的安全風(fēng)險(xiǎn)評(píng)估義務(wù)。ChatGPT及其類(lèi)似產(chǎn)品本身不具有社會(huì)危害性，關(guān)鍵在于以不當(dāng)方式使用可能導(dǎo)致一定的損害結(jié)果。針對(duì)ChatGPT可能引發(fā)的網(wǎng)絡(luò)釣魚(yú)郵件等網(wǎng)絡(luò)詐騙風(fēng)險(xiǎn)，應(yīng)當(dāng)明確作為“危險(xiǎn)制造者”的研發(fā)機(jī)構(gòu)、網(wǎng)絡(luò)平臺(tái)經(jīng)營(yíng)者在此類(lèi)產(chǎn)品投入市場(chǎng)之前進(jìn)行安全風(fēng)險(xiǎn)評(píng)估，確保風(fēng)險(xiǎn)可控。

最后，需要關(guān)注以人工智能信息審核技術(shù)規(guī)制人工智能可能誘發(fā)的虛假信息泛濫風(fēng)險(xiǎn)。為了避免ChatGPT等人工智能產(chǎn)品大量生成難以通過(guò)自動(dòng)化批量審核的虛假信息內(nèi)容，監(jiān)管機(jī)構(gòu)以及網(wǎng)絡(luò)平臺(tái)經(jīng)營(yíng)者可能需要進(jìn)一步提升監(jiān)管技術(shù)，充分利用人工智能技術(shù)的審核智能化特征，根據(jù)ChatGPT這類(lèi)產(chǎn)品的發(fā)展水平和生成信息內(nèi)容特征，鼓勵(lì)行業(yè)協(xié)會(huì)、大型企業(yè)或第三方專(zhuān)業(yè)機(jī)構(gòu)積極推進(jìn)人工智能違規(guī)信息審核產(chǎn)品的研發(fā)和推廣。

（作者系北京航空航天大學(xué)副教授，北京科技創(chuàng)新中心研究基地副主任）