中南民族大學(xué)法學(xué)院張軍榮在《行政法學(xué)研究》2025年第2期上發(fā)表題為《人工智能生成物的溢出風(fēng)險(xiǎn)及監(jiān)管規(guī)則研究》的文章中指出：

以ChatGPT、Sora為代表的生成式人工智能模型發(fā)生了由“判別式”轉(zhuǎn)為“生成式”的變革，人工智能被賦予了“強(qiáng)擬人化”特點(diǎn)，人工智能生成物（以下簡稱AIGC）成為人們獲取知識(shí)和信息產(chǎn)品的新渠道。AIGC的應(yīng)用范圍包含自動(dòng)化技術(shù)、智慧圖書館、醫(yī)學(xué)智庫、智慧數(shù)字出版、計(jì)算機(jī)軟件及其應(yīng)用、教育實(shí)踐等學(xué)科領(lǐng)域。AIGC的產(chǎn)出經(jīng)歷了數(shù)據(jù)搜集和投喂、模型訓(xùn)練和模擬、內(nèi)容生成和調(diào)整等階段。由于投喂數(shù)據(jù)的質(zhì)量差異、人工智能模型算法的能力缺陷、使用者的人為操控等因素，AIGC應(yīng)用于各種場景的同時(shí)，其迅速發(fā)展滋生了數(shù)據(jù)污染風(fēng)險(xiǎn)、信息泄露風(fēng)險(xiǎn)、數(shù)據(jù)歧視風(fēng)險(xiǎn)以及通用性倫理風(fēng)險(xiǎn)等。

世界各國對于AIGC的監(jiān)管框架建立尚處于初步探索階段。通過對比國內(nèi)外AIGC監(jiān)管的制度內(nèi)容發(fā)現(xiàn)，當(dāng)前監(jiān)管模式存在人力監(jiān)管能力不足、“產(chǎn)品”質(zhì)量標(biāo)準(zhǔn)缺失、數(shù)據(jù)歧視監(jiān)管規(guī)則缺失、分級(jí)管理規(guī)則模糊四個(gè)方面的缺陷。因此，應(yīng)構(gòu)建以技術(shù)監(jiān)管規(guī)則、質(zhì)量標(biāo)準(zhǔn)規(guī)則、無歧視規(guī)則、分類分級(jí)規(guī)則等為主體的AIGC監(jiān)管體系。首先，為克服人工監(jiān)管的高成本、低效率等缺陷，應(yīng)引入技術(shù)監(jiān)管、推動(dòng)敏捷治理，將AIGC來源與后續(xù)使用行為納入監(jiān)管體系，形成以生成記錄保存規(guī)則、實(shí)名制規(guī)則、強(qiáng)制標(biāo)記規(guī)則、周期性數(shù)據(jù)更新規(guī)則為內(nèi)容的監(jiān)管規(guī)則。其次，通過明確人工智能開發(fā)者與AIGC服務(wù)提供者、使用者的義務(wù)，構(gòu)建AIGC生產(chǎn)過程控制和生成產(chǎn)品的質(zhì)量標(biāo)準(zhǔn)規(guī)則，避免可能造成數(shù)據(jù)污染和信息泄露風(fēng)險(xiǎn)的生成內(nèi)容流入公共領(lǐng)域，避免危及公共安全和公共利益的內(nèi)容生成和使用。再次，通過建立數(shù)據(jù)清洗和數(shù)據(jù)審計(jì)規(guī)則，推動(dòng)算法透明，加強(qiáng)算法審核，從而實(shí)現(xiàn)對數(shù)據(jù)歧視的源頭治理。最后，建立分類分級(jí)規(guī)則，構(gòu)建對不同風(fēng)險(xiǎn)程度AIGC的梯次監(jiān)管，設(shè)定服務(wù)主體對不可接受風(fēng)險(xiǎn)和重大風(fēng)險(xiǎn)的申報(bào)與備案義務(wù)，并進(jìn)行安全評(píng)估，保障數(shù)據(jù)安全。

面對人工智能的迅速發(fā)展和巨大挑戰(zhàn)，需要更為具體的應(yīng)對措施以防范其帶來的各種風(fēng)險(xiǎn)。未來還需從監(jiān)管程序、監(jiān)管基礎(chǔ)設(shè)施、監(jiān)管規(guī)制與監(jiān)管機(jī)構(gòu)運(yùn)行等要素出發(fā)，探索國家AIGC監(jiān)管體系發(fā)展之路，為保障國家人工智能產(chǎn)業(yè)蓬勃發(fā)展、社會(huì)秩序穩(wěn)定、數(shù)據(jù)信息安全添磚加瓦。