人工智能技術(shù)作為引領(lǐng)新一輪科技革命和產(chǎn)業(yè)變革的通用性技術(shù)，正在深刻改變著全球經(jīng)濟格局、人類生產(chǎn)生活方式乃至國家治理模式。2025年8月，國務院印發(fā)《關(guān)于深入實施“人工智能+”行動的意見》，提出要“探索形成智能向善理論體系”。專業(yè)聲音指出，堅持以人為本、智能向善的價值原則已成為人工智能治理的基本共識。我國要建立健全人工智能應用的風險識別體系和監(jiān)管機制，推進人工智能立法，防范化解智能時代的安全隱患和風險挑戰(zhàn)，引導人工智能朝著有利于人類文明進步的方向發(fā)展。

（來源：正觀新聞）

人工智能技術(shù)發(fā)展給人類社會帶來多維影響，但其也帶來諸多風險與挑戰(zhàn)，亟須法律的規(guī)制與回應。一是人工智能發(fā)展引發(fā)多重倫理風險。復旦大學馬克思主義研究院副研究員李凌等人指出，人工智能倫理風險是指人工智能技術(shù)在開發(fā)、部署和應用過程中，因技術(shù)特性、使用方式或管理缺陷而引發(fā)的違背倫理原則、損害社會價值、沖擊個人權(quán)益或破壞生態(tài)平衡的可能性。在智能經(jīng)濟領(lǐng)域，人工智能推動產(chǎn)業(yè)升級、“機器換人”帶來的結(jié)構(gòu)性失業(yè)風險和貧富差距拉大風險等，與數(shù)據(jù)泄漏或數(shù)據(jù)濫用帶來的大數(shù)據(jù)殺熟、金融欺詐等風險并存。在智能生活領(lǐng)域，隨著生成式人工智能大規(guī)模應用，深度偽造、虛假信息、數(shù)據(jù)失實、大模型幻覺等問題愈發(fā)凸顯，極大地沖擊社會誠信體系。在智能治理領(lǐng)域，“技術(shù)黑箱”帶來的技術(shù)失控風險、網(wǎng)絡馬太效應導致的數(shù)字鴻溝風險、境外滲透帶來的意識形態(tài)風險等凸顯?，F(xiàn)行的倫理準則在應對上述問題時偏具宏觀性，規(guī)則的具體化、可操作化和可復制化有待增強。

二是現(xiàn)有法律監(jiān)管體系應對人工智能風險與挑戰(zhàn)仍有滯后性。中國計量大學馬克思主義學院教授傅琳凱等人指出，目前，我國已出臺網(wǎng)絡安全法、數(shù)據(jù)安全法、個人信息保護法等相關(guān)法律，對人工智能發(fā)展涉及的部分領(lǐng)域有所規(guī)范，但面對人工智能技術(shù)快速迭代與復雜應用場景，現(xiàn)有法律監(jiān)管體系仍存在空白與不足。此外，《生成式人工智能服務管理暫行辦法》是我國現(xiàn)階段促進生成式人工智能健康發(fā)展和規(guī)范應用的重要法規(guī)，但在面對生成式人工智能技術(shù)可能引發(fā)的公共風險具有復雜性、多樣性、多變性特點時，目前還尚未做到系統(tǒng)化，各法律法規(guī)之間也在規(guī)范內(nèi)容上有所交叉。

三是人工智能應用的技術(shù)向善仍需進一步引導。西南政法大學教授付子堂等人指出，當前，人工智能應用層出不窮。一方面，在設計開發(fā)環(huán)節(jié)，人工智能的算法、數(shù)據(jù)、算力三要素存在規(guī)制不足問題。算法作為人工智能的核心技術(shù)，具有自主學習、輔助決策、配置社會資源等作用，如果缺乏規(guī)制會出現(xiàn)新的權(quán)力濫用；算法的基礎是大數(shù)據(jù)，在數(shù)據(jù)確權(quán)、數(shù)據(jù)安全、數(shù)據(jù)流通規(guī)則等方面需要完善；算力作為數(shù)字時代的新型生產(chǎn)力，其發(fā)展需要規(guī)則予以保障。另一方面，在部署應用環(huán)節(jié)，自動駕駛汽車、智能診療系統(tǒng)、人形機器人、生成式人工智能等具體應用不斷出現(xiàn)，都對現(xiàn)行規(guī)則帶來挑戰(zhàn)。

專家建議，推進人工智能治理法治化，引導和規(guī)范人工智能技術(shù)的研發(fā)與應用，確保人工智能造福人類。一是推動完善人工智能倫理治理體系。對外經(jīng)濟貿(mào)易大學法學院教授熊光清指出，人工智能的迅猛發(fā)展迫切需要倫理原則的規(guī)范與約束。首先，應以科技向善原則引導立法工作，將科技向善原則融入人工智能法律規(guī)范體系。目前，我國已出臺《人工智能倫理治理標準化指南》等法律法規(guī)和政策性文件，針對人工智能技術(shù)特性細化出人工智能倫理準則，未來還可具體到自動駕駛、智能醫(yī)療等人工智能應用的具體領(lǐng)域，確保其安全性和合法性。其次，以科技向善原則為基礎建立倫理審查機制。建立專業(yè)化和制度化的倫理審查機制，包括技術(shù)開發(fā)前的倫理預評估、開發(fā)過程中的動態(tài)監(jiān)督，以及應用階段的效果評估，確保人工智能技術(shù)的研發(fā)和應用符合倫理道德標準。最后，在國際合作中推動以科技向善作為規(guī)范人工智能發(fā)展的倫理準則。我國要加強與各國政府、國際組織、科研機構(gòu)及產(chǎn)業(yè)界的協(xié)同合作，建立統(tǒng)一或兼容的倫理共識與標準。

二是構(gòu)建全面科學的人工智能法律制度體系。西南政法大學民商法學院院長張力等人建議，未來的人工智能立法工作需要積極探索創(chuàng)新路徑：第一，堅持適應性治理理念，考慮前瞻性立法，適應技術(shù)迭代發(fā)展超出已有制度規(guī)范范圍的客觀形勢。第二，堅持要素立法與場景立法相結(jié)合，在完善數(shù)據(jù)、算法等基礎要素監(jiān)管規(guī)則的同時，積極推進自動駕駛、智能醫(yī)療、智慧金融等典型應用場景的專門立法，實現(xiàn)精準治理；加快構(gòu)建多層次規(guī)則體系，鼓勵地方在權(quán)限范圍內(nèi)制定更具操作性的法規(guī)，加快制定配套標準規(guī)范，形成國家法律、行政法規(guī)、地方性法規(guī)、部門規(guī)章、技術(shù)標準相互支撐、有機統(tǒng)一的制度體系。第三，加緊完善生成式人工智能等前沿領(lǐng)域的發(fā)展與管理機制，增強人工智能立法的系統(tǒng)性、整體性、協(xié)同性，確保不同層級、不同領(lǐng)域法律法規(guī)協(xié)調(diào)一致，形成治理合力。

三是為推動安全可靠的人工智能應用落地提供制度保障。傅琳凱、中國政法大學數(shù)據(jù)法治研究院教授張凌寒等人建議，針對層出不窮的人工智能應用，第一，可建立覆蓋全行業(yè)、全生命周期的統(tǒng)一的安全評估體系標準，實現(xiàn)對人工智能應用安全風險的精準測評，篩選、推廣安全可靠的人工智能應用，以發(fā)揮技術(shù)向善作用；建立“動態(tài)復核”制度，對已認證應用形成安全閉環(huán)管理。第二，通過立改廢釋多種方式解決現(xiàn)有制度不適應人工智能技術(shù)產(chǎn)業(yè)發(fā)展的“時間差”“空白區(qū)”問題，以明確的制度規(guī)范為人工智能技術(shù)產(chǎn)業(yè)發(fā)展提供必需的數(shù)據(jù)資源與行為指引。人工智能產(chǎn)品與服務的法律責任設置，既需要考慮為社會治理目標劃定紅線底線，又需要衡量現(xiàn)階段技術(shù)的發(fā)展水平。在個案裁判中，還應考慮將人工智能產(chǎn)品與服務提供者的透明度義務履行情況、主動報告與補救情況等作為其法律責任認定的考量因素。

參考資料：

1. “智能向善”：人工智能創(chuàng)新發(fā)展的理與路

2. 付子堂：新質(zhì)生產(chǎn)力視野下的人工智能立法研究

3. “人工智能+”行動開展的倫理風險與法治保障

4. 以良法善治保障人工智能健康發(fā)展

5. 探索建立促進人工智能向善機制

6. 為人工智能高質(zhì)量發(fā)展和高水平安全提供法治保障

輿情分析師 趙鴿