2024世界人工智能大會：“善治”共識期待“善智”回音
AI換臉越發(fā)逼真，大模型一本正經(jīng)胡說八道也難辨真假，新技術(shù)帶來生產(chǎn)效能的提升卻也帶來無法忽視的就業(yè)沖擊……伴隨人工智能以越來越快的速度為人類生活與生產(chǎn)方式帶來創(chuàng)新和益處，其安全風(fēng)險也越來越被頻繁提起。“以共商促共享 以善治促善智”是2024世界人工智能大會的主題，這兩天的各場論壇上，無論是科學(xué)家、研究者還是政策制定者、企業(yè)家都發(fā)出了呼聲。這些聲音，帶著相似的隱憂，傳遞著“善治”的共識，匯集在一起，形成了“共商”的共振，期待著“善智”的回音。
治理之“變”
“與傳統(tǒng)技術(shù)革命不同，人工智能帶來的治理沖擊具有特殊性。”上海交通大學(xué)國際與公共事務(wù)學(xué)院長聘副教授賈開解釋，人工智能引致影響的速度可能遠(yuǎn)快于傳統(tǒng)技術(shù)革命，這在很大程度上緣于人工智能技術(shù)與整個社會數(shù)字化轉(zhuǎn)型進(jìn)程的互促效應(yīng)，技術(shù)迭代速度快，其嵌入社會、影響社會的過程也極大縮短；人工智能產(chǎn)生影響的結(jié)果可能迥異于傳統(tǒng)技術(shù)革命，就業(yè)替代效應(yīng)或?qū)⒋笥诰蜆I(yè)創(chuàng)造效應(yīng)；此外，人工智能產(chǎn)生影響的領(lǐng)域與機制可能是高度不確定的，“盡管我們大致能框定人工智能安全風(fēng)險類型，但風(fēng)險產(chǎn)生的時間地點、對象范圍、因果過程等都是未知的，甚至不能被提前預(yù)知?！?/p>
“人工智能技術(shù)和應(yīng)用的不確定性與復(fù)雜性，使得從業(yè)者和監(jiān)管者不得不面臨‘共同無知’，治理問題的界定與治理方案的探索始終處于動態(tài)變化之中，”清華大學(xué)文科資深教授、蘇世民書院院長薛瀾更是冷靜地強調(diào)了人工智能治理的新挑戰(zhàn)，“同時，治理主體在文化、倫理、價值觀等各個維度都存在較大異質(zhì)性，風(fēng)險偏好的差異使得達(dá)成治理共識較為困難；治理與發(fā)展要求同步演化，以避免出現(xiàn)‘監(jiān)管洼地’，但治理更新的速度卻往往落后于技術(shù)創(chuàng)新和應(yīng)用步伐?！?/p>
清華大學(xué)公共管理學(xué)院長聘副教授趙靜也觀察到AI治理議題正快速變化，她認(rèn)為這與人工智能技術(shù)本身的快速成長性和應(yīng)用不確定性密切相關(guān)，尤其是隨著人工智能技術(shù)在經(jīng)濟社會中的全面應(yīng)用提速，除了對各類潛在風(fēng)險的關(guān)注外，技術(shù)發(fā)展和應(yīng)用對人類普遍生存的安全影響被提上日程?！艾F(xiàn)在大家更關(guān)心如何構(gòu)建一個安全可信的人工智能發(fā)展框架、基礎(chǔ)理論、治理思路，從而應(yīng)對和解決前沿人工智能發(fā)展背后的基本安全問題?！?/p>
應(yīng)變之策
阿里研究院執(zhí)行院長袁媛認(rèn)為，正是因為這種相似境遇，科學(xué)家、企業(yè)、政府形成了一種自覺的共識，逐漸形成了磨合共治的協(xié)作模式，大家共同面對問題，合作形成公共知識，再各自改善。
這種共識并非與生俱來。袁媛提到，在電商時代應(yīng)用判別式人工智能技術(shù)時，無論平臺、商家、用戶、社會都需要安全交易，需要建立“生態(tài)信賴”，阿里巴巴就認(rèn)識到用算法參與治理的重要性，從企業(yè)內(nèi)部啟動了治理進(jìn)程?！澳撬闶侵卫沓跗?，市場上的企業(yè)沒有太多共識，治理模式也相對簡單，企業(yè)處于‘被規(guī)制’的角色。而現(xiàn)在，隨著公眾認(rèn)知提升，產(chǎn)業(yè)接受度提高、政府期待日漸成熟，各方將逐漸對‘善智’形成更為健全的共識?！?/p>
升級治理模式并非易事。上海國際問題研究院研究員、網(wǎng)絡(luò)空間國際治理研究中心秘書長魯傳穎表示，20世紀(jì)80年代美國學(xué)者曾提出科林格里奇困境——政策制定者面對快速發(fā)展的技術(shù)存在“太早治理因噎廢食，太晚治理脫韁失控”的困境，“所以建立溝通模式，尋找恰到好處的時機，以敏捷治理等最小成本最大收益的方式開展良好治理是很重要的，目前中國正在尋找好的模式、機制、節(jié)點?！?/p>
賈開也認(rèn)為，人工智能治理不能遵循傳統(tǒng)技術(shù)治理范式按照預(yù)先確定規(guī)則來加以管控，而更加需要依賴政、產(chǎn)、學(xué)、研的共同探索，并在此過程中積累治理知識、能力、資源。此次會上，上海交大聯(lián)合、徐匯區(qū)政府及研究機構(gòu)、媒體等21家單位共同發(fā)起“西岸對話：人工智能安全與治理對話網(wǎng)絡(luò)”，旨在打破壁壘，在共商共建共治過程中共同探索、共同進(jìn)步，通過對話機制、建設(shè)平臺渠道、素養(yǎng)提升等常態(tài)工作，促進(jìn)各方在人工智能安全與治理領(lǐng)域的緊密合作，以期在快速發(fā)展的人工智能時代中更好地統(tǒng)籌發(fā)展與安全。賈開認(rèn)為類似“西岸對話”的共商共建共治機制才能實現(xiàn)AI治理升級的價值，“在單獨一方都不知道人工智能治理風(fēng)險內(nèi)涵及其應(yīng)對機制的前提下，只有保持開放對話的治理關(guān)系，才可能形成科學(xué)共識、找到合適的治理方法?！?/p>
中國呼聲
人工智能治理是全球議題，當(dāng)前國際社會對人工智能治理既有建立實體多邊監(jiān)管的聯(lián)合國模式，也有部分歐美國家開展的小范圍聯(lián)盟式治理探索。魯傳穎認(rèn)為，這場實踐中，中國正全方位積極參與人工智能國際治理，并設(shè)計了一條不同于西方國家的治理思路。去年中國政府發(fā)布《全球人工智能治理倡議》，圍繞人工智能發(fā)展、安全、治理闡述人工智能治理中國方案。魯傳穎指出，中國方案強調(diào)人工智能發(fā)展必須堅持“以人為本”理念，提倡更為和諧、平衡的人類關(guān)系視角，倡導(dǎo)構(gòu)建一個平衡各方利益、共同應(yīng)對人類挑戰(zhàn)的全球人工智能治理新模式。
“不同模式在當(dāng)前非常需要對話與互補，因為人工智能的影響是‘生態(tài)性’的，任何一方都不可能完全排除他方，所以存在形成合作共識的基礎(chǔ)。”上海交通大學(xué)政治經(jīng)濟研究院名譽院長、廣州粵港澳大灣區(qū)研究院理事長鄭永年表示，“當(dāng)前盡管仍然存在分歧，中美、中法之間都在人工智能領(lǐng)域展開積極對話，只有在堅持開放、對話、合作基礎(chǔ)上，我們才有可能提升人工智能國際治理水平，在未來能形成具有約束力、執(zhí)行力的合作共識。”
大會期間，科學(xué)家從技術(shù)視角提出了一些新的治理理念和路徑?！皯?yīng)將人工智能治理視為一類‘知識’和‘行動’并進(jìn)的公共產(chǎn)品?！毖懱岢?，這類公共產(chǎn)品具有非排他性，即所有從業(yè)者都應(yīng)服從相關(guān)規(guī)制；同時，這類公共產(chǎn)品也具有非競爭性，即治理方案的擴散和運用不影響他者對該方案的享用。
斯坦福發(fā)布的《人工智能指數(shù)報告》中，中國連續(xù)兩年成為AI信任度最高的區(qū)域。袁媛認(rèn)為，這說明目前中國的AI治理和企業(yè)自律都有較好的表現(xiàn)。她期待接下來，企業(yè)、政府、研究機構(gòu)等第三方共同制定安全規(guī)范，媒體公眾參與監(jiān)督，大家一起把事情做好?！笆袌鍪亲詈玫目紙?，君子之過如日月之食，誰出錯都在聚光燈下。”她還建議，為營造更為向善的生態(tài)，應(yīng)采用激勵與監(jiān)管相融的方式，對安全治理方面投入更多的企業(yè)予以激勵。（易蓉）
編輯：遲明緒
京公網(wǎng)安備 11010502000576號