專家 ：發(fā)展大模型的前提是安全可控
在日前舉辦的2025中國數(shù)谷·西湖論劍大會(huì)上，中國網(wǎng)絡(luò)空間安全協(xié)會(huì)理事長趙澤良表示，在網(wǎng)絡(luò)安全領(lǐng)域要建立可度量、可比較、可考核的量化評(píng)價(jià)體系。不僅要用人工智能解決安全問題，更要以人工智能引領(lǐng)科研范式變革，敢于突破現(xiàn)有理論體系，探索新的方法框架，最終實(shí)現(xiàn)網(wǎng)絡(luò)安全與科技創(chuàng)新的深度融合，推動(dòng)行業(yè)高質(zhì)量發(fā)展。
安恒信息技術(shù)股份有限公司董事長范淵認(rèn)為，AI智能體發(fā)展有條件自主、高度自主和完全自主三重境界，安恒信息通過智能體賦能安全運(yùn)營、安全監(jiān)管，重構(gòu)威脅情報(bào)共享和協(xié)同防御體系，實(shí)現(xiàn)從傳統(tǒng)的被動(dòng)響應(yīng)轉(zhuǎn)向主動(dòng)防御，同時(shí)通過智能體生態(tài)共創(chuàng)，結(jié)合各自專業(yè)領(lǐng)域的業(yè)務(wù)知識(shí)，共創(chuàng)出兼具創(chuàng)新與實(shí)用的智能體，在技術(shù)、業(yè)務(wù)、成果上實(shí)現(xiàn)共贏。
范淵分析，在數(shù)據(jù)要素化發(fā)展新階段，數(shù)據(jù)安全要從靜態(tài)安全向動(dòng)態(tài)安全迭代升級(jí)，需要對(duì)數(shù)據(jù)、業(yè)務(wù)和行為意圖進(jìn)行更為深入的理解，安全智能體是解題的關(guān)鍵核心。在可信數(shù)據(jù)空間領(lǐng)域，AI原生可信數(shù)據(jù)空間可實(shí)現(xiàn)可信數(shù)據(jù)空間與AI的雙向賦能。既要看到“人工智能帶來前所未有發(fā)展機(jī)遇”，也要看到它“帶來前所未遇風(fēng)險(xiǎn)挑戰(zhàn)”，必須將大模型風(fēng)險(xiǎn)評(píng)估檢測列為關(guān)鍵任務(wù)，讓大模型在安全可控的前提下，才能實(shí)現(xiàn)敢用、可用、好用。
中國計(jì)算機(jī)學(xué)會(huì)原理事長、CCF計(jì)算機(jī)博物館館長梅宏表示，數(shù)字化轉(zhuǎn)型需構(gòu)建以數(shù)據(jù)為中心的組織體系和運(yùn)行模式。當(dāng)前，我國數(shù)字化轉(zhuǎn)型還處于起步階段，數(shù)據(jù)資產(chǎn)相關(guān)法律還未明確，資產(chǎn)地位沒有確立，權(quán)屬確權(quán)沒有形成共識(shí)，流通交易也缺少規(guī)則，利益分配相應(yīng)機(jī)制不夠充分。此外，還要面對(duì)安全隱私帶來的系列問題。沒有數(shù)據(jù)就不可能有智能，就像燃料和火箭的關(guān)系一樣。
華中科技大學(xué)人工智能與自動(dòng)化學(xué)院副院長、IEEE Fellow伍冬睿表示，腦機(jī)接口行業(yè)正處在技術(shù)突破與規(guī)范構(gòu)建并行的關(guān)鍵階段。作為人機(jī)交互革命性方向，該領(lǐng)域已上升為國家戰(zhàn)略級(jí)賽道。腦電解碼算法方面的重要考慮包括，通過遷移學(xué)習(xí)、深度學(xué)習(xí)、大模型等實(shí)現(xiàn)精準(zhǔn)解碼，與對(duì)抗訓(xùn)練等結(jié)合實(shí)現(xiàn)準(zhǔn)確度與安全性的動(dòng)態(tài)平衡，運(yùn)用差分隱私技術(shù)破解腦電數(shù)據(jù)共享的合規(guī)難題，以及建立覆蓋信號(hào)采集、算法倫理的標(biāo)準(zhǔn)化體系。
大會(huì)集中發(fā)布了“中國數(shù)谷”在數(shù)據(jù)要素市場化配置改革、關(guān)鍵技術(shù)創(chuàng)新攻關(guān)、產(chǎn)業(yè)生態(tài)培育以及行業(yè)深度應(yīng)用等方面取得的一系列標(biāo)志性成果，彰顯了杭州高新區(qū)（濱江）在數(shù)字經(jīng)濟(jì)領(lǐng)域的引領(lǐng)力與創(chuàng)新力。
隨著人工智能技術(shù)在政務(wù)、金融、工業(yè)等關(guān)鍵領(lǐng)域的深度賦能，安全智能體已成為構(gòu)筑數(shù)字時(shí)代網(wǎng)絡(luò)安全防御體系的核心要素。會(huì)上發(fā)布了《安全智能體魔方：成熟度模型評(píng)價(jià)研究報(bào)告》，該報(bào)告創(chuàng)新性地構(gòu)建了安全智能體的多維度成熟度評(píng)估框架，通過剖析高價(jià)值場景案例，前瞻性研判安全大模型及智能體的發(fā)展趨勢與挑戰(zhàn)，推動(dòng)AI應(yīng)用向“可信可控”升級(jí)，為數(shù)字經(jīng)濟(jì)發(fā)展筑牢智能化安全根基。
浙江移動(dòng)數(shù)智科技有限公司、中國電信浙江分公司、杭州安恒信息技術(shù)股份有限公司等十余家機(jī)構(gòu)聯(lián)合發(fā)布了“三數(shù)一鏈”國家數(shù)據(jù)基礎(chǔ)設(shè)施杭州試點(diǎn)任務(wù)的階段性成果，標(biāo)志著“中國數(shù)谷”在推進(jìn)數(shù)據(jù)要素市場化配置改革方面取得了又一里程碑式的進(jìn)展。
編輯：遲明緒
京公網(wǎng)安備 11010502000576號(hào)