大咖論劍AI與安全,北京網(wǎng)絡(luò)安全大會(huì)開(kāi)幕
6月5日,以“AI驅(qū)動(dòng)安全”為主題的2024全球數(shù)字經(jīng)濟(jì)大會(huì)數(shù)字安全高層論壇暨北京網(wǎng)絡(luò)安全大會(huì)戰(zhàn)略峰會(huì)(BCS大會(huì))在京開(kāi)幕。北京市相關(guān)負(fù)責(zé)人介紹,本市已將數(shù)字安全產(chǎn)業(yè)作為全市重點(diǎn)發(fā)展的高精尖產(chǎn)業(yè),目前已經(jīng)匯聚數(shù)字安全企業(yè)1025家,2023年全市數(shù)字安全企業(yè)收入達(dá)到996億元,產(chǎn)業(yè)帶動(dòng)作用凸顯。
當(dāng)前,各行各業(yè)網(wǎng)絡(luò)化、數(shù)字化、智能化轉(zhuǎn)型加速,在以數(shù)據(jù)為關(guān)鍵要素的新產(chǎn)業(yè)、以人工智能為關(guān)鍵技術(shù)的新場(chǎng)景下,人類面臨的安全挑戰(zhàn)更加復(fù)雜,各類攻擊威脅與日俱增。本次大會(huì)歷時(shí)兩天,共舉辦2場(chǎng)峰會(huì)、20多場(chǎng)分論壇,2場(chǎng)大賽,邀請(qǐng)了來(lái)自10多個(gè)國(guó)家和地區(qū)的上百位專家學(xué)者、10多個(gè)行業(yè)領(lǐng)域的200多家企業(yè)的代表,分享人工智能發(fā)展的研究、實(shí)踐或建議,并就AI(人工智能)驅(qū)動(dòng)安全在數(shù)據(jù)、能源、金融、交通、制造等領(lǐng)域的情況展開(kāi)討論。
在中央網(wǎng)信辦網(wǎng)絡(luò)安全協(xié)調(diào)局副局長(zhǎng)王營(yíng)康看來(lái),人工智能帶來(lái)的安全挑戰(zhàn)和攻擊威脅尤其值得關(guān)注。“隨著人工智能技術(shù)的發(fā)展,攻擊者可利用人工智能技術(shù)生成網(wǎng)絡(luò)攻擊和網(wǎng)絡(luò)釣魚工具等,網(wǎng)絡(luò)安全從人人對(duì)抗、人機(jī)對(duì)抗逐漸向基于人工智能的攻防對(duì)抗演化。”
根據(jù)奇安信發(fā)布的《2024人工智能安全報(bào)告》,AI既放大現(xiàn)有網(wǎng)絡(luò)安全威脅,又引入了新型威脅,引發(fā)網(wǎng)絡(luò)安全事件指數(shù)級(jí)增長(zhǎng)。其中,2023年基于AI的深度偽造欺詐暴增3000%,基于AI的釣魚郵件數(shù)量增長(zhǎng)了1000%。一項(xiàng)對(duì)IT行業(yè)領(lǐng)導(dǎo)者進(jìn)行的關(guān)于ChatGPT等大模型的調(diào)查顯示,安全性是受訪者最關(guān)心的問(wèn)題,71%的受訪者認(rèn)為生成式人工智能會(huì)給企業(yè)數(shù)據(jù)安全帶來(lái)新的風(fēng)險(xiǎn)。
“AI驅(qū)動(dòng)安全是大勢(shì)所趨,未來(lái)網(wǎng)絡(luò)攻防就是得AI者得天下。誰(shuí)能提前抓住AI變革的機(jī)遇,誰(shuí)就能掌握網(wǎng)絡(luò)空間安全的主動(dòng)權(quán)?!逼姘残偶瘓F(tuán)董事長(zhǎng)齊向東判斷,當(dāng)前網(wǎng)絡(luò)安全格局正在被顛覆重構(gòu),但這種顛覆重構(gòu)不僅帶來(lái)新的安全挑戰(zhàn),也為網(wǎng)絡(luò)安全行業(yè)帶來(lái)前所未有的戰(zhàn)略機(jī)遇。
對(duì)此,國(guó)際工程技術(shù)學(xué)會(huì)會(huì)士、英國(guó)計(jì)算機(jī)學(xué)會(huì)會(huì)士阿巴斯·海德?tīng)柹畋碚J(rèn)同。他說(shuō),大型語(yǔ)言模型正徹底改變網(wǎng)絡(luò)安全形勢(shì),AI在網(wǎng)絡(luò)安全領(lǐng)域帶來(lái)的既有挑戰(zhàn),也有機(jī)遇。例如,網(wǎng)絡(luò)罪犯會(huì)使用AI生成具有強(qiáng)欺騙性的網(wǎng)絡(luò)仿冒郵件,但企業(yè)也可以用AI完成威脅檢測(cè)和事件響應(yīng)、處置。
在先進(jìn)計(jì)算與關(guān)鍵軟件(信創(chuàng))海河實(shí)驗(yàn)室主任、中國(guó)新一代人工智能發(fā)展戰(zhàn)略研究院執(zhí)行院長(zhǎng)龔克看來(lái),一方面,人工智能的發(fā)展推動(dòng)了網(wǎng)絡(luò)安全技術(shù)的創(chuàng)新。例如,基于深度學(xué)習(xí)的惡意軟件檢測(cè)、用戶行為分析等新技術(shù)不斷涌現(xiàn),提高了網(wǎng)絡(luò)安全的防護(hù)能力。另一方面,人工智能的自動(dòng)化和智能化特性又可以大大提高網(wǎng)絡(luò)安全管理的效率。通過(guò)自動(dòng)化檢測(cè)、響應(yīng)和風(fēng)險(xiǎn)評(píng)估等流程,可以更快地應(yīng)對(duì)網(wǎng)絡(luò)威脅,減少潛在損失。
齊向東提醒,AI大模型不是萬(wàn)能鑰匙。尤其是在當(dāng)前“百模大戰(zhàn)”的狀態(tài)下,只有高質(zhì)量發(fā)展的大模型,才能真正帶來(lái)指數(shù)級(jí)能力躍升,激發(fā)網(wǎng)絡(luò)安全行業(yè)的新質(zhì)生產(chǎn)力。他認(rèn)為,做好“AI驅(qū)動(dòng)安全”至少需要具備三大條件:高質(zhì)量的訓(xùn)練數(shù)據(jù),縱深防御的內(nèi)生安全體系,設(shè)備、體系具有統(tǒng)一的輸入輸出標(biāo)準(zhǔn)。
據(jù)悉,作為具有全球影響力的網(wǎng)絡(luò)安全大會(huì),BCS大會(huì)已成功舉辦五屆,先后有來(lái)自中、美、俄、法、日、以等30多個(gè)國(guó)家和地區(qū),超2000位政要、行業(yè)領(lǐng)袖、網(wǎng)絡(luò)安全專家出席并分享觀點(diǎn)。
編輯:遲明緒