AIIA安全治理委員會(huì)成果發(fā)布會(huì)成功召開(kāi)
7月24日，中國(guó)人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟（以下簡(jiǎn)稱“AIIA”）安全治理委員會(huì)成果發(fā)布會(huì)在北京順利召開(kāi)。AIIA秘書(shū)長(zhǎng)、中國(guó)信息通信研究院（以下簡(jiǎn)稱“中國(guó)信通院”）院長(zhǎng)余曉暉、工業(yè)和信息化部網(wǎng)絡(luò)安全管理局?jǐn)?shù)據(jù)安全處處長(zhǎng)雷楠、公安部信息安全等級(jí)保護(hù)評(píng)估中心原副主任、研究員畢馬寧出席活動(dòng)并致辭。
余曉暉秘書(shū)長(zhǎng)在歡迎辭中表示，當(dāng)前人工智能安全治理需要匯聚行業(yè)各方智慧和力量，共同完善人工智能安全風(fēng)險(xiǎn)識(shí)別方法論，建立更為敏捷、精確的安全風(fēng)險(xiǎn)識(shí)別機(jī)制，盡早、盡快發(fā)現(xiàn)風(fēng)險(xiǎn)，加強(qiáng)人工智能安全評(píng)測(cè)技術(shù)工具的研究，通過(guò)技術(shù)來(lái)治理技術(shù)。
AIIA安全治理委員會(huì)專家委主任、公安部信息安全等級(jí)保護(hù)評(píng)估中心原副主任、研究員畢馬寧在致辭中指出，為應(yīng)對(duì)當(dāng)前人工智能所帶來(lái)的安全挑戰(zhàn)，AIIA安全治理委員會(huì)重點(diǎn)圍繞人工智能的治理框架、風(fēng)險(xiǎn)管理、內(nèi)生安全、安全應(yīng)用開(kāi)展了大量的理論和技術(shù)研究工作。
AIIA安全治理委員會(huì)辦公室主任、中國(guó)信通院人工智能研究所安全與元宇宙部主任石霖向與會(huì)人員匯報(bào)了委員會(huì)近期的工作成果。在全體成員的共同努力下，委員會(huì)圍繞人工智能安全治理取得的了顯著成果，會(huì)上進(jìn)行了一一發(fā)布。工業(yè)和信息化部網(wǎng)絡(luò)安全管理局?jǐn)?shù)據(jù)安全處處長(zhǎng)雷楠、中國(guó)信通院人工智能研究所所長(zhǎng)魏凱、郵儲(chǔ)銀行軟件研發(fā)中心研發(fā)安全處負(fù)責(zé)人王齊峰、訊飛數(shù)碼科技有限公司副總裁楊娟、vivo軟件產(chǎn)業(yè)發(fā)展高級(jí)總監(jiān)曹宇瓊、螞蟻集團(tuán)股份有限公司安全標(biāo)準(zhǔn)總監(jiān)林冠辰、第四范式政府事務(wù)總監(jiān)趙永飛等企業(yè)代表以及產(chǎn)業(yè)界50余家合作伙伴共同見(jiàn)證啟動(dòng)了“人工智能安全守護(hù)計(jì)劃”（簡(jiǎn)稱“智安計(jì)劃”），打造AI Guard品牌，將共同建立AI系統(tǒng)情報(bào)共享機(jī)制、AIGC真實(shí)性和可信賴來(lái)源互認(rèn)機(jī)制，推動(dòng)設(shè)立人工智能相關(guān)保險(xiǎn)產(chǎn)品，提升國(guó)內(nèi)人工智能技術(shù)的服務(wù)提供方、使用方的安全防護(hù)能力。
會(huì)上進(jìn)行了AIIA安全治理委員會(huì)專家聘任儀式，為專家委主任、副主任委員頒發(fā)聘書(shū)。
依托AIIA安全治理委員會(huì)，中國(guó)信通院在2024年上半年啟動(dòng)了大模型安全、AIGC檢測(cè)、安全大模型、代碼大模型安全、生物特征識(shí)別安全等聯(lián)盟規(guī)范的制定和評(píng)估工作。會(huì)上，AIIA安全治理委員會(huì)評(píng)估結(jié)果正式公布，vivo、螞蟻、中數(shù)通、齊魯壹點(diǎn)、東方通、招商銀行、阿里云、海康威視、中移金科、百度網(wǎng)訊、馬上消費(fèi)、科大訊飛、商湯等企業(yè)代表獲得證書(shū)。
北京大學(xué)法學(xué)院教授、北京大學(xué)人工智能研究院AI安全與治理中心主任張平，中國(guó)科學(xué)院自動(dòng)化研究所研究員、國(guó)家新一代人工智能治理專家委員會(huì)委員、聯(lián)合國(guó)人工智能高層顧問(wèn)機(jī)構(gòu)專家曾毅，360集團(tuán)副總裁張向征等專家圍繞人工智能安全治理的中國(guó)實(shí)踐及國(guó)際共識(shí)、大模型安全等內(nèi)容進(jìn)行了主旨演講，深入剖析人工智能關(guān)鍵技術(shù)、內(nèi)容，探討國(guó)內(nèi)外人工智能安全治理現(xiàn)狀以及實(shí)踐經(jīng)驗(yàn)。
在治理環(huán)節(jié)，與會(huì)專家重點(diǎn)圍繞人工智能治理規(guī)范與風(fēng)險(xiǎn)管理展開(kāi)了討論。AIIA安全治理委員會(huì)治理組組長(zhǎng)呼娜英對(duì)治理組近期工作進(jìn)行了匯報(bào)。治理組圍繞人工智能治理宏觀研究、人工智能應(yīng)用治理合規(guī)、人工智能賦能治理三個(gè)方面開(kāi)展研究工作，旨在凝聚產(chǎn)業(yè)共識(shí)，形成服務(wù)我國(guó)人工智能產(chǎn)業(yè)發(fā)展的治理框架，促進(jìn)人工智能典型應(yīng)用安全合規(guī)，探索人工智能賦能治理的最佳范式，推動(dòng)產(chǎn)業(yè)生態(tài)向善發(fā)展。
中國(guó)法學(xué)會(huì)法治研究所研究員、中國(guó)法學(xué)會(huì)網(wǎng)絡(luò)與信息法學(xué)研究會(huì)副秘書(shū)長(zhǎng)劉金瑞、北京市金杜律師事務(wù)所合伙人寧宣鳳、阿里研究院 AI治理中心副主任王錚等專家圍繞大模型帶來(lái)的新興風(fēng)險(xiǎn)及規(guī)制路徑、人工智能事前、事中、事后的風(fēng)險(xiǎn)管理，以及大模型訓(xùn)練數(shù)據(jù)的安全治理等主題帶來(lái)了精彩專題演講。人工智能大模型帶來(lái)的風(fēng)險(xiǎn)挑戰(zhàn)以及治理方案進(jìn)行了專題演講。
在安全環(huán)節(jié)，重點(diǎn)圍繞人工智能原生安全、賦能安全展開(kāi)討論。AIIA安全治理委員會(huì)安全組組長(zhǎng)陳文弢對(duì)安全組近期工作進(jìn)行了匯報(bào)。中國(guó)信通院人工智能所近半年來(lái)依托聯(lián)盟深度開(kāi)展了大模型安全基準(zhǔn)測(cè)試工作，重點(diǎn)推動(dòng)大模型安全加固能力建設(shè)，開(kāi)展了大語(yǔ)言模型安全、圖文大模型安全、代碼大模型和人工智能賦能網(wǎng)絡(luò)安全等方面的技術(shù)規(guī)范研究，并推動(dòng)了相關(guān)評(píng)測(cè)工作。同時(shí)發(fā)布了具備強(qiáng)魯棒性的隱式數(shù)字水印服務(wù)，提升大模型平臺(tái)的合規(guī)能力。
中國(guó)信通院人工智能所黑一鳴博士發(fā)布了自研的大模型安全加固解決方案。該能力通過(guò)模型微調(diào)、外掛安全知識(shí)庫(kù)等模式對(duì)開(kāi)源大模型自身進(jìn)行安全防護(hù)加固，在保持模型原有通用能力和推理效率的前提下，明顯增強(qiáng)了其抵御多種誘導(dǎo)攻擊的能力。該能力及相關(guān)數(shù)據(jù)底座仍在持續(xù)迭代升級(jí)中，具有很強(qiáng)的泛化能力。
北京郵電大學(xué)教授、博士生導(dǎo)師、網(wǎng)絡(luò)空間安全學(xué)院副院長(zhǎng)張熙、郵儲(chǔ)銀行軟件研發(fā)中心副主任工程師宋寧、上海斗象信息科技有限公司 AI攻防負(fù)責(zé)人肖朕等專家圍繞人工智能內(nèi)生安全、賦能安全方面進(jìn)行了專題演講。
在圓桌討論環(huán)節(jié)，在AIIA安全治理委員會(huì)專家委副主任委員、中國(guó)信通院互聯(lián)網(wǎng)法律研究中心主任、國(guó)際電信聯(lián)盟人工智能學(xué)者何波主持下，對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué)數(shù)字經(jīng)濟(jì)與法律創(chuàng)新研究中心主任許可、華為戰(zhàn)略研究院人工智能治理產(chǎn)業(yè)發(fā)展首席專家柳嘉琪、騰訊研究院首席數(shù)據(jù)法律專家王融、百度集團(tuán)人工智能業(yè)務(wù)法務(wù)合規(guī)負(fù)責(zé)人徐全全，以“新技術(shù)新應(yīng)用企業(yè)出海合規(guī)實(shí)踐”主題，圍繞企業(yè)合規(guī)治理等話題進(jìn)行了深入地探討交流。
編輯：遲明緒
京公網(wǎng)安備 11010502000576號(hào)