7月18日，2023年中國網絡文明大會算法治理論壇在福建廈門舉行。論壇以“算法治理向上向善 網絡文明共建共享”為主題，依托人工智能技術新一輪發(fā)展浪潮，圍繞新形勢下的算法大模型發(fā)展與安全，深入探討算法治理的新趨勢新挑戰(zhàn)，拓展算法綜合治理新思路新路徑，護航新技術新應用健康可持續(xù)發(fā)展。

論壇上，人民網、新華社、中國傳媒大學、中國科學院計算技術研究所、中央廣播電視總臺代表，以及各單位國家重點實驗室代表發(fā)表主題演講，多方面闡述人工智能算法治理舉措，推動人工智能大模型安全發(fā)展。

中國傳媒大學副校長王暉在現場分享，國家網信辦聯合六部委推出的《生成式人工智能服務管理暫行辦法》針對生成式人工智能算法做出了“以治理促發(fā)展”的管理定位，“科學監(jiān)管”是其中的核心要義。生成式人工智能算法能否得到科學且有效的治理，是決定AI大模型可信、可管、可控與否的關鍵，也是媒體融合與傳播國家重點實驗室研究重心。治理方案的科學性具有規(guī)范化、全局化與一體化的特點。其中，規(guī)范化指算法應對齊主流價值觀、匹配領域需求、符合用戶認知；全局化指算法治理時要具有全局觀，要從信息傳播的全流程考慮可能產生的潛在影響；一體化指算法治理要與算力規(guī)劃、數據治理、場景創(chuàng)新融合發(fā)展。

中國科學院計算所副所長程學旗表示，人工智能技術正在步入一個技術創(chuàng)新與顛覆式應用模式頻現的爆發(fā)期，生成式大模型的爆發(fā)式涌現掀起新一輪發(fā)展熱潮。同時，由于智能算法的算法缺陷、算法濫用、算法對抗等核心問題，引發(fā)諸如大數據“殺熟”、隱私泄露、信息繭房、認知極化、大模型安全問題等，為算法治理乃至社會治理帶來新挑戰(zhàn)。中國科學院計算所在落實算法綜合治理方面，主要承擔“智能算法安全重點實驗室”建設任務，重點布局基礎算法研究、支撐互聯網算法安全治理和網絡空間認知安全等方向，加快突破智能算法可信域判定、算法黑箱透明化監(jiān)測、系統(tǒng)博弈臨界點感知調控三大重點難點問題，持續(xù)加強智庫力量與技術攻關，為算法綜合治理提供有力支撐。

論壇現場，百度、阿里云、美亞柏科、美圖等企業(yè)代表結合大模型領域的深入實踐，圍繞大模型的創(chuàng)新發(fā)展與安全風險進行圓桌研討，交流經驗做法，共商發(fā)展與治理之策。（羅曉英）