編者按
　　隨著信息技術(shù)的迅猛發(fā)展，越來越多的新業(yè)態(tài)、新模式、新產(chǎn)品不斷涌現(xiàn)，也伴生個人信息遭侵犯、新技術(shù)新業(yè)態(tài)無序發(fā)展等問題，迫切需要加強(qiáng)法律的規(guī)制與保障。
　　中共中央近日印發(fā)的《法治中國建設(shè)規(guī)劃（2020－2025年）》明確提出，加強(qiáng)信息技術(shù)領(lǐng)域立法，及時跟進(jìn)研究數(shù)字經(jīng)濟(jì)、互聯(lián)網(wǎng)金融、人工智能、大數(shù)據(jù)、云計算等相關(guān)法律制度，抓緊補(bǔ)齊短板。
　　本報今起開設(shè)“新技術(shù)領(lǐng)域立法”欄目，聚焦如何通過立法保障新業(yè)態(tài)新模式健康發(fā)展，敬請關(guān)注。

　　□ 法治日報全媒體記者　　蒲曉磊

　　近日，上海市浦東新區(qū)科技和經(jīng)濟(jì)委員會發(fā)布消息稱，截至2020年底，浦東人工智能企業(yè)約600家，涵蓋人工智能基礎(chǔ)層、技術(shù)層及應(yīng)用層，相關(guān)產(chǎn)業(yè)規(guī)模預(yù)計達(dá)910多億元，以人工智能技術(shù)驅(qū)動社會經(jīng)濟(jì)高質(zhì)量發(fā)展變革的效應(yīng)逐步顯現(xiàn)。
　　浦東地區(qū)人工智能的蓬勃發(fā)展，是我國人工智能產(chǎn)業(yè)的一個縮影。中國信息通信研究院近日發(fā)布的數(shù)據(jù)顯示，2020年，我國人工智能產(chǎn)業(yè)規(guī)模大約3100億元人民幣，同比增長15%。
　　值得注意的是，伴隨著人工智能的快速發(fā)展，其“雙刃劍”的特性也愈發(fā)引人關(guān)注。人工智能在深刻改變?nèi)祟惿鐣?、改變世界的同時，其發(fā)展的不確定性也給個人隱私、經(jīng)濟(jì)安全、社會穩(wěn)定等領(lǐng)域帶來前所未有的新挑戰(zhàn)。
　　人工智能要實(shí)現(xiàn)健康發(fā)展，法治是不可或缺的堅實(shí)保障。清華大學(xué)法學(xué)院院長申衛(wèi)星建議，在大力發(fā)展人工智能的同時，高度重視其可能帶來的安全風(fēng)險挑戰(zhàn)，加強(qiáng)前瞻預(yù)防與約束引導(dǎo)，最大限度降低風(fēng)險、化解風(fēng)險，從技術(shù)、倫理和法律三個路徑共同構(gòu)建符合人工智能運(yùn)作基本邏輯的規(guī)制體系，確保人工智能安全、可控發(fā)展。
在基層醫(yī)療等領(lǐng)域有特殊價值
　　得益于人工智能在近年來的迅猛發(fā)展，我國應(yīng)對新冠肺炎疫情的能力有了進(jìn)一步提升。在疫情期間，人工智能在基層醫(yī)療、教育教學(xué)、城市治理等多個領(lǐng)域凸顯特殊價值。
　　近日，北京市順義區(qū)發(fā)生局部聚集性疫情。如何破解疫情傳播鏈，成為疫情防控中的一項重要工作。在取得授權(quán)的前提下，人工智能技術(shù)團(tuán)隊繪出患者流調(diào)軌跡地圖，幫助疾控人員迅速鎖定管控范圍。
　　2020年初，人工智能領(lǐng)域的智能語音機(jī)器人在進(jìn)行社區(qū)疫情排查和防疫宣傳上就起到了很大作用。記者在科大訊飛海南自貿(mào)港人工智能翻譯服務(wù)中心看到，使用了語音技術(shù)的機(jī)器人，可以給人們打電話進(jìn)行電話訪問，對人們的身體狀況等信息進(jìn)行詢問，在電話訪問結(jié)束之后還可以自動生成統(tǒng)計報表，將相關(guān)信息直接提供給疫情防控有關(guān)部門。這項技術(shù)在湖北武漢“封城”期間就已得到廣泛應(yīng)用，6小時即可完成100萬人的電話訪問。在全國推廣后，共完成了5900萬次的訪問和統(tǒng)計，極大地節(jié)省了隨訪時間。
　　全國人大代表、科大訊飛股份有限公司董事長劉慶峰說，人工智能在過去60多年的發(fā)展歷程里，一方面，在技術(shù)創(chuàng)新上，人工智能已經(jīng)實(shí)現(xiàn)了“讓機(jī)器能聽會說、能看會認(rèn)”，正朝著“讓機(jī)器能理解、會思考”的方向發(fā)展；另一方面，在教育、醫(yī)療、社會治理、司法、翻譯、辦公等關(guān)系民生福祉的各行各業(yè)，人工智能也開始切切實(shí)實(shí)解決剛需應(yīng)用。
　　“未來十年，人工智能將像水和電一樣進(jìn)入每一個行業(yè)，深刻改變世界。”劉慶峰說。
可能帶來重大風(fēng)險和潛在威脅
　　在飛速發(fā)展的過程中，人工智能的“雙刃劍”特性也展現(xiàn)出來。
　　疫情防控工作中，人工智能在信息收集、資源調(diào)配、支持復(fù)工復(fù)產(chǎn)等領(lǐng)域展現(xiàn)了巨大能量。與此同時，人工智能也因為公民個人信息保護(hù)、老年人面臨“數(shù)字鴻溝”等問題而備受關(guān)注。
　　近年來，人工智能在廣泛應(yīng)用于多個領(lǐng)域的同時，其對于個人隱私、社會公平、生命安全、科技倫理等方面的影響時常被關(guān)注。
　　申衛(wèi)星認(rèn)為，人工智能技術(shù)的發(fā)展，不僅使得保護(hù)隱私和個人信息更具有挑戰(zhàn)性，也有著引發(fā)歧視和不公平對待等倫理風(fēng)險、誘發(fā)壟斷阻礙經(jīng)濟(jì)發(fā)展、成為威脅國家和社會安全的突破口等風(fēng)險。
　　“在人工智能的社會倫理上，人們?nèi)找姹粩?shù)據(jù)化和被算法化，算法在劣勢累計影響下所作出的推斷與決策結(jié)果將導(dǎo)致對少數(shù)群體或受保護(hù)群體的負(fù)面成見和刻板印象，故意或過失的錯誤應(yīng)用和算法歧視引發(fā)對兒童、老年人、殘疾人、消費(fèi)者等弱勢群體的不公平對待，對社會正義觀和實(shí)質(zhì)結(jié)果提出了嚴(yán)峻挑戰(zhàn)?！鄙晷l(wèi)星舉例說。
　　數(shù)據(jù)信息采集應(yīng)用可能侵犯公民權(quán)利，威脅隱私；算法偏好可能加劇社會偏見或歧視，威脅公平；機(jī)器深度學(xué)習(xí)難以理解人性和道德，無人駕駛汽車緊急避險等智能決策可能危及特定人群生命，威脅安全；人機(jī)交互式產(chǎn)品廣泛應(yīng)用帶來的工作生活高度依賴，對人類情感體驗、家庭社會關(guān)系等帶來了一定沖擊，可能影響未來社會塑造，威脅倫理……全國政協(xié)曾在2020年9月至10月對人工智能進(jìn)行專題調(diào)研，專題調(diào)研組了解到，我國人工智能發(fā)展勢頭迅猛，但發(fā)展機(jī)遇與風(fēng)險并存，對人類社會發(fā)展也可能帶來重大風(fēng)險和潛在威脅。
加快對應(yīng)用基礎(chǔ)較好領(lǐng)域立法
　　為推動新一代人工智能健康發(fā)展，相關(guān)的法律制度正在加速構(gòu)建。
　　2020年12月21日，全國人大常委會法工委發(fā)言人岳仲明介紹了2021年全國人大的重點(diǎn)立法工作。數(shù)據(jù)安全法、個人信息保護(hù)法等法律案2021年安排常委會會議繼續(xù)審議，爭取早日出臺。
　　盡管相關(guān)的立法工作正在提速，但與人工智能的發(fā)展速度相比，仍然顯得有些滯后。
　　西南政法大學(xué)高等研究院院長、人工智能法律研究院院長侯東德認(rèn)為，當(dāng)前，人工智能發(fā)展缺乏具有前瞻性、可操作性、指引性的法律法規(guī)，人工智能發(fā)展中涉及的個人信息保護(hù)、數(shù)據(jù)共享等問題也亟須立法明確。
　　值得注意的是，國務(wù)院在2017年7月印發(fā)的《新一代人工智能發(fā)展規(guī)劃》提出，重點(diǎn)圍繞自動駕駛、服務(wù)機(jī)器人等應(yīng)用基礎(chǔ)較好的細(xì)分領(lǐng)域，加快研究制定相關(guān)安全管理法規(guī)，為新技術(shù)的快速應(yīng)用奠定法律基礎(chǔ)。
　　申衛(wèi)星建議，對自動駕駛、自動化決策、精準(zhǔn)醫(yī)療等領(lǐng)域分別進(jìn)行立法，要區(qū)分不同行業(yè)和場景對人工智能技術(shù)進(jìn)行規(guī)范。
　　中國法學(xué)會商法學(xué)研究會理事張韜認(rèn)為，在人工智能發(fā)展過程中，數(shù)據(jù)占據(jù)著極為重要的地位。無論是解決“數(shù)據(jù)隱私”“算法歧視”等問題，還是針對自動駕駛、服務(wù)機(jī)器人等快速發(fā)展的領(lǐng)域進(jìn)行立法，都需要對數(shù)據(jù)的收集、利用、使用等內(nèi)容作出細(xì)致規(guī)定。
　　上海眾人網(wǎng)絡(luò)安全技術(shù)有限公司董事長談劍鋒說，針對個人生物特征、醫(yī)療數(shù)據(jù)等唯一性、不可再生性的重要數(shù)據(jù)，必須提前設(shè)防。建議對此進(jìn)行立法，對互聯(lián)網(wǎng)企業(yè)的信息采集進(jìn)行嚴(yán)格的管理規(guī)定，只可針對企業(yè)產(chǎn)品的特性進(jìn)行相關(guān)必要的數(shù)據(jù)采集，不得過度、無序、隨意地采集。同時，明確規(guī)范由誰來采集、如何采集等相關(guān)安全技術(shù)規(guī)范和流程標(biāo)準(zhǔn)，采取嚴(yán)格的安全防范措施。