轉載請注明來(lái)源
① 強化數據安全，相關(guān)法律法規陸續發(fā)布
② 歐盟發(fā)布針對人工智能技術(shù)的監管法規草案，呼吁禁止公共場(chǎng)所人臉識別③ 國家新一代人工智能治理專(zhuān)業(yè)委員會(huì )發(fā)布《新一代人工智能倫理規范》④ 聯(lián)合國發(fā)布全球性人工智能倫理及治理規范⑤ 強化算法綜合治理，防范算法濫用風(fēng)險，用戶(hù)可選擇關(guān)閉算法推薦⑥ 自動(dòng)駕駛汽車(chē)2021年或在英國合法化⑦ 美國新提案將賦予社交媒體用戶(hù)禁用算法的權利⑧ AI增進(jìn)人類(lèi)福祉新方向：AI干預自殺、AI手語(yǔ)主播、AI氣候預測
⑨ 人腦芯片或2022年使用，癱瘓者迎來(lái)希望
⑩ 人臉識別第一案在浙江省杭州市中級人民法院迎來(lái)終審宣判
人工智能治理邁向新階段新格局
——2021年度全球十大人工智能治理事件及趨勢前瞻
人民智庫與曠視AI治理研究院 聯(lián)合課題組當前，新一代人工智能技術(shù)在全球蓬勃興起，正推動(dòng)經(jīng)濟社會(huì )各領(lǐng)域從數字化、網(wǎng)絡(luò )化向智能化加速躍升。伴隨著(zhù)人工智能新理論新技術(shù)飛速發(fā)展，人工智能治理標志性事件在世界范圍內層出不窮。對國際國內人工智能治理標志性事件開(kāi)展系統研究，有助于規律性認識人工智能未來(lái)發(fā)展趨勢，有助于深層次把握革命性技術(shù)對勞動(dòng)就業(yè)、社會(huì )倫理、個(gè)人隱私帶來(lái)的風(fēng)險與沖擊，有助于綜合性了解各國政府、學(xué)術(shù)機構、社會(huì )組織、企業(yè)主體等社會(huì )各層面、各領(lǐng)域為確保人工智能安全、可靠、可控、可持續發(fā)展做出的努力，進(jìn)而以更積極的態(tài)度研判大勢、把握機遇、引領(lǐng)潮流，推動(dòng)人工智能服務(wù)經(jīng)濟社會(huì )發(fā)展和民生福祉改善。為此，人民智庫與曠視AI治理研究院第二次成立聯(lián)合課題組，并邀請中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟（AIIA）作為課題支持單位，組織相關(guān)領(lǐng)域權威專(zhuān)家學(xué)者和企業(yè)代表，以《新一代人工智能倫理規范》中提到的六條原則（人類(lèi)福祉、公平公正、隱私安全、可控可信、責任擔當、倫理素養）為遵循，依據理論價(jià)值、實(shí)踐價(jià)值、新聞價(jià)值、研究?jì)r(jià)值等四個(gè)評價(jià)標準共同開(kāi)展“2021年度全球十大人工智能治理事件”（以下簡(jiǎn)稱(chēng)“十大事件”）遴選、評議，并對國家相關(guān)部委、行業(yè)協(xié)會(huì )領(lǐng)導，高校院所專(zhuān)家學(xué)者以及人工智能產(chǎn)業(yè)領(lǐng)域從業(yè)者等典型群體進(jìn)行深入訪(fǎng)談。綜合各方面資料、數據、意見(jiàn)、觀(guān)點(diǎn)，最終得出2021年度全球十大人工智能治理事件和事件背后的發(fā)展趨勢。十大事件三年考：
重點(diǎn)化、國際化、法治化
縱觀(guān)2019年至2021年的全球十大人工智能治理事件，可以看出社會(huì )各界對AI治理領(lǐng)域高度關(guān)注的若干條脈絡(luò )線(xiàn)：一是人工智能治理的重點(diǎn)領(lǐng)域日漸明晰。基于當前人工智能技術(shù)發(fā)展階段和經(jīng)濟社會(huì )生活現實(shí)，人臉識別、輔助駕駛、算法推薦作為人工智能應用較廣泛、發(fā)展較迅速、現實(shí)意義強、問(wèn)題矛盾也相對集中的三大重點(diǎn)領(lǐng)域，其輪廓日趨清晰，國際國內人工智能治理的重點(diǎn)和規則規范制定出臺也日趨向這三個(gè)領(lǐng)域及相關(guān)應用場(chǎng)景集中。二是人工智能治理領(lǐng)域的國際合作日趨密切。隨著(zhù)人工智能技術(shù)迅猛發(fā)展和世界經(jīng)濟格局迅速演變，各國普遍認識到，人工智能的有效治理是全球性、全局性議題，沒(méi)有一個(gè)區域、國家可以成為“孤島”，也很難在缺乏有效國際共識、協(xié)作機制的前提下真正實(shí)現人工智能領(lǐng)域的善治。尤其是推動(dòng)人工智能技術(shù)發(fā)展和應用的三大主要經(jīng)濟體——中國、美國、歐盟，在搶占技術(shù)制高點(diǎn)競爭日趨激烈的同時(shí)，政府、企業(yè)和相關(guān)社會(huì )組織、行業(yè)組織之間也逐步加強了對話(huà)與合作，聯(lián)合國也在國際人工智能治理規則制定等方面發(fā)揮日趨重要的作用。三是人工智能治理領(lǐng)域的法治化程度逐步提升。中美歐普遍高度重視人工智能領(lǐng)域立法，逐步實(shí)現了人工智能重點(diǎn)領(lǐng)域“有法可依”，重要應用場(chǎng)景均有法律法規和相關(guān)規則予以規范，為人工智能技術(shù)的可持續健康發(fā)展奠定了良好法治基礎。與此相應，相關(guān)領(lǐng)域司法實(shí)踐日趨走向成熟、穩定、可預期，成為人工智能治理領(lǐng)域重要“善治”基石。四是人工智能治理領(lǐng)域的意識形態(tài)風(fēng)險挑戰日益成為焦點(diǎn)。世界百年未有之大變局下，大國競爭博弈日趨激烈，人工智能等前沿科技領(lǐng)域競爭也趨于白熱化。算法推薦、機器人賬號、社交媒體精準推送等日趨成為人工智能應用熱點(diǎn)，個(gè)人信息乃至經(jīng)濟社會(huì )信息、地理信息安全等問(wèn)題備受關(guān)注，這些都與意識形態(tài)領(lǐng)域安全乃至國家戰略安全息息相關(guān)，人工智能治理領(lǐng)域的競爭與國際話(huà)語(yǔ)權競爭的聯(lián)系日趨緊密，“元宇宙”等新的應用場(chǎng)景還將繼續加速這一進(jìn)程。人工智能產(chǎn)業(yè)作為經(jīng)濟體量巨大的新興產(chǎn)業(yè)，其算法對網(wǎng)絡(luò )生態(tài)的發(fā)展亦產(chǎn)生了深刻影響。人工智能算法在降低公眾篩選有效信息時(shí)間成本的同時(shí)，也擴大了網(wǎng)絡(luò )生態(tài)失衡、失真的風(fēng)險。在本次調查中，涉及算法治理的事件得到了專(zhuān)家和公眾的廣泛關(guān)注。國內主要事件為“九部委發(fā)文：防止利用算法干擾社會(huì )輿論等行為”“國家網(wǎng)信辦擬規定不得利用算法控制熱搜，用戶(hù)可選擇關(guān)閉算法推薦”。國際方面為“美國新提案將賦予社交媒體用戶(hù)禁用算法的權利”。清華大學(xué)人工智能?chē)H治理研究院名譽(yù)院長(cháng)傅瑩指出，我國目前已經(jīng)初步建立起算法治理的“法治之網(wǎng)”，特別是在2021年，各部門(mén)相繼出臺了針對不同問(wèn)題的指導意見(jiàn)與管理規定等文件，這些規章起到互益互補的作用，共同推進(jìn)我國算法治理進(jìn)一步規范發(fā)展，走向綜合治理的發(fā)展格局。2021年堪稱(chēng)中國算法治理元年。北京科技大學(xué)法學(xué)院副教授、國家人工智能倫理與道德標準小組成員張凌寒認為，我國的算法治理體系以信息安全、市場(chǎng)競爭秩序和消費者權益保護為指導思想，2021年的算法綜合治理活動(dòng)與相關(guān)立法，使得我國率先建立了世界上最為完備的囊括數據安全、個(gè)人信息保護和算法安全的互聯(lián)網(wǎng)治理體系。標志性事件為世界第一部系統性、全面性規制算法的法律文件《互聯(lián)網(wǎng)信息服務(wù)算法推薦管理規定》發(fā)布?！蛾P(guān)于加強互聯(lián)網(wǎng)信息服務(wù)算法綜合治理的指導意見(jiàn)》宣布我國將在三年內建立起算法安全綜合治理格局。綜合來(lái)看，歐盟和美國在數據保護立法領(lǐng)域走在了中國之前，算法規制方面中國則當仁不讓地開(kāi)世界先河。人工智能時(shí)代算法應用場(chǎng)景的持續豐富，推動(dòng)著(zhù)人們工作生活空間的“全面數字化”。因此需要對人工智能算法的風(fēng)險與不確定性進(jìn)行準確識別與判斷，以保障公民的算法自由與算法安全。浙江理工大學(xué)法政學(xué)院特聘副教授、杭州長(cháng)三角大數據研究院副院長(cháng)郭兵認為，算法推薦等技術(shù)為網(wǎng)絡(luò )用戶(hù)和網(wǎng)絡(luò )平臺帶來(lái)便利和經(jīng)濟利益的同時(shí)，也引發(fā)了一系列新的法律問(wèn)題。平衡好算法推薦等技術(shù)的創(chuàng )新發(fā)展與安全風(fēng)險，成為算法治理的一大難題。清華大學(xué)交叉信息研究院院長(cháng)、人工智能?chē)H治理研究院學(xué)術(shù)委員會(huì )主席姚期智指出，不斷精進(jìn)的算法、高效的算力和隱私保護是人工智能理論的新方向?！捌胶獍荨钡娜斯ぶ悄苤卫眢w系建構，將進(jìn)一步釋放人工智能的潛能，更大程度保證人工智能的安全性。法律厘清數據邊界
敏捷治理回應民眾關(guān)切
對于人工智能發(fā)展過(guò)程中出現的問(wèn)題，需要明確其法律客體的地位，通過(guò)法律手段予以規制。傳統的“先發(fā)展，后治理”模式在人工智能時(shí)代并不適用，人工智能具有基礎性與普遍性，作為一種通用技術(shù)和基礎設施將對各行各業(yè)產(chǎn)生巨大的影響，給傳統生產(chǎn)方式帶來(lái)深刻的變革。人工智能技術(shù)具備卓越的信息處理能力，可以將碎片化的信息進(jìn)行整合，實(shí)現信息從“量”到“質(zhì)”的飛躍。因此，如何有效保護和合理使用信息數據，成為人工智能技術(shù)健康發(fā)展所面臨的重要課題。對此，我國從司法實(shí)踐角度升級法律體系，適應人工智能時(shí)代的需要，保障個(gè)人信息安全。本次十大事件的評選中，國內涉及保護個(gè)人信息安全、規制個(gè)人信息收集的事件關(guān)注度最高，如《個(gè)人信息保護法》《數據安全法》正式實(shí)施，最高法出臺人臉識別新規等?！叭四樧R別第一案在浙江省杭州市中級人民法院迎來(lái)終審宣判”也受到廣泛關(guān)注。在國際方面，“歐盟發(fā)布針對人工智能技術(shù)的監管法規草案，呼吁禁止公共場(chǎng)所人臉識別”受關(guān)注度最高。對社會(huì )公眾關(guān)注度高的熱點(diǎn)事件進(jìn)行敏捷治理，意味著(zhù)及時(shí)對人工智能的失范行為進(jìn)行治理，實(shí)現治理對象的多元化。要及時(shí)回應人民關(guān)切，通過(guò)法律手段對個(gè)人敏感信息收集進(jìn)行治理，推動(dòng)人工智能良性發(fā)展。中國信息通信研究院云計算與大數據研究所魏凱副所長(cháng)分析，2021年，備受關(guān)注的《數據安全法》《個(gè)人信息保護法》出臺，與《網(wǎng)絡(luò )安全法》共同形成了數據治理法律領(lǐng)域的“三駕馬車(chē)”，標志著(zhù)我國數據安全法律架構已初步搭建完成。在此基礎上，聚焦重點(diǎn)行業(yè)、新興技術(shù)的數據安全法律法規和司法解釋也在2021年密集出臺，充分體現了我們國家在數據立法方面的前瞻性和創(chuàng )新性。這一系列法律法規的出臺，為加快培育數據要素市場(chǎng)、保障數字經(jīng)濟健康發(fā)展奠定了堅實(shí)的制度基礎。清華大學(xué)公共管理學(xué)院教授、人工智能?chē)H治理研究院副院長(cháng)梁正認為，人工智能治理已經(jīng)成為全球共識，且已從理念層面進(jìn)入到建章立制、落地實(shí)施的階段。除了自上而下的建章立制，自下而上的基于應用主體和用戶(hù)選擇的參與，也成為人工智能治理的一個(gè)重要特點(diǎn)。數字廣東網(wǎng)絡(luò )建設有限公司產(chǎn)品研發(fā)部總經(jīng)理劉亞單認為，數據安全事關(guān)國家安全和經(jīng)濟社會(huì )發(fā)展，提升數據安全治理能力是我們在新形勢下需要著(zhù)力解決的突出問(wèn)題。專(zhuān)門(mén)法律相繼發(fā)布生效，為明確數據產(chǎn)權與利用規則奠定了基礎，推動(dòng)我國公共數據走向“規范化”發(fā)展道路，是全球個(gè)人信息法治發(fā)展的重大里程碑。隨著(zhù)人工智能技術(shù)的快速發(fā)展和廣泛應用，相關(guān)倫理問(wèn)題愈發(fā)受到各界重視。各國政府、國際組織、學(xué)術(shù)機構和企業(yè)界都積極參與相關(guān)倫理標準的討論和制定， 確保人工智能技術(shù)發(fā)展“以人為本”。目前，國內外對于人工智能的監管措施實(shí)現了“剛柔并濟”。除了出臺系列針對數據與技術(shù)的法律法規外，對于A(yíng)I涉及倫理方面的內容也作出規定。中國政府向來(lái)高度重視人工智能產(chǎn)業(yè)發(fā)展中的倫理問(wèn)題。2017年7月，國務(wù)院在《新一代人工智能發(fā)展規劃》中提出，要制定促進(jìn)人工智能發(fā)展的法律法規和倫理規范；開(kāi)展人工智能行為科學(xué)和倫理等問(wèn)題研究；制定人工智能產(chǎn)品研發(fā)設計人員的道德規范和行為守則。2019年6月，國家新一代人工智能治理專(zhuān)業(yè)委員會(huì )發(fā)布了《新一代人工智能治理原則——發(fā)展負責任的人工智能》，旨在更好地協(xié)調人工智能發(fā)展與治理的關(guān)系，確保人工智能安全可靠可控，推動(dòng)經(jīng)濟、社會(huì )及生態(tài)可持續發(fā)展。2021年9月25日，《新一代人工智能倫理規范》發(fā)布，旨在將倫理道德融入人工智能全生命周期，為從事人工智能相關(guān)活動(dòng)的自然人、法人和其他相關(guān)機構等提供倫理指引。聯(lián)合國是推動(dòng)建立全球AI倫理規范的重要力量。2019年，聯(lián)合國教科文組織啟動(dòng)了全球AI倫理建議書(shū)的撰寫(xiě)，并于2020年9月完成草案，提交193個(gè)會(huì )員國協(xié)商，2021年11月發(fā)布了《人工智能倫理建議書(shū)》，這是全球首個(gè)針對人工智能倫理制定的規范框架。這一歷史性文本確定了共同的價(jià)值觀(guān)和原則，用以指導建設必需的法律框架來(lái)確保人工智能的健康發(fā)展。此外，世界衛生組織(WHO)于2021年6月28日正式發(fā)布了“世界衛生組織衛生健康領(lǐng)域人工智能倫理與治理指南”，為不同國家最大化人工智能的益處和最小化其風(fēng)險提供了指引。中國信息通信研究院云計算與大數據研究所何寶宏所長(cháng)指出，發(fā)布《新一代人工智能倫理規范》，細化落實(shí)《新一代人工智能治理原則》，是我國深化人工智能治理工作的又一重大舉措。人工智能技術(shù)以數據、算法為驅動(dòng)，發(fā)展速度迅猛，正在深刻改變人類(lèi)的社會(huì )生產(chǎn)和生活模式。但人工智能技術(shù)的濫用也不斷沖擊社會(huì )倫理底線(xiàn)、侵犯個(gè)人權益。所以，既要大力發(fā)展人工智能，又要高度重視風(fēng)險和挑戰，科學(xué)處理好發(fā)展和治理的關(guān)系，發(fā)展可信的人工智能。京東探索研究院院長(cháng)陶大程認為，我們需要增強用戶(hù)的信任，提升人工智能落地服務(wù)的質(zhì)量，發(fā)展可信人工智能是當前社會(huì )各界的重要共識，加強AI治理將為人工智能技術(shù)的進(jìn)一步發(fā)展提供可靠保證。AI增進(jìn)民生福祉
前沿科技勾勒幸福未來(lái)
關(guān)于自動(dòng)駕駛是否合法以及自動(dòng)駕駛主體責任等問(wèn)題的討論一直是各界熱議話(huà)題。從入圍2019年十大事件的“自動(dòng)駕駛安全事故問(wèn)責難”到入圍2021年十大事件的“自動(dòng)駕駛汽車(chē)2021年或在英國合法化”，意味著(zhù)AI技術(shù)成熟對人類(lèi)智能交通和智慧出行福祉的改善受到社會(huì )認可。南京大學(xué)計算機科學(xué)與技術(shù)系聶長(cháng)海教授認為，這是人類(lèi)邁出的一大步，除了道路等基礎設施建設、自動(dòng)駕駛汽車(chē)能力等自動(dòng)駕駛相關(guān)技術(shù)的進(jìn)步，將會(huì )帶動(dòng)更多的無(wú)人系統和自治系統的繁榮和發(fā)展。在國內，關(guān)于人工智能技術(shù)向善的事件令人暖心：中科院通過(guò)AI算法技術(shù)，開(kāi)發(fā)了自殺意念識別模型，在社交網(wǎng)絡(luò )上識別有自殺傾向的網(wǎng)友并對其展開(kāi)救助；在2022年北京冬奧會(huì )開(kāi)幕之際，AI手語(yǔ)主播將為聽(tīng)障用戶(hù)傳達比賽資訊，此外，AI首次預測未來(lái)兩年氣候，這對人類(lèi)預防自然災害很有幫助。據外媒報道，某技術(shù)公司研發(fā)的微芯片裝置有望2022年植入人類(lèi)大腦，這一技術(shù)將為癱瘓者帶來(lái)希望。南京大學(xué)科學(xué)技術(shù)與社會(huì )研究所所長(cháng)潘天群教授認為，當代社會(huì )有抑郁等心理障礙的人越來(lái)越多，在網(wǎng)上“樹(shù)洞”進(jìn)行傾訴是心理障礙者緩解壓力的一個(gè)重要渠道。人工智能技術(shù)設計的軟件將用于阻止更多意圖自殺的人，公益性強、社會(huì )價(jià)值巨大，這也意味著(zhù)基于網(wǎng)上的資源可以開(kāi)發(fā)出各種具有公益價(jià)值的軟件。“AI手語(yǔ)主播的應用代表著(zhù)AI數字人技術(shù)可以讓機器運用某些情感貫穿表達方式、面部表情后臺邏輯，在虛擬世界中打造一個(gè)真實(shí)的助手或者合作伙伴。未來(lái)由AI扮演的等多種社會(huì )角色，或許將陸續在不同行業(yè)、不同領(lǐng)域'上崗’，讓人們切實(shí)體會(huì )到'人工智能建設的美好世界’?！笨拼笥嶏w高級副總裁江濤如是說(shuō)。招商銀行人工智能實(shí)驗室主任李金龍認為，隨著(zhù)AI在生物醫學(xué)、社會(huì )服務(wù)以及大氣研究等多個(gè)領(lǐng)域落地開(kāi)花，AI的能力被進(jìn)一步證明，并更好地服務(wù)人類(lèi)，加速基礎研究。從早期的語(yǔ)音播報能力為視弱者提供移動(dòng)服務(wù)，到現在的AI預測蛋白質(zhì)結構節約研究成本等，無(wú)不證明，科學(xué)合理使用AI能力可以為人類(lèi)社會(huì )造福。趨勢前瞻：
AI為推動(dòng)人類(lèi)文明進(jìn)步正向賦能
中國信息通信研究院副總工程師、中國人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟副秘書(shū)長(cháng)王愛(ài)華認為，2021年是全球人工智能治理極具突破的一年，呈現出三大發(fā)展特點(diǎn)：一是治理“趨實(shí)”，二是治理“趨嚴”，三是治理“趨細”。將抽象的人工智能倫理原則、法律規范轉化為具體實(shí)踐，落實(shí)到技術(shù)、產(chǎn)品和應用中去，是產(chǎn)業(yè)界亟待加快推進(jìn)的工作。曠視科技聯(lián)合創(chuàng )始人兼CEO印奇認為，作為全球科技競爭的關(guān)鍵領(lǐng)域，人工智能不僅需要在技術(shù)創(chuàng )新等方面下功夫，也需要在治理上使力氣。人工智能既是我們創(chuàng )造美好生活的重要手段，也是需要妥善治理的對象。AI治理的向上向善發(fā)展需要理性的關(guān)注、深度的研究、建設性的討論和堅持不懈的行動(dòng)。用人工智能造福大眾，離不開(kāi)所有AI從業(yè)者和社會(huì )各界的多元共治、共同努力。未來(lái)，考察AI治理問(wèn)題，一是需要增加新型全球化背景下的宏觀(guān)考察，于構建人類(lèi)命運共同體的時(shí)代議題之下，考量人工智能對人類(lèi)文明的推動(dòng)；更加聚焦前沿科技服務(wù)民生和助力公平，增強大眾對AI改善民生福祉的期待和信心。二是通過(guò)法治手段厘清人工智能的法治倫理邊界。有關(guān)部門(mén)應密切追蹤前沿技術(shù)，廣泛吸納意見(jiàn)和建議，對倫理規范進(jìn)行科學(xué)、動(dòng)態(tài)制定和調整，引導AI為推動(dòng)人類(lèi)文明進(jìn)步正向賦能。三是更加強調AI治理的國際合作和政產(chǎn)學(xué)研合作，對于人工智能治理的問(wèn)題需要全人類(lèi)共同面對，相關(guān)標準規范的制定需要多方參與、共商共議、交流互鑒。
本站僅提供存儲服務(wù)，所有內容均由用戶(hù)發(fā)布，如發(fā)現有害或侵權內容，請
點(diǎn)擊舉報。
