當前，人工智能技術發(fā)展不斷取得新突破，已成為引領新一輪科技革命和產業(yè)變革的重要驅動力量。與此同時，這一顛覆性技術加劇了數據泄露、算法偏見、虛假信息泛濫、智能鴻溝等諸多影響人類發(fā)展的全球性風險。為應對挑戰(zhàn)，國際社會有關加強全球人工智能治理的呼聲和行動全面興起，但對一些理念細化、實施路徑等議題未形成一致共識。在此背景下，2024年世界互聯網大會烏鎮(zhèn)峰會網絡空間國際規(guī)則論壇發(fā)布了《全球人工智能治理研究報告》（以下簡稱《報告》）。作為峰會重要成果，《報告》深化落實《全球人工智能治理倡議》，系統回應了“誰來治理”“治理什么”“如何治理”等關鍵問題，以中國方案積極推動全球人工智能治理邁向更高水平。
誰來治理：多邊、多方等多元主體攜手推進
自1956年達特茅斯會議正式確定“人工智能”術語以來，人工智能技術在數次起伏發(fā)展中取得了突破。1997年深藍超級計算機戰(zhàn)勝國際象棋世界冠軍促進了國際社會關于人工智能倫理的早期討論，2016年AlphaGo戰(zhàn)勝圍棋世界冠軍加速全球人工智能治理邁入制定原則方針的探索階段。伴隨著ChatGPT問世，相關國家、國際組織、技術社群、科技企業(yè)等多元主體提出了各具特點的治理方案。
從多邊平臺的進展看，多邊進程已成為全球人工智能治理的主要渠道，聯合國、二十國集團、金磚國家、經濟合作與發(fā)展組織等平臺形成了重要治理成果，特別是近年來聯合國發(fā)揮了重要引領作用。從多方機制的成果看，一些技術社群、國際組織、會議論壇等在技術標準、倫理規(guī)范等領域積極推動發(fā)展負責任的人工智能開發(fā)與應用。從相關國家和地區(qū)的做法看，中國、美國、歐盟、英國以及肯尼亞、埃及、哈薩克斯坦等基于不同的政治文化、產業(yè)發(fā)展和目標訴求等因素形成了不同的治理路徑。其中，中國遵循“堅持以人為本、智能向善”的理念和宗旨，統籌人工智能發(fā)展和安全，取得了積極進展。從科技企業(yè)的實踐看，大型科技企業(yè)在技術、產業(yè)和市場領域具有優(yōu)勢，在人工智能前沿開展了豐富的實踐，包括提出人工智能倫理原則、成立內部治理機構、提供解決方案、加強國際合作等。
上述行動和機制在原則議題上達成了一定的共識，但仍然高度碎片化，在理念細化和方案落實方面存在較多分歧?！秷蟾妗分赋觯l(fā)達國家把人工智能議題與自由、民主、人權等議題掛鉤，其主導的人工智能治理平臺起步較早、影響力較大。相較而言，大多數發(fā)展中國家則缺少領先的人工智能科技企業(yè)，更多關注能力建設、智能鴻溝等發(fā)展議題，在全球治理進程中聲勢較弱、代表性和話語權不足。尤其是一些國家以意識形態(tài)劃線，構建排他性集團或制造發(fā)展壁壘，阻礙了全球人工智能治理合作。
對此，《報告》站在多邊、多方等多元主體攜手推進的視角，提出完善全球治理機制。首先，應積極探索在聯合國框架下成立人工智能國際治理機構，協調涉及人工智能發(fā)展、安全與治理的重大問題。同時，發(fā)揮區(qū)域性多邊組織和國際標準化組織、世界經濟論壇、世界互聯網大會等各類專門性組織等重要作用。再者，推進其他人工智能的倡議機制、安全研究網絡、企業(yè)聯盟等組織形式，鼓勵政治組織、行業(yè)組織和技術組織之間加強互動。最后，主要大國應增強政治互信和合作意愿，建立應急聯絡與協作機制，合理管控人工智能競爭。
治理什么：圍繞人工智能重要議題共商善治
人工智能技術具有快速迭代、分支豐富、高度隨機、廣泛連接等特征。因此，不同于傳統技術治理，全球人工智能治理遠超傳統技術標準協調的議題范圍?！秷蟾妗坊谌斯ぶ悄軐夹g創(chuàng)新、經濟發(fā)展、社會進步、地緣政治等影響，圍繞人工智能發(fā)展、安全和治理，提出了十大重要議題。
第一，國家主權原則和人工智能發(fā)展是全球人工智能治理的首要議題?！堵摵蠂鴳椪隆反_立的主權平等原則是當代國際關系的基本準則，其原則和精神也應適用于指導全球人工智能治理。因此，一個國家不僅應享有自主發(fā)展人工智能、自主選擇人工智能監(jiān)管模式的權利，也應享有平等參與人工智能全球產業(yè)分工，平等參與人工智能國際規(guī)則制定的權利。而對于個別國家利用技術壟斷和單邊強制措施制造發(fā)展壁壘，利用人工智能技術干涉他國內政、社會制度、社會秩序、危害他國主權的行為，國際社會應堅決予以反對和抵制。
第二，模型算法和數據風險因其直接影響人工智能系統運行方式，成為全球關注的核心安全議題。一方面，數據投毒、對抗樣本攻擊、數據質量等數據安全風險可直接導致模型算法產生“智能幻覺”，出現決策偏差、歧視和不公平等現象。另一方面，模型算法的訓練和使用可能加劇數據泄露、侵犯個人隱私等問題。由此，發(fā)展負責任的人工智能，既要綜合考慮模型算法的可解釋性、可靠性、魯棒性、公正性、抗攻擊性，也要切實處理如何保護個人信息、確保數據的質量和安全等問題。
第三，國家間的智能鴻溝問題是人工智能發(fā)展在全球數字鴻溝領域的新表現，迫切需要加強國際協作予以解決。面對智能鴻溝在政策、技術、產業(yè)、應用、治理等領域全面加劇的趨勢，各國已在制定國際標準、增強政策互操作性、推進國際研發(fā)等方面加強合作。但值得關注的是，近年來個別國家試圖打造“科技鐵幕”、大搞技術封鎖，通過阻斷別國的人工智能技術發(fā)展來尋求在該領域的所謂領導地位。國際社會應高度警惕這一行徑，若該勢頭如果得不到制約，將嚴重干擾全球人工智能的發(fā)展和治理進程。
此外，《報告》還深入闡釋了社會變革和可持續(xù)發(fā)展議題、技術創(chuàng)新和產業(yè)發(fā)展、人機情感和生命倫理議題、內容安全風險、產品責任和風險、知識產權保護等重要議題。這反映了國際社會在人工智能治理領域已達成的廣泛共識，并為全球各國多邊各方討論人工智能發(fā)展和治理議題、開展人工智能規(guī)則制定提供優(yōu)先事項和重要藍本。
如何治理：構建完善全球人工智能治理體系
人工智能全球治理是世界各國面臨的共同課題，攸關全人類命運?！秷蟾妗肪透鞣狡毡殛P切的人工智能發(fā)展、安全與治理問題提出了建設性解決思路，既為中國積極參與人工智能全球治理提供了根本遵循，也為推動全球人工智能治理邁向更高水平貢獻了中國智慧。
一是提出目標宗旨?！秷蟾妗饭蠢樟巳蛉斯ぶ悄苤卫淼拿篮迷妇埃珜H社會加強信息交流和技術合作，共同做好風險防范，形成具有廣泛共識的人工智能治理框架和標準規(guī)范，構建開放、公正、有效的治理機制，不斷提升人工智能技術的安全性、可靠性、可控性、公平性，促進人工智能技術造福人類，推動構建人類命運共同體。
二是凝聚原則共識?！秷蟾妗分鲝?，各國應尊重國家主權，充分彰顯中國對人工智能發(fā)展和治理的負責任態(tài)度，也說明搞“小院高墻”和排他性“小圈子”是逆時代潮流?！秷蟾妗分赋?，全球人工智能治理應堅持發(fā)展與安全并重原則，在鼓勵和推動人工智能技術創(chuàng)新、賦能經濟社會的同時，應將安全意識和監(jiān)管措施貫穿人工智能的全生命發(fā)展周期?！秷蟾妗窂娬{，發(fā)展人工智能應堅持平等、互利、普惠原則，推動各國在人工智能技術的開發(fā)與應用上實現權利、機會、規(guī)則的平等，促進技術與知識的共享，縮小智能鴻溝，使全人類共享人工智能帶來的福祉。
三是明確行動路徑?！秷蟾妗诽岢觯瑘猿忠匀藶楸?、智能向善，意在警示技術發(fā)展不能偏離人類文明進步的方向，規(guī)范人工智能在法律、倫理和人道主義層面的價值取向，確保人工智能發(fā)展安全可控?！秷蟾妗氛J為，既要賦能千行百業(yè)，在模型研發(fā)、基礎設施布局、創(chuàng)新鏈和產業(yè)鏈深度融合、賦能實體經濟、助力可持續(xù)發(fā)展等方面強化國際合作；又要防范應對數據、算法、技術濫用等安全風險，支持在聯合國框架下建立兼顧發(fā)展中國家利益的、全球可互操作的人工智能安全風險評估框架、標準和治理體系?！秷蟾妗烦珜?，加強國際合作能力建設，完善全球治理機制，不僅有助于提升發(fā)展中國家或技術落后國家的代表性、參與度和話語權，造福世界各國特別是全球南方共享人工智能知識成果和經驗；也充分體現了中國負責任大國擔當，唱響了中國理念主張，深入推進參與人工智能全球治理，為推動構建網絡空間命運共同體邁向新階段做出貢獻。
來源：國際在線，2024-11-23
作者：唐巧盈，上海社會科學院網絡空間國際治理研究基地秘書長、上海市習近平新時代中國特色社會主義思想研究中心研究員
