“以共商促共享，以善治促善智”，AI治理成全球關注議題

7月4日，2024世界人工智能大會暨人工智能全球治理高級別會議大會（下稱“大會”）即將召開。今年的主題是“以共商促共享，以善治促善智”。

與往年不同，今年大會將同期召開人工智能全球治理高級別會議。全球人工智能技術的快速發展對經濟社會發展和人類文明進步產生了深遠影響，也帶來了風險和複雜挑戰。“前沿人工智能安全與治理論壇”“國際AI安全前沿技術論壇”等垂直細分議題的分論壇也將陸續登場。

大會從最初聚焦科技進步和產業繁榮，逐漸演進爲涵蓋發展、安全、治理的綜合性議題。

AI治理需要全球共識

近年來，人工智能技術快速發展，給經濟社會發展帶來巨大紅利，同時也存在諸多風險挑戰。人工智能全球治理已成爲世界各國共同面臨的重大課題。

去年10月，中國國家主席習近平宣佈提出《全球人工智能治理倡議》，圍繞人工智能發展、安全、治理三方面系統闡述人工智能治理的中國方案，就各方普遍關切的問題提出建設性解決思路，爲相關國際討論和規則制定提供了藍本，得到國際社會的高度評價。

就在7月1日，第78屆聯合國大會以協商一致方式通過了中國主提的“加強人工智能能力建設國際合作”決議，140多個國家參加聯署。在7月2日外交部例行記者會上，外交部發言人毛寧表示，這充分反映了各國在加強人工智能能力建設方面的廣泛共識，彰顯了各國通過團結合作加強能力建設、彌合智能鴻溝的政治意願。

目前，美國已聯署該決議。毛寧表示，中方讚賞包括美國在內會員國積極參與“加強人工智能能力建設國際合作”聯大決議草案磋商，並支持該決議達成協商一致。中方願同美方一道，落實兩國元首舊金山會晤共識，加強兩國人工智能領域多雙邊對話合作，促進全人類共享智能紅利。

中國主張，人工智能全球治理應該堅持廣泛參與、協商一致原則，在充分尊重各國政策和實踐差異性的基礎上，推動形成廣泛國際共識。毛寧表示，決議堅持以人爲本、智能向善、造福人類的原則，聚焦能力建設主題，強調增強發展中國家在人工智能全球治理的代表性和發言權，倡導營造公平、非歧視的商業環境，支持聯合國發揮中心作用，鼓勵通過國際合作和實際行動切實幫助發展中國家開展能力建設，實現人工智能的健康和可持續發展。

AI治理影響技術安全發展

人工智能安全治理是目前海內外企業關注的重點。

DeepMind前沿安全與治理小組的艾倫·德福表示，AI技術的發展是全球性的，沒有任何一個國家可以獨自應對所有的挑戰。需要在全球範圍內建立合作伙伴關係，共同制定和實施規範和標準，以確保AI技術的發展能夠造福全人類，而不是成爲威脅。這不僅僅是一個技術問題，更是一個社會問題，需要各國政府、企業和學術界的共同努力。

加州大學伯克利分校教授斯圖爾特·羅素（Stuart Russell）此前提及OpenAI CEO薩姆·奧爾特曼（Sam Altman）表示將研究如何創建AGI並保證它的安全，但羅素認爲這個觀點說反了——一旦製造出 AGI，就沒有另一個十年的時間來研究如何讓它變得安全。

北京智源人工智能研究院理事長黃鐵軍認爲，目前AI安全已進入風險很突出的階段。應對AI安全風險，需要對AGI水平和能力進行分級。面壁智能CEO李大海認爲，現階段安全主要聚焦在基礎安全與內容安全兩個方向上，現在的大模型本質上是隻讀的，權重是固定的，推理不會影響權重。未來當用戶將模型部署到機器人等終端上，模型能夠去動態更新自己的權重後，安全問題將變成一個非常重要的問題。

瑞萊智慧CEO田天對第一財經記者表示，AI治理與AI技術發展所處階段有關，目前海外頭部機構與專家關注超級智能安全問題的會議也很多，是一個全球關注的議題。行業相信，在Scaling Law（規模定律）下，短時間內達到強大的AI技術是有可能的。

爲加快構建滿足人工智能產業高質量發展的標準體系，工信部等四部門日前聯合印發《國家人工智能產業綜合標準化體系建設指南（2024版）》（下稱《指南》）。根據《指南》，人工智能標準體系結構包括基礎共性、基礎支撐、關鍵技術、智能產品與服務、賦能新型工業化、行業應用、安全/治理等7個部分。

在治理標準上，《指南》提出要結合人工智能治理實際需求，規範人工智能的技術研發和運營服務等要求，包括人工智能魯棒性、可靠性、可追溯性的技術要求與評測方法，人工智能治理支撐技術；規範人工智能全生命週期的倫理治理要求，包括人工智能倫理風險評估，人工智能的公平性、可解釋性等倫理治理技術要求與評測方法，人工智能倫理審查等標準。

在田天看來，目前國內在安全領域所關注的內容更多聚焦在可信的安全問題，以及如何防範濫用方面。隨着中國人工智能的快速發展，很快國內也會更多參與海外在AI安全方面的探討。

清華大學人工智能國際治理研究院副院長樑正在提到中國參與全球人工智能治理體系構建時表示：“中國作爲人工智能發展的重要力量，在參與全球人工智能治理體系構建、推動人工智能國際治理合作上，始終主張各國應秉持共同、綜合、合作、可持續的安全觀，堅持發展和安全並重的原則，通過對話與合作凝聚共識，構建開放、公正、有效的治理機制，促進人工智能技術造福於人類，推動構建人類命運共同體。”

第一財經記者寧佳彥對本文亦有貢獻