美中合作人工智能的治理

如今，生成的人工智能係統已經可以比大多數人寫得更清晰、更有說服力，並且可以基於簡單的語言提示生成原始圖像、藝術，甚至計算機代碼（下圖 MBN/eric）。而生成人工智能隻是冰山一角。它的到來標誌著一個大爆炸時刻，一場改變世界的技術革命的開始，這場革命將重塑政治、經濟和社會。預計到2035年時，人工智能將無處不在 -- 管理醫院、運營航空公司、並在法庭上唇槍舌劍。人工智能為人類社會帶來了新產品、新治療方法和無以倫比的創新。然而，人工智能也讓白領工人集體失業，讓恐怖分子以智能的、不斷發展的網絡武器威脅社會。

就像過去的技術浪潮一樣，人工智能將為世界和人類帶來非凡的增長和機遇，但也會伴之以巨大的破壞和風險（下圖 NIXUS）。與之前技術革命不同的是，人工智能將引發全球力量結構和平衡的重大轉變，因為人工智能的創造者本身就是地緣政治參與者。科技公司在其領域行使著曾經留給民族國家的權力。人工智能加速了大型科技公司在其創建的數字領域實際上已經成為獨立的主權行為者這一趨勢，並將其擴展到數字世界之外。技術的複雜性和發展速度使政府不可能以合理的速度製定相關規則加以監管。故即使七國集團啟動了“廣島人工智能進程”、歐洲議會通過了歐盟人工智能法案草案，聯合國秘書長古特雷斯（Antonio Guterres）呼籲建立一個全球人工智能監管機構，美國兩黨政客均呼籲采取監管行動，但許多人依然同意德州參議員克魯茲(Ted Cruz)的觀點 -- 當討論人工智能立法時，國會都“不知道自己在做什麽”。

人工智能治理的關鍵在於：是利用人工智能來擴大國家力量，還是消除國家力量。如果要全球治理人工智能，就必須超越傳統的國家主權概念，這就要求國際社會重新思考地緣政治秩序。

更快、更高、更強

人工智能的進展速度驚人。2018年，當OpenAI推出其大型語言模型GPT-1時，它有1.17億個參數。五年後的第四代型號GPT-4已經超過了一萬億。今天最先進的人工智能模型，其使用的計算能力是十年前尖端模型的50億倍。未來幾年將推出能夠處理數萬億參數的模型。預計具有超過100萬億參數的“大腦規模”模型 --  大致相當於人腦中突觸的數量 -- 將在五年內可行。

如今，對原始文本的訓練使大型語言模型能夠產生連貫、新穎甚至富有創意的句子，創作音樂或解決科學問題。很快，人工智能開發人員將創建出具有自我改進能力的人工智能係統（下圖3 Medium）。是不是有點兒恐怖/瘋狂？

在OpenAI發布GPT-3三年後，開源團隊已經創建了具有相同性能水平的模型。這些新模型的大小不到GPT-3原型的六十分之一，也就是說，在生產中運行成本比GPT-3低60倍。中端版本的人工智能算法可以在每小時幾美元租金的計算機上運行，很快也將在智能手機上運行。但人工智能算法比實物資產更易複製和共享（或竊取）。如Meta強大的Llama-1大型語言模型在3月份首次亮相後幾天就泄露到了互聯網上。

人工智能的通用性意味著它可以“兩用” -- 既可軍事應用，也可用於民生（下圖 HILAL/RAI）。驅動汽車的係統也可以驅動坦克，為診斷疾病而構建的人工智能應用程序可創建一個新的應用程序，並將其武器化。安全民用和軍事破壞性之間的界限的模糊，一定程度上解釋了為什麽美國限製向中國大陸、俄羅斯、伊朗等國家出口最先進的半導體。因為對手/敵國可利用人工智能來產生和傳播有毒的錯誤信息，侵蝕社會信任和民主；監視、操縱和壓製公民，破壞個人和集體自由；或者製造威脅人類生命。人工智能還可能摧毀數百萬個工作崗位，加劇現有的不平等，並創造新的不平等；通過放大不良信息反饋回路，強化歧視模式並扭曲決策；或者引發意外和無法控製的軍事升級，從而導致戰爭。

與此同時，由於其備漸進式優化特點，人工智能係統正變得更大、更好、更便宜、更普遍，同時更具風險。這時，如何監管人工智能係統將是人類社會的一個巨大挑戰。

一個無法暫停的係統

人工智能是一種全新的力量投射方式 -- 在某些情況下，它既可顛覆現有的權威，亦可幫助鞏固政權。人工智能賦予用戶監視、欺騙甚至控製公民的權力。人工智能將成為國家之間激烈地緣政治競爭的焦點，因為人工智能霸權有助於增強一國的壓製能力、經濟潛力或/和軍事優勢。即使對人工智能最缺乏想象力的國家都知道要投資本土人工智能領先企業，或建造和控製超級計算機及算法。而那些對人工智能很有想法的國家，則傾力培養本國的特定競爭優勢，以獲得人工智能的話語權 -- 法國直接支持人工智能初創公司；英國利用其世界級大學和風險投資生態係統；歐盟則建立關於監管和規範的全球對話。就是世界上每個國家、公司和個人這種對擁有人工智能的饑渴，激勵人工智能不斷演進並勢不可擋（下圖 Bloomberg）。

的確，世界各國都理解人工智能不僅僅是另一種可以帶來聲望、權力或財富的工具或武器，它亦極有可能幫助擁有者在軍事和經濟上獲得顯著優勢。這使得絕大多數國家對它望眼欲穿，卻可望不可及 -- 這些國家既無資金也沒有技術加入人工智能的競爭。即便如此，人工智能霸權的競爭依然非常激烈。因為兩個最重要的人工智能競爭參與國 -- 中國大陸和美國 -- 都將人工智能的發展視為一場零和遊戲，勝者將在未來幾十年擁有決定性的戰略優勢（下圖 SCMP）。據認為美中間的競爭甚至比冷戰時更加嚴峻。因為那時美蘇兩國會合作來減輕彼此的恐懼，確保兩國間軍備競賽穩定平衡。而如今緊張的地緣政治環境使美中間的合作極端困難，如果不是不可能的話。

站在華盛頓和北京的立場，如果對方在人工智能領域獲得優勢將給己方帶來巨大威脅，這種威脅遠遠超過發展人工智能可能給本國社會或政治權威帶來的任何風險。因此，美國和中國大陸政府都在投入巨大資源開發人工智能，同時努力剝奪對方希翼突破現有人工智能技術所需的資源。（迄止目前，美國因其先進半導體的出口管製政策，成功地阻止了中國大陸獲得技術突破所需資源 -- 先進半導體芯片。）而這種零和動態促使北京和華盛頓更加專注於加快人工智能發展，而不是放慢發展速度。對兩國來說， “暫停”本國的開發人工智能以便評估其風險，簡直就是愚蠢的單方麵裁軍。

人工智能監管的挑戰

就監管來說，由於中國大陸科技公司處於嚴格的政府管製之下，大陸政府對人工智能有著相當的控製力。然而在中國大陸以外，如美國，現在控製人工智能技術的方方麵麵的是少數大型專業人工智能公司，而非政府：包括人工智能模型可以做什麽，誰可以訪問人工智能，如何使用人工智能，以及人工智能可以部署在哪裏。這些公司精心地保護自己的算力和算法，並盡力保持其擁有的優勢。不過，由於人工智能的進入門檻低，開源，以及極其低廉的邊際成本，一些規模較小的公司也有機會超越現在的頭部公司，從而可使人工智能以不受控製的擴散。簡言之，政府無法控製人工智能。

這就意味著，至少在未來幾年，人工智能的發展軌跡將在很大程度上由少數私營企業決定，而非布魯塞爾（歐盟）或華盛頓（美國）的政策製定者（下圖 Medium）。換句話說，人工智能技術大佬，而不是政策製定者或官僚，將對一支可能深刻改變民族國家權力及其相互關係的力量行使權力。因此，如何監管人工智能對於政府來說，將極具挑戰性。

如前所述，由於人工智能係統不僅比核武器更容易開發、竊取和複製，它們還由私人公司而不是政府控製。因而，隨著新一代人工智能模型的傳播速度比以往任何時候都快，包括拜登政府在內的各國政府無法阻止這些模型的擴散。但一場不受控製的人工智能競賽可能加劇先進人工智能係統的擴散，進而危及民族國家權威和世界安全。因為人工智能係統可能落入刑事犯罪份子或團體/恐怖份子或團體以及失敗國家手中，並對個人/企業/國家的金融、商業、安全造成傷害（下圖 masaar）。

因此，世界需要一種方法來監管人工智能。鑒於美國和中國大陸在世界人工智能領域研發的舉足輕重地位，華盛頓和北京需要合作來建立起監管係統，防止危險的先進人工智能係統的擴散。即便美國和中國大陸之間的地緣政治競爭加劇、緊張關係，華盛頓和北京可能會發現合作有好處 -- 將從根源上減少，乃至消除人工智能係統的擴散。畢竟，先進的人工智能係統及創新基本源於美中兩國，

華盛頓和北京應致力於創造共同領域，建立防止人工智能係統擴散的護欄，由兩國甚至第三方監管（下圖 Analytics Insight）。監管包括對人工智能輸入的監測和驗證，特別是與計算硬件相關輸入，如先進半導體和數據中心輸入的監測和驗證。以確保人工智能係統不落入恐怖分子/團體和失敗國家手中。

一個強有力的人工智能治理製度將減輕人工智能帶來的社會風險，華盛頓和北京的合作還有可能緩解中美之間的緊張關係。美中合作治理人工智能的成功，還將實現更深刻、更持久的目標：它將為如何應對其他顛覆性新興技術建立一個先例和模式 -- 量子計算、生物技術、納米技術和機器人技術也有可能從根本上重塑世界。美中合作成功治理人工智能也將幫助世界成功治理這些影響人類社會的技術。

* 本文大部內容源自布雷默（Ian Bremmer）與蘇萊曼（Mustafa Suleyman）合著文章 -- 人工智能力量悖論（The AI Power Paradox）。該文刊登在2023年8月的《外交事務》（FOREIGN AFFAIRS）雜誌。

* 本文共同作者之一布雷默（Ian Bremmer）是歐亞集團（Eurasia Group）和GZERO媒體的總裁兼創始人。他著有《危機的力量：三大威脅——以及我們的反應——將如何改變世界》（The Power of Crisis: How Three Threats—and Our Response—Will Change the World）一書。

* 本文另一共同作者蘇萊曼（Mustafa Suleyman）是Inflection AI的首席執行官兼聯合創始人。他是DeepMind的聯合創始人，著有《即將到來的浪潮：技術、力量和二十一世紀最偉大的困境》（The Coming Wave: Technology, Power, and the Twenty-first Century’s Greatest Dilemma）一書。

參考資料  

Bremmer, I. & Suleyman, M. (2023). The AI Power Paradox. FOREIGN AFFAIRS. 鏈接  https://www.foreignaffairs.com/world/artificial-intelligence-power-paradox