強大到"比核彈還糟糕"的AI:Mythos拉響網絡警報

​​​​​​​

本月，Anthropic公司向世界宣布，它已構建了一個強大到“太危險而無法廣泛發布”的人工智能模型，並點名了11家合作夥伴來幫助構建防禦體係。

這11家機構全部來自美國。

不到兩周時間，這個名為Mythos的模型就引發了人工智能時代前所未有的全球爭奪。Anthropic表示，Mythos擁有驚人的能力，能夠發現並利用全球銀行、電網和政府所依賴軟件中的隱藏漏洞。它迅速成為一個地緣政治籌碼——而握有這張牌的，是一家美國公司。

各國領導人都在努力評估這一安全風險的嚴重程度以及如何應對。目前，除了美國之外，Anthropic隻與英國分享了Mythos。英國央行行長公開警告稱，Anthropic可能已經找到了一種“把整個網絡風險世界撕開”的方法。歐洲央行已開始私底下詢問各銀行的防禦情況。加拿大財政部長則將這一威脅比作霍爾木茲海峽被關閉。

對於中國和俄羅斯等美國對手而言，Mythos凸顯了在人工智能競賽中落後的嚴重安全後果。一家親克裏姆林宮的俄羅斯媒體稱該模型“比核彈還糟糕”。

這些反應印證了人工智能研究者長期以來主要在理論層麵提出的警告：誰在構建最強大人工智能模型的競賽中領先，誰就將獲得巨大的地緣政治優勢。重大的人工智能突破正在越來越不像產品發布，而更像武器試驗。大多數國家都希望了解這些技術如何運作，以及需要什麽樣的防護措施。

隨著基礎人工智能“模型的影響力越來越大，對這些模型的取用權限也越來越具有地緣政治意義”，阿根廷前央行首席經濟學家、現任美洲開發銀行增長與人工智能區域顧問愛德華多·萊維·耶亞蒂表示。“我認為這一事件是一次政策上的警鍾。各國政府不能再忽視這個問題了。”

即使是與Anthropic在人工智能軍事應用問題上存在衝突的美國政府也注意到了Mythos。上周五，在特朗普政府內部有人得知新模型可能對計算機係統造成嚴重破壞後，Anthropic首席執行官達裏奧·阿莫迪與白宮官員進行了會麵。

Anthropic首席執行官達裏奧·阿莫代伊周五與白宮官員進行了一場“富有成效”的會談。

總部位於舊金山的Anthropic公司告訴《紐約時報》，由於安全和安保方麵的擔憂，它將對Mythos的訪問權限控製在很小範圍內。公司目前重點與40多家為互聯網、電網等全球關鍵基礎設施提供技術的組織分享模型。Anthropic公布了其中11家機構的名單，包括亞馬遜、蘋果和微軟，它們承諾幫助開發針對模型發現的漏洞的安全修複方案。

該公司表示，目前沒有短時間內放開大範圍訪問權限的時間表，但將與美國政府和行業夥伴共同決定下一步行動。它還提到，自己已接到來自各國政府、企業和其他組織的密集來電，尋求獲取模型或相關信息，但這些組織不一定具備對人工智能模型進行安全地評估的專業能力。

Anthropic補充稱，它預計其他機構將在至少18個月內更廣泛地發布具有類似網絡能力的人工智能模型，留給各國組織修補必要安全漏洞的時間非常有限。

周二，Anthropic表示正在調查一則未經授權用戶獲取Mythos某一版本的報告。

Mythos引發的爭奪發生在國際人工智能合作極度匱乏的時刻。各國政府在相互猜疑中注視著對方，而企業則在競相超越對手。目前還沒有類似於《核不擴散條約》的機製，沒有共同的檢查製度，也沒有就如何處理類似Mythos的情況達成一致規則。

當Anthropic宣布該模型時，許多專家讚揚了公司在限製測試對象方麵的謹慎態度，但同時對缺乏國際協調來應對風險表示擔憂。

英國是美國以外唯一獲得訪問權限的國家。其政府支持的人工智能安全研究所對Mythos進行了測試，並於上周發布了一份獨立評估報告，證實該模型能夠執行此前任何人工智能模型都無法完成的複雜網絡攻擊。

“這代表了人工智能網絡能力的升級，”英國人工智能與在線安全部長卡尼什卡·納拉揚上周在社交媒體上表示，並稱該國正在采取措施保護“關鍵國家基礎設施”。

其他國家獲得的信息則少得多。歐盟執行機構歐洲委員會的一名官員表示，自Mythos發布以來，歐盟已與Anthropic至少會麵三次。但由於雙方尚未就如何向委員會提供模型達成協議，該公司尚未給予訪問權限。

自Mythos發布以來，歐盟執行機構歐盟委員會已與Anthropic至少會麵三次。

歐洲委員會在一份聲明中表示，正在“評估Mythos可能產生的影響”，並稱該模型“展現了前所未有的網絡能力”。

德國聯邦信息安全局局長克勞迪婭·普拉特納表示，該機構尚未獲得Mythos的訪問權限，但她最近在舊金山與Anthropic員工會麵，獲得了“有意義的洞見”。她在一份聲明中稱，這些能力指向“網絡威脅性質的範式轉變”。

在美國對手中，反應相對低調。盡管Anthropic最近與特朗普政府存在衝突，但阿莫迪已明確表示，人工智能應當用於保衛美國和其他民主國家，並擊敗專製對手。

北京和莫斯科均未就Mythos發表重大公開聲明。據研究中國科技界的分析師稱，中國國內的研究人員和更廣泛的人工智能社區一直在密切關注這一事件。中國許多銀行、能源企業和政府機構所使用的軟件，正是Mythos發現存在漏洞的那些軟件——但目前，它們沒有資格參與。

杭州的阿裏巴巴創新園區。在中國國內，研究人員和更廣泛的人工智能社區一直密切關注著Mythos。

“對中國來說，我認為這是繼ChatGPT之後的第二次警鍾，”卡內基國際和平基金會高級研究員馬特·希恩表示。他補充說，美國阻止中國獲得用於構建先進人工智能係統的最尖端半導體，這一政策正在幫助美國擴大領先優勢。

喬治·華盛頓大學政治學教授傑弗裏·丁（音）表示，一些中國人工智能研究者私下表達了擔憂，認為中國可能會進一步落後，錯失率先構建基礎模型所帶來的優勢。

中國駐華盛頓大使館發言人劉鵬宇表示，中國對Mythos的具體細節並不熟悉，但支持和平、安全、開放的網絡空間。

Mythos是全球人工智能鴻溝日益擴大的最新跡象。耶亞蒂表示，那些缺乏強大計算基礎設施和人工智能模型的國家，可能會越來越依賴Anthropic、穀歌和OpenAI等公司，同時對這些產品的設計和防護方式幾乎沒有話語權。

“一家公司可以單方麵根據不透明且無法上訴的標準來限製對前沿人工智能的訪問，這種情況本身就應該引起真正的擔憂，”他說道。