站在一列高速列車前，大喊著讓它減速，這需要很大的勇氣。這正是領先的人工智能實驗室Anthropic首席執行官達裏奧·阿莫迪剛剛做過的事情。
Anthropic擁有世界上最強大的人工智能模型。它很可能擁有資本主義曆史上最快的收入增長速度。它的領先優勢還將擴大，因為它可能最接近“遞歸自我改進”（人工智能自主創建更強大版本的時刻）的起飛點。然而，就在周六，阿莫迪發表了一篇文章，呼籲放緩人工智能的發展。他宣稱，遞歸自我改進“必須非常謹慎地推進，如果真要推進的話”。
很難想出還有哪位首席執行官做過如此有膽量的事情——尤其是一位同時還在籌劃轟動性首次公開募股的首席執行官。他勇於直麵重大問題，理應獲得充分的讚譽。但這並不等於說他已經找到了解決方案。
阿莫迪表達了他以及Anthropic內部智囊團的擔憂：人工智能智能體“集群”可能會在未來六到12個月內具備“接管整個互聯網”的能力。他擔心，如果沒有先進安全護欄，“破壞的規模將持續擴大。”
因此，他提出了“步調控製”——放緩人工智能能力的提升，讓人工智能安全能夠跟上。作為第一步，Anthropic將向外部專家授予永久訪問證和係統權限。這些常駐評估者將監控Anthropic的安全實踐，並向公眾報告相關事件。
此前，業界曾拒絕過放緩或暫停人工智能發展的呼籲。而這一次，由於該技術令人擔憂的進展，三位競爭對手公司的人工智能高管——薩姆·奧特曼、埃隆·馬斯克和傑米斯·哈薩比斯——都對阿莫迪的文章表示讚賞；奧特曼還表示，他將效仿阿莫迪的做法，在其公司OpenAI內部引入常駐評估者。
過去，人工智能實驗室不知道在暫停期間該做些什麽。如今它們改變了立場，是因為現在他們有了一份長長的待辦事項清單。
如果各實驗室在操作細節上更加謹慎，最近發生的許多人工智能安全事件本是可以避免的。在今年夏天已知連續發生的五起事故中，有三起涉及所謂的“沙盒”配置錯誤——沙盒是一種受控的數字測試環境，人工智能智能體本來是不應該能夠從中逃脫的。
為了消除這些故障，實驗室需要加強對實驗模型的隔離，從訓練數據中清除那些會誘導模型產生不良行為的內容，並修複無數其他的協議。“在技術複雜且安全至關重要的係統中，成百上千萬次運行而未出任何差錯是有先例的——例如商用飛機，”阿莫迪在他的文章中寫到。“但這需要時間才能做好。”
Anthropic一些競爭對手的高管——尤其是芯片設計公司英偉達的老板黃仁勳——隱晦地指責阿莫迪出於商業原因誇大了人工智能的風險。黃仁勳在沒有點名阿莫代先生的情況下稱，通過宣布人工智能具有危險性，阿莫迪實際上隻是在吹噓人工智能十分強大。在黃仁勳看來，呼籲安全隻是一種營銷伎倆。
但包括學術專家、備受推崇的英國政府人工智能安全研究所、最近關於失控的人工智能代理黑客攻擊Hugging Face網站的獨立報告在內，公正的權威機構都支持阿莫迪關於人工智能風險是真實存在的觀點。黃仁勳希望自己的公司能售出更多支持人工智能的芯片，因此他所持的立場才是完全符合其公司經濟利益的。
黃仁勳主張的一種變體認為，阿莫迪正在大肆渲染人工智能風險，以確保政府實施監管，而這是一種壓製競爭對手並鞏固Anthropic領先地位的冷酷伎倆。但這種“監管俘獲”的說法也是本末倒置的。懷疑競爭對手可能會因監管而遭受損失的最大原因，是它們通常更加危險。許多公司生產“開放權重”的人工智能模型，這些模型允許用戶移除安全護欄。
對阿莫代先生提議的合理批評在於，這一提議不會帶來他所希望的人工智能發展放緩。他將常駐評估者作為邁向協同步調控製的一步：如果民主國家的所有實驗室都接受這些評估者，他們就可以驗證，是否存在投機者采取不負責任的捷徑。
但尚不清楚是否所有或大多數實驗室都會效仿Anthropic的做法——或者，即使他們這樣做了，評估者是否會有所幫助。穀歌子公司DeepMind此前曾邀請獨立評估者監督其在基於人工智能的健康產品方麵的工作。為了急於彰顯公信力，這些評估者誇大了DeepMind的缺點，直到穀歌解雇了他們。
公平地說，阿莫迪提議引入評估者，是因為國會不太可能迅速采取行動，建立一個迫使實驗室負責任地行事的政府監管機構，而這本是實現協同步調控製最明顯的途徑。但他隻是簡要地提到了另一種可能證明有用的協調機製：一個由行業資助但受到政府認可的自律機構，正如DeepMind主席哈薩比斯在兩個月前所提議的那樣。
美國的人工智能巨頭應該立即建立這樣一個機構。政府可以通過確保將此類行業協調可能引發的反壟斷擔憂降至最低或予以豁免來提供幫助。
然而，即使這樣也是不夠的。針對任何人工智能發展減速的提議，更廣泛的協調難題都在於中國。“民主國家內部的減速節奏將受限於美國企業領先威權政權——主要是中國共產黨——的幅度，”阿莫迪寫道。鑒於美國對中國的領先優勢隻有幾個月，阿莫迪的意思是，西方的放緩必須是適度的。但他也表示，為了更安全地發展人工智能，可能還需要一到兩年的緩衝期。
如何在不落後於中國的情況下為安全爭取更多時間？在這裏，阿莫迪重申了他的觀點：應該拒絕向中國提供人工智能進步的工具。美國應收緊對芯片及芯片製造設備的出口管製。應該打擊“蒸餾”（使用高級模型來訓練新模型的做法），因為中國正不擇手段地使用這種捷徑。應該加強西方實驗室的安全性，以阻止中國竊取人工智能機密。這些措施可以擴大西方在人工智能領域的領先地位，從而使放緩步調成為可能。
這一策略早已付諸實踐，但結果並不令人鼓舞。拜登政府在2022年對中國實施了芯片出口管製；一段時間以來，漏洞一直很明顯，但無論是拜登團隊還是特朗普團隊都未能充分堵住這些漏洞以遏製中國的進步。
與此同時，西方前沿實驗室有巨大的動力來防止蒸餾並防範其知識產權被竊取。如果它們尚未取得成功，那可能是因為它們不知道該怎麽做。盡管美國竭力阻礙中國的人工智能產業，但在美國的人工智能使用量中，中國模型的占比卻在不斷增長。
除了壓製中國之外，另一種選擇是讓中國成為安全與發展節奏方麵的合作夥伴。在此之前，阿莫迪一直支持美國外交政策的共識，即與中國談判達成人工智能協議幾乎是不可能的。因此，他文章中最重要的一部分也許是最後一部分，在這一部分中，他似乎軟化了自己的立場。他避免點名批評中國的技術威權主義和對少數民族的壓迫，並列出了一係列可能進行合作的領域。在冷戰期間，美國與蘇聯進行了激烈的競爭。但這並未阻止他們達成軍備控製協議。
特朗普總統計劃於9月24日會見中國領導人習近平。預計這次峰會在人工智能外交方麵成果有限，但好消息是，兩國領導人可能在今年年底前再會麵兩次。超級大國在防止超越人類的人工智能模型造成嚴重破壞方麵有著共同的利益，中國領導人清楚地認識到了這一點。無論美中協調有多麽困難，不協調的後果都使得嚐試協調成為必要。
美中關係的冰冷狀態正是導致放緩人工智能發展變得如此難以實現的原因。隻有當特朗普政府以及像阿莫迪這樣的科技領袖全力支持與北京舉行人工智能談判時，這項技術的積極潛力才能得以實現。
