奧特曼為AI末日做準備：建地堡、囤武器和黃金

騰訊科技訊 6月28日消息，據國外媒體報道，自從OpenAI在2022年底發布人工智能聊天機器人ChatGPT以來，其首席執行官山姆·奧特曼（Sam Altman）迅速嶄露頭角，成為科技界的明星。OpenAI現已躋身全球估值最高的初創公司之列，而奧特曼本人也在大部分時間裏，作為人工智能未來的代言人，頻繁地穿梭於全球各地，與世界各國政要會麵。那麽，他是如何積累起如此巨大影響力的？

外媒近期上線《智啟：OpenAI的崛起》（Foundering: The OpenAI Story）係列音頻節目，詳盡地探索了奧特曼的崛起之路，以及他如何在這場構建領先人工智能技術的激烈競賽中脫穎而出。同時，節目也觸及了人工智能技術可能給人類生存帶來的威脅，以及一場幾乎顛覆一切的“宮鬥”，這場“宮鬥”曾讓奧特曼陷入絕境，但他最終再次站了起來。

在這些節目中，記者采訪了人工智能領域的多位領軍人物，試圖解讀炒作背後的真相，並深入探索人工智能究竟是改善人類生活的工具，還是潛在的毀滅者。但更重要的是，這也是奧特曼的故事，他是這一切的核心。外媒與奧特曼的朋友、家人和合作夥伴進行了交談，試圖揭開他的神秘麵紗，探究他如何一步步走向權力的中心。

節目總共五集，騰訊科技將陸續推出。

本期為第三集，深入剖析了OpenAI的內部爭議，以及奧特曼作為人工智能英雄的崛起。節目分為兩部分，第一部分（第三集）聚焦於OpenAI的內部衝突和山姆的個人品牌建設；第二部分（第四集）則將更多地關注奧特曼的妹妹安妮·奧特曼（Annie Alman）的生活，以及圍繞貧困和人工智能經濟的辯論。

往期直達

OpenAI崛起大揭秘第一彈：弄權高手，奧特曼靠人脈積累起巨大影響力

OpenAI崛起大揭秘第二彈：馬斯克退出內幕曝光，奧特曼趁機上位

以下為第三集節目文字內容：

01 AI烏托邦：理想與現實的衝突

在夏威夷北岸的蔥鬱叢林中，我們的故事悄然展開。今天，我們將開始一段深入的駕車之旅，穿越茂密的森林，經過雙子瀑布。在這片生機勃勃的土地上，安妮·奧特曼（Annie Altman），山姆·奧特曼的妹妹，坐在乘客座位上，與我們同行。

安妮的生活是一段不斷遷徙的曆程。過去兩年，她一直在尋找一個穩定的安身之所，卻屢屢受挫。從新搭建卻家徒四壁的蝸居，到棲身朋友家的地板，再到陌生人的客廳，她的生活充滿了不確定性。在短短一年內，她竟搬了22次家，有時甚至隻能短暫停留一兩天。她的故事，是對奧特曼故事的重要補充，展現了科技繁榮背後不為人知的一麵。

與此同時，在數千英裏之外的舊金山，她的哥哥奧特曼在2023年度過了輝煌的一年。ChatGPT取得的巨大成功讓OpenAI聲名鵲起，奧特曼本人更是被《時代》雜誌評為年度CEO。他花了幾個月的時間周遊世界，與世界大人物們討論人工智能的未來，自信地預言一個沒有貧窮的烏托邦世界即將到來。奧特曼的言論，充滿了對未來的無限憧憬。他相信，人工智能的發展將為人類帶來前所未有的富足——食物充足，醫保健全，居者有其屋。他的聲音，成為了人工智能時代的號角，引領著人們向著一個更加美好的世界前進。

然而，安妮的生活現實卻與奧特曼的願景形成了鮮明對比。她在無家可歸的邊緣掙紮，而她的哥哥卻在舞台上暢談著技術的無限可能。這種巨大的反差，不禁讓人深思：技術的進步是否真的能夠普惠每一個人？奧特曼所倡導的人工智能烏托邦，是否能夠照進現實？

這是一個關於夢想與現實、技術與人性交織的故事。奧特曼兄妹兩人的生活軌跡，讓我們看到了人工智能時代光與暗的兩麵。隨著ChatGPT的誕生和普及，我們不禁要問：人工智能將如何定義我們的未來？在這個故事中，我們或許能找到一些答案。而安妮的生活，則是對未來最深刻的注腳。這次夏威夷之旅，不僅穿越了叢林，更穿越了現實與理想，技術與生活之間的複雜關係。奧特曼兄妹的故事，是對這個時代最深刻的反思，也是對未來最真摯的探詢。

02 AI革命的理想與現實之辯

隨著OpenAI的成立和發展，它的員工們逐漸感受到他們所研究的人工智能技術的深刻含義。人工智能開始展現出一些連它的創造者也不完全理解的行為，這種不可預知性在團隊中引起了分歧。一些包括奧特曼在內的人認為，全能的計算機智能將為世界帶來積極的影響；而另一些人則擔憂，這種力量可能走向反麵，造成無法挽回的後果。這些願景極端而兩極分化，就像天堂和地獄一樣截然不同。

伴隨著OpenAI內部的分歧，ChatGPT正式發布。這不僅是OpenAI的一個決定性時刻，也是整個人工智能領域的裏程碑。在這段時間裏，人們熱議的兩個預測是：人工智能將讓人類滅絕，或將徹底改變工作的定義。第一個預測引發了激烈的爭議，而第二個預測則相對容易接受——工作將發生改變，經濟必須適應新的局麵。

2021年，大約在OpenAI發布ChatGPT一年半前，OpenAI的技術一直在迅速獲得新的能力。當時，OpenAI正在構建越來越強大的模型，例如GPT-2和GPT-3，它們已經能夠用文本內容進行訓練並產生越來越類似人類的文本輸出。不過，這種快速的進展雖然對奧特曼和OpenAI是有益的，但也讓一些OpenAI的員工感到緊張，甚至是那些高層員工。

時任OpenAI研究副總裁的達裏奧·阿莫迪（Dario Amodei），在Logan Bartlett的播客節目中表達了他的焦慮。他回憶起2018年或2019年第一次看到GPT-2時的感受：“我被嚇到了。這太瘋狂了。這在世界上是前所未有的。”他看著自己在OpenAI幫助構建的模型，感到的是一種恐懼：“我為什麽害怕？這個東西將會非常強大。它可以摧毀我們，如果我們不理解這樣的模型，如果它想製造混亂並摧毀人類或其他什麽，我認為我們基本上沒有辦法阻止它。”

這種不安在2021年達到了頂點，阿莫迪和6位OpenAI的同事一起離開了公司，創辦了競爭對手大語言模型開發公司Anthropic，專注於構建安全的人工智能。他們認為，需要在某個組織內確保這些模型的安全性，這個組織真正地把安全原則從頭到尾地貫徹實施。他們的離開對OpenAI來說是一個重大打擊，投下了一層不信任的陰影，暗示著他們對奧特曼是否能做出正確決策的疑慮。

到了2022年底，OpenAI發布了ChatGPT，但當時並沒有立即引起巨大反響。逐漸地，人們開始嚐試並接受了ChatGPT。人們開始慢慢注意到並討論起這項技術，ChatGPT的關注度隨之日益上升。ChatGPT並非一項徹底的新技術，而是基於已存在的GPT-3.5模型。它之所以引人注目，是因為它以一種創新的方式呈現了人工智能技術--作為一個免費且用戶友好的聊天式人工智能工具。這種工具的交互體驗流暢自然，給人一種與能夠即時創造回答的真人交流的感覺。盡管這些人工智能生成的回答有時需要進一步的核實，但人們仍然對這種新穎的互動方式表現出了極大的興趣和迷戀。

ChatGPT在短短兩個月內就達到了1億用戶，創下了當時最快的用戶增長記錄。相比之下，TikTok用了9個月，Instagram用了2年半才達到同樣的用戶規模。ChatGPT即便在犯錯時也顯得智能，它促使許多人開始思考人工智能將如何改變他們的生活。這項技術立即找到了一些實際應用，人們開始用它來更快地編寫代碼，更流暢地翻譯文件，起草電子郵件。學生們用它來幫助完成家庭作業，盡管這有時也導致了作弊的問題。所有這些興奮和關注對OpenAI來說是一個巨大的推動。

OpenAI的品牌知名度和成功迅速飆升，人們立刻將其視為炙手可熱的人工智能公司，一個人工智能領域的領導者。同時，奧特曼的公眾形象也隨之水漲船高，人工智能成為了2023年的熱門話題，而奧特曼則是其中的主角，他成為了家喻戶曉的名人。整個科技行業和投資者都迫切希望向人工智能公司投入資金，廣告牌上宣傳的都是新的人工智能初創公司。ChatGPT的熱潮不僅讓各類人士對尖端人工智能技術產生了興趣和認識，還激發了一小部分長期關注人工智能的人的擔憂，他們認為人工智能將變得越來越強大，最終可能會失控並威脅到我們，我們必須想辦法從人工智能手中拯救人類。

03 人工智能安全漸成主流

在離開OpenAI並創立Anthropic之前，達裏奧就表達過他對人工智能毀滅世界的恐懼，這聽起來可能有些荒謬，但對許多人來說卻是極其嚴肅的問題。在矽穀，認為人工智能可能很快會毀滅我們的亞文化，正在不斷增長並變得越來越有影響力。這些想法現在是人工智能領域的重要動力，許多從事人工智能工作的科技人員感到他們正在從事對人類來說可能最為重大的事情，關乎整個星球的生死存亡。這種信念影響了數十億美元資金的流向，決定了哪些問題得到解決，哪些問題被忽視。

ChatGPT讓這些擔憂進入了公眾意識。一項英國的調查顯示，在ChatGPT發布後的一年裏，認為人工智能可能是人類滅絕的主要原因的人數翻了一番多。需要明確的是，這種觀點存在很大的爭議，即使在矽穀，許多人也認為人工智能毀滅論是一種宗教意識形態，但也有很多人對此深信不疑。

科技界人士Chiau Yuen已被一種日益增長的信念所說服：人工智能有朝一日或許會威脅到人類的生存。他之所以會有這樣的想法，源於閱讀了頗具影響力的AI末日預言者Elezar Owski所撰寫的作品，這些文字讓他深信，一個由超級智能人工智能主導的未來，可能很快就會到來。

“我意識到，這一切正在發生，我們正逐步逼近那個時刻，它可能在我的有生之年，甚至在我退休之前就會降臨，”Chiau Yuen如此說道。基於這種信念，他做出了一個深思熟慮的決定：不再為自己設立退休賬戶。對於那些認為這愚蠢的人，Chiau有著自己的見解：“我真心認為，到了我退休之時，金錢將失去它的價值。到那時，世界可能已經變得麵目全非，我們或許已經不複存在，或者生活在一個難以想象的後奇點時代。到那時，金錢和傳統價值觀都變得無關緊要。”奇點是指機器人變得比人類更聰明的那個時刻。

對Chiau來說，這不僅僅是跳過退休賬戶那麽簡單。一旦他真正開始相信這一點，他生活中的其他事情似乎就不再重要了。他退出了數學博士項目，5年的學習後，他開始疏遠老朋友，他認為他們沒有理解形勢的嚴重性。Chiau說：“這仿佛我內心深處的一個黑洞，悄然改變著我對事物重要性的認知。越是深究，越覺得其他一切都微不足道。我開始意識到，除了這個問題，其他所有事情都無足輕重了。或許，這才是唯一值得關注的重大問題。”

這聽起來可能令人感到恐懼、偏激，甚至荒誕。但是，如果同人工智能領域的專家以及矽穀的人士深入交流，就會發現這種觀點並不鮮見。有時它以低聲細語的形式出現，有時則被公開大聲討論。他們可能會用到人工智能安全、人工智能一致性或人工智能存在風險等專業術語。但歸根結底，他們關注的是同一個核心問題。

在人工智能界，許多有影響力的人物堅信，20年後的世界將與今天截然不同。一些人預期它將帶來前所未有的美好，而另一些人則擔憂它可能帶來的災難。他們認為，我們應當投身於避免人工智能走向災難性結局的事業中。這種信念，正驅動著他們致力於確保人工智能的未來發展是安全和可控的。

在過去的5到10年間，眾多知名且富有的科技界人士紛紛將資金投入到這一新興領域。Facebook的聯合創始人達斯汀·莫斯科維茨（Dustin Moskovitz），以及加密貨幣領域的爭議人物山姆·班克曼-弗裏德（Sam Bankman-Fried），都已承諾向人工智能安全項目投入數億美元。科技界的領軍人物們簽署了公開聲明，警示人工智能可能給人類文明帶來的風險。Chiau和他的同仁們認為，讓更廣泛的人群認識到這一威脅至關重要，他們像傳教士一樣，在各種活動中不遺餘力地傳播關於人工智能的啟示。起初持懷疑態度的人們，在經過一番深入討論後，要麽被徹底說服，要麽感到深深的恐懼。

Chiau還表示：“這實在是一個令人恐懼的念頭。想象一下，如果十年內所有人都不複存在，那是多麽可怕的前景。在心理上，如果有人真的讓你認真考慮這種可能性，這似乎是一種自我保護。雖然一開始覺得這太荒謬，怎麽可能發生？但如果有人花了四個小時，極其認真地向你闡述，'假如這是真的呢？'那種恐懼感便油然而生。這時，你會不禁自問，那我該怎麽辦呢？”

Chiau在致力於人工智能安全的組織中工作，並且主動參與理性研討會，試圖激發更多年輕人對人工智能安全的興趣和投入。在他們看來，當談論到什麽處於危險之中時，這關乎的是我們整個銀河係的存亡。這是一個觀點，即目前最重要的任務是確保人工智能的未來發展是安全和可控的。然而，也有一些極其聰明的人，包括學者和研究人員，他們認為這種對人工智能末日的狂熱既令人沮喪又具有誤導性，比如專注於計算語言學的艾米麗·本德爾（Emily Bender）和麥克（Mic）。他們認為，這種狂熱是一種幹擾，因為現實世界中正在發生著各種切實的傷害，包括勞動力剝削、數據盜竊、歧視和霸淩等。我們越是沉迷於那些令人興奮的、動作電影般的幻想風險，我們就越少有時間和資源去真正解決和處理當前正在發生的實際傷害。

04 AI時代個人英雄主義的雙刃劍

艾米麗及其他專家警告，關於人工智能末日的討論，其實是一種巨大的幹擾，它就像一個不斷閃爍的警報器，尖叫著世界末日的來臨，攫取了所有的注意力。這種恐慌讓我們輕易忽視了當前人工智能技術所帶來的實際問題，例如刑事司法係統中人工智能的種族偏見、非法使用藝術家的版權作品來訓練模型等。更不用說，這些技術的監控應用，如何被過度用於監管社區，以及麵部識別技術在識別深色皮膚女性時的不準確性。在穀歌上搜索“黑人女孩”，出現的往往是不雅內容。我們尋找和信任可靠信息的能力受到威脅，這些問題涉及公共衛生、民主等多個領域，一個接著一個。

艾米麗提醒我們，這些都是迫在眉睫的問題，人工智能正在以這些方式傷害著人們。然而，我們卻在浪費時間討論那些幻想中的場景，僅僅因為一些富人開始關注它們。同時，人工智能末日的狂熱也被視為另一種人工智能炒作。如果這些係統真的如此強大，以至於可能毀滅世界，那麽它們必然非常強大。這種炒作是關鍵，因為它讓超級強大的人工智能係統對投資者和員工都充滿了吸引力。艾米麗認為，關於人工智能末日論的信念不僅有害，而且具有誤導性。盡管如此，她也承認，許多關心人工智能安全的人是出於真誠的動機，這是一些人真正的信仰。那些深陷這些信念的人，相信自己是故事中的英雄，將要努力阻止超級智能人工智能接管世界的局麵。這種信念是真誠的，盡管可能有些錯位。

艾米麗在這裏觸及了一個真實的問題：成為英雄的衝動，已成為人工智能行業的驅動力之一。Chiau再次提到了這種非常男性化的願望，渴望成為英雄。大多數人在任何有意義的層麵上都沒有機會成為英雄。這種想法不僅僅是“如果我能成為英雄”，而是“如果我能通過我的智慧成為英雄”。對一些人而言，這可能很難自我承認，因為這聽起來顯得他們有些不成熟。

Chiau直言不諱地指出了許多人在這個領域的動機：他們希望感到自己很重要，他們的工作在宇宙中具有重大意義。人們希望感到自己的生活有所作為，這是巨大的吸引力之一，比如“如果這是人類曆史上最重要的時代，我們現在的選擇將影響未來”。那些在社交媒體X上開始深入投入這些議題的人會使用非常誇張的語言，“我們將要征服星辰！”“我們將要創造銀河文明！”有些人可能認為這些誇張的說法是在開玩笑，但這的確是他們的信仰。他們真誠地相信，由於我們在用人工智能建造東西，這是人類曆史上最重要的時代。

奧特曼在一次又一次的個人演講中傳遞著一個信息：我們正在研究的人工智能將具有劃時代的意義。在接受外媒的采訪時，奧特曼強調了人類當前麵臨的機遇，認為這種機遇是幾個世紀難得一遇的。他認為，人類有機會重新構建社會經濟契約，確保每個人都能被納入這個體係，成為贏家；同時避免在這個過程中自我毀滅。他談到了創造超越人類能力的人工智能意味著什麽，這對我們的人性、未來世界的模樣，以及人類在那個世界中的地位將產生怎樣的影響。他質疑這個強大的技術將如何公平地被分享，人類如何確保不是隻有少數在舊金山的人做出決策並收獲所有的好處。在奧特曼的願景中，他正在建造的人工智能將重塑人類世界、人性、以及社會契約。他的話語中流露出英雄主義的色彩，這與艾米麗和Chiau所指出的不謀而合。

05 奧特曼私下為末日做足準備

在美國科技圈，像奧特曼這樣自認為足夠聰明、能夠解決重大問題的人並不罕見。比如那些計劃在舊金山附近建造一座新型城市的科技億萬富翁，或是認為自己發明了更優金融係統的數字加密貨幣產業。奧特曼可能也自視為一位英雄，他理解一個引人入勝的故事所能帶來的激勵力量。2019年，他甚至聘請了一位小說家為OpenAI撰寫科幻短篇小說。這位小說家名叫帕特裏克·豪斯（Patrick House），一位神經科學家兼作家。盡管他不確定OpenAI是否仍在使用他的作品，但這表明了他們認識到故事的價值。

奧特曼顯然受到了某些類型小說的影響，許多創業公司都是由故事驅動的，這些故事通常源自科幻小說。一個強有力的故事能夠激勵員工更加努力地工作。在舊金山這樣一個世俗化的城市，如何激勵人們投身於可能避免世界末日的事業？或許可以通過提供一個基礎文件和一個啟示錄式的神話，告訴他們正在努力避免災難的來臨。這種敘事方式是曆史上眾所周知的激勵手段。所有這些都讓我們懷疑，奧特曼是否真的相信人工智能可能會毀滅人類。

實際上，奧特曼對於人工智能的看法在多年中經曆了顯著的變化。2015年，他曾明確地表達過自己的憂慮，認為高級人工智能可能成為人類持續存在的最大威脅。在早期的談話中，他曾以一種輕佻的語氣提到，人工智能有可能導致世界的終結。這種態度在《紐約客》的一篇人物介紹中得到了體現，奧特曼在其中被描繪為一個末日準備者。

他向《紐約客》記者透露，自己已經儲備了槍支、黃金、彈藥、抗生素，以及以色列國防軍的防毒麵具。他還提到在美國加州大瑟爾（Big Sir）擁有一片土地，確保自己在世界末日時可以避難。對於那些熟悉大瑟爾的人來說，這聽起來頗為諷刺，因為那裏的土地實際上正在經曆嚴重的侵蝕，導致岩石滑落、道路封閉，以及食物和物資供應的困難。這似乎是一個不穩定的地點，與末日地堡的理想之地相去甚遠。

當外媒對此提出質疑時，奧特曼試圖輕描淡寫，稱這不過是出於一種娛樂，滿足了他對小男孩生存幻想的渴望。在那些年之後，奧特曼明顯地避免提及大瑟爾的財產或他的槍支儲備。他的妹妹安妮表示，盡管她未曾見過那個地方，但這符合她對奧特曼的了解——一個極度注重安全、準備在最壞情況下囤積資源的人。可以推測，奧特曼確實擁有這些儲備，隻是選擇不再公開討論它們。

奧特曼的這些行為和言論，不僅揭示了他對人工智能潛在風險的深刻認識，也反映出一種深層的生存本能和對未來不確定性的個人準備。盡管他的觀點隨著時間的推移而發生了變化，但他對人工智能技術可能帶來的深遠影響的擔憂始終如一。在公眾麵前，奧特曼可能更多地聚焦於人工智能的積極潛力和它對社會的積極變革。但他個人對潛在風險的警覺和準備，卻從未放鬆。

奧特曼以其獨到的洞察力和遠見卓識，幫助建立了全球領先的人工智能公司，隨著公司聲望的日益提升，他個人的知名度也隨之水漲船高。他逐漸放棄了那些關於人工智能可能毀滅人類的極端言論，轉而以更加審慎的態度探討社會將如何被人工智能深刻改變，並樂觀地預測這種變化總體上將導向積極的未來發展。

自從奧特曼因推出創新的ChatGPT技術而聲名鵲起後，他開始將自己和OpenAI塑造成一種更為中立、理性的形象。盡管他的觀點似乎隨著時間和環境的變化而發生了轉變，但一些人在私下裏表達了對奧特曼的不滿，他們認為奧特曼有時會根據聽眾的期待來說出他們想聽的話。如果表現得更為溫和，能夠幫助他獲得更多的支持和認同，他就會相應地調整自己的言辭。

奧特曼深知一個引人入勝的啟示錄式故事所具有的強大影響力。我們往往更容易被那些戲劇性的恐懼所吸引，而忽視了那些緩慢而持續的風險。在2015年的Airbnb會議上，奧特曼以核能為例進行了深入的討論，這個例子同樣適用於人工智能的風險評估。我們可以從他的語氣中感受到一種自信，甚至是一絲傲慢，他似乎在指出自己對那些其他人忽視的合理事物的認識。他強調，人們通常對於戲劇性的極端風險更為敏感，而對於漸進的風險往往估計不足。

奧特曼指出，核能實際上更安全，其安全性遠超煤炭數千甚至數萬倍。然而，大多數人仍然更願意選擇生活在煤炭發電廠附近，而非核電廠。他們寧願在三十年後因肺癌而去世，也不願意麵對核災難的戲劇性死亡。這種對風險的誤判是人類的常態，人類往往低估了那些緩慢而持續的問題，如錯誤信息、種族偏見，而高估了那些可能帶來巨大衝擊但發生概率較低的戲劇性事件。

或許，正是因為這種對戲劇性災難的偏好，人工智能行業一直在向我們講述著各種災難性的故事。奧特曼的雙麵人格，一方麵展現出人工智能技術帶來的無限輝煌，另一方麵也透露出他對這一技術潛在風險的深刻認識和隱憂。