劃重點
1.在過去幾年裏，奧特曼已經成為人工智能領域的領跑者。奧特曼的影響力和權力在不斷擴大，他如今是七家公司的董事會成員，被《時代》雜誌評為100位最具影響力人物之一。
2.奧特曼與馬斯克共同創辦了OpenAI，尋求“以最有可能造福全人類的方式推進數字智能”的發展。但兩人如今似乎已經漸行漸遠，甚至在人工智能的未來發展方向上走向對立。
3.除了人工智能，奧特曼還將自己的個人財富投入到開發無限清潔能源和延緩衰老的療法中。他在九年中進行了400多筆投資，特別鍾情於支持那些“人們懷疑完全無法構建的技術”。奧特曼迄今為止最昂貴的科技投資是可控核聚變能源，斥資3.75億美元試圖盡快將該技術推向市場。
4.許多人開始以警惕的眼光審視奧特曼及其項目，他們譴責OpenAI拒絕與研究界分享其訓練數據。有些離職的員工懷疑將其技術推向市場以賺取利潤是否合乎道德，因為這可能會導致嚴重的潛在技術濫用。
5.奧特曼也擔心合成病毒或核戰會導致世界末日，為此他儲存了槍支、黃金、電池、水以及防毒麵具等生存物資。他還懷疑所謂的奇點，認為人類與機器融合可以幫助人類避免權力鬥爭。
6.當被詢問試著準確地描述普通美國人的生活將如何因他正在開發的技術而改變時，奧特曼隻給出了幾個概括性的說法。他承認未來充滿了不確定性，能夠自行變得更聰明的機器“可能是對人類持續生存的最大威脅”。
騰訊科技訊 人工智能研究公司OpenAI正因其語言模型和聊天機器人爆火而受到關注，作為該公司的聯合創始人兼首席執行官，薩姆·奧特曼也開始被視為人工智能領域的領跑者。奧特曼或許已經贏得了矽穀的支持，但現在他麵臨著一項更艱巨的任務，那就是向全世界推銷他的科技夢想。
在這個過程中，許多人開始用警惕的眼光審視他，擔心其暢想的未來願景會變成末日噩夢。奧特曼曾與矽穀天使投資人彼得·蒂爾下過棋，與特斯拉首席執行官埃隆·馬斯克吵過架，據說還曾阻止過一場飛機失事空難。在他的世界裏，現實似乎比小說顯得更顯得光怪陸離。
在美國舊金山北麵的山上，有一棟被爬滿藤蔓的混凝土牆與街道隔開的房子，它的內部有健身中心和個帶有007風格的車庫。很多時候，科技大咖們都喜歡聚集在這裏，暢想未來。這裏就是OpenAI首席執行官薩姆·奧特曼的家，現在很多人將這裏視為新技術、新公司的培養皿。
最近，20多名加密貨幣愛好者湧入奧特曼的大客廳，後者正在介紹其身份驗證初創公司Worldcoin的最新進展。這家公司希望通過用西瓜大小的銀色球體掃描眼球，為世界上的每個人都創建專有注冊表。按照奧特曼的設想，數十億人最終將使用這些獨特的數字身份來領取全民基本收入。
在一張桌子上，一台Worldcoin的鍍鉻設備被拆開展示，它的機械內髒暴漏在所有人的目光之下。投資者和奧特曼的朋友們凝視著另一個球體的長焦鏡頭。隻需輕輕點擊，他們的身份就被錄入係統中。
兩年前，當Worldcoin問世時，批評人士將其視為反烏托邦式的噩夢。美國泄密者愛德華·斯諾登在推特上寫道：“人體不是打孔機。”那天晚上，當Worldcoin向投資者和朋友介紹該公司即將發布的產品時，奧特曼承認未來充滿了不確定性。但他肯定地說：“在某些時候，你確實需要開始與現實接觸。”
然而，對奧特曼來說的現實，在其他人眼中卻可能是噩夢。在過去的幾年裏，奧特曼已經成為開發人工智能技術的領跑者。2015年，奧特曼和埃隆·馬斯克聯合創辦了非營利性研究機構OpenAI，其使命是“以最有可能造福全人類的方式推進數字智能的發展，而不受產生經濟回報需求的限製”。但為了將人類從人工智能手中拯救出來，他們首先必須建造人工智能。
奧特曼曾是初創企業孵化器Y Combinator的總裁，他似乎是個特別值得信賴的守護者。他將自己的個人財富投入到致力於開發無限清潔能源和旨在延緩衰老最嚴重影響療法的公司中。今年3月，當矽穀銀行倒閉讓許多初創公司擔心無法支付工資時，奧特曼向許多急需資金的公司提供了無息貸款。
從奧特曼那裏籌集資金的初創公司Rewind AI首席執行官丹·西羅克說：“在這個充滿了殘酷、交易和唯利是圖的人的世界裏，奧特曼是真正的傳教士之一。”如果說馬斯克是矽穀的領軍人物，那麽奧特曼就是矽穀的理想主義者。
01 “這是奧特曼的世界，我們都生活在其中”
在過去的幾年裏，奧特曼的影響力和權力不斷擴大。他是七家公司的董事會成員，其中包括一家迷幻藥初創公司和兩家核能實驗室。OpenAI聊天機器人ChatGPT的成功引發了媒體熱議，奧特曼也被《時代》雜誌評為100位最具影響力人物之一。
然而，有些人已經開始用警惕的眼光審視這位科技夢想家。2019年，OpenAI轉型成為“有上限利潤限製”的營利性實體，該公司認為它需要吸引更多資本來推進其使命。OpenAI開始向其他企業出售語言模型，馬斯克現在稱此舉背叛了公司的創始原則。馬斯克已經於2018年辭職，並宣布將創辦自己的競爭公司。
人們譴責OpenAI拒絕與研究界分享其訓練數據，認為外部審計將確保其模型按預期工作，不會出現偏見。其他人，包括許多已經離職的員工，懷疑將其技術推向市場以賺取利潤是否合乎道德，因為這可能會導致嚴重的潛在技術濫用。就連奧特曼本人也承認，發生災難的可能性很大。他在接受采訪時稱：“我認為，如果一點都不感到害怕，那是瘋狂的，我同情那些知道畏懼的人。”
盡管全世界都在瘋狂地爭論OpenAI是會引領下一次工業革命，還是會帶來世界末日時，奧特曼似乎依然保持著冷靜。他說：“我認為我們可以擁有一個更加美好的世界，但有幾件事需要去做。我喜歡這種有所作為的感覺。”
有些批評者認為奧特曼的鎮定、自信是狂妄自大的表現。在最近接受采訪時，科技專欄作家卡拉·斯威舍將奧特曼比作伊卡洛斯(Icarus，希臘神話中的蠟翼人，因飛得離太陽過近導致羽翼融化跌落而死)，奧特曼承認自己確實“在搞些我們不完全理解的東西”。然而，他堅決認為恐懼不應該阻礙人類的進步。
知名科技開發者裏克·伯頓說：“這是奧特曼的世界，我們都生活在其中。”然而，這引發了一個問題：這是我們想要的世界嗎？
奧特曼在矽穀的人氣很旺。他和億萬富翁彼得·蒂爾下過棋，主持過投資家基思·拉博伊斯在聖巴茨舉行的婚禮，與支付平台Stripe聯合創始人約翰·科裏森交換過飛行經驗，還和著名個人風險投資家拉奇·格羅姆約會過，當時後者正與奧特曼探討高達九位數的投資交易。
2017年，當熱門電子郵件應用程序Superhuman的創始人兼首席執行官拉胡爾·沃赫拉得知，穀歌計劃關閉可能會導致其應用程序癱瘓的服務時，立即陷入驚慌失措中，並給他的投資者發送電子郵件詢問可以做些什麽。奧特曼回複說，他碰巧和穀歌首席執行官桑達爾·皮查伊參加了相同的派對，並承諾“會做些什麽”。第二天，穀歌的一名高管出麵解決了這個問題，並為此道歉。
奧特曼的客廳已經成為新技術和新公司的培養皿，這並不令人感到驚訝。WorldCoin聯合創始人馬克斯·諾文斯特恩表示，奧特曼始終在主持這類活動，“試圖將聰明人聚集起來”。每到周末，奧特曼都會帶著一群朋友和同事飛往納帕和圖勒姆，或者在他舊金山的家中吃披薩晚餐，談論的話題從癌症研究到核戰等無所不包。奧特曼說，即使OpenAI也是從這類活動中誕生的。
奧特曼精心建立和維護的關係網似乎最終為他提供了豐厚回報。根據PitchBook的數據顯示，奧特曼在過去九年進行了400多筆投資，並經常與自己推薦的創始人交流。奧特曼說：“在競技場上為每個細節付出汗水的人，和一個每周接幾個電話並盡其所能提供幫助的人，工作性質完全不同。”
02 對登月項目情有獨鍾，但絕不會隨便下注
長期以來，奧特曼始終對“登月”項目（即目標遠大卻不容易實現）情有獨鍾。2016年，他呼籲創始人挑戰那些“人們懷疑完全無法構建的技術”。他支持的公司範圍很廣，種類繁多，從建造世界上最快的商用客機到開發大腦植入物等無所不包。
不過，奧特曼迄今為止最昂貴的科技投資是可控核聚變能源。幾十年來，研究人員始終在研究這門科學，他向核聚變公司Helion投入了3.75億美元，試圖盡快將該技術推向市場。Helion聯合創始人兼首席執行官大衛·科特利說：“奧特曼的首要問題是，‘我們怎樣才能做得更快?’”
2019年，傑森·喬杜裏醫生尋求創建新公司，希望在康複中心使用迷幻藥來幫助治療成癮。他知道，很少有投資者願意支持這樣的項目，他幾乎放棄了這個想法。然後，他和奧特曼談了談。
喬杜裏說：“奧特曼鼓勵我創辦公司，但我們涉及研究的是一級毒品，而且我是有色人種移民。”奧特曼承諾為喬杜裏創業提供資金支持，後者最終成立了Journey Colab公司，今年晚些時候其技術將進入臨床試驗階段。
Worldcoin本身將三個大膽的壯舉結合在一起：分配基本收入、普及數字貨幣以及在數據庫中記錄數十億次眼球掃描。2019年，當時25歲的加州理工學院物理研究員亞曆克斯·布拉尼亞在奧特曼的家中向他提出了這個想法。
布拉尼亞回憶稱，這個計劃還隻是個粗略的草圖，但這對奧特曼來說似乎並不重要。他說：“奧特曼讓一切看起來都那麽容易，你可以向他談論不太可能實現的事情，然後問他這樣做如何？他的回答很簡單：我們就這麽做吧！為什麽不呢?” 布拉尼亞隨後輟學加入Worldcoin，成為聯合創始人，並於2021年接任首席執行官。
WorldCoin另一位聯合創始人諾文斯特恩認為，奧特曼支持的項目有幾個關鍵特征：“它們要麽具有深刻的道德意義，要麽可被列入人類大規模實現的最重要事情。這很奇怪，聽起來有點科幻，幾乎像是惡作劇。第三，它們非常簡單，你甚至可以把它寫在幸運餅幹上。但到最後，如果它們能成功，將產生上萬億美元的回報。”
即使縮減雄心，奧特曼也希望創造一個和諧的生態係統。當一個實體出現問題時，他可以引入另一個實體來幫助解決問題。當意識到自動化將使數百萬人失去工作時，奧特曼在Y Combinator成立了非營利部門，研究全民基本收入製度。當他看到這些資金分配過程中可能遇到詐騙時，他又發明了可以識別人身份的球體設備。
智能機器顯然需要大量的計算能力和電力支持。因此，奧特曼資助了一家尋求提供幾乎無限清潔、廉價能源的公司。為了應對超級智能將超越人類能力的威脅，奧特曼選擇支持人類增強型創業公司，這些公司承諾幫助普通人增強能力。在懷疑論者看來，這似乎是在把人類的未來押在一個相互依存的脆弱係統上。
但奧特曼堅持認為，這個網絡與其說是一個宏偉的計劃，不如說是一個巧合。他解釋稱：“我的意思是，我不想勸阻你，因為這聽起來很有說服力，但本著準確的精神，我必須試著勸阻你。作為一名投資者，我的哲學一直是，我認為這些東西對世界很重要，我個人也很感興趣。這就是我想要投資的東西。”
不過了解奧特曼的人都說，他不會隨便押注。風險投資家維諾德·科斯拉將奧特曼比作一個學習模型，該模型需要大量數據來做出決策。支持Worldcoin的風險投資家瑪莎·布赫也說：“幻想是一回事，知道會發生什麽事則是另一回事。”
03 OpenAI成為皇冠上的明珠，最終目標是打造AGI
早在十幾歲的時候，奧特曼就夢想著將來能進入穀歌工作，所以他像穀歌的創始人那樣去讀斯坦福大學。一天晚上，他的同學、打造火狐網絡瀏覽器的神童布萊克·羅斯敲開了奧特曼宿舍的門，想看看他的計算機科學作業做得怎樣了。軟件程序給了奧特曼一個錯誤信息，讓他感到困惑。羅斯回憶道：“30分鍾後，當我再去他的房間，發現那裏成了犯罪現場，他肢解了編譯器。最終，奧特曼在任務中發現了一個漏洞。”
奧特曼很聰明，但給人留下更深刻印象的是他“無比強大的好奇心”。在斯坦福大學人工智能實驗室工作時，穀歌登月計劃工廠的創始人塞巴斯蒂安·特倫就認識了奧特曼。他回憶稱：“奧特曼總是想從深層次上理解一切。”
大二之後，奧特曼選擇輟學，開始開發名為Loopt的應用。也是在那個時候，保羅·格雷厄姆宣布他將創辦Y Combinator。奧特曼提交了申請並被錄取。
身邊的人都說，奧特曼從此找到了他的絕地大師。他們都是極少數能夠駕馭整個技術堆棧的程序員，從核能跳到量子計算，然後再跳回來。被有些人稱為矽穀教父的天使投資人羅恩·康威說，他認識這兩個人已經有幾十年了，“當他們說話的時候，通常會引起地震”。
Loopt後來搬進了名為YouTube的初創公司辦公室。奧特曼對他的童年好友、Loopt的聯合創始人裏克·佩尼科夫說：“是的，我認為這行不通。”佩尼科夫稱，這可能是奧特曼唯一一次犯錯。
最終，Loopt未能實現人們的期望，它被以4300萬美元的價格出售。以某些標準來看，這次創業算不上成功，因為其價值隻是投資者投入的兩倍。不過，雖然Loopt失敗了，但奧特曼的知名度卻一路飆升。2014年，格雷厄姆選擇了當時年僅28歲的奧特曼接管創業加速器。
市值39億美元的雲軟件供應商Box的聯合創始人兼首席執行官亞倫·列維說：“對我來說，顯而易見的是，奧特曼幾乎就像是企業家時代精神的道德權威。”
在奧特曼的帶領下，Y Combinator經曆了一段高速增長時期，從每批投資十幾家初創公司發展到數百家。他的個人雄心也在擴大，包括帶領加速器籌建了風險基金，在斯坦福大學教學，並成立了研究實驗室，專門研究全民基本收入的實踐和道德方麵的問題，並自掏腰包投入了1000萬美元。
2015年，該研究實驗室成立了非營利組織OpenAI。在奧特曼的創新帝國中，OpenAI是皇冠上的明珠，這是一家能夠幫助人們更智能化、更快速地工作的公司。
OpenAI的旗艦產品是大型語言模型，用最簡單的話來說，就是能夠通過大量數據訓練學習並對基本提示做出反應的係統。OpenAI的最新模型是GPT-4，人們可以通過聊天機器人與之互動，可以“看到”圖像輸入，以驚人的準確度進行推理，並在大多數專業考試中取得好成績。奧特曼表示，該公司的最終目標是創造通用人工智能，即“通常比人類更聰明的人工智能係統”。
04 “我不想坐在前排看著世界崩潰”
作為一名首席執行官，奧特曼對自己的追求所麵臨的風險異常坦率。他曾寫道，能夠自行變得更聰明的機器不斷進化，“可能是對人類持續生存的最大威脅”。直到今天，他還警告說，人工智能會因“意外誤用”而構成巨大威脅。他的坦率讓人有種穿越感，就好像是一位石油公司高管提前預見到了氣候變化的危險。
商業夥伴們表示，這種保持完全透明是奧特曼的工作特色。OpenAI首個機構投資者Khosla Ventures的風險投資家維諾德·科斯拉說：“奧特曼在學術上保持誠實，這讓人們更容易信任他。”
從一開始，OpenAI構建多用途人工智能的方法就與其他公司之前的努力截然不同，這些公司主要開發用於特定任務的狹隘算法。有時，就連OpenAI的研究人員也對他們的進展感到震驚。2019年，該公司決定以有限發布的方式推出GPT-2，理由是擔心更大的語言模型可能被用來“產生欺騙性、有偏見或辱罵性的語言”。2022年，他們改變了做法，允許任何注冊用戶訪問該公司GPT -3.5模型支持的聊天機器人ChatGPT，該機器人在1月份的月活躍用戶達到1億。
如今，奧特曼認為，在產品開發過程中就推出產品是理解和塑造其功能的關鍵部分。他說：“我們在實驗室裏能學到的東西畢竟有限。” 十分熟悉奧特曼的科技行業分析師蒂姆·奧萊利表示，這位首席執行官“有一種我們過去常說的‘快速失敗’的強烈傾向。他隻管把東西拿出來，然後讓市場自己去判斷。
支持者表示，開放這些係統很有必要，可以避免權力過於集中。曾在OpenAI實習的英偉達研究科學家吉姆·範說：“如果你相信我們正處於下一次工業革命的風口，那麽讓更廣泛的人接觸到它，就能確保他們分享到它的好處。”
當然，這並不是說人工智能技術是免費的。隨著GPT-3的發布，OpenAI發布了其第一個商業產品，讓開發者將模型融入自己產品的工具。有些應用程序已經可以自動生成文字、回複客戶和上網，所有這些都在使用OpenAI的模型。
但許多人懷疑，OpenAI這種做法是否適合具有如此深遠影響的產品。開放慈善基金會(Open Philanthropy)首席執行官霍爾頓·卡諾夫斯基說：“曆史上，人們往往低估了這類產品的破壞性和瘋狂程度。”該基金會在2017年至2020年期間資助了OpenAI。當時擔任OpenAI董事會成員的卡諾夫斯基解釋說，這種劇烈的變化“可能對全人類都是危險的”。
即使是那些認為世界末日風險被誇大了的人也指出，短期風險已經開始顯現。一位OpenAI離職員工稱，他們擔心公司沒有向ChatGPT用戶充分說明，通過與消費者產品互動，他們實際上是在幫這個模型進行免費培訓。他警告稱：“你是在幫助這個模式取代自己的工作，你實際上是在喂養野獸。”本周二，OpenAI在其博客上發布消息稱，它將允許用戶將聊天記錄設置為隱私。
與此同時，人文技術中心（Center for Humane Technology）也警告稱，人工智能可以幫助音頻和視頻深度造假、發現新型毒素和網絡武器、擴散錯誤信息等，這些都可能導致信任崩潰。他們在最近的一份備忘錄中寫道，在公眾準備好之前部署這些係統，“對美國和其他國家構成了嚴重而直接的威脅”。
今年3月，超過1000名科技行業高管、學者和人工智能專家簽署了一封公開信，呼籲暫時暫停訓練比GPT-4更強大的人工智能係統六個月，理由是這可能存在短期和長期的危害。
主要關注人工智能風險的牛津大學人類未來研究所高級研究員安德斯·桑德伯格表示：“我認為，如果你（奧特曼）可以讓事情慢下來，那實際上可能是個好主意。但人們不會放慢腳步，潘多拉盒子已被打開。”
奧特曼承認目前的技術存在缺陷，他說：“我毫不懷疑會有其他人開發這些技術，並以我不喜歡的方式使用它們。當然，我確實對此感到擔憂。”
但有人說，奧特曼沒能創造出讓員工感到足夠安全的環境，以便他們表達對產品危險的擔憂。OpenAI離職員工說，當有人在內部發表意見時，公司管理層的普遍心態是：“如果我們都聽你的，可能永遠無法推出產品。”
人工智能領域的首席末日預言者埃利澤·尤德科夫斯基在最近的播客上回應了這些說法：“我有很多朋友都說，如果你私下和OpenAI的研究人員交談，會發現他們有很多擔憂，但他們在公開場合不能將這些擔憂表達出來。”奧特曼對此駁斥稱：“我們經常仔細地討論我們的方法。”
然而，對於部分人來說，他們不相信OpenAI將人類的最高利益放在優先地位。11名員工於2021年離職，創辦了自己的人工智能公司Anthropic，其中許多人都與關注人工智能風險的有效利他主義運動有關。盡管今年3月推出了自己的競爭對手聊天機器人，但Anthropic聲稱，通過創造“更安全、可操控、更可靠的模型”，將自己與OpenAI等競爭對手區分開來。這家公司的目標是在未來四年裏籌集50億美元資金，但它能否抵擋住同樣的市場壓力，還有待觀察。
不過，正如OpenAI離職員工所說：“我不想坐在前排，眼睜睜地看著世界崩潰。”
05 執著於延遲死亡，願將大腦上傳雲端等待複活
在奧特曼最喜歡的人工智能短篇小說《溫柔的誘惑》(the Gentle Seduction)中，一個名叫傑克的男人和一個不知名的女人墜入愛河。傑克是個患有心髒病的技術專家，他向這位女士講述了自己對未來的展望。將來，技術將消除人類所有的問題，包括死亡。小說中的女主角是一位生態學家，她最初對這種非自然前景感到厭惡。
但在伴侶死後，女主角的身體也隨著年齡的增長而日漸衰弱，她不情願地接受了一項項技術進步，包括能治愈疾病的納米機器，將大腦與機器智能融合起來的耳機，讓人能夠穿越星係的機器人身體。最終，女主角成了不朽的存在，並與宇宙融為一體。她回顧了幾千年前死去的愛人，意識到他是這一切的幕後主使。傑克預見到她天生抗拒技術進步，並希望確保她有時間以適應每一次微小的進步。
在奧特曼身上不難找到傑克的蹤跡。就像小說中的角色一樣，奧特曼相信人類很快就會達到這樣一個拐點：在未來100裏，人類所取得的技術進步將超過我們在人類曆史上取得的所有成就。在他的想象中，未來我們可能會探索宇宙最遙遠的地方，並戰勝氣候變化和小行星襲擊地球等挑戰。奧特曼甚至申請了Nectome公司的等待名單：如果技術成功的話，他願意將大腦上傳到雲端，將來可能會在模擬中複活。
和許多矽穀科技大咖一樣，奧特曼似乎執著於延遲死亡。一位朋友透露，奧特曼的父親於2018年去世後，他的緊迫感隨即增加了。奧特曼表示：“我認為，任何小時候失去父親的人，都希望父親能有更多的時間陪伴自己。我的目標不是獲得永生，而是讓人們再健康、充滿活力地多活10年。”
奧特曼在自己的生活中似乎已經掌握了生物黑客的藝術，他遵循嚴格的飲食和鍛煉計劃，以最大限度地提高他的工作效率。在2016年接受《紐約客》采訪時，奧特曼稱自己顯然患有他母親所說的“網絡疑病症”，即癡迷於在網上搜索自己患有哪些疾病。但奧特曼與其他人的不同之處在於，他的健康實驗可能會影響人類的進化。
奧特曼說他很高興能有“很多孩子”，他支持一家試圖讓兩個男人懷上孩子的公司和另一家提供多基因胚胎篩查的公司。2020年，奧特曼讀到一項實驗，科學家們用鹽水和白蛋白(由肝髒產生的蛋白質)的混合物取代了老年小鼠的血漿，這似乎可以逆轉某些衰老的跡象。他敦促曾在Y Combinator擔任兼職合夥人的喬·貝茨-拉克魯瓦基於這種方法創辦名為Retro Biosciences的公司。奧特曼投入了1.8億美元，這是該公司最新一輪融資獲得的全部資金。
對奧特曼來說，靈性和科學似乎是齊頭並進的。作為一名經驗豐富的冥想者，他在推特上發布了“婆羅門和奧特曼的絕對等價性”，這是指印度教的非二元論概念，即宇宙和自我是一體的。他在2020年表示，如果“沒有自我，你對死亡或不死意味著什麽會有不同的看法。”
據一位投資者朋友說，幾年前，奧特曼開始談論“意識之光”。這個短語在矽穀所謂的“長期主義者”圈子裏越來越流行，包括馬斯克和推特創始人傑克·多西都是其信徒。它植根於這樣一種觀點，即人類可能會被數量眾多的生存威脅所扼殺。為了保持文明傳承，長期主義者認為，迫切需要推進太空旅行、生物技術和對人類友好的人工智能。
奧特曼承認，牛津大學人類未來研究所的創始人、長期主義思想之父尼克·博斯特羅姆曾對他及其工作產生了巨大影響。在他的博客上，奧特曼稱博斯特羅姆的書《超級智能》是“我所見過的、關於人工智能風險的最好描述”。據人類未來研究所高級研究員安德斯·桑德伯格說，OpenAI甚至從該研究所挖走了多位員工。
06 擔心合成病毒與核戰引發世界末日
雖然奧特曼說，他不認同長期主義運動，但他也擔心許多因素引發世界末日。奧特曼在2016年告訴《紐約客》：“我的問題是，當我的朋友喝醉時，他們會談論導致世界末日的各種方式。”
接著，奧特曼描述了自己應對末日（比如合成病毒或核戰爆發）的方式，比如儲存“槍支、黃金、碘化鉀、抗生素、電池、水、以色列國防軍的防毒麵具”。新冠肺炎疫情讓奧特曼最擔心的一些事情成為現實。在封鎖的頭幾周，他稱自己躲在家裏，給食品雜貨消毒，直到有一天晚上伴侶抱怨他們的食物聞起來像遊泳池的味道。
奧特曼對所謂的奇點持懷疑態度，但並不過分害怕。奇點是指技術發展到脫離人類監督的階段。在2017年的一篇博客文章中，奧特曼寫道，人類和機器的融合可能有助於我們徹底避免權力鬥爭。最近在萊克斯·弗裏德曼的播客上露麵時，他稱我們所知道的生命可能已經包含在計算機係統中了。他解釋說：“我當然願意相信，意識在某種程度上是本質，我們都隻是活在夢中或在模擬中，亦或者其他東西中。”
不過奧特曼稱，自從那些帖子發布之後，他的想法發生了變化。他說：“在很大程度上，我現在屬於‘人工智能將成為工具’的陣營，盡管我確實認為未來的人類和人類社會將截然不同，我們有機會思考如何設計那樣的未來。”
計算機科學家蒂姆尼特·格布魯和哲學家埃米爾·托雷斯在他們的論文《通過人工通用智能實現優生學和烏托邦的承諾》中寫道，奧特曼和其他人試圖實現通用人工智能，“並建立類似於上帝的東西”，這“在本質上是不安全的”。
他們寫道，奧特曼相信所謂的Tescreal意識形態，它囊括了超人類主義、外向主義、奇點主義、宇宙主義、理性主義、有效利他主義以及長期主義。格布魯和托雷斯敦促奧特曼等人“放棄這個目標，優先建立定義和範圍明確的係統，把人們的安全放在首位”。
奧特曼似乎對這些批評並不在意。他在推特上寫道：“隻有那些知道謹慎而不害怕的人才能度過難關。”
07 曾想競選加州州長，利用科技實現繁榮
奧特曼或許已經贏得了矽穀的支持，但現在他麵臨著一項更艱巨的任務，那就是向世界其他地方推銷他的科技夢想。奧特曼的母親最近告訴《華爾街日報》，他已經有四五年沒去過雜貨店了。奧特曼是第一個承認自己在與公眾交往方麵存在缺陷的人。
當被詢問試著準確地描述普通美國人的生活將如何因他正在開發的技術而改變時，奧特曼隻給出了幾個概括性的說法：教育將會改變、工作效率將會提高，科學將比以往任何時候都發展得更快。在被追問細節時，奧特曼閃爍其辭地說：“低估將要發生的事情是一個巨大的錯誤，但我認為誇大我們知道會發生的事情也是一個錯誤。”
奧特曼將有很多機會改進他要傳達的信息。多年來，他支持的項目基本上都是在人們的視線之外進行的，現在他開始展示自己的觀點。今年1月份，他前往華盛頓幫助緩解美國議員們對人工智能的擔憂。今年春天，他出人意料地在電視和雜誌采訪中露麵。今年夏天，他將開始全球聆聽之旅，聽取OpenAI產品開發者和用戶的意見。
如果這一切聽起來有點像一場政治競選，那可能不是巧合。2017年，奧特曼偶然萌生了競選加州州長的想法。同年，他發表了一份名為《The United Slate》的政治宣言，強調“通過技術實現繁榮”、“經濟公平”和“個人自由”。奧特曼認為，在政府缺乏遠見和效率的地方，比如在發展住房、全民基本收入或基礎設施方麵，科技可以幫助填補這些空白。
雖然競選公職的野心似乎已經消退，但奧特曼似乎找到了其他施加政治影響的方法。他是科技界在華盛頓最引人注目的使者之一，經常與內閣成員和立法者會麵。在比爾德伯格(Bilderberg)俱樂部會議上，他與政府機構的首腦同處一室。這是一個不公開的和平建設峰會，以至於批評者將其比作“影子世界政府”。奧特曼希望科技將成為選舉的中心議題。
然而，這並不意味著奧特曼讚同某些同行所推動的那種技術官僚主義，比如馬斯克斥資440億美元接管“數字城市廣場”，蒂爾倡導“網絡國家”運動，提出自治城市作為中央集權民主的替代方案。
奧特曼解釋稱：“我認為OpenAI或任何其他科技公司都不應該做出我們目前正在做的某些決定，這樣的事情應該屬於政府職能範疇。如果在美國曆史上的其他時期，它應該是一個政府項目。” OpenAI早期曾試圖獲得政府資助，但沒有成功。奧特曼表示，他希望全球政策製定者能夠“立即”引入一個類似於國際原子能機構的機構，以監督訓練強大人工智能的努力。國際原子能機構是核領域的監督機構。
奧特曼慷慨地向民主黨候選人和政治行動委員會捐款，他甚至參加了在舊金山國際機場舉行的抗議活動，反對唐納德·特朗普對幾個穆斯林占多數的國家實施旅行禁令。然而，奧特曼也擁有槍支，對教育機構持懷疑態度，並經常談到個人責任的重要性。
08 “把地板掀起來，不要擔心天花板”
在2021年《紐約時報》的采訪中，奧特曼稱自己是Slate Star Codex的粉絲。Slate Star Codex是“理性主義者”社區的博客和在線中心，他們認為在評估決策時不應考慮公正性或情感因素。在采訪中，奧特曼讚同這樣一種觀點，即“互聯網暴徒”對種族主義和性別歧視語言的管控使企業家更難創新。
這位OpenAI首席執行官最近告訴萊克斯·弗裏德曼，他堅信這樣一句話：“把地板掀起來，不要擔心天花板”。他對此詳細解釋說，我們未來的富足應該讓每個人至少過上中產階級的生活，那些天花板之上的人自然會得到照顧。
不管怎樣，奧特曼在矽穀的名聲仍然是個麵慈心善的自由主義者。今年4月，馬斯克再次成為奧特曼的陪襯，他介紹了一款名為TruthGPT的聊天機器人，這是ChatGPT的競爭版本。在宣布他的人工智能計劃前不久，馬斯克也是呼籲暫停人工智能開發公開信的上千名簽名者之一。這封信寫道：“這樣的決定不能委托給非民選的科技領袖。”
當被問及對這句話的感想時，奧特曼笑著回應稱：“我想，這是他們引用了我說的話。我是真的這麽認為，並認為這非常重要。我也不認為以公開信的方式治理國家特別好。”
在矽穀除了快遞應用、狗狗過濾器和電動滑板車之外似乎找不到靈感的時候，奧特曼作為一個充滿幻想的先知來到了矽穀，預示著一個新的進步時代的到來。他相信，人工智能就像火的發現或輪子的發明那樣重要。天使投資人羅恩·康威將ChatGPT描述為“我們這個時代最重要的發明”。他說：“我們已經經曆了個人電腦時代，穀歌搜索時代，社交媒體時代，亞馬遜時代，但人工智能是最重要的。”
奧特曼是一名狂熱的撲克玩家(而且玩得很好)，但並不是每個人都想把自己的日常生活和賭博聯係起來。如此多的顛覆已經開始使社會陷入生存危機，人們想知道這些變化將真正使誰受益，誰將承受附帶損害。辨別真假，以及決定我們生活中哪些部分不願意讓給機器控製，已經像天氣那樣成為人們普遍討論的話題。
盡管如此，對奧特曼的偶像崇拜正處於巔峰：引人注目的新聞報道，比爾·蓋茨等名人的支持，以及160萬推特粉絲對他的時刻關注。奧特曼不再隻是矽穀的代言人，而是家喻戶曉的名字。他的崛起猶如希臘神話一般。這是誇大其詞嗎？是阿諛奉承者為贏得矽穀最有權勢的人的青睞而出現的附屬物嗎？風險投資家科斯拉警告稱，好時光終將結束。他說：“當所有人都喜歡你，記者都給你打電話時，你就該小心了。”
多年來，一個關於奧特曼的故事廣為流傳，曾有一架私人飛機的飛行員喪失了駕駛能力，是這位OpenAI首席執行官接管了飛機，並將所有人安全帶回地麵。當被問及這件事時，奧特曼解釋稱：“我能猜到這是怎麽回事。這些故事經過多年的反複講述，變得越來越誇張！”
但正如奧特曼可能意識到的那樣，一旦他的故事和技術離開了他的視線，它們在某種程度上變得麵目全非似乎隻是時間問題。