最新萬字長文專訪奧特曼:被解職時痛苦萬分

文章來源: - 新聞取自各大新聞媒體,新聞內容並不代表本網立場!
(被閱讀 次)


據國外媒體報道,美國知名播客萊克斯·弗裏德曼(Lex Friedman)近期再次邀請人工智能領域的領軍人物、OpenAI首席執行官山姆·奧特曼(Sam Altman)進行專訪。這次對話,奧特曼不僅深入剖析了OpenAI董事會近期的變動,還暢談了首席科學家伊利亞·蘇茨凱弗(Ilya Sutskever)的未來動向、與埃隆·馬斯克(Elon Musk)之間的法律紛爭,以及備受矚目的文字轉視頻工具Sora、豪擲7萬億美元的芯片計劃、即將推出的新一代大語言模型GPT-5,乃至通用人工智能(AGI)的遠景規劃等。

以下為此次專訪實錄全文:

01 OpenAI董事會風波

問:請帶我們回顧下從2023年11月16日周四開始的OpenAI董事會風波,也許是11月17日周五。

奧特曼:那絕對是我一生中最痛苦的職業經曆,充滿了混亂、羞恥、沮喪以及其他一大堆負麵的東西。不過,其中也不乏值得珍藏的美好瞬間。我希望自己當時能夠保持冷靜,不被過度的腎上腺素衝昏頭腦,從而能夠停下來細細品味那些寶貴的經曆。

但當我看到那時候發的推文時,感覺這就像自己的悼詞,記錄著人們在那個特殊時期對我的讚美和支持。看到這些推文,我深感欣慰,也感受到了身邊人的愛與關心。真是太棒了!整個周末,盡管遭遇了一些不愉快的事情,但總體而言,我感受到的愛遠遠超過了恨。

盡管我不知道到底發生了什麽,也不知道將要發生什麽,這感覺真的很糟糕。確實有很多時候,我認為這將是人工智能安全有史以來最糟糕的事情之一。但我也很慶幸這一切發生得相對較早。我認為,在OpenAI成立和通用人工智能(AGI)誕生的過程中,注定會有一係列瘋狂且具有爆炸性的事件發生。這些事件雖然令人不安,但也為我們提供了寶貴的經驗和教訓,為未來應對更多挑戰做好了準備。

問:但你自己有一種感覺,你會經曆某種權力鬥爭?

奧特曼:確實,通往通用人工智能的道路可能會涉及多方麵的權力鬥爭。我希望是這樣。

問:所以,你必須要經曆這些。正如您所言,我們需要深思熟慮如何構建董事會架構,如何有效組織,以及如何與合作夥伴溝通,力求在最大程度上減少權力鬥爭的發生。

奧特曼:是的。回首過去,那段經曆確實令人不悅,充滿了艱難和痛苦。然而,當我們重新投入工作時,繁忙和緊張的節奏讓我無暇過多沉湎於過去的情緒。在那之後的一個月,也許是45天裏,我仿佛處於一種遊離的狀態,每天都像是在漂泊,思緒並不清晰。那時的我,情緒異常低落,仿佛被陰影籠罩。

問:你對董事會審議過程的參與度和嚴謹性有了解嗎?你能談談在這種情況下涉及的人際關係動態嗎?是不是隻是幾次對話,然後事態突然激化,然後就有人提出“為什麽我們不解雇山姆”之類的建議?

奧特曼:我認為董事會成員總體上都是出於好意的人,我相信在那種壓力環境下,人們感到時間緊迫或其他什麽,人們會做出不那麽明智的決定都可以理解。我認為OpenAI麵臨的挑戰之一將是,我們需要有一個擅長在壓力下運作的董事會和團隊。

問:你認為董事會的權力過大了嗎?

奧特曼:我認為董事會應該有很大的權力,但我們確實看到的一件事是,在大多數公司架構中,董事會通常要對股東負責。有時人們擁有超級投票權或其他什麽。在這種情況下,我認為我們結構中的一個問題是,我們可能沒有充分考慮到非營利組織董事會實際上掌握著很大的權力,除非你有其他規定。他們並不真正向任何人負責,基本上隻對自己負責。這在某些方麵是好的,但我們真正希望的是OpenAI的董事會能夠對整個世界負責,盡管這在實踐中可能很難實現。

問:所以你們宣布組建新的董事會。

奧特曼:是的。

問:我想一開始有一個新的、規模較小的董事會,現在有一個新的最終董事會嗎?

奧特曼:還不是最終的董事會。我們增加了一些人,還會增加更多。

問:在新的董事會中,有哪些是之前那個董事會中可能存在的問題,現在得到了解決?

奧特曼:原董事會在一年的時間裏規模變小了。原本是九個人,後來減少到六個人,然後我們無法就新增成員達成一致。此外,我認為董事會也沒有太多經驗豐富的董事會成員,而OpenAI的很多新董事會成員在作為董事會成員方麵更有經驗。我認為這將有所幫助。

問:有人批評了新加入董事會的一些人。例如,我聽到了很多人批評拉裏·薩默斯(Larry Summers)的加入。那麽選擇董事會成員的過程是怎樣的?涉及哪些因素?

奧特曼:選擇布雷特·泰勒(Bret Taylor)和薩默斯為董事會成員是在那個非常緊張的周末做出的決定,而那個周末真是就像坐過山車一樣,給人一種大起大落的感覺。我們試圖就新的董事會成員達成一致,這些成員既要讓這裏的執行團隊感到滿意,也要得到原董事會成員的認可。

實際上,薩默斯是原董事會成員推薦的人選之一。至於布雷特,我想在那個瘋狂周末之前,我就提議過他,但他當時很忙,不想接受這份工作。之後,我們確實需要幫助,他才加入進來。我們也考慮了很多其他人選,但我覺得如果我回來的話,我需要更換新的董事會成員。我不認為我可以在同樣的人員配置下再次與原董事會合作,盡管後來我們決定讓亞當·德安吉洛(Adam D'Angelo)留下。但我們考慮了各種配置,最終決定想要組建一個三人的董事會,並需要短時間內找到兩名新的董事會成員。

所以那些決定確實是直接做出的,你必須在戰場上迅速做出決定。那時你沒有時間設計嚴格的流程。對於之後的新的董事會成員,以及我們還將要繼續添加的新成員,我們有一些認為對董事會來說重要的標準,我們希望這些人具備的不同專長。與招聘一名高管不同,他隻需要把一個角色做好,但對於董事會成員來說,他需要需要在治理和思考方麵表現出全方位的能力。因此,布雷特說的一句話我很認同,那就是我們想要以成批的形式招聘董事會成員,而不是一次一個地招聘。我們正在考慮的是一群能夠帶來非營利組織專業知識、公司運營專業知識、良好的法律和治理專業知識的人,這是我們試圖優化的目標。

問:那麽,對於單個董事會成員來說,技術素養重要嗎?

奧特曼:不是每個董事會成員都需要這類素養,但確實有一些人需要。這也是董事會職責一部分。

問:關於OpenAI,人們可能不了解的有趣的一點是,我當然也不了解,那就是經營公司的所有細節。當人們想到董事會時,鑒於其中的戲劇化元素,他們可能首先會想到你。他們會想:如果你開發出AGI或你創造出一些極具影響力的產品,並成功將它們推向市場,你和董事會之間的對話會是什麽樣的?他們可能還會想:在那種情況下,應該有什麽樣的合適團隊來進行決策和討論?

奧特曼:我認為,董事會中確實需要一些技術專家。同時,你需要一些能夠思考“我們如何部署這項技術才能最大限度造福人類?”的人,還需要一些持有不同觀點的人。我認為你我可能會犯的一個錯誤是,認為隻有理解技術才是挑選董事會成員的重要標準,這當然是董事會應該討論的一部分,但關於這項技術將如何影響社會和人們的生活,你也也同樣希望能夠在董事會中得到體現。

問:你在考慮人選時,是更看重他們的過往經曆,還是隻是與他們交談即可?

奧特曼:過往經曆很重要。當然,你們會進行很多交談,但有些職位我完全不看重過往經曆,隻看他的上升勢頭,忽略掉Y軸的截距。

問:謝謝。謝謝你為觀眾用數學的方式做出解釋。

奧特曼:對於董事會成員,我確實更看重Y軸截距。我認為過往經曆中有一些深刻的東西可以說,經驗是很難被替代的。

問:你嚐試將過往經曆擬合為多項式函數還是指數函數?

奧特曼:這個類比不太合適。

問:好的。你之前提到了那個瘋狂周末遭遇的一些低穀。對你來說,心理上還有哪些低穀?你有沒有考慮過去亞馬遜叢林裏喝下亞胡阿斯卡(一種致幻劑),然後永遠消失?

奧特曼:那是一段非常糟糕的時期。當然,也有一些很棒的時刻。我的手機不斷收到與我日常合作的人以及那些我已經十年沒聯係過的人發來的關懷信息。因為我當時正處於危機之中,因此沒有太多時間去回應,沒能充分感受到這份溫暖,但這確實讓人感到很棒。總的來說,那是一個非常痛苦的周末。就像是在公眾麵前進行的一場戰鬥,讓我感到非常疲憊,比我預想的還要難受。我認為爭鬥通常都很累人,但這次真的特別疲憊。董事會是在周五下午做出決定的。我並沒有得到太多答複,但我也認為,董事會有權這麽做,所以我會稍微花點時間思考一下我接下來想做什麽,但我也會努力從中找到隱藏的祝福。

我當時心想,我目前在OpenAI的工作,或者之前的工作,是經營一家規模相當大的公司。而我一直最喜歡的事情就是與研究者們一起工作。然後我就想,我可以非常專注地去做AGI的研究工作。我開始對這個想法感到興奮。當時我甚至沒有想到這一切都會化為泡影。那已經是周五下午了。

問:所以你接受了這樣的終結——

奧特曼:非常快,真的非常快。我經曆了一段短暫的迷茫和憤怒,但這種負麵狀態很快就過去了。到了周五晚上,我已經在和別人討論下一步要做什麽了,而且我對此感到很興奮。我記得是周五晚上,我第一次從這裏的執行團隊那裏聽到消息,他們說:“嘿,我們要抗爭到底。”然後我就去睡覺了,心裏還是想著:我很興奮,繼續前進!

問:你睡得好嗎?

奧特曼:根本就沒怎麽睡。奇怪的是,有一段四天半的時間,我睡得很少,吃得也不多,但還是精力充沛。戰時你會學到一些關於腎上腺素的奇怪事情。

問:所以你接受了這樣的結局,OpenAI這個被你視為“孩子”的公司迎來了失敗的一天。

奧特曼:我對新的事物都感到興奮。我心想:“行吧,這玩意兒確實瘋了點,但管它呢!”

問:這是一個很好的應對機製。

奧特曼:然後到了周六早上,兩位董事會成員打來電話說:“嘿,我們不想攪局。我們不想在這裏儲存太多價值。我們能談談你回來的事嗎?”最初,我不想回去,但後來又仔細地想了想,我還是覺得,我真的很關心這裏的人、合作夥伴和股東們。我愛這家公司。所以我對他們說:“好吧,但我有自己的條件。”然後在那個周末最痛苦的時候,我一直在反思,也被告知,不僅僅是我,整個團隊都在想,我們試圖努力維持OpenAI的穩定,而那時整個世界都在試圖讓它分崩離析,人們試圖招募我們的人。

我們一直被告知:“好了,我們快要弄完了。我們快要完成了。我們隻需要再多一點點時間。”這是一種非常混亂的狀態,直到周日晚上,我幾乎每隔幾個小時就期待這種混亂能夠結束,找到一種讓我回去的方法,讓事情恢複到原來的樣子。但董事會隨後任命了一位新的臨時首席執行官,我當時就覺得,這感覺真的很糟糕。那是整個事件的最低穀時刻。我告訴你,這感覺很痛苦,但整個周末我感受到了很多關懷。除了周日晚上的那一瞬間,我不會用憤怒或仇恨來形容我的情緒,但我感受到了人們對我的愛。雖然痛苦,但那個周末的主導情緒是愛,而不是恨。

問:你曾高度讚揚了米拉·穆拉蒂(Mira Murati),你說她在你推文中提到的關鍵時刻給予了你特別幫助。也許我們可以稍微偏離一下主題。你欣賞穆拉蒂哪些品質?

奧特曼:她在那個周末的混亂中做得很好,人們往往在危機時刻才會關注領導者的表現,無論是好是壞。但我真正欣賞這類領導者的一點是,他們在平凡的周二早上9點46分和日常繁瑣工作中是如何表現的。他們如何出席會議,他們做決策的質量如何。這就是我所指的“靜默時刻”。

問:這意味著大部分工作都是在日複一日、一次次的會議中完成的。隻要保持專注,並做出明智的決策即可。

奧特曼:是的。你看,過去20分鍾你想談論的,我理解的,是那一個非常瘋狂的周末,但那並不是OpenAI的真正意義所在。OpenAI真正重要的是過去的七年。

問:嗯,確實如此。人類文明可不僅僅關於納粹德國入侵蘇聯,盡管人們仍然關注這一點。

奧特曼:這是完全可以理解的。

02 蘇茨凱弗其實很逗逼

問:它能幫助我們洞察人性,人性的極端,也許人類文明的某些成就和某些損害就是在這些時刻發生的。人類文明的某些毀壞和偉大成就得以顯現,因此這非常具有啟發性。下麵,讓我問你關於伊利亞·蘇茨凱弗(Ilya Sutskever)的事情。他是不是被劫持在一個秘密的核設施裏充當人質?

奧特曼:當然不是。

問:那是被藏在普通的秘密設施裏?

奧特曼:也不是。

問:這事兒都快成梗了。你認識伊利亞很久了,對吧?他顯然卷入了董事會那場風波,還有那一大堆亂七八糟的事情。你現在和他關係怎麽樣?

奧特曼:我依然喜歡伊利亞。我非常尊重他。關於他現在的計劃,我無可奉告。那是他的問題,該由他來回答。但我真的很希望在我職業生涯的剩餘時間裏,我們能繼續一起工作。他比我年輕一些,也許他還會再工作久一些。

問:有一個搞笑梗說伊利亞好像看到了什麽東西,比如他可能看到了通用人工智能,這讓他內心充滿了憂慮。伊利亞到底看到了什麽?

奧特曼:伊利亞從來沒有看到通用人工智能。我們任何人都沒有看到過。我們還沒有開發出通用人工智能。不過,伊利亞身上有很多讓我敬佩的品質,其中之一是他非常重視通用人工智能及其廣泛的安全問題,包括這項技術將對社會產生的影響。隨著我們繼續取得重大進展,伊利亞是過去幾年裏我花最多時間討論這將意味著什麽的人之一,討論我們需要做什麽來確保我們做得正確,確保我們成功地完成使命。所以,雖然伊利亞沒有看到通用人工智能,但他在思考並確保我們在這個過程中做得正確,這對人類來說是一份巨大貢獻。

問:我以前和他聊過很多次。我認為當他談論技術時,總是進行這種長期思考。所以他不是在想一年後會怎麽樣,而是在想十年後的事情,隻是從首要原則開始思考,比如“好吧,如果這項技術能夠擴展開來,這裏的根本要素是什麽?它將走向何方?” 這也是他思考所有其他安全問題和所有類似問題的基礎,這使得與他交談非常有趣。你知道他為什麽近來變得沉默了嗎?他是在進行自我反思嗎?

奧特曼:再次強調下,我不想代表伊利亞發言。我覺得你應該問問他本人。他確實是一個習慣深入思考的人。我覺得伊利亞總是在以一種非常好的方式進行靈魂探索。

問:對,沒錯。而且,他也很懂得沉默的力量。另外,我聽說他有時也挺逗的,但我從沒見過他那一麵。

奧特曼:那樣的他真的很可愛。

問:我從沒見過逗比的伊利亞,但我也很期待看到那一麵。

奧特曼:我最近和他一起參加了一個晚宴,他當時正在和一隻小狗玩,心情非常放鬆,那場景相當溫馨!我當時就想,哇,這不是世界最常見的伊利亞。

問:那麽,就這整樁事情而言,你對董事會的架構滿意嗎?

奧特曼:是的。

問:關於這一切及其走向,你有什麽看法?

奧特曼:我對新組建的董事會感覺很滿意。在OpenAI的架構方麵,董事會的一項職責就是要審視並找出我們可以使其更加穩健的地方。我們原本想先安排新的董事會成員到位,但顯然,在這個過程中,我們在結構方麵學到了一個教訓。我覺得我沒有太多深刻的見解要說。這是一次瘋狂、非常痛苦的經曆。我覺得這是各種奇怪情況的完美風暴。這次經曆讓我預見到了未來的挑戰:隨著賭注的提高,我們將需要更加穩健的治理結構和流程,以及更加合適的人選。我很高興這件事發生在我還年輕的時候,但經曆它確實非常痛苦。

問:這件事會讓你在信任他人時變得更加猶豫嗎?

奧特曼:會。

問:隻是在個人層麵嗎?

奧特曼:是的。我自認為是一個非常信任他人的人。我的人生哲學一直是不要過於擔憂所有的偏執狂想,不要擔心那些邊緣情況。即便你稍微吃點虧,換來的是可以放下防備地生活。然而,這次經曆對我來說太震撼了。我完全措手不及,它確實改變了我。我真的不喜歡這種感覺,但它確實改變了我對人的默認信任和對糟糕情況的應對方式。

問:你得在這方麵小心一點。你擔心自己會變得過於憤世嫉俗嗎?

奧特曼:我不擔心自己會變得過於憤世嫉俗。我認為自己與憤世嫉俗的人截然相反,但我擔心自己會變得不那麽容易信任他人。

問:實際上,對於正在開發通用人工智能(AGI)的人來說,我不清楚應該選擇信任模式還是不信任模式來行動才是最好的。這是一次有趣的旅程。但在結構方麵,我更關注人性層麵。你如何讓自己身邊圍繞著既能構建出色事物,又能做出明智決策的人?因為隨著你開始賺更多的錢,這個東西擁有更大影響力,周圍的人們可能會變得越來越奇怪。

奧特曼:關於董事會成員以及我應該持有的信任程度,或者我應該如何以不同的方式行事,你可以提出各種看法。但就這裏的團隊而言,我想你會給我非常高的評價。我對我每天一起工作的人們懷有巨大的感激、信任和尊重,我認為被這樣的人們包圍著真的非常重要。