AGI的未來

來源: 未完的歌於 2023-11-20 06:42:24 [檔案] [博客] [舊帖] [給我悄悄話] 本文已被閱讀：次 (6327 bytes)

本文內容已被 [ 未完的歌 ] 在 2023-11-20 07:17:12 編輯過。如有問題，請報告版主或論壇管理刪除.

OpenAI這幾天開除CEO奧特曼終於塵埃落定。

最終董事會主席Greg與CEO奧特曼去了微軟，原twitch的CEO接受OpenAI董事會邀請出任OpenAI新CEO。

開除奧特曼具體原因未明，董事會的官方說法是溝通出了問題（CEO不聽話，隱瞞），更多的猜測是跟AGI方向有關。

看過程，是OpenAI首席科學家Ilya主導了這場辭職大戲。

昨晚看了一個關於AGI的紀錄片，作者正是Ilya。

他對AGI能力的擔心是非常大的，對AI感興趣的，很值得一看。

Artificial General Intelligence. AGI,
a computer system that can do any job or any taskthat a human does, but only better.

The very first AGIs will be basically be very, very large data centres.
Packed with specialised neural network processors working in parallel. Compact, hot, power hungry package, consuming like, 10m homes' worth of energy.
You're going to see dramatically more intelligent systemsand I think it's highly likely that those systems will havecompletely astronomical impact on society.

Will humans actually benefit?
The beliefs and desires of the first AGIs will be extremely important and so it's important to programme them correctly. I think that if this is not done, then the nature of evolution, of natural selection, favour those systems prioritise their own survival above all else.

被開除之前，在APEC上的奧特曼說很快會出現“讓人無法想象，遠遠超出人們期待的東西“。。。

我感覺看見兩人的衝突了。。。。

在Sam 奧特曼被解雇的前一天，他在APEC的一次會議上，他暗示了OpenAI已經開發出比現在GPT 4更加強大，讓人無法想象，遠遠超出人們期待的東西...

這可能是被解雇的導火索，導致Ilya等董事會成員認為他隱瞞了很多信息，沒有和董事會分享。

Sam… pic.twitter.com/6rPhkmh9yD
— 小互 (@xiaohuggg) November 19, 2023

OpenAI董事會，現在的新CEO是Emmett Shear

昨天還看到一封信，寫的很有意思。

CEO是想的是用戶和市場，首席技術官想的是技術，，，

=================

親愛的 Mira 和 Ilya，

恭喜你們在 OpenAI 成功的政變。鑒於你們兩位作為創業者從未籌集過資金，接下來的情況可能需要我來說明一下。

首先，你們必須開始籌資，因為你們公司的每筆交易成本模式根本不切實際。記住，每次有人向 ChatGPT 提出一個愚蠢的問題，你們就要花費 0.3 美元。有時候，我甚至會重複問同一個問題五次。

更重要的是，最近那筆估值高達 800 億美元的交易已經成為過去，就像埃及的法老一樣，雖然聽起來很輝煌，但它已經成為曆史塵埃，不會再回來了。

不僅如此，你們還意外冒犯了你們最大的合作夥伴，微軟。盡管他們在公開場合會說些恭維話，但你我都明白，他們肯定對此感到極度憤怒。

你們的一些頂尖研究員已經離職，而如果說 Sam Altman 特別擅長的是什麽，那無疑就是籌集和運用資本。在你們的名片上印上 “CEO” 和 “實際 CEO” 之前，Sam 可能就已經啟動了一個新公司，籌集到了 10 億美元的投資，並向你們所有即將離去的頂尖產品人員和研究員發出了邀請。

這樣一來，你們迎接下周的，將是失去了頂級交易人、頂尖研究員、最具遠見的產品領袖、最重要的合作夥伴和最大的投資者，而你們的業務單位經濟模型也非常糟糕。

而且，別忘了，你們倆並不是真正的企業家。你們董事會的大多數成員從未真正從事過科技行業工作。你們從未經曆過向眾多投資者推銷、經過種種流程最終達成交易的過程中所遭遇的屢屢拒絕。有時候，即使投資者嘴上說“是”，心裏卻並非如此。有時甚至在合同上簽字了，卻並不打算真的打款。你們將不得不親身經曆這一切痛苦和拒絕，並承受為你們團隊成員提供生計的巨大壓力，比如他們的房貸、車貸、孩子的學費等，就像你們在上一次公司野餐時一起玩耍的那些人。

在你們被市場的殘酷現實擊垮後，你們將最終將 OpenAI 賣給微軟，並成為微軟位於多雨的西雅圖 4 號大樓的全球首席產品經理。微軟不會解雇你們，薩蒂亞總是會對你們說恰當的話，因為他是一個講究榮譽的人。

但在你心底，當你在 Netflix 上觀看關於 OpenAI 的電影，看到 Joseph-Gordon Levitt 的妻子扮演的董事會成員在 Google Meet 上解雇 Sam Altman 的場景時，你會反思並意識到，你本可以擁有一切——你本可以成為一家價值 1 萬億美元公司的掌舵人。但曆史終將忘記你。Sam、Greg 和所有其他人都會繼續前進，把你留在過去。e/acc 最終還是會創造出 OpenAI 的基本替代品。