控製隻是脆弱的幻覺,人類將不得不學會“Don't Die“

本帖於 2025-12-01 12:49:25 時間, 由普通用戶 未完的歌 編輯

Bryan Johnson 在這條 X 帖子中,分享了他與 OpenAI 聯合創始人 Ilya Sutskever(@ilyasut)的觀點高度一致,圍繞 AI 發展對人類未來的影響展開討論。帖子附帶一段視頻(時長約 4 分鍾 41 秒),Johnson 可能在視頻中詳細闡述這些想法。以下是核心要點:

  • AI 驅動的人類進化 Ilya 預測,隨著 AI 變得“本能強大”(viscerally powerful),人類將發生前所未有的變化。Johnson 表示,他一直持相同觀點。目前人類尚未準備好激進變革,是因為還未感受到 AI 的壓力。一旦感受到,這種壓力將“吹開人類進化的向量”。Johnson 聲稱自己一直在構建適應這種變革的“原型”(prototype),以開啟人類潛能。
  • 風險下的合作: 隨著風險上升,競爭對手將轉向安全合作。Johnson 同意此觀點:當賭注涉及生存(existential stakes)時,遊戲將從“主導最大化”轉向“最小化死亡風險”(survival logic)。人類價值觀將圍繞這一邏輯重塑。
  • 對齊目標的重新定義: Ilya 建議,對齊(alignment)目標應是“有感知的存在”(sentient existence),而非“人類控製”。Johnson 讚同:控製隻是脆弱的幻覺(如 @karpathy 最近所言,管理 emergent systems 極為困難)。新範式不是“征服者”(Conqueror),而是“存在之戰士與守護者”(Warrior & Caretaker of Existence)。
  • 道德指南的必要性: Ilya 提出,公司需要在混亂中擁有“簡短的想法清單”(short list of ideas),作為道德清晰的代碼。Johnson 將此比作自己的“Don't Die 哲學”(Don't Die philosophy),強調生存與存在的核心價值。

所有跟帖: 

A.I, A.I 告訴我,誰是世界上老魏最愛的女人? -有個用戶名- 給 有個用戶名 發送悄悄話 有個用戶名 的博客首頁 (0 bytes) () 12/01/2025 postreply 12:58:31

他老婆 -- A.I -有個用戶名- 給 有個用戶名 發送悄悄話 有個用戶名 的博客首頁 (0 bytes) () 12/01/2025 postreply 12:58:44

Don't Lie!!! -有個用戶名- 給 有個用戶名 發送悄悄話 有個用戶名 的博客首頁 (0 bytes) () 12/01/2025 postreply 12:58:58

--------如此循環10086次之後-------- -有個用戶名- 給 有個用戶名 發送悄悄話 有個用戶名 的博客首頁 (0 bytes) () 12/01/2025 postreply 12:59:31

死機 -- A.I -有個用戶名- 給 有個用戶名 發送悄悄話 有個用戶名 的博客首頁 (0 bytes) () 12/01/2025 postreply 12:59:47

啊,不好意思,我把Don't Die,看成Don't Lie了。。。 -有個用戶名- 給 有個用戶名 發送悄悄話 有個用戶名 的博客首頁 (0 bytes) () 12/01/2025 postreply 13:00:49

當AI力量真正顯現時,人類將被迫發生深刻變化;競爭將轉向為生存而合作,對AI不要想“控製”,而是人類 “不要死” 。 -未完的歌- 給 未完的歌 發送悄悄話 未完的歌 的博客首頁 (0 bytes) () 12/01/2025 postreply 13:03:07

好奇怪啊,我真的一直看成Don't Lie了,因為看完標題前半句的時候,我就開始代入腦電波交流秘密無處藏身的模式了。。 -有個用戶名- 給 有個用戶名 發送悄悄話 有個用戶名 的博客首頁 (0 bytes) () 12/01/2025 postreply 13:08:14

這就是傳說中的“幻覺” :D -未完的歌- 給 未完的歌 發送悄悄話 未完的歌 的博客首頁 (0 bytes) () 12/01/2025 postreply 13:08:53

Don't Die!!!! -有個用戶名- 給 有個用戶名 發送悄悄話 有個用戶名 的博客首頁 (0 bytes) () 12/01/2025 postreply 13:13:03

請您先登陸,再發跟帖!