控製隻是脆弱的幻覺，人類將不得不學會“Don't Die“

來源: 於 2025-12-01 12:49:08 [博客] [舊帖] [給我悄悄話] 本文已被閱讀：次

Bryan Johnson 在這條 X 帖子中，分享了他與 OpenAI 聯合創始人 Ilya Sutskever（@ilyasut）的觀點高度一致，圍繞 AI 發展對人類未來的影響展開討論。帖子附帶一段視頻（時長約 4 分鍾 41 秒），Johnson 可能在視頻中詳細闡述這些想法。以下是核心要點：

  • AI 驅動的人類進化： Ilya 預測，隨著 AI 變得“本能強大”（viscerally powerful），人類將發生前所未有的變化。Johnson 表示，他一直持相同觀點。目前人類尚未準備好激進變革，是因為還未感受到 AI 的壓力。一旦感受到，這種壓力將“吹開人類進化的向量”。Johnson 聲稱自己一直在構建適應這種變革的“原型”（prototype），以開啟人類潛能。
  • 風險下的合作： 隨著風險上升，競爭對手將轉向安全合作。Johnson 同意此觀點：當賭注涉及生存（existential stakes）時，遊戲將從“主導最大化”轉向“最小化死亡風險”（survival logic）。人類價值觀將圍繞這一邏輯重塑。
  • 對齊目標的重新定義： Ilya 建議，對齊（alignment）目標應是“有感知的存在”（sentient existence），而非“人類控製”。Johnson 讚同：控製隻是脆弱的幻覺（如 @karpathy 最近所言，管理 emergent systems 極為困難）。新範式不是“征服者”（Conqueror），而是“存在之戰士與守護者”（Warrior & Caretaker of Existence）。
  • 道德指南的必要性： Ilya 提出，公司需要在混亂中擁有“簡短的想法清單”（short list of ideas），作為道德清晰的代碼。Johnson 將此比作自己的“Don't Die 哲學”（Don't Die philosophy），強調生存與存在的核心價值。