讀赫拉利新書《智人之上》—— 麵目模糊的自我修正機製：從曆史主義到AI悲觀主義的警示
我讀的英文版：Nexus: A Brief History of Information Networks from the Stone Age to AI
其一：讀書筆記：
On Information and Networks
1. “History isn’t the study of the past; it is the study of change.”
2. “To summarize, a dictatorship is a centralized information network, lacking strong self-correcting mechanisms.”
3. “As fish live in water, humans live in a digital bureaucracy, constantly inhaling and exhaling data.”
4. “To tilt the balance in favor of truth, networks must develop and maintain strong self-correcting mechanisms that reward truth-telling.”
On Artificial Intelligence
5. “AI isn’t progressing toward human-level intelligence. It is evolving an entirely different type of intelligence.”
6. “Traditionally, AI has been an abbreviation for ‘artificial intelligence.’ But for reasons already evident from the previous discussion, it is perhaps better to think of it as ‘alien intelligence.’”
7. “Ultimately, AI-powered surveillance technology could result in the creation of total surveillance regimes that monitor citizens around the clock and facilitate new kinds of ubiquitous and automated totalitarian repression.”
On Human Myths and Stories
8. “All human political systems are based on fictions, but some admit it, and some do not.”
9. “Holy books like the Bible and the Quran are a technology to bypass human fallibility.”
10. “The naive view expects that if all restrictions on the free flow of information are removed, error will inevitably be exposed and displaced by truth.”
On Challenges in the Digital Age
11. “Nobody knows for sure what is causing the breakdown of democratic information networks.”
12. “The attempt to concentrate all information and power in one place, which was the Achilles’ heel of twentieth-century totalitarian regimes, might become a decisive advantage in the age of AI.”
On the Role of Humanity
13. “We are at one and the same time both the smartest and the stupidest animals on earth.”
14. “The decisions we all make in the coming years will determine whether summoning this alien intelligence proves to be a terminal error or the beginning of a hopeful new chapter in the evolution of life.”
其二：簡評
讀這本書，是因為赫拉利的《人類簡史》和《未來簡史》，兩本引人入勝，腦洞大開的宏觀曆史大作，充盈著對人類命運的深刻探索。這本新書《智人之上》，仍然以其一貫的曆史主義的觀點繼續剖析人類文明的演變，結合預定論者的警示與AI悲觀主義的論調，向讀者呈現了一個充滿不確定性的未來圖景。然而，赫拉利反複提到的一個核心概念——“self-correct mechanism”（自我修正機製），成為了貫穿全書的隱形線索，卻也因其模糊性留下了許多懸而未決的問題。
曆史主義的視角：未來如何延續過去的邏輯
赫拉利以曆史主義為工具，指出人類文明的發展始終依賴某種形式的社會自我修正機製。從宗教到科學，再到自由市場，每一種社會體係在出現偏差時，都會試圖找到內在修正的力量。他提到，農業革命後，糧食過剩的失衡逐漸促成了中央政權的形成；工業革命後，工人階級的抗爭推動了民主和福利製度的誕生。然而，這種“self-correct mechanism”在今天的技術驅動時代卻顯得格外脆弱，因為技術的複雜性和不可逆性使傳統的修正方式難以奏效。
預定論者的警示：沒有修正機製的未來
赫拉利對當前科技進步的深刻擔憂正是基於這一點：過去依靠社會運動、政治協商或思想革命形成的修正機製，或許無法適應技術飛速發展的時代。他以預定論者的姿態提出一個令人不安的問題——科技是否正在推動人類進入一個無法“修正”的未來？
例如，人工智能和基因編輯技術可能會強化既有的不平等，而算法在決策中的作用則會逐漸削弱公共監督的可能性。如果權力被少數科技精英掌控，而普通人甚至無法理解技術運作的基礎，那麽社會修正的窗口可能會被徹底關閉。這種前景讓人不禁懷疑，赫拉利筆下的“self-correct mechanism”是否還能發揮作用。
AI悲觀主義：修正機製的缺失與新型危機
在AI的崛起問題上，赫拉利的悲觀態度更顯突出。他警告，人工智能已經侵蝕了人類社會的自我修正能力。AI的高效與精準不僅讓人類逐漸依賴，也使得傳統的民主、教育與文化機製變得無力。例如，社交媒體中的算法強化了信息繭房，削弱了公眾多元對話的能力；而經濟領域的自動化決策則讓市場修正機製難以發揮作用。赫拉利沒有否認AI的潛力，但他擔憂，若沒有強有力的修正機製，AI的發展可能引發的是不可逆的係統性危機。
“Self-correct mechanism”：懸而未決的命題
盡管赫拉利反複提到“self-correct mechanism”這一概念，但他並未詳細論述這一機製在未來社會中如何形成或運行。他僅指出，曆史上的修正往往源於危機的爆發和集體反思，但這一邏輯是否能適用於技術時代卻未給出明確答案。例如，當算法的透明性和可控性被利益集團所掌控時，社會是否有能力重新奪回修正權？再如，麵對生物技術帶來的倫理挑戰，是否存在超越宗教或國家權威的新型修正機製？赫拉利對這些問題保持了一種開放式的提問態度，卻也因此引發了讀者對未來更多的擔憂。
《智人之上》是一部將曆史、哲學與科技交織在一起的思想巨作。赫拉利通過曆史主義的透鏡審視人類文明，結合對未來預定論式的警示與AI悲觀主義的反思，為讀者提供了一個理解技術時代複雜性的重要框架。然而，他關於“self-correct mechanism”的探討雖然引人深思，卻顯得不夠具體。也許，他的沉默本身就是一種暗示——修正機製的形成最終要依賴我們這一代人對危機的深刻理解與行動力。
赫拉利提出的問題雖然沒有答案，但正是這種開放性，使得《智人之上》成為一本推動讀者反思與討論的思想著作。人類是否能找到屬於技術時代的自我修正之道，仍然是未來需要解答的核心命題。
