我們正生活在一個由科技統禦一切的時代，隨著人工智能技術的深入發展，科技對我們的控製隻會越來越嚴密。
和我們的父輩相比，各種包和口袋已經不是出門的必備單品，你可以兩手空空，身上空無一物，但絕對不能沒有手機以及網絡，這意味著你與這個世界徹底失聯。
在知識圖譜上，對科技進行深入批判往往由科技哲學來完成，但在一個由算法驅動的時代，這需要更多人的關注，因為它關乎我們每天的生活，以及整個人類社會的前景。
前不久，著名作家、媒體人洪晃在法國巴黎與《智人之上》的作者、曆史學家尤瓦爾·赫拉利教授進行了一次長達一個小時的深入對談。
尤瓦爾·赫拉利（左）與洪晃（右）
這是一次精彩的思想碰撞，金句頻出，兩人從996、算法、美國大選這些日常生活中常見的具象話題逐步深入，探討了AI對人類的威脅，以及什麽是智能，什麽是道德等話題。
最終上升到了哲學的終極之問，麵對AI，我們不得不開始思考，人類存在的意義到底是什麽？
兩位嘉賓用豐富的細節為我們回答了那些經典的根本問題。
尤瓦爾·赫拉利認為，從長遠來看，我們沒有辦法與人工智能競爭，因為人的大腦是有限的，人工智能卻將曆經幾代人，幾個世紀，甚至幾千年的發展。
AI時代，真正重要的是人類去探索自己的意識和思維，再一次去理解生活中痛苦和幸福的深層根源，這就是存在的最終意義。
這是一篇阿信極少發布的萬字長文，但其中的思想深度和厚度，值得收藏下來滿滿品味。
AI是曆史上第一個能夠
真正創造新事物的機器和技術
洪晃：
赫拉利教授的係列作品是我過去十年讀過的最有啟發性的書，而且我認為對中國的讀者來說也是極具啟發性的。
我覺得對於中國人來說，過去一個世紀的發展是如此迅速，理解人類曆史的發展以及我們是如何走到這一步就顯得非常重要。
因此我相信您今年推出的這本新書——《智人之上》會大受歡迎。希望我們的對話能啟發中國讀者，並且鼓勵他們去更好地理解您所描述的信息係統。
我想從這個問題開啟今天的對話：我覺得您在《智人之上》中談到的一些概念，除了那些對於西方哲學有所了解的讀者，對於其他中國讀者來說不是很熟悉，其中一個非常重要的概念就是“主體間現實”，請您先來談談。
赫拉利：這個開場的概念解釋確實很重要，我很樂意說明。
這個詞看上去有點唬人，但它的意思其實很簡單。我們大多數人都知道現實有兩個層麵，即“客觀現實”和“主觀現實”。
客觀現實是獨立於我們想法的存在，與人類所認為的和相信的無關。很多自然規律：比如重力，在曆史的大部分時間裏人們並不知道重力，但它依然在那兒維持著這個世界繞著太陽旋轉，盡管人們相信世界是靜止不動的，所以這就是客觀現實。
主觀現實是存在於我們自己頭腦中、情感中、信念中的東西，如果我感到疼痛，這就是一種主觀現實。世界上沒有其他人能感受到這種疼痛，我能感受到，這就是我的主觀現實，如果我不再感到疼痛，它就消失了。
但在曆史上，一些最重要的東西是介於兩者之間，它們是主體間的，一個很好的例子就是錢。
讓我們來想想錢是什麽。錢不像小行星或重力那樣是客觀的。但是很多人相信它仍然是有價值的。為什麽這張紙有價值？你不能吃，因為它不是食物；你也不能喝，因為它沒有客觀價值。但是如果我去超市把這張紙給陌生人，他們就會給我一個蘋果。
所以錢不是一種客觀現實，但它也不是主觀的，因為這不僅僅是我的信念，要讓錢起作用需要很多人同時相信它，這就是主體間現實。
不隻錢是主體間現實，比賽規則或一個國家的法律也是，它們不像物理定律那樣，即使人們不相信也起作用，但它們也不是某一個人的夢，需要數百萬人相信這些法律，它們才能起作用。
在宗教和神靈方麵也是如此，神靈其實並不存在，它們不是一種客觀現實，但如果數百萬人相信同一個神靈，那麽它就會變成非常強大的東西，對現實產生很大影響力。
洪晃：在《智人之上》中，您提出人工智能時代的一個主要擔憂是計算機間的現實將與人類創造的主體間現實共存，這是怎麽做到的呢？
赫拉利：這聽起來很複雜，但實際上並非如此。
幾千年來，我們生活在人類思維創造的現實中。無論是金錢、神，還是任何比賽規則、國家法律，這些都是人類創造的。我們發明了事物，我們互相交談，我們寫書，寫詩，寫戲劇，這就是我們創造這種共同的主體間現實的方式。
世界上沒有別的物種能做到這一點。我們創造了許多工具和機器，但沒有任何機器能夠創造新的法律，創造新的神，創造新的貨幣。比如讓我們想想印刷機，它能夠印刷書籍，能打印我的想法，但它不能產生新的想法。
而現在，人工智能和計算機是不同的。人工智能是曆史上第一個能夠真正創造新事物的機器和技術。人工智能可以寫一本書，現階段，這些書也許不是很好，但它卻是一本完全由人工智能寫成的新書，而不是人類書籍的副本。
人工智能可以開始創造新的法律，創造新的貨幣。你知道，理論上到目前為止所有加密貨幣，比如比特幣，都是人類發明的。我不太確定它們在中國有多大影響力，但現在在西方它們變得非常流行。
像比特幣這樣的加密貨幣的價值取決於人類的想法，這就是為什麽它非常受政治事件的影響。比如特朗普當選美國總統，比特幣立刻升值，為什麽？因為人類的想法。人們相信特朗普支持比特幣，所以他會放鬆金融市場對比特幣監管，於是比特幣會升值。這些都是人類的想法。
如果現在計算機和人工智能開始發明新的貨幣類型，那麽會發生什麽呢？現在世界上大部分的錢在哪裏？世界上的錢不再是紙張或硬幣，它隻是計算機中的信息。
如果人工智能開始發明新的貨幣類型會怎樣？金融將是人工智能的理想遊樂場，因為它是純粹的信息世界，隻有信息。這就是金融市場上發生的所有事情，貨幣、債券、股票、證券交易都隻有信息，而人工智能能比人類更好地玩轉這場金融遊戲。
沒有人能跟蹤金融市場上發生的所有不同的事情，信息太多了，但人工智能可以，所以人工智能很有可能在金融市場中扮演越來越重要的角色。人們將賦予它們權威與權力，去做決定，去投資，然後人工智能係統可能會開始創造新的金融工具。
貨幣隻是一種金融工具，所以這是一種計算機間的現實，一種主體間現實，你、我，以及許多其他人，我們通過交流和互動來創造貨幣，我們所有人都相信這種貨幣，那麽它就可以流通。
現在我們麵臨一種情況，數以百萬計的計算機，數以百萬計的人工智能可能會進行交互、交易，並創造我們所不能創造的新型貨幣，我們人類甚至無法理解這類貨幣。
這就像馬不理解我們的貨幣一樣。千百年來人們一直用錢買賣馬匹，但馬無法理解發生了什麽。
現在你可以讓人工智能係統對我們的生活做出決定，比如你向銀行申請貸款，一個人工智能係統決定是否給你貸款，而我們無法理解。
真正重要的不是智能，而是意識
洪晃：《智人之上》中提到了另一件令人擔憂的事，我認為您在采訪中和書中都多次強調了這一點，那就是：智能和意識之間存在差異，而人類擁有意識，也擁有智能，但在效率方麵我們的智能根本無法與計算機相比。
所以在這方麵，如果計算機、計算機間的現實，正在以我們像馬一樣無法理解的速度迅速向我們走來，那麽我們如何提升意識，以便在沒有意識的純粹智能之上擁有更多優勢？
赫拉利：當下我們仍然擁有很多權力，仍然擁有控製權。
但也許首先我們應該再次解釋一下智能和意識之間的區別，因為人們往往會把它們混淆。
智能是追求目標的能力，以及在實現目標的過程中解決問題的能力。它可能是一輛汽車需要到達某個目的地，並在路上進行空間導航；它可能是下圍棋比賽時的目標是贏得比賽。在此過程中你需要解決許多問題，這就是智能。
而計算機人工智能現在比我們更聰明，至少在下圍棋這樣的細分領域。早在八年前AlphaGo擊敗李世石時就很清楚，在圍棋世界，人工智能比我們更聰明，它能更好地解決問題。
意識是另一回事。意識是感受事物的能力，痛苦和快樂是最基本的感受，還有更複雜的感受，比如愛、恨、悲傷等等。人工智能和計算機什麽感覺都沒有。
當AlphaGo與李世石對戰時，它並不對結果感到焦慮；當它贏了比賽時，它並不感到高興；當它輸了比賽時，它隻是輸了一場比賽，它並不感到悲傷，什麽感覺都沒有。
人類不僅擁有感受，而且在我們體內，意識和智能是相互交織的。因為我們決定目標的方式以及我們解決問題的方式都基於我們的感受，我們往往會把這兩者混淆。
許多人認為所有的計算機都有智能，那麽它們也一定有意識。但它們沒有，至少現在沒有。它們沒有任何感受。但現在的問題是即使它們沒有感受，它們也在越來越多的領域變得比我們更聰明。
一開始隻是像下圍棋這樣的小事，但之後可能會是金融領域、金融係統，在這種世界上如此重要的部分中，人工智能係統會比我們更優秀。
如果人工智能在軍事領域也能更優秀，會發生什麽？不僅僅是士兵，還有指揮官，然後我們讓人工智能控製軍隊，這太危險了。這已經在發生了。
所以，巨大的挑戰擺在我們麵前，如何保持我們的掌控力？
歸根結底，生活中真正重要的不是智能，而是意識；不是解決問題的能力，而是情感。你為什麽想要解決所有問題呢？就是因為我們的情感。
比如你有一個醫療相關的問題，你想要解決它以拯救某人免於死亡，免於受到某種疾病的折磨。為什麽呢？因為疾病不僅會讓患者痛苦，而且會讓他們的家人、朋友痛苦不堪，感到悲傷。所以整個倫理和道德領域都是和情感相關的。
道德不是要遵守某位神的律法，或者布道，而是要將人們從苦難、痛苦中解放出來。這就是道德的全部意義。
我們如何擺脫苦難？這是道德層麵的問題。現在的人工智能係統沒有任何道德觀念，因為它們不會痛苦也不會快樂，它們沒有情感。
通過這種方式，讓我們再次思考，意識是什麽？意識是一種體驗痛苦的能力，但也是從痛苦中解脫出來的能力，這是道德倫理的核心問題。目前而言，人工智能係統沒有情感。也許在未來它們能夠發展出情感，然後它們也會有道德觀念。
而我們正在麵臨的問題是我們如何保持對人工智能的掌控，以確保它們做出符合倫理的決策。我們不能把倫理問題交給人工智能，再次強調，因為它們沒有道德觀念，它們沒有情感。
長遠來看，人類無法與AI競爭
洪晃：我記得人工智能第一次成為公眾關注的焦點是很多人熱火朝天地寫書來展望人工智能的未來。就像動畫片《傑斐遜一家》中想象的未來世界，是如此的樂觀。
人們常說的一句話，在中國尤其流行，那些撿垃圾和打掃街道的髒活累活從現在開始都將由人工智能完成，而人類將會騰出時間去創造美好的事物，比如寫作、唱歌、拍電影之類的。
但是實際發生了什麽呢？事實並非如此，因為人工智能似乎和人類產生了衝突。
人類和人工智能之間的第一次衝突出現在好萊塢的編劇協會，他們因為大公司在使用人工智能而抗議和罷工，所以那種認為所有的髒活、累活都將由人工智能來完成的輕快感好像是錯的。
我們不得不麵對一個殘酷的事實，那就是有創造力的人反而是第一批被人工智能威脅的人。
赫拉利：是的，我認為有兩點應該明確。
首先，人工智能仍然有巨大的積極潛力，否則人們不會再次去開發它，醫療保健就是最好的例子。
人工智能可以為我們提供曆史上最好的醫療保健，它不僅可以發明新藥物，還可以創造出數百萬的人工智能醫生，24小時隨時可用，它們閱讀了全部的醫療文獻，可以記住你的全部既往病史，這是任何人類醫生都做不到的，潛力是巨大的。
但是它也像每一項新技術一樣有著威脅和危險，其中最大的威脅之一就在就業市場。很多人認為至少創造性的工作不會受到人工智能的影響，事實證明這是完全錯誤的。
人工智能很難做洗碗的工作。因為要在一個滿是人的餐廳裏穿行，拿走盤子而不打碎它們，然後把它們拿回去，需要運動技能和社交技能，才能在複雜的物理環境中進行交互。
相比之下，人工智能在單純處理信息、不需要與物理世界交互，以及創造大量創意性的作品時表現最佳。比如寫一本書就是純粹的信息工作。對於越來越多的這類創造性工作，人工智能實際上可以實現自動化，甚至做得更好。
人類犯的主要錯誤是認為意識對於創造力是必不可少的，你必須有情感才能有創造力。
當然，這取決於我們對創造力的定義。對創造力最普遍的定義是，你能夠理解一種模式，然後打破這種模式。比如在音樂方麵，你聽過很多以前的音樂，你了解了寫音樂的模式，然後你打破模式，改變模式中的某些東西，這就是創造。
人們說人工智能在音樂方麵並不是真正具有創造力，它隻是把人類的音樂進行組合和改變，因為實際上這個過程正是人類作曲家所做的事。
貝多芬、莫紮特、披頭士或者其他音樂家，他們都不是從零開始的，他們聽了很多以前的音樂，理解了音樂的模式，然後想如果我改變這個，會發生什麽？這就是創造力，而這是人工智能甚至比人類都做得更好的事情。
人工智能在模式識別方麵非常出色，而且一旦它識別出模式，它可以改變它並打破它，這就是創造力。在有些領域中，人工智能比人類更有創造力，雖然目前還比較少。
圍棋也許是最著名的例子。在過去的8年裏，圍棋發生的變化比之前800年還要多，因為人工智能發現了人類從未想到的新策略。所以在圍棋方麵，人工智能比人類更有創造力。
在音樂、文學方麵情況還不太一樣，因為它們更加複雜，但人工智能尚處於人工智能革命的最初階段，我認為10年或20年後，我們沒有理由懷疑人工智能寫書或作曲的能力，它們的創造力將與人類相當，甚至更勝一籌。
洪晃：那麽在那種情況下，我們該怎麽辦？
赫拉利：我們應該更深入地審視自己，了解什麽是真正的本質，作為一個人什麽是真正重要的。
答案並不是智能。就智能而言，我認為從長遠來看，我們沒有辦法與人工智能競爭，因為我們的大腦是有限的，人工智能將會曆經幾代人，幾個世紀，甚至幾千年的發展。
但人類真正重要的是意識，即使音樂或詩歌之類的東西，人工智能可以開始比我們更具創意地創作音樂，但我們沒辦法讓人工智能去體驗音樂，這是隻有人類具備的體驗，類似的體驗不僅是聽，還有演奏。
比如你彈鋼琴是具有價值，並且可以獲得樂趣的，人工智能可以比你彈得更好，但你沒法把彈鋼琴的工作交給人工智能。它不能代勞這種快樂，快樂就像人際關係一樣，你不能讓人工智能取代你與家人和朋友的關係，那是沒有意義的。
所以我認為一直以來重要的是人類去探索自己的意識和思維，再一次去理解生活中痛苦和幸福的深層根源，這就是存在的最終意義。至少目前，這是人工智能完全無法做到的，因為它沒有意識，沒有心靈。
我們在發展人工智能以及發展我們的智能方麵投入了很多，忽視了發展我們的意識，但實際上對於人類來說這才是真正重要的。
算法破解了人類思維
讓整個社會出現精神疾病
洪晃：因為中國的社交媒體與西方相比仿佛處於一個平行宇宙，電子商務正在蓬勃發展。
但你經常能在中國的社交媒體上看到的一個爭論：吸引人們購買的強大算法，尤其是直播，正在取代許多實體店，所以很多人覺得人工智能和人類的第一場戰鬥會發生在中國的零售業。
因為由於社交媒體的蓬勃發展，製造商和零售店店主正在被擠出市場。
現在是我們質疑資本主義運作方式的時候了嗎？因為一個開放的市場總是傾向於獎勵效率最高的人，而算法顯然證明了它比實體店、夫妻店或製造商等更有效。
赫拉利：所以關鍵問題是目標是什麽？目的是什麽？如果你隻想要最高效的服務，那麽算法將會越來越多地接管，但在很多領域，體驗比效率更重要。
談到價值，比如說當你想要購書時，也許你在網上買書更容易，但在曆史上，書店提供的是一種體驗，這比買書的功能重要得多。
也許你去書店遇到了其他人，你隻是逛逛書店這個實體空間，然後邂逅了一本你甚至從未想過要看的書，這是由於書店實體空間的布置方式讓你偶然遇到。
我記得當我還是學生的時候我會去大學圖書館，我隻是在書架間漫步，從這裏拿點東西，從那裏拿點東西，這是一種實體體驗，這無法真正被複製。
我的意思是算法或許可以有辦法直接帶你去你想去的地方，但最有趣的事情往往是途中意外發生的。所以再次強調，在某些情況下我們隻需要效率，比如你生病了，你需要有效的治療，效率是最重要的，但在另外一些情況下不是。
這與另一個非常重要的正在發生的變化有關，簡單來說就是生活的節奏。
人類和算法之間存在著非常大的差異，人類是有機生命體；算法是無機物。我們按周期工作，白天與黑夜，夏天與冬天，生長與衰敗；我們有活動時間、休息時間和睡眠時間。
我們往往比算法慢得多。算法要快得多，它們沒有周期，它們從不休息，它們從不睡覺，它們比我們快幾個數量級。
當人類和算法接觸時，一個移動得很慢，一個移動得非常快，那麽誰去適應誰？現在世界上正在發生什麽？在很多領域，比如商業和社交媒體等領域，人類被迫因為算法的速度而行動得越來越快，因為這是算法的節奏。
洪晃：電子商務是全天候在線的，淩晨3點醒來你就可以瀏覽和購買，有些人專門在半夜向失眠的人推銷。
赫拉利：確實是這樣的。在以前，商店都有關門的時候。即使你考慮市場，我們剛剛已經談了很多關於金融市場的事情，或許你想到了像華爾街這樣的地方，華爾街實際上隻在周一到周五上午9點半到下午4點開盤。為什麽呢？
因為在傳統上，銀行家也是人，他們晚上想睡覺，他們有家庭，他們想度假，他們想慶祝節日。然而，算法不需要睡覺，它們沒有家庭，它們不去度假，所以它們全天候工作。
這對銀行家、投資者、商業、社交媒體的壓力就是不要睡覺，不要去度假，就像算法那樣全天候工作。但是，這樣對人類的幸福和健康是具有破壞性的。
如果你強迫一個生命體、一個動物、一個人一天24小時都保持活躍，最終他們會崩潰和死亡。
我們無法跟上算法的節奏，它們非常高效。如果我們需要，我們有必要讓它們慢下來，降低效率，因為如果我們被迫像它們那樣工作，我們就會崩潰。
洪晃：你在《智人之上》中指出社交媒體的另一個問題是，大多數社交媒體公司，無論是在中國還是在西方，他們給算法定下的目標都是流量，算法隻需要盡可能地創造和產生流量。
不幸的是，人類喜歡負麵的、聳人聽聞的或糟糕的信息。我認為我們可以討論為什麽會這樣，但很顯然，算法真的可以學會這麽做。
赫拉利：是的，算法基本上破解了人類的思維，就像破解電腦一樣破解了人類大腦。
如果你想要破解電腦，就去尋找代碼中最薄弱的環節。所以算法找到了人類思維代碼中最薄弱的環節。
如果你想吸引人們的注意力，讓他們留在平台上以產生更多流量，你就給他們展示一些讓他們生氣或者讓他們害怕的東西，那麽他們就會緊盯著屏幕，這樣流量就會越來越多。
但這會傳播憤怒、恐懼和憤慨，導致不僅是個人，而且是整個社會出現精神疾病。
如果你整天攝入垃圾信息，你的思維就會生病，這是有進化方麵的原因的。回到十萬年前的熱帶草原，你穿過森林時並不是每時每刻都有蛇，你可能走幾個小時都碰不到蛇。但是一旦有蛇出現，你就會小心起來。
而現在在社交媒體上，每時每刻都有“蛇”，就好像他們發現了如果想吸引你的注意力，就需要給你展示“蛇”。每次你看到一條“蛇”就會引起注意，因為這是我們生來就有的反應機製。
於是，他們創造了一個虛擬的、人為的現實，其中充滿了恐懼、憤怒和貪婪，不斷吸引著我們的注意力。短期內流量的聚集可能對相關公司有好處，但對於個人和社會來說，這是具有破壞性的。
現在信任正在崩潰
這是一個惡性循環
洪晃：你這本書的內容，我覺得有很大一部分是在討論關於社交媒體、算法、人工智能和政治，以及它們如何影響我們的社會的。
這是我讀過的最深刻的讀物。我認為每個人都應該讀一讀結語，明白在黑暗盡頭有光明。
結合近期美國大選情況，您認為算法和人工智能是如何在美國選舉中發揮作用的？
赫拉利：我認為影響並不是直接的。影響是通過營造一種特定的社會心理環境，因為很明顯，唐納德·特朗普是恐懼、憤怒和仇恨的候選人，這就是他在競選活動和演講中談論最多的內容。
對我來說關鍵的問題是，如果他是憤怒和恐懼的候選人，為什麽美國人會如此憤怒和恐懼？哈裏斯帶著希望和喜悅的信息，特朗普帶著憤怒和恐懼的信息，為什麽他們會選擇憤怒和恐懼？
當你看美國的時候，它是世界上最強大的國家。
在經濟方麵它是最大的經濟體，它的經濟正在蓬勃發展；它擁有世界上最強大的軍隊，在軍事方麵它仍然是世界第一；它在人工智能競賽中處於領先地位，就像科技公司大都在美國的加利福尼亞州、得克薩斯州等地。
為什麽世界第一的國家會如此恐懼？部分原因是那些算法的存在。
運行社交媒體的算法多年來一直在向數百萬人灌輸憤怒和恐懼，所以盡管人們知道現實，但並不是對現實做出反應，而是對他們所知道的現實畫像做出反應。現實畫像可能與現實完全不同。
我們並不是真的生活在現實中，我們生活在一個信息繭房裏。傳統上這是由人類創造的，現在越來越多地是由算法創造的，並且信息比現實更重要。
洪晃：這就是說我們正在這個繭房裏吞噬信息嗎？我知道你曾建議信息節食，那應該怎麽運作呢？
赫拉利：信息就像食物一樣，過去信息很稀缺，人們會接收他們能找到的任何信息和任何書籍。
現在信息超級豐富，我們被太多的信息淹沒了，其中很多是垃圾信息，這些垃圾信息是被人為地填充了仇恨、貪婪和恐懼，使其具有成癮性，這就是算法所做的事情。
我們不需要完全避開信息，事實上，我們需要信息。讀書、看新聞是有好處的，但對我們來說，少接收點信息也是好事。我們不是需要大量的信息，而是高質量的信息。實際上我們需要花更多的時間來消化這些一味接收的信息。
這又和食物一樣，想象一下有人整天都在吃東西，不停地吃，胃就沒有時間來消化了，所以這就和你隻是不停地瀏覽所有信息，信息進入大腦而大腦沒有時間來消化它一樣。
所以你需要信息，需要時間來接收信息，之後還需要時間來反思、分析、思考這些信息，這就是一種平衡的信息節食。
洪晃：當你說到高質量的信息時，我會想到有一些被人們稱為傳統媒體的媒體公司。但是就當下而言，媒體的信息傳播有了很大的不同。
當你進行信息節食時，最好的方法是什麽？或者說這意味著什麽傳統媒體仍然是優質食品？
赫拉利：我認為對我來說，至少有兩個問題和要點很關鍵。
首先，比起短篇我更喜歡長篇。有時候你看信息隻看標題，但如果你真的想了解一些事情，讀一本400頁的書比看很多短視頻要好，因為在短視頻中，你無法深入。
另一件事是，你如何判斷信息來源是否可信。這麽多的新媒體，你怎麽知道它是否值得信賴？僅僅因為它是寫出來的，僅僅因為你看到了視頻，但並不意味著它是真的。
這裏要問的問題是，自我糾正機製是什麽？自我糾正機製是係統內的一種機製，它一直致力於識別和糾正係統本身的錯誤，而不是其他係統的錯誤。看到別人的錯誤很容易，你如何看待自己的錯誤？
很多社交媒體的動力僅僅是為了獲得流量，所以它們有動機說最聳人聽聞的、最憤怒的、最可怕的事情來獲得更多的流量。如果它們犯了錯誤，它們就沒有動力說昨天發布的文章不是真的，實際上是搞錯了，所以這些信息渠道不值得信賴。
也許我們真正要問的問題是，你錯在哪裏？告訴我你以前犯過的錯誤。如果你問一位科學家、物理學家、生物學家，請告訴我生物學的重大錯誤，他們可以給你一長串他們過去做錯的事情。
但如果你問某個機構、某個人，告訴我你過去犯的重大錯誤。他們說我們從不犯錯。請永遠不要相信那個人或那個機構。
洪晃：所以你一定有接觸到，或者有很多大型人工智能開發者尋求與你的交談，比如ChatGPT、山姆·奧德曼，他們會向你承認他們的錯誤嗎？或者說這個你們的對話是如何進行的？因為你或多或少談論起他們。
赫拉利：他們中的一些人非常關心正在發生的事情，他們願意接受這種對話。但是他們不斷地回到一個話題，那就是：技術競賽。
他們說，是的，我們知道我們犯了錯誤，我們知道我們正在做的事情是危險的。我們知道我們實際上需要放慢速度，關注安全，更加謹慎。
但另一家公司或另一個國家的競爭對手，他們不會放慢腳步。如果我們放慢腳步，他們將贏得人工智能競賽。所以他們說如果我們放慢速度，隻意味著最無情的競爭對手會贏，所以我們必須快速行動。
當你和他們的競爭對手交談時，競爭對手也會說同樣的話。他們還說，是的，我們知道這很危險。我們想慢下來，但我們的對手並沒有慢下來，所以我們也不能。
每個人都被鎖在這種“軍備競賽”的心態中，這很難打破，因為真正缺乏的是人與人之間的信任。當他們無法信任其他人的時候，他們是在賭他們可以信任人工智能。
不幸的是，在過去的10到15年裏，我們看到世界各地信任的崩潰。21世紀初，世界上充滿了信任。現在信任正在崩潰，這是一個惡性循環。
當信任越少時，人們就變得更有競爭性，更無情，更自私。每個人，每個公司，每個國家都隻考慮自己。然後信任就更少了，情況越來越糟。
洪晃：這是一個惡性循環。
我想以一個積極的方式結束這次對話，談談你在本書結尾談到的“共生的人際關係”。什麽是共生關係？我們如何發現共生關係？
從曆史的角度來看，它似乎比憤怒和仇恨更強大，或者是因為曆經數萬年人類已經生存下來了，我們如何重新發現那種關係？
赫拉利：盡管和陌生人建立信任很困難，但顯然我們可以做到。因為在10萬年前，人類生活在50或100人的小部落中，他們幾乎從不與部落以外的任何人合作。今天，我們有像中國這樣十幾億公民密切合作的國家。國家之間有很多國際合作。
雖然我們通常關注緊張局勢和競爭，但是，在經濟、科學和醫學方麵，我們仍然有很多合作。
我們吃的很多食物都是世界另一端的人種的，我們使用的工具，拯救我們生命的藥物往往是世界另一端的人發明和生產的。如果沒有與大量我們從未見過的完全陌生的人合作的能力，我們就不可能有這樣的文明。
也許我們不會說這種語言。一些有競爭心態的人，他們幻想著完全獨立：我不想依賴任何人，我想要完全獨立。但這是一個純粹的幻想。世界上沒有什麽是完全獨立的，我們吃的食物、穿的衣服、喝的水，一切都來自其他人的努力。
當然，不僅僅是人，就像我們呼吸的空氣，吃的食物，如果沒有動物、植物、生態係統、太陽，我們就不可能存在。
宇宙中沒有什麽是完全獨立的。當你遇到這些爭強好勝、冷酷無情的人，他們認為“我會變得異常強大，我不會再依賴任何人”，他們隻是在四周製造破壞，最終，他們也毀滅了自己。
所以每個人都需要有一個非常基本的認識，但這很難。
