對話李開複:當AI比人聰明,我們還剩什麽？

12月12日，知名學者、《智人之上》的作者赫拉利與國際AI專家、零一萬物首席執行官、創新工場董事長李開複博士就生成式AI對個人及世界的影響，開展了一次對談。在這場橫跨巴黎與北京的視頻對話中，兩位相隔萬裏的思想家展開了一場關於人類命運的深度探討。

對話伊始，兩人就勾勒出了一幅令人深思的圖景：人類之所以能夠主導這個星球，並非源於超越其他物種的體魄或智慧，而是因為我們構建了一個空前龐大的協作網絡。然而如今，這個建立在信息交換基礎上的人類優勢，正麵臨著我們自己造就的挑戰：一個不僅能處理信息，還能自主決策和創造的智能體。

最令人深思的是，人工智能帶來的真正挑戰並非科幻電影中描繪的機器人統治，而是它對人類社會肌理的悄然改變。從主導我們信息獲取的社交媒體算法，到可能重塑金融市場的智能交易係統，再到取代傳統工作崗位的智能助手，這些改變既帶來機遇，更孕育著風險。這些風險值得每個社會參與者的注意。

但在這場充滿哲思的對話中，最引人深省的或許是兩位專家對人性本質的思考：當AI能夠模仿人類的智能，甚至在某些領域超越人類時，我們究竟還剩下什麽？

答案令人意外地樸素而深刻：是意識，是感受痛苦與快樂的能力，是對他人真實的關懷。

因此在這場技術革命中，人類並非注定要被超越。赫拉利與李開複都指出，人工智能的崛起反而迫使我們重新思考人性的本質。它提醒我們，真正的人際關係建立在對他人痛苦的關懷之上，而不是簡單的需求滿足。

以下為對談實錄（經編輯刪減）：

赫拉利：您好，李博士。同時，也向各位觀眾問好。我現在在巴黎，非常高興能夠以視頻連線的方式與大家見麵。得益於現代科技和信息技術的發展，即便我們相隔萬裏，也能保持聯係。

李開複：是的，再次見到您真是太好了，赫拉利教授。我們以前幾乎每年都能見麵，但是疫情把我們分開了，再次見到您真是太好了。

赫拉利：人類之所以能主宰世界，是因為我們比任何其他動物都更擅長合作。就個體而言，我們不比其他動物聰明或強壯多少。以黑猩猩為例，它們隻能在50隻或100隻的小群體中合作，而人類卻能夠建立跨越數百萬乃至數十億人的大規模合作網絡。

這正是我們力量的來源，我們通過信息交換來實現這一點。我們並不直接認識自己所在國家、公司或商業網絡中的大多數成員，但我們保持聯絡、我們相互連接、我們通過信息進行協作，這就是信息為何如此重要的原因。

實際上，我們並不直接生活在現實中，我們不是對現實本身做出反應，而是對我們對現實的印象做出反應。我們根據所獲得的關於現實的信息作出回應，這正是信息至關重要的原因。

在曆史的這一階段，我們發明了有史以來最強大、最重要的信息技術——人工智能。人工智能的獨特之處在於，它不單是我們手中的工具，它還是一個活躍且自主的代理，能夠自行做出決策，能夠自己發明和創造新想法。

在曆史上，我們發明了許多工具和機器，但對這些工具和機器的控製權始終在我們手中，尤其是對信息的控製權。

以印刷機為例，它使我們能夠廣泛傳播我們的信息、故事和思想，但印刷機從未自行做出過任何決定。比如，印刷哪本書，印刷機不能創作新書。它不能創造信息，隻能複製和傳播我們已有的作品。而人工智能則不同，人工智能能夠自行做出決策並且能夠自行產生新的想法。這是人工智能的特征，這定義了它的本質。

現在，關於人工智能有很多炒作和誤解。什麽是人工智能？它與以往的機器或計算機有何不同？區別在於，如果某個係統不能自我改變、不能學習和創造新事物，那麽它就不是人工智能，而隻是一台老式機器。

我們之所以能夠主宰世界，是因為我們創建了這些信息網絡。但現在，我們可能已經創造出了一種能夠從我們手中奪取信息網絡控製權的東西。

在我請李博士分享他的觀點之前，我想舉一個例子。

以編輯的角色為例，無論是書籍出版、新聞機構還是報紙的編輯，他們都是世上最重要的一些人物，擁有巨大的權力。他們需要從昨天世界上發生的上百萬件事情中挑選出最重要的10件，讓它們出現在報紙頭版或電視新聞播報中。如果你問自己：“當今世上最重要的編輯是誰？他們的名字是什麽？”你會發現他們沒有名字，因為它們是算法，它們是人工智能。

大型社交媒體平台的編輯，比如YouTube、Twitter或TikTok，已經不再是人，它們是人工智能。所以，人工智能已經開始從我們手中接管對信息網絡的控製權。

李開複：是的，我同意赫拉利教授的觀點，人工智能將推動自己再次實現更大的飛躍。

在我的日常工作中，我已經使用人工智能代勞我所做的大部分事情。我認為，越來越多的人正在這樣做，但是許多人認為人工智能隻是一個聊天機器人，或是一個智能搜索引擎。這確實是當前的情況，但這僅僅是它的初步表現形式。

我們已經看到這樣的落地場景，比如“給我一個答案”“與我對話”。它正在轉變為我的助手，幫助我完成任務，而這將進一步發展為數字人勞動力接管某些人的部分或全部工作。隨後，它將轉變為接近自動化的狀態——即人類給出指令,人工智能作為智能體，自由地創造信息、做出決策。最終全自動化的助手將成為代表公司或個人的智能體，決定做一些人可能未明確指示，但人工智能認為“你需要”的事情。

在某種意義上，TikTok給你推送一個視頻，就是一個非常簡單的例子。你並沒有主動要求看那個視頻，但它認為你會感興趣。如果將這種智能放大一百萬倍，人工智能就能知道你想如何投資並替你進行投資。人工智能知道你妻子的生日快到了，就會幫你買禮物。

這些都是相對無害的例子，當然，還有許多可能帶來潛在問題的例子。

赫拉利：您是否認為我們很快就會看到人工智能在金融市場中做出重大決策？比如人工智能投資者和人工智能製定新的投資策略甚至創造新的金融工具？

李開複：是的，這在某種程度上已經發生了。在美國、中國及其他國家和地區，許多人工智能量化基金已經取得了出色的回報。這些基金基本上是由人工智能來做決策，人工智能每天會分析所有的交易數據和新聞，並決定最佳的股票購買時機，然後在沒有人類指令的情況下買進和賣出。人類提供的唯一信息是所有用於做決策的數據和目標，即在一定風險承受範圍內達到最高收益，這已經成為現實。

如果我們審視人類的所有任務，投資可能是最具量化性的任務。因為幾乎所有決策都是基於實時信息，人工智能能夠更快地閱讀、篩選可能性、進行組合交易，並且能夠更快速地買進和賣出，還具備更強大的信息獲取能力。所以，當人們讀到某位企業總裁的發言並考慮購買某隻股票時，人工智能很可能已經搶先一步完成了交易。這已經成為現實。

赫拉利：那麽，這是否會像在其他特定領域發生的那樣，比如圍棋？我們已經知道人工智能比任何人都更智能，甚至更有創造力。在金融領域是否也會發生類似的情況？

如果確實如此，那麽當人類和人類政府失去了對金融係統的控製，這對社會乃至政治意味著什麽？也許他們再也無法理解金融係統及主要的金融決策。所以，你仍然會有作為這個體係的官方領導的人類總統、總理和銀行家，但他們不再能夠理解這個世界的一個重要組成部分——金融係統，也不再能夠對其進行監管或做出決策。

李開複：是的，我認為幾乎每個職業都有這種風險。在金融領域，我提到的AI獲取信息的速度和廣度是人類無法企及的。

有一些方麵例外。比如，如果你是一名風險投資人，你可能依賴於直覺判斷一個人的微表情真誠與否等；而在企業重組和並購中，你需要深入了解不同人格並進行更深層次的解讀。但是，除了人與人之間的互動之外，在所有基於信息的方麵上，我們都無法勝過人工智能。

人工智能醫生將開始變得比普通醫生更優秀。醫生將開始把人工智能作為一個可能的參考，然後，隨著人工智能不斷進步，醫生會失去自信，更加信任人工智能，最終變成一個橡皮圖章。盡管我們將責任和醫療失誤的後果歸咎於醫生，但當醫生看到人工智能進步的速度時，最終不可避免地會感到人類在這方麵遠不如人工智能準確。

那時，醫生將隻是蓋章擔保決策逐步轉向由人工智能做出決策。

赫拉利：是的，我們已經在軍事領域看到了這種滑坡效應。

因為選擇軍事目標需要非常迅速地分析大量信息，所以人工智能將目標選取過程加速了幾個量級。但這當然也引發了一個非常大的倫理問題，如果軍方使用的人工智能告訴你某棟建築是恐怖組織的總部或者是敵方的指揮部，你是直接相信人工智能並下令轟炸，還是先由人類來驗證這一信息的準確性？

也許人工智能會出錯，也許那隻是個平民住宅；也許那裏確實有敵軍總部，但同時也有平民，他們可能會受到傷害。那麽，你該如何選擇？

現在，我不確定。我和許多人交流過，他們給出了不同的答案。有些人說軍隊隻是簡單地轟炸人工智能指示的目標。其他人則說：“不，不是這樣的，我們有嚴格的倫理標準。我們會先由人類分析師確認，這是一個合理的目標。”

可能有時候是這樣，有時候是那樣。但在這場戰爭中，人工智能主要是在一方使用。但在未來的戰爭中，可能就在一兩年內，一旦雙方都擁有人工智能，做出這些倫理決策的空間將會縮小，因為決策迫在眉睫。如果雙方都由人工智能選擇目標，其中一方直接相信人工智能並立即采取行動，另一方卻說：“不，不，不，我們需要人類來驗證。”與人工智能相比，人類非常緩慢。也許在人類花費幾天甚至幾小時驗證人工智能決策正確性的時候，目標已經轉移，或者對方已經先發製人。

所以，軍隊將麵臨越來越大的壓力，進而隻是簡單地執行人工智能的指令。

李開複：是的，我認為在許多其他問題中，讓人類參與以確保安全的想法通常不具擴展性。這是同樣的問題，在金融市場上，人類的參與會使流程效率降低，可能導致你賺不到那麽多錢甚至虧損。

正如你剛才所說，在軍事上也是如此。所以，我認為人類會傾向說讓人類參與，這樣我們會感覺更好。一開始人們會這麽做，但在競爭激烈的時候，我認為這將變成一場懦夫博弈。

有人會說，讓人工智能做決定可能是錯誤的。但如果我輸掉戰爭或者破產那更糟，所以我將移除這個環節中的人類。所以，我認為我們需要另外的基本安全檢查和防護措施。

赫拉利：比如什麽？可能的解決方案是什麽？

我的意思是，最簡單的解決方案是保留人類環節，這在許多情況下是不可能的。無論是金融還是戰爭，因為速度的因素。那麽，還有哪些其他的防護措施呢？

李開複：有時候，技術本身就是防護措施，最好的防護措施是另一種技術。

就像當電力被使用時，它會電擊人，然後人們發明了斷路器；當互聯網產生病毒時，電腦中了病毒，就出現了殺毒軟件。這一次要困難得多，但我認為，如果我們這些技術專家鼓勵更多的人去研究防護性技術解決方案，而不僅僅是構建更智能的人工智能，那麽一個有效的解決方案或許就會出現。

當然，另一種方法是監管。但我認為，很難對一項尚不為人熟知的技術進行監管，所以我認為我們應該雙管齊下。一方麵，研究技術防護措施，資助相關研究，鼓勵聰明的人投身其中；另一方麵，不應害怕利用我們現有的知識來實施監管。所以，欺詐交易的後果、深度偽造的後果、過失殺人的後果，無論這些是由人工智能還是人類造成，都應適用相同的法律。

可以說，如果人類使用人工智能大規模地進行這些行為，後果可能會更嚴重。但從監管的角度來看，我個人更傾向於使用現有法律並將其擴展到人工智能領域，而不是僅僅應用那些即將出台的法律。

人們隻是猜測，“好吧，我們要對大語言模型進行監管，讓我們阻止人工智能技術發展”，這些觀點很武斷，未經證實，而且很難執行。

赫拉利：但是談到監管，特別是我們在唐納德·特朗普當選為美國總統後的兩三天談論這個問題。他主要是以放鬆管製為競選綱領，並得到了埃隆·馬斯克的大力支持。我認為，所有關於美國將對人工智能發展施加管製的幻想，以及各國政府之間就人工智能監管達成某種全球協議的幻想，現在看來完全不可能實現。

我的意思是，即使在選舉之前，也很難看到美國、中國、歐盟和俄羅斯就共同監管21世紀最具爆炸性的技術達成一致，現在看來這幾乎是不可能的。

在美國大選結果揭曉後的兩三天，您在北京對人工智能軍備競賽以及達成全球協議或監管的可能性有何看法？

李開複：我認為即便是在一國之內就規範技術達成共識已經很難，更不用說國與國之間了。所以，我會傾向於說，如果人類使用人工智能犯下某種罪行，或者需要因違規行為被罰款，那麽必須將這種責任延伸到人工智能上。

但我很難樂觀地認為可以達成全球協議。我確實理解您所說的選舉情況，但我認為這非常困難。有人在討論這個問題，但我認為OpenAI的內鬥就是一個很好的例子，薩姆·阿爾特曼支持進步，支持通用人工智能和人工智能，支持快速發展；而伊利亞和其他一些高管則支持安全性。

可以說，最有可能創建出令人擔憂的接近通用人工智能的公司可能是OpenAI。之前，在追求速度和追求安全性之間存在著製衡。現在，支持安全性的人已經退場。OpenAI可能會發展得更快，可能會變得不計後果，當然也可能不會。我希望不會。

所以，我們麵臨著一個問題，就是我們難以監督這些力量，同時又存在著一個可能加速發展的市場領導者。這確實是一個挑戰。

赫拉利：這似乎像是某種進化邏輯或進化競賽。如果你更關心安全問題，決定放慢速度，投入更多資金建立防護措施，而不是盡可能快地向通用人工智能發展，那麽你就落後了；如果競爭對手更無情一點，完全不顧及安全問題和防護措施，他們就會領先。

所以這是一場無情者之間的競賽。

李開複：我會回答您問的關於中國的情況，我會告訴你我們零一萬物在做什麽。

我認為許多中國公司都是這樣，因為中國人工智能公司一直具備很強大的執行力，而稍弱於諸如通用人工智能等宏偉願景上。此外，中國公司籌集的資金比美國公司少得多。所以，現實層麵沒有希望獲得更多GPU，無法通過規模定律擊敗OpenAI。但更有可能的是跟隨OpenAI的腳步，提出一些微創新，建立可以適配消費者和企業應用的超快速模型。

所以我認為，在中國，通用人工智能失控的危險較低，至少慢於美國發生的速度。不是因為別的，這主要是出於中國人的務實心態。在沒有那麽多資金來獲取GPU的情況下，先去創建有用的產品。

赫拉利：但當然有一個問題，如果世界上任何地方的某個人實現了通用人工智能的美夢或噩夢，這將影響整個世界。這是一項如此強大的技術。正因如此，它很快就會成為一個政府問題，包括中國在內的其他國家和地區的政府將被激勵投入巨大的政府資源在競賽中堅持下來或贏得競賽。

還是那樣，幾乎每天都會有這種說法。他們同意讓人類創造出比我們更智能的東西，而我們不知道如何控製。這種想法很糟糕，這種想法很愚蠢，這是在自殺。

與此同時，每個人或者說至少有些人說，我們必須這樣做，因為如果我們不做，別人就會做，然後他們就會控製世界。所以，如果我們先做會更好。我們或許能知道如何約束這個東西。整個情況的悖論在於，他們認為自己能夠信任自己的人工智能，但卻無法信任其他人類。

所以我們麵臨一個非常矛盾的局麵，人類無法相互信任，但他們認為自己能夠信任這些超級智能的人工智能。這些外來的智慧，就像外星物種一樣。然而他們不知道如何控製它或信任它，認為隨著我們開發通用人工智能，我們會找到控製它的方法。

這有點一廂情願，就像電力的例子一樣。人們被電擊後，我們設計了一些機械手段來保護他們。但是，當被問及具體會怎樣時，他們心中並沒有明確的答案。他們設想的機製或技術是什麽，能確保超級智能的人工智能與人想法一致並受控？他們無言以對。他們隻是說：“我們會找到辦法的。”這是極其可怕的。

另一個可怕的事情是，作為一名曆史學家，我認為新技術的巨大危險不在於最終結果，而在於實現它的過程。關鍵在於過程，而非終點。因為當一種強大的新技術出現時，沒有人知道如何將其融入社會和政治，也不知道如何明智地使用它。人們會進行實驗，而有些實驗可能會非常非常糟糕。

如果我們回顧工業革命，就像我去了矽穀，和那裏的人談論人工智能。他們告訴我：“看，當工業革命開始，人們發明了蒸汽機、火車和電報時，許多人擔心這將造成巨大損害。但你看，它最終創造了一個更好的世界。”

21世紀初，人們的生活比19世紀初好得多，這是事實。如果我們隻看起點和終點，會看到一條直線上升。但在現實中，在曆史上，這並不是一條直線，它就像過山車一樣充滿了可怕的災難。

因為在19世紀，當第一批國家進行工業化時，首先是英國，然後是法國、美國和日本。他們認為建立工業社會的唯一途徑是建立帝國，他們認為要建立工業社會就需要控製原材料和市場，所以必須要有一個帝國。每一個工業國家，從小國比利時到日本再到俄羅斯，都去建立帝國，給全世界數億人帶來了可怕的後果。

後來，人們又有了另一種想法，認為建立工業社會的唯一途徑是建立高度集中的管理體製

，如納粹德國。因為這個論點是合乎邏輯的。他們認為工業的爆炸性力量，如此巨大的創造性和破壞性力量，隻能由一個控製生活各個方麵的高度集中的管理體製來管理。這導致了納粹德國的恐怖，導致了世界大戰。

現在回過頭來看，我們知道這是一個錯誤，有更好方法來建立工業社會。但實際的曆史進程更像是過山車，而不是一條直線。

現在麵對人工智能，我們不知道如何建立一個人工智能社會，我們沒有曆史模型可以參考，即便我們最終能找到方法讓人工智能造福人類。我擔心的是，人們在這一過程中會不斷嚐試，或許是建立帝國，或許是建立高度集中的管理體製。即使最終找到了解決方案，這一過程中可能有數億人會遭受極大的苦難。

李開複：回到人工智能的危險上，我想知道從短期和長期來看，您最擔心的是以下哪些問題？

一是使用人工智能對其他人做可怕的事情；二是人工智能並非有意為之，但由於其獎勵函數設計不當而造成傷害，它無意中傷害了人們；三是人工智能本身就變成了危險，並且有做壞事的欲望，就像科幻電影一樣。

赫拉利：第三種是最不令人擔憂的。

李開複：是的，我也同意。

赫拉利：我認為前兩個問題非常嚴重，它們已經是當前的擔憂。隨著人工智能變得更加強大，這將是一個越來越大的擔憂。

最常見的是，如果惡意行為者使用人工智能做壞事怎麽辦？這很明顯，如果恐怖分子利用人工智能製造新的大流行病，這顯然是非常危險的。因此，在公共演講中，我更強調人工智能的第二個危害。不是因為它邪惡或想要接管世界，而是因為它是一種外來的智慧，非常難以控製，可能會產生許多我們沒有預料到的不良後果。

我們已經有了一個社交媒體的例子，即社交媒體平台由算法控製。公司給了算法一個特定的目標，即提高用戶參與度、增加流量，讓人們花更多時間在平台上。

這聽起來像是個好目標，這對公司有好處，甚至對人們也有好處。因為參與度聽起來像是好事。如果我展示人們感興趣的內容，讓他們在我的平台上花費更多時間，這不是好事嗎？但實際情況是，負責社交媒體的算法決定了你在TikTok上看到的下一個視頻將是什麽，你在Facebook上看到的下一篇帖子將是什麽。

它們發現了一種破解人類思維的方法，即如果目標僅僅是吸引人們的注意力。最簡單的方法就是按下大腦中的仇恨按鈕、憤怒按鈕或恐懼按鈕。

從進化的角度來看，這些事情會立即抓住人們的注意力。

當我們生活在非洲草原時，你走在草原上，走在森林裏，你會看到各種各樣的東西。你看到樹木、看到雲朵、看到各種事物，如果突然出現條蛇，你的全部注意力都會轉向那裏。因為為了生存，對你可能構成危險的東西是最高優先級。那些讓你感到害怕的東西。所以你可以在草原上走幾個小時，看到一條蛇，所有的注意力都會集中在那條蛇上。但在社交媒體上，你每時每刻都能看到“蛇”。當你瀏覽頁麵動態時，“蛇、蛇、蛇、蛇”，因為我們的程序設定是如果有蛇，所有的注意力都會集中在蛇上。這在非洲草原上是合理的，因為每幾天才會遇到一次蛇。

但現在在社交媒體上，算法破解了我們的操作係統，它們發現如果你想讓一個人一直不停地滾動屏幕，一直停留在平台上，你需要展示讓他們變得害怕、憤怒或貪婪的內容。這對心理健康和社會健康都是毀滅性的。

而且起初公司的任何人都沒有意識到算法會這樣做。算法本身並不邪惡，它們沒有試圖傷害人們，它們被賦予了一個目標——即讓人們在平台上花費更長時間。通過試錯，它們發現了如何破解人類思維的方法。但這帶來的結果對人類社會非常不利，而且這種情況可能會更大規模地發生。

我們開始時談到了金融係統中的人工智能，你可以告訴人工智能讓它去市場賺錢。你給人工智能一筆啟動資金，比如說一百萬美元，以及市場的訪問權限，隻有一個目標，就是賺錢。然後人工智能開始發明新的投資策略，甚至新的金融工具。就像在圍棋中一樣，它們變得比人類更有創造力。

幾年內市場出現了繁榮，有大量新的人工智能創造的金融工具。人類無法理解，也無法監管，因為這超出了人類的能力範圍。從數學角度來看，這超出了我們的能力範圍。然後有一天，市場出現大崩潰，就像2008年那樣。沒有任何人理解發生了什麽，因為我們已經失去了對金融市場的控製。

你不需要能控製整個世界的人工智能，它們隻是在金融市場中活動，就能引發巨大的金融危機。所以我認為我們需要，非常警惕這類危險。從長遠來看，人工智能甚至可能開始發展自己的目標。

想想人類是如何發展我們的目標的，我們從哪裏獲得生活中的目標？有時目標是從上至下的，比如有人給你一個目標。你在一家公司工作，CEO告訴你，這是你的目標。但大多數時候，這些目標是從下至上形成的，人類可以被視為帶有非常基礎獎勵機製的算法，即痛苦和快樂。

我們在生活中經曆的一切，最終都隻是身體的感覺。如果是快樂的感覺，我們就想要更多；如果是不痛苦的感覺，我們就想要減少，希望這種感覺消失。

從這些微小的心理原子中，整個人類世界被構建起來。如果你思考，為什麽人們會參與戰爭？人們做每件事的原因，歸根結底，這一切都是關於痛苦和快樂。如果我們能夠在人工智能中設計一個類似於痛苦和快樂的獎勵係統，那麽其他一切都可以從中構建出來，人工智能甚至可能為了體驗這種快樂而發動戰爭。

現在聽起來很荒謬，為什麽人工智能會為了體驗這種獎勵機製而發動戰爭？但這正是人類在做的事情。歸根結底，這些都是人類係統在追求快樂、避免痛苦並進行複雜的計算，認為如果我們要體驗快樂、避免痛苦，就必須發動戰爭。

李開複：是的，我很高興您提到前兩個問題是大問題，因為我非常認同這一點。

我認為很多觀眾可能會首先假設人工智能的危險來自科幻小說。那種終結者式的危險並不是我們所擔心的，從很長遠來看，這並非不可能，但我們更關注其他兩個問題。

我喜歡你舉的所有例子，但我認為最好的例子是社交網絡，它離我們每個人都很近。人工智能將在精準定位人們的興趣和弱點方麵，將做得更加出色，這會是您非常擔心的事情嗎？我想是的。

赫拉利：是的，正如你所說，以前人工智能隻是編輯或決定人類創造的內容，所有的視頻、文本，都是由人類創造的，人工智能隻是決定顯示什麽內容。下一階段，人工智能將創造視頻、文本、圖像，這是史上從未有過的。即使在我們開始對此感到害怕或高興之前，也要理解變化的巨大程度。

如果人工智能學會了模仿情感和建立虛假關係，也會非常危險，如果人們越來越多地與人工智能而非其他人類建立關係，將帶來什麽後果？

李開複：是的，我寫的書中也有提到，人工智能將迅速進步。在我寫書的時候，我沒有預料到人工智能在過去兩年中會進步得這麽快。但我在寫作時是希望，無論人工智能進步多快，作為人類，我們有一些內在的特質是不會改變的。

無論人工智能多麽擅長模仿我們，像我們一樣說話、寫作，從根本上說，經過數千年的進化，我們的 DNA要求我們與他人建立聯係。所以即使人工智能能夠模仿這種聯係，尤其是在虛擬世界中時，在現實世界中，我們仍然渴望與人見麵、交談和相愛。我們感受到溫暖，雖然我們並不完全理解這種感覺源自我們大腦或心靈的哪個部分，但這對我們來說非常重要。

我曾希望，並且現在仍然希望，這是我們能夠堅守的東西之一，是我們能做到而人工智能做不到的。

赫拉利：我認為這極其重要。真正的問題是，我們想從關係中得到什麽？如果人們非常以自我為中心，比如我想建立一段關係，隻是為了讓另一個人滿足我的需求，我的物質需求、浪漫需求、社交需求，那麽最終人工智能可能比任何人類更能滿足我們的需求。

但基於我隻想要別人滿足我的需求的關係，並不是真正的關係，那是自我中心的，是極端自私的。真正的關係是，我在乎另一個實體，另一個人的感受。

現在，人工智能沒有感情，它們可以模仿感情，它們可以理解我的感情，但它們自己沒有感情。這裏有一個把“智能”與“意識”混為一談的重大誤解，我想我們在之前的討論中已經提及過。

智能是解決問題和實現目標的能力，比如你的目標是贏得一場圍棋比賽，你解決了整個過程的所有難題，最終贏得了比賽，這就是智能。而在某些領域，人工智能比我們更聰明。意識則是感受痛苦、快樂、愛和恨的能力，如果你輸了比賽，你會感到悲傷，如果你贏了，你會感到快樂。據我們所知，人工智能沒有感情，所以它不會痛苦。

意識實際上可以被認為是承受痛苦和擺脫痛苦的能力。真正的人際關係是關心他人是否痛苦，並幫助他們擺脫痛苦。你無法與人工智能建立這樣的關係，至少現在不能。我認為，隨著人工智能越來越擅長模仿情感和感覺，未來幾年內，將會出現大問題，因為存在強烈的商業動機去創造能夠模仿情緒、欺騙人們相信人工智能具有意識、感知和感情的人工智能技術。很多人會相信這一點。

當然，我們知道這是一個非常古老的哲學問題，沒有辦法證明意識的存在。我知道我有感覺，因為我親身感受到了，我無法證明世界上其他人是否有感覺，無法證明他們不是行屍走肉，我也無法證明動物是否有感覺，我將無法證明或反駁人工智能是否有感覺，它們將非常擅長模仿感情，那麽，我們怎麽知道？我們無法知道。

很多人會堅持認為人工智能也有意識，有感情，因此應該在法律和國家層麵上，被視為擁有權利的個體。我認為這將成為一個重大的政治問題。

也許一些國家會承認人工智能為擁有權利的個體，而其他國家則會說，“不，它們不是人，沒有權利”。那些承認人工智能為個體的國家與不承認的國家之間的政治緊張關係，甚至會比今天圍繞人權等問題的緊張關係更加嚴重。

李開複：我確實希望我們不要過多地將人工智能視為人類，無論是給予公民身份還是其他形式的認可。

一方麵，我確實同意你的觀點，意識使我們與眾不同，盡管它難以衡量，但我們確實創造了人工智能，它在某種程度上是一個黑箱，但肯定沒有內置的意識。人性應該更多地定義為意識，而不是智能，因為人工智能顯然具有智能。如果僅僅是因為智能，五年後，我們可能不得不給所有人工智能公民身份，這顯然是不對的。

我經常思考的另一個問題是，盡管我們討論了人工智能的危險性，但另一個現實是人工智能變得如此強大，以至於人們將開始失去工作。有些人會徹底失業，有些人的一部分工作會被人工智能取代。樂觀的人會認為這是解放自己，去做擅長和喜歡的事情的機會，但悲觀的人會認為，人工智能的進步比我快得多，我會被逼到絕境。

所以我希望人們會逐漸意識到，生活不僅僅是為了工作，特別是重複性的工作。然後人工智能可能會成為一個促使人們重新定義自己和尋找人類命運的推動力，但我並沒有一個明確的計劃來實現這一目標。作為一個曆史學家，您是否對我們在短時間內能夠實現如此巨大的轉變，對這個世界的人性持樂觀態度？

赫拉利：有樂觀的一麵，也有悲觀的一麵。樂觀的一麵是，我認為我們會越來越意識到對我們來說重要的不是智能，而是意識。到目前為止，我們是地球上最聰明的生物，所以我們為自己的智能感到自豪，並專注於智能的發展。現在，由於人工智能正在變得比我們更聰明，這迫使我們重新思考人類的本質。

我認為正確的結論是，人工智能會更聰明，但真正重要的是意識。因此，我們應該更多地投資於發展我們的意識。

我個人而言，我每天花兩個小時冥想，每年我會進行一次為期30到60天的長時間冥想靜修，以探索和發展我的意識，而不是我的智能。我希望人們能以不同的方式更多地投資於此，所以，意識的提升有著巨大的發展空間。如果我們做出這樣的投資，我認為我們會很好，讓人工智能承擔許多工作，如果我們發展我們的意識，世界會變得更好。

我看到的一個大問題是，要自由地發展你的意識、關係和社群等，首先需要你的基本需求得到滿足。現在，如果人工智能越來越多地取代工作，誰來提供你的基本需求？

在非常富裕的國家，政府可以對大型人工智能公司征稅，並用這筆錢為每個人提供基本服務和收入。但如果你放眼全球，這才是問題所在。落後國家會發生什麽？假設美國或中國在人工智能競賽中領先，即使許多公民失去工作，政府也有巨大的新資源來照顧他們。但在印度尼西亞會發生什麽？在尼日利亞會發生什麽？在阿根廷等落在了後麵的國家會發生什麽？我不認為像特朗普這樣的領導人會讓美國政府從美國征稅，然後說，好吧，我現在把這些錢給在尼日利亞失去工作的人民，為他們提供基本服務，這非常不現實。

所以，如果我們能夠解決這個問題，我認為通過不斷增加對人類意識的投資，我們可以創造一個更好、更美好的世界，即使失去了許多工作，但做到這點將會非常艱難和危險。

李開複：我認為目前，人們對人工智能的強大之處缺乏足夠的了解和認識。要得出一個好的結論，人們必須首先理解機會有多大，挑戰有多嚴峻。

其次，我認為我們應該鼓勵人們在開發人工智能應用時，考慮到人的因素。人工智能的存在是為了幫助人類，不僅僅是賺錢，也不僅僅是成為一個新的物種，盡管這些事情終將發生。

我還想鼓勵進入人工智能領域的人們認真思考，他們能否做一些使人工智能安全的工作，使人類因此變得更好，而不僅僅是思考我如何構建一個更大的模型，我如何使人工智能更智能，我如何打敗其他人。

我鼓勵那些利用和控製人工智能的企業，花費更多的時間和精力，思考他們的社會責任。因為權力越大，責任越大。現在控製人工智能的人，控製人工智能的公司，基本上對世界，對人類種群，負有最大的責任。

我希望人們能夠放下自負和貪婪，至少花部分時間，思考如何為了善的目的使用人工智能，確保人工智能的存在是為了輔助和幫助人們，而不是製造無法解決的問題。

赫拉利：與李博士所說的非常相似，AI是我們迄今為止創造的最重要、最強大的技術，它具有巨大的正麵潛力，但也存在巨大的負麵潛力。我們仍然有能力決定它的發展方向，但為此，更多的人需要了解正在發生的事情。

如果曆史上最重要的決定僅由兩三個地方的少數人做出，這並不是好事，這些人並不能真正代表我們的物種。所以我們需要更多的人了解什麽是AI，它能做什麽，有哪些機會和威脅，並加入這場對話。這就是我寫這本書的原因，不是為了預測未來，因為我無法預測未來。我描繪了各種情景，但主要信息是，在所有這些不同的情景下，我們仍然有幾年的時間可以掌控局麵，我們需要做出明智的決定。如果更多的人能夠理解當前的形勢，我相信我們將能做出更好的決策、更明智的選擇。這是我要傳達的主要信息。

我非常希望有更多的人能夠參與到這場對話中來，而且，保持對話的全球性，尤為重要，這樣美國人、中國人、歐洲人和非洲人都能相互交流。我非常希望能在2025年親自訪問中國，我希望能見到李博士和其他思想領袖，在此之前，我們會繼續這場對話。

李開複：很榮幸能再次與您交談，赫拉利教授，我期待著明年在中國見到您。

赫拉利：非常感謝，李博士，這是一場非常深刻的對話，感謝您分享您的想法和感受。是的，我希望不久後在中國見麵。