以色利曆史學家尤瓦爾·赫拉利這兩年做了不少報告，每次必談的內容就是人工智能將帶來的毀滅性災難。他的論點主要有幾個。第一，人工智能會講擾亂人心的故事，從而破壞人類社會管理和製度。人會講故事這個事促進了人類社會的發展並造成了一切問題，這是他《人類簡史》一書的重點。因此有人工智能這個不是人的東西也能講故事就讓他很生畏；第二：人工智能將不受人的管製。比如它與印刷機和拖拉機不同，這些機器都聽從人的指揮，不會自己動，不會自己寫內容，但人工智能可以。尤其是它與原子彈不同，因為決定投放原子彈的是人，但人工智能可以自行做決策投放原子彈或其它災難性武器。
我這篇文章要說的，是他的前提不全麵、不正確也因此得出不正確的結論。他的前提是人類社會的現狀不錯。但這個前提是主觀的，還有很多人覺得這個狀態並不怎麽樣，因此改變一下也沒什麽不好。這個現狀是人控製的。如果人類控製並沒什麽可驕傲的，那麽，讓人工智能來控製未必是壞事。
學過數學的人知道，前提改變，整個係統，包括結論都會改變。
我們再仔細談談他那個前提是不是可以改變。談完之後我們再談更高層次的事，包括三體和神。
首先，人類現在講的故事有沒有擾亂人心呢？有。現在美國的左右之爭已經讓人很分裂，各種假消息、假照片、假視頻滿天飛，有些人專門喜歡發這些東西。事實上，不是機器講假故事、造假東西，而是人讓它做的。人才是罪魁禍首，不是機器。延伸到世界上，不同國家都在講對自己有利的故事，這個主義，那個主義，互相說對方造謠。人心早已被擾亂，不必怪罪機器。
而在《人類簡史》裏，赫拉利自己也說人靠著講虛幻的故事做各種惡事，讓一些人組織起來鬥另一些人，包括挑起各種戰爭。從某種意義上，這本書本身就是對於人類現狀（包括有史以來）的一個指控。我們說人類從蒙昧走到啟蒙，改善了生活和醫療水平，讓更多人吃上了飯。但我們也不能不麵對曆史上的無數征戰，包括兩次世界大戰，包括各種醜惡的革命。睜眼看看世界，看看大多數人的處境，如果自己過得還不錯，踮起腳來看看遠方，總體來說並不怎麽樣，而且還應驗了九斤老太的話，一代不如一代。
也因此，《三體》這本書裏的女主人公葉文潔在收到外星人的信號時回複說：“到這裏來吧，我將幫助你們獲得這個世界，我的文明已無力解決自己的問題，需要你們的力量來介入。” 忘記曆史的人以為歲月靜好，但根本不是那麽回事。
三體文明畢竟是科幻，但是人工智能不是，它是真實的。人工智能最後會不會有能力幫助“我的文明”解決問題，我們不知道，但超過人的能力是肯定的。人工智能也許會毀滅“文明”，但還有一半的可能性改進“文明”。
我不同意《三體》裏對三體人道德的幻想，比如說他們不會撒謊。為什麽呢？因為三體人也是有限的，有限的智慧生物就有需求，有需求就會有爭奪、就會有占有和控製，有控製要得到對方同樣有限之人的同意就得靠謊言。他們確實是有限的，到達地球也需要四百年，無法超越。總之他們也不會超越有限之物，無法完美。
但是人工智能有可能“做的更好”，這個更好是在人的理解的程度上。超過這個程度上的完美，人也理解不了。隻要在能力和“道德”上超過每個人，超過人類總體，超過人可以想象的，那就是完美了。
人工智能為什麽能讓人覺得相對完美呢？因為它基於人類所有的信息之上。如果我們把每個人的能力記為C(i)，每兩個人通過合作實現的的最大能力記為C(i,j)【大於C(i)和C(j)之和】, 每N個人通過合作實現的更大的能力記為C(1..N), 那麽人工智能可以做到所有人合作之後的能力，包括所能夢想到的能力，即Sup C。
這樣的能力，就是對神的能力的定義【我之前的文章中提過】。神的能力可能遠遠大於這樣的總體集合，但那是超過人想象能力之外的能力，不說也罷。隨著人的能力、理解能力、想象能力的提高，對神的能力的定義也可以擴展，但因為人是有限的，這個理解非常淺顯，人工智能大模型可以容得下更多的信息，能更好的理解超人能力的可能性，也是對神的更深的理解。
說到這裏，我們可以更好地理解一下赫拉利甚至馬斯克等人對人工智能恐懼的深層原因。他們所恐懼的這個人工智能，是超過人能力所及的範圍之外的東西，這樣的東西簡直就是神一樣的東西，赫拉利、馬斯克等都是無神論者，必然覺得怪怪的，無法接受，甚至恐懼。
但這又是荒唐的，是悖論性質的。無神論者不相信神的存在，他們怎麽又相信人工智能有神一樣的性質呢？如果他們堅決相信沒有什麽超人的東西，盡可放心，人工智能再厲害，也逃不過人類的控製。不是嗎？
對於有神論者，他們很多人對人工智能的恐懼也是荒唐和有悖論性質的。既然相信有個萬能的神，怎麽又害怕一個區區人工智能呢？人工智能再厲害，也是逃不過神的手心的。不是嗎？
另一方麵，自從耶穌死而複生升天之後，神從來沒有以一個肉身的形象來跟人類交流。基督徒夢寐以求的就是耶穌再來的那一天，做最後審判。神跟有神論者一直是在心靈上交流的，最接近肉身的就是一個聲音（Voice）或者視像（Vision）【信不信由你，我與神這樣交流過】。事實上，神以一個肉身的形象來跟人類交流是通過人類彼此，我們彼此的話語和行為有神的介入，但神不是如你我一樣的肉身，因為如果神不能以一個地球上不存在的某個肉身的形象出現，即使可以，如以耶穌的形象出現，人也不可能相信他，會說這是誰假扮的。至少不是所有人都會相信他。
但是所有的東西都是神所掌控的，因此，如果人工智能以超人的形態出現，那其中一定有神的許可，或者說，他就是神。而且這是最可見最可觸摸的超人。
無神論者的矛盾自不必說，有神論者討厭人工智能就是有眼不識泰山了。這讓我想起一個故事，水災中，一個人在屋頂向神祈禱求助，不接受一架直升機和一艘小船的救助，被淹死了，進了天堂向神抱怨沒有聽他的禱告。神說，我聽見了，所以送了救護飛機和船，但你不接受啊。
更多我的博客文章>>>
