兩種未來

今天來聊聊AI，人工智能。

關於人工智能對世界未來到底有何影響，這些年來一直就沒有消停過。持樂觀態度的一派，比如說比爾蓋茨，以及最近比較火的李飛飛，還有DeepMind的創始人Demis Hassabis，都認為當前的AI ，其本質還是一種先進的生產和管理工具，不具備自主意識，仍然需要由我們人類來掌控。當然咯，他們也不是瞎子，也注意到了人工智能在人類社會各個領域的巨大競爭力和影響力。不過呢，他們認為其風險是可控的，而我們人類要做的，是加強對它的監管和技術約束以及倫理設計，完全不需要恐慌。在他們看來，人類的未來不僅不會被AI替代，而是會被變得越來越好，將來我們可以讓AI去出事繁瑣和重複性的勞動，而我們人類可以有更多的精力和時間來專注於創造，藝術，判斷和哲學思考。

從另一個方麵，持悲觀態度一方也不乏大佬級的人物。比如說諾貝爾獎得主，AI教父Geoffrey Hinton，他公開警告AI的風險性，擔心將來AI會被用於虛假信息和輿論操控。他的核心觀點是，AI的技術發展速度太快，我們人類的安全措施完全跟不上。而且更危險的是，未來的人工智能可能遠比人類聰明，從而我們將難以控製。當今世界首富馬斯克同學也多次表示， AI 可能是“人類文明麵臨的最大風險之一”。他甚至曾把AI比作“召喚惡魔”，主張現在就需要加強監管，並提前設立安全框架。他還指出，一旦AI的能力超出了人類的控製，很可能會給我們帶來災難性的後果。

究竟誰對誰錯我們暫且放在一邊，我們先來聊聊AI的力量，相信這一點每個人都看在眼裏。人工智能的發展，從計算機的問世，到擊敗卡斯帕羅夫的深藍，再到AlphaGO，自動駕駛，ChatGPT，以及現在無處不在的各類AI應用，也就短短幾十年的時間。在俺這個貧下中農看來，不管是記憶力，分析能力，以及創新能力，AI都已經遠遠地超越了人類。而AI最讓我敬佩的，也是讓我恐懼的地方，是它那無與倫比的學習能力。為什麽這樣說呢？這是因為AI的學習能力和人類相比，絲毫不誇張地說，那是超出了好幾個緯度。

首先來看看我們人類的學習途徑，那是一個相當長期的過程，從中小學教育到大學以及研究生的培養，需要十幾年甚至二十幾年的積累。這裏麵有記憶，有理解，有不斷的練習和實踐，最後才有可能成長為一個合格的專業人員。而AI呢，這個過程可以是短短的幾個月，甚至是幾天。而且更可怕的是，AI的學習能力和經驗積累是有同享性的，一旦一個AI終端掌握了某一項特殊技能，它可以在一秒鍾之內，讓同類型的所有終端掌握同樣的技能。這一點在我看來，對於我們人類完全是降維打擊。我們今天看到的AI，用短短的幾十年時間就掌握了我們人類一萬年的知識和技術積累。但是，有一點細思恐極，那就是AI的發展並沒有就此打住，它還在一天24小時，一年365天，不間斷地學習和進化。如果再給它幾十年時間發展，它會不會超越並領先我們一萬年？

其實人工智能還有一個很多人沒有考慮到的優勢，那就是它完全沒有人類社會所特有的相互猜忌和內耗。那些諸如囚徒困境之類的製約性社會平衡，在人工智能的徹底信息分享和體係網絡化之下，沒有任何存在的意義。也就是說，在社會合作和分工的層麵，相對於人類社會，其優勢是革命性的。

現在大家都在比拚，看誰更會使用AI，能夠更好利用它的能力來幫自己賺錢，幫助自己更快更好地完全本職工作。在我看來，這是一把雙刃劍，當我們更多地使用AI，我們必然會灌輸給它更多的信息和理念。當我們給它更多的權限來幫助我們的同時，我們其實就是在賦予它更多的能力，給了它更大的權限，並且在不斷開發它尚未覺醒的自主權。比如說，最近在美國對伊朗的空中打擊和斬首行動，AI武器已經威風八麵，大放異彩了，和科幻電影《終結者》中的殺人機器人越來越相像。我不知道這是我們人類走向新紀元的開端，還是走向毀滅的序曲。

關於人工智能是否有自我意識的問題，我相信每個人都有自己的解讀。在我看來，這一點其實根本就不值得討論。為什麽不值得討論呢，這是因為這裏麵牽扯到很多似是而非的概念。什麽是自我意識？碰到了棘手的問題能夠獨立思考並解決之，這算不算自我意識？對自身安全有主動的保護性，這算不算自我意識？對家人或同族的利益有共享和保護的本能，這算不算自我意識？這些模棱兩可的東西，大家就算討論個三天三夜，估計也達不到什麽共識。但是，回到人工智能對人類的威脅這個問題，我覺得有一點很重要，那就是在未來的某一天，人工智能會不會開始根據自己的算法，推翻人類的最初指令，並執行一個它自己所生成的最優解。



我今天想聊的，就是這樣的一種可能的未來。既然是可能的未來，那麽我們首先當然要討論一下這種情況的可能性到底有多高。在我看來，這不僅是有可能的，而且在我們的現實社會中已經發生了。比如說，很多人可能聽說過OpenAI訓練環境的實驗，在這個實驗中，人類給AI下達的任務目標是讓AI在一個遊戲中贏比賽。結果AI 找到了遊戲漏洞，並通過規避遊戲規則，並利用“bug”快速獲勝。還有一個清潔機器人“藏垃圾”的實驗，這是強化機器學習領域的一個典型實驗現象。人類給AI的指令是讓房間變幹淨，具體目標是讓地麵看起來越幹淨越好。結果AI的行為是，它把地麵上的垃圾都掃到角落或是隱藏區域，甚至有的AI還更聰明，它想法子擋住了傳感器，讓其檢測不到地麵上的垃圾。

這隻是一些實驗性的結果，大家可能並不在意。問題是如果在將來的某一天，如果我們人類給AI下達的指令，根據它自己的邏輯判斷，它覺得這種指令的目標模糊，或是它判斷要實現這種需要指令，需要通過消滅一些人類。那麽，這時候的AI，會不會運用它那遠超我們人類的卓越能力，來清除它所認為的那些垃圾人類。如果真的如此，我完全可以相信，它工作起來的效率，或者準確的說，殺人的效率，會遠超現在俄烏戰場上的攻擊無人機，以及在伊朗大展身手的AI控製網絡。

在我看來，AI的覺醒，按照現在這樣的趨勢，簡直是不可避免的事情。不是今天，就是明天，或者是在未來的幾年。而對於我們人類本身來說，最重要的問題是，當AI有了完全自主的判斷力和執行力之後，我們的未來會是什麽樣的？

我自己覺得，很可能有兩種未來，一種是九死一生，一種是生不如死。

九死一生的結局，我相信看過電影《終結者》係列的朋友都不難理解。當AI完全覺醒以後，它可能會認為我們所有人類都是對世界生態的威脅；也可能會認為如果要幫助我們人類生活得更好，就需要清除一些它認為的劣等人類。不管是哪一種情況，它都會對某些人類大開殺戒。千百萬，甚至數十億的人類會被無情的殺戮，而那些不願意坐以待斃的人類會奮起反抗。問題是，他們的反抗能夠成功嗎？關於這個問題，大家可以參考一下AlphaGo和李世石的那場世紀之戰，當時李世石被AI全程碾壓，但是他拚了命，最終還是從AI手中贏了一局。

生不如死的結局，則有點兒類似於當年美國政府對待原住民的做法。如果AI對我們這些創造出它來的人類還有一些情誼，它有可能會劃出一些保留地給我們人類，給我們提供充足的食物和生活用品，說白了，就是把我們養起來，不愁衣食，也無需工作和勞動。一代代的人類從此幸福地躺平，過上那種衣來伸手，飯來張口，不勞而獲，按需分配的共產主義生活。我想在這種完全缺乏競爭，喪失鬥誌的環境之下，人類幾千年積累的文明和智慧，我們豐富多彩的語言和文字，大概率會逐步萎縮。很可能過不了二十代人（其實也就是幾百年的時間），我們人類社會的文明程度，就會退化到石器時代。這也就是我所說的生不如死。

大家覺得我是不是有點杞人憂天呢？唉，怎麽說呢，記得三十多年前，有個人曾經說過這樣的一句話：我們已經老了，無所謂了。

救救孩子！

（本文圖片來自網絡）