矽穀傳奇——人工智能：一條通向超級智慧的道路（二，完）

人工智能的影響

AI的實現有兩種方式。第一種方式是用傳統程序使係統呈現智能，不考慮該方法與人類的方法是否一致，稱工程學方法(Engineering Approach)，它在文字識別、下棋等領域內取得了很大進展。另一種方式是模擬法(Modeling Approach)，它不僅看效果，還要求實現方法和人類的方法相類似。遺傳算法(Generic Algorithm，GA)和人工神經網絡(Artificial Neural Network，ANN)屬於模擬法。遺傳算法模擬人類的遺傳和進化機製，人工神經網絡模擬人類大腦中神經細胞的活動方式。為了得到相同的智能，兩種方式都可使用。工程學方法需要詳細的程序邏輯，對於簡單的AI很方便。對於發展係統來說，其邏輯會很複雜，很繁瑣，很容易出錯。使用模擬法，編程者要設計一個智能係統進行控製，起初係統什麽也不懂，但它能學習，漸漸適應環境，應付各種複雜情況。該係統會犯錯，但它會吸取教訓，下一次運行時會改正，不會一直錯下去。對於複雜的應用，模擬法比工程學方法更有效。

AI與人類思維有著本質區別：AI是無意識的機械的物理過程，人類思維是生理和心理過程；AI不具備社會性；AI沒有人類意識特有的能動的創造力；兩者總是人腦的思維在前，電腦功能在後；AI按人類預定的程序而定，人類意識常常是隨機和無法預定的。

無論前景如何，AI革命已經起步。支撐AI革命的是AI算法，這些算法為AI提供了核心動力。目前，相關算法已應用在很多領域中了，為人類生活和工作提供了很大的方便。最能代表AI的是電腦自創算法。例如，在電腦得到了直升機控製數據後，它會利用深度學習找出讓直升機倒飛的算法。未來的深度學習等AI算法能幫助人類尋找愛人、識別聲音。

AI將往何處去？和人類的發展相比，電腦及AI的發展速度超乎想象。從第一台電腦的誕生到今天電腦無所不在、並給社會帶來了巨大變革的過程僅用了60年。AlphaGo擊敗韓國圍棋國手李世石，證明了AI在圍棋上超過了人類。無法想象，AI將來會有怎樣的發展。有人認為AI在2045年會超過人類。有人憂心忡忡，他們認為一旦AI超越了人類智能，就會對人類構成威脅，而它們與人類的目標不一致的時候，後果將無法想象。AI的威脅還包括：一些人可能會失業、武器的殺傷力越來越強、人類對機器的依賴及個人隱私愈發不能保證。很多專家認為AI有很多好處。AI能在醫療、環保等方麵做出貢獻。

曆史上的每次技術革命都會帶來一定程度的恐慌。從18世紀的工業革命到電力的出現引起了一係列的恐慌和社會變革。AI一出現就引起了恐慌。1958年，第一個神經網絡係統出現後，有報紙就稱機器在不久會有自己的意識。現在的AI研究已經不再局限於學術界了。很多大企業都紛紛參與其中，並從中獲利。盡管如此，AI也還隻是能夠識別物體和理解特定的語言。它們離擁有智慧還很遙遠。有人舉了一個形象的例子來描述當前的AI：今天的AI就像在一個大霧天、在一條有一麵牆擋著的公路上開車。我們隻知道下一步該怎麽走，但看不見未來的牆，隻是快樂的往前走，直到燃料耗盡。

2015年1月，MIT物理學家馬克思·特格馬克(Max Tegmark)召集了第一屆討論AI威脅的會議。其中的一個核心內容就是AI何時能超過人類。有專家們認為需要數百年，也有人認為會很快實現。特格馬克給出的中間答案是40年。他指出，AI不需要本身是邪惡的才會對人類構成威脅。特格馬克說，現在討論AI威脅或許為時過早。但這和原子彈研究相似，科學家一開始都沒想過它對世界的影響，也沒有提前采取措施。如果提前想到它可能的威脅，現在的世界會不會是另外一番景象呢？

有人認為，AI的威脅很遙遠，能夠威脅到人類生存的AI隻存在於科幻小說之中。AI的行為受人類設計的控製。無論未來怎樣，都是人類的創造，因此能夠控製。

AI對人類的影響包括對一些職業的衝擊。相比於1990年代，波音公司雇員減少了三分之一，生產效率提高了20%。從2000年到2015年，美國有500萬個工作被機器取代。AI給社會帶來的影響堪比蒸汽機。以通用汽車的一家工廠為例，在經曆了汽車的巔峰時代後，該工廠走向沒落，大量工人失業。特斯拉收購了該工廠，並迅速將其變成了自動化工廠。有1千台工業機器人在工作。特斯拉的生產效率為每周1000輛電動車。令人驚奇的是，與通用汽車公司的工廠相比，生產每輛車的人工是其三倍。這說明工廠自動化非但沒有讓工人失業，反而帶來了新的就業機會。

AI會給戰爭形態帶來變化。機器人時代的戰爭將采用無人機、智能化單兵作戰裝備、無人駕駛潛艇等。軍事技術變革中包括減少風險、減少花費。軍隊采用智能裝備的問題是在哪些地方采用它們以及在多大範圍內采用。目前，美國的F-18戰鬥機已經能從航母甲板上自動起降。大大減少了飛行員的操作難度和風險。大多數智能裝備隻是人類能力的擴展。機器人投入戰爭引起了爭議——機器有權利殺人嗎？前些日子，一位年輕人在無人機上裝了一把手槍引起了社會的恐慌。2014年，聯合國就開始呼籲製定相關公約。

自從人類進入文明社會後，技術創新就一直推動著社會進步。從近代的工業革命開始，社會變革的速度越來越快。大量自動化機器的不斷湧現，取代了傳統工業。電腦問世後在很多計算問題中替代了人工計算。不過電腦也催生了很多相關的工作：程序員、處理器架構師、電腦係統工程師等等。AI麵臨著類似的情況。

迄今為止，AI應用最廣泛的領域是有監督的機器學習。即算法需要從訓練數據中進行學習，它不能像人那樣能多方麵的間接學習。訓練數據的數量和質量對於機器學習來說非常重要。搜集訓練數據的過程必須慎重，穀歌每年花費大量時間來搜集並整理用於機器學習的數據。這一過程永無止境。搜集訓練數據是機器學習中最需要人工參與的部分。

在很多領域內，電腦能加速解決問題。但電腦在很多看似簡單的方麵卻無可奈何。AI有類似問題：AI很容易實現80%的預測或分類精度，但很難將精度提高到99%。機器學習十分清楚自己的缺點。精度較低時，AI會將情況告訴工程師。目前，AI使用最多的是“人工參與循環鏈”模式。在AI不能決定時，人類立即參與其中。

過去，人們總認為AI產品離現實還很遠。實際上，以AI理念為基礎的產品的研發遠遠超出了人們的想象。臉書M 就是這類產品。AI被用來處理郵件並解決相關問題，再將複雜情況交予工程師解決。無人車和ATM也是。目前，無人車還離不開人工參與，無人車在正規停車場內可以自動泊車；在順暢的高速公路上，可以自動駕駛；在複雜路況下，則必須交給人工駕駛。ATM隻能處理能夠識別的支票和現金，破損的支票和現金必須由人工處理。AI能解決很多問題，但仍有一些問題需要人工解決。AI的應用提高了相關工作的效率。在一些情況下，它會減少所需員工，也會創建新市場，帶來新的就業機會。

AI的主動學習模式是上述兩種應用的結合。通過把訓練數據反饋給AI，以提高AI的自身性能。AI最初不能解決的問題，AI會以人類解決問題的方式訓練自己。未來的AI會在自我學習和訓練中提高自身的能力，以此來自我完善。這樣的AI能更多地為人類帶來方便，提高人類的工作效率，但也讓人們對AI產生了恐懼。

人工智能的未來

至今為止，人類經曆了四次工業革命，今天的互聯網就是所謂的工業革命4.0。這一波由信息技術創新帶來的工業革命必定和以往的工業革命一樣給社會帶來某種結構性變革，這是人們的普遍認知。即將來臨的AI還會為我們帶來某種比人類社會結構性變革更為深遠的東西，人類將以自身創造的機械來代替其智力活動。這是一種人類從未經驗過的全新的東西。以往的技術創新擴展了人們對於大自然的權能和認知，物理學的研究讓人們找到了宇宙的宏觀運行與微觀結構的奧秘，製造一顆人造太陽所需的隻是大學碩士生的課程。在生物科學中，人們也已經掌握了遺傳的奧秘，選擇性的繁殖已經不是遙不可及的事情了。但是，下一波的技術創新是人類在創造自身的智力，而且是在以一種機械的、無機的方式在實現這種智力。這不但會給社會帶來結構性的變革，更重要的是它將給人們的觀念世界帶來變革。人類的工業革命用科學代替了神和上帝，人類自詡已經掌握了自然的奧秘。那麽，AI將為人類帶來什麽呢？它很可能是一個超出人類自身智力水平的超級大腦。讓我們來預測一下，這將是怎樣的一個超級大腦吧。

最低一級的AI是狹義人的工智能(ANI)即專業AI，是AI在專業領域裏的運用。即那些打敗棋類世界冠軍的AI，它隻做一件事。高級的AI是通用人工智能(AGI)，即類人AI，這樣的AI是和人有同樣智力和理解力的電腦，可以做人能做的事情。AGI被定義為“具有普通的人類心理能力，包括解釋、計劃、解決問題、抽象思考、理解複雜概念、快速學習和經驗學習的能力”的AI。最高一級的AI是超級人工智能(ASI)，一些學者把ASI定義為“在科學創造力、普適智慧和社會技能等各個領域都比最強人類大腦還要聰明的智能。”ASI是一個棘手的話題，因為伴隨著它的兩大話題是人類的不朽和滅絕。

值得慶幸的是，目前人們隻掌握AI最低等級ANI，日常生活中ANI被廣泛使用。我們如今生活在廣泛運用ANI的世界裏。今天的ANI給我們的生活帶來的是方便和效率。最可怕的情況是，ANI出現問題或編程錯誤導致一些人為的災難，如電網癱瘓、核電設備故障或股市災難。ANI在人類掌控的範圍之內。這個正在迅速發展的相對無害的ANI是改變世界的先驅。每次ANI的創新都在為AGI和ASI添磚加瓦。它是原始狀態的DNA，尚無生命，一旦有一天，它醒了，會給人類帶來什麽呢？

創造一個和人腦一樣聰明的電腦是件激動人心的事。因為迄今為止，人腦是宇宙中已知的最複雜的東西。創造AGI最難的部分不是它的邏輯功能，而是它的理解力。讓AGI理解貓和狗的不同，要比讓它在棋類上打敗人類難的多。人的理解力源於千百年的進化，人們至今仍不清楚產生理解力的物理過程，盡管對於人類而言，這一過程毫不費力。

要想達到AGI的水平，電腦要學會理解事物間的微妙關係，如表情變化等。怎麽樣才能實現AGI呢？首先要增強電腦的能力，該能力能用大腦每秒計算總量(CPS)來表示，有一個估算CPS的方法，即找出某人大腦某一結構的CPS與該結構的質量之比，然後與整個大腦的質量相乘，就是某人大腦的總CPS估值。有人用此方法測試了很多人的CPS和專業測試的CPS值進行比較，結果相似，為10千萬億個CPS。

今天世界上電腦達到了這一水平嗎？中國的天河2號電腦已超過了它，為34千萬億個CPS。有人建議用1000美金對CPS的購買力衡量電腦性能。到了1000美金可以購買10千萬億CPS(即人類大腦水平)的時候，AGI就進入人類日常生活了。

今天的電腦已能用1000美金達到老鼠大腦水平了，即人腦的一千分之一。電腦進步奇快，1985年的這個數字是一萬億分之一，1995年是十億分之一，2005年是一百萬分之一。到了2015年是一千分之一，這樣的話，2025年電腦的能力就能達到人腦水平了。也就是說，電腦硬件已經有AGI的能力了。

光是有計算能力並不是AGI，接下來要使電腦更聰明。三種最常見方法是：一、複製大腦.專家們在對人腦進行反向工程，即探究自然進化是怎樣使人腦成為今天這樣的。有人說，2030年這一工作就能完成。做到了這一點，複製大腦就不難了。

二、全腦仿造。即將人腦進行原子層麵的掃描，用軟件組裝出準確重建的三維人腦模型，再在功能強大的電腦上運行該模型。該電腦將具有人腦的一切能力，隻要對它進行和人一樣的學習和信息收集即可。就是說，隻要把一個人的腦部結構上傳到電腦中，其完整的人格和內存就會在電腦裏得到準確複製。也就是說張三的大腦在他死前是張三的，張三死後電腦會作為張三繼續存在，這是AGI的極致，這以後的ASI，人類將無法想象。人類已經做到了對1毫米長的扁形蟲大腦的仿真，它有302個總神經元，人腦有1000億個總神經元。看起來還很遙遠，但我們已經征服了扁形蟲，不久就會征服螞蟻，接下來是老鼠，然後你會發現，人腦也是可能的。

三、用進化過程複製大腦。直接複製大腦太難，複製它的進化過程簡單的多。在現實世界裏，最佳設計方案是創新的、麵向機器的方法，而非完全仿生。該方法稱遺傳算法，其原理是：進行多次績效評估。一組電腦同時嚐試完成某一工作，將成功完成的電腦和程序重組成一台新電腦。淘汰不太成功的，多次迭代後，最好的電腦勝出。該方案的難度在於如何建立能自動運行的評估機製。人腦自然進化用了幾十億年，AGI要在幾十年裏完成類似的進化，這可能嗎？相對自然進化而言，AGI有很多優勢。自然進化無法預見，會產生無益突變，AGI是可控的，它隻生成有益的、有針對性的後代。自然進化無目的，環境選擇甚至會淘汰高智商，AGI的進化是為提高智商設計的。自然進化中提高智力比AGI複雜的多，電腦進化隻需用電即可。和自然進化相比，AGI進化快得多。真正的AGI很可能是通過電腦的學習和自身優化，即讓電腦成為電腦專家來實現的。人類對AGI的恐懼來自它的進化，一旦AGI的智商超出了人類，人類將無法控製其進化進程，也就是說人類無法預期AGI會給人類帶來什麽。這是AI恐懼的根源。

那麽ASI呢？按定義，ASI是在科學創造力、普適智慧和社會技能等各個領域都比最強人類大腦還要聰明的智能。以現有的技術水平，人類根本無法預知ASI會是怎樣的，更無法預知ASI的創造過程。

把AI和人腦進行比較是一件有趣的事。人腦神經元的最大輸出速度為200Hz，今天微處理器的速度是2GHz，比人腦神經元快10萬倍。人腦的內部傳輸速度為120m/s，電腦的這一速度是光速。在存儲量上，人腦就更無法和電腦相比了。在可靠性和耐用性上，電腦也比人腦強的多，而且故障率幾乎為零。

人類以其自身的智能戰勝了其他所有物種。語言、人類組織、書寫及印刷術增加了人類的智慧。今天的互聯網讓人類的智慧更上了一層樓，人類這種集眾之慧的能力超出了其他所有的物種。但是，電腦能做得比人類更好，某一特殊AI能和互聯網上的任何一台電腦協調一致，並能將網絡上的一組電腦作為有共同目標的整體，這種協助不會有人類那樣的不同意見、不同動機和不同興趣。這種合作產生的效率、精準度、和一致性是任何人類組織都無法相比的。具有這種優勢的AGI，戰勝人類隻是其發展過程中的一個階段而已，它的最終目標就是超級人工智能ASI。

下一步呢？按這樣的邏輯推演下去，人類創造了AI和AGI，AGI創造出了ASI，人類根本無法理解ASI的所作所為。在ASI麵前，人類無能為力，人類要理解ASI，就像一隻螞蟻要理解一位高級程序員的程序構架一樣，是不可能的。人類社會有一條鐵律——智慧意味著權力。也就是說ASI將成為地球史上最強大的存在，包括人類在內的所有生物，都將臣服於它。如果ASI是善良的，它會以實時控製地球上每個原子的能力，開發出各種超級技術用以對抗人類的衰老、治療人類和地球上所有生物的疾病、消滅饑餓和死亡。今天，我們麵臨的所有問題，在ASI麵前都將不在存在，人類將從此得到永生。如果ASI是邪惡的，那麽它出現的那一刻就是地球上所有生命終結的一刻。就當今的人類而言，如果超級人工智能ASI成為現實，它就是萬能的神。這難道是我們開發人工智能的初衷嗎？