見微知著
成功是人生，失敗也是人生。 輝煌是人生，平凡也是人生。
--有感於電腦“大師”掃平世界圍棋大師--
繼穀歌電腦軟件“阿爾法狗”戰勝圍棋大師李世石之後，最近又傳出電腦軟件“大師”掃平世界圍棋大師的60連勝戰績，震驚了世界。
之前，在“阿爾法狗”戰勝李大師之後，我已經發表了“人腦和電腦”一文，論述我對人機關係的看法。這個看法也適用今天和今後。
我的觀點其實幾十年前已經形成，當時電腦還不普及，更別說人工智能。這裏把我多年以前寫的文章附在後麵，供大家參考。 原標題是“機器智力和人的智力”。我檢查了一下，發現隻要修改一句話，其它文字都還有效（這一句話，也不是文章關鍵）。這說明，在人機關係上，在哲學觀點上，我的觀點沒有改變。
這次電腦“大師”的表現，對我最大的啟發就是，電腦不再局限於學習，模仿，概括，總結，完善和係統化人類棋手的經驗，而是按照自己的邏輯建立算法。也就是人類思維與電腦思維是不同的。人腦與電腦各有優勢和劣勢。
當然電腦的“思維”還是來源與人，隻是不是來自棋手，而是另外一些人—電腦軟件的設計者。他們利用，操控電腦與赤手空拳的人比賽。後者敵不過前者，一點也不奇怪。就像一個無槍的年輕人，打不過一個有槍的老年人一樣。何況電腦背後還不是一個人。
===============================================================
【機器智力和人的智力】
這個問題引起很多人的興趣。前幾年，我給同學出畢業論文題目時，其中之一是“機器智力與人的智力”，引起許多同學的興趣。注意，這個問題的提法也是有講究的。一般比較聳人聽聞的提法是：“人會受機器控製嗎？”或者“機器能否超過人？”但這樣的提法本身是不科學的。因為什麽叫“超過”，本身就先要搞清楚。所以我們用一個沒有傾向性的提法。用常識來說明機器不可能否超過人是不行的。如果你說，機器的程序是人編的，機器是受人控製的，所以機器不會超過人。這無法說服對方。他可以說，的確，機器的程序開始是人給的，但以後，機器可以自己學習，進化，從而超過人。如小孩可以超過大人。現在機器已經做了許多過去隻有人才能做的事。具有“學習”能力的機器也已經有了。如果你說人的某一特定能力機器還沒有，他們會說，的確，目前機器還不能做到這一點，但將來可以做到。憑什麽說永遠做不到呢？隻要把問題充分分解，加以形式化，就可以用計算機來做。複雜的東西總是可以分解為簡單的東西。
一些理論文章回答這個問題是不能令人滿意的。他們往往論述人腦如何複雜，如何精巧，以此說明機器難以達到。這隻能說明難易，而不能說明可否。我想最好能像證明永動機不可能一樣，形成熱力學第二定律。這樣才能根本上解決這個爭論。曆史上曾經有許多人醉心於永動機的製作，白白浪費了青春(是否也促進了熱力學第二定律的發現？)。對物質，有物質不滅定律與能量守恒定律。對信息，智力，是否有相應的定律呢？
去年，國內出版了一本譯著，“計算機不能做什麽？”作者是美國加州柏克萊大學哲學教授。當初我思考這個問題時，明確認識到這是一個哲學問題，要求從哲學上回答，而不是從技術上討論。當時國內並沒有哲學家介入。這本書的出版，說明這的確是個哲學問題，國內哲學家也介入進來了。社科院已經列了專題，說明這個問題不是簡單能夠回答的。
為什麽要討論這個問題？
我想對這個問題的正確理解，有助於我們的方向和工作。比方，如果本質上機器與人不是一回事的話，我們所建造的機器人就沒有必要模仿人的形狀。在研究先進軟件時，人們也發現，人機合作是更為有效的方式。有些事情人做起來很容易，而機器做起來很費勁，我們也沒有必要追求不必要的自動化。
科學哲學是一個很有意義的問題。牛頓的書名叫“自然哲學的數學原理”。當初科學與哲學不分。現在，自然科學博士還叫PhD。Ph是英文哲學的簡寫。現在的爭論，曆史上不乏類似的例子。一種新技術出現，人們或是過低估計它，對新生事物挑剔，阻礙。或是誇大其作用到不適當程度。其中，包括著名科學家。牛頓定律有著極大普遍性。於是，牛頓希望把一切歸結為他的公式。世界無非是機械運動。然而，自然界的運動不僅是機械運動，物理運動，還有化學運動，生物運動。後者不能歸結為前者。它們與機械運動有本質的不同。大腦運動尤其是高級運動。
對人工智能問題，有三種觀點：
1。樂觀派。以圖靈為代表。1972年，一個英國人搞了一個調查，給英美63個控製論專家問卷。你認為再過多少年可以研製成與成人智力相等的計算機？結果如下：
5年以內 0
10年以內 1
20年以內 19
50年以內 37
所以，認為50年以內可成的有57人，占90%。
2。悲觀派。以美國斯坦福氣大學哲學教授德雷福斯為代表。他認為人工智能是現代煉金術。
3。中間派。認為不管人機能力有鴻溝或無鴻溝，但我們離邊界還遠，希望做實際工作。也就是暫時不參與這種爭論。
圖靈在1950年於美國Mind雜誌發表“計算機和智力”，挑起了這個問題。他提出一個圖靈試驗來區分人和機器。他的意思是，如果試驗者無法區分人和機器，說明機器已經有了人的智力。
我是不承認他的試驗的。這種試驗類似於“存在就是被感知”的唯心主義。有限的試驗是無法區分人和機器區別的。我認為，機器“智力”與人的智力根本不是一回事，這種試驗也沒有意義。
圖靈為他的觀點辯解。
比方，哥德爾不完全性定理說，任一形式係統均有局限性。圖靈說，還可以有更高明的機器。但更高明的機器哪裏來？還不是要靠更更高明的人？
有人主張在圖靈試驗中，做算術測驗。機器由於死板，所以永遠正確，而人總究會犯錯誤。所以，犯錯誤的說明是人，從而可以把機器與人區別開來。圖靈說，機器也可以安排一些錯誤來迷惑你。
這是詭辯。機器錯誤不是無意的，偶然的，而是固定的。所以，從設計角度看，這不是“錯誤”，而是“正確”。而且，“也”和“安排”，說明什麽？不是機器在無意犯錯，而是人在有意造“錯”，以應付試驗。
還有人說，機器不能意識到自己在思維，與人不同。圖靈說，這是唯我主義觀點。你要知道一個人是否意識到自己在思維，隻有成為那個特定的人才行。
這也是詭辯。人難道不知道機器沒有思維？
中國古代也有類似故事。孟子與粱惠王遊於濠粱之上，看水中之魚。孟子說，你看魚多快活！粱惠王說，你不是魚，你怎麽知道魚快活不快活？孟子說，你不是我，你怎麽知道我不知道魚快活不快活？這樣可以無窮問下去。
馬希文在“人工智能的極限--計算機不能做什麽？”一書序言中列出了三個要計算機處理問題的必要條件：
1。形式化。
要計算機處理問題，要把非形式化變為形式化，這是人的能力。如果把這一過程本身形式化，又存在著如何實現這個過程的形式化問題。如此可以遞歸。如果說先驗地存在一個原始形式係統，這是不符合實際的。如果說，我們可以把問題領域逐個形式化，最後達到全麵形式化。這還是有問題的。當計算機遇到某個問題時，計算機如何判別這個問題屬於哪個領域？
2。不可判定性
用計算機判斷事情，隻有命題為真時，才可以在有限步內判定。而當命題事實上為假時，不可能在有限步內判定。結果無限搜索下去，永遠報告：“現在還不真”，但永遠不能判定它為假，因為也許下一步可能判定為真。雖然你可以設計新的形式係統，但機器不知道應該在哪個形式係統中去搜索。
3。計算複雜性
對任何算法，機器必須在合理時間內完成，才有意義。有些問題雖然原則上可以用機器實現，但需要天文數字的時間，其實等於無解。因為要實現這個計算，先要製造出千萬年不腐爛的機器！
下麵談談我的一些看法。
1。比較標準
什麽叫機器超過人？即怎樣估計機器和人的能力？要說機器超過人，早已是事實。汽車代替人腿，走得比人快得多。起重機代替人手，力氣比人大得多。但沒有人說汽車或起重機超過人。人的主要能力在於智力。單靠體力，人打不過一頭野獸。但利用智力，人可以主宰世界。人的能力主要在控製。人和老虎誰厲害？從控製意義上，人厲害。人也控製機器，包括人的智控製機器的智。
2。控製與獨立
人控製機器，但不意味著機器不可以有一定獨立性。有時看起來機器控製人，比方，進入地鐵，不刷卡，門不開。但這是設計者控製使用者，物化的人控製自然的人。這是人與人之間的一種約定，不是機器有靈性，反抗人的控製。機器可能失控，這一般是局部的，暫時的。失控是一種無規律，無目的行動。當年陳伯達說，讓猴子在一台打字機上隨便跳，一萬年之內，也許會打出一篇莎士比亞文章。我大概估算了一下，根本不行。打出來的“文章”，許多可能全部是標點符號。
有人說計算機不一樣，它能自己學習。其實，從人和機器關係來講是一樣的。計算機不是天方夜譚中放在瓶中的魔鬼，放出來以後，就控製不了了。後膛槍發明以後，有人說，今後再也不會有戰爭了，因為可以把人像小雞一樣，一個一個槍殺。事實並非如此，因為人不會等著被槍殺。如果這樣，用菜刀，石頭也可以一個一個把人全殺死。這是一種形而上學的觀點。隻強調物的能動性，把人的能動性凝固起來。正像人對自然有一定的能動性，但這是相對的。這就是人的局限性。作為人造物的機器，與人的關係也是這樣。它隻有相對的能動性。如果光強調形式邏輯，強調偶然性，那末，即使沒有計算機，也可能產生可怕後果。某個國王的消化不良可能引起一場戰爭。一個煙頭可能毀滅世界。
3。不斷增長與無限增長。
我們說計算機能力有限度，但又不好定量描述，究竟界限在哪裏？我們不能給出靜態的回答。奧運會百米記錄目前是9.79秒，以後最少可以多少秒？10年，100年，1000年後呢？很難回答。但如果你說5秒，恐怕沒有人會同意。但邏輯上很難駁倒。人們可以相信，這個時間會越來越短。兩種結合起來，可以得當這樣的結論：不斷增長不等於無限增長。數學上叫做有界單調函數。也就是有極限。飛機的速度不斷增長，但不等於無限增長。火箭比飛機快，但那是另一種東西，它也有自己的界限。樂觀主義者們混淆了不斷增長與無限增長的界限，從而誇大了計算機的力量。
4。相對有限與絕對無限
我們說，計算機能力有界，是指一定形態的計算機能力有界。但今後可以有更好的計算機或其它形態的智力機器。從這個意義上講，機器的能力也是無界的。但這不等於機器可以超過人，因為人也在進步。對人的任何特定能力，機器總可以在某一天達到。所以，要從總體上，動態上，相對上把握，而不是孤立地談某一點上機器不如人。不要“防衛型”辯解。你說機器超過人，我不說哪一點你超不過，而強調人是一個動態目標。當機器超過原來的人時，人已變成非人或“超人 ”。你隻能說，未來的機器可能超過今天的人。
係統化的方法論，說起來容易，用起來不容易。
例如，假定我要你吃500個餃子，你肯定拒絕。那我請你吃10個餃子，你不會拒絕吧？不過，當你吃完以後，再加一個，行不行？你很難說不行吧。這樣，步步進逼，各個擊破。推出你一次能吃500個餃子。所以要從總體上觀察，而不能孤立看問題。哲學上中國人的所謂“飛箭不動”原理，也是如此。
5。量與質
計算機能否“進化”？有人說，機器進化速度比人快。實際上，他是在對“進化”一詞偷換概念。機器發展不是獨立的，與人一樣的進化過程，而是依賴於人而發展。它的發展體現了人的發展。
世界上是否存在除人類的進化以外的另一種進化過程？毫無根據。
大腦運動，生物運動，能否歸結為物理運動，機械運動？質轉化為量，在一定條件下是可以的。超過一定界限，又成為質的問題。如計算複雜性，看起來是量的問題，實際上成了質的問題。
對人的大腦本質還不清楚，怎麽把這種能力交給機器？
人還有軀體與自然作用，從中獲得知識。
人還有社會聯係。
這些都是機器沒有的。
人獲得知識不是一個邏輯推理過程，與電腦完全不同。
許多事情很難告訴機器。比方，除了形式邏輯，還有價值標準，道德，心理等一係列問題。比方，房子失火，要不要救？一般當然要救。但如果在拍電影，你去救就犯傻了。在戰爭中，房子著火救不救？敵我立場正好相反。要把這一切告訴計算機，談何容易。從哪裏可以看出，從某一點出發，機器可以自己學會這些東西呢？
總之，人類為什麽要發明一個東西來控製自己呢？人的行為是有目的的，除非失控。如果要造出人的等價物，人類的繁殖已經如此，何必費那麽大勁製造機器人？人造機器是為了彌補人的不足，使人獲得更大的自由。
說機器超過人，也缺乏曆史和現實根據。
1959年，Samual博士的跳棋程序戰勝了自己，引起轟動，好像說明機器能夠超過人。這問題怎麽看？下棋雖然是比較複雜的智力活動，但還是比較容易形式化的東西。機器贏了人，並不能說明機器超過了人。因為寫這個程序，作者可能化了幾年時間。而作者與自己程序比賽，隻是幾小時時間。所以，這是長期的Samual戰勝了瞬間的Samual，是物化的Samual戰勝了自然的Samual。如此而已。所以，Samual本人並不認為機器超過人。因為他知道設計這個程序的甘苦。如果他設計更好的下棋程序，戰勝原來的下棋程序，那又說明什麽？
學習程序可以看作是一個在線自改進程序。原設計是個開放係統，可以不斷加入新設計。這不能改變機器由人設計，受人控製的事實。正如太陽能驅動的機器，可以不斷從太陽中吸收能量，但不等於永動機。從上述事例，看不出計算機怎麽能突然脫離人的控製，獨立進化。正如德雷福斯所說，一個人爬上一棵樹，就能說自己離月亮更近了嗎？
總之，這個問題涉及很多哲學問題：
1. 有限與無限。
2. 相對與絕對。
3. 靜態與動態。
4. 偶然與必然。
5. 量與質。
6. 人與物。
等等。
我認為，計算機隻是一種工具，如同其它人造物，電視，汽車一樣。智力機器會普及，就像傳統機器普及一樣。所謂計算機“思維”，“學習”，“進化”，“智力”等等，這些名詞可以用，但與平常的含義有本質不同。不能因為你給了這些名詞，它就有這些內涵。自來水，如果沒有水塔，水泵，它不會自己流出來。自行車，腳不蹬，不會走。計算機也可以叫電腦，但僅僅是一種形像化說法，與人腦完全不是一回事。正像豆腐腦，它的定義是，一種形狀像腦的豆製品，而不是“會思考的豆腐”。
是的，不僅是90年代，還是80年代的作品。也許是我落後了。不過，我會關注，看看“人工智能”怎麽變成“超人智能”。
聽著一位社科老師給我們眉飛色舞地講他對量子力學的見解。
我們的內心除了同情，還是同情！
我沒有搞錯。人工智能建立在電腦基礎上。所以這裏說的電腦，就是具有人工智能的電腦。
我已經舉了起重機的例子。現在誰與起重機比力量？所以人與人工智能也不能這麽比。
也許人們還是認為起重機與電腦不是一回事。我相信，有一天，人們對人工智能會習以為常，不會
把它與人的智力相提並論了。