機器人與人類的戰爭是可能的嗎？

這是我在三年前討論的話題[1]，我當時的結論是可能的，不過當時沒有什麽人在意我說的話。最近，工業奇才特斯拉的老板伊隆.馬斯克(Elon Musk) 出來說5到10年內機器人就可能挑戰人類[2]，以他的地位和名望說出來的效果自然就不一樣了，於是便引發了網友的討論，有一種意見認為那是不可能的。

那麽，機器人到底是否可能挑戰人類呢？

和三年前一樣，我的答案仍然是：可能的。也同三年前一樣，我這不是憑空想象，而是有著邏輯的依據。

談到機器人挑戰人類可能性，迄今為止多數人想象是象科幻小說和電影中表現的那樣僅僅是因為機器人的綜合智力達到了一定的程度之後就可以象人一樣思考了，所以就可以挑戰人類了。按照那樣的思路，機器人需要非常高的綜合智能，而很多學者就論證說需要由人來輸入指令的機器人不可能達到那樣的智能，也有人雖然不是從邏輯上來否認這種可能性，卻指出以目前機器人的智能來說，要想達到那樣的水準還遙遙無期。

但是，上述的思路有一個前提，那就是人類不會主動地去造就出能夠挑戰人類的主導地位的機器人來。在這樣的前提下我們確實可以說至少目前來看，機器人能夠挑戰人類的前景是非常遙遠的，而我們一般也實在想不出什麽人會刻意放棄人類對於機器人的主導權而去造就出能夠挑戰人類的機器人來。

而那樣一個前提本身也構成了上述思維的邏輯上的罩門，一旦具有一定財力和勢力的人，不論是出於什麽樣的考量決定要造就出一批具有自主性的可以挑戰人類的機器人來的話，那個罩門就被破掉了，因為那不但從邏輯上來說是完全可能的，而且就技術上來說，目前就基本上是具備了的。

如我在三年前指出的那樣，要想認識到機器人在不遠的將來挑戰人類的可能性，就必須跳出前麵提到的機器人隻有在綜合智能完全達到或超出人類的智能時才能挑戰人類的思路，而是要看到機器人能夠挑戰人類的前提不是綜合智能的發達，而是社會性的形成。

所謂機器人的社會性的最基本的條件包括三個方麵：1）機器人之間可以彼此交換信息，2）當一台機器人出了故障，其它機器人可以去幫它排除故障，包括彼此相互幫助換電池或添加其它形式的能源，而且3）機器人可以自主地利用自然的材料生產出製造機器人的零件並組裝出機器人，並且能夠在自然界尋找開采收集所需要的原材料和能源。

目前人類的技術已經完全可以做到以上三點。隻是是否已經有人運用這樣的技術來製造出具有自主性的機器人社會就不得而知了。

當然，上麵三個條件是機器人能夠獨立於人類自主生存的基本條件，還不足以構成挑戰人類的充分條件。如果一個機器人的社區要想挑戰人類它需要有一定的戰鬥力，這一點從技術上來說人類也已經具有讓機器人具有戰鬥力甚至具有操控核武器的能力的條件了。

還有非常關鍵的一點，那就是當有人製造出具有上述四種特性的機器人社區時，他還需要非常高姿態地放棄對自己製造出的機器人的操控權，也就是他不會刻意地在機器人的操作係統或運作程序中加入讓機器人至少是在必要的時候絕對服從它們的人類製造者的指令。這一點在邏輯上是完全可能的，也是最不可思議的，因為實在讓人想象不出任何人會有任何理由來這樣做。

在具有了上述幾個條件的前提下，還有一些輔助條件也是目前人類可以幫助機器人做到的，那就是各種各樣的適應環境和進行遊戲對抗的邏輯能力。

具有了上述五方麵能力的機器人社會已經具有了可以抗衡人類的能力。當然，從上述的討論中也可以看到，這裏的前提是有人會幫助機器人去做到這一點。而是否會有人這樣去做本身不是技術上是否可能的問題而是一種社會倫理或心理的問題，但是我們都知道社會倫理與心理是不象自然定律那樣容易被人類掌控的。所以，我們隻能說實在想象不出有任何理由會讓任何人去製造一個能夠威脅到包括他/她自己在內的人類的生存的機器人社會。但是，這裏的唯一約束條件，就是那個“實在想象不出”，一旦有人就那麽出乎人類的想象去那麽做了，就目前人類的技術來說，是完全可以做得到的。

當然，機器人能夠挑戰人類並不等於它們一定能勝過人類。但是，如果有人完全出乎人們的想象地非要製造出能夠完全獨立與人類而且能不斷自我完善的機器人來，就目前人類的科技水平來說也不是不可能。這就需要給予機器人以更高級的智能，那就是它們需要能夠提出自我完善的要求，並根據這樣的要求來設計軟件及硬件的改進，並加以生產。對於單一的機器人來說，由於它的操作指令是人類加入的，它不太可能（或者完全不可能）做到這一點，至少它很難更換自己的操作係統。但是，一個能夠彼此觀察彼此溝通而且彼此幫助修複的機器人社會，是完全可以做到這一點。它們隻需輪流將對方關機，然後幫對方進行包括操作係統在內的軟件的更新，以及更換硬件，然後再重新開機就可以了----隻要人類最初給予它們這樣的能力，而人類已經具備了可以給機器這樣的能力的水平了，剩下的隻是願意不願意的問題了。

能夠生產和彼此幫助更換軟硬件還不等於能夠設計。能夠做出需要的判斷，並根據需要進行設計可能是機器人能夠在物質能力上完全超越人類的一個最後的前提條件，而這個條件目前來說恐怕也不是完全不可能通過人類的幫助而獲得的。當然，就是這樣的機器人與人類相比也還是有著很多致命的缺陷，比如他們沒有情感，甚至沒有公德和是非。但是，它們恐怕根本不需要那些高尚的素質就能挑戰甚至在軍事戰爭中打敗人類了。。。。。。

---

[1] http://blog.wenxuecity.com/myblog/28822/201101/13377.html

[2] http://tech.creaders.net/2014/11/23/1458656.html

[慕容青草]

在機器人是否能挑戰人類這個議題上，人們一直把注意力集中在機器人的智力是否會超過人類這個議題上，因而通過論證機器人的智力無法超過人類而得出結論說機器人不可能對人類構成威脅。。。。。。但是，他們的思維中忽略了兩個基本點，那就是本文所討論的兩個基本點：1）機器人隻要能形成本文所指出的社會性，就可以獨立於人類；2）人類可以設計教導機器人如何來對付甚至攻擊人類。。。。。。

想想一群沒有欲望沒有情麵，沒有恐懼，防毒防彈，不怕疲勞，不需要休息，反應精準高速，攻擊準確幹脆的機器人大軍向人類發起進攻時將會是什麽樣的。。。。。。而目前人類對這點的缺乏認識恰恰不是人們所迷信的科學上的缺陷，而是本文所指出的簡單的哲學思維上的缺陷。。。。。。

很多人可能因為機器人中的那個“人”字而忽略了今天的機器人能夠做些什麽。今天的機器人的潛力是能夠綜合今天各種科技能力。除了前麵提到的基本的素質之外，它們還能做到：

千裏眼和透視眼：今天的雷達能夠偵察幾百英裏以內的動靜，今天的紅外掃描和其它形形色色的掃描可以讓人類難以找到藏身之處。

順風耳：今天美軍的偵察機早就可以將多少英裏之內的敵方的聲音收集到且建立特征資料，今天的電話及網絡通訊都可以被監聽。

水陸空全方位運行：這在原則上來說早不是問題，隻是具體設計參數的問題。

遙控：如果美國的高水準的無人機都有可能被別的國家攔截下來的話，那麽機器人侵入某些國家的核子武器裝置，遙控發射核武器的可能性也不能排除。。。當然機器人更可以遙控它們自己掌控的武器。

高度協調：成千上萬的分布於世界各地的機器人都可以通過電訊同步協調。

。。。。。。

所以唯一剩下的似乎就是會不會有人甘願去造就這種可能對整個人類具有威脅的機器人社區的問題，而馬斯克出麵警告本身或許意味他知道有人在這麽幹了。。。。。。

我前麵提到的看到需要並根據需要進行設計雖然有一定難度，但並不是什麽不可能的。。。首先那是一種哲學思維，然後有軟件背景的人就可以依據那樣的哲學思維寫出相應的程序。。。我要是有時間有興趣都可以寫出那樣的spec來。。。。。

所以我這裏對馬斯克做一呼應：呼籲聯合國對比著防止核擴散公約製定更為嚴格禁止各國及個人任何可以促成機器人的社會性的活動。。。。。。