個人資料
慕容青草 (熱門博主)
  • 博客訪問:
歸檔
正文

機器人的反叛—童話是否會成真?

(2019-10-19 16:33:26) 下一個

幾天前收到一份來自互聯網元老級的網站Mozilla的有關AI的民意測驗(survey)的email。其中一題問道“下麵這些電影都展示了受人工智能影響的未來, 您認為哪部電影最能代表我們未來的發展方向?:Terminator 2, 2001: A Space Odyssey, Alien, Blade Runner, Wall-E, The Matrix,War Games, Interstellar,I Robot, Short Circuit, Ex Machina, Star Wars (take your pick),RoboCop,Tron,Transformers, Other - Write In,I’ve not seen any of these movies”

說實話,其中有很多電影我都看過,有些好像沒看過;但即便是看過的我也未必記得片名,而那些以為沒看過的,如果你現在給我放個片段我可能會想起曾經看過。另一方麵,我也不可能為了它一個民意測驗的email就去把那些電影再看一遍。所以它的問卷顯然沒有考慮到我的這種狀況,而我的這種狀況肯定是有一定的代表性的。因此,按照它的問卷,不論我怎麽答其實都不對。

由於它的名單裏有Terminator 2, The Matrix等,那顯然意味著Mozilla所感興趣的還不僅是有電子線路和機械配件組成的機器人,甚至包含了具有超自然的靈魂的概念的機器人。所以,我選擇了倒數第二個答案,“Other - Write In”,並按它的要求寫入了一段應該說並非“other”,而是“不存在”的評論。我說所有這些都不能代表未來的發展方向,因為它們漏掉了一種可能那就是地球人造出的機器人被超自然力量(比如魔術師)接管來用作軀殼的可能性。

在完成了那個民意測驗後,我想既然今天搞AI的人看來已經對機器人與可能的屬於靈魂的概念的結合這樣聽起來完全屬於科幻的議題感興趣,那麽我們不妨先行一步來對魔術師的靈接管了AI科學家及工程師們努力發展的機器人用作他們的外殼的可能性。

當然,作為堅定的唯物論者的很多自然科學家們,尤其是物理學家們肯定首先考慮的會是物理實現上的可能性,而且他們的答案一定是不可能。不過在這裏我們可以把他們的觀點先給排除掉,因為這裏討論的出發點是具有超自然背景的科幻。有了這個前提,很多人可能又會說那就用不著討論可能性了,因為有了超自然的前提,又是科幻,那還有什麽不可能的呢?其實這倒也未必。一方麵來說,既然是談論幻想小說我們不妨把各種傳統的童話故事的情節也拿來參考。在童話故事裏,就算是具有超自然力量的人物也並非什麽都能幹的;而且現實生活中的魔術師在很多情況下確實可以做出完全違背已知的物理原則的事情來,隻不過他們也並非什麽都能幹。另一方麵,即便是在有超自然介入的科幻中,也還存在著邏輯上是否合理的問題。

所以,在具有超自然力量的魔術師的靈並不是什麽都能幹的前提下,我們可以來討論一下機器人被魔術師的靈接管用來作為軀殼的可能性。既然這裏涉及到了一個我們無法探其究竟的魔術師的靈的概念,所以一個比較合理的切入點是首先考慮具有超自然力量的魔術師的靈(當然,再重申一遍:作為出發點,這裏的討論的背景是假設這種靈是存在的科幻場景)是否還有必要借用機器人作為自己的外殼。

我們來考慮一個簡單的例子,假設一個魔術師的靈操弄一個機器人去車行偷了一輛車。如果那是一輛無人駕駛的車,而且是停在沒有關卡的露天停車場的車,那麽我們便會麵臨這樣的問題:既然那個魔術師的靈可以操控機器人,何不直接去操控那無人駕駛車呢?這裏唯一的問題似乎是偷別人的車需要有鑰匙,但這一挑戰似乎太小了些,因為能去操控機器人的超自然力量去破解汽車鑰匙或直接象電影裏的竊車賊們那樣接通啟動線路應該是小菜一碟。所以,那輛車應該不是無人駕駛的,或至少應該是在有著重重關卡的室內停車場裏的。

為了簡化問題,我們仍然假設車是無人駕駛的,但停在有著重重關卡的室內停車場裏的。雖然這比前麵的停在露天停車場的無人駕駛車來說沒有變化太多,對於我們思考魔術師的靈借用機器人的外殼的可能性卻是有意義的。為了體會這裏的意義,我們引入一個在童話故事裏常用到的,而且在現實中聽起來也合理的前提假設:可以操控機器人的魔術師的靈在發揮超自然的功能時會耗費很大能量,因此會盡力尋找可助其節省能量的替身或工具。

如果那個魔術師的靈要自己在啟動那輛無人駕駛車之後還要打開一個個的關卡才能把車弄出來顯然需要花費很多氣力,這時如果他能操弄一個機器人,隻要給它一個任務指令,那機器人便按照他的要求去將門一個個地打開,使得他可以開著那輛無人車離開那個室內停車場,這樣的話,他可以節省很多能量。

所以說,即便對於具有一定的超自然能力的魔術師的靈來說,如果能有可以滿足他的要求的機器人,他可以節省很多能量。這一點乍看起來似乎沒什麽特別的,但仔細想一下便可知這表明了如果這個世界上確實存在著具有超自然能力的魔術師的靈的話,那麽他們有利用具有一定的智能的機器人外殼的需要;因此,他們一定也在非常關注著AI機器人的發展,因為當那種機器人發展到一定程度時,他們就有可能出來在AI科學家及工程師們意想不到的情況下來接管其中的一些機器人。

當然,這個世界上到底是否存在具有超自然能力的魔術師的靈到這一步為止還不是我們這裏關心的議題,就如同電影Matrix的場景是否真能反映未來機器人發展的前景似乎也不是Mozilla在進行民意測驗時所煩惱的議題一樣,畢竟我們這裏討論的出發點是一個科幻題目。

在肯定了具有超自然能力的魔術師的靈有利用智能機器人作為外殼的必要性之後,我們可以再來看具有超自然能力的魔術師的靈來操縱機器人的可能性。這裏比較合理的切入點是過去幾十年裏的一個老生常談的話題,那就是“機器人是否能具有如人類那樣的自主思維以致於可以完全不需要人類從鍵盤上敲入任何指令,或輸入任何特定的應用程序,或按下任何按鈕,而如人類一樣地生活在人類社會裏?

在有了高水平的模式識別軟件,高分辨率的鏡頭,基於Deep Mind技術的大數據處理能力,高度靈活的四肢甚至如人手般靈巧的手指,乃至由納米技術提供的人造纖維和皮膚之後,人們現在確實已經開始認為未來的機器人可以在人類的操控下進行很多以往隻有人才能進行的工作,諸如在戰場上衝鋒陷陣,搶救傷員,在家裏護理病患老人等等;但另一方麵,即便是在Deep Mind的AI機器人輕易地把世界上最強的人類圍棋高手打趴在地之後,仍然沒有人可以對上述問題做出肯定的回答。畢竟完全自主的不需要有人類從鍵盤上敲入任何指令,或輸入任何特定的應用程序,或按下任何按鈕而生存這一目標和打敗圍棋高手這種特定任務的目標相比是天壤之別。

這一現狀給我們提供了這樣一個啟示:以現在可以看得到的技術潛力來說,再假以一段時日,人類應該就可以造出除了能完全自主思考之外可以執行各種特定任務的機器人來的。在這個前提下,是否存在具有超自然能力的魔術師的靈以及他們是否會在AI科學家及工程師們沒有意識到的情況下接管機器人就成為了一個很有意義的問題。這是因為,一旦這種可能存在,那麽即便AI科學家及工程師永遠做不出來目前有高度爭議的具有自主意識的智能機器人來,這個世界仍然會出現不需要有人類從鍵盤上敲入任何指令,或輸入任何特定的應用程序,或按下任何按鈕而生存的完全具有自主意識的機器人來;而且它們的行為符合自古以來的二元論(即靈魂獨立於肉體)的理論,隻不過這些機器人的靈魂是那些操控它們的具有超自然能力的魔術師的靈而已。

很顯然,那些具有了自主意識能力的機器人不會再受它們原來的主人(不論是設計製作它們的科學家還是工程師,或者生產廠家,或者政府人員或者私人購買者)的控製。它們會知道如何克服自己的缺點,它們該充電的時候會自己去充電,哪個原件有問題了,知道到哪裏去更換,就好比人病了的時候知道會去吃藥一樣;它們甚至可以反過來讓它們原有的主人為它們做工(機器人的語言對話能力是目前發展最快的AI領域之一,所以當出現這些有自主意識的機器人時,它們的語音能力應該是不成問題的)。它們的原有的主人如果不服氣,拚拳頭應該不是它們的鋼鐵骨架支撐的拳頭的對手(更何況讓機器人不但如人類一樣地靈活,甚至可以進行拳擊比賽,而且要力大如牛應該是目前的AI科學家和工程師們的一大目標)。

所以,盡管以上所有的討論都是在“存在著具有超自然能力的魔術師的靈”這樣一個應該是科幻性的假設的前提之下展開的,但是由於我的討論過程本身卻是按照合理的邏輯進行的,因此,上述的結果便可引出這樣一個論點:AI科技向著高度智能化與類人類的體能化方向發展時,一個至今仍被忽略的,但是有著非常現實的意義的議題應該被擺上社會的議事日程,那就是AI科學與哲學界以及神學和宗教界的跨領域的交流谘詢

這樣的跨領域的交流之難度是不難想象的。

科學界與神學和宗教界的交流之困難倒不是因為各自對於對方的理論的理解的有什麽難,畢竟很多AI科學家或工程師們本身就是有著宗教信仰的人士。其基本的難點還在於領域整體間的文化障礙。科學的出發點本身是否認超自然的(盡管科學界的一些個人本身在工作之餘是相信超自然的),而宗教界的權威們通常都對科學的原理不甚了解。當然,個人的信仰也會起到很大的作用。首先,科技界的主體,包括很大一部分自認為有宗教信仰的人在內,並不相信二元論,也就是不相信存在著獨立於肉體的靈魂,因此也就不會把“存在著具有超自然能力的魔術師的靈”這樣的科幻性的假設當回事,盡管應該屬於是科技界的Mozilla居然還煞有介事地詢問人們是否認為那些科幻的場景會成為未來AI的發展方向。第二,即便是宗教神學界的人對於是否會出現可以操控高智能的機器人的具有超自然能力的魔術師的靈這樣的話題也會諱莫如深的。

而與哲學界的交流的主要難點在於目前的專業哲學界對於科學以及神學和宗教界基本不甚了了;而科學界以及神學和宗教界也排斥哲學。

但另一方麵,基於本文上述的討論,如果真的存在具有超自然能力的魔術師的靈,而且他們能操控具有高智能硬體的機器人的話,考慮到機器人在防彈防毒大數據處理快速反應高分辨度等等方麵所具有的遠超出人類的潛力,以及未來的核武器可能都由通過6G聯通的AI係統來控製,人類應該不得不對於目前AI科學家及工程師將AI機器人發展得日臻完善的努力采取更為審慎的態度,並對可能出現的AI與靈異的結合有更多的了解。

讀到這裏,細心的喜歡看科幻電影的讀者或許還會提出一個問題:我們從電影上看過具有超能力的人或靈異力量可以彎曲鋼棍,移動物體,因此,如果說具有超自然能力的魔術師的靈能夠用他們的意念力來進行那些操作還容易理解,但很難想象具有超自然能力的魔術師的靈如何能操控機器人。

其實,這並不難想象,隻不過這裏有幾個基本點需要弄清。第一,就是前麵提到的具有超自然能力的魔術師的靈發揮超自然的功能時需要能量。這一點不但從傳統的有關靈異的傳說中可以看到,而且從現代的那些魔術師及一些超能力人的表演中也有反映,所以應該是一個對於具有超自然能力的魔術師的靈一個合理的基本假設;

第二,如前所述,人類已經具有了發展高智能的機器人的潛力,目前所麵臨的根本性的哲學以及技術性的挑戰是能否使那些機器人完全具有自主性的智能;

第三,對於已經具有完成定向任務的機器人,比如可以在戰場上殺敵和救援的機器人,如果它們在未來會具有人一樣的肢體和手腳以及語言對話功能,那麽它們就已經具備了被具有超自然能力的魔術師的靈(如果存在的話)進行操作的條件了。因為那說明它們已經具有了基本的識別判斷和操作功能,對於具有超自然能力的魔術師的靈來說,隻需不斷地從內部線路上給它們輸入各種其它的指令,比如去商店購物,它們就可以按照那樣的指令去做。同時,如果那些具備自主意識的機器人的功能已經完善到了今天的AI工程師們經常期盼的那樣可以用流暢的語言以人們難以識別的語調和人對話,並外表非常象人,那麽隻要稍微穿著打扮一下,戴上墨鏡,走在街上也很難被認出。所以,一旦機器人的智能已經能夠完成一些複雜任務的操作,具有人類的長相,而且能夠對話(這些都是目前AI科學家和工程師們所努力的目標),它們就有可能被具有超自然能力的魔術師的靈(如果存在的話)進行操作了;

第四,對於具有超自然能力的魔術師的靈(如果存在的話)來說,人類一切保密對他們可能都是無效的。換句話說,即便人們給那些機器人預設啟動密碼,對他們都可以是無效的。他們所需要的隻是既能夠幫他們節省能量又具有實用功能的硬件外殼。因此,隻要人類的AI機器人發展到一定的程度,你就無法完全阻止他們全麵學習了解如何操控它們,隻不過他們並不需要從外部進行操控,而隻需直接進行內部的線路觸發就行(當然,他們需要對機器人的線路及原理有所了解。但這不會是問題,畢竟機器人是人造出來的,魔術師也是人,他們當中可以有機器人專家)。

結論:

當魔術界已經毫不掩飾地一再公開地進行不可能是作假(比如在America Got Talents)或作假機會很小(比如在中國的春晚)的屬於向世人宣示性的超自然的表演的同時,人類的AI技術卻同步地日臻完善的時候,人類文明有必要負責任地來思考兩者結合的可能性,以及一旦結合之後可能會具有什麽樣的後果。而這樣的考察之重要還在於,隻要那種可能性存在,沒有人能真正完全擋得住它的發生,就好比沒有人敢肯定除了在天津出生的那對雙胞胎之外,這個世界還會產生多少基因改造人甚至人造人一樣。因此,作為一個負責任的文明,人類有必要先行對這裏的各種潛在的可能性有所認識。。。。。。

[ 打印 ]
閱讀 ()評論 (12)
評論
A_bobcat 回複 悄悄話 你本身就是在用AI寫文章吧!寫出的東西基本是論文式的機械化語言。
慕容青草 回複 悄悄話 相關鏈接:魔術引著人類懵懵懂懂進入新時代 (https://blog.wenxuecity.com/myblog/28822/201905/22991.html)
慕容青草 回複 悄悄話 回複 '6ba6' 的評論 : 不明白你為何讀不懂中文。。。

當年那位中南海的張寶勝聲稱有為白胡子來人一直在幫他做功。。。今天很多魔術師公開聲稱他們的魔術是靈異力量幫助完成的。。。雖然劉謙從來沒有聲稱過有靈異力量的幫助,但今年春晚他的那個表演卻表現出一種力量在產生著他自己都未預料到的結果。。。
6ba6 回複 悄悄話 什麽是靈啊,看了半天,還是糊裏糊塗,可能是從英文直翻過來? 應該,當然,。。。
慕容青草 回複 悄悄話 回複 'A_bobcat' 的評論 : 沒必要和你爭了。。。這些都和本文無關,我剛才回複你不是鼓勵你不讀本文就評論,而是為了給大家掃盲。。。簡而言之,【機器人不會背叛人】是個假議題。。。

至於本文說的是:當魔術師的靈操控機器人時,機器人的行為是由魔術師的靈決定了。。。
A_bobcat 回複 悄悄話 那種情況叫“人背叛機器人"。
慕容青草 回複 悄悄話 回複 'A_bobcat' 的評論 : 這與好人壞人沒關係。。。當兩國發生戰爭時,誰都認為自己是民族英雄。。。另外,即便是你設計時讓你的機器人隻殺藍軍不殺紅軍,但你自己投奔了藍軍,那麽機器人照殺你,所以按照機器人是否背叛人而言,那根本是一個假議題。。。
A_bobcat 回複 悄悄話 若機器人以進化論作為道德的基準,人類的末日就到了。
A_bobcat 回複 悄悄話 這個問題好像不難。 設計的人是好人, 機器人就會變得更好。設計的人是壞人, 機器人就會變得更壞。機器人出事故是另一回事。
慕容青草 回複 悄悄話 回複 '衡山老道' 的評論 : 看來你沒耐心讀完本文,那我就來稍微講解一一下吧。
你說的【機器本身是不會反叛人的,除非模型中包括反叛的部份】早已是假議題,因為今天的眾所周知的機器人的一大功用就是在戰場上殺敵,殺的就是人。隻不過目前來說,殺敵的機器人都設定好如何識別敵我,所以隻殺敵人,不殺自己人。。。但是,在本文所討論的可能性中,因為具有超自然能力的魔術師的靈接管了機器人,那時所有原先預設的敵我都不再有效,而是那個靈讓它幹啥就幹啥,讓它殺誰就殺誰。。。

但是,目前來說,即便真的存在有超自然能力的魔術師的靈,他也不會去操控那些用來殺人的機器人。。。首先,如本文假設的,幹那事本身需要消耗一定的能量,所以要看所幹的事情是否有意義。。。目前來說,那些殺人用的機器人隻會殺人,連話都不會說,劫持它們沒啥價值,二來,那些機器人連彈藥都不會裝,需要有人來替它們裝,沒電了或沒油了,也需要有人來替它們補充。。。很難操控。。。一旦當AI機器人發達到具有各種類人類的體能,具有靈巧的手腳,也會對話時,劫持它們就有價值了。。。那樣的機器人不但容易操控(隻要進入它們的線路就行),而且操控了一個可以控製一批(這就是智能的社會性特點),並且每個機器人都是多功能的,可以進行各種任務。。。
慕容青草 回複 悄悄話 回複 '衡山老道' 的評論 : 等你耐心讀完本文之後你就會知道本文討論的是一種什麽樣的可能了。。。
衡山老道 回複 悄悄話 機器的智能是人工智能,是人按照一定的模型,包括知識表達,推理,學習,決策等組成部份,授與機器的。機器本身是不會反叛人的,除非模型中包括反叛的部份。
登錄後才可評論.