亂舞:【人狗大戰之人性思考】

 
[蝦按:本蝦昨天發了一篇亂舞公眾號裏的文章(作者為亂舞朋友桴),今天再發一篇其本人寫的關於人機大戰的思考文。原文較長,有許多理論術語,本蝦作了刪節和適度濃縮,標題為本蝦改擬。想看原文的朋友,請加其公眾號,掃描下方二維碼關注微信公眾號“亂舞”。
 
 
亂舞是本蝦前年認識的一位來美讀物理的小朋友,赴美前曾獲國際物理競賽金牌(International Young Physicist Tournament)。平時朋友圈的內容顯示其涉獵廣泛,很有些獨到見解,實乃青年才俊。最近他以"亂舞"的筆名開一公眾號,發表原創文章,很有看頭。前天突然請求本蝦幫忙推廣他的公眾號文章,稱很不爽目前閱讀點擊量才百十號人。本蝦決定從他已發的六篇文章中擇兩篇分享與大家。謝謝大家的關注
 

亂舞:【人狗大戰之人性思考】

2016-03-16

本文由筆者自人狗大戰以來累積的三篇文章為主體整理、修改、合編而成,根據每一場比賽的勝敗,筆者的想法和情緒也在轉變。三篇文章原文分別叫做《高級蒸汽機和不同維度的思維》、《現代世界和個人情感》、《奇點時代的人性》。


一、高級蒸汽機
加州時間3月8日晚,1:0


遠在機器觸碰了狂歡時代的人類不知道哪根憂國憂民的神經前,萊布尼茲就在單子論中提到了這個問題。順便提一下我認為哲學上最關鍵的幾個人物:

 

1.愛因斯坦,因為他的廣義相對論是哲學界最大的實際貢獻;

 

2.萊布尼茲,因為他的單子論解決了太多問題,預言了成噸的近現代物理且可以持續給物理學家哲學家做指導,堪稱哲學界之最;

 

3.維特根斯坦,他對於語言為人類認知邊界的論述和密集的語言研究實際上是觸及了哲學的最本質的問題:人的認知和真理的關係中的人類認知來源;

 

4.圖靈對於人工智能的思考;

 

5.康德和柏拉圖,他們倆雖然風格不同或者說在主流哲學界中將其定義為不同的兩個流派(當然我覺得這樣做很蠢),但他們對於理性的思考和定義,對於形而上學和科學本質的聯係,非常革命性,和維特根斯坦異曲同工。他們是探知到科學本質的人。


萊布尼茲是正規哲學家中最耀眼的,他對後世的影響在我眼裏遠遠超過牛頓。


單子論中講到了複雜係統和意識的關係。意識是絕對主觀的而一個機器再複雜也是一個客觀存在。萊布尼茲說,對於任何一個看上去能思考的機械,如果將其思考的部位放大大到人類能夠走進去,那麽我們會發現裏麵隻不過是大量的高速轉動的齒輪而已,其中每一個局域都沒有自由意識的特征,所以不論這個機器多麽強大,都不是一個有自由意誌的生命體。如果讓一個機器越來越像一個生命體,越來越難和人做出區分,確實可以得到一定的極限使它的思維活躍性接近人類,但實際上機器和人有本質的區別:
機器是一個因果係統,響應外界刺激,自身有一套邏輯指揮這個係統運轉來將一定的信息反饋到外界。
人的意識是fundamental的,第一性的,意識的存在不依賴外界信息,意識將信息在自身循環,所以科學不可能解釋意識的起源,哪怕再接近。


換個說法的話,一個係統的所有複雜的運動本質都是對物理方程的表示,這樣的存在非常的直接且客觀,和自由意識沒有聯係。

當今的人類製造的人工智能本質上都是在製造機械,intuitively,高級蒸汽機。機器學習並不是真正意義上的學習,而是人類以其認知將人類學習公理化之後得到一係列步驟,將這種步驟輸入進機器。機器接著會100%地按照代碼來運行,而所有的學習過程都是一個因果反應,這裏沒有意識,因為每一個單位都沒有意識。這樣造出來的機器可以在technical的任務上碾壓任何人類,比如計算積分,比如下國際象棋。

圍棋一樣屬於technical的任務,因為圍棋和國際象棋的區別在量上而不是質上。大局觀即在人的視角下所謂的“感覺”“直覺”“嗅覺”,其實用一個詞就可以說清楚——經驗。而經驗就是大數據的不精確分析。那麽結果已經很顯然了:機器在經驗學習上顯然強於任何人類。和經驗對立的理性上,機器對人類的碾壓不需解釋。所以圍棋機器打敗世界冠軍是注定的事,隻是時間問題。


那麽數學,理論物理,機器可以完成嗎?當然可以,隻是時間問題。數學藝術在於一個理論的公設的決定,理論物理亦然。同樣這是人類的經驗,經驗完全可以用機器對世界的探測的數據進行更精確的模擬,有了公設之後我們認為機器的能力將不證自明。至於創造、藝術什麽的,統統可以由機器來完成,並且會帶來完全不同的美。


意識是fundamental的,也就是說意識是世界的生成元,意識不可被創造,因為一個機器的任何一個部位都沒有意識,所以其集合是一個能夠對外界反饋信息的機械,不是一個能向內反饋信息的機械,這點從機器的製造方法和運行方法就能看出來。


如此來說,機器人和人有一層窗戶紙的區別,就是意識的存在與否的問題。機器人和人的本質沒有表征上的區別,而在fundamental的那一塊,人類是意識而機器人是代碼,區別在這裏,機器人的所有行為都有一個框架,代碼。這樣的機器人再厲害也在人類100%的掌控下,並且不能被認為有智力。


如果人類編寫一個機器人自我修改代碼的程序,那麽機器人和人的區別僅僅是形而上的意識存在與否的問題(這樣的機器人依然沒有意識),而現實上將和一個有意識人一模一樣。那麽這樣的機器人的強大能力,是人類社會的重大隱患。所以擔憂人工智能是有道理的,在代碼修改的層麵上,而對於AlphaGo,任何擔憂都是幼稚且愚蠢的。


正確理解這場比賽吧,這不是機器人對人類的挑釁,不是人機決戰,不是人類的尊嚴之戰。這裏沒人挑戰人類的尊嚴,因為邏輯上來說人類的失敗是注定的,人跟機器沒有任何比拚technical的能力的必要。
我們要用這場比賽看到人類的偉大,看到那一幫年輕人的智慧和努力,我們相信這樣的機器人在正當的應用下將給人類社會帶來巨大的貢獻。我們要看到人類在人工智能的科研上的進度,對於人類的未來有一個更明確的判斷。我們鼓勵這樣的工作,感謝這些年輕人給我們帶來的視覺體驗,雖然這點萊布尼茲和圖靈早就預料到了,就像引力波一樣,雖然引力波是個再自然不過的結果,愛因斯坦早就預料到了。

 




二、21世紀的個人情感
加州時間3月12日午夜,3:0


現代其實是一個個人力量越來越不得忽視的時代,但同時也形成一個更加集體主義、更加忽視個人力量的環境。我希望現代人能守住那份美,否則,死將成為追求美的人最好的歸宿。


3:0這個結果在意料之中,但那天有另外的想法,主要是被李大師感動了。


我是個完全不懂圍棋的外行,但我也會假設自己在參加這種比賽進入讀秒的場景,我認為還能保持鎮定就已經遠遠超過了常人的定力。李大師在讀秒後繼續抵抗一小時多,一度將左下星位附近的戰局打出未知數。這裏最容易讓人反應到的話就是“雖千萬人吾往矣”,我的腦海中當時浮現出一人一騎一杆長槍,身披帶血戰袍的李九段麵無懼色地對陣十萬大軍。


必然的失敗本來不足為奇,但這樣的視覺盛宴讓李大師的精神和大師素養深入人心。一個合理的結果後為何有強大的情感波動?


一個朋友在看完比賽後對穀歌一幫工程師很不爽,對此我不是很理解,再三詢問下才大概知道她的理由:


她所擔心的事並不局限於本場比賽,而是科技的發展是否會給很多有人文情懷的領域帶來量化災難。當所以的美都競賽化之後,人類的文明反而指向上古時期弱肉強食般的野蠻。而最終,人才能感受到的一些情懷,比如圍棋的禪意、日月星辰與人合而為一之美、孤膽英雄臨泰山崩於前巋然不動……這些情感好像都無意義了,因為情感已經在數據化後成為了沒有任何主觀意義的存在,而存在是不分黑白的。


如果按照這個思路去歸納,最後總會得出結論,所有的情懷都是無意義的,那精神潔癖必然讓我厭惡這個世界,我會一死了之。


再說一個例子。前陣子我和一些博士生吵了一架。當然吵用的略顯誇張,但對於精神力很集中的人來說“鬧不愉快”又顯得太隨便了。概括一下吵架的點就是在於,現代科研到底是不是科研民工主導的。在我眼裏科學前進的路非常明確,因為我有一係列指向明確的物理直覺,隻要我掌握了我認為足夠的數學知識,必然會在本科畢業後集中大量的時間和精力攻克那些難關。然而當今學術圈主流(雖然我從來不認為科學界應該有主流)觀點是科研如80年代中國重建一樣是摸著石頭過河,走哪算哪,運氣好或實力強的人興許能做出較大突破,而有大局觀的科學家或哲學家在現代科研圈中的地位屬於“哪涼快哪呆著去”。

 

對我來說,這樣的想法和做法正在毀掉我心中一直守護著的科學之美。當年物理有愛因斯坦、狄拉克、薛定諤,數學有Lie、黎曼、龐加萊、格羅滕迪克,他們都是實實在在的藝術家,他們將個人的智力、藝術天賦與自然的神秘力量相結合,我們才得以看到這麽美麗的理論。他們無疑是單槍匹馬的個人英雄主義代言人,他們的人生更是藝術。


現代缺失這樣的人,難道這就要讓人不得不接受對個人尊嚴的踐踏嗎?科學界少了藝術,就要接受競賽,那便有了弱肉強食。最好的辦法是在科研成果上擊敗對手,但這又是多麽幼稚,多麽破壞科學的美!


人的情感是藏在基因編碼裏的,這點我深信不疑。雖然量子力學帶來不確定性,但我不認為人們很好地理解了這種不確定性,尤其是我國科普大師劉慈欣的一家之言(說到這我雞皮疙瘩都起了一身,我盡量避免這種無趣的嘲諷)。近現代數學界對經典力學和量子力學的研究無疑是十倍美於物理界的。泊鬆-李流形上構建的經典力學以及其量子化這樣的理論很好地完成了世界觀的過度和對於世界之確定性的解釋,從而將世界上最後一點不確定性排除,所有的東西暫時來看都是理性的,而感性將被更好地解釋為對理性的無法理解和把控。

 


三、奇點時代的集體主義


一天後,感受到周遭恐怖的氣氛。
如果機器認為這場戰鬥必敗,那麽機器會選擇投降。如果人認為這場戰鬥必敗,那麽有人會義無反顧地戰鬥,直至戰死為止。

 

機器和人的結合,到底是一種全新的美還是對原有的美的破壞,這點因人而異,像羅胖這種人已經興奮地快跳起來了,我不能說他錯。我們也看到了,AlphaGo帶來的是一種全新的圍棋戰略戰術,那幾盤對局的美感和深意足以成為圍棋界的裏程碑。就個人而言,我非常享受那幾場對局,其中運籌帷幄之美,超出了人類的境界,需要好好體會。

但人性在麵對力量時的扭曲,細思恐極。

賽後的新聞發布會我沒有看,今天聽朋友說了一下才又去看了一遍,感覺是:惡心,擔憂。


第一場,李大師很自信地說他可以5:0取勝,然後他輸了,我認為輸是必然,而且是給他敲的警鍾。而且那盤棋很有爭議,個人當時認為是中後期右線立的一招沒有算清楚,如果扳也許會不一樣。那天很高興,看到了人類的偉大,一個新時代的降臨。之後穀歌工程師說狗判斷它在任何時刻都是領先,我還笑了笑——它的大局觀終究還是差一點。


第二場,李大師發揮近乎完美,但還是慘敗,比第一局還要慘。分析後,有些人已經發現了,狗對人是實力上的碾壓。


第三場,過於精彩,李大師頑強的抗爭贏得了我全心全意的敬仰,但還是慘敗。賽後圍棋界好像達成了共識——阿法狗的圍棋水平已經遠遠超出了人類,人類對圍棋的精確計算還停留在局部,而阿法狗的視野永遠是全局。這就理解了為什麽第一局狗一直認為自己優勢,因為它真的一直是優勢,而這種優勢是人類無力預測到的!比賽期間阿法狗屢現怪招、爛招,後來發現,都是絕招、妙招。


麵對一場不可能贏的戰爭,李大師的態度是絕不投降,戰死為止。可是在新聞發布會上,穀歌的程序員連個鞠躬都沒有給李大師,而是麵無表情地讀著早就寫好的講稿。


就理性而言,這件事沒什麽不好的,必須要有人類的大師站出來測試人工智能的水平,但就人性而言,這場比賽太殘忍了。


一個有精神力量有人格魅力的大師,必須去麵對一個不可能被戰勝的對手,這對這個不可一世的靈魂來說,是致命的打擊。以絕對強大的妖怪的能力逼一個人低頭,這是對人性的蹂躪。


我害怕的是,將來也許科技發展會持續對人性的蹂躪。

上一部分得出的一個結論也許可以概括為,對精神上的美的追求是物質豐富後的人類生存的唯一追求。可是人類的追求好像還停留在十萬年前的層麵上——如何生存地更好。


沿著生存得更好這條路,人類必然會追求更加強大的力量,那麽必然會按照物演通論的預言一樣在局部取得越來越大的發展而在大結構上越來越脆弱,直至崩潰。崩潰的可能性有很多,比如出現一個什麽都不顧的瘋狂科學家,造出一台能通過學習修改自己代碼的人工智能。但這不算可怕。

 

可怕的是,當力量驅使效率驅使標準化驅使所有性質的量化後,人類積攢萬年的美學會被全部打破,人類所有的精神力量都將毫無意義,這樣的強大文明會變成絕對機械化的客觀存在(因為人類以客觀科學的方法發展),而客觀存在對於一個以主觀角度感知世界的人來說完全沒有存在的必要。也就是說,人類也隻有在有不確定性的狀態下才有存在的必要。

 

這可能是最後一個人性能綻放光輝的時代。諸君,好好珍惜。


希望不要有人擔憂,我認為死是一個毫無必要的舉動,我隻會毫無負擔地接受這個結果的到來。如果我看到了我的盡頭,人類的盡頭,看透了未來注定的失敗,看到不正義一直存在,我不會像機器一樣做出理性的判斷,我的選擇是,戰死為止。


值得畏懼的不是機器,是人啊。

 

四、尾聲

3:1時,我確實很高興,但高興得有限。神之一手後,阿法狗再無還手之力,就算沒有後麵的逗逼也是大局已定。李大師是個偉大的人,在他身上我看到了人性的美和人性的勝利同時出現,從而不讓這種美隻有悲壯的意義。但實際上,我的擔心主要還是針對未來,總有一天,信念再強的人,還是要輸啊。

比賽結束在4:1,這個結果給人類留了五分之一的苟延殘喘。人機的表演還在繼續,人與人的對決也無休無止。諸君,無論你經曆怎樣的坎坷,請相信希望。覆巢之下,我們不要就這麽認輸。

 

****** 編後語 *******

歡迎轉發,歡迎提問或評論。請關注公眾號。

打開手機微信,點擊右上角加號,選擇“掃一掃”(Scan QR Code),掃描圖中二維碼,選擇進入(Enter official account)即可。




更多我的博客文章>>>

所有跟帖: 

意識是哲學命題,自由意誌是宗教命題,都不屬於科學 -fourwaves- 給 fourwaves 發送悄悄話 (222 bytes) () 03/21/2016 postreply 08:27:17

請您先登陸,再發跟帖!