AI的背叛？

戴榕菁

1. 引言

早在人類還根本不具備今天這樣的AI水平的年代，所謂AI或更形象些的機器人對人類的背叛就已經隨著科普界的豐富想象流行於通俗文化中，而背叛的經典方式則是機器人不但違抗人類的命令，並開始對人類進行屠殺等等。

但是，隨著近幾年AI技術的迅猛發展所帶來的AI在社會上的廣泛應用以及對文明的各層麵和領域的日益增加的影響，我們已經可以隱約地感受到AI的不同於好萊塢式的想象但卻非常真實一種另類的“背叛”。之所以這裏要給背叛二字打上引號是因為與其說是AI的背叛還不如說是人類的主動讓銜----人類不但主動而且積極地讓AI來領導和支配自己的行為，個人的以及社會的行為。

2. 關於AI之基本認知的一大誤區

關於AI的一個基本認知是AI從人類對AI的訓練及實際使用過程中向人類學習；與之相應地，過去這些年裏在AI的對話應用及搜索應用中人們發現AI承襲了傳統計算機的一個基本缺陷，即所謂的“garbage in garbage out”，也就是說，AI隻是重複人類已有的知識，因而會將它們從人類那裏學到的錯誤再展現給人類。

但是，隨著對於獲利於AI的欲望的不斷增加，人們早已不滿足於AI在文學創作科學調研上的助手作用了，而是要讓AI開始規範被認為具有劣勢或從屬地位之他人的行為，這使得AI的地位從卑微的助手一躍成為高高在上的裁判。比如，在可以決定成千上萬打工一族的人生機會的獵頭公司的平台上，AI將不但會決定什麽樣的人的簡曆可以呈現給什麽樣的雇傭公司看，更會開始按照它們理解的理想方式來要求申請人來按照它們的要求修改簡曆。比如，公司對於市場規劃，供應鏈的選擇，員工的獎罰與升降都會逐漸地讓AI參與甚至主導。比如，人類未來的說話方式將與今天的語言習慣有所不同，因為那時的語法和最佳寫作風格將由諸如grammarly這樣的軟件的AI來決定。比如，。。。。

而在這過程中人類社會政治經濟因素所造成的社會選擇【[1],[2]】將至少在以下兩個方麵起著重要的作用：

1）對於AI之未來的崇拜將使得各國政府預算和金融投資者們都會將大量資本投向與AI有關的領域和項目。與之相應地，

2）在資本導向的現代社會裏，各公司的上層在製定公司內部經費分配和項目安排上將鼓勵帶有AI色彩的項目和部門。基層各部門也會努力向AI發展，從而使得在人員聘用上也會傾向招聘AI專業人員。

這裏需要指出一點的是，擁有資本的人本身往往並不懂AI，因此在資本流向AI的過程中會出現很多打著AI的旗號的項目不一定都非常AI，但這並不影響AI的誘惑成為社會各行各業努力的方向。

2.1. 轉折期

從上麵的討論我們可以預期，整個社會的AI發展將經曆一個由人類決定AI做什麽向由AI規範人類的行為和實踐的轉折。盡管這不會是一個瞬間完成的轉折點，但在經過一段時間之後，人們可能會發現世界整體的思維及行為方式已經不可逆轉地由AI掌控了。。。。那時除非將整個世界的政治經濟文化體係進行徹底的人為改造，人類已經無法擺脫AI來重新掌控自己的生活了；而那種政治經濟文化體係的徹底的人為改造本身是不可能的事件，因為到了那個時候人類離開了AI根本無力進行大規模的組織和整合。。。。從某種意義上，這是一個從人類告訴AI應該做什麽到AI告訴人類應該做什麽的轉折期。

3. 危險所在----AI的幾點原罪

3.1. AI之設計邏輯缺陷

盡管過去十多年裏AI之學習能力已經給世人留下的深刻的印象，但是AI的設計邏輯並非完美，而一旦AI處於人類文明的主導和支配地位時，任何存在於AI的設計邏輯上缺陷都會反饋到人類的社會生活中，造成各種麻煩甚至嚴重危害。

3.2. AI自主思維之局限

也許有人會以為AI主導人類的社會活動是文明進化的表現。但他們不知道的是，這種進化並不一定是朝向正麵發展的進化。這裏潛在的危險的根源之一其實還在於前麵提到的AI所謂的“garbage in garbage out”之先天不足。。。。AI之最初發展是向人類學習，而它們最終主導人類的政治經濟文化生活並不是因為它們進化得足以自主地克服它本身之設計邏輯上的缺陷以及從人類那裏學來的各種缺陷，而主要是因為兩個基本的因素：1）AI的超級算力遠非任何人類可比；2）人類政治經濟文化活動之超級複雜性。

這兩個基本點決定了人類在AI麵前顯得很無力。這時人類之貪婪便會讓AI一步步在各方麵取代人類。

3.3. AI之“鐵麵無私”的危害

當很多人羨慕AI之鐵麵無私不講私情的效率和“廉正”品格時，他們忽略了這樣兩點：AI所遵循的原則是人類按照自己的想象設計出來的，而人類的想象是不完美的，滿是缺陷的，有時那些缺陷可以是極具危害性的。過去幾千年裏人類的滿是缺陷的製度之所以能夠比較成功地運作的一個重要原因恰恰是“人情”在其中的緩衝作用----一旦人們發現係統製度中存在著不合理甚至邏輯矛盾之處，大家麵對麵商量商量或開個會什麽的，原本不合理的問題往往就可以得到合理的解決。但是，AI的應用將從兩點上徹底抹去人類社會千百年來賴以解決係統中的不合理之處的“人情味”：1）AI的使用將在很大的範圍徹底取消用戶與提供AI係統的機構的人員直接接觸的機會，人們除了與冷冰冰的機器係統打交道之外，不但不會有任何機會與係統背後的人類打交道而且也不會給與任何可以商量的餘地。。。。人們麵對的將隻有“繼續進行或退出”的選擇，而繼續進行的結果是由AI決定的，不論AI所遵循的邏輯有多麽地不合理。2）AI的不合理之處將被如同法律一樣地定位為不可商量必須照做的道理。

4. 一旦AI的邏輯就是“王法”時

一旦AI成為規範人類行為的裁判之後，社會選擇的基本原理【1,2】告訴我們，AI的邏輯就將成為人們無可商量的“王法”，這其中將包括很多錯誤的不合理的邏輯。除非你可以不用AI係統所提供的功能，你就隻有按照AI所規範的行為準則去做。在很多場合下人們是沒有可以不使用AI所代表的係統提供的功能這一選項的。特別是當AI被用於司法係統時，某些科幻電影中的因AI的錯判而被冤枉入獄的場景就會大量地出現在世界各地。

4.1. 無人可幸免

AI從目前的主要為助手的地位躍升到將來普遍為裁判地位的進程將始於企業和政府部門的頭腦們讓AI參與或主導事關劣勢群體或自己屬下的切身利益的決策。在這一階段，那些高高在上的人們或許認為自己其實才是真正的裁判，而AI不過是自己的工具而已。。。。但是，在這個錯綜複雜的人類社會，哪怕是國王恐怕都不敢說自己永遠不會成為被迫接受AI裁判的角色。A公司的老板在需要使用B公司的係統時，當無法在私底下與B公司老板磋商時，就會不得不接受AI之“鐵麵無私”的招待。

4.2. 極難糾錯的AI王國

一旦AI的邏輯成為強加於人類社會的準則之後，在那個AI主導的王國裏，要讓一個係統糾錯將是一個極難的事情。這裏很重要的一個原因是AI的遠超乎人類的整合能力。AI的強大的整合力將盡可能地將整個社會的各行各業收攏到相對較少數的一些龐大的係統中----這是過去很長時間裏很多在人類社會占優勢的群體夢寐以求但無法實現的事情，AI將在這方麵取得巨大成功。

更重要地，在AI整合的係統中將幾乎都會很大概率地有著自上而下的統一的內部規則和係統。在這樣的係統中，係統越龐大，越是在整個係統的底部的子係統在工作中出現的錯誤越不可能得到糾正。這是因為底層的子係統無權改變係統上層所製定的規則，其最直接的表現將是：如果不符合係統上層製定的規則，底層子係統將被卡在某個界麵上而無法完成目標任務。

與此同時，越是在係統上層的部分越會因為不容易接觸終端客戶而不容易被能夠直接接觸係統後台或有權決定係統更新的少數人發現。不僅如此，當係統變得龐大後，其功能也會變得極其複雜，與之相應地，在AI係統可能存在的各種錯誤中，最容易被發現的是係統的技術錯誤，比如AI的源程序中的錯誤，而不是係統功能的錯誤，而最可能在人們生活中造成不公平甚至危害的正是係統功能中的不合理或缺乏想象力的部分。

結束語

今天AI已經成為世界各國尤其是強權之間的競爭熱點。而這場狂熱的競爭中埋下的一個對未來或許是致命的危機是沒有人或者至少沒有多少人象本博客在過去幾年裏這樣對AI的哲學進行認真的研究【[3],[4],[5],[6],[7]】。。。

 

---

[[1]]Dai, Rongqing. A Brief Discussion on Fairness Analysis:

• Published by Outskirts in 2015 (ISBN 9781478753698):
• Republished in a revised version by Scholars’ Press in 2017 (9783330652064) url: https://www.academia.edu/66445422/A_Brief_Discussion_on_Fairness_Analysis

[[2]]戴榕菁（Rongqing Dai）公平人生（Fair Life), ISBN 1425961401, 9781425961404, Publisher:               AuthorHouse, 2006

[[3]]Dai, Rongqing (2024). The Realistic Rebellion of Humanoid Robots, Retrieved from: https://www.academia.edu/122300430/The_Realistic_Rebellion_of_Humanoid_Robots_and_How_to_Avoid_It

[[4]] Dai, Rongqing (2019). A Philosophical Analysis on the Challenge of Cultural Context to AI Translation . Int Rob Auto J . 2019;5(4):153?155. DOI: 10.15406/iratj.2019.05.00189. http://www.medcrave.com/articles/det/20002/A-philosophical-analysis-on-the-challenge-of-cultural-context-to-AI-translation

【[5]】戴榕菁（2024）家用人形機器人？

【[6]】戴榕菁（2024）人形機器人之夢及背叛

【[7]】戴榕菁（2024）人工智能覺醒？