AI的背叛？

戴榕菁

1. 引言

早在人類還根本不具備今天這樣的AI水平的年代，所謂AI或更形象些的機器人對人類的背叛就已經隨著科普界的豐富想象流行於通俗文化中，而背叛的經典方式則是機器人不但違抗人類的命令，並開始對人類進行屠殺等等。

但是，隨著近幾年AI技術的迅猛發展所帶來的AI在社會上的廣泛應用以及對文明的各層麵和領域的日益增加的影響，我們已經可以隱約地感受到AI的不同於好萊塢式的想象但卻非常真實一種另類的“背叛”。之所以這裏要給背叛二字打上引號是因為與其說是AI的背叛還不如說是人類的主動讓銜----人類不但主動而且積極地讓AI來領導和支配自己的行為。

2. 關於AI之基本認知的一大誤區

關於AI的一個基本認知是AI從人類對AI的訓練及實際使用過程中向人類學習；與之相應地，過去這些年裏在AI的對話應用及搜索應用中人們發現AI承襲了傳統計算機的一個基本缺陷，即所謂的“garbage in garbage out”，也就是說，AI隻是重複人類已有的知識，因而會將它們從人類那裏學到的錯誤再展現給人類。

但是，隨著對於獲利於AI的欲望的不斷增加，人們早已不滿足於AI在文學創作科學調研上的助手作用了，而是要讓AI開始規範被認為具有劣勢或從屬地位之他人的行為，這使得AI的地位從卑微的助手一躍成為高高在上的裁判。比如，在可以決定成千上萬打工一族的人生機會的獵頭公司的平台上，AI將不但會決定什麽樣的人的簡曆可以呈現給什麽樣的雇傭公司看，更會開始按照它們理解的理想方式來要求申請人來按照它們的要求修改簡曆。比如，公司對於市場規劃，供應鏈的選擇，員工的獎罰與升降都會逐漸地讓AI參與甚至主導。比如，人類未來的說話方式將與今天的語言習慣有所不同，因為那時的語法和最佳寫作風格將由諸如grammarly這樣的軟件的AI來決定。比如，。。。。

而在這過程中人類社會政治經濟因素所造成的社會選擇【[1],[2]】將至少在以下兩個方麵起著重要的作用：

1）對於AI之未來的崇拜將使得各國政府預算和金融投資者們都會將大量資本投向與AI有關的領域和項目。與之相應地，

2）在資本導向的現代社會裏，各公司的上層在製定公司內部經費分配和項目安排上將鼓勵帶有AI色彩的項目和部門。基層各部門也會努力向AI發展，從而使得在人員聘用上也會傾向招聘AI專業人員。

這裏需要指出一點的是，擁有資本的人本身往往並不懂AI，因此在資本流向AI的過程中會出現很多打著AI的旗號的項目不一定都非常AI，但這並不影響AI的誘惑成為社會各行各業努力的方向。

2.1. 轉折期

從上麵的討論我們可以預期，整個社會的AI發展將經曆一個由人類決定AI做什麽向由AI規範人類的行為和實踐的轉折。盡管這不會是一個瞬間完成的轉折點，但在經過一段時間之後，人們可能會發現世界整體的思維及行為方式已經不可逆轉地由AI掌控了。。。。那時除非將整個世界的政治經濟文化體係進行徹底的人為改造，人類已經無法擺脫AI來重新掌控自己的生活了；而那種政治經濟文化體係的徹底的人為改造本身是不可能的事件，因為到了那個時候人類離開了AI根本無力進行大規模的組織和整合。

3. 危險所在

也許有人會以為AI主導人類的社會活動是文明進化的表現。但他們不知道的是，這種進化並不一定是朝向正麵發展的進化。這裏潛在的危險的根源其實還在於前麵提到的AI所謂的“garbage in garbage out”之先天不足。。。。AI之最初發展是向人類學習，而它們最終主導人類的政治經濟文化生活並不是因為它們進化得足以克服它本身之設計邏輯上的缺陷以及從人類那裏學來的各種缺陷，而主要是因為兩個基本的因素：1）AI的超級算力遠非任何人類可比；2）人類政治經濟文化活動之超級複雜性。

這兩個基本點決定了人類在AI麵前顯得很無力。這時人類之貪婪便會讓AI一步步在各方麵取代人類。

結束語

今天AI已經成為世界各國尤其是強權之間的競爭熱點。而這場狂熱的競爭中埋下的一個對未來或許是致命的危機是沒有人或者至少沒有多少人象本博客在過去幾年裏這樣對AI的哲學進行認真的研究【[3],[4],[5],[6],[7]】。。。。

 

---

[[1]]Dai, Rongqing. A Brief Discussion on Fairness Analysis:

• Published by Outskirts in 2015 (ISBN 9781478753698):
• Republished in a revised version by Scholars’ Press in 2017 (9783330652064) url: https://www.academia.edu/66445422/A_Brief_Discussion_on_Fairness_Analysis

[[2]]戴榕菁（Rongqing Dai）公平人生（Fair Life), ISBN 1425961401, 9781425961404, Publisher:               AuthorHouse, 2006

[[3]]Dai, Rongqing (2024). The Realistic Rebellion of Humanoid Robots, Retrieved from: https://www.academia.edu/122300430/The_Realistic_Rebellion_of_Humanoid_Robots_and_How_to_Avoid_It

[[4]] Dai, Rongqing (2019). A Philosophical Analysis on the Challenge of Cultural Context to AI Translation . Int Rob Auto J . 2019;5(4):153?155. DOI: 10.15406/iratj.2019.05.00189. http://www.medcrave.com/articles/det/20002/A-philosophical-analysis-on-the-challenge-of-cultural-context-to-AI-translation

【[5]】戴榕菁（2024）家用人形機器人？

【[6]】戴榕菁（2024）人形機器人之夢及背叛

【[7]】戴榕菁（2024）人工智能覺醒？