人工智能覺醒？

戴榕菁

最近網上突然冒出來一些有關人工智能很快要覺醒並對人類文明造成威脅所謂預言。有些是AI公司的內部人事所掌握的內部發展消息所做的所謂的爆料，而有些則是據說具有超自然能力的預言。關於這個問題我們需要弄清的兩個基本點是：1）什麽叫人工智能覺醒？2）什麽是預言？

1. 人工智能覺醒？

今天市麵上流傳的所謂人工智能覺醒指的是人工智能可以象人類一樣地對自然和社會的意義進行思考，而這樣思考之後一個最為覺醒說的宣傳者們津津樂道的一點便是人工智能發現人類是危害地球的有害物種於是便通過諸如製造全球性的生物物理化學災難來摧毀人類。

這樣的所謂人工智能的覺醒及其後果顯然是一個假議題。

1.1. AI的利益和情感

有關人工智能的覺醒這個議題我們需要了解的最根本的一點是：AI沒有自身利益的問題。

你說一台AI機器開著機和關著機哪種狀態對它最好？站在人類的立場似乎是開著機最好因為那表現出了人類自身所有的一些智能特點，但那不過是人類通過想象而產生的情感寄托；站在AI的角度，假如有一天它足夠聰明到了解了它自身硬件的工作原理，它會知道開機會讓它的所有零件因被燒烤而經曆壽命的折損。

與AI沒有自身利益的問題這一點密切相關的是AI沒有感覺。即便它知道了開機會讓它所有的零件受到燒烤，它也無所謂，因為它沒有感覺。開機讓你們人類高興，對它來說既感覺不到得也感覺不到失。

而AI既沒有自身利益的問題也沒有感覺這一點決定了AI不可能象如今被熱炒的那樣地擬人地覺醒並因為覺醒而將人類看作是地球的敵人，這是因為它不會象人類一樣地將地球的環境與自身的身心感覺及長遠利益掛上鉤。

相應地，AI就沒有理由自發地愛什麽或恨什麽，或者說AI是既沒有情也沒有感的。

1.2. AI的理解

如我幾年前提出的【[1],[2]】，AI之缺乏情感決定了AI不可能如人們以為地那樣了解人類的文化，那是因為AI與人類的一個基本區別是：人類生活在自己的文化中而AI不生活在人類的文化中。相應地，人類不能按照人類自己對於自身文化的理解來想象AI對於人類文化內涵的把握。

這裏說句題外話：我閱讀自己在2019年寫的文獻【2】時回想起2019年中那時候我還不相信永動機是可能的，而2021年開始我不但證明了別人的永動機是可能的而且還自己設計了永動機J。2019年中的時候我也沒想到那時我寫了一篇如何製造飛碟的文章之後，居然一個巧合發生了-----隨後幾年裏整個世界都令人意外地出現了由官方出麵背書的至今方興未艾的外星人熱，更別提我那時怎麽會想到自己居然推翻了相對論，給量子力學找出一大堆毛病來，並否定了著名的數學問題的合理性。人一生的境界發展和世界的變化有時會迅猛得超出人們的想象。一起榮耀歸於上帝！

1.3. 機器人的自主反叛

說到AI的作惡或反叛行為，離不開被AI操控的機器人，這是因為所謂AI隻是邏輯和記憶係統，並不具備行動能力，而具有在AI支配下的行動能力的就叫做機器人。

過去一段時間裏關於機器人反叛我已講了很多，不過一方麵我主要關注的是人形機器人，另一方麵我一直強調的是：在可預見的未來假如我們看到機器人對人類的反叛，那麽大概率的不是什麽機器人自主的對於人類整體反叛，而是某些人類操控機器人對另一些人類的反叛。

那麽，人工智能支配的機器人是否有可能在沒有直接受到人類的指示時做出對於人類不利的事呢？答案當然是肯定的，不過那將不是所謂的機器人的覺醒所產生的反叛，而是AI被人類困惑誤導而產生的反叛。

這是因為即便人工智能具有了深度學習的能力而不需要人類事先為它們的具體行動編程，它們仍然將執行人類給它們下達的指令，這是功利性的人類在發展AI的過程不可能忘記的一個基本思路。今天的AI對話係統已經表現出來的與創造它們的公司的政治立場的高度一致就已經說明了這一點。不論是在對AI的最初訓練中還是在日後給AI發布的行動指令中，人們都會讓AI按照它們的創造者所希望的思路去行為。但是，人類能夠訓練AI去執行某一類任務這一點本身就意味著人類可能誤導AI去自主地傷害人類，也就是說，AI完全有可能在沒有受到人類的直接操控時由於被人類誤導而做出傷害人類的事情。

比如，我們可以設想這樣一個場景：某個AI機器人具備了用槍射殺動物的能力。它的主人給了它一把槍和一些子彈，並在不經意間讓它看了好萊塢的西部電影裏槍戰的片段，結果這個機器人就將子彈裝進槍裏，走出主人的家門，對著鄰居就清空了彈匣。這種場景完全屬於AI操控的機器人可能做出的行為範圍之內的，但這根本不是現在宣揚機器人覺醒說的人們所鼓吹的機器人覺醒，而是機器人被人類誤導而已。

1.4. 機器人和平演變的幻象

所謂的人工智能覺醒說實際上在製造這樣一種虛幻的願景：AI主導的機器人會與人類和平共處到所謂的AI覺醒的奇點到來的那一刻，突然給人類一個措不及防的突襲，對人類進行反撲甚至毀滅人類。之所以說它是虛幻的願景，是因為人工智能的發展過程必然一直伴隨著兩種不同的攻防，而這兩種攻防使得人工智能可以在人類沒有警覺的前提下自由自在地發展到所謂的覺醒的奇異點然後突然對人類進行反噬的說法徹底成為一個假議題。這兩種攻防就是：1）人與人之間的攻防；2）人與人工智能之間的攻防。

1.4.1. 人與人之間的攻防

人類從發展機器人的第一天起就把用機器人對付其他人類放在了核心目標的地位上。在這樣的行業生態下，人工智能機器人的發展一定會從不間斷地伴隨著對於人工智能機器人可能如何傷害人類以及如何防範人工智能機器人對人類可能造成的傷害的研究，就如同在過去幾千年的曆史上人類的軍工從來都是一方麵探索如何更有效地殺傷其他人類另一方麵探索如何防範其他人類對自己的傷害一樣！相應地，人類的人工智能產業的發展過程將是這樣的一種攻防的過程：（攻）對於用人工智能傷害他人的潛力的發展並運用相關潛力對他人進行的實際傷害和（防）對於他人用人工智能對自己的進攻的防範。

1.4.2. 人與人工智能之間的攻防

除了上麵談到的發展人工智能的人類之間彼此的攻防之外，隨著人工智能水平的不斷提高，人類與自己發展的人工智能（主要是由人工智能操控的機器人）之間的攻防也會越來越緊鑼密鼓地進行。以上麵舉的那個機器人看了西部片之後射殺鄰居的假想故事為例，發展具有毀壞性的人工智能及機器人的團隊在發展過程首先要考慮的當然是不能出現人工智能及機器人因為被包括人類的影視在內的周圍的人類文化的誤導而傷了這些團隊隊員本身。所以，人類與人工智能之間的攻防一定會在人工智能具有對人類造成任何危害的能力的那一刻起就開始水漲船高地不間斷地進行著------主要是發展人工智能的團隊需要自保。

1.5. 機器人不可能等到具有超高的思維能力才反叛

一個人一定是先會普通的跑步，才有可能會跑酷。沒有人會在從沒有跑步之前就開始跑酷。這是基本的邏輯。如上所述，機器人能夠在預置的程序指導下或在操控後台伺服器的人類的支配下或在人類的訓練誤導下主動地不論是在戰場上還是民間日常生活中對人類發起攻擊要遠比所謂的機器人覺醒容易得太多。在這樣的前提下，你說機器人會在具備了上述攻擊人類的能力之後乖乖地不反叛而偏要等到自己能進行所謂的超高能力的思考才反叛？如果你這麽認為，那麽你是對人類的覺悟的自製力估計過高了。其實，今天在機器人的發展仍處於相當萌芽的時期，首先出現在新聞裏的與人類一起行動的機器人就是被用在戰場上的機器人。人類從發展機器人的第一天開始就把用機器人獲取其他人類的信息或用機器人殺傷其他人類放在優先考慮的目標項中，你認為人類會等到機器人發展出根本沒人能講得清楚所以然的所謂的覺醒之後才讓機器人反叛人類嗎？

相應地，在人工智能的發展過程中，發展團隊出於自身的利益（不是所謂的人類整體的利益）會與時俱進地不斷采取對於人工智能的任何可能對人類造成傷害的潛力進行反製的措施。

在發展AI的人類彼此之間以及人類與AI之間的攻防過程中，人工智能有可能會在人類的操控（包括用簡單粗暴的程序發出的指令）下進行對人類的攻擊，也可能會在人類的誤導下對人類發動自主性的攻擊，但根本不可能因為人工智能的所謂覺醒而自發地懲罰人類。這是因為人工智能不具備自身的利益因而不可能象人類那樣基於對利益的理解和維護而產生任何倫理觀或正義感。

那些所謂來自AI公司內部的人如果要表現得天真到對於這樣基本的人性都不了解，就隻有增加人們對他們的疑問------這是因為他們才是最容易而且一定是最先想到如何用AI傷害他人並防止他人用AI傷害自己的人群！

1.5. 小結

1. 機器人沒有根本的自身利益，所以它們不會象人類一樣按照自身的利益來理解正義和真理。相應地，機器人的覺醒是一個假議題，所謂覺醒後的機器人為了地球的正義而反叛人類更是一個假議題。

2.機器人也不可能真正理解人類的文化，因為它們不生活在人類的文化環境中。它們是人類文化的觀摩者而不是體驗者。

3. 機器人對人類的反叛既可以是直接由可控製伺服器的人類操控的或由內置的程序編碼決定的，也可以是在人類給出的口頭指令下自主完成，甚至可以是在沒有人類的直接指示的情況下由機器人獨立自主的完成，但這種獨立自主不是什麽覺醒，而是被人類誤導的結果。

4. 人類從發展機器人的那天起就在心心念念地想要用機器人去獲取其他人類的信息，想要用機器人去傷害或屠殺其他的人類。在這樣的前提條件下，如果說機器人要等到具有遠超出人類的智慧的條件時才會反叛人類，本身就是一個假議題。

5. 人工智能的發展不可能是人類與人工智能在同一個世界裏恩恩愛愛和平相處大家無憂無慮地讓人工智能發展到所謂的奇點而突然反噬人類的，而這背後最主要的原因是人類自己不會放過人工智能的任何可能用來攻擊他人的潛力而不加利用，相應地也一定會對剛剛出現的人工智能被他人用來對自己的攻擊或者人工智能因為受環境的誤導而攻擊人類的任何可能性采取防範的措施。因此，在人工智能的發展進程中人類會無時不刻地監視著人工智能的任何可能會對人類造成危害的潛力。而在這過程中不具備自身利益以及對於利益的感覺的人工智能根本不會因為出現基於任何倫理觀或正義感的覺醒，更不會因為所謂的覺醒而反噬人類。

2. 預言

在對所謂的機器人的覺醒有了一定的認識之後，我們再來看什麽是預言。

今天人們所說的預言主要分兩種，一種是超自然的預言，一種是非超自然的根據人們所掌握的資訊所做的預言。現在市麵上流行的所謂機器人覺醒的預言也相應地分為超自然的和非超自然的兩種。我們先來看非超自然的然後在談談超自然相關預言。

2.1. 來自科技界的預言

這一類的預言主要來自所謂AI工業界內部的爆料，而其致命的軟肋也正在於他們是來自了解AI發展的人的預言。

雖然表麵上來看，這一類的預言中很多都隻是說AI覺醒後的反叛而沒有提到機器人，但實際上要想產生物理上的效果AI一定要通過某種形式的機器人來完成，所以所謂的AI覺醒後的反叛應該是AI的覺醒和機器人的反叛行為。根據我們上麵的討論可知，假如機器人確實通過某種手段，比如有人說的生產出一種特殊的毒劑來毒死人類，那也一定是人類告訴它們從哪裏可以獲取製毒的原材料，並給它們用原材料製取毒劑的設備和環境條件。機器人自己是無法獨立完成整個過程的。。。。還是那句話，假如那樣的事件真實發生了，幾乎100%可以肯定是人類的陰謀，而不是AI的自主行為。。。。

那麽現在的問題來了：AI工業界內部人士一定對此非常清楚，他們為什麽還會做出所謂的機器人覺醒後傷害人類的預言呢？這裏有一個非常重要的看點：那些具體專業背景的所謂內部爆料人員給出的所謂預言完全沒有提供專業的細節而是用科幻式的文學語言來陳述。他們根本不給出你AI是如何或將如何覺醒並反噬人類的專業細節，隻是給出一個朦朧的聳人聽聞的說法。

2.2. 超自然的預言

有關AI的超自然的預言同有關其它任何一方麵的超自然的預言一樣大致地分為兩類：一類是100%的忽悠，根本沒有任何真實的基礎，一類則是確實有一定的超自然的背景。對於第一類我們自然沒有必要把它們當回事，而對於第二類，我們有必要對人類所做的超自然的預言的特點有一些基本的了解。根據坊間的傳言，很多超自然的預言者都是或在夢中或在非夢中看見了一些可能是未來會發生的動態畫麵，然後按照他們自己的理解對那些動態畫麵中的內容進行解釋。

如果現在市麵上流傳的所謂機器人覺醒並對人類不利的預言是由某些可以超自然地看到一些未來的動態畫麵的人說出來的話，那麽聽起來還是有點驚悚。這不是說未來的機器人真的會覺醒然後反噬人類，而是因為如果那些說預言的人是對他們所看到的內容做解釋的話，盡管他們沒有真正看到機器人自己覺醒，但也是看到了機器人做出了反叛人類甚至傷害人類的事情。

在人們一般的觀念中機器人是由人類支配的，如果那些被稱為預言家的人果真看見機器人所謂的覺醒了，那麽意味著他們看到了機器人做了與人類的意願相悖的事。不過，假如這樣的事情在未來真實地發生了，也並不奇怪，因為如前所述，人類發展機器人的一個重要目的就是用來對付其他的人類。君不見機器人還沒有走進千家萬戶，現在就已經出現在了戰場上？

3. 炒作機器人覺醒可能具有的隱患

炒作機器人覺醒的最大隱患是一旦未來在日常生活中出現了機器人做出反噬人類的行為後，被洗腦的大眾很容易接受那是機器人覺醒的表現而不會懷疑有它。但實際上，如本文所分析的，如果出現機器人對人類的反噬現象，那麽其背後一定有著人類的影子的存在，最大的可能是直接由一部分人操作著去傷害另一部分人（參見【[3],[4],[5],[6]】）。這種現象如果出現在戰場上人們會認為是理所當然，但如果出現在日常生活中，一般的大眾是需要有一個情緒上的出口來接受它的，而所謂的機器人覺醒就可以成為麻痹大眾的最好的借口。。。。鑒於此，我們不能排除市麵上出現的所謂的機器人覺醒的預言背後可能有為未來機器人被用來做壞事製造合理性之輿論的可能，尤其是那些非常了解AI工作原理的所謂內部人士（他們也是最有可能用AI控製的機器人從事各種難以想象的事情的人們）出麵所做的所謂機器人很快要覺醒反噬人類但卻不給出具體的細節理由的人們所散步的機器人覺醒的預言。

4. 結束語

我這裏並非要斷言目前出來爆料或宣傳機器人覺醒之預言的人一定是懷有什麽險惡的目的，我隻是根據本文的分析來指出如果出現機器人反噬人類的現象那麽背後一定是有著人類的影子；相應地，有關機器人覺醒的所謂預言是存在著為特殊目的給大眾洗腦的可能性的。那些看到了未來的動態畫麵的超自然的預言還好理解，因為它們實際上並不涉及事件發生的真實原因，但那些明明是深度參與AI發展的人，如果不能給出所謂的AI覺醒反噬人類的具體的細節理由而隻是用一個模糊的概念來影響社會輿論的話，那麽我們需要對其真實目的保持警惕因為從邏輯上說是存在著他們故意給大眾洗腦的可能性的（盡管不一定是這樣的）。。。。。。

既然說到人工智能和機器人，這裏也順帶提一下經常與人工智能一同出現在新聞中的外星人。假如外星人已經如很多爆料人所言那樣早已來到地球，那麽他們一定不會一直在那裏吃瓜打遊戲，他們一定是大概率地已經介入甚至操控地球文明的政治經濟文化的進程，而對於外星人來說，所謂的人工智能覺醒說不失為他們可以用來麻痹人類的一劑迷魂藥。。。。也就是說，如果把外星人的因素考慮進去的話，那麽如今市麵上突然湧現出的所謂人工智能覺醒的背景就可能變得更複雜的多了。。。。。。

 

 

---

[[1]]Dai, R. (2019). A Philosophical Analysis on the Challenge of Cultural Context to AI Translation . Int Rob Auto J . 2019;5(4):153?155. DOI: 10.15406/iratj.2019.05.00189. http://www.medcrave.com/articles/det/20002/A-philosophical-analysis-on-the-challenge-of-cultural-context-to-AI-translation

【[2]】戴榕菁 （2019）機器人第零零壹 （001）定律

【[3]】戴榕菁（2024）人形機器人之夢及背叛

【[4]】戴榕菁（2024）家用人形機器人？

【[5]】戴榕菁（2024）他們怕的是什麽？

[[6]]Dai, R. (2024). The Realistic Rebellion of Humanoid Robots and How to Avoid It. Retrieved from: https://murongqingcao.wordpress.com/2024/07/23/the-realistic-rebellion-of-humanoid-robots-and-how-to-avoid-it