慕容青草的博客
哲學園地
戴榕菁
過去這一陣我們開始陸續聽到一些公司要將家用人形機器人推向市場的消息，據說很多（富有的）民眾還迫不及待地期盼著能盡早買的一部家用人形機器人。很顯然，那些熱心於購買家用人形機器人的潛在消費者們所期待的不會是僅限於給自己添置一個新鮮玩具，而更多地是帶有對於具有人工智能的機器人所擁有的潛力的憧憬。然而，正如過去一個多世紀裏我們在人類科學的很多其它領域裏所見證的，人類在醉心於機器人科技的發展與應用的過程中最缺乏的是對相關問題的高屋建瓴的哲學探討。本文我們來聊一下與基於人工智能的機器人特別是家用人形機器人相關的一些話題。作為一個非機器人專業的人士，我這裏的討論不涉及人工智能機器人的具體的軟硬件的設計製作，而是超脫具體技術細節的哲學分析。
1. 人工智能的兩個基本瓶頸
人工智能的發展會麵臨很多客觀限製，這裏我們來看兩個無法回避的瓶頸。對這兩個瓶頸的討論並不排除其它瓶頸的存在。
1.1. 記憶體
盡管對於基於神經網絡（neural network）的深度學習（deep learning）進行宣傳的最主要賣點在於“與需要事先輸入行為公式的傳統編程不同，深度學習的AI可以自己學習”，對於記憶體的嚴重依賴仍將是基於人工智能的機器人的一個基本瓶頸。
首先，人們需要對AI進行訓練，也就是說AI需要學習。而學習本身之最基本的要素就是記憶。所以，不論AI采用什麽樣的編程原理，對於所需處理的環境對象之特征的記憶是AI不可或缺的一個環節。以對於多層神經網絡的訓練為例，學習的過程就是調整網絡節點的參數的過程；但是，如果將調整好的參數全部初始化，那麽再聰明的人工智能也需要從頭學起。所以，人工智能必須將培訓過程中調整出來的參數存儲起來才能在未來接觸到類似的環境時不但可以比較準確地把握對象的特點，而且也能較快地學習更新自己的知識，而這種學習更新所對應的必然是新參數的存儲，學習的內容越多，存儲的參數就越多，別無他法。
或許有人會說，也許有些人工智能的程序就那麽地牛，不需要很多參數就能記住對象的特征。但那是不可能的因為參數的量對應的就是特征的信息量，沒有足夠的參數就不可能清楚地反應對象的特征-----這與具體用什麽樣的程序無關！這裏的邏輯其實並不複雜：假定人工智能用來表達兩個有細節差別的圖像的參數完全一樣，那麽它就不可能將那兩個圖像的細節差別表現出來。因此，為了將兩個圖像的細節差別表現出來，在給定的分別率要求下，AI就必須用不同的參數組合來表達具有細節差異的圖像。
其次，與傳統的IT技術一樣，AI同樣需要有具體知識的累積，而不是每次都上網去搜索。這一方麵是因為自身知識的累積可以大大提升使用時提取知識的速度，另一方麵因為臨時上網搜索會在很大程度上受到環境的限製。此外，知識的累積還具有內在的有機性而不是簡單的堆積；從外界獲取的知識往往需要經過自身的加工篩選處理才有更高的價值。
所以，人工智能並不會因為其所具有的優於傳統IT的活學活用的優勢而減少對記憶體的存儲量的嚴重依賴。
第三， 人們對於機器人的期待與對於人類自己的期待會是很不一樣的。人們不會期待一個正常的人記住大量數據和複雜的信息，如果需要的話，人們最多會要求相關人員去搜集所需的數據和信息。但是，對於基於人工智能的機器人，人們則會期待它們能即時地提供所需的數據和信息。因此，在很多方麵，機器人被期待存貯的信息量要遠大於人類自己會記住的內容。
第四，以神經網絡為基礎的深度學習所取得的成果讓人們誤以為已經把握了人類思維的根本原理。但是，且不說人們所了解的神經網絡距離人類思維過程中的實際信息傳遞有多少差距，人們對於作為人類思維過程中的基本要素之一的記憶的機製之了解就極為有限。與之相應地，人工製造的記憶體之效率也就根本無法望人類記憶之項背。
綜合以上四點，我們可以預見，人工智能的發展將不斷地提高對於記憶體容量的要求。盡管與此同時硬件材料的發展也會提高單位體積的記憶元件上所能存儲的數據量，但是基本常識告訴我們，開放世界中所含有的數據量一定是遠遠超過任何人工記憶材料所能存儲的數據量。相應地，硬件單位體積記憶效率的發展一定是跟不上實際需要存儲的數據量的增加的。
所以，不論從提高AI技能的學習訓練之要求的角度來說，還是從AI需要存儲的外部數據的角度來說，人工智能發展的一個必然後果，就是所需的記憶體硬件的整體體積不斷增加。相應地，單位體積的記憶體的存儲量將成為人工智能發展的一個基本瓶頸。
1.2. 能量消耗
對於複雜對象的深度學習不僅僅會消耗存貯容量，同時需要對各種參數的大量使用與更新，因此人工智能越發達，其所需的計算與存儲量就越大，從而在人工智能工作過程中所消耗的能量也就越大。
當然，與提高單位體積的記憶體的容量相似地，人們也會不斷地通過技術改進來提高單位能量的計算效率或降低同等計算的能耗。但是，與發展記憶體所麵臨的挑戰相似地，人們對於單位能量的計算效率的提高速度是跟不上人們對於總計算量和單位時間存儲次數的需求的增加的。
因此，能量消耗將成為人工智能發展中的另一個瓶頸。
1.3. 再遇Jevons
從上麵談到的兩個瓶頸中我們可以感受到那個我之前在環境問題時反複提到的Jevons悖論陰影不散：硬件的發展所提供的便利越多，就越供不應求----這是人類欲望之無止境的表現。
2. 家用人形機器人的瓶頸
除了上麵提到（以及沒有提到）的作為人工智能所麵臨的一般瓶頸之外，發展家用人形機器人的工程人員顯然還會麵對家用人形機器人所特有的瓶頸。家用人形機器人的理想境界或者說人們所期待的發展方向將是它們能夠象人類一樣地行動和交談----從前麵的討論中我們可知這意味著家用人形機器人對存儲和能耗的需求可以是無上限的。
但另一方麵，家用人形機器人在體積上會受到很大的限製，它們是不可能象占有一大片廠房的雲端AI服務器一樣地龐大的。不僅如此，一般有意使用家用人形機器人的用戶也不可能為了家用人形機器人而象知名AI巨頭那樣花費巨額電費來滿足自己並非必須的愛好。
除此之外，與能耗和體積瓶頸密切相關地，家用人形機器人的體內也不可能有足夠的空間安裝高效的致冷設備來為大功率的計算進行散熱。
3. 高端家用人形機器人未來發展的不二選擇？
人類對於高端家用人形機器人的功能的期待以及家用人形機器人的製作及運行所受到的限製這一對矛盾決定了高端家用人形機器人未來的發展方向。這裏所說的高端家用人形機器人指的是除了僅限於滿足兒童好奇心卻又價格昂貴的低級人形機器人之外的可以切實進行類人的行動與對話的機器人。
我最近在和Bing chatbot和ChatGPT對話時都問了家用人形機器人是否可以完全不依賴背後的伺服器而獨立工作的問題，這些非常政治化的機器人（AI聊天機的政治化現象如今已是一個眾所周知的事情）不願說出“不可能”而隻是強調“very challenging”而且給不出怎麽個challenging以及如何解決它的答案，所以這等於說它們也知道那是不可能的。而它們的答案顯然與本文上麵的分析是一致的。
當隻懂得按照現有條件進行分析而缺乏基本哲學思維能力的AI機器都知道獨立工作的家用人形機器人是不可能時，我們可以清楚地看出，未來的高端家用人形機器人基本上來說不會是人們通常想象中的獨立工作的機器人，而隻會是其背後真正運作的大型（雲端）服務器的終端機器而已。
當然，人們或許也會生產一些並不依賴於背後服務器的中高端的人形機器人。這些機器人雖然看起來具有人形，卻隻能執行一些最簡單的人工智能的任務，而不具備高端的智能。考慮到並非是所有的環境下機器人都能與背後的伺服器進行遠程連接，即便是依賴於背後伺服器進行工作的高端人形機器人也會具有獨立完成一些並非高端功能之任務的能力以便其在沒有網絡連接的環境下“生存”。
4. 你真的想要這樣的家用人形機器人嗎？
2008年我在中文博客談論手機和電腦可以被用來作為監聽和監視工具時【[1]】，有人留言嘲笑我是好萊塢電影看多了。後來史諾登出來爆料棱鏡計劃時，整個社會也還感到有些震驚。但是，在經曆了過去這十多年裏世界上發生的各種光怪陸離的現象以及層出不窮的各種爆料之後，今天如果有人出來指證任何國家的任何私人或政府機構對普通公民進行監聽監視包括用人們的電話或電腦作為監聽器或監視器的話，不會再有人象當初那樣感到震驚了。地球人已經麻木了！實際上，一些網絡專業人員已經為自己找到了一個新的行業---專門駭進某個以詐騙著名的國度裏的專業詐騙人員的手機和電腦，用他們的手機和電腦來獲取詐騙集團內部的信息，然後在網上播放以賺取流量。
但是，與隻會偶爾被主人主動移動的手機和電腦不同，家用人形機器人不但可以是到處上下樓走動，而且是可以象人類一樣開門關門進出包括廁所浴室在內的各種房間的。當然，你會說機器人會按照主人的命令去做，但你之所以要買一個機器人顯然不希望它象電話和電腦那樣完全被動。你會給它製定一些規矩，隻要不違反那些規矩，你還是希望它有一定的自主性（比如，看見陌生人進屋，它會主動去攔擋）。在這樣的前提下，假如那個機器人並非完全獨立的，而僅僅是它背後的伺服器的一個會行走的終端機器而已，那麽你在將那台機器人帶進家中的那一刻起，就應該有你的真實生活已經是一天24小時在進行線上實境秀的思想準備了。即便你擁有的是不依賴於背後伺服器的中高端的機器人，它至少一定是可以上網為你搜索資料的，這就使得不但它的原供應商而且網上任何一個專業駭客都有可能進入它的係統以獲得它的“眼睛”在你家所看到的和它的“耳朵”在你家所聽到的。
我曾用一部廉價的手機做過這樣的實驗，我一個人在屋裏自言自語講悄悄話，同時打開手機的錄音，結果我那幾乎沒有用聲帶發音隻用吐氣來說出的悄悄話被一字不拉地錄得清清楚楚的。你的生活真的需要一位具有自主性的寫真記錄員嗎？
4.1.機器人的背叛？
說到機器人，人們很容易聯想到科幻電影中的機器人背叛人類的場景。電影裏渲染的是機器人對於整個人類的背叛，但是從上麵的討論中我們可以看到一旦人形機器人進入普通人家或社會機構，更可能發生的會是機器人對於擁有它們的主人的背叛，而這種背叛雖然有可能是機器人自主的，但更可能的是在其背後的伺服器供應商或網上專業駭客的操縱下發生。
4.2.背後的到底是什麽？
另外，當具有高等功能的機器人僅是背後伺服器的終端機器時，還一種完全顛覆多數人對機器人的認知的狀況會發生：實際操作終端機器人的甚至可能不是背後的伺服器，而是坐在提供背後伺服器服務的供應商的辦公室裏的一大批有血有肉的人類。。。。這種狀況不是想象而是已經實際發生著的，隻不過那是機器人的擁有者自己雇傭的幕後團隊而已。我在網上看到有報道說美國某知名連鎖飲食店就雇傭了遠在印度的團隊透過裝在美國店裏的監視器為客戶提供服務並監視顧客的行為。
5. 結束語
當人們逐漸從上世紀因輕視哲學而導致的物理學泡沫中清醒過來時，人工智能的快速發展就顯得格外地令地球人振奮。但是，在這振奮之餘，我們應該清醒地意識到哲學的分析對於人工智能的發展同樣有著極為重要的意義。哲學分析不但可以幫助我們對一些會影響人工智能之未來發展的潛在瓶頸有所了解，而且可以幫助我們在選擇家用人工智能機器人時也能對一些潛在的麻煩做好思想準備。
但另一方麵，自上世紀90年代開始的所謂高科技革命登台以來，經曆了30來年的現代高科技的洗禮，已經知道生活在一個不可能有真正完全的個人隱私之世界上的地球人在隱私方麵已經出現了不對稱的麻木。這種不對稱主要表現在掌握有資源的人越來越熱衷於搜集他人的隱私，而被搜集的對象卻越來越麻木地對此感到無所謂。這裏的一個無奈的潛台詞是：你有所謂又能怎樣？
幾天前我偶然在屋裏的無線網絡路由清單上發現了幾十個名字，其中有兩組各十多個顯得很特別，它們分別以MyXXXXXX 67fe85和MyYYYYYYY 8ad0f1這一類的序列號為名的。我這個普通公寓租屋前後左右樓下加起來沒幾家人，而且那些家的無線路由基本上都用諸如DarkAvenger666等有特色的且長年不變的名字。那兩組以MyXXXXXX 67fe85和MyYYYYYYY 8ad0f1這樣的序列號為名且每組都十個以上的網名很容易讓人聯想到是同一個或同兩個部門集體內部網名的排序，而不像隨機無關的個人用戶的命名。除此之外還有一些諸如081080，9D57A4這樣的網名。我當時想：周圍這幾家看上去都很簡單呀，不像是有什麽特別需要大量路由發射器的呀，難道有誰家裏被裝滿了向外發射信號的裝置？後來還發現這些看似序列號的網名並不固定，有時多有時少，這一點也不像是一般家庭的無線網絡路由的特點。但好奇歸好奇，我也沒有進一步去深究，也不可能深究，幾天後再看到這種現象時就習以為常了。
高科技的發展正以一種特殊的形式將地球人無可奈何地帶入一個奇怪的新時期。
【[1]】 戴榕菁 （2008）對未來的一個奇想： 竊聽電話不再需要裝竊聽器
