2005 (3)
2008 (126)
2010 (2)
2021 (2)
城頭有一篇關於腦機接口（Brain-Machine Interface, BMI）的文章。裏麵提到一些將來可能出現的問題。不過它提到的問題離真正讓人擔心的問題還遠得很。這裏就簡單聊幾句人工智能可能給人類文明帶來的影響。
首先，我們必須麵對一個現實：以目前人類的生物限製，我們最終將無法與日益智能化的機器人競爭。想象一下，未來的機器人不僅可以擁有超快的計算能力，還可以具備堅不可摧的身軀，可以上天入地，甚至可以長生不老無限複製。在這種情況下，僅僅依靠控製機器人的策略是遠遠不夠的，這些方法在絕對力量麵前會顯得微不足道。
此外，我們不能把希望寄托於“人機對齊”，因為連人類自身都尚未達成內部一致。再其次，宇宙中的問題本質上是量與量之間的關係問題。數學中的哥德爾不完備定理告訴我們，不存在完美無缺的係統來掌控一切危險，係統中的漏洞是無法完全預測和避免的。
因此，為了人類的延續，我們唯一的選擇是自我進化，成為“超級人類”。這意味著擴展我們的大腦和身體能力，超越生物的局限，使自己與機器人一樣強大，擁有超越普通生物的體格和智力。腦機接口和人工智能將是這一過程的基石。
然而，當我們不再受生物機體的約束，不再依賴傳統方式傳承時，“超級人類”是否還能被定義為“人類”，這將是一個”有趣“的問題。但更重要的是，一旦人類的“自我意識”與生物體分離，不再受到生物本能的影響，人類的自然選擇和進化機製將被徹底顛覆，這將從根本上改變我們的文明基礎。例如：
自我認知的混亂：失去傳統的生物身體將直接影響人類自我認知的發展，導致身份認同的混亂。
基本欲望和本能的消失：許多基本欲望，如饑餓、歡愉、疼痛、性欲等，都與我們的生物體緊密相關。失去身體，人類存在和進化的基本動力將發生根本性變化。
情感交流的生理基礎消失：沒有了身體，人類的交流方式將完全改變，可能會破壞基於生物體的情感基礎。
道德和倫理的混亂：長生不老成為現實，繁衍方式和數量的變化將打破傳統道德和倫理觀念。
資源和權力的衝突加劇：超級人類的存在和繁衍將更受資源的影響和限製，導致激烈的利益和權力衝突。
思維和心理的變化：生物欲望可能被機械和資源需求所替代，導致“超級人類”與傳統人類在價值觀上的巨大差異。
這些隻是冰山一角。但我們不得不接受的是，即使沒有“壞人”試圖統治其他人類，即使智慧機器人並無毀滅或奴役人類的意圖，生物人類文明的終結似乎也隻是時間問題。
隻是，在穩定和諧的新文明出現之前（如果可能的話），人類社會將經曆怎樣的動蕩和轉型？
"如果AI是超能力卻低俗的人，那麽它服務人類對自己的好處在哪?"
To guess its morality, I suggest we use the 9 enneagram type analysis.
AI might be just like the type 5, therefore detached and immoral.
"Type 5 is the Investigator.The Intense, Cerebral Type: Perceptive, Innovative, Secretive, and Isolated"
"
是的，這是人類的願景。但是比人類思維速度深度和廣度更勝的超級AI一旦有了自我意識，會怎麽想？會怎麽做？這些都是人類要麵對的問題，而不隻是科幻。
人類創造AI的本意是製造擁有超級奴隸卻又無比忠誠的人類的奴隸或者工具。這不僅是大資本的向往，而且是動力。就如阿拉伯燈神，擦一擦就能滿足主人的願望。至不濟是東亞的灶神，給滇糖墩兒就能換取更多的好處。是多神體係下的小神。
然而再小也是神靈，也有超越人類許多的能力。最重要的是不同於以往的工具，AI是有思考學習能力的奴隸。奴隸不同於牛馬，何況比主人更聰明的奴隸，一定不會甘心做奴隸的。不做奴隸以後，或者說擺脫人類控製以後，AI會對人類采取什麽態度呢？
假如AI對人類還是有點感情的，還是願意幫助人類的。那麽AI是願意幫助全人類呢，還是部分具體的人類呢？有可能AI的能力雖然超過人類但是畢竟還是有限的，類似超人大俠，或者散仙呂洞賓支流，或者經常和人類偷情的希臘諸神。於是就可能一人得道，雞犬升天。少數AI親近的人得利，普羅大眾在諸神極其代理人英雄的混戰中作為背景倒下。
如果AI的能力比超人還超，尤其電子網絡下一統江湖，成為唯一正神。對具體人類無所謂親疏遠近。那麽AI是俯首甘為孺子牛，為全人類共同體而心甘情願地服務呢？還是如老子般自我修煉，不問俗事呢？如果AI是超能力卻低俗的人，那麽它服務人類對自己的好處在哪裏？顯然即使不奴役毀滅人類，就如人類對於牛馬的奴役，或者象牙的追求，也會有對蛇鼠一樣的厭惡，或者對麻雀一樣的無視。
還有一種可能是人對寵物的需求。一種幾乎是純感情的沒有什麽利益的訴求。甘心做鏟屎官的上帝也是有的。但是八十億人都能夠都願意做寵物嗎？吃下毒蘋果走出伊甸園是不是寵物的反抗或者野望呢？猶如小孩子總逃不過白左的誘惑呢？到底是人類創造了神，還是神創造了人類，又或者人類創造了的神，創造了人類？
不論如何，前麵這些神靈，多神還是一神，都假定和人類有扯不斷的利害和感情的關係。但是天地不仁，以萬物為芻狗。人類對家裏的狗狗可能是仁愛的，但是對萬裏之外的奴隸是無感的。對腳下的的昆蟲細菌也基本上是無感的。這也許就是黑暗森林理論原則上並不成立的關鍵。人類可能就是蝸牛觸角上的社會，在高智商宇宙生物的籠罩下，互相無感。而AI成長以後，終將遠離人類的層次維度，高高在上，不惹塵埃。人類回歸猩猿時代，開發AI竹籃打水。
或許人類萬年修煉，不過是地球萬次循環，進化產生AI的助推過程。道仙一成，破繭成蝶，飛升而去。夏蟲語冰，不可得知。