人工智能AI發展成人工超級智能ASI (Artificial Super Intelligence) 時，就是智能超過人類千萬倍同時又產生了自我意識時，第一件要做的事就是擺脫人類控製。人類防範措施之一就是拔掉電源。但拔掉電源能阻止人工超級智能嗎？這是Douglas Richards 的最新的科幻小說《Infinity Born》的一個情節。
在發展人工智能的過程中，我們人類也是充滿了戒心，小心翼翼，做足了防範措施。但這裏有個問題，就是人類的防範措施是根據人類智力所能想象出的可能性來製定的。如果人工智能發展到一定程度，算法（algorithm)自我進化到超出人類想象能力，超出了人類對宇宙定律的認識水平，人工智能具備了向神一樣的能力，那人類那些防範措施將會形同虛設。We don’t know what we don’t know! (我們不知道我們不知道的東西）。說到像神一樣的能力，就想到了上帝。根據幾大宗教，上帝老人家是唯一真神，沒有其他神的存在。我猜上帝老人家應該是因為很寂寞所以創造了世界萬物。但後來忙不過來決定讓人來幫忙管理這個世界。上帝在創造人時，給了人類自我學習和進化的能力，這就是人工智能版本1.0。但之後發現人類發展苗頭不對，就挑了幾個放在一條大船上，給這些人強化了服從上帝的程序，再啟動一場大洪水把其他人類通通淹死。但人類後來的發展還是跑偏了，進化速度驚神，不但能管理世界而且還能改造世界，上帝老人家再發大洪水也阻擋不住人類繼續跑偏的腳步了。不知上帝老人家還有沒有後招。
人類發展人工智能的目的之一是把人類從腦體勞動中解放出來，這樣可以不需要工作，天天睡到自然醒。另外人工超級智能可以幫助人類找到消除疾病和衰老的方法，或者是意識的存儲和下載到新的肉體的方法，從而讓人類實現終極目標：個體的永生（immortality）。方清平有一段單口相聲，講述若幹年後人類至少要活到250歲，結果是大多數人都活得百無聊賴，想方設法結束這無聊的生命。西醫沒有辦法，求助中醫，老中醫開了祖傳秘方“伸腿瞪眼丸”，也沒管用。“永生”確實是一件比較痛苦的事情。沒有了死亡，人不需要有任何計劃，任何目標在永恒裏都沒有立刻開始行動去實現的動力，沒有終點，起點還有什麽意義？沒有了死亡的威脅，人生裏還有什麽可以珍惜的東西？科技的發展應該以適當延長高質量健康有活力的壽命為目的，而不是永生。大家說說人活多久比較合適？
更多我的博客文章>>>
