意識，是不是人工智能和人之間不可逾越的鴻溝？

昨天向Siri問了幾個問題，查詢了天氣，新聞和餐館等瑣碎事宜，她都給出了滿意回答。最後我突發奇想，問Siri：“我前一個問題是什麽？”，Siri 沉默不語，顯然不會回答這個問題。之前有奇奇怪怪的問題她都會幽默地岔開，這個問題卻讓她down掉了。程序員顯然沒有編入程序來記錄問過的問題。這個當然不算是一個bug，但充分說明了Siri盡管和人溝通看起來很像是有智能，但她還是局限於既定程序，連最基本的邏輯思維能力都沒有，離著人的距離還很遙遠。

 

有人會說，Siri的設計原意就不是人工智能。那麽打敗世界上頂尖圍棋高手的阿爾法狗（AlphaGo）算不算人工智能？阿爾法狗雖然贏了，但它（我不知道是雄是雌所以不知道該用他還是她）知道“贏了”是什麽意思嗎？會高興嗎？甚至它知不知道它正在下棋或下過棋嗎？有了這些“感知”或“意識”，才能算得上是有和人一樣的智能，否則就是一台運算能力遠遠超過人類的計算器。有一個著名思想實驗叫“中文房間”（Chinese Room），由美國哲學家John Searle在1980年提出。這個實驗中Searle假定他（一個隻會英文的人）身處一個房間之中，這間房間除了門上有一個小窗口以外，全部都是封閉的。他有一本英文版程序書，房間裏還有足夠的稿紙、鉛筆和櫥櫃。寫著中文的紙片通過小窗口被送入房間中，Searle可以使用他的英文程序書來找出這些中文問題相對應的中文答複，並照葫蘆畫瓢寫在紙片上遞出小窗口。雖然他完全不懂這些中文的意思，Searle認為通過這個過程，房間外的人都會以為他會說流利的中文。電腦就是這樣工作的，電腦雖然完成工作比人類更快跟好，卻不會理解和感知它自己在做什麽。

 

以前普遍認為電腦算法（algorithm) 和機器人隻能取代人類高效地做一些重複性的工作，創造性的和藝術性永遠是人類的領域。但現在看來完全不是這樣，人工智能已經可以寫出流暢的文章，可以譜出優美的樂曲，可以繪出精美的美術作品。藝術品之所以有高昂價值，是因為有兩個特質，原創性和稀缺性。人工智能可以在瞬間創造出成千上萬的各不相同的精美藝術作品，每一件都是原創，每一件都是唯一，但是不是還有高昂藝術價值？尤其是這些藝術品的作者沒有意識，根本不知道自己在做什麽，更不可能有創作的熱情和成就感，這些作品還有價值？

 

人類對“意識”有比較清晰的定義，英文有多個單詞來代表這種能力，consciousness，sentience，或者qualia，讀者隻要上網搜一搜就會找到大量解釋。但意識是怎麽產生的來？現在人類自己還沒有搞明白意識的產生機理，就是說對碳基礎生命的意識產生機理一頭霧水，更無從談起能預測矽基礎電腦算法到一定程度能否產生意識。不管哪種生命形式，隻有產生了意識，才能感知自我存在，才能有思想，才能有主觀的企圖心。如果人工智能不能產生自我感知的意識，算法再強大，即使發展到能取代人類的所有工作，也隻能是人類的工具。反之，如果人工智能產生了自我感知的意識，那怎麽可能臣服於智力體能都劣等的人類，即使人類是他們/她們的造物主。