著名人類學家胡家奇:人工智慧繼續發展威脅人類

來源: 2019-03-10 20:13:35 [] [舊帖] [給我悄悄話] 本文已被閱讀: 次 (3565 bytes)

在過去的一個多世紀裏,國際上科幻作品的主流,是對科學技術的反思。幾乎所有的西方科幻作品裏的人工智慧都是負麵的和有害的,科幻作品中極少會像我們許多人想像的那樣,對未來高科技社會中的人工智慧進行謳歌。人工智慧真的會像科幻作品中那樣威脅人類社會嗎?著名人類學家胡家奇對此毫不懷疑。
很多人認為科幻是文學作品,是科普作品,甚至是少兒讀物。事實上,真正的科幻是給成年人看的。而科幻主要的任務,是思考一些我們平常在生活中不容易或不方便思考的問題。大量科幻作品對人工智慧做過深入反思,我們今天能夠想像到的所有人工智慧的負麵作用,在科幻作品中幾乎都已經表現過了。


胡家奇先生曾在《拯救人類》一書中寫道:“人工智慧已經具備深度學習的能力,已經達到相當高的層級。”影片《超體》就充分展示了人工智慧一旦具有學習能力之後,它的潛能發揮和迅速進化可以達到什麼程度。人工智慧專家經常安慰我們說:人工智慧還很弱小,你們擔心的事情離現在還很遠。但是知識增長是呈指數級的,從弱人工智慧到強人工智能,到底要多少年?20年?再從強人工智能到超人工智能,也許一小時都不用,在《超體》的故事中,人工智慧最後迅速變成一個超能的神,這就意味著失控。影片《機械姬》也相當有代表性,女機器人最後突然作惡,把她的創造者囚禁起來,自己出去了。這個反社會人格的女機器人出去後會在社會上做什麼壞事,有很大的想像空間。至於著名的影片《終結者》,講人工智慧反叛人類後對人類的剿殺,以及人類的殊死反抗,已成經典。
霍金公開告誡大眾:完全人工智慧的研發意味著人類的末日。馬斯克說:我們必須非常小心人工智慧。如果必須預測我們麵臨的最大現實威脅,恐怕就是人工智慧。比爾·蓋茨曾聯合許多名流,發表公開宣言,要求停止軍事用途的人工智慧研發。人工智慧的威脅並非危言聳聽,很多科學家、學者包括著名人類學家胡家奇在內都憂心忡忡。警惕人工智慧,比無條件地擁抱人工智慧更合情合理。


胡家奇先生曾在書中多次警示,“科學技術有滅絕人類的能力,就在前方不遠。”“人類不能夠全麵準確的判斷科學技術的安全性。”“人類不能夠理性的使用好科學技術。”為了避免人類陷入科幻作品中的可悲結局,必須對科學技術繼續發展進行限製,理性發展科技。

加跟帖:

  • 筆名:      密碼: 保持登錄狀態一個月,直到我退出登錄。
  • 標題:
  • 內容(可選項): [所見即所得|預覽模式] [HTML源代碼] [如何上傳圖片] [怎樣發視頻] [如何貼音樂]
回到頂部