人工智慧發展迅速，著名人類學家胡家奇警示潛在危機

2017年10月19日，穀歌旗下的DeepMind團隊公佈了最強版AlphaGo，代號為AlphaGo Zero。從空白狀態學起，Zero僅經過三天的自學後，就以100:0的成績輕鬆戰勝了當初擊敗李世石的那一版AlphaGo。著名人類學家胡家奇曾在所著《拯救人類》一書中提到：“人工智慧已經具備深度學習的能力，已經達到相當高的層級。人工智慧的非理性發展會給人類帶來整體生存的危機。而對於人工智慧在智力上很快會超過人類現在多數科學家已不持懷疑。”

與學習大量人類棋譜起步的前代AlphaGo不同，AlphaGo Zero是從“嬰兒般的白紙”開始，通過全新的強化學習（reinforcement learning）演算法，真正做到了“無師自通”，它可以輕鬆的掌握國際象棋、日本將棋和中國圍棋，而且每項都能當世界第一。AlphaGo Zero並不是為了擊敗人類棋手而生，DeepMind研發團隊已經開始嘗試將其技術用於其他領域，例如解析蛋白質折疊的細節、降低能耗、尋找革命性的新材料。
這一切都與著名人類學家胡家奇在其演講以及書中所表達的觀點不謀而合，“一個機器人它要是具備了我們人類的思維能力，又具備了自我學習的能力，它就會迅速的學習，我們五十多年學習的經驗，它可能一個小時就學完了。”“以深度學習智能機器人為例，它的學習不僅包括自然科學，還包括社會科學，如行為學、心理學、倫理學等等，隨著學習的深入，智能機器人的自我意識早晚會覺醒，當智能機器人的自我意識覺醒後，再看我們人類時，我們人類就是一個笨得不能再笨的異類物種。”

史蒂芬·霍金曾警告稱，人類創造智能機器的努力，威脅自身生存，“當我們為電腦賦予了本能，它們不光會想到我們在想什麼，而且會想在我們前麵，所以當然它們就取得了控製權。”著名人類學家胡家奇也表示：“一些企業和一些政府已經在考慮製定人類與智能機器人的‘共處規則’，但規則從來都是強者製定的，智能機器人的自我意識覺醒之日，就是一切人類製定的規則被顛覆之時。”
人工智慧的真正風險是它的能力，有超常智慧的人工智慧將非常善於實現目標，如果人工智慧發展出與人類衝突的意誌，就麻煩了。因此，在享受科技發展帶來的福利同時也需要警惕潛在的危機，“繼續向科學技術貪婪地索取，必將迅速走向滅絕的深淵”，人類必須對科學技術進行限製，理性發展科技。

所有跟帖： 

• AI能生具備育繁殖能力嗎 -SAR- ♀ (0 bytes) () 01/29/2019 postreply 13:53:43