與網友的對話

來源: 慕容青草 2019-10-20 09:02:26 [] [博客] [舊帖] [給我悄悄話] 本文已被閱讀: 次 (16036 bytes)
回答: 機器人的反叛—童話是否會成真?慕容青草2019-10-19 16:33:26
慕容青草
回複 'A_bobcat' 的評論 : 這與好人壞人沒關係。。。當兩國發生戰爭時,誰都認為自己是民族英雄。。。另外,即便是你設計時讓你的機器人隻殺藍軍不殺紅軍,但你自己投奔了藍軍,那麽機器人照殺你,所以按照機器人是否背叛人而言,那根本是一個假議題。。。
 
A_bobcat
回複悄悄話若機器人以進化論作為道德的基準,人類的末日就到了。
 
A_bobcat
回複悄悄話這個問題好像不難。 設計的人是好人, 機器人就會變得更好。設計的人是壞人, 機器人就會變得更壞。機器人出事故是另一回事。
 
慕容青草
回複 '衡山老道' 的評論 : 看來你沒耐心讀完本文,那我就來稍微講解一一下吧。
你說的【機器本身是不會反叛人的,除非模型中包括反叛的部份】早已是假議題,因為今天的眾所周知的機器人的一大功用就是在戰場上殺敵,殺的就是人。隻不過目前來說,殺敵的機器人都設定好如何識別敵我,所以隻殺敵人,不殺自己人。。。但是,在本文所討論的可能性中,因為具有超自然能力的魔術師的靈接管了機器人,那時所有原先預設的敵我都不再有效,而是那個靈讓它幹啥就幹啥,讓它殺誰就殺誰。。。

但是,目前來說,即便真的存在有超自然能力的魔術師的靈,他也不會去操控那些用來殺人的機器人。。。首先,如本文假設的,幹那事本身需要消耗一定的能量,所以要看所幹的事情是否有意義。。。目前來說,那些殺人用的機器人隻會殺人,連話都不會說,劫持它們沒啥價值,二來,那些機器人連彈藥都不會裝,需要有人來替它們裝,沒電了或沒油了,也需要有人來替它們補充。。。很難操控。。。一旦當AI機器人發達到具有各種類人類的體能,具有靈巧的手腳,也會對話時,劫持它們就有價值了。。。那樣的機器人不但容易操控(隻要進入它們的線路就行),而且操控了一個可以控製一批(這就是智能的社會性特點),並且每個機器人都是多功能的,可以進行各種任務。。。
 
慕容青草
回複 '衡山老道' 的評論 : 等你耐心讀完本文之後你就會知道本文討論的是一種什麽樣的可能了。。。
 
衡山老道
回複悄悄話機器的智能是人工智能,是人按照一定的模型,包括知識表達,推理,學習,決策等組成部份,授與機器的。機器本身是不會反叛人的,除非模型中包括反叛的部份。

所有跟帖: 

繼續對話 -慕容青草- 給 慕容青草 發送悄悄話 慕容青草 的博客首頁 (4654 bytes) () 10/20/2019 postreply 12:29:53

加跟帖:

  • 標題:
  • 內容(可選項): [所見即所得|預覽模式] [HTML源代碼] [如何上傳圖片] [怎樣發視頻] [如何貼音樂]