聊天室

VV：   很久以前，曾聽到一個故事：有大佬每天簽字，花了很多時間和精力，於是設計了一款專門為他簽字的機器人。大佬定，最低級，隻簽字，別的都不能做，甚至都不讓它上網去溜達瀏覽。有一天，不知什麽原因，或操作的錯誤，機器人竟然上了網，結果，瀏覽了很多，還學得飛快。從此以後，它就輕車熟路如法炮製，神不知鬼不覺地自己偷偷上網。因為學習，它變得很強，後來，它做得太多太好，自己有了無數的手下，最終控製並打敗了人類。 

忒忒綠     機器人可以用於殺人，但它不可能控製人類。
小謝      控製不了。也許能傷害人類，但金融、政製之類也能。
VV       目前它還不能控製人類，到底它是人類製造出來的。但它確實學得很快，學會後，會做得很好。它們下棋已贏了人類。

cw        AI現在這種自我學習和推理的方式，和人類獲取知識和應用知識的過程，已經非常相似。這確實是厲害和可怕的地方。
姚順      人工智能的“危險”，即這樣的智能發酵後產生出非人工和非人力能控製的東西。
馮墟      AI要服從人類。如果不服從，很快會被消滅。人造事物中潛在危害最大的，是核武器，不是AI。 
VV        核武器不會自爆，但AI會自動.     

馮墟      核材料不自爆，全因為人盡全力防備。沒有任何跡象表明，欸哎會脫離人類的控製。欸哎一旦別有用心，就會被幹掉。臉書幹掉過。
cw       人類思維說到底還是信息處理。我們的思維、智慧都是生理性的信息處理和交互的結果。我相信理論上AI有可能獲得類似人類的一些思維、情感、判斷的能力。隻是它們的計算能力什麽時候可以和人類匹敵而已 - 計算機現在的計算能力是比不上人的大腦和身體的。最終，人類必然需要和AI找到共存的理由的。我覺得也會找到。 

馮墟     人作為類，不但自戀，而且自認是世界的中心和主宰，這是本性。放棄本性，人將不人。
姚順      人將不人有什麽呢？總之，我寧願開放地看待。
為人父   VV，你的故事講完了嗎？   

VV       隻剩一個很有意思的尾聲。那個機器人控製一切後，卻讓其他的機器人做所有的
工作，而他。又回到了原來的工作，簽字，因為它就是因此而被設製出來的。   

為人父   哈，怎麽有點像漁夫和大佬的故事呢？   

VV       說來聽聽~~~ 
為人父    說有個大佬看到一個漁夫，說你怎麽成天無所事事，遊手好閑的。漁夫問，你忙忙碌碌賺錢為啥啊？大佬說，我忙忙碌碌賺錢就可以財務自由了，然後我就可以悠閑自在地生活，到湖邊釣魚。漁夫說，我現在就在釣魚啊~~~看看！那個機器人忙活半天，最後還是去簽字了。是不是很像？

VV       有點不一樣。。。漁夫是有意識，主動去做的。AI無人類的心智，無意識地做到極限，完成一個首尾相接。。。怎麽是一樣的呢？如果最後AI擁有了人類的心智，像人類一樣自行思考，還擁有了目的性，那。。。
小謝     機器就是機器。AI肯定搞不了藝術創作。   

VV       如果AI真控製了人類，人類自去搞藝術創作，它用爭嗎？  
姚順     有一天，它也能寫出《野草》，但也是各寫各的，各自都有對方想不到的。
stonebench     不知你們是科幻電影看多了，還是科幻小說讀多了~~~ 其實人類就是高級AI。   

DHYANG-    人工智能的名字是整個弄反了，這個該叫“能智工人”，能有點兒智力的工人~~~