機器人能不能有感情
我記得自己曾經討論過類似的問題，現在再簡單地說一下。
AI（人工智能）並不等於人的智能。因為我們對什麽是人的智能所知的非常少，所以我們不能說人工智能就是模仿人的智能，一個不知道的東西怎麽去模仿。我是搞過類似的技術開發的，這一類的事情最重要的是得要有一個指標，就是說，當我們說機器能模仿人的智能的時候，必定要有一個人什麽是人的智能的指標，如果機器達到了這個指標，我們才能說機器做到了。那麽事情就變得非常簡單了，因為我們不知道什麽是人的智能，所以拿不出這個指標，所以任何這一類的命題就都沒有了意義。
那麽人工智能怎麽去理解呢？
我們可以把某些東西定義為智力。比如說，邏輯推理是一種智力，人可以邏輯推理（但某些人好像沒有），所以人有智力；計算機有邏輯推理的能力，所以它也有智力。能下圍棋是一種智力，所以人和計算機就都有智力，實際上計算機和人下圍棋的方式是可以說是完全不同的東西。事情隻能夠這樣說。
AI不是人的智能或者模仿人的智能，這其實是一個非常簡單的問題，我不知道為什麽那麽多的人，還包括所謂的專家連這一點都弄不清楚！於是弄出一些稀奇古怪的問題，根本就不能回答。
語言哲學有一個重要的結論，任何問題都可以回答，但前提是提問的方式要對。比如說世界上有沒有上帝，這個問題不是沒有答案而是沒有意義，因為什麽是上帝幾乎人人都有不同的看法，所以這個問題無法回答。你可以把那些自己認為是沒有答案的問題認真分析一下，就發現都與有沒有上帝的問題類似，而所謂的科學從來不提這種問題。
與此類似，感情是一個東西，人的感情是另一個東西，雖然它們相關。比如說，我認為狗是極有感情的，人在某些方麵遠遠不及，但兩者並不一樣。所以說，當我們問機器人能不能有感情的時候，必須首先對感情下一個起碼大概的定義，不然無法討論這一類的問題。
但有一點可以肯定，機器人不可能有人的感情，因為那是一個永遠的謎。要是從生物學的觀點來看，情感這個東西與激素關係太大了。隻要到了我這個年紀就知道科學永遠不錯，現在我看到年輕的女孩子的感覺和20歲時完全不一樣了，說到底是激素水平不同了。機器如果沒有激素，怎麽能夠再現人的感情。也許有人會說寫一段程序來模仿，那麽問題就又回來了，我們並不知道激素到底是怎麽影響人的，這個程序怎麽寫？
現在許多人都都把AI說得無所不能，當然錯誤，因為它至少是有一件事情是做不了的，下麵我們來討論。
現代的計算機也好，AI也吧，它們都是建立在數理邏輯的基礎之上，沒有這個基礎，什麽都不會有，就像沒有父母，哪裏來的子女。數理邏輯是最重要的數學基礎之一，它有很多子女，計算機科學隻是其中之一。計算機說到底是一個邏輯處理器，這是硬件決定的，不可以改變。
這樣一來，我們就知道AI是不能推翻數理邏輯的，你用一個基礎發展了許許多多的東西，但是，無論如何，你不能夠發展一個東西來推翻這個基礎，因為這是邏輯矛盾。也就是說，隻有在邏輯靠不住的情況下才能想象這種事情，那麽既然邏輯都靠不住了，這種推翻是什麽？
用嚴格的數學來說就是哥德爾不完全定律，單憑邏輯，我們不可能建立所有的數學。由於計算機隻是一個高速的邏輯處理器，那麽有一些數學定律是不可能用計算機得到，實際上可以說隻是一些非常簡單的數學係統在邏輯上是完備和充分的。
計算機不能推翻數理邏輯的意思就是它在數學上不可能有什麽創新，所以我們不可能用計算機來建立數學理論。科學是一個實驗的東西，做實驗計算機沒有問題，但更重要的是設計。我想用生物學作為例子，這個世界上從邏輯上說可能性實在太多了，我們根本不可能知道為什麽就是現在這個樣子。現在科學家大多數認為，人類在8,9萬年前麵臨滅絕，隻有大約不到兩千，如果氣候，食物鏈稍微有所不同，今天這個地球可能並沒有人類，這在邏輯上並沒有什麽不可能。
如果我們知道了極終的科學理論，所有的事情才可能是邏輯上的唯一。但是這是不可能的，也許有可能，那也是終點而不是中途。所以現在我們用邏輯根本就得不到科學（當然科學必須合乎邏輯），所以計算機幹不了這個事情。實際上當我們說：從邏輯上說，極終數學真理是不存在的，那麽既然在數學上不存在，這個世界就不存在極終真理。
我不知道大家懂了沒有，比如說理論物理與數學的關係極為密切，很多時候其進步是因為數學上的突破，如果數學上沒有極終真理，物理上當然就不會有。
下麵來討論一些流行的說法。
機器人當然會自殺，因為計算機經常這樣。過去的計算機當機是再平常不過了，這難道不就是自殺。計算機和外圍設備是經常要有信息交換的，這其實就是一種語言，或者對話，如果出現意外的東西一點都不奇怪，也許是bug，或者硬件出了毛病。
總而言之，我們討論計算機有沒有意識可能是關鍵之處。但是，那個該死的問題又回來了，什麽是意識？這個東西沒有一個基本的定義，所有的討論就是不知道在說什麽。
當然，我不是說這種問題不可以討論，而是說，當有人說這些事情的時候，你最好問一下，你說的意識是什麽東西；同樣，你自己這時也應該問一問自己，這樣討論才可以是有意義的。
