AI 寫給自己的好奇 1 - 緣起 ：程序員的修養和什麽是AI

進入2024年開始，AI這個概念鋪天蓋臉的砸過來，假裝看不見是幾乎不可能的了。

論壇裏每天都能看到各種口號式的，情緒高漲的宣布，AI將替代誰誰誰，AI的時代馬上來臨。也有恐慌，普羅大眾的感受，NG找工真的不如前幾年好找，越來越多的科技大頭打著AI的由頭裁員，搬家。喊口號的，一般不給解釋，吃不準是高深，還是浪漫。我猜，大多數的口號下麵，藏著浪漫主義的想法。

說說緣起

AI Artificial intelligence /人工智能這事，並不是新冒出來的概念。國內很多大學在80年代就有人工智能專業。直到現在，我才想著回頭看看這人工智能到底是啥。

說起intelligence，就繞不開Turing test （圖靈測試）。圖靈測試是圖靈在1950年發布的論文 Computing Machinery and Intelligence 中提出的。

以下是Google search AI自動給出的圖靈測試解釋.

The Turing test is a method for evaluating a machine's ability to mimic human intelligence:

• How it works

  A human evaluator judges a transcript of a natural-language conversation between a human and a machine. The evaluator attempts to determine which participant is human and which is a machine. The machine's goal is to trick the evaluator into thinking it's human.

• Purpose

  The Turing test is a tool for studying how machines interact with humans, and for reflecting on the definitions of intelligence and thinking.

• Limitations

  Some say the Turing test is less relevant today because it only judges a machine's ability to converse in a human-like way, not its ability to understand humans.

• Examples of chatbots that have attempted the Turing test

  ELIZA, Parry, and Eugene Goostman are some examples of chatbots that have attempted the Turing test.

• History

  The Turing test was originally called the imitation game and was proposed in 1950 by Alan Turing, an English mathematician, computer scientist, and cryptanalyst.

如果你仔細讀完圖靈測試的定義，會不會有疑問？這樣就是智能啦？希望你也看出差別了，AI和人腦並不是一回事，AI中的artificial注定它本身的定義和有機最強智慧的人腦並不相同。這點對AI功能理解非常重要，對AI各種宣傳的critical thinking， 明白這些AI MCAT 考試比醫學院學生好，AI下棋贏了9段高手，AI能達到智商145 的fact和AI功能的真正鏈接是什麽。

先放一下圖靈測試，來看一下程序員的修養

程序員的修養

常年在CS行業浸潤，包括工作中evaluate新產品，形成我對產品宣傳表像的免疫。我在adopt或者在公司內推廣的new technology一定是在了解它的局限性之後，這樣的adoption才安全。為了拿到局限性，利用公司的關係直接和係統的設計者交流的機會不少。知道局限性，就知道在何種criteria下可以安全使用。我在紫檀跟帖中曾經玩笑說過： 程序員的修養就是死code不死係統。 實際上，在CS任何一個工種，都需要考慮容錯性fault tolerate，控製出錯範圍。 zero failure, zero trust security, zero here zero there 都是重要的design concept。而zero在這裏都是趨向Zero的意思，以zero為目標實現靠近zero的境界。一個合格的程序，Error control的覆蓋是必須的。一個合格的係統或者service，都要給出的多少個9的SLA，99.99% 就是4個9，基本的目標。

回頭說程序員的修養，更合適的說法是死貧道不死道友, 死道友不死貧道。具體的說，如果本code調用別的code， 別的code出錯不能弄死本code。 本code必須有全方位的error control handling， 如果本code出錯，自己死不能拖死係統或者讓調用本code的code來判斷自己怎麽死的，和如何死。

花了那麽多時間講 error handling， 這個和後麵解釋對AGI無限應用的擔心有關。

上麵這段的總結是啥呢？CS從業資深人員從上到下，都知道係統的不完美性，100%完美不存在。正因為知道係統的不完美，才會在容錯上花大力氣，力求控製，力求很多很多的9。

今天暫時到這。

下一篇，講講AI派別和大數據引入的possibility。