碼農學寫字
到處看看，一起聊聊
AI，美麗新世界？養虎為患？
有一個有意思的廣播節目，Freakonomics Radio，是2005年出版的暢銷書Freakonomics的產物。不論是書或Podcast都引人入勝。不久前有一個分成三部分的係列談AI，從AI能不能說笑話，會不會搶了你的工作，直談到AI改變的世界裏有沒有你的一席之地。範圍很廣，但也都隻是高空鳥瞰的角度而已。
其中最讓我驚奇的是，他們談到了如何訓練AI，訓練比建立LLM（Large Language Model）更費勁，當然不是說建立LLM有多容易，畢竟花了上億美元，但那也隻能算是一個昂貴的倉庫，儲存了幾乎所有當今世界已知的各種形式的知識，除了文字檔也包括了語音和影像。
有了這樣龐大的知識庫，機器仍然隻是機器，畢竟知識不代表智能，It knows everything but understans nothing。他們從最簡單的文法輸入開始教AI造句，AI吐出來的都是毫無意義的句子，就像天才語言學家Noam Chomsky為了解釋語法(Syntax)和語意(Semantics)所創造的名句：Colorless green ideas sleep furiously，文法完美無缺，但是完全不知所雲。
然後他們玩猜字遊戲教AI文字的關聯性，比如給一個指令：「這一段文章第一段的第一個字是什麽？」下一個指令：「猜猜第二個字是什麽？」。這樣的成果我們早已開始享受了，我使用拚音輸入法在蘋果手機上按下這幾個字母myjsy，第一個選項就是「明月幾時有」，當我選了「明月幾時有」，立即出現的下一個選項就是「把酒問青天」。
盡管如此，ChatGPT 3.0之前的版本，吐出來的句子仍然是非常的粗魯無禮，甚至包括各種歧視字眼。該怎麽教導機器學習禮儀？其實和教小孩也別無兩樣，兩者都必須有規範。他們用聯合國的人權宣言，蘋果的服務宗旨等為範本寫了五大張的AI「禮儀規範」，開始教導AI什麽樣的語言違反規範，什麽樣的語言是可以被接受的。
說到這就不得不提最近的一種新行業叫做Prompt Engineer，他們的工作就是和AI互動，比較知名的有Ana Bernstein，她寫了不少訣竅怎麽讓ChatGPT提供更接近理想的答案，重點是必須提供完善的背景/情境（Context）描述。 Prompt Engineer，雖然也是工程師，和傳統工程師的背景卻大相徑庭，他們具備更靈活的創意與人文素養。
理工學院訓練出來的，多半都是一群被規格限製住，講死理做苦工的人，比如碼農。有高功能自閉症的Temple Grandin 博士也嘲笑過矽穀隱藏了許多自閉者。我特別同意，我就是不善跟人交往，才選擇和電腦朝夕相處。那知，AI竟然讓我也不知道如何跟機器打交道了。
為什麽能不能說笑話是一個裏程碑？ Dr. Jane Goodall強調黑猩猩和人類非常像，它們會彼此搔癢玩鬧，黑猩猩也會怕癢大笑。關於笑鬧的相似度，也僅止於此，它們是絕不會說笑話讓其它黑猩猩哈哈大笑的。寫笑話雖然有一定的公式可循，但是也像文法一樣，不是在正確的地方代入正確的文字就可以組成一句有意義的話。
Dr. V. S.Ramachandran 在 《The Tell-Tale Brain》書中進一步解釋笑話的深層意義。他說笑話裏的主角有各式各樣的倒楣，但必須是無關緊要，不傷害人的倒楣，否則就不是笑話而是悲劇了。這就牽扯到什麽是區別人與非常人的要素。一般人看見別人踩到香蕉皮滑倒了，也許會毫無顧忌地爆笑。萬一那個滑倒的人撞得頭破血流，除了毫無同情心的非常人，誰還能笑得出來？
AI能不能有這樣的識別能力？
想起我最喜歡的StarTrek：The Next Generation裏一個我很喜歡的角色，Data，一個擁有龐大知識庫和非凡判斷力的機器人，一步步慢慢學習讓自己擁有人性。幸運的是，環繞他的都是「好人」。
Data畢竟是杜撰的人物，我不知道人類將來有沒有能力創造出一個和他一樣的實體。但是我相信，如果不對AI的發展有明確的嚴格規範，那會是一個讓人擔憂的未知。
我覺得多慮了。：）真的AI跟你幾番交流下來，很快知道你是不善言談，隻會在代碼裏玩惡作劇，惡趣味的碼農類型的人，接下來的交流AI大概率會投你所好，讓你如同碰到知己一般滔滔不絕，言無不盡，說的笑話都是碼農圈裏的冷笑話。這應該是AI基本能力，不然，就該歸類為另一種AI（Artificial Idiot）了。
至於本文提到的靠prompt的AI，我覺得依然是比較初級的AI機器，更像一個容量巨大的數據庫輸出工具，它可以在好規範裏訓練出好的結果，也可以被壞人訓練出壞的輸出，但是看起來目前應該還沒有AI自身的想象力，超越人類做出比人類本身能做出的更大的惡，因而用法律來做這個規範，我想當前還是可行的。
不求理解，隻求能記住。 這樣的學生考個重點大學應該沒有問題。
人工智能取決於其如何開發、部署和監管， 這些會決定AI是否對人類構成威脅。如何正確使用人工智能這個工具，非常重要。
讚碼農又一篇讓人思考的好文！
有時候我覺得人類會不會就是高等智慧創造的“AI”，然後在地球上做實驗。等到自己收不了場了，那種智慧大佬就會來幹預。他們如果看見人類對AI的熱情和笨拙的發展，不知是何感受？
謝謝你分享的好書和podcast。周末愉快！