閑筆塗鴉
見貓畫虎，聽風塗雲，品茶夢酒，忙中偷些小樂趣。
今年的感恩節感受有些特別。最主要的因素當然就是OpenAI這件事。實在讓人掉下巴。最終的發展似乎符合了大眾的普遍期待。雖然太多細節還不為人所知，各種渠道還在源源不斷地傳來各種“內幕”，但大多數看熱鬧的人已經可以在感恩節把注意力放到火雞上了。
OpenAI這“最後”的收場大概是最好的結果。因為即使它的整個團隊在微軟匯合，那也不會是第二個OpenAI。大公司的積習都有魔咒之力，一旦被感染，就很難擺脫。這是為什麽美國大公司的中高層常常大換血的原因之一。而我隻之所以希望OpenAI還是OpenAI，不是MSAI, 當然是它才給這世界帶來了巨大的驚喜和驚嚇，如果就這樣夭折了，豈不可惜？大家現在對AI的了解實在太貧乏，它可能帶給大家好處和威脅都讓人坐立不安。可越是這樣，人的本性讓我們越期待更早得到答案，哪怕那答案可能並不是我們願意麵對的。
OpenAI目前的發展偏向了所謂的”有效加速主義“。它滿足了我希望繼續吃瓜的願望，但同時也讓我不寒而栗：這場鬧劇再次說明，沒有適當約束的人，不論是個體還是群體，都可能為自己的“利益”和“信仰””背叛“或者”傷害“他人。人類最近幾千年的曆史一再證明人類需要約束，這也是現代民主體製的基礎共識，其原由甚至可以一直追尋到人類思維活動的信息處理機製的層次。也許我們現在很幸運AI還在所謂的“good guy”手裏，但是任何一個今天的“good guy”都有可能是明天的devil。看著OpenAI被幾個人翻手為雲覆手為雨地上下折騰，我耿耿於懷時心裏還總有些戚戚然的感覺。何況，現在的AI 可不是僅僅在我們眼前的幾個人或者幾個國家手裏。
我其實非常理解並讚同OpenAI聯合創始人Ilya Sutskever對AI可能構成的威脅的看法。很多人通常將AI的潛在威脅與通用人工智能（AGI）聯係在一起，好像人工智能隻有在達到了和人類有相當的智慧的程度才會對人類有威脅。事實上，即使沒有達到AGI這一水平，AI的某些應用就可能對人類構成嚴重威脅。這也是Sutskever一類人所擔心的。
於是，在感恩節的前一天裏，我一直帶著這種患得患失的心情一邊追蹤這出鬧劇，一邊準備著火雞、計劃第二天的菜譜、東奔西跑買各種食物。。。和路邊吃著盒飯操心世界發展方向的農民工兄弟非常類似。
到了半夜，開始收到國內朋友發來感恩節問候。我才想起來是不是該做個圖或者視頻也問候一下大家。於是打開計算機，讓ChatGPT給我產生幾個感恩節的圖。因為一直在想OpenAI這事，就指示ChatGPT要有這新的人工智能時代的特色。剛開始還好，我一邊調整指示，一邊欣賞它給我產生的作品。但慢慢地，我就有些坐立不安了。盡管我多少知道一些它背後的原理和機製，但仍然有了詭異之感，背上有些涼颼颼的。下麵是部分過程：
首先叫它設計一個極簡化現代風格的卡片，結果很不錯，幹淨優雅和諧大氣：
然後叫它添加一點人工智能的元素。下麵這個設計裏麵的線路版元素搞得就比較“幼稚”了。把火雞搞成了機械火雞，嗯嗯，也不算出格，還可以接受：
好了，不用卡片了，直接來餐桌的效果圖吧。
上麵那隻火雞有點邪惡的味道，還靈魂出竅？想多了吧。指示它重新來。
上麵這個圖有些死板單調。整體感雖然可以，但那麽小的南瓜什麽意思？鬼節已經過了哈。智商還是短缺啊。重新來一張吧。
呃，上麵這張你搞個機器人在那裏幹什麽？是在旁邊還是在桌子上？祝賀朋友們，就不要機器人喧賓奪主了吧。指示它不要在畫麵添加機器人。
然後它產生了上麵這張，告訴我：Here is the revised illustration for Thanksgiving, designed in a modern and minimalistic style that incorporates elements of the era of artificial intelligence, with no robots included. 一本正經地說按我的指示沒有包括機器人。我非常有耐心地告訴它，這裏麵有一個機器人直直地站在那裏，請去掉。
又來了，它又重複：The revised illustration for Thanksgiving is now available, created in a warm, modern, and minimalistic style, ensuring that there are no robots in the scene. 說裏麵沒有機器人。我心裏有些不耐煩了，移到邊上的機器人還是機器人，我不要機器人在畫麵上。
還有機器人！雖然看起來更像個家政，不再像個武工，但是它還是機器人！而且你還在說沒有機器人？重新來吧。
然後，它產生了上麵的圖，又告訴我同樣的話，說沒有機器人：The latest version of the Thanksgiving illustration is now available, designed with a modern and minimalistic style and without any robots or robotic elements. 這次是沒有完整的機器人了，但是一個虛擬的機器人手臂是什麽意思？更猥瑣不是？我再告訴它不要機器人和任何機器人的肢體。
嗯，這次不錯，終於沒有機器人和什麽肢體了。家俱簡陋了點，還那麽擠，食物酒水和座位不匹配呃。再指示，給你個機會，改進改進吧。
上麵這個新圖大效果不錯，地板有些詭譎，又搞個小機器人幹什麽？仔細看酒水食物還是不大配對。也算問題不大。但是它居然還說沒有機器人。那個小機器人也是機器人吧。叫它再重新來一幅。
看到上麵這幅，我有些驚訝了，差點就要毛骨悚然了。我這是要開宴會還是白虎堂？它還在重複同樣的話：沒有包括任何機器人和機器人肢體：The latest Thanksgiving illustration, crafted in a modern and minimalistic style, is now available, ensuring there are no robots or robotic parts included in the design。你這幾個彪型大漢是要我閉嘴並且接受我的客廳裏現在沒有機器人？我沒有多說，讓它按我前麵同樣的指示再產生。
上麵這張新圖裏彪悍的機器人沒有了，但是這個類似電影《異形》主角一樣的機器人看起來更邪惡更具有毀滅性吧？你這是和我杠上了？我再要它按我原來的指示產生新的圖。
看到新產生的這一幅，我心跳有點加速了。這是喧賓奪主準備篡位了嗎？這樣一個武工小隊占據我的客廳算是真正的示威嗎？它還在繼續告訴我它沒有包含任何機器人。我拒絕，再次要求不包括任何機器人。
嗯，這次終於沒有機器人了。但是6個座位你放那麽多套餐具是什麽意思，不合常理啊。重新再來吧。
呃，又來了，這次幹脆坐到桌子前了，真不把自己當外人啊。而且還在告訴我，沒有機器人。再來！
好，這次你已經坐在主位了。這是準備和我開誠布公談一談嗎？一邊去，重新來！
嗯，沒有實體機器人，派了個虛擬的在牆上？
看來你這是要和我卯足勁的對著幹？還在繼續重複沒有包括機器人的話。
已經開始慶賀起來了？慶賀什麽呢？我的指示看來完全被忽視了，但是它還在一本正經的告訴我沒有包含機器人。這是你在表示對人類的蔑視嗎？
這一幅重新產生的圖裏機器人已經完全占據了主位，而且掌控了整個場麵。如果我不知道麵前這個係統的有限性，這可能隻是目前係統的缺陷，我會怎麽想？會做什麽？而什麽時候這些會成真？
我繼續讓ChaptGP產生著新的圖畫，坐在這裏一邊看它似乎嘲笑式地告訴我已經完全執行了我的指示，一邊感受這個新物種強行進入我們的生活、我們的社會的場景，感受我們不再能夠主宰他們時的無力和無助感。。。最後它連續三次沒有再放機器人到我的畫麵裏，我停了下來。我不知道繼續下去會不會又開始新的循環。我也不知道將來機器人會不會給人類這樣一個體麵下台的機會。下麵三張不再有機器人：
看著這些似乎美輪美奐的設計，我已經失去了欣賞它們的興趣。也許OpenAI這出鬧劇會是人類文明史上一個命運裏程碑，從這個感恩節開始，人類文明時代開始了向人機文明的遷徙。但問題是，人類準備好了嗎？
達爾文的生物演化論有兩個基石：利己和尚美，這可以從人類的生物構造和特性中得到解釋和支持。人類的這些本性決定了這個世界上永遠不會有所謂“高尚”、“純粹”或“完全為人從不為己”的聖人聖君。對於人類文明而言，一個有監督、有約束、有責任且有後果的社會體製才是最“安全”的。人類經曆了數千年的摸索，嚐試了不同的社會結構，直至今日仍然還在民主與獨裁這類概念和體製上爭鬥。而現在，我們可能要在百年甚至幾十年內進入全新的人機文明時代，人類真的有足夠的時間來應對新物種的進入嗎？
人類要在人機文明中占據主導地位，其難度實在難以想象。僅從科學技術的角度看，這似乎是一個無解之題。上世紀最重要的數學成果之一是哥德爾的不完備定理，而其在計算機領域的對應是圖靈停機問題。它們都說明，不論我們掌握了多少知識，總有一些問題是我們無法判定真偽的，我們也不能保證完全控製所有計算機的關停。因此，不管我們的係統和程序設計得多麽周密，總可能存在我們無法停止的係統和機器。再麵對人類的愛恨情仇和、各種“偉大抱負”、各種“青史留名”的欲望，我們怎麽能夠保證對AI的安全掌控？如果說民主製度是人類文明的進步方向，不斷發展的民主體製可以保障人類文明的發展和存在，那麽當AI參與進來後，我們還怎樣與機器談論民主？民主體製能夠有效的基礎是人們可以通過它對個體產生不可抗拒的威壓。但對AI呢？如果我們在科技上無法對AI施加壓製，我們還有什麽手段可以約束AI？
盡管如此，我理解但並不讚同Sutskever等人將“有效利他主義”的理念用到目前人工智能技術的發展上，即通過減緩AI的發展來為人類爭取時間。因為這個世界不僅僅有理想主義者，還有人在發動戰爭，有人還在試圖用戰爭解決政治、信仰和經濟問題。。。那些人可能不會好心地等待。。。所以我們隻能希望，未來會像電影中那樣，好人總是贏。。。
2023，記住今年的感恩節。
