ChatGPT 之所以如此成功，不是因為它的智能超越了人類，隻要它是建立在自然語言學習模型上的，它的智能隻能是人的智能的一個子集。當然這個子集可以不斷擴大，但不會超越人類智能的全集。
我們說ChatGPT 的智能，要很小心，它麵向我們時，往往展示兩個能力，一是知識收集和整理，二是推理出新的知識。真真讓人驚咋的是後者。我說的新知識不是指要靠科學去發現的新知識，比如從牛頓力學到相對論力學，而是指通過邏輯（分析綜合推理）產生的新知識，譬如給它出個題，分析一下電動車和充電站之間的先有雞先有蛋問題，即使這個問題的回答網上不存在，它都會給出不錯的答案。我把這個範例附在本帖後麵，它的答案不但語言表達清晰標準，而且你能明顯感到一種邏輯思考貫穿其中。
我想它的回答把兩個內容的學習結合了起來，一是電動車充電，一是先有雞先有蛋問題。兩個領域都有大量知識可供汲取，這並不難，有挑戰的是，它要將第一個知識代入第二個知識，或讓第二個知識介入第一個知識，在綜合的基礎上推理出現實問題並給出合理解決方案。按這個簡單範例，它的智能或許已超越平均初中生水平。
它不僅能收集匯聚知識，而且能演化出新的知識內容。它為何能做到後一點，僅憑它強大的語言理解能力？
我覺得這背後牽涉到起碼第三個知識的學習，邏輯推理。雖然它不太可能為了這個問題專門去搜集適用的邏輯推理知識，但在它平時處理千千萬萬的問題時，已經潛移默化地學習人類搭起了相關的神經元網絡。可以說這種泛邏輯推理能力已經固化在它的模型裏了。這就是可怕的地方，盡管它這三樣知識都不會超越它能接觸到的人類知識範本，但憑它遠超人類的算力和記憶力，至少在速度上可以輕鬆擊敗人類。這已然實現，我們熱衷使用GPT不正出於 這個原因？
繼續想下去，噢，原來我們的智能就這麽簡單搭建起來，機器隻有要算力足夠算法合理就能無限製地越來越快地模仿，而且在互聯網時代，我們的智力早已脫離大腦的儲存，隨隨便便地通過自然語言的表達擴散得到處都是，毫不設防，對於機器入侵也沒有任何知識產權的保護。我們被機器取代的節點離現在還有多遠？時鍾滴答。
所幸的是，我們的智能全集，並不是全靠這樣散布於自然語言的智能定義疆界的。我們更高級的創意性智慧，往往超越自然語言的表達，譬如建築師通過建築，作曲家通過音樂，科學家通過數學方程，藝術家通過形體舞蹈或者書畫。即使詩人，他必須把作品用自然語言表現出來，但他在落筆前一瞬的靈感，是無法通過筆下的分行文字逆向工程出來的。當然我們不能排除今後的人工智能，會采集非自然語言中的人類智能，但隻要它還基於自然語言學習模型，我們人類還是有戰略後方的。
最後我們或會想到，我們稱自己是屬靈生命，靈顯然不是知識，智能和智慧，靈是什麽很難說，但靈讓我們不需感官獲得不需理性推導產生對生命和存在的悟和感念，靈即是自由意誌的載體，也是信仰執著的基礎。靈能讓我們這個神的選民麵對機器獲得某種優勢嗎？一時想不出來。
實際上機器要戰勝我們，並不需完全超越我們，猶如兩軍對陣，並不一定強者獲勝。強者會有疏忽，會有漏洞表現出來，隻要那一刻被弱者逮著，事情就完結了。我們人類時時處處會露出自己的漏洞，我們的非理性，我們的情感用事，我們大部分日常決策不願意動腦，會讓我們在無情的絕對理性的機器攻擊下一敗塗地，即使我們可到達的最高智慧勝於機器
想到這些，我們會覺得那場剛發生在OpenAI的流產政變並非那麽荒唐，政變之失敗，或許正意味人工智能在戰勝我們，它用自己令人驚訝的能力展現，來贏得投資者和持股人的親睞，變相操縱了他們的決策。
最後無聊一想，如果這個世界的自然語言是中國的文言文，GPT 模型能學到什麽？
＊＊＊＊＊＊＊
我問： 請分析一下電動車和充電站之間的先有雞先有蛋的問題。
它答： 這個問題確實很有趣，因為電動車（EV）和充電站之間的發展存在相互依賴的關係。一方麵，沒有足夠的充電站，消費者可能會因為充電不便而猶豫購買電動車。另一方麵，如果沒有足夠的電動車在路上行駛，投資者和政府可能不願意投資建設充電基礎設施。
從曆史的角度來看，電動車的發展通常需要政府的政策支持和補貼來推動充電站的建設。這樣可以降低消費者的購車成本，同時確保有足夠的充電設施來滿足日益增長的需求。隨著技術的進步和成本的降低，電動車變得更加普及，充電站的建設也會隨之加速。
總的來說，兩者之間的發展是相輔相成的。政府和企業通常會通過各種措施來平衡這種先有雞先有蛋的問題，比如提供購車補貼、建設公共充電站、以及推動家庭和商業充電解決方案的發展。隨著時間的推移，這種平衡會逐漸實現，電動車和充電站的網絡會不斷擴大，最終形成一個成熟的生態係統。
是啊，困惑與恐懼在於我們不能操控的部分