
“機器是否會思考的問題,就像潛艇是否會遊泳一樣,並不真正重要。”——Edsger W. Dijkstra
如果說工業革命改變了人類與物質世界的關係,互聯網重塑了信息的流動方式,那麽人工智能,尤其是大語言模型的出現,則進一步改變了知識本身被探索的方式。在這一階段,文明不再隻是由人類在知識空間中進行探索,而是出現了一類新的“探索者”——它們以概率驅動的方式,在高維知識空間中行走。這種行為,從結構上看,可以被理解為一種新的隨機漫步。
這一理解並非簡單比喻,而是揭示了大語言模型在生成與連接知識時的基本機製。傳統計算係統通常遵循明確規則,輸出在給定輸入下是確定的,而大語言模型則不同。它們在給定上下文時,並不是選擇唯一的下一步,而是從一個概率分布中采樣可能的延續。每一次輸出,都是在眾多潛在路徑中的一次具體實現。因此,生成過程本質上是一係列概率選擇的串聯,是在知識空間中的逐步移動。
要更清楚地理解這一點,可以回到我們在前文中對“知識空間”的定義。知識並不是一組靜態事實,而是由概念、關係與結構構成的複雜空間,人類的思維正是在這一空間中不斷探索與組合。大語言模型通過對海量文本的學習,將這些關係以統計形式編碼在參數之中,從而形成一種隱含的結構。在生成過程中,模型沿著這些統計關係逐步前行,其路徑既受到曆史數據的引導,又具有一定隨機性。
這種“行走”的空間雖然不是傳統意義上的幾何空間,但它具有類似幾何的結構。相關性強的概念在空間中“距離較近”,不相關的概念則較遠。訓練數據中的高頻模式形成密集區域,而稀有或不穩定的模式則構成稀疏區域。模型在生成時,往往傾向於沿著高密度區域移動,但在一定條件下也可能進入較為稀疏的區域,從而產生新的組合。
正是在這種結構中,熵的概念顯現出關鍵意義。大語言模型既具備產生多樣性的能力,又受到概率結構的約束。一方麵,通過采樣機製,模型可以生成多種不同表達,甚至形成新的組合,這體現了較高的熵;另一方麵,由於概率分布的引導,它又傾向於生成符合已有模式的內容,從而表現出收斂性。
這種雙重特性,構成了模型行為的核心張力,也在實踐中表現為兩個典型現象:幻覺與收斂。
所謂“幻覺”,是指模型生成形式上合理但缺乏事實依據的內容。從結構上看,這可以理解為模型進入了知識空間中約束較弱的區域。在這些區域中,統計關係不足以保證輸出的真實性,路徑因此偏離穩定結構。這是一種高熵但低約束的狀態,體現了過度擴展的風險。
相對地,“收斂”則表現為輸出趨於安全、常見甚至重複。當生成過程被限製在高概率區域時,模型傾向於選擇最常見的路徑,從而減少變化。這是一種低熵狀態,雖然提高了可靠性,但也限製了探索空間。
這兩種現象,本質上對應於熵與控製之間的平衡問題。如果允許模型自由探索,變化豐富但可能失去可靠性;如果過度約束,則輸出穩定卻缺乏創造性。因此,關鍵不在於消除其中一方,而在於如何調節二者之間的關係。
在實際應用中,這種平衡可以通過多種方式實現,例如調整采樣參數、引入外部知識庫或增加驗證機製。這些方法本質上是在改變“行走規則”或重塑空間結構,使路徑既能夠展開,又不至於失控。
從更宏觀的角度來看,大語言模型標誌著知識係統進入一個新的階段。在以往,知識空間的探索主要由人類完成,而現在,部分探索過程被自動化。模型可以在極短時間內生成大量可能路徑,提出假設或組合不同領域的概念,從而顯著擴展探索範圍。
這並不意味著人類被取代,而是角色發生了變化。人類逐漸從直接生成路徑的主體,轉變為路徑的評估者與引導者。模型提供大量可能性,而人類負責篩選、整合並賦予其意義。
這一變化也對整體信息環境產生影響。人工智能係統能夠生成大量文本、代碼與結構化內容,使知識空間迅速擴展。這一過程提高了係統的原始熵,增加了潛在路徑的數量。同時,由於模型基於既有數據進行學習,它也可能強化某些模式,使某些路徑被頻繁探索,從而改變整體分布。
因此,人工智能既擴大了熵,也重塑了熵的結構。
從回歸與暫留的角度來看,其影響是雙重的。一方麵,模型的生成能力使路徑不斷擴展,支持暫留行為;另一方麵,由於其依賴曆史數據,它也可能強化已有模式,使係統在某些區域出現重複。最終結果取決於模型如何被使用,以及其與人類係統的互動方式。
這一現象也引出一個更深層的問題:如果智能可以被理解為在可能性空間中進行有效探索的能力,那麽大語言模型是否代表了一種新的智能形式?它們的隨機漫步並非無目的,而是由統計結構引導,其路徑反映了人類知識的整體分布。從某種意義上說,這是一種集體認知的映射,以概率形式在空間中展開。
這種新的探索方式既帶來機遇,也帶來挑戰。它使知識生成的規模與速度大幅提升,但同時也提出了關於可靠性與控製的問題。如何在大量生成的路徑中識別有效信息,如何將這些路徑整合為穩定的知識體係,成為新的核心任務。
隨著人工智能成為知識空間中的重要參與者,文明的隨機漫步進入一個新的階段。探索不再僅僅由人類驅動,而是由人類與機器共同進行。路徑的數量與複雜性持續增加,而結構與控製的重要性也隨之上升。
在這一背景下,下一步的問題變得更加關鍵:當探索者本身發生變化時,路徑與空間是否也會發生根本改變?人工智能是否會推動係統進入一個新的演化階段?