卡帕西（Andrej Karpathy）對人工智能發展的冷靜思考

強化學習的問題在於它太盲目了它像用吸管吸監督信號，隻在意結果，卻忽略了推理的過程。模型可能做錯九十九步，隻要最後一步偶然對了，它就會被獎勵，從而學會投機取巧，而不是理解世界。這不是智能，而是規則最優解的幻覺。相比之下，今天的大語言模型雖然看似強大，其實隻是對人類互聯網的有損壓縮它們背下了所有知識，卻幾乎不具備思考的能力。記憶越強，反而越難概括；它們是放大鏡，而不是大腦。真正的智能不在於參數有多大，而在於能否像人類那樣遺忘、概括、反思。我相信未來的AI不需要更大的模型，而需要一個認知核心：一個能夠學習推理、主動提問、動態更新的小型心智。智能不會突然爆炸，它會一點一點積累，像我們學習世界那樣，通過耐心與自省成長。

https://medium.com/data-science-collective/the-decade-of-patience-what-andrej-karpathy-really-thinks-about-agi-ec07f0144fb7