Can AI survive itself without human interface?

Quote: "不僅有machine learning，也有HL（human learning）。小時候飯桌上你媽對你的一次譴責，上學時候考了高分得到的滿足，每一件事情都調整我們心裏的權重。這些權重的組合叫做“三觀”。

每個人的三觀，其實都是靠很少的幾件事情定了基調。也就是說，我們每個人受的訓練，其實都很少。我們每個人的三觀，其實都可能是錯了，其實都很脆弱。"

** 

Yann LeCun, a pioneer in AI deep learning, acknowledges the limitations of current AI technology. Despite the vast amounts of data and training involved, AI still falls short of human capabilities.

LeCun points out that a 17-year-old can learn to drive in just 20 hours, while a 10-year-old can learn to set the table with a single demonstration. Even a cat can plan complex actions. In contrast, AI requires millions of miles of training for autonomous driving, yet it still lags behind human drivers with far less experience.

Similarly, to acquire knowledge that a person can gain from reading a few books, AI would need to process tens of thousands of books. With billions of parameters, AI systems consume immense amounts of electricity and cooling water, equivalent to that of a small city. In comparison, even the most brilliant human minds, like Einstein, require only basic sustenance.

LeCun's assessment of current AI is clear: "Something big is still missing." This underscores the notion that while AI may appear advanced, it still has a long way to go before reaching human-level intelligence and efficiency.

*** 

TJKCB 發表評論於 2024-02-07 12:50:50

矽穀工匠 發表評論於 2024-02-06 19:34:42
有讀者認為生物很神秘。我同意。有人認為現在人工智能很原始，我也同意。但是有一點，就是仿生並不需要完全了解科學的一切細節。比如飛機是仿鳥，但是比鳥飛的好。我們從ML訓練機器上看出一點-人的大腦可能是很高級的計算機，可是我們給大腦配的軟件太差。差到什麽？差到清華大學畢業穀歌工作的老兩口子能一句話都不能認同。傳統這叫教育，其實就是對人腦的訓練。訓練很不夠。"
///In reality, while artificial intelligence (AI) may seem advanced, it's important to consider the energy efficiency of biological systems compared to machines. Birds, for example, are more energy-efficient than airplanes. AI requires vast amounts of energy compared to animals and humans.
Bird is better an autologous survival than airplanes, which need a huge service resource to operate. Can AI survive itself without human interface?

矽穀工匠 發表評論於 2024-02-07 07:34:23

回複 'BMC' 的評論 : 謝謝評論。據我所知，AI已經打敗了人類最高端的象棋和圍棋選手。AI引擎每天為你我提供youtube和amazon上麵的產品推薦。如果這些不算“idea”，那您說的就是所謂“創造性思維”。如果從“思想”的角度，我認為AI已經在告訴我們，人的大腦是無敵硬件，可是人的教育基本就是幾十個小時的培訓加上幾千小時做題。我們人類還遠遠沒有發揮自己應有的智力。否則，也不會有這麽多人六十歲就退休退出職業舞台，也不會有那麽多清華畢業生幹傻事。

BMC 發表評論於 2024-02-06 23:09:22

Would you please provide an example that AI generated any new ideas?

龍灣故事會 發表評論於 2024-02-06 23:08:53

Read Doctor Nick Lane! There is nothing special about human knowledge, reason or wisdom. Anything possible if given enough time.
Information can be carbon based or silicon based. Neither is superior than the other.
A piece of information is just a piece of information.

龍灣故事會 發表評論於 2024-02-06 23:00:58

Of course AI is capable of generating new ideas. Period!

Remember the moment Tesla decided to let go of radar sensors and rely purely on visual signals?

LLM opened the door to human knowledge for AI. There will be no return from this symbiotic relationship.

Yann LeCun is wrong. AI doesn't need eyes.

BMC 發表評論於 2024-02-06 21:49:06

AI有很強的學習能力，但目前的AI沒有創新能力。它的能力是建立在全人類幾千年積累的知識基礎上，但它不可能超越人類的知識，也就是說它可以從一變成十，但不可能從O變成一。一個蘋果掉在牛頓的頭上就砸出萬有引力定律，AI有這個能力嗎？

矽穀工匠 發表評論於 2024-02-06 19:36:42

回複 'gwangmsn' 的評論 : 這個稍微有點悲觀，但是不離譜。人類最重要的功能是消費，consume。沒有消費和demand，就沒有商業。我們的功能就是消滅東西，給工廠活，給中間商買賣的賺錢機會。

矽穀工匠 發表評論於 2024-02-06 19:34:42

有讀者認為生物很神秘。我同意。有人認為現在人工智能很原始，我也同意。但是有一點，就是仿生並不需要完全了解科學的一切細節。比如飛機是仿鳥，但是比鳥飛的好。我們從ML訓練機器上看出一點-人的大腦可能是很高級的計算機，可是我們給大腦配的軟件太差。差到什麽？差到清華大學畢業穀歌工作的老兩口子能一句話都不能認同。傳統這叫教育，其實就是對人腦的訓練。訓練很不夠。

gwangmsn 發表評論於 2024-02-06 17:20:12

人類最終會不會變成蜂皇一樣，隻成為生殖機器？

陽光單寧 發表評論於 2024-02-06 11:31:40

大腦沒什麽太神秘的
--------------------
是嗎？就是螞蟻的大腦也還沒搞明白呢！

JustWorld 發表評論於 2024-02-06 07:57:29

言之過早。

矽穀工匠 發表評論於 2024-02-06 07:33:58

謝謝大家評論。訓練機器，我們用的是科學。訓練人，我們用的是感覺和幾句“俗話說的好'。機器和人怎麽比沒法說，人類識別一個貓是貓也許隻要一分鍾，但是，人類經常做出很多很蠢很錯誤的決定，包括很多學霸和知識分子。這就是因為（1）人讀的書和走的路都太少，都太自以為是。越是什麽都不知道，越是感覺什麽都知道（2）人沒有靠經驗訓練的機會。每個試錯的代價很大，所以人的決定大部分很脆弱。是考慮怎麽改造學校體係，讓世界成人輩出的時候。現在的教育，誤人子弟。

何時歸故裏 發表評論於 2024-02-06 05:32:16

人的生物屬性和機器ai決定了學習路徑不一樣，這不是很正常麽？別太教條了。一個東西在 Ai上效率高，不一定在人身上效率高。

清漪園 發表評論於 2024-02-06 05:12:27

工匠兄深謀遠慮，讚！AI開啟的新時代目前隻是一個非常原始的雛形，現在僅僅是個開始，以後的發展非人類目力所及。

歲月沈香 發表評論於 2024-02-05 23:37:45

現在的人類的確生病了，需要重新審視自己，獲得自癒能力。謝謝居士分享！春節快樂！

泥川 發表評論於 2024-02-05 22:40:41

當人們仰視AI時，AI深度學習的先驅Yann LeCun最了解其局限，他說：

“今天的AI遠未達到人類水平。
任何一個17歲的學會開車，隻需20小時訓練。
任何一個10歲的學會收拾餐桌，隻需一次示範。
任何一隻貓都可以計劃一個複雜的行動。”

現在AI自動駕駛經過幾千萬裏的訓練，還遠不如一個隻開過幾千裏的人。
要獲得人讀幾本書就能掌握的知識，AI要讀幾萬本書。
AI有上千億參數，運行需要一個小城的電力,上萬噸冷卻水。而人呢，即使聰明如愛因斯坦，也隻需幾個麵包，一杯水。

關於現在的AI，Yann LeCun說：“Something big is still missing."

modems 發表評論於 2024-02-05 21:09:03

危言聳聽

您的位置： 文學城 » 博客 »AI來了：人的訓練教育需要打破重建

AI來了：人的訓練教育需要打破重建

2024-02-05 20:22:35

矽穀工匠

理工男到創業者蛻變後感悟。來美三十年的感悟。工學院終身教授。五年六十次飛越太平洋，一年五十次深圳。

首頁 文章頁 文章列表 博文目錄

給我悄悄話

打印(被閱讀 2368次)

該是人向計算機學習的時候了。

2024, 永遠不要再感覺人類有什麽優越。人，隻是一個有機的計算機駕馭一個高級的機器人而已。把nvidia的芯片裝在tesla的人形機器人裏，給他一些ego，也會覺得自己很棒。有機的身體長大，叫“大人”。心智成熟，有機計算機訓練完成，叫“成人”。

現代社會，所謂“高等教育”是非常膚淺的。這是看到我們怎麽訓練AI以後，我得出的結論。

 

advertisement

 

 

是時候徹底重新定義教育了。否則人對不起我們創造的機器。

為什麽這麽說？

1. 計算機才是絕對的學霸。下圍棋的AlphaGo可以看幾萬了人類棋手的案例，然後再自己和自己下三千萬盤，自我學習，自我實踐。計算機的聰明，都在於見多識廣。相比什麽神童學霸，美女學霸，在計算機學霸麵前，都隻是甘拜下風。人類棋手，看幾本書就已經很罕見。

2. 計算機人工智能訓練，使用的是神經網絡模型。這個模型揭示了人類神經係統的神秘。這個模型雖然功能還很有限，但是他是靠反複重複學習和調整大約上萬個內在的參數（權重）。每一個參數都有微妙的內在聯係。可以說，牽一發動全身。現在的機器語言模型把人類所有已經發表過的東西作為輸入。上百萬台機器每天沒日沒夜的分析。那我們人呐？我們每天讀了幾張報紙沒有？每個人還都牛逼哄哄的自以為是。沒讀幾本書，叫自己“文化人”，還拿幾個“古訓”說事。可笑不？

人的訓練，比起我們給機器的訓練，太初級了。

一個神經網絡可以用一個多層的處理器表達，在層與層之間數據陣列表達靠陣列數據。每個節點之間有可調權重的鏈接。這幾萬個權重模型，需要經過反複訓練才能自我調節（此為“深度”學習）。

相比之下，人的學習是不是太簡單粗暴了？我們的大腦經過多少書，多少社會經驗，多少人生拚搏，多少人生閱曆，才能真正說”調好了“。

我們的清華學霸，學了點編程，拿個學位，進入穀歌，就誌得意滿了。我們的訓練早就完成了，我們早就是人上人了。我們的每一個決定都是正確的。

現在是懷疑這個結論的時候了。

 

advertisement

 

 

舉個例子，如果用一個convolutional neural net 神經網絡模型確定一個網上商店應該推薦給誰，這個算法是計算機自己計算出來的。人類已經不知道內部規律了。如果你是這個網店運營，那麽你修改一個東西或者一個網頁內容，都會徹底改變推薦的結果。

通過學習我們對AI的訓練，可以說揭示了人類自己訓練不足。

不僅有machine learning，也有HL（human learning）。小時候飯桌上你媽對你的一次譴責，上學時候考了高分得到的滿足，每一件事情都調整我們心裏的權重。這些權重的組合叫做“三觀”。

每個人的三觀，其實都是靠很少的幾件事情定了基調。也就是說，我們每個人受的訓練，其實都很少。我們每個人的三觀，其實都可能是錯了，其實都很脆弱。

為什麽是時候改變人類的教育了？

1. AI訓練，揭示我們人類大腦的利用率極低。人的大腦，就是一台發育不完全的計算機。永遠不要再說什麽我們比計算機優越。人就是一台有機物組成的計算機。在黃仁勳的nvidia成功後，在neural link可以對大腦實現讀寫以後，大腦沒什麽太神秘的。我們人類會去訓練每一台計算機，但是人自己對自己就沒有那麽嚴格的訓練了。

我們的訓練，不過是背幾首唐詩，學十年的課本，獨生子女學會做番茄炒蛋，記憶課本裏麵的細節，會算幾個3乘以3的矩陣，我們就會說，你，哈佛畢業了，可以去穀歌華爾街拿高薪了，可以去玩了。以後我們叫你美女學霸，一生尊敬有加。

2. 每一個人，從嬰兒時候就相當於一台剛出場的nvidia芯片。隻有硬件，沒有任何算法，記憶，和邏輯。如果一個AI算法有上萬個可以調節的knob，那麽我們人的調節真的是太簡單粗暴了。

 

advertisement

 

 

比如你讓一百個人，給他看十個政客的照片，然後讓他們把這些政客分類成“好人”和“壞人”，每個人腦子裏的所有生活經曆就都構成了他或者她獨特的算法。也就是說，我們每個人的經曆，三觀，都是決定我們的算法。我們自己可能都不了解自己，也不知道自己的決定是怎麽做的。就像一台電腦不知道自己的決定是怎麽來的。我可以肯定，有一百個人，就會有一百種答案，五十種投票結果。大家還會為誰是“好人”“壞人”吵得不可開交，在社交網絡上把自己很不成熟的思想表現出來。

其實嗎，誰也都不對。你的”決定“隻是你自己的網絡算出來的。而你自己的神經網絡，也就是從你念書，家庭，父母，工作裏慢慢訓練出來的。

我們對計算機要求很苛刻。比如讓計算機認一個手寫的“9”，然後如果計算機說是“7”，那人是不會善罷甘休了。我們會很快知道這個算法失敗了。換個角度，如果拿一張拜登的照片給很多人看，有的人會說“總統”，有的人會說“騙子”。這裏確實沒有一個絕對標準。但是一個不可否認的事實，是每一個做決定的人，可能也都沒有經曆完全的“訓練”。說別人片麵和愚蠢很容易，但是意識到自己也很片麵和愚蠢，是很難的。

這裏看出，人類每個人都是一台生物計算機。而我們的“生物計算機”的"訓練“是由很多要改進的地方。

比如

1. 人的訓練要靠實踐（experience），而不是靠讀幾本書。AI時代告訴人了，靠讀幾本書就說“教育好了”的時代結束了。

2. 人的訓練需要有一個標準。這樣才能保證每個生物計算機的訓練完成了。以前這個事情是靠信仰和價值觀傳遞的。一個人靠騙術上位，所有人都群起討伐，那就是一個”9“就是”9“的一個輸入-輸出的calibration。一個社會這樣的calibration沒有了，每個人的思想都會產生意想不到的結論，甚至很多人會hallucinate。

3. 計算機會把幾千年世界曆史，所有的書，所有的音樂都看完，才會下一個結論。而我們人那，很多人除了課本什麽也沒有看過，但是下結論都是杠杠的。

每一個人對每一個事件都有不同的意見，不一定是什麽好事情。這就像你把一個手寫體的“9”給十個計算機看，每個計算機都有自己的結論一樣可笑。

說這些廢話有什麽用？當然就。就是為了“避免悲劇”。

比如。

矽穀穀歌清華一對夫婦的事情，就是對一個事件有了兩個不同的結論。大家談不攏，雞同鴨講。這可以說是人性自由，也可以說是教育沒完全。什麽學霸才子，在計算機麵前，都隻是開始受訓的芯片。兩個沒有訓練完全的計算機，就被派了大用，最後就是要很快出錯。因為，機器沒有調好，清華教育很差（但別的學校也沒浩多少）。

人太容易自滿。這個在AI時代，計算機會打破人類的自豪感。我相信，計算機AI時代會對人本身產生根本性的，千年不遇的一次深度變革。

一個社會沒有信仰，就像千百了nvidia的芯片隨便訓練一下就上路駕駛了一樣可怕。信仰，聖經小故事，每一個都是人類的訓練。全靠“媽媽小時候說的”“子曰詩雲”，“高等學府”遠遠不夠。把一個新人訓練成“成人”，是一個任重道遠的事情，不可能二十年讀幾本課本就完成。

作為一個教育工作者，我感到AI時代是人類重新審視自己的時候了。結果不應該亞於一次文藝複興和法國大革命。