搗漿糊、玄學、詭辯 -- 美國大學麵臨的挑戰

來源: ScottGu 2023-03-23 18:37:50 [] [博客] [舊帖] [給我悄悄話] 本文已被閱讀: 次 (2502 bytes)

前幾年就有很多人,包括華裔如趙宇空,對美國大學錄取標準很有意見。

我不談錄取標準,隻談教育和研究。

近年很多人工智能方麵的學者,加入大公司。也有去創業,如Tusimple做無人汽車的侯曉迪。

無人汽車曾給人工智能業者以巨大希望。Google/Alphabet旗下的Waymo一度估值1750億美元。

而ChatGPT等等語言模型能否達到無人汽車曾經有過的期望,尚有待觀察。

問題是無人汽車、語言模型近年都是企業在推動,美國前沿研究性大學對此幾乎發表不了有價值的觀點。

更讓人不安的是最近業餘圍棋手能穩定戰勝高水準計算機圍棋,給Nature雜誌上AlphaGo Zero論文宣稱的superhuman performance結論蒙上陰影。而參與相關研究的Stuart Russell教授的主流教科書AI: A Modern Approach第三版的人工智能測試理論和方法,本身就有問題。

大學和媒體對業餘圍棋手能穩定戰勝高水準計算機圍棋這一重要事件的忽視,令人驚訝。是不是有很多人在搗漿糊、玄學、詭辯?

事實上,我七年前就警告過計算機圍棋仍有問題。不用adversarial policies可以設計更多實驗、找出更多問題。

邏輯學界對邏輯實證主義(logical positivism or logical empiricism)的錯誤早有所知。我的觀點是邏輯實證主義的錯誤在人工智能技術上會變成大概率事件,這在計算機圍棋上已得到驗證。

我很早就分析過歐盟Human Brain project模擬動物腦和人腦的初始計劃不會成功,後來果然如此。而美國BRAIN Initiative項目的兩項主要技術中,Dynamic Brain Map本身就有問題,基因技術對研究人類智力有局限性。智力科學和生命科學有不同的參照係。

認為人口控製類似火箭控製和認為人腦和人類智力類似計算機,都是錯誤的。最近法國因為很多人的退休福利被削減而動蕩。原因就是人口危機和經濟不振。

各種問題也會蔓延到司法、醫療、教育等等領域。

我前麵寫過:“避免人工智能泡沫、更好發展人類智力應對人工智能挑戰的關鍵“ 的短文 :https://bbs.wenxuecity.com/znjy/6161725.html

其他不多說了。

所有跟帖: 

有點意思。。 -Midwestrural- 給 Midwestrural 發送悄悄話 (0 bytes) () 03/23/2023 postreply 18:54:53

謝謝鼓勵。這些其實是世界共同麵臨的挑戰。但美國是科技前沿國家,怎麽應對更加關鍵和引人注目 -ScottGu- 給 ScottGu 發送悄悄話 ScottGu 的博客首頁 (0 bytes) () 03/23/2023 postreply 21:54:34

確實看不下去, 簡直架火上烤 -多多少少運動- 給 多多少少運動 發送悄悄話 (0 bytes) () 03/23/2023 postreply 20:11:07

這個人今天差點兒火候,提前不排練的嘛! -Lionkingmom- 給 Lionkingmom 發送悄悄話 (0 bytes) () 03/23/2023 postreply 21:16:06

A Modern Approach家裏有一本是2020 7月買的 -sji- 給 sji 發送悄悄話 sji 的博客首頁 (0 bytes) () 03/23/2023 postreply 19:19:06

第四版出來已經有一陣了 -ScottGu- 給 ScottGu 發送悄悄話 ScottGu 的博客首頁 (555 bytes) () 03/23/2023 postreply 19:35:46

第四版. -sji- 給 sji 發送悄悄話 sji 的博客首頁 (0 bytes) () 03/23/2023 postreply 19:38:43

這短文包含太多東西, 哈。 AGI 行業中絕大部分都認為遠遠沒有真正開始, 更加不要說接近。 就說自動駕駛一個方麵, 進 -WaldenPond- 給 WaldenPond 發送悄悄話 (231 bytes) () 03/23/2023 postreply 19:29:26

但是, 自動駕駛可以減輕長途駕駛的疲勞。 同時也提高駕車的安全性。 像gpt短期內, 可以幫助起草文書,起草ppt -WaldenPond- 給 WaldenPond 發送悄悄話 (0 bytes) () 03/23/2023 postreply 19:35:06

自動駕駛作為研究性項目不錯,但商業化有疑問。這涉及科技和經濟兩方麵的問題 -ScottGu- 給 ScottGu 發送悄悄話 ScottGu 的博客首頁 (576 bytes) () 03/23/2023 postreply 19:50:02

完全自動駕駛的商業化, 我同意你的觀點。 但是, 在這過程中許多技術已經不斷被采用在現在的車技術中。使駕駛明顯方便多了。 -WaldenPond- 給 WaldenPond 發送悄悄話 (116 bytes) () 03/23/2023 postreply 20:03:03

其實電梯早就可以自動駕駛了。現在的SAE自動駕駛標準有問題,SAE level 4自動駕駛標準實際上沒法有效測試 -ScottGu- 給 ScottGu 發送悄悄話 ScottGu 的博客首頁 (206 bytes) () 03/23/2023 postreply 20:09:24

因為人類還不知道如何模擬人類思路。 都是在邏輯的意義上去設計測試, 當然會有許多缺陷。就算是下圍棋, 人還沒法計算出有效 -WaldenPond- 給 WaldenPond 發送悄悄話 (103 bytes) () 03/23/2023 postreply 20:16:47

當前的人工智能的核心是機器學習,而機器學習是歸納總結人類的知識,機器之間不能互相學習, -聞風- 給 聞風 發送悄悄話 (132 bytes) () 03/23/2023 postreply 19:41:47

人工智能可以相互競爭,通過競爭積累經驗 -ScottGu- 給 ScottGu 發送悄悄話 ScottGu 的博客首頁 (231 bytes) () 03/23/2023 postreply 19:55:23

棋手是如何戰勝AI 的 -yddad- 給 yddad 發送悄悄話 yddad 的博客首頁 (511 bytes) () 03/23/2023 postreply 19:46:51

我七年前就說不用adversarial policies就可以設計實驗找出計算機圍棋的問題,但需要規範實驗環境 -ScottGu- 給 ScottGu 發送悄悄話 ScottGu 的博客首頁 (191 bytes) () 03/23/2023 postreply 20:04:09

像下棋這樣有固定規則和有限空間(圍棋19x19)AI 最終一定贏。 -WaldenPond- 給 WaldenPond 發送悄悄話 (0 bytes) () 03/23/2023 postreply 20:07:55

是的,計算是電腦的強項,需要的是找出計算方法。 -yddad- 給 yddad 發送悄悄話 yddad 的博客首頁 (0 bytes) () 03/23/2023 postreply 20:14:28

這需要驗證。我早就提出用計算機圍棋做智能技術實驗工具,並告訴過一些人。以此可以尋找人工智能更精確的上限 -ScottGu- 給 ScottGu 發送悄悄話 ScottGu 的博客首頁 (184 bytes) () 03/23/2023 postreply 20:15:43

AI 不會在同樣的情況下輸二次。 這要一直下, AI 一定勝利。 -WaldenPond- 給 WaldenPond 發送悄悄話 (0 bytes) () 03/23/2023 postreply 20:19:14

那個業餘圍棋手勝了十四盤。當然完全一樣的局麵,計算機第二次會知道上次走錯了,但未必知道該怎麽走贏 -ScottGu- 給 ScottGu 發送悄悄話 ScottGu 的博客首頁 (105 bytes) () 03/23/2023 postreply 20:25:10

那位大概就是設計如何測試程序的, 知道AI 的軟肋。 -WaldenPond- 給 WaldenPond 發送悄悄話 (0 bytes) () 03/23/2023 postreply 20:27:51

他公布的方法不複雜,直覺性很強 -ScottGu- 給 ScottGu 發送悄悄話 ScottGu 的博客首頁 (0 bytes) () 03/23/2023 postreply 20:37:40

如果, alphago 馬上把輸的結果歸納進測試程序進行再訓練, AI 就補上了那個缺陷。 -WaldenPond- 給 WaldenPond 發送悄悄話 (0 bytes) () 03/23/2023 postreply 20:44:27

如果這樣不能解決問題, 那麽 alphago 設計有缺陷。這樣的反饋學習成本非常高。 -WaldenPond- 給 WaldenPond 發送悄悄話 (0 bytes) () 03/23/2023 postreply 20:47:35

據說是知道了上次的錯誤,光憑此經驗仍可能不知道正確的走法,除非訓練過程作大的改變 -ScottGu- 給 ScottGu 發送悄悄話 ScottGu 的博客首頁 (155 bytes) () 03/23/2023 postreply 21:51:11

請您先登陸,再發跟帖!