Deepseek 出現對AVGO 這種ASIC 衝擊更大

本帖於 2025-01-01 12:30:42 時間, 由普通用戶 cnrhm2017 編輯

我認為LLM 算法一直會改進,目前Deepseek出現,相當於定製版的LLM,或者硬件中的ASIC,就是針對它要分析的數據做定製的算法。

https://wallstreetcn.com/articles/3738170

文章中提到deepseek用的是在開頭篩選數據源裏的信息,利用A800的芯片特點,提高parallel的處理數據能力,同時側重處理某些類型的數據,而弱在某些方麵的數據處理。總之是看到數據,然後偏科處理,這樣在大多數方麵反應速度不錯,但是全麵分析來看,還有欠缺。對大多數專業的需要精密和準確的判斷工作來說,沒法用,因為它的一個錯誤信息就會導致失去同行的信任。

這種實際上是NVDA必須要麵對的,我在2023年就有類似的判斷,對NVDA是好事,因為GPU需要麵對不同的task做處理。今天是不同的算法,明天可能是不同的task,訓練robot,或者訓練某個行業的智能係統如無人戰鬥機。而這可是avgo這種定製芯片係統的風險。

所有跟帖: 

3 -island09- 給 island09 發送悄悄話 (0 bytes) () 01/01/2025 postreply 12:23:15

3 -island09- 給 island09 發送悄悄話 (0 bytes) () 01/01/2025 postreply 12:24:15

3 -island09- 給 island09 發送悄悄話 (0 bytes) () 01/01/2025 postreply 12:27:46

我對華為的熟悉程度遠遠大於這裏的多數人 -cnrhm2017- 給 cnrhm2017 發送悄悄話 cnrhm2017 的博客首頁 (0 bytes) () 01/01/2025 postreply 12:31:41

3 -island09- 給 island09 發送悄悄話 (0 bytes) () 01/01/2025 postreply 12:34:22

當年華為內部很難創新,狼文化是一方麵,一個團隊短期做不出成績,馬上座位都要換到其他地方 -cnrhm2017- 給 cnrhm2017 發送悄悄話 cnrhm2017 的博客首頁 (0 bytes) () 01/01/2025 postreply 13:45:00

這麽想,政府在AI人才方麵的培養很早就開始了。所以應該不奇怪deepseek 的震驚世界 -island09- 給 island09 發送悄悄話 (0 bytes) () 01/01/2025 postreply 12:37:49

原來大陸是自動化專業呀,80年代就在做了 -cnrhm2017- 給 cnrhm2017 發送悄悄話 cnrhm2017 的博客首頁 (0 bytes) () 01/01/2025 postreply 12:41:39

3 -island09- 給 island09 發送悄悄話 (0 bytes) () 01/01/2025 postreply 12:41:52

3 -island09- 給 island09 發送悄悄話 (0 bytes) () 01/01/2025 postreply 12:43:00

是。OPENAI 有很多華裔麵孔。OPENAI前,一位非常有名的AI公司就是一位華裔學生創業的。我現在也在繼續關注飛飛 -cnrhm2017- 給 cnrhm2017 發送悄悄話 cnrhm2017 的博客首頁 (0 bytes) () 01/01/2025 postreply 12:46:54

DeepSeek的算法改進主要在training,ASIC主要用於inference,LLM結構沒有大的變化的情況下, -study169- 給 study169 發送悄悄話 (37 bytes) () 01/01/2025 postreply 12:39:12

多謝提醒我對inference和avgo的關係的理解 -cnrhm2017- 給 cnrhm2017 發送悄悄話 cnrhm2017 的博客首頁 (0 bytes) () 01/01/2025 postreply 13:04:48

女大也可以做ASIC,但是黃原來說沒法顧及到這方麵,現在也慢慢開始了 -cnrhm2017- 給 cnrhm2017 發送悄悄話 cnrhm2017 的博客首頁 (377 bytes) () 01/01/2025 postreply 13:48:28

The main use case of GPU and XPU is training for now -遠走他鄉- 給 遠走他鄉 發送悄悄話 (364 bytes) () 01/01/2025 postreply 20:04:47

five cents just buy not simply say, your money is true -sleepbird- 給 sleepbird 發送悄悄話 (0 bytes) () 01/01/2025 postreply 17:25:35

請您先登陸,再發跟帖!