Deepseek 出現對AVGO 這種ASIC 衝擊更大

來源: cnrhm2017 於 2025-01-01 12:20:01 [] [博客] [舊帖] [給我悄悄話] 閱讀數 : (1072 bytes)
本帖於 2025-01-01 12:30:42 時間, 由普通用戶 cnrhm2017 編輯

我認為LLM 算法一直會改進，目前Deepseek出現，相當於定製版的LLM，或者硬件中的ASIC，就是針對它要分析的數據做定製的算法。

https://wallstreetcn.com/articles/3738170

文章中提到deepseek用的是在開頭篩選數據源裏的信息，利用A800的芯片特點，提高parallel的處理數據能力，同時側重處理某些類型的數據，而弱在某些方麵的數據處理。總之是看到數據，然後偏科處理，這樣在大多數方麵反應速度不錯，但是全麵分析來看，還有欠缺。對大多數專業的需要精密和準確的判斷工作來說，沒法用，因為它的一個錯誤信息就會導致失去同行的信任。

這種實際上是NVDA必須要麵對的，我在2023年就有類似的判斷，對NVDA是好事，因為GPU需要麵對不同的task做處理。今天是不同的算法，明天可能是不同的task，訓練robot，或者訓練某個行業的智能係統如無人戰鬥機。而這可是avgo這種定製芯片係統的風險。

所有跟帖： 

• deepseek 那裏是一批早就進入AI 最近幾年國內培養的AI方向博士。那裏有放棄華為等高收入選擇去苦讀AI博士的 -island09- ♀ 給 island09 發送悄悄話 (0 bytes) () 01/01/2025 postreply 12:23:15

• 這種年輕人不僅聰明，更是目光遠大，有抱負，不看當時高薪和錢的，尤其家裏不富 -island09- ♀ 給 island09 發送悄悄話 (0 bytes) () 01/01/2025 postreply 12:24:15

• 博士一畢業，立馬進入幻方AI lab挑大梁lead。非常年輕的博士（不到30） -island09- ♀ 給 island09 發送悄悄話 (0 bytes) () 01/01/2025 postreply 12:27:46

• 我對華為的熟悉程度遠遠大於這裏的多數人 -cnrhm2017- ♂ 給 cnrhm2017 發送悄悄話 cnrhm2017 的博客首頁 (0 bytes) () 01/01/2025 postreply 12:31:41

• 嗯 我不熟悉，我說的都是我身邊的人和事 -island09- ♀ 給 island09 發送悄悄話 (0 bytes) () 01/01/2025 postreply 12:34:22

• 當年華為內部很難創新，狼文化是一方麵，一個團隊短期做不出成績，馬上座位都要換到其他地方 -cnrhm2017- ♂ 給 cnrhm2017 發送悄悄話 cnrhm2017 的博客首頁 (0 bytes) () 01/01/2025 postreply 13:45:00

• 國內其他公司應該差不多都這樣。 -island09- ♀ 給 island09 發送悄悄話 (0 bytes) () 01/01/2025 postreply 13:51:52

• 但美國大的爭奪名次的公司也這樣呀。如果在公司不能被提升沒足夠的chargeable hours,就會被laidoff -island09- ♀ 給 island09 發送悄悄話 (0 bytes) () 01/01/2025 postreply 13:53:40

• Open AI 工作的壓力比任何一個公司大。turn over 其實是讓走人的非常高 -island09- ♀ 給 island09 發送悄悄話 (0 bytes) () 01/01/2025 postreply 13:54:58

• 隻有大廠apple Google metal Mcft等沒壓力。這幾個大廠成為cs 選擇的第二梯隊 -island09- ♀ 給 island09 發送悄悄話 (42 bytes) () 01/01/2025 postreply 13:56:58

• 這麽想，政府在AI人才方麵的培養很早就開始了。所以應該不奇怪deepseek 的震驚世界 -island09- ♀ 給 island09 發送悄悄話 (0 bytes) () 01/01/2025 postreply 12:37:49

• 原來大陸是自動化專業呀，80年代就在做了 -cnrhm2017- ♂ 給 cnrhm2017 發送悄悄話 cnrhm2017 的博客首頁 (0 bytes) () 01/01/2025 postreply 12:41:39

• Cs 碩士方向大數據等去繼續AI 博士。本科階段就獲得全國CS競賽獎，當時唯一的本科生獲此獎 -island09- ♀ 給 island09 發送悄悄話 (0 bytes) () 01/01/2025 postreply 12:48:28

• 再看open AI，AI 博士來自於歐洲澳洲新西蘭的居多。美本土沒多少。所以Sam/musk要H1 -island09- ♀ 給 island09 發送悄悄話 (0 bytes) () 01/01/2025 postreply 12:41:52

• Sam 曾今為了留住一個在open AI的工程師直接電話美國政府才拿到的H1 -island09- ♀ 給 island09 發送悄悄話 (0 bytes) () 01/01/2025 postreply 12:43:00

• 是。OPENAI 有很多華裔麵孔。OPENAI前，一位非常有名的AI公司就是一位華裔學生創業的。我現在也在繼續關注飛飛 -cnrhm2017- ♂ 給 cnrhm2017 發送悄悄話 cnrhm2017 的博客首頁 (0 bytes) () 01/01/2025 postreply 12:46:54

• Google CEO 幾年前就說過，中國AI人才數量在世界上第一。他說AI人才短缺會影響美國AI發展 -island09- ♀ 給 island09 發送悄悄話 (0 bytes) () 01/01/2025 postreply 12:54:19

• Open AI 還要分散精力對付政治和訴訟。幻方是沒這個煩惱，一心一意埋頭搞AI的。 -island09- ♀ 給 island09 發送悄悄話 (0 bytes) () 01/01/2025 postreply 13:27:48

• DeepSeek的算法改進主要在training，ASIC主要用於inference，LLM結構沒有大的變化的情況下， -study169- ♂ 給 study169 發送悄悄話 (37 bytes) () 01/01/2025 postreply 12:39:12

• 多謝提醒我對inference和avgo的關係的理解 -cnrhm2017- ♂ 給 cnrhm2017 發送悄悄話 cnrhm2017 的博客首頁 (0 bytes) () 01/01/2025 postreply 13:04:48

• 女大也可以做ASIC，但是黃原來說沒法顧及到這方麵，現在也慢慢開始了 -cnrhm2017- ♂ 給 cnrhm2017 發送悄悄話 cnrhm2017 的博客首頁 (377 bytes) () 01/01/2025 postreply 13:48:28

• The main use case of GPU and XPU is training for now -遠走他鄉- ♂ 給 遠走他鄉 發送悄悄話 (364 bytes) () 01/01/2025 postreply 20:04:47

• five cents just buy not simply say, your money is true -sleepbird- ♂ 給 sleepbird 發送悄悄話 (0 bytes) () 01/01/2025 postreply 17:25:35

請您先登陸，再發跟帖！