萬裏千人

理工男到創業者蛻變後感悟。來美三十年的感悟。工學院終身教授。五年六十次飛越太平洋,一年五十次深圳。
個人資料
正文

聊聊AI,ML,copilot,GPU微電子,高頻存儲的眼前輝煌

(2024-08-25 08:38:22) 下一個

Meta今天決定不拚Meta頭顯了。

今天看到,臉書的小紮親自把高端頭顯的項目砍了。牛。哪裏來的底氣和領導力?就是他到另一個更高的維度去圈地。

微軟和臉書的AI/ML工程師工資獎金動輒就是五十萬起步。為什麽如此厚待?

 

人世間很多東西,都是一開始看不懂,後來不喜歡,然後才發現自己晚了。希望這次不是這樣。一下談談我理解AI的精髓。

AI是讀了幾百萬本大書訓練出來。短短十年,就有了兩千歲的閱曆。

今天·給大家聊一聊AI和微電子的幹貨。會影響每一個人的未來生活呦。

AI你必須知道。你可以diss,但是必須知道。

為什麽做高頻存儲(high bandwidth memory)的和老黃的GPU都賺翻了?

AI到底有沒有用?

GenAI 和AGI,那個是真的?

Co-Pilot算不算革命性產品?

到底什麽算AI,什麽算ML?以下我把幾個概念歸了類。

這是我們短暫人生最大的一件事情。我們經曆了文革,六四,互聯網,入世,新冠,美國文革。但是AI對我們的影響最大。讓我告訴您為什麽。

===

機器學習,專家係統,CNN,LLM,GenAI,AGI的軌跡

大數據早就有,隻是計算機最近才可以掌控。數據和聽統計除了描述,還可以預測。infer就是所謂智能。

人是有情感的。看了一部抗戰神劇就可以說我恨所有日本鬼子。但是機器是靠數學建立嚴格的邏輯。計算機會把所有生下來以後和以前的所有日本人都調出來研究一下,才敢說某個特定日本人是不是都值得恨。這就是兩千歲的人和幾十歲的人的處事區別。

以前模式識別靠decision tree(決定樹)。現在不行了。現在電腦可以從一堆漿糊裏麵找到金子。人隻能理解兩個維度。高端理工nerd可以靠直覺搞到三四個維度。但是計算機是上萬維度的思維。計算機可以知道,如果哈裏斯說“您的意思是?咱們意思意思?我知道你的意思,意思到了就行了”。計算機可以告訴你這裏麵哪個“意思”是本句話重點。它計算機可以精準的實時翻譯給老習,而不是說“your meaning? we meaning meaning? I know your meaning.  meaning enghou OK".

為什麽AI和微電子掛鉤?讓微電子公司股票上揚?

因為AI的基礎就是計算。

微軟為什麽ALL IN?

微軟的copilot是一個消費端的應用,以後是可以賺很多錢的。給你很多初級的糖果嚐嚐。copilot可以幹什麽?

- 可以生成畫麵

- 可以自動寫代碼

- 可以自動寫簡曆,比你自己寫的還好

- 可以畫畫,比你學了幾年的閨女畫的還好,而且幾秒鍾

- 可以作曲,可以寫歌,可以寫笑話,可以把照片美顏,都”一句話的事“。以前還要學操作流程和攻略。

Copilot 電腦同時用Intel,AMD,和高通的ARM芯片。三心合一。

Everything Announced at Microsoft's Surface Copilot Plus PC Event

Qualcomm's Snapdragon X CPUs make Windows on Arm a viable platform - The  Verge

這些都瞬間沒用,交給廣東專門拆的村子,練出一點金子。其他一把火燒掉。

MediaTek is working on Arm-based chip for Microsoft's new Copilot+ AI PC,  will run Windows

---

不知道AI,未來三十年都白過

如果你要開一家餐館,您不知道太多的事情。需要很多試錯。幾十年以後,你積累很多經驗。那時候你窮困潦倒,離婚了,有一家麵湯館子,勉強度日。

但是您不知道,在你還沒開業時候,您幾十年以後想要知道的事情,計算機都已經“知道”。都在某數據庫。幾十年幾百年餐館的類別,投資,成敗,數據都有。也就是說,AI可以降維打擊個人。如果您有錢買這些數據,計算機可以精準告訴你在那個村那個街口花多少投資開一個什麽餐館,室內裝潢設計,菜單設計,廚師團隊選人,一起搞定!

但是AI就是不告訴您。知識是錢。在數據裏淘金是錢。

當然這不限於餐館。這個包括所有的就業,創業和所有領域。計算機買了大數據,然後CNN在數據裏看出理工nerd看不出的東西。

愛因斯坦住你家了

AI代表的不是噱頭,而是

1. 一個超級專家係統,相當於愛因斯坦和馬斯克住在你家!馬雲給你看門。

2. 一個超級的生成係統,可以勿用擔心版權就可以抄任何人!

3,簡單工作,比如寫幾百行script(記住這不叫編程,隻是搬磚),機器都可以照貓畫虎幫你搬。它、她,他(It/its)熟讀唐詩三百篇。記住人家不睡覺。

史上世上最大的一次圈地運動。您和您的孩子參與了嗎?

這麽多人需要建立專家模型,以後賺錢。這是新一輪圈地運動。這些模型的訓練,動輒幾萬億節點。每一次訓練,都要進行幾百乘以幾百的陣列點積計算(dot product)。每一次計算的結果都要快,而且瞬間扔掉。

中國人會速算,可是這個速算也太快了。這是上千陣列快速計算,幾個皮秒就好,然後幾個皮秒微電子清零,從新來。

兒童速算加法-西瓜視頻搜索

Meta不做meta了

小紮親自砍了項目。基本就是說,meta不做meta了。Meta臉書公司的核心,就是把廣告商的廣告推薦給你。這就叫賺錢。這個匹配雖然並不重要(因為臉書的匹配基本就是騙),但是也是bottom line。

微電子軍備競賽,在後摩爾時代,居然進入骨髓級別。

High-Bandwidth Memory (HBM) - Semiconductor Engineering

高頻存儲,太牛了。這是幾十年矽穀台灣技術的集中操練。是一次新的軍備競賽。幾十片芯片的堆疊,測試,封裝,銷售。SKHYNIX目前占了大頭。低端存儲比如長江存儲,2019很牛,現在突然被打回封建社會。

Micron says high bandwidth memory is sold out for 2024 and most of 2025 —  intense demand portends potential AI GPU production bottleneck : r/hardware

您的孩子,如果還在好好讀書做題,那麽登頂的機會就已經在每天變小。趕緊拚,以後的競爭對手是手拿AI坐擁資本的人和老錢。有老錢,就可以買智慧,買經驗,降維打擊你的兒孫無窮代。

[ 打印 ]
閱讀 ()評論 (8)
評論
矽穀工匠 回複 悄悄話 回複 '野性de思維' 的評論 : GenAI遲早會變成AGI。要為這個發生以後的世界做準備了,也許在我們有生之年會發生。那時候,計算機就知道自己說的話是什麽意思了,也開始真正原創性的發明possibilities。
野性de思維 回複 悄悄話 三十多年前,曾經研究過神經網絡的自適應算法,就是讓由可編程序寫成的模塊,能根據不斷輸入的大數據和新數據,來完成和進行自我的學習和調整,以期產出最佳想要的結果來。估計當初的那些原始算法就是當今AI的前身吧?其實,AI的想法早就有了,一點都不新鮮,新鮮的是,除了AI現在是老美手中還打得動的牌之外,它在別的領域的優勢正在一點點地丟失。想要繼續維持自己在世界科技領域的霸勢,它就必須得整出點所謂的新活來,讓世人看看老虎還沒打盹呢。於是,AI就這麽橫著出世了。
矽穀工匠 回複 悄悄話 回複 'dhyang_wxc' 的評論 : 同意你的說法。就是這樣。趁著AI還早。。。
dhyang_wxc 回複 悄悄話 回複 '矽穀工匠' 的評論 :

【working as your assistant】, 是個絕對關鍵。避免被無知的人用assistant打敗你,或者assistant反客為主,用算法驅使無知的人來攻擊你,是個前提——否則,難逃為魚肉。【好的】《1984》在將來會存在麼?哥德爾說,總會出問題;墨菲說,定會出問題。;)
矽穀工匠 回複 悄悄話 Mr. Yang: nice interesting writing.

AI even the AI today have read ALL BOOKS IN HUMAN HISTORY. It is like a 2000 year old man working as your assistant. Eventually poor people will be left further behind.

Humans are trained way more poorly than computers. If All humans are trained well, they would all vote for the same political candidate. They would never be fooled by stupid promises, and they would not have low information but big ego.

The way humans are educated is a big sham.
dhyang_wxc 回複 悄悄話 回複 '矽穀工匠' 的評論 :

是,善於用AI將是個criticality。

我不是相關專業,但很關注,寫了些不能被AI嚇倒或純粹依賴AI的文章。戰略藐視,戰術重視。有興趣可以看看:https://wordpress.com/post/daohuanblog.wordpress.com/1240
矽穀工匠 回複 悄悄話 People have limited life time. After 50, you must accept it. What becomes apparent is this: if we don't do anything, our children and their children will repeat what we went through.
dhyang_wxc 回複 悄悄話 這篇有意思。

躲過了「文革,六四,互聯網,入世,新冠」,正在躲「美國新文化運動」和「文革」間過度階段,AI大概真的是躲不過了。每一次都是人為刀俎,不知這一回是做什麼肉。。。。:)
登錄後才可評論.