萬裏千人

理工男到創業者蛻變後感悟。來美三十年的感悟。工學院終身教授。五年六十次飛越太平洋,一年五十次深圳。
個人資料
正文

瘋狂的三維芯片堆疊封裝術 - 為AI,都拚了

(2024-11-01 17:01:31) 下一個

古有精雕核舟,今有三維芯片封裝。

Hynaix, TSMC,Micron,長江存儲,在混戰。

比的是人才,是管理。有了這些,你才能贏。

如果你是打工人才,建議你學以下三個:數學,編程,半導體物理。

日本有句古話:你比別人早看三天,就比別人富有三代。AI,就是幹這個用的。芯片,就是為了支撐數學。數學,就是為了支撐”模式建立“和“判斷”。

從前有一個偉大的人腦,擁有一千億個神經元(100 B)。現在台積電的芯片,已經有200B三極管valve。計算機,真的不需要再仰視人了。計算機可以有trillion transistor,而且它每天晚上都不睡! 讀書,對抗,學習,繼續對抗,直到可以打贏別的計算機。

有網友問,工匠博士教授主任老板,您怎麽看AI?我說,每個人的生命都會改變。

本文分三部分:

1. AI是真的?哪部分是真的?

2. AI帶動芯片封裝去哪裏?

3. 瘋狂的HBM

AI是真的?

未來世界,信息為王。試想兩個場景。

您去買車。您想買一輛好的車,價錢便宜,價值保留的好。

第二個場景,你的公司要雇傭一個CTO或者technical director。

第一個場景,您可以上網瘋狂的查和學習,可是您的知識還是不可能夠用。如果您去選車的時候有一個類似蘋果頭顯的東西,告訴你二百個選擇裏麵哪個最好,那不是很好?

AI 能告訴你,那些你不知道你不知道的事情。

市場上很多車,很多品牌,大小,新舊,顏色,保養曆史,售價。

如果有一個上帝,上帝知道哪輛車最好,在哪裏,可是你不知道!

人以後,或者有錢買“上帝知道的”,或者就是“吃一塹長一智”。

AI可以從所有過往的銷售數據,知道哪個牌子,哪個顏色,哪個過去的車主,最靠譜,價格最合算。這就需要算!

AI的算,就是要大量的比對模型,要知道,沒有人知道是一個紅的豐田還是一個黑的奔馳更好,但是數據是存在的。計算機以後就是數據發掘和數據整理的大師。當然,數據本身是需要花錢的。

所以說,AI是真的。AI改變人類的所有習慣 - 以前的什麽讀書,學習,工作,經驗,都已經過時了。您如果不是含著數據庫生下來的,您以後就是剩下來的。

 

說說第二個場景。

以前,您好好學習,開創企業,也許能上市,然後繼續增長。某一天您公司知識不夠用了,需要一個新的技術總監。您需要上網招聘。

這是過去的玩法。

現在,從您開創公司的前一百天,知識的神就早就知道未來的一切,包括你的選擇,你的成長空間,你的商業模式,你的競爭對手。以前您可以說,這些我都不知道啊!

現在這句話不靈了。有了大數據,您這些“我不知道啊”的借口都成了空話。您不知道,就是因為您沒錢買數據!以前需要一輩子積累的知識,經驗,和錢,原來知識別人生下來就用的數據。

至於您要找的這個主帥,知識之神知道是誰!關鍵是,知識之神不告訴你。您如果有AI,有數據庫,有知識的算法,是很容易的。

AI如何帶動芯片業?

人工智能,核心就是矩陣行列式計算。而且結果是“算後就扔”。化上百萬研發一個算法,隻是為了“玩玩試試比較一下“, 看看work bu work。

這需要不僅CPU和GPU,還需要高速的存儲。一個一百萬乘以一百萬的矩陣,就是10的十二次方大小。每一個數字都換一遍,算你八位存儲,每一次變換是一個微秒(10的-6次方),就是半個小時。而且這隻是複雜的CNN運算的一個很基礎的一步。要建立一個大矩陣大語言多參數模型,計算量基本是千年起算。

除了CPI的鼻祖英特爾混的很差,GPU領頭羊nvidia混的很好。另外就是韓國企業SK Hynix。 SK是高頻存儲的贏家,他家的芯片被nvidia堆疊在GPU裏麵,從而加入了TSMC的俱樂部。他家的芯片,已經堆疊到了十六層。

瘋狂的三維高速存儲

三維高速存儲,加上chiplet的堆疊,是兵家必爭之地。和以往不同的是,以前二維CPU廠家(比如TSMC,UMC,SMIC)和封裝廠(比如以色列的晶方和江陰長電)都是各自玩,屬於上下遊,沒有技術交集。現在,是TSMC開始玩封裝。台積電的封裝roadmap是這樣的(下圖)。你不和台積電玩,那就別玩了。

仔細看看圖,當年finfet元年,Chengming Hu教授破了摩爾定律,世界歡呼雀躍。現在後摩爾時代,芯片向三維瘋漲。沒人提摩爾定律了,是因為摩爾定律不夠用了!進步太慢了。

這個芯片封裝和堆疊,太可怕的。TSV(through wafer via), DBI(double sided interface),無窮的想象力和三維物理。

- 每一個算法,開發費用都是百萬美元起步

- 每一個芯片,都是百萬美元起步開研

- 每一個晶片,都是十二寸矽片起算,300mm。不僅要平,還要均勻,還要高yield。而且,十八寸也在用了。

說實話,造芯片要的是會動手的男生。以後男生在數學,編程,物理方麵都有無窮優勢,就看你會不會用!

在一個頭發絲上,起碼可以刻出上億個電容

四寸片

八寸片

十八寸片。

感覺新竹確實比東升鄉偉大。這就是為什麽清華東升鄉校區的現在還要出國,可是清華新竹校區的不需要的。

年輕人,老人,中年人,都努力吧。

[ 打印 ]
閱讀 ()評論 (15)
評論
矽穀工匠 回複 悄悄話 回複 'dhyang_wxc' 的評論 : In retrospect, DARPA ETO funded semiconductor club for decades. It was critical.
dhyang_wxc 回複 悄悄話 回複 '矽穀工匠' 的評論 :

嗬嗬,是呀,你前麵提到Thanks to DARPA funding,DARPA是幹嘛的——都是應然。冷戰也行,眼見著有新發展。

二戰使世界給了原子彈們前所未有的尊敬,計算機,雷達們曝光少,得到尊敬和重視也少。三戰估計該輪到程序猿了,已經看到無人機器的苗頭了。

嗬嗬,說來難聽,但科學與資本一樣,blood最滋養。
矽穀工匠 回複 悄悄話 回複 'dhyang_wxc' 的評論 : 是啊,人類對存亡和打仗很在乎。計算機,雷達技術都是戰時突飛猛進。航母,衛星都是為了戰爭。衛星以上天,G P S第二天就發明出來了。美國打獨立戰爭,內戰,一戰,二戰。感謝軍工集團。
三戰以後,會有突飛猛進,量子,神經接口,機器人,鑽洞機器,都會十分成熟。
dhyang_wxc 回複 悄悄話 回複 '矽穀工匠' 的評論 :

很驚訝,也很高興看到你提到和平時代。現代科學這個東西,就是低烈度長期戰爭催化出的結果——我認為是這樣並寫在了covid那年出版的拙著裡——但也不止我認為,我也查到了早有西方歷史學家論證了這一點。

矽穀工匠 回複 悄悄話 回複 'ctaag' 的評論 : 英特爾剛剛被移出dow index
矽穀工匠 回複 悄悄話 回複 'dhyang_wxc' 的評論 : 我們公司的量子部門,就是搞不出sales和profit。量子納米這些東西和平時代確實是花瓶。National Nano Initiative也就是C O V I D風光了一次。量子世界大戰時候有用。
dhyang_wxc 回複 悄悄話 好文。

量子計算如果發展起來了,倒騰矩陣就快了。但能達到真正的AI嗎?我個人觀點認為,不能。數學有個問題,就是無限可能,但現實隻有一個。一個微小的邊界條件設得不對,整體就會偏離,雖然數學上一點問題也沒有,參見《海森堡談理論、批判與哲學》。

嗬嗬,跟文章關係不大,題目扯遠了。
HBW 回複 悄悄話 真是貨真價實的帖子!
ctaag 回複 悄悄話 A very nice intro; thank you! Intel, what a pity! It just doesn't seem like they'll be able to make a comeback.
暖冬cool夏 回複 悄悄話 漲知識了!雖然沒有完全讀懂:)從AI打敗頂尖棋手開始,人類就應該醒悟了:)周末快樂!
桃花源裏人家 回複 悄悄話 謝謝詳盡介紹和解釋。
野性de思維 回複 悄悄話 有趣。謝謝信息分享!
矽穀工匠 回複 悄悄話 回複 'dengzc1971' 的評論 : Yes. Thanks to DARPA funding. Hu later advised tsmc.
dengzc1971 回複 悄悄話 Prof Chenming Hu?
少而精 回複 悄悄話 well said and summarized! 謝謝!
登錄後才可評論.