我覺得問題是inference需要的芯片少很多，現在的趨勢就是從training 向 inferencing轉變。所以對

NVDA GPU的需求肯定會減少不少，我認為對 NVDA是 negative 的。ASICS 也會拿掉一點NVDA GPU，但那個量可能不會很多。

所有跟帖： 

• 但是用Inference到人數和次數，比用training的次數多10億倍，需要的GPU芯片更多 -未知- ♂ (320 bytes) () 01/30/2025 postreply 18:18:32

• inferencing據說不用很大算力解決，但是pretraining需要的算力大概是inferencing的十倍以上。 -aloevera- ♀ (0 bytes) () 01/30/2025 postreply 20:32:03