但是用Inference到人數和次數，比用training的次數多10億倍，需要的GPU芯片更多

用到training的次數，兩隻手就能數過來了，～10^1 (10的1次方）/天 = 10/天

用的inference的次數，30億人每天用3次 , 10^9 (10的9次方）/天 = 1,000,000,000 /天。

沒有GPU, inference 非常慢。自己在蘋果或Windows本地機上測試就知道了。

所有跟帖： 

• inferencing據說不用很大算力解決，但是pretraining需要的算力大概是inferencing的十倍以上。 -aloevera- ♀ (0 bytes) () 01/30/2025 postreply 20:32:03