是的,AI的浪潮下,BigTech好像都是軟件公司了。但是我覺得AI離不開硬件,現在的NeuralNetwork

來源: 2023-01-30 10:26:36 [舊帖] [給我悄悄話] 本文已被閱讀:

動不動就是成千上萬層,Training需要上千上萬個GPU/TPU,還要run幾個禮拜,這就是NVidia火起來的原因;其實在AI泛濫之前,NVidia的GPU並不賺錢,AI能夠泛濫,也是因為硬件水平達到了所需要的規模。最近大火的ChatGPT,就是一個龐大的神經網絡,GPT-4據說會有100Trillion parameters,這樣的神經網絡,沒有強大的硬件,根本玩不下去。AI的三大要素,算法,數據和硬件,我覺得算法和數據都有了,現在的瓶頸在硬件,NVidia搞GPU,google搞TPU,Startup玩Photonics Neuron。無論如何,今後的AI普及,沒有算力(硬件)不行的,硬件不僅速度要快,還得是低功耗。無論是花街還是藥廠,普遍應用AI,最大的問題是神經網絡的速度上不去,功耗太大。據說ChapGPT雖然強大,但是硬件規模太大,成本很高,一次搜索就需要幾個每分,一天的費用上百萬,歸根結底還是硬件跟不上。