很多人對CUDA的護城河作用理解有問題

來源: study169 於 2025-11-25 05:18:20 [檔案] [博客] [舊帖] [給我悄悄話] 閱讀數 : (582 bytes)

本帖於 2025-11-25 05:18:57 時間, 由普通用戶 study169 編輯

所謂幾百萬開發AI的研發人員依賴CUDA編程是錯誤的，大多數可能超過95%的人是用PyTorch間接調用CUDA功能，對大多數人來說從支持GPU切換到TPU取決於PyTorch對TPU的支持力度和少數原創模型架構開發新算子的研究人員。用於基礎大模型訓練和推理的GPU占市場銷量的多數，而這類模型其實是由極少數高端大模型研發人員使用的，比方說，市麵上可能50%的GPU跑的大模型是0.1%的AI研發人員寫的代碼，能不能由GPU切換到TPU是這些人的代碼決定的。