Google TPU v6e vs AMD MI300X vs NVIDIA H100/B200

Google TPU v6e vs AMD MI300X vs NVIDIA H100/B200: Artificial Analysis’ Hardware Benchmarking shows NVIDIA achieving a ~5x tokens-per-dollar advantage over TPU v6e (Trillium), and a ~2x advantage over MI300X, in our key inference cost metric

In our metric for inference cost… pic.twitter.com/EsWnSggjz8

— Artificial Analysis (@ArtificialAnlys) November 27, 2025

所有跟帖： 

• Key points：TPU v6e is priced for on-demand at $2.70 per chip -香虞- ♀ (648 bytes) () 11/27/2025 postreply 06:36:02

• 性能比較運行的是Llama 3.3 70B開源模型。都能運行，說明CUDA的護城河已經沒有那麽寬了。模型 -study169- ♂ (188 bytes) () 11/27/2025 postreply 07:26:07

• 肯定需要分散投資 關鍵在於定比例 這個比例決定了最終的收益 -香虞- ♀ (0 bytes) () 11/27/2025 postreply 07:36:08

• 有競爭就是好，以後AI的Cost-per-Token要降下來才能進入盈利正循環。AI各個環節裏GPU的利潤比例應該會降下 -GandalfOld- ♂ (635 bytes) () 11/27/2025 postreply 08:59:26

• 領悟是投資者最重要的一個品質，其次要眼觀六路，耳聽八方，建立在紮實的 -620Oaks- ♂ (434 bytes) () 11/27/2025 postreply 09:25:04

• 多謝分享。很有意思的發展！ -GandalfOld- ♂ (0 bytes) () 11/27/2025 postreply 09:27:31

• TPU v6e 是最新的嗎？ 都比H200差很多。那Blackwell 來了不完全碾壓呀？ -QQQ2074- ♂ (77 bytes) () 11/27/2025 postreply 09:27:48

• TPU 7好象快出來了 -GandalfOld- ♂ (0 bytes) () 11/27/2025 postreply 09:51:22

• 從投資角度來看是不是兩家都買比較好 -QQQ2074- ♂ (0 bytes) () 11/27/2025 postreply 09:32:45

• TPU的優勢不是便宜嗎？ 那個圖完全沒看出來呀 -QQQ2074- ♂ (0 bytes) () 11/27/2025 postreply 10:06:35

• 成本有兩個價格，TPU的買入價格，運行價格。這裏聊的可能是運行價格吧。一次性筷子比象牙筷磨損快，大家還是喜歡，嗬嗬 -GandalfOld- ♂ (0 bytes) () 11/27/2025 postreply 10:23:04

• 就是沒把TPU/GPU 本身的價錢算進去？ -QQQ2074- ♂ (0 bytes) () 11/27/2025 postreply 10:28:16

• 我上麵可能是錯的，再讀了一遍原文，是用目前最便宜的租金算的成本，可能兩個成本都折算進去了 -GandalfOld- ♂ (218 bytes) () 11/27/2025 postreply 10:30:17

• 那TPU 沒什麽戲呀？ Blackwell 的總成本比H100低很多 -QQQ2074- ♂ (564 bytes) () 11/27/2025 postreply 10:40:17

• TPU是underdog, NVDA還是龍頭老大。市場看到了另一種演化的可能性而已，不應該一根K線推翻原來的看法，嗬嗬 -GandalfOld- ♂ (34 bytes) () 11/27/2025 postreply 10:57:41

• 推理端TPU比Blackwell性價比好多了，推理重的是內存量和讀的速度，Blackwell做推理是開著法拉利送外賣 -dancingpig- ♀ (0 bytes) () 11/27/2025 postreply 11:50:44