現在是TPUv7,幾年前的TPUv4就有A100的性能了,而疫情期間別說TPU了,連汽車芯片都不夠用,穀歌從來沒拿到足夠數量的TPU。你要真用過TPU,不可能對它的訓練速度沒有印象。至少我是印象極其深刻。
https://www.hpcwire.com/bigdatawire/2023/04/05/google-claims-its-tpu-v4-outperforms-nvidia-a100/