要看顯存大小。我用的4080，16G顯存，96G內存，跑14B的很快，但是32b就很慢

來源: 於 2025-01-28 20:07:21 [舊帖] [給我悄悄話] 本文已被閱讀：次

跑32b的時候內存被拿來當虛擬顯存，速度就慢多了