這種一般是用開源模型，下載到本地，如果本地機沒有GPU

來源: paterman 於 2025-05-13 11:26:58 [] [舊帖] [給我悄悄話] 閱讀數 : (211 bytes)

輸出速度確實會很慢，一個字一個字地慢慢吐出來。如果有本地機上GPU，速度可能提高幾倍。

稍微大一點的模型，本地就玩不了了。

 

請您先登陸，再發跟帖！