人家服務器上2秒鍾出結果。我們在筆記本上跑了4個小時都還一直在計算中。
大概什麽性能的筆記本?要有獨立顯卡嗎?我們都沒微調,隻是用開源模型做推理,都運行不出來。
本文內容已被 [ Wm.Knabe ] 在 2024-02-04 04:30:03 編輯過。如有問題,請報告版主或論壇管理刪除.
所有跟帖:
•
一個同事用筆記本做過演示
-study169-
♂
(300 bytes)
()
02/04/2024 postreply
04:17:05