並不需要過多額外開銷。 也許隻增加少量內存或不增加。
你理解錯了,EdgeAI training用普通的計算機或服務器,需要大量GPU,模型生成後寫入嵌入係統運行,嵌入係統
所有跟帖:
•
模型放在那了,從模型計算求解一樣是個resource intensive的過程,如果是大模型的話
-bulubulu-
♂
(384 bytes)
()
12/13/2024 postreply
12:25:08
•
模型也是很大的,你去huggingface隨便下一個MODEL, 都是幾個G
-testmobile-
♀
(0 bytes)
()
12/13/2024 postreply
12:28:59
•
各種優化方法 模型會越來越小
-小昭mm-
♀
(0 bytes)
()
12/13/2024 postreply
20:01:15