並不需要過多額外開銷。 也許隻增加少量內存或不增加。
你理解錯了,EdgeAI training用普通的計算機或服務器,需要大量GPU,模型生成後寫入嵌入係統運行,嵌入係統
所有跟帖:
• 模型放在那了,從模型計算求解一樣是個resource intensive的過程,如果是大模型的話 -bulubulu- ♂ (384 bytes) () 12/13/2024 postreply 12:25:08
• 模型也是很大的,你去huggingface隨便下一個MODEL, 都是幾個G -testmobile- ♀ (0 bytes) () 12/13/2024 postreply 12:28:59
• 各種優化方法 模型會越來越小 -小昭mm- ♀ (0 bytes) () 12/13/2024 postreply 20:01:15