所謂的edge AI ，就是internet if things 之類的fancy words嗎？

來源: 伯克希爾哈薩維 於 2024-12-13 11:50:59 [] [舊帖] [給我悄悄話] 閱讀數 : (0 bytes)

所有跟帖： 

• 截然不同，IOT依賴各種網絡，即所謂得萬物互聯。EdgeAI是把training好得模型寫入embedded係統中 -diablo18- ♀ 給 diablo18 發送悄悄話 (216 bytes) () 12/13/2024 postreply 11:56:40

• 有相關股票推薦嗎 謝謝 -westandingup- ♀ 給 westandingup 發送悄悄話 (0 bytes) () 12/13/2024 postreply 12:09:50

• just googled and it shows -範尼- ♀ 給 範尼 發送悄悄話 (4378 bytes) () 12/13/2024 postreply 13:27:02

• 這種並不需要什麽大模型，嵌入式係統識別還搞那麽大內存用那麽多CPU那麽高功率在大模型上完全是浪費。 -bulubulu- ♂ 給 bulubulu 發送悄悄話 (0 bytes) () 12/13/2024 postreply 12:10:24

• 調用服務器上的大模型不行嗎？非要把模型放到端側？ -伯克希爾哈薩維- ♂ 給 伯克希爾哈薩維 發送悄悄話 (0 bytes) () 12/13/2024 postreply 12:16:31

• 定義是“在網絡，定位係統被摧毀的情況下自主完成任務” -bulubulu- ♂ 給 bulubulu 發送悄悄話 (108 bytes) () 12/13/2024 postreply 12:21:01

• 調用服務器的AI就不是 EdgeAI 了，這是不同的概念 -diablo18- ♀ 給 diablo18 發送悄悄話 (0 bytes) () 12/13/2024 postreply 12:25:13

• 離數據端近更安全 減少延遲和網絡依賴 -小昭mm- ♀ 給 小昭mm 發送悄悄話 (0 bytes) () 12/13/2024 postreply 19:55:52

• 你理解錯了，EdgeAI training用普通的計算機或服務器，需要大量GPU,模型生成後寫入嵌入係統運行，嵌入係統 -diablo18- ♀ 給 diablo18 發送悄悄話 (85 bytes) () 12/13/2024 postreply 12:18:29

• 模型放在那了，從模型計算求解一樣是個resource intensive的過程，如果是大模型的話 -bulubulu- ♂ 給 bulubulu 發送悄悄話 (384 bytes) () 12/13/2024 postreply 12:25:08

• 模型也是很大的，你去huggingface隨便下一個MODEL， 都是幾個G -testmobile- ♀ 給 testmobile 發送悄悄話 (0 bytes) () 12/13/2024 postreply 12:28:59

• 各種優化方法 模型會越來越小 -小昭mm- ♀ 給 小昭mm 發送悄悄話 (0 bytes) () 12/13/2024 postreply 20:01:15

• 對嵌入式了解不多，但AI計算是很耗電力和CPU的，嵌入式或移動設備很難達到這個要求，除非是一個終端， 但設備不需要AI -testmobile- ♀ 給 testmobile 發送悄悄話 (0 bytes) () 12/13/2024 postreply 12:15:34

請您先登陸，再發跟帖！