截然不同,IOT依賴各種網絡,即所謂得萬物互聯。EdgeAI是把training好得模型寫入embedded係統中

可以自主計算識別。比如機器狗,無人機都是依賴於網絡,和遙控的。如果攜帶edgeAI技術,就可以在網絡,定位係統被摧毀的情況下自主完成任務。可怕吧!

所有跟帖: 

有相關股票推薦嗎 謝謝 -westandingup- 給 westandingup 發送悄悄話 (0 bytes) () 12/13/2024 postreply 12:09:50

just googled and it shows -範尼- 給 範尼 發送悄悄話 (4378 bytes) () 12/13/2024 postreply 13:27:02

這種並不需要什麽大模型,嵌入式係統識別還搞那麽大內存用那麽多CPU那麽高功率在大模型上完全是浪費。 -bulubulu- 給 bulubulu 發送悄悄話 (0 bytes) () 12/13/2024 postreply 12:10:24

調用服務器上的大模型不行嗎?非要把模型放到端側? -伯克希爾哈薩維- 給 伯克希爾哈薩維 發送悄悄話 (0 bytes) () 12/13/2024 postreply 12:16:31

定義是“在網絡,定位係統被摧毀的情況下自主完成任務” -bulubulu- 給 bulubulu 發送悄悄話 (108 bytes) () 12/13/2024 postreply 12:21:01

調用服務器的AI就不是 EdgeAI 了,這是不同的概念 -diablo18- 給 diablo18 發送悄悄話 (0 bytes) () 12/13/2024 postreply 12:25:13

離數據端近更安全 減少延遲和網絡依賴 -小昭mm- 給 小昭mm 發送悄悄話 (0 bytes) () 12/13/2024 postreply 19:55:52

你理解錯了,EdgeAI training用普通的計算機或服務器,需要大量GPU,模型生成後寫入嵌入係統運行,嵌入係統 -diablo18- 給 diablo18 發送悄悄話 (85 bytes) () 12/13/2024 postreply 12:18:29

模型放在那了,從模型計算求解一樣是個resource intensive的過程,如果是大模型的話 -bulubulu- 給 bulubulu 發送悄悄話 (384 bytes) () 12/13/2024 postreply 12:25:08

模型也是很大的,你去huggingface隨便下一個MODEL, 都是幾個G -testmobile- 給 testmobile 發送悄悄話 (0 bytes) () 12/13/2024 postreply 12:28:59

各種優化方法 模型會越來越小 -小昭mm- 給 小昭mm 發送悄悄話 (0 bytes) () 12/13/2024 postreply 20:01:15

對嵌入式了解不多,但AI計算是很耗電力和CPU的,嵌入式或移動設備很難達到這個要求,除非是一個終端, 但設備不需要AI -testmobile- 給 testmobile 發送悄悄話 (0 bytes) () 12/13/2024 postreply 12:15:34

請您先登陸,再發跟帖!