WSJ:美製裁加速中國研發不依賴最新芯片的AI技術

文章來源: - 新聞取自各大新聞媒體,新聞內容並不代表本網立場!
(被閱讀 次)



美國對中國實施芯片製裁措施,正促使中國科技業者加速研發不仰賴最新美國芯片的先進人工智慧(AI)技術。圖為示意圖。路透

美國對中國實施芯片製裁措施,正促使中國科技業者加速研發不仰賴最新美國芯片的先進人工智慧(AI)技術。

華爾街日報檢視研究論文並採訪員工後發現,中國業者正在研究利用更少、威力沒那麽強大的半導體,就能達成最先進AI性能的技術,同時研究如何組合不同類型的芯片,避免隻仰賴單一類型芯片。

包括華為、百度與阿裏巴巴,都是想辦法從現有電腦芯片發掘更多用處的業者。

研究人員和分析師表示,利用這些變通的方法來追上美國AI領導業者,實際上仍是一大挑戰,但一些實驗顯示出,若取得成功,這些研究可讓中國科技業者同時挺過美國的製裁措施,並且在麵對未來的限製措施時,自身將更具韌性。

華為和百度不願置評,阿裏巴巴則沒有回覆置評請求。

隨著要將ChatGPT這類模型商業化的競賽升溫,全球企業需要更多威力強大的芯片,同時還要想辦法竭力善用這些芯片,以便壓低這些飆高中的AI研發成本。

對陸企來說,這是個極關鍵的問題,因為美國的製裁措施讓他們沒辦法取得像是輝達(Nvidia)製的最先進芯片,此外,員工、AI研究人員和產業分析師表示,陸企已迅速消耗掉現有的美國芯片來打造與ChatGPT相類似的軟體。

臉書母公司Meta Platforms的AI基礎架構與大型語言模型研究人員張蘇珊(Susan Zhang,音譯)表示:“可從字裡行間看出他們試圖尋找世界上任何一種運算方式來彌補先進硬體的不足。”

北京最高決策機構上月表示,中國應鼓勵AI研發創新;美國拜登政府在去年10月全麵限製向中國供應芯片後,已明示未來可能進一步實施限製措施。

陸企現在無法取得目前最受業界歡迎的AI開發芯片A100芯片,以及3月推出的新一代版本、能提供更多算力的H100芯片。

不過,輝達為中國市場創造出降級版的芯片,分別是A800與H800,兩款修改後的芯片降低芯片與芯片之間的溝通能力。這些產品可為開發小型AI模型提供有效的替代方法,這類小型AI模型就像是驅動短影片App抖音(TikTok)的推薦演算法所使用的模型。不過,這類芯片無法用於發展大型AI模型,因為大型AI模型需要數百或數千個芯片共同協力運作,舉例來說,瑞銀分析師估計訓練像ChatGPT的AI模型,需要5,000至10,000個A100芯片來進行訓練。

與中國政府與關的半導體產業協會的調查顯示,在中國境內可用於訓練大型AI模型的A100芯片大約有4萬個至5萬個,顯示供應吃緊。知情人士說,在美國製裁前就已囤積A100芯片的阿裏巴巴與百度等業者已嚴格限製內部使用外國的先進芯片,把這些芯片保留用於需要強力運算的任務。

根據開源研究論文和知情人士透露,百度近年來一直尋求將海光信息的DCU、華為的AI訓練芯片Ascend以及自家的崑崙芯片等國產芯片整合到AI研發中。一些知情人士說,許多陸產芯片在訓練大規模模型時仍然不可靠,因為容易癱瘓。

另據經營AI基礎設施公司HPC-AI Tech的新加坡大學教授尤洋的說法,許多陸企正試圖把三或四種沒那麽先進的芯片組合在一起,來模擬輝達最先進處理器的性能。

例如在4月,騰訊就公布一套新的運算群,即使用輝達H800芯片進行大型AI模型訓練的一組連結芯片。

尤洋說,這種做法可能甚耗成本,例如一家美企若需要1,000個H100芯片來訓練大型語言模型,那麽一家陸企便需要3,000個以上的H800芯片來達成同樣成果。

雖然在全球研究圈中仍不太使用這類方法,而且難以實行,但中國研究人員取得一些進展。例如華為研究人員在3月的一篇論文中展示如何隻利用該公司的Ascend芯片、而不使用輝達的芯片,來訓練華為最新一代大型語言模型。儘管存在缺點,但這個名為PanGu-Σ的模型已達到一些華語任務的先進性能表現,包括閱讀理解和文法問題。

wd01702 發表評論於
這是廢話。北朝鮮估計正在加速研發連AI都不依賴的技術。
澳憨88 發表評論於
裘千裏 發表評論於 2023-05-08 13:05:10
bigcatf4 發表評論於 2023-05-08 12:47:09

我還是那個觀點:如果你自己差的替你們公司的白人拎鞋,被你的白人鄰居白眼,那麽我可以理解你為什麽這麽仰視白人
但是就算這樣,還是希望你多尊重在美國和世界各地的聰明華人,和中國的聰明華人,這些才是中國人的支柱。雖然我還不是,我每天都在努力。

=========

文學城裏的某些華人,隻剩了一張華人的人皮,跟他們說希望,沒用!
--------------------------------------------------------------------------
罵的好,這些????,本來就不是中國人
澳憨88 發表評論於
@煙雲流逝卻是雪茄. 希望您多多介紹,這才是專家的發言。 我喜歡您說的悲觀+希望。 唉!
-------------------------------------------------------------------------
+1
rayofday 發表評論於
這個天朝網友們早有定論了, WSJ消息落後了。網友們說,美國的人工智能重心在智能,天朝的人工智能重心在人工,各自在各自的領域都是No 1。
不允許的筆名 發表評論於
不依賴最新芯片的AI技術也得等美國開發完了再抄。中國研發個P。

RMT可能用一塊1080就產生100萬token了。
亮油 發表評論於
進化分支,就像章魚沒大腦發育一神經節替代,也好用,隻是永遠不成人。
不好吃懶做 發表評論於
美國對中國實施芯片製裁措施,正促使中國科技業者加速研發不仰賴最新美國芯片的先進人工智慧(AI)技術 - Why not 研發不仰賴 芯片 的先進人工智慧? Just a joke, good products need both good HW and SW. Better China develops some new jets without engines.
theriver1 發表評論於
煙雲流逝卻是雪茄 發表評論於 2023-05-08 14:29:21
who da f**k r you dude? 每次來WXC,就見你們一幫渣碎開口閉口罵人5毛粉宏,還‘好心提醒’?!
--------
哪裏跑出來的蠢貨?連喜事和喪事都沒搞清就敢跑出來丟人現眼?中國現在是水深火熱還是欣欣向榮你這蠢貨心裏沒個β數嗎?中國企業和市場的水深火熱是誰造成的你心裏沒個β數嗎?你以為你把你家喪事當喜事來辦就真的是愛你家啦蠢貨?!
煙雲流逝卻是雪茄 發表評論於
theriver1 發表評論於 2023-05-08 14:03:18

----------
who da f**k r you dude? 每次來WXC,就見你們一幫渣碎開口閉口罵人5毛粉宏,還‘好心提醒’?!LOL玩笑有點冷。一幫碎碎看見中國倒黴就跟過年似的,看見中國有好事就如全家奔喪。有必要那麽恨嗎?我不 anti or pro China。but let's just chill.
旁觀者XWY 發表評論於
有點像人海戰術。
seewhatisee 發表評論於
ai技術不應該對中國開放。
theriver1 發表評論於
煙雲流逝卻是雪茄 發表評論於 2023-05-08 13:48:26
還自稱 Deepspace, 是你的腦洞還是ur mama的深洞?誰告訴你機械手不是AI?你以為機械手都是你嗎晚上用的那種粗笨?你美爹 Amazon 分揀的機械手是不是AI?傻X下午不洗碗去 google 一下 definition 'n history of AI
----------
哪裏跑出來沒教養的蠢貨!人家好心提醒你有錯嗎?本文說的AI,是專指基於AI基礎架構與大型語言模型而開發的聊天AI,隻有這種AI才需要A100或H100芯片!
煙雲流逝卻是雪茄 發表評論於
Deepspace_01 發表評論於 2023-05-08 13:16:27

===================================================================
還自稱 Deepspace, 是你的腦洞還是ur mama的深洞?誰告訴你機械手不是AI?你以為機械手都是你嗎晚上用的那種粗笨?你美爹 Amazon 分揀的機械手是不是AI?傻X下午不洗碗去 google 一下 definition 'n history of AI
tz2000 發表評論於
en,跟老大哥學,把洗衣機上的芯片拆下來裝到導彈上,
fonsony 發表評論於
我們黃狗熱烈慶祝中方無心片可用,死橋橋的
theriver1 發表評論於
裘千裏 發表評論於 2023-05-08 13:05:10
文學城裏的某些華人,隻剩了一張華人的人皮,跟他們說希望,沒用!
-------
你這助紂為虐替殘害華人的土共洗地的五毛也配代表華人?
一點小看法 發表評論於
這個AI叫算盤AI。哈哈。
不允許的筆名 發表評論於
AI最新突破之後也許不再需要高端芯片了。

一個是Hinton本人的FF,另一個是RMT,起碼inference階段可能降低到5年前一塊老GPU即可。
悟空是女的 發表評論於
@煙雲流逝卻是雪茄. 希望您多多介紹,這才是專家的發言。 我喜歡您說的悲觀+希望。 唉!
bigcatf4 發表評論於
theriver1 發表評論於 2023-05-08 12:06:56
所謂不依賴最新芯片(A100與H100),說白了就是依賴A800與H800。因為nvidia的A800與H800性能高到足夠吊打一切中國產AI芯片,所以中國再加速也是被美國公司遠遠甩在後麵。
中國現在的AI應用幾乎清一色都是翻牆(國內暗語叫黑魔法)後連接到OpenAI等的接口。因為中國的AI產品實在是爛泥扶不上牆。
----------
我還是那個觀點:如果你自己差的替你們公司的白人拎鞋,被你的白人鄰居白眼,那麽我可以理解你為什麽這麽仰視白人
但是就算這樣,還是希望你多尊重在美國和世界各地的聰明華人,和中國的聰明華人,這些才是中國人的支柱。雖然我還不是,我每天都在努力。
七戒 發表評論於
中國已經成功使用上個世紀的最最古老芯片製造出了22世紀都還能保持領先的世界最強AI。
煙雲流逝卻是雪茄 發表評論於
我剛在中國參觀了幾個工廠。高度自動化,AI機器人替代人工,原先60多人的生產線,現在一個人從頭到尾搞定。質量,產量,成品率大幅提高。而且每個上規模的工廠都在搞AI。老板還非常不滿意,說明年再來看才算真正成形。我在美國還真沒看到有那麽高度自動化的生產。中國是悲觀+希望,城裏一幫台巴子以為中國完蛋,開香檳有點早。
海鷗 發表評論於
唉….一個12缸發動機與4缸發動機哪個會更快?
roliepolieolie 發表評論於
“例如華為研究人員在3月的一篇論文中展示如何隻利用該公司的Ascend芯片、而不使用輝達的芯片,來訓練華為最新一代大型語言模型。儘管存在缺點”

為華為點讚!就應該這樣。腳踏實地地自力更生,做出的東西是自己的。別成天吹牛逼,還死皮賴臉地非要站在美國的肩膀上與美國比高低。

現在,美國不讓你搭便車了。
德州呆子 發表評論於
前幾天百度還高調的說新AI的研發是用的 A100.他們在製裁前買了所有的能買的
theriver1 發表評論於
所謂不依賴最新芯片(A100與H100),說白了就是依賴A800與H800。因為nvidia的A800與H800性能高到足夠吊打一切中國產AI芯片,所以中國再加速也是被美國公司遠遠甩在後麵。
中國現在的AI應用幾乎清一色都是翻牆(國內暗語叫黑魔法)後連接到OpenAI等的接口。因為中國的AI產品實在是爛泥扶不上牆。
man008 發表評論於
沒有美國芯片開發出來的中國AI和包子一樣,好多字不認識,老念錯別字。
牆頭的一朵梨花 發表評論於
研究吃空氣也能吃飽的技術。哈哈哈哈哈哈
boypalm 發表評論於
美帝嚇尿了!