國華的世界
這是國華對讀過的書, 看過的電視／電影, 聽過的音樂, 訪遊過的地方, 經曆過的事物， 和時事的感想或點評.
相信許多人都熟悉“摩爾定律”這個術語，即集成電路上可容納的晶體管數目“每18個月增加一倍。”在過去的幾十年裏，摩爾定律一直是許多科技公司在提高晶體管密度方麵的一盞指路明燈。筆者在發於9月28日的一篇名為“第三代半導體碳基芯片 (I) 摩爾定律終結”的博文中寫道“現在的矽基芯片 (集成電路) 工藝製程發展至5nm (納米)，乃至3nm、2nm、 1nm，已經已達到了原子等級，接近物理極限，逼近 (集成電路) 工藝製程瓶頸 (圖 Google Images)。有鑒於此，學界和業界研究者使出渾身解數，通過改進晶體管架構、改良製造設備等來為摩爾定律‘續命，’ 盡量延緩摩爾定律的終結。” 然而，無論是科學家還是半導體業界，都在擔心摩爾定律不再適用這一天真正到來時，半導體產業將就此停滯。
其實，無論是科學家還是半導體企業都在努力尋找矽基半導體的替代品。如博文“第三代半導體碳基芯片 (II) 碳基半導體”注意到，碳基半導體材料被認為是取代基半導體的最佳材料。“第三代半導體碳基芯片 (III) 美中爭先”一文顯示人類，尤其是中美兩國的科技人員，正在這方麵取得進展。令人興奮的是除卻碳基半導體，闡明人工智能與芯片性能提高關係的“黃氏定律”很可能會是繼著名的摩爾定律後，又一揭示半導體材料發展的指示燈。
“黃氏定律”是華爾街日報專欄作家米姆斯 (Christopher Mims) 發明的一個術語，它指代英偉達/輝達(NVIDIA)公司創始人兼首席執行官黃仁勳 (Jensen Huang) (圖 Google Images) 對比GPU (圖形芯片) 與CPU在處理人工智能時的優劣表現後，總結出來的規律，即人工智能提供動力的矽芯片每兩年將性能提高一倍以上。
英偉達/輝達公司創始人兼首席執行官黃仁勳 (Jensen Huang) 在CES 2019 (消費電子展) (圖 Google Images)上表示，傳統的CPU在處理人工智能所需的所有必要任務時通常是無效的，“摩爾定律過去是每5年增長10倍，每10年增長100倍。而如今，摩爾定律每年隻能增長幾個百分點，每10年可能隻有2倍。因此，摩爾定律結束了。” 他強調由於技術的飛速發展，GPU更適合於這些任務，因為它們的核心計數明顯更高，並且能夠並行處理少量數據。它假設用於人工智能（AI）的芯片的功率每年至少翻一番。黃仁勳指出，GPU有它自己的定律，無數的軟件和硬件的發展使這一定律成為可能。
就像“摩爾定律”當年並非由戈登·摩爾取名那樣，黃仁勳沒有為他的這一理論命名。華爾街日報專欄作家米姆斯概括了黃仁勳的理論，認定新定律大致是，驅動人工智能 (AI) 的矽晶片效能，每兩年可提高逾一倍。米姆斯以黃仁勳為名，將這個規律命名為“黃氏定律” (Huang's Law)。
眾所周知，GPU晶片可同時處理許多任務，即黃仁勳所說的並行處理少量數據。某些 (包括AI相關的) 任務，可透過GPU 晶片以更低功耗分割並更快處理。而傳統的CPU則擅長快速處理單一任務。英偉達/輝達首席科學家兼研究部門資深副總裁達利 (Bill Dally) 指出，2012年11月到今年5月，英偉達/輝達的晶片效能在一些AI運算的重要領域中提升了317倍，也就是說這些晶片的效能平均每年增加一倍以上。總部位於加州聖地亞哥 (San Diego, CA) 的自駕卡車創新公司圖森未來 (TuSimple) (圖 Google Images) 表示，該公司採用Nvidia AI晶片的係統，效能每年都增加一倍。
如今人工智能 (AI) 晶片已成為大至自駕交通工具、小到個人裝置的臉部，語音和物體辨識等各方麵的重要元素。隨著 AI 從雲端移轉到終端裝置，Nvidia AI 晶片的係統/“黃氏定律”正以驚人的速度發展，從臉部或語音辨識、手機、各種智能產品、到自駕車、自駕船、到城市與工業設施。
與此同時，必須承認即便英偉達/輝達專長的GPU可以同時高效率運作多項任務，但在某些AI運算應用上，如果少了其他業者的幫助，Nvidia AI 晶片也會黯然失色。正如米姆斯指出那樣，英特爾不是推動摩爾定律的主要推手，英偉達/輝達也非“黃氏定律“的唯一推動者。在某些應用上，英偉達/輝達的AI運算必須要與其它晶片搭配應用，方能持續實現“黃氏定律”的兩年將性能提高一倍以上的規律。這方麵的例子比比皆是。
以自駕車為例，雖然基本上是以 AI 人工智能為核心，但係統運作時仍然少不了傳統的 CPU 運算。而英偉達/輝達首席科學家 Bill Dally 也坦承 (圖 Google Images)，當工程師大幅提升某部分的運算時，其他無法再加快的部分就會成為瓶頸 (需要CPU晶片解決？)。聖地亞哥自動化卡車新創公司圖森 (TuSimple) 的創建人之一、首席技術官、人工智能專家侯曉迪 (Xiaodi Hou) (圖 Google Images) 就指出，即使是自駕這種已定型以AI為中心的功能，係統運作的大部分核心仍少不了CPU。因為GPU也有其局限性，特別是在功耗方麵。而以色列 AI 初創公司Nexar 聯合創始人兼 CEO依蘭·謝爾 (Eran Shir) 也說英偉達/輝達在雲端 AI 運算幾乎壟斷，但當兩年前Nexar在雲端上執行40%的數據運算時，ARM的晶片就可以讓他們在行動裝置上進行更快、更大量的邊緣運算。
現在英偉達/輝達的GPU已經普遍存在於數據中心，並用於深度學習，這是一個教人工智能執行任務的通用術語。這可能包括模式識別等過程。這與在終端設備上進行的人工智能推理不同。推理是學習任務的應用。GPU也可以可以用於推理，但是AI加速器可以更好，因為它是專門為“加速”AI工作負載而構建的。ARM多年來一直致力於開發人工智能加速器以及一個機器學習軟件庫。ARM也將會是持續為提高AI速度提供必要零組件的關鍵廠商之一。這或許是英偉達/輝達為何會以400億美元收購ARM的原因之一，因為這次收購將讓英偉達/輝達獲得ARM的人工智能能力 (圖 Google Images)。 毫無疑問，這一理論並不是英偉達收購ARM的唯一原因。
當然就業界現狀來說，黃氏定律仍需要相當時間來讓自己像摩爾定律那樣管用，其所提及的運算處理能力也不適用於所有情境。晶片製造商真正按黃氏定律開發出功能更全麵的產品，恐怕仍有很長的路要走。黃氏定律也未必有摩爾定律那樣的壽命，黃氏定律未來也會終結。ARM機器學習集團產品營銷副總裁史蒂夫·羅迪 (Steve Roddy) 甚至認為，雖然黃氏定律能讓自駕車、智能工廠、智能家庭等等 AI 應用很快成為現實，但黃氏定律能的壽命也就10年左右。
* 誠邀專家，學者，懂行，和感興趣的博友分享你對此的見解和觀點意見。
參考資料
Goetting, B. (2020). Advancing AI And ‘Huang’s Law’ Could Be Why NVIDIA Moved To Acquire Arm. Hot Hardware. 鏈接 https://hothardware.com/news/huangs-law-could-be-why-nvidia-moved-to-acquire-arm
Mims, C. (2020). Huang's Law Is the New Moore's Law, and Explains Why Nvidia Wants Arm. The Wall Street Journal. 鏈接 https://www.wsj.com/articles/huangs-law-is-the-new-moores-law-and-explains-why-nvidia-wants-arm-11600488001
