北京時間 9 月 11 日周三晚，英偉達 CEO 黃仁勳在高盛組織的一場科技對談中告訴高盛 CEO 所羅門，英偉達將在第四季度擴大產能，明年繼續擴大。
黃仁勳表示，客戶對 Blackwell 的需求實在太大了，每個人都想成為第一個擁有它的公司，每個人都想擁有最多的產能，每個人都想領先。他還特別提到英偉達在算法優化和架構一致性方麵的優勢，能夠大幅提升客戶的總擁有成本和競爭力。
對 AI 芯片需求巨大的言論同時間刺激了英偉達的股價，美股早盤英偉達一度轉跌至 107 美元，伴隨黃仁勳的講話收盤至 116.9 美元，大漲 8.15%，增加 2158 億美元市值，折合人民幣 1.5369 萬億元。
黃仁勳強調，隨著摩爾定律的終結，通用計算已經到達瓶頸，未來的關鍵在於加速數據中心，提升其密度和能源效率。
他預計全球將價值數萬億美元的通用數據中心會逐漸被加速計算中心所替代。通過加速SQL處理和推薦係統等核心任務，企業將實現顯著的性能提升與成本節約。
未來的計算不僅局限於數據處理，還將擴展到技能增強領域。黃仁勳認為，生成式 AI 技術的應用將改變工作方式，數字助手和 AI 工具將成為各個領域不可或缺的夥伴，從而進一步推動產業生產力的提升。
他還預測，AI 計算領域的創新速度將繼續加快，通過開發多種芯片與技術組合，英偉達將每兩年實現性能的大幅提升，持續保持其在市場中的領導地位。
以下為這場對話的完整內容，enjoy～
所羅門：
自從你在 1993 年創辦英偉達以來，你一直是加速計算的先鋒。公司在1999年發明的 GPU ，推動了 PC 遊戲市場的增長，重新定義了計算機，並點燃了現代 AI 時代。Jensen擁有俄勒岡州立大學的學士學位和斯坦福大學的碩士學位。
我想從 31 年前說起，當時你創立了公司。從一家以遊戲為中心的 GPU 公司，轉型為如今提供廣泛硬件、軟件服務於數據中心的企業。
我想請你談談這一旅程的點點滴滴。當你剛開始時，你是怎麽想的，這一路上公司是如何演變的？這是一次非常不凡的旅程。或許你可以順便談談，展望未來時你們的關鍵優先事項，以及未來的方向。
黃仁勳：
我想我們當時做對的一件事，是我們有一個願景，那就是會有一種新的計算方式，能夠補充通用計算的不足，去解決通用計算器永遠無法解決的問題。
而這種處理器最開始是從計算機圖形學這個對 CPU 來說極其困難的任務著手的，但我們知道它最終會擴展到其他領域。
我們選擇的第一個領域是圖像處理，它是對計算機圖形學的一個補充。接著我們擴展到物理模擬，因為在我們選定的視頻遊戲應用領域，你不僅需要美麗的圖像，還需要動態效果來創造虛擬世界。
我們一步步地前進，將其帶入科學計算領域。我們最早的一些應用是分子動力學模擬，另一個是地震處理，基本上是逆物理學。地震處理與 CT 重建非常相似，都是另一種形式的逆物理學。我們就這樣一步步前進。
我們對相鄰行業和互補算法進行了思考，逐步解決問題。但從那時起的共同願景，就是加速計算可以解決有趣的問題。
如果我們能夠保持架構的一致性，意思是，今天開發的軟件可以在你留下的較大算力基石上運行，而過去開發的軟件可以通過新技術進一步加速。這種關於架構兼容性的思維方式，從 1993 年開始，我們一直堅持到今天。
這也是為什麽英偉達的 CUDA 擁有如此龐大的安裝基礎。因為我們始終保護它，保護軟件開發者的投資，這自始至終都是我們公司的首要任務。
展望未來，沿途我們學到了很多，比如如何成為一個創始人，如何當 CEO ，如何經營公司，如何建立公司，不僅僅是這些。這些都是新的技能。我們還學會了如何發明現代計算機遊戲行業。
很多人不知道，英偉達是世界上最大的遊戲架構安裝基礎。GeForce 擁有約 3 億遊戲玩家，增長勢頭依然非常強勁，充滿活力。
所以每次我們進入一個新市場時，我們都需要學習新的算法，了解新的市場動態，創造新的生態係統。我們之所以要這樣做，是因為與通用計算器不同，如果你構建了一個加速處理器，那麽一切不會自動運作。作為加速計算器，你需要問自己：該加速什麽？因為沒有一種通用的加速器。
所羅門：
深入探討一下，談談通用計算和加速計算之間的區別。
黃仁勳：
如果你看看軟件，從你編寫的龐大軟件中，會發現很多涉及文件輸入輸出的部分、數據結構的設置以及一些包含魔法般的核心算法的部分。
這些算法因應用領域而異，無論是計算機圖形學、圖像處理還是其他任何領域。它可以是流體力學、粒子係統，或者像我提到的逆物理學，甚至是圖像處理領域的東西。這些不同的算法都有所不同。
如果你創建了一個處理器，它在這些算法上表現得特別出色，並且能夠補充 CPU 的不足（ CPU 能做的事情，它就擅長做），那麽理論上你可以極大地加速一個應用程序。
原因在於，通常情況下，5%～10% 的代碼會占據 99.99% 的運行時間。所以如果你將那 5% 的代碼卸載到我們的加速器上，那麽理論上你就能將應用程序加速 100 倍。這種情況並不少見，我們確實經常做到。
例如，我們將圖像處理加速 500 倍。如今我們也處理數據處理，這是我最喜歡的應用之一，因為幾乎所有與機器學習相關的東西，都是數據驅動的，而數據處理正是其中的核心部分。
無論是 SQL 數據處理、 Spark 類型的數據處理，還是矢量數據庫處理，所有這些都涉及到結構化或非結構化的數據處理，也就是數據框架的處理。
我們將這些處理過程加速了非常多，但要做到這一點，你必須創建相應的庫。例如，在計算機圖形學中，我們很幸運有像 OpenGL 和微軟的 DirectX 這樣的圖形庫。但在這些之外，幾乎沒有現成的庫可用。
於是我們創建了自己的庫，比如我們最著名的庫之一，類似於 SQL 這樣的庫。SQL 是存儲計算的一個庫，我們創建了一個叫做 CuDNN 的庫，它是世界上第一個神經網絡計算庫。
我們還有 CuOpt 用於組合優化，CuQuantum 用於量子模擬與仿真，還有像 CuDF 這樣的庫，用於數據框處理（類似於 SQL ）。
所有這些庫都需要我們去發明。我們需要重構應用中的算法，使其能在我們的加速器上運行。如果你使用這些庫，那麽你就可以獲得 100 倍的加速，甚至更多。
這一理念非常合理，但問題是如何去發明這些算法，並讓整個視頻遊戲行業使用它？如何讓整個地震處理和能源行業使用它？如何讓整個 AI 行業使用它？你明白我的意思嗎？
我們必須首先進行計算機科學研究，然後進行生態係統開發，並且說服大家使用它。與此同時，我們還得確保這些庫能在所有不同的計算機上運行。我們就是這樣，一個接一個地跨越領域。
我們為自動駕駛汽車創建了豐富的庫，為機器人技術開發了出色的庫，還有用於虛擬篩選、無論是基於物理學的虛擬篩選還是神經網絡的虛擬篩選的庫。我們甚至還有專門的氣候科技庫。
所以我們一個領域一個領域地發展，結交朋友，創造市場。英偉達真正擅長的，就是創造新的市場。
我們已經做了這麽久，似乎加速計算已經無處不在，但實際上，我們是在一個領域接一個領域地攻克。
所羅門：
我知道在場的許多投資者都非常關注數據中心市場。會很有意思聽聽你的觀點，以及公司的長期和中期機會。顯然，你所在的行業正推動著下一次工業革命。你覺得行業麵臨的挑戰有哪些？談談你如何看待數據中心市場的發展吧。
黃仁勳：
有兩件事同時發生，這兩者常常被混淆，我們需要把它們拆解開來討論。首先，讓我們假設沒有 AI 存在。
在一個沒有 AI 的世界裏，通用計算已經到達了瓶頸。大家都知道，摩爾定律和晶體管的微縮以及等功率下性能提升或等成本下性能提升的時代已經結束了。
未來，我們不會再看到每年性能翻倍的 CPU 。我們很幸運能在 10 年內看到性能翻倍的情況。
過去的摩爾定律是每 5 年性能提升 100 倍，每 10 年提升 1000 倍。我們隻需等待 CPU 變得更快。然而，如今這個時代已經結束了，我們正進入一個計算膨脹的時代。
所羅門：
現在，隨著摩爾定律的終結，我們正經曆計算膨脹。
黃仁勳：
所以我們需要做的，就是盡可能地加速一切。無論是 SQL 處理，還是任何形式的數據處理，尤其是如果你創建了一家互聯網公司，有一個推薦係統，那它絕對需要被加速。現在這些係統已經完全加速了。
幾年前它們還都在 CPU 上運行，但如今，世界上最大的推薦係統這種數據處理引擎已經全都加速了。所以，如果你有推薦係統或搜索係統，或者是任何大規模數據處理係統，你必須加速它們。
接下來會發生的第一件事，就是世界上價值數萬億美元的通用數據中心將被升級為加速計算型數據中心。這一定會發生。這是必然的事情。
原因之一是我們已經到了必須要做出改變的階段。你會看到的第一個動態是計算機的密度增加。你知道，這些巨大的數據中心非常低效，因為它們充滿了空氣，而空氣是電的不良導體。
我們想做的是，將這些原本可能占用 50、100 或 200 兆瓦的大型數據中心，壓縮成一個非常小的數據中心。如果你看看我們的一些服務器機架，英偉達的機架可能看起來很昂貴，可能每個機架花費幾百萬美元，但它可以替代成千上萬個節點。
令人驚訝的是，光是連接舊的通用計算係統的電纜成本，可能比用一個高密度的機架來取代這些舊設備的成本還要高。
而高密度化的另一個好處是，一旦你達到了這種高密度，你就可以進行液冷處理，因為冷卻一個巨大的數據中心很難，而冷卻一個小型數據中心要容易得多。
所以我們現在的首要任務是加速和現代化數據中心，增加其密度，使其更加節能。你能節省資金、節省能源，並且效率大大提高。
這是我們接下來 10 年要專注的事情。現在，當然還有一個第二動態。由於英偉達的加速計算帶來了巨大的成本節約，在過去 10 年裏，計算能力不僅提高了 100 倍，而是提高了 100 萬倍。
因此，問題變成了：如果你的速度快了一百萬倍，你會做什麽不同的事情？突然之間，人們說，“嘿，為什麽我們不讓計算機自己編寫軟件，而不是我們試圖去確定功能或算法呢？我們隻需要把所有數據、所有預測數據交給計算機，讓它自己去找到算法。”
我們在如此大規模的不同數據領域上進行了這種操作，以至於現在計算機不僅能夠處理數據，還能理解數據的意義。因為它能夠同時理解多種模態，所以它可以進行數據翻譯。
我們可以從英語翻譯為圖像，圖像翻譯為英語，英語翻譯為蛋白質，蛋白質再翻譯為化學分子。因此，因為它能夠同時理解所有數據，它現在能夠進行這些我們稱之為生成 AI 的翻譯操作。
可以從大規模文本生成小規模文本，也可以反過來進行文本生成，現在我們進入了一個計算革命的時代。
令人驚歎的是，第一批價值數萬億美元的數據中心已經能夠被加速了。我們在 AI 中發明了這種新的緩衝技術，這種 AI 革命不僅是一種工具，更是一種技能。
這就是為什麽現在創造了一個全新的行業。因為，如果你回顧整個 IT 行業，直到現在，我們一直在製造人們可以使用的工具和儀器。而這一次，我們將要創造的是能夠增強人的技能。
這就是為什麽人們認為， AI 將不僅僅局限於數萬億美元的數據中心，還將擴展到技能領域。
那麽，什麽是這種技能呢？首先是數字化技能，比如一個數字化裝配線機器人，或者是數字化客戶服務機器人，又比如說，一個數字化的可視化員工，專門負責計劃和規劃業務。
它也可以是一個數字化的 SAP 代理。我們公司使用很多ServiceNow服務，我們甚至有數字化的員工服務。因此，現在我們擁有了這些數字化的“人類”，這就是 AI 的工作方式。
所羅門：
讓我們稍微退一步，換個角度思考一下。基於你剛剛說的所有內容，目前金融市場上有一個持續的爭論，那就是我們是否能夠在構建 AI 基礎設施時，獲得足夠的 ROI。
你如何評估當前周期中客戶的投資回報率？如果我們回顧一下雲計算，在它們采用周期的類似階段，投資回報率是如何表現的？我們現在所處的位置與當時相比如何？
黃仁勳：
在雲計算之前，虛擬化是主要的趨勢，還記得嗎？虛擬化基本上是將數據中心中的所有硬件虛擬化為一個虛擬數據中心。
然後我們可以在整個數據中心中移動工作負載，而不是將其直接與特定計算機關聯。因此，數據中心的利用率得到了改善。
通過虛擬化，數據中心的成本減少了一半甚至更多。在此基礎上，我們將這些虛擬計算機推向雲端，多個公司可以共享同一資源，進一步提高了利用率。
過去10到15年間，虛擬化和雲計算的發展掩蓋了底層發生的一個根本性變化——摩爾定律的終結。虛擬化和雲計算帶來了顯著的成本節約，但它掩蓋了晶體管縮放和 CPU 性能增長的終止。
現在，隨著這些成本節約的效應逐漸減弱，我們看到的是數據中心和計算的膨脹。因此，第一件發生的事情就是加速計算。
如今，你可以在雲端使用英偉達的加速器進行數據處理，比如 Spark ，這是當今世界上最常用的數據處理引擎之一。如果你使用 Spark 並在雲端使用英偉達加速器，通常能看到 20 倍的加速效果。
因此，你可以節省大量計算時間，盡管計算成本會稍微增加，但整體回報率非常可觀。這就是加速帶來的直接ROI。
接下來是生成 AI 的第一波浪潮。在這一階段，像我們這樣的基礎設施提供商和所有雲服務提供商將基礎設施部署到雲端，讓開發者可以使用這些機器訓練模型或進行模型微調。
這帶來了非常好的回報，因為需求非常強勁。每一美元的支出，都能帶來五倍的收益。這種情況正在全球範圍內發生。
像我們熟知的一些應用，例如 OpenAI 的 ChatGPT，或者像 Github Copilot 這樣的工具，它們帶來的生產力提升是驚人的。
如今，我們公司的軟件工程師幾乎都在使用這些生成工具，不論是我們自己開發的工具，還是使用 C++ 和 CUDA 進行協同生成。
未來，每個軟件工程師都將有一個數字化工程師作為助手，24 小時全天候協助他們工作。這是未來的趨勢。
我們公司有 32000 名員工，但我們希望通過數字化工程師將這個數字增加到 100 倍。很多行業已經在積極擁抱這一趨勢。
在我們的公司， AI 已經成為計算機圖形學中的重要工具。我們現在通過計算一個像素並推斷出其餘的 32 個像素來完成圖像生成，這樣可以顯著節省能量和計算時間。
如果沒有 AI ，我們無法支持自動駕駛行業，也無法完成機器人技術和數字生物學的研究。幾乎所有的科技生物公司都在使用 AI 進行數據處理，甚至進行蛋白質生成和虛擬篩選。整個新藥發現過程因為 AI 而被重新發明，這讓人非常興奮。
所羅門：
現在，讓我們談談你的競爭優勢。顯然，有一些公共和私營公司在試圖挑戰你的領導地位。你如何看待你們的競爭壁壘？
黃仁勳：
首先，有幾件事使我們與眾不同。首先要記住， AI 不僅僅是關於硬件， AI 更是關於基礎設施。如今的計算機不僅僅是製造芯片然後出售。
構建 AI 計算機並不是簡單地組裝芯片，而是構建一個完整的數據中心。比如我們的 Blackwell 係統，它由七種不同類型的芯片組成， Blackwell 隻是其中之一。
所羅門：
對，跟我們談談 Blackwell 。
黃仁勳：
當你想構建 AI 計算機時，大家可能會提到“超級集群”或“超級計算機”這樣的詞匯，因為這不僅僅是芯片或一台計算機，而是整個數據中心的構建。
如果你看看這些超級集群，想象一下運行它所需的軟件吧。現在沒有微軟的 Windows 來運行這些係統，每個係統的軟件都是完全定製的。
設計芯片的公司，也會設計這個超級計算機及其所有的軟件。因此，擁有一個完全優化、更加高效和節能的係統是很有意義的。
其次， AI 涉及到算法，而我們非常擅長理解算法的需求以及如何在數百萬個處理器之間分配計算工作，確保計算能夠長時間穩定運行，同時實現極高的能源效率和快速的任務完成。這是我們特別擅長的領域。
最後， AI 是關於計算的，而計算的關鍵是安裝基礎。擁有相同的架構，無論是在雲端還是本地，無論是在超級計算機、機器人或個人電腦上運行，擁有能夠運行相同軟件的統一架構非常重要。
這種一致性是我們過去 30 年堅持的原則，也是為什麽如果你今天要創建一家公司，最明顯的選擇是使用英偉達架構的原因。
我們的架構無處不在，無論你選擇什麽計算設備，隻要有“英偉達 Inside”，你就知道它能夠運行你所需要的軟件。
所羅門：
你們的創新速度非常快，我想請你談談 Blackwell 。它的訓練速度提高了四倍，推理速度比前代 Hopper 快了30倍。你們似乎在以驚人的速度創新，你覺得能維持這樣的快節奏嗎？當你考慮到你們的合作夥伴時，他們如何跟上你們這種快速的創新步伐？
黃仁勳：
我們的創新節奏基於這樣一個基本方法：我們每次都會開發七種不同的芯片。每種芯片的更新周期大約是兩年，我們可以在每年給它們一個中期提升。
但如果你每兩年推出一個全新架構，那就相當於在光速前進。我們有七種不同的芯片，它們都為性能做出貢獻。
因此，我們每年都可以推出一個比上一代更好的 AI 集群或超級集群，因為我們有很多不同的組件可以進行優化。
這種規模的性能提升直接轉化為客戶的總擁有成本（TCO）。例如， Blackwell 的性能是前代產品的三倍，如果某個客戶有1吉瓦的電力預算，那麽他們的收入也會增加三倍。
這種性能提升轉化為吞吐量，而吞吐量轉化為收入。對那些有固定電力預算的客戶來說，這意味著三倍的收入增長。沒有任何其他成本節約措施能彌補這種收入增長。
因此，通過集成所有這些不同的組件並優化整個堆棧和集群，我們能夠為客戶提供更高的價值。
同樣地，對於客戶想花費的任何金額來說，性能的提升意味著成本的降低。我們擁有最好的每瓦性能（即收入），也擁有最好的總擁有成本（TCO），這意味著更好的毛利率。
我們在市場上不斷推動這些創新，客戶能夠持續受益。而且由於我們的架構是兼容的，昨天開發的軟件明天仍然可以運行，今天開發的軟件可以在整個安裝基礎上運行，這讓我們能夠非常快地前進。
如果我們每次更換架構，這種速度是不可能實現的。搭建係統本身就需要一年時間。而我們之所以能這麽快，是因為我們將所有組件整合在一起。
有人曾發推文說，在我們發貨後的19天內，他們已經讓一個超級集群上線並運行了。你不可能用一年時間拚湊出這麽高效的係統。
因此，我認為我們將創新的速度轉化為客戶的收入增長和毛利提升，這是非常了不起的。
所羅門：
你們的大部分供應鏈夥伴都在亞洲，尤其是台灣。在當前的地緣政治背景下，你是如何看待這一情況的？
黃仁勳：
亞洲的供應鏈確實非常龐大且相互交織。人們常常認為，當我們提到 GPU 時，就好像隻是一個小芯片。其實，英偉達的係統有 35000 個零件，重達 80 磅，消耗 10000 安培電流。
安裝起來後，整個係統重達 3000 磅。這個 GPU 係統非常複雜，構建它就像製造一輛電動汽車一樣。我們設計了盡可能多的多樣性和冗餘機製，以確保供應鏈的穩定。
在必要時，我們擁有足夠的知識產權，能夠在不同供應鏈之間靈活切換。或許某些生產技術不如最佳選擇，可能性能和成本無法保持在同一水平，但我們仍然能夠提供可行的解決方案。如果真的發生任何突發情況，我們能夠快速調整供應鏈。
我們之所以與台積電合作，是因為它是世界上最優秀的，不僅是優秀，而是絕對領先。它有著悠久的合作曆史，具備極高的靈活性和擴展能力。
去年，英偉達的收入經曆了爆炸式增長，而這離不開供應鏈的支持。台積電和供應鏈的快速響應能力令人難以置信。
在不到一年的時間裏，我們大幅增加了產能，明年還會繼續擴大。這種敏捷性和應對能力是我們選擇台積電的原因。但如果有必要，我們當然也可以選擇其他供應商。
所羅門：
是的，公司確實處於非常有利的地位，我們討論了很多好事。那麽，你最擔心的是什麽？
黃仁勳：
嗯，我們公司目前正在與世界上所有的數據中心合作。我現在找不出一個我們沒合作的數據中心、雲服務提供商或計算機製造商。
所以，這意味著我們肩負著巨大的責任。很多人都依賴我們，大家對我們的期望很高。需求非常旺盛，交付我們的組件、技術、基礎設施和軟件對很多人來說是情感上非常重要的事情。因為這直接影響到他們的收入，直接影響到他們的競爭力。
因此，今天我們可能有更多情感投入的客戶，他們非常需要我們的產品，情緒高漲。
我們可以感覺到所有人都在等著我們來滿足他們的需求，而一旦我們交付了這些產品，這種情緒就會消失。但現在的情緒非常激烈，壓力也很大。
我們肩負著很大的責任，努力做到最好。我們正在全力以赴地推動 Blackwell 的生產，現在已經全麵投入生產。
我們將在第四季度發貨，並在第四季度擴大產能，明年繼續擴大。對 Blackwell 的需求實在太大了，每個人都想成為第一個擁有它的公司，每個人都想擁有最多的產能，每個人都想領先。
因此，這種緊張感真的非常強烈。我覺得，能夠發明下一個計算時代是非常有趣的，看到這些驚人的應用程序被創造出來很令人振奮，看到機器人到處行走也很令人興奮，看到這些視覺化的代理人作為一個團隊在你的計算機上解決問題是很驚人。
同時，我們用 AI 設計芯片，然後用這些芯片運行我們的 AI ，這一切都非常了不起。但其中真正緊張的部分，就是我們肩負著世界的期望。