出品｜虎嗅科技組
作者｜余楊
編輯｜苗正卿
頭圖｜視覺中國
當(dāng)?shù)貢r間10月28日，英偉達(dá)在華盛頓特區(qū)舉辦GTC（GPU Technology Conference）大會，CEO黃仁勛發(fā)表主題演講。
黃仁勛指出，英偉達(dá)在過去30年推動的“加速計算”模式，已經(jīng)成為繼馮·諾依曼體系之后60年來計算領(lǐng)域的全新范式。隨著摩爾定律逼近物理極限，傳統(tǒng)CPU性能增長受限，英偉達(dá)通過GPU與CUDA生態(tài)重新定義了計算架構(gòu)。目前全球數(shù)億臺GPU設(shè)備通過CUDA實現(xiàn)代際兼容，支撐了人工智能、自動駕駛、醫(yī)療影像、量子模擬等關(guān)鍵行業(yè)的算力基礎(chǔ)。
在新一輪產(chǎn)業(yè)合作中，英偉達(dá)宣布推出全新產(chǎn)品線NVIDIA ARC（Air Radio Compute），并與諾基亞建立戰(zhàn)略伙伴關(guān)系，共同推進(jìn)基于AI和加速計算的6G基礎(chǔ)設(shè)施。黃仁勛強(qiáng)調(diào)，這標(biāo)志著美國有望重新奪回電信技術(shù)創(chuàng)新的主導(dǎo)權(quán)。ARC平臺整合了英偉達(dá)最新的Blackwell GPU、灰色CPU和ConnectX網(wǎng)絡(luò)芯片，支持AI for RAN（無線接入網(wǎng)人工智能），可通過強(qiáng)化學(xué)習(xí)算法提升頻譜效率和能耗表現(xiàn)，助力全球數(shù)百萬個基站實現(xiàn)智能升級。
在量子計算領(lǐng)域，英偉達(dá)推出全新互聯(lián)架構(gòu)NVQLink 與計算平臺 CUDAQ，實現(xiàn)量子處理單元（QPU）與GPU超級計算機(jī)的協(xié)同。通過AI驅(qū)動的量子糾錯與混合模擬，英偉達(dá)計劃與美國能源部（DOE）合作建設(shè)七臺新一代AI超級計算機(jī)，以推動基礎(chǔ)科學(xué)研究。包括伯克利、費(fèi)米實驗室、洛斯阿拉莫斯等八大國家實驗室已加入該計劃。
黃仁勛認(rèn)為，AI不僅是聊天機(jī)器人或生成模型，而是“重新定義整個計算堆棧的力量”。他強(qiáng)調(diào)，AI的核心是數(shù)據(jù)驅(qū)動的學(xué)習(xí)型編程，需要巨大的能源、GPU算力和全新算法棧的支撐。他特別提到能源政策對AI產(chǎn)業(yè)發(fā)展的關(guān)鍵作用，并肯定美國能源體系的開放為算力革命提供了土壤。
最后，黃仁勛表示，核心兩點是從通用計算向加速計算的兩次平臺轉(zhuǎn)變。NVIDIA CUDA及其名為CUDA-X的一系列庫使我們能夠應(yīng)對幾乎所有行業(yè)，現(xiàn)在它正如虛擬循環(huán)所示地增長。第二個拐點現(xiàn)在已經(jīng)到來，從傳統(tǒng)手寫軟件到AI的轉(zhuǎn)變。兩個平臺同時發(fā)生轉(zhuǎn)變，這就是我們感受到如此驚人增長的原因。
演講后，英偉達(dá)股價創(chuàng)紀(jì)錄高點，市值達(dá)4.89萬億美元。分析師看好政府合同和多元化收入，包括電信、政府和GPU的銷售。黃仁勛預(yù)計，2026年底GPU銷售將達(dá)5000億美元。
以下為演講實錄：
歡迎來到GTC，我不得不說，很難不對美國產(chǎn)生身后的感情和自豪感。
GTC是我們討論工業(yè)、科學(xué)、計算、現(xiàn)在和未來的地方。所以，今天我有很多事情要和大家分享，在開始之前，我想感謝所有幫助這次盛會的合作伙伴。如果沒有我們所有的生態(tài)系統(tǒng)合作伙伴，我們就無法完成我們的工作。人們說，這是人工智能的超級碗，因此每一屆超級碗都有精彩的賽前表演。
你們對于我們的賽前表演以及我們的全明星運(yùn)動員和全明星演員陣容有什么看法？看看這些人。不知怎么的，我的身材反而最健壯。你們覺得怎么樣？
英偉達(dá)60年來首次發(fā)明了全新的計算模型，正如您在視頻中看到的，新的計算模型很少出現(xiàn)，這需要大量的時間和條件。我們觀察到我們發(fā)明了這種計算模型，因為我們想要解決通用計算機(jī)、普通計算機(jī)無法解決的問題。我們也觀察到，總有一天晶體管的數(shù)量會繼續(xù)增長，但晶體管的性能和功耗會放緩，摩爾定律不會超越物理定律的限制，而這一刻現(xiàn)在已經(jīng)到來，迪納爾縮放已經(jīng)停止，這被稱為迪納爾縮放。迪納爾縮放在近十年前就停止了，事實上，晶體管的性能及其相關(guān)功耗已經(jīng)大幅放緩，但晶體管的數(shù)量仍在繼續(xù)增長。我們很久以前就觀察到了這一點，30年來，我們一直在推進(jìn)這種我們稱之為加速計算的計算形式。我們發(fā)明了 GPU。
我們發(fā)明了一種名為 CUDA 的編程模型。我們觀察到，如果我們可以添加一個利用越來越多晶體管的處理器，應(yīng)用并行計算將其添加到順序處理 CPU 中，我們就可以大大擴(kuò)展計算能力。而那一刻真的到來了。我們現(xiàn)在已經(jīng)看到了這個轉(zhuǎn)折點。加速計算的時代已經(jīng)到來，然而，加速計算是一種本質(zhì)上不同的編程模型。 你不能只是把手工編寫的、按順序執(zhí)行的 CPU 軟件放到 GPU 上并讓其正常運(yùn)行。 事實上，如果你那樣做，它運(yùn)行速度反而會更慢。因此，你必須重新發(fā)明新的算法。您必須創(chuàng)建新的庫。事實上，你必須重寫該應(yīng)用程序，這就是為什么花費(fèi)這么長時間的原因。
我們花了近30年的時間才到達(dá)這里。但我們是逐個領(lǐng)域進(jìn)行的。這是我們公司的寶貝。大多數(shù)人都在談?wù)?GPU。GPU 很重要，但如果沒有一個基于它的編程模型，并且沒有專注于該編程模型，保持其代際兼容，我們現(xiàn)在從 CUDA 13 到CUDA 14，每臺計算機(jī)中運(yùn)行著數(shù)億個 GPU，完美兼容。如果我們不這樣做，那么開發(fā)人員就不會瞄準(zhǔn)這個計算平臺。如果我們不創(chuàng)建這些庫，那么開發(fā)人員就不知道如何使用該算法并充分利用該架構(gòu)一個又一個的申請。 我的意思是這些真的是我們公司的財富。 CU litho 計算光刻。我們花了近七年時間才研發(fā)出KU Litho 技術(shù)，現(xiàn)在臺積電、三星、ASML都在使用它。這是一個令人難以置信的計算光刻庫。
制作芯片的第一步用于 CAE 應(yīng)用的稀疏求解器。 合作社數(shù)值優(yōu)化幾乎打破了每一項記錄。 旅行商問題如何將數(shù)百萬種產(chǎn)品與供應(yīng)鏈中的數(shù)百萬客戶聯(lián)系起來。Warp Python 是一款用于 CUDA 仿真的求解器。 QDF 是一種數(shù)據(jù)框架方法，基本上可以加速 SQL 數(shù)據(jù)框架和數(shù)據(jù)框架數(shù)據(jù)庫。嗯，這個庫是人工智能的起源，加上它上面的庫，稱為 megatron core,使我們能夠模擬和訓(xùn)練極大的語言模型。這樣的例子不勝枚舉。呃Monai，真的非常重要，世界上排名第一的醫(yī)學(xué)成像 AI 框架。 呃,順便說一下，我們今天不會談?wù)撎嘤嘘P(guān)醫(yī)療保健的話題，但一定要看看金伯利的主題演講。她將詳細(xì)談?wù)勎覀冊卺t(yī)療保健領(lǐng)域所做的工作。這樣的例子不勝枚舉呃，基因組處理。
今天我們在這里要做一件非常重要的事情，量子計算的妙招。這只是我們公司350個不同圖書館中的一個代表，并且每個庫都重新設(shè)計了加速計算所需的算法。每一個庫都使所有生態(tài)系統(tǒng)合作伙伴能夠利用加速計算。這些圖書館中的每一個都為我們開辟了新的市場讓我們看看 CUDAX 可以做什么。
這很神奇嗎? 你所看到的一切都是模擬的。沒有藝術(shù)，沒有動畫。這就是數(shù)學(xué)之美，這是深奧的計算機(jī)科學(xué)。深奧的數(shù)學(xué)。它真是美得令人難以置信。
從醫(yī)療保健和生命科學(xué)到制造業(yè)、機(jī)器人、自動駕駛汽車、計算機(jī)圖形甚至視頻游戲，各個行業(yè)都得到了涵蓋。你看到的第一個鏡頭，是英偉達(dá)運(yùn)行的第一個應(yīng)用程序。這就是我們在 1993 年起步的地方。我們始終堅信我們要做的事情。
很難想象，當(dāng)初你能夠親眼目睹第一個虛擬格斗場景栩栩如生地呈現(xiàn)在你眼前時，那家公司竟然相信我們今天會站在這里。這真是一段非常非常不可思議的旅程。我要感謝所有 NVIDIA 員工所做的一切。 真是太不可思議了。
今天我們要報道的行業(yè)很多。我將介紹人工智能、6G、量子、模型、企業(yè)計算、機(jī)器人和工廠。讓我們開始吧。主我們有很多事情要報道，有很多重大公告要發(fā)布，還有很多新合作伙伴會讓你大吃一驚。 電信是我們經(jīng)濟(jì)、工業(yè)和國家安全的支柱和命脈。然而，自從無線技術(shù)誕生以來，我們就定義了技術(shù)，定義了全球標(biāo)準(zhǔn)，我們將美國技術(shù)出口到世界各地，以便世界能夠在美國技術(shù)和標(biāo)準(zhǔn)的基礎(chǔ)上進(jìn)行建設(shè)，這件事已經(jīng)很久沒有發(fā)生過了。目前世界各地的無線技術(shù)大多部署在國外技術(shù)之上。我們的基本通信結(jié)構(gòu)建立在外國技術(shù)之上。這種現(xiàn)象必須停止，我們有機(jī)會做到這一點，特別是在這個根本性的平臺轉(zhuǎn)變期間。
眾所周知，計算機(jī)技術(shù)是幾乎所有行業(yè)的基礎(chǔ)。它是科學(xué)中最重要的儀器。它是工業(yè)領(lǐng)域最重要的工具。我剛才說過，我們正在經(jīng)歷平臺轉(zhuǎn)變。這種平臺轉(zhuǎn)變應(yīng)該是我們千載難逢的機(jī)會，讓我們重新回到游戲中，開始利用美國技術(shù)進(jìn)行創(chuàng)新。
今天，我們宣布我們將這樣做。我們與諾基亞有著重要的合作關(guān)系。諾基亞是全球第二大電信設(shè)備制造商。這是一個價值三萬億美元的產(chǎn)業(yè)。基礎(chǔ)設(shè)施投資達(dá)數(shù)千億美元。全世界有數(shù)百萬個基站。如果我們能夠合作，我們就可以在這項基于加速計算和人工智能的令人難以置信的新技術(shù)的基礎(chǔ)上進(jìn)行開發(fā)。對美國來說，美國將成為下一次 6G 革命的中心。
所以今天我們宣布 Nvidia 推出了一條新的產(chǎn)品線。它叫做NVIDIA Arc。空中無線電網(wǎng)絡(luò)計算機(jī)、空中 RAM 計算機(jī):ARC。Arc 由三項基本新技術(shù)構(gòu)建而成灰色 CPU、Blackwell GPU以及我們?yōu)榇藨?yīng)用設(shè)計的 ConnectX Melanox Connectx網(wǎng)絡(luò)。所有這些使得我們能夠運(yùn)行這個庫，即我之前提到的 CUDAX庫,稱為 Aerial。 Ariel本質(zhì)上是一個在CUDAX上運(yùn)行的無線通信系統(tǒng)。
我們將首次創(chuàng)建一個軟件定義的可編程計算機(jī)，它能夠同時進(jìn)行無線通信和 AI處理。 這完全是革命性的。我們稱之為 Nvidia Arc。諾基亞將與我們合作，整合我們的技術(shù)，重寫他們的技術(shù)棧。這是一家擁有7000項5G基礎(chǔ)必要專利的公司，很難想象電信行業(yè)還有比他更偉大的領(lǐng)導(dǎo)者因此，我們將與諾基亞合作。他們將把 Nvidia Arc 作為他們未來的基站。 Nvidia Arc 也兼容 Airscale，即諾基亞目前的基站。這意味著我們將采用這項新技術(shù)，并能夠使用 6G 和 AI升級全球數(shù)百萬個基站。
現(xiàn)在，6G 和 AI確實非常重要因為我們將首次能夠使用 AI技術(shù)(AI for RAN):來提高無線電通信的頻譜效率，使用人工智能強(qiáng)化學(xué)習(xí)，根據(jù)周圍環(huán)境交通、移動性和天氣實時調(diào)整波束成形。所有這些都可以考慮在內(nèi)，以便我們能夠提高頻譜效率。 頻譜效率提升消耗了全球約 1.5%至 2%的電力。因此，提高頻譜效率不僅可以提高，我們能夠在不增加所需能量的情況下通過無線網(wǎng)絡(luò)傳輸?shù)臄?shù)據(jù)量。我們還可以利用 AI for RAN 來實現(xiàn)RAM 上的 AI。這是一個全新的機(jī)會。
還記得互聯(lián)網(wǎng)帶來的通信便利嗎?令人驚嘆的是，AWS 等聰明的公司在互聯(lián)網(wǎng)之上構(gòu)建了一個云計算系統(tǒng)。我們現(xiàn)在將在無線電信網(wǎng)絡(luò)上做同樣的事情，這個新的云將是一個邊緣工業(yè)機(jī)器人云。這就是 AIon RAN 的由來，首先是 AIfor RAN，旨在提高無線電頻譜效率第二點是無線接入網(wǎng)(RAN)上的人工智能，本質(zhì)上是用于無線通信的云計算。
云計算能夠延伸到數(shù)據(jù)中心尚未覆蓋的邊緣地帶，因為我們在世界各地都設(shè)有基站。這個公告確實令人興奮。我認(rèn)為首席執(zhí)行官賈斯汀·霍達(dá)(Justin Hodar) 就在房間的某個地方。感謝您的合作。感謝您幫助美國將電信技術(shù)帶回美國。這真是一次非常棒的合作。非常感謝。
讓我們來談?wù)劻孔佑嬎恪?1981年粒子物理學(xué)家量子物理學(xué)家理查德·費(fèi)曼設(shè)想了一種新型計算機(jī)，可以以直接模擬自然，因為自然是量子的。他稱之為量子計算機(jī)。40年后，該行業(yè)取得了根本性的突破。 40年后:就在去年，取得了一項根本性的突破�，F(xiàn)在可以制作一個邏輯肘。邏輯肘尺。一個邏輯肘尺，連貫穩(wěn)定，并且過去曾被糾正過錯誤�，F(xiàn)在，一個邏輯上的肘尺有時可能由幾十個、有時由幾百個物理上的肘尺組成，它們共同協(xié)作。如你所知，立方體，這些粒子非常脆弱。它們很容易變得不穩(wěn)定。任何觀察、任何采樣、任何環(huán)境條件都會導(dǎo)致它變得不相干。因此，它需要一個極其良好控制的環(huán)境。
現(xiàn)在還有很多不同的物理肘尺，它們可以協(xié)同工作，我們可以對這些所謂的輔助肘尺或綜合征肘尺進(jìn)行糾錯，以便我們糾正它們并推斷出邏輯肘尺狀態(tài)。量子計算機(jī)有各種不同的類型。超導(dǎo)、光子、囚禁離子、穩(wěn)定原子，各種不同的方法來創(chuàng)建量子計算機(jī)。好吧，我們現(xiàn)在意識到將量子計算機(jī)直接連接到GPU 超級計算機(jī)對我們來說至關(guān)重要，這樣我們就可以進(jìn)行錯誤校正，以便我們能夠?qū)α孔佑嬎銠C(jī)進(jìn)行人工智能校準(zhǔn)和控制以便我們能夠共同進(jìn)行模擬。正確的算法在 GPU 上運(yùn)行，正確的算法在 QPU 上運(yùn)行兩個處理器、兩臺計算機(jī)并行工作。這就是量子計算的未來。
我們來看一下。構(gòu)建量子計算機(jī)的方法有很多種它們都以量子比特(cubit)為核心構(gòu)建模塊。但無論采用何種方法，所有立方體，無論是超導(dǎo)立方體、囚禁離子、中性原子還是光子，都面臨著同樣的挑戰(zhàn)。它們很脆弱，而且對噪音極其敏感。今天的 Qbits 僅在幾百次操作中保持穩(wěn)定。但解決有意義的問題需要數(shù)萬億次運(yùn)算答案是量子糾錯。測量會擾亂肘尺，從而破壞其中的信息。訣竅是在纏結(jié)中添加額外的肘尺以便測量它們可以為我們提供足夠的信息來計算錯誤發(fā)生的位置，而不會損壞我們關(guān)心的肘尺。它非常出色，但需要超越目前最先進(jìn)的傳統(tǒng)計算能力。這就是我們構(gòu)建 NVQLink 的原因，它是一種將量子處理器與 NVIDIA GPU 直接連接起來的新型互連架構(gòu)。
量子糾錯需要從量子信息處理系統(tǒng)(QIDS)中讀取信息，計算錯誤發(fā)生的位置，并將數(shù)據(jù)發(fā)送回去以糾正錯誤。MVQLink 能夠?qū)?shù) TB 的數(shù)據(jù)移入和移出量子硬件。每秒可進(jìn)行數(shù)千次量子糾錯。其核心是 CUDAQ，這是我們用于量子 GPU 計算的開放平臺。 使用MVQL鏈接和 CUDAQ，研究人員將能夠做的不僅僅是糾錯。他們還將能夠協(xié)調(diào)量子設(shè)備和人工智能超級計算機(jī)來運(yùn)行量子GPU應(yīng)用程序:量子計算不會取代經(jīng)典系統(tǒng)。它們將共同融合成一個加速量子超級計算平臺。哇，這個階段真長。
你知道，首席執(zhí)行官們，我們不會只是坐在辦公桌前打字。這是一項體力活。體力工作。所以，今天我們宣布 MVMVQL鏈接，它MVQ 鏈接。通過兩件事成為可能。當(dāng)然，這種互連可以進(jìn)行量子計算機(jī)控制和校準(zhǔn)、量子糾錯，還可以連接兩臺計算機(jī)(QPU和我們的 GPU 超級計算機(jī))以進(jìn)行混合模擬。它也是完全可擴(kuò)展的。
它不只是對今天的幾肘尺數(shù)字進(jìn)行糾錯。它為未來進(jìn)行糾錯屆時我們將把這些量子計算機(jī)的規(guī)模從今天的幾百立方比特擴(kuò)展到未來的幾萬立方比特，甚至幾十萬立方比特。所以我們現(xiàn)在有一個可以進(jìn)行控制、協(xié)同模擬、量子糾錯和未來擴(kuò)展的架構(gòu)。自CUDAQ發(fā)明以來，業(yè)界給予了極大的支持請記住，CUDA 是為 GPU CPU 加速計算而設(shè)計的�；旧暇褪峭瑫r使用這兩個處理器用合適的工具做合適的工作。
現(xiàn)在CUDAQ 已經(jīng)超越了 CUDA，因此我們可以支持 QPU，讓 QPU 和 GPU 兩個處理器一起工作，并且計算可以在短短幾微秒內(nèi)來回移動。與量子計算機(jī)合作所必需的延遲所以現(xiàn)在 CUDAQ 是一項了不起的突破，被眾多不同的開發(fā)人員所采用。
我們今天宣布有 17 家不同的量子計算機(jī)行業(yè)公司支持MVQ 鏈接，我對這8個不同的 DOE 實驗室感到非常興奮。 伯克利、布魯克海文芝加哥的費(fèi)爾米實驗室、林肯實驗室、洛斯阿拉莫斯、奧克里奇、太平洋西北地區(qū)、圣地亞哥蘭喬實驗室，幾乎每一個能源部實驗室都與我們合作，與我們的量子計算機(jī)公司生態(tài)系統(tǒng)和這些量子控制器合作，以便我們可以將量子計算融入未來的科學(xué)。好吧，我還有一個補(bǔ)充消息要宣布。
今天，我們宣布能源部將與 NVIDIA 合作建造七臺新的 AI超級計算機(jī)，以推動我們國家的科學(xué)發(fā)展，我必須特別提一下克里斯賴特部長。他為美國能源部注入了巨大的活力，一股澎湃的熱情，確保美國在科學(xué)領(lǐng)域保持領(lǐng)先地位。再次，正如我所提到的，平臺轉(zhuǎn)變。一方面，我們要加速計算。這就是為什么未來的每臺超級計算機(jī)都將是基于 GPU 的超級計算機(jī)。我們要發(fā)展人工智能，這樣人工智能和基于原理的求解器、基于原理的模擬、基于原理的物理模擬就不會消失。但它可以被增強(qiáng)、改進(jìn)、擴(kuò)展，還可以使用代理模型和人工智能模型協(xié)同工作。
我們還知道，經(jīng)典計算的主要求解器可以通過量子計算得到增強(qiáng)，從而更好地理解自然狀態(tài)。我們還知道，在未來，我們將有如此多的信號，如此多的數(shù)據(jù)需要從世界采樣遙感比以往任何時候都更加重要。除非這些實驗室是機(jī)器人工廠、機(jī)器人實驗室，否則它們不可能以我們需要的規(guī)模和速度進(jìn)行實驗。因此，所有這些不同的技術(shù)都同時進(jìn)入科學(xué)領(lǐng)域賴特部長明白這一點，他希望能源部借此機(jī)會增強(qiáng)自身實力，確保美國始終處于科學(xué)前沿。我要為此感謝你們所有人。謝謝
讓我們來談?wù)勅斯ぶ悄堋Ｊ裁词侨斯ぶ悄?大多數(shù)人會說人工智能就是聊天機(jī)器人，這話沒錯。毫無疑問，ChatGPT 處于人們所認(rèn)為的 AI 的前沿。然而，正如你現(xiàn)在看到的這些科學(xué)超級計算機(jī)不會運(yùn)行聊天機(jī)器人。他們將進(jìn)行基礎(chǔ)科學(xué)研究�？茖W(xué)、人工智能、人工智能的世界遠(yuǎn)遠(yuǎn)不止聊天機(jī)器人那么簡單。當(dāng)然，聊天機(jī)器人極其重要，而通用人工智能(AGI)從根本上來說至關(guān)重要。深厚的計算機(jī)科學(xué)、令人難以置信的計算能力和重大突破對于 AGI來說仍然至關(guān)重要。但除此之外，人工智能還有更多用途。
事實上，人工智能就是..….我將用幾種不同的方式來描述人工智能。第一種方法，或者說你對人工智能的第一種理解，是它徹底重塑了計算堆棧。我們過去開發(fā)軟件的方式是手工編寫代碼運(yùn)行在CPU上的手工編寫軟件。如今的人工智能如果你愿意的話，就是機(jī)器學(xué)習(xí)，一種訓(xùn)練數(shù)據(jù)密集型的編程，由運(yùn)行在GPU上的人工智能進(jìn)行訓(xùn)練和學(xué)習(xí)。
為了實現(xiàn)這一目標(biāo)，整個計算堆棧都發(fā)生了改變。請注意，您在這里看不到Windows。這里看不到CPU。您會看到一個完全不同的、根本上完全不同的堆棧。從能源需求開始。而在這方面，我們的政府，特朗普總統(tǒng)，理應(yīng)獲得巨大的贊譽(yù)。他倡導(dǎo)能源，并認(rèn)識到這個行業(yè)需要能源才能發(fā)展。它需要能量才能前進(jìn)。我們需要能量才能贏得勝利。他認(rèn)識到了這一點，并舉全國之力支持能源增長，徹底改變了局面。如果這件事沒有發(fā)生，我們可能會陷入糟糕的境地我要為此感謝特朗普總統(tǒng)。
能源之上是這些 GPU，這些 GPU連接到內(nèi)置基礎(chǔ)設(shè)施，我稍后會向您展示。除此之外，還有由巨型數(shù)據(jù)中心組成的基礎(chǔ)設(shè)施，其規(guī)模很容易是這個房間的數(shù)倍，這些數(shù)據(jù)中心會產(chǎn)生大量的能量，然后通過這種被稱為GPU 超級計算機(jī)的新機(jī)器將能量進(jìn)行轉(zhuǎn)換，從而生成數(shù)字。這些數(shù)字被稱為令牌。如果你愿意的話，語言就是人工智能的計算單位和詞匯。您幾乎可以將任何東西標(biāo)記化。當(dāng)然，你可以將英文單詞標(biāo)記化。你可以對圖像進(jìn)行分詞。這就是您能夠識別圖像或生成圖像、標(biāo)記視頻、標(biāo)記3D 結(jié)構(gòu)的原因。
你可以將化學(xué)物質(zhì)、蛋白質(zhì)和基因進(jìn)行標(biāo)記化。你可以對單元格進(jìn)行標(biāo)記化幾乎可以對任何具有結(jié)構(gòu)的內(nèi)容進(jìn)行標(biāo)記化，對任何具有信息內(nèi)容的內(nèi)容進(jìn)行標(biāo)記化。一旦你能將其標(biāo)記化人工智能就可以學(xué)習(xí)該語言及其含義。一旦它學(xué)會了那種語言的含義:它就能翻譯了。它可以像您與聊天 GPT 互動一樣做出響應(yīng)。它可以像GPT可以生成的聊天一樣生成。
所以，您看到ChatGPT所做的所有基本事情，您所要做的就是想象一下，如果它是一種蛋白質(zhì)，如果它是一種化學(xué)物質(zhì)如果它是一個像工廠一樣的 3D 結(jié)構(gòu)。如果它是一個機(jī)器人，并且令牌是理解行為并將運(yùn)動和動作標(biāo)記化。這些概念本質(zhì)上都是相同的，這也是人工智能取得如此非凡進(jìn)步的原因。
在這些模型之上，還有應(yīng)用轉(zhuǎn)換器。變形金剛不是通用模型。這是一個非常有效的模型。但并不存在一種通用的模式。 問題在于人工智能具有普遍影響模型種類繁多，在過去的幾年里，我們享受了多模態(tài)的發(fā)明并經(jīng)歷了創(chuàng)新突破。 有很多不同類型的模型。有 CNN 模型競爭神經(jīng)網(wǎng)絡(luò)模型、它們的狀態(tài)空間模型、它們的圖神經(jīng)網(wǎng)絡(luò)模型多模態(tài)模型，當(dāng)然還有我剛才描述的所有不同的分詞和標(biāo)記方法。您可以擁有空間模型，并且其理解針對空間感知進(jìn)行了優(yōu)化。您可以擁有針對長序列識別長期細(xì)微信息而優(yōu)化的模型。模型種類繁多。
在這些模型架構(gòu)之上，在這些模型架構(gòu)之上是應(yīng)用程序，是過去的軟件。這是對人工智能的一個深刻的理解，一個深刻的觀察。過去的軟件行業(yè)就是創(chuàng)造工具。Excel是一個工具。文字是一種工具。網(wǎng)絡(luò)瀏覽器是一種工具。我之所以知道這些是工具，是因為你使用它們。工具行業(yè)就像螺絲刀和錘子一樣，規(guī)模就那么大。就IT工具而言，它們可能是數(shù)據(jù)庫工具。這些IT工具的總價值大約為一萬億美元。但人工智能并不是工具。人工智能就是工作。這就是深刻的區(qū)別。
人工智能實際上是能夠?qū)嶋H使用工具的工人。讓我真正興奮的事情之一是lrvin 在 Perplexity 所做的工作。 Perplexity使用網(wǎng)絡(luò)瀏覽器預(yù)訂假期或購物，本質(zhì)上是一個使用工具的人工智能。Cursor 是我們在 NVIDIA 使用的 AI系統(tǒng)。Nvidia 的每一位軟件工程師都使用光標(biāo)，這極大地提高了我們的工作效率。它使用的工具稱為 VS 代碼。所以 Cursor 是一個使用 VS Code 的 AI智能體系統(tǒng)。 好吧，所有這些不同的行業(yè)，這些不同的行業(yè)，無論是聊天機(jī)器人還是數(shù)字生物學(xué)，我們都有人工智能助理研究人員，或者機(jī)器人出租車?yán)锩娴臋C(jī)器人。出租車是什么?當(dāng)然，它是看不見的，但顯然有一個人工智能司機(jī)。那位司機(jī)正在工作，而他用來完成這項工作的工具就是汽車。
所以，我們迄今為止所創(chuàng)造的一切，整個世界，我們迄今為止所創(chuàng)造的一切都是工具。供我們使用的工具。科技首次能夠幫助我們工作，提高生產(chǎn)力。機(jī)遇數(shù)不勝數(shù)，這也是人工智能能夠觸及此前從未涉足的經(jīng)濟(jì)領(lǐng)域的原因。這幾萬億美元隱藏在數(shù)百萬億美元的全球經(jīng)濟(jì)工具之下�，F(xiàn)在人工智能將首次參與到這個價值千億美元的經(jīng)濟(jì)體中，使其更具生產(chǎn)力，增長更快，規(guī)模更大。
我們面臨嚴(yán)重的勞動力短缺。擁有增強(qiáng)勞動力的人工智能將幫助我們成長。從科技行業(yè)的角度來看，有趣的是，除了人工智能是一項針對經(jīng)濟(jì)新領(lǐng)域的新技術(shù)之外，人工智能本身也是一個新的產(chǎn)業(yè)。正如我之前解釋的那樣，當(dāng)你將所有這些不同模式的信息標(biāo)記化之后，就需要一個工廠來生產(chǎn)這些數(shù)字，這與過去的計算機(jī)行業(yè)和芯片行業(yè)不同。
如果你回顧過去的芯片產(chǎn)業(yè)，你會發(fā)現(xiàn)芯片產(chǎn)業(yè)在數(shù)萬億美元的IT產(chǎn)業(yè)中只占大約5%到10%，甚至可能不到5%。原因在于，使用 Excel不需要進(jìn)行太多計算。使用瀏覽器并不需要太多的計算能力。使用 Word 并不需要太多的計算。我們進(jìn)行計算。但在這個新世界中需要有一臺能夠隨時理解上下文的計算機(jī)。它無法預(yù)先計算這一點，因為每次你使用計算機(jī)進(jìn)行人工智能時每次你要求人工智能做某事時背景都是不同的。
所以，它必須處理所有這些信息。以環(huán)境為例，對于自動駕駛汽車來說，它必須處理汽車的環(huán)境。上下文處理。你要求人工智能執(zhí)行什么指令?然后，它必須一步一步地分解問題，思考此事，制定計劃并付諸實施。該步驟中的每個操作都需要生成大量tokens。這就是為什么我們需要一種新型系統(tǒng)的原因，我稱之為AI工廠。這絕對是個AI工廠。
它與過去的數(shù)據(jù)中心截然不同。這是一座AI工廠，因為這座工廠只生產(chǎn)一種東西。不同于過去包攬一切的數(shù)據(jù)中心——為我們所有人存儲文件，運(yùn)行各種不同的應(yīng)用程序，你可以像使用電腦一樣使用該數(shù)據(jù)中心，運(yùn)行各種應(yīng)用程序，你某天可以用它來玩游戲，可以用它來瀏覽網(wǎng)頁，可以用它來做賬。因此，那是一臺屬于過去的計算機(jī)，一臺通用計算機(jī)。
我在此所說的計算機(jī)是一座工廠，它基本上只運(yùn)行一件事。它運(yùn)行AI，其目的在于生成價值最大化的tokens。這意味著他們必須聰明。而你希望以驚人的速度生成這些tokens，因為當(dāng)你向AI提出請求時，你希望它做出回應(yīng)。請注意，在高峰時段，這些AI的響應(yīng)速度正變得越來越慢，因為它要為很多人做很多工作。因此你希望它能以驚人的速度生成有價值的tokens，而你希望它能以經(jīng)濟(jì)高效的方式實現(xiàn)。我使用的每個詞都符合AI工廠的特征，與汽車廠或任何工廠一樣。這絕對是工廠，而且這些工廠以前從未存在過。而這些工廠里堆積著成山的芯片。
這便引出了今天。過去幾年發(fā)生了什么？事實上，去年發(fā)生了什么？其實今年確實發(fā)生了一件相當(dāng)深刻的事情。若你回顧年初，每個人對AI都有自己的看法。這種態(tài)度通常是：這會是個大事件，那將是未來。而幾個月前，不知怎么的，它啟動了渦輪增壓。
原因有以下幾點。第一點是，在過去的幾年里，我們已經(jīng)摸清了如何讓AI變得聰明得多。與其說只是預(yù)訓(xùn)練，不如說預(yù)訓(xùn)練本質(zhì)上表明：讓我們把人類創(chuàng)造過的所有信息都拿出來，讓我們把它交給AI來學(xué)習(xí)吧，本質(zhì)上就是記憶和概括。這就像我們小時候上學(xué)一樣，學(xué)習(xí)的第一階段。預(yù)訓(xùn)練從來就不是終點，正如學(xué)前教育也從來不是教育的終點。
學(xué)前教育，本質(zhì)上就是培養(yǎng)你掌握智力發(fā)展的基礎(chǔ)技能，讓你懂得如何學(xué)習(xí)其他一切知識。沒有詞匯量，不理解語言及其表達(dá)方式，如何思考，這是無法學(xué)到其他一切的。接下來是培訓(xùn)后階段。培訓(xùn)之后，在培訓(xùn)之前，是傳授你解決問題的技能，分解問題，思考它，如何解決數(shù)學(xué)問題，如何編寫代碼，如何逐步思考這些問題，運(yùn)用第一性原理推理。而之后才是計算真正發(fā)揮作用的階段。
眾所周知，對我們許多人來說，我們?nèi)ド蠈W(xué)了，就我而言，那是幾十年前的事了。但自那以后，我學(xué)到了更多，思考得也更深了。而原因在于我們始終在不斷汲取新知識來充實自己。我們不斷進(jìn)行研究，也持續(xù)思考。思考才是智力的真正本質(zhì)。
因此，我們現(xiàn)在擁有三項基礎(chǔ)技術(shù)能力。我們擁有這三項技術(shù)：預(yù)訓(xùn)練，仍需投入巨大資源，海量的計算量。我們現(xiàn)在有后訓(xùn)練，它使用了更多的計算資源。而如今，思考給基礎(chǔ)設(shè)施帶來了難以置信的計算負(fù)荷，因為它在為我們每個人代勞思考。因此，AI進(jìn)行思考所需的計算量，這種推論，實在相當(dāng)非凡。
以前我常聽人說推理很容易，英偉達(dá)應(yīng)該進(jìn)行培訓(xùn)。NVIDIA要搞的，你知道的，他們在這方面真的很厲害，所以他們要進(jìn)行培訓(xùn)，這個推論很簡單。但思考怎么可能容易？背誦記憶的內(nèi)容很容易，背誦乘法表很容易。思考是艱難的，這正是這三把尺子的緣由。這三條新的標(biāo)度律，即全部內(nèi)容都在其中全速運(yùn)轉(zhuǎn)，給計算量帶來了巨大壓力。
現(xiàn)在又發(fā)生了另一件事。從這三條標(biāo)度律中，我們獲得了更智能的模型。而這些更智能的模型需要更強(qiáng)的計算能力。但當(dāng)你獲得更智能的模型時，你便獲得了更高的智能水平，人們使用它。你的模型越聰明，使用的人越多。現(xiàn)在它更接地氣了，它能夠進(jìn)行推理。它能夠解決以前從未學(xué)過如何解決的問題，因為它能做研究，去了解它，回來拆解它，思考如何解決你的問題，如何回答你的問題，然后去解決它。思考的深度正使模型變得更智能。它越智能，使用的人就越多。它越智能，就需要進(jìn)行越多的計算。
但事情是這樣的。過去一年，AI行業(yè)迎來了轉(zhuǎn)折點。這意味著AI模型如今已足夠智能，他們正在創(chuàng)造價值，他們值得為此付費(fèi)。NVIDIA為每份Cursor許可證付費(fèi)，我們樂意如此。我們樂意為之，因為Cursor正助力身價數(shù)十萬美元的軟件工程師或AI研究員實現(xiàn)多重價值，效率高出許多倍。當(dāng)然，我們非常樂意為您效勞。這些AI模型已經(jīng)足夠優(yōu)秀，值得為此付費(fèi)。Cursor、ElevenLabs、Synthesia、Abridge、OpenEvidence，名單還在繼續(xù)。當(dāng)然，OpenAI，當(dāng)然，Claude。這些模型如今如此出色，人們?yōu)榇烁顿M(fèi)。
而且因為人們正在為此付費(fèi)并使用得更多，每次他們使用更多時，你需要更多計算能力。我們現(xiàn)在有兩個指數(shù)函數(shù)。這兩個指數(shù)，其中一個是三階縮放定律中的指數(shù)計算需求。第二個指數(shù)函數(shù)是，模型越聰明，使用的人越多，使用的人越多，它需要的計算量就越大。
兩個指數(shù)級增長的趨勢正對全球計算資源施加壓力，而就在不久前我才告訴過你們，摩爾定律已基本終結(jié)。那么問題來了，我們該怎么辦？如果我們有這兩項指數(shù)級增長的需求，如果我們找不到降低成本的方法，那么這個正反饋系統(tǒng)，這個本質(zhì)上稱為良性循環(huán)的循環(huán)反饋系統(tǒng)——對幾乎所有行業(yè)都至關(guān)重要，對任何平臺型行業(yè)都至關(guān)重要——就可能無法持續(xù)。
這對英偉達(dá)至關(guān)重要。我們現(xiàn)已進(jìn)入CUDA的虛擬周期。應(yīng)用程序越多，人們創(chuàng)建的應(yīng)用程序越多，CUDA就越有價值。CUDA越有價值，購買的CUDA計算機(jī)就越多。購買的CUDA并行計算機(jī)越多，越來越多的開發(fā)者希望為其創(chuàng)建應(yīng)用程序。經(jīng)過三十年的發(fā)展，英偉達(dá)終于實現(xiàn)了這一虛擬循環(huán)。十五年后，我們終于在AI領(lǐng)域?qū)崿F(xiàn)了這一目標(biāo)。AI現(xiàn)已進(jìn)入虛擬循環(huán)階段。
因此你用得越多，因為AI很聰明，而我們?yōu)榇烁顿M(fèi)，產(chǎn)生的利潤就越多。產(chǎn)生的利潤越多，投入的計算資源就越多。在電網(wǎng)中，投入到AI工廠的計算資源越多，計算能力越強(qiáng)，AI變得越來越聰明。越聰明，使用它的人越多，使用它的應(yīng)用程序就越多，我們能解決的問題就越多。
這個虛擬循環(huán)正在運(yùn)轉(zhuǎn)。我們需要做的是大幅降低成本。因此，其一，用戶體驗得以提升，當(dāng)你向AI發(fā)出指令時，它會更快地作出響應(yīng)。其二，通過降低其成本來維持這個虛擬循環(huán)的運(yùn)轉(zhuǎn)，以便它能變得更智能，以便更多人會使用它，諸如此類。那個虛擬循環(huán)正在運(yùn)轉(zhuǎn)。
但當(dāng)摩爾定律真的達(dá)到極限時，我們該如何突破呢？答案就是極致協(xié)同設(shè)計。你不能僅僅設(shè)計芯片，就指望在芯片上運(yùn)行的東西會變得更快。在芯片設(shè)計中，你所能做的最好就是添加——我不知道，每隔幾年晶體管數(shù)量就會增加50%。如果你再增加更多晶體管的話……你知道嗎，我們可以擁有更多的晶體管，臺積電是一家了不起的公司，我們只會繼續(xù)增加更多晶體管。
然而，這些都是百分比，而非指數(shù)增長。我們需要復(fù)合指數(shù)增長來維持這個虛擬循環(huán)的運(yùn)轉(zhuǎn)。我們稱之為極致協(xié)同設(shè)計。
英偉達(dá)是當(dāng)今世界上唯一一家能夠真正從一張白紙開始，構(gòu)思全新基礎(chǔ)架構(gòu)的公司，包括計算機(jī)架構(gòu)、新型芯片、新型系統(tǒng)、新型軟件、新型架構(gòu)、新型應(yīng)用程序，同時兼顧。在座的許多人之所以在此，是因為你們都是那層結(jié)構(gòu)的不同組成部分，在與NVIDIA合作時，是該堆棧的不同部分。我們從根本上重新構(gòu)建了所有架構(gòu)。
然后，由于AI是一個如此龐大的問題，我們擴(kuò)大規(guī)模。我們打造了一臺完整的計算機(jī)，這是首臺能夠擴(kuò)展至整機(jī)架規(guī)模的計算機(jī)。這臺計算機(jī)配備單張GPU，隨后我們通過發(fā)明名為Spectrum-X的新型AI以太網(wǎng)技術(shù)實現(xiàn)橫向擴(kuò)展。
人人都說以太網(wǎng)就是以太網(wǎng)。但以太網(wǎng)根本算不上以太網(wǎng)。Spectrum-X以太網(wǎng)專為AI性能而設(shè)計，這正是它如此成功的原因。即便如此，那也不夠大。我們將用AI超級計算機(jī)和GPU 填滿整個房間。這仍然不夠大，因為AI的應(yīng)用數(shù)量和用戶數(shù)量正在持續(xù)呈指數(shù)級增長。
我們將多個這樣的數(shù)據(jù)中心相互連接起來，我們稱之為Spectrum-XGS的規(guī)�！狦iga Scale X-Spectrum。通過這樣做，我們在如此巨大的層面上進(jìn)行協(xié)同設(shè)計，達(dá)到如此極致的程度，其性能提升令人震驚，并非每代提升50%或25%，但遠(yuǎn)不止于此。
這是我們迄今為止打造的最極致的協(xié)同設(shè)計計算機(jī)，坦率地說，是現(xiàn)代制造的。自IBM System/360 以來，我認(rèn)為還沒有哪臺計算機(jī)像這樣被徹底重新設(shè)計過。這個系統(tǒng)的創(chuàng)建過程極其艱難。
我馬上讓你見識它的妙處。但本質(zhì)上我們所做的，好吧，這有點像美國隊長的盾牌。所以NVLink72，如果我們要制造一枚巨型芯片，一塊巨型 GPU，它看起來會是這樣。這就是我們必須進(jìn)行的晶圓級加工的程度，太不可思議了。
所有這些芯片現(xiàn)在都被裝入一個巨大的機(jī)架中。是我干的還是別人干的？放入那個巨大的架子…… 你知道嗎，有時候我覺得自己并不孤單。僅憑這組巨型支架，便使所有芯片協(xié)同運(yùn)作，渾然一體。這簡直令人難以置信，我這就向你展示其中的好處。情況是這樣的。所以…… 謝謝，珍妮。我——我喜歡這個。嗯。好的。女士們、先生們，賈妮娜·保羅。哇！明白了。在未來……
接下來，我就像雷神那樣去干。就像你在家里，卻夠不到遙控器，你只要這樣做，就會有人把它送給你。就是這樣。嗯。如果你看一下列表。這種事從不會發(fā)生在我身上，我只是在做夢罷了。
看起來你實際能基準(zhǔn)測試的GPU 列表大約有 90% 是 NVIDIA。好吧，所以不管怎樣，我們基本上…… 但是。這是 NVLink 8。如今，這些模型如此龐大，我們的解決方式是將模型將這個龐然大物拆解成眾多專家。這有點像一個團(tuán)隊。因此，這些專家擅長處理特定類型的問題。我們召集了一大批專家。
因此，這個價值數(shù)萬億美元的巨型AI 模型匯聚了眾多不同領(lǐng)域的專家。我們將所有這些不同領(lǐng)域的專家都集中到一個 GPU 上�，F(xiàn)在，這是 NVLink 72。我們可以把所有芯片都集成到一塊巨型晶圓上，每位專家都能相互交流。因此，這位首席專家能夠與所有在崗的專家進(jìn)行交流，以及所有必要的上下文、提示和我們必須處理的大量數(shù)據(jù)，一堆tokens，我們必須發(fā)送給所有專家。專家們會…… 無論哪位專家被選中解答問題，都會隨即嘗試作出回應(yīng)。
然后它就會開始逐層逐層地執(zhí)行這個操作，有時八人，有時十六人，有時這些專家有時是64，有時是 256。但關(guān)鍵在于，專家的數(shù)量正越來越多。嗯，這里，NVLink 72，我們擁有 72 個 GPU。正因如此，我們才能將四位專家整合到單個 GPU 中。
你需要為每塊GPU 做的最重要的事就是生成tokens，即您在HBM 內(nèi)存中擁有的帶寬數(shù)量。我們擁有一臺 H 系列 GPU，為四位專家提供計算支持。與這里不同，因為每臺計算機(jī)最多只能安裝八個 GPU，我們必須將 32 位專家整合到單個 GPU 中。因此這塊 GPU 需要為 32 位專家進(jìn)行思考，相比之下，該系統(tǒng)中每塊 GPU 只需處理四項任務(wù)。正因如此，速度差異才如此驚人。
這剛發(fā)布。這是由SemiAnalysis 完成的基準(zhǔn)測試。他們干得非常、非常徹底。他們對所有可進(jìn)行基準(zhǔn)測試的 GPU 進(jìn)行了基準(zhǔn)測試。全球各地的供應(yīng)鏈都在制造它，因此我們現(xiàn)在可以向所有這些地區(qū)交付這種新架構(gòu)，從而使資本支出投資于這些設(shè)備，這些計算機(jī)能夠提供最佳的總體擁有成本。
現(xiàn)在在這之下，有兩件事正在發(fā)生。所以當(dāng)你看這個時，實際上是相當(dāng)非同尋常的。無論如何，這相當(dāng)非同尋�！，F(xiàn)在同時發(fā)生著兩次平臺轉(zhuǎn)變。
記住，如我之前跟你提到的，加速計算用于數(shù)據(jù)處理、圖像處理、計算機(jī)圖形學(xué)。它確實執(zhí)行各種計算。它運(yùn)行SQL，運(yùn)行 Spark，它運(yùn)行…… 你知道，你讓它，你告訴我們你需要運(yùn)行什么，這可是件大事。它說我們現(xiàn)在可以更快地做出回應(yīng)，但這才是更重大的事。
因此在下面層面，不管是否有AI，世界正從通用計算轉(zhuǎn)向加速計算。不管是否有 AI。事實上，許多 CSP 早已提供在 AI 出現(xiàn)之前就存在的服務(wù)。記住，它們是在機(jī)器學(xué)習(xí)時代被發(fā)明的，像 XGBoost 這樣的經(jīng)典機(jī)器學(xué)習(xí)算法，像用于推薦系統(tǒng)的數(shù)據(jù)框，協(xié)同過濾，內(nèi)容過濾。所有這些技術(shù)都誕生于通用計算的早期時代。
即便是那些算法，即便是那些架構(gòu)，如今在加速計算的加持下也變得更加強(qiáng)大。因此，即使沒有AI，全球云服務(wù)提供商也將投資于加速技術(shù)。NVIDIA 的 GPU 是唯一能同時實現(xiàn)上述所有功能并支持 AI 的 GPU。專用集成電路或許能夠?qū)崿F(xiàn)AI，但它無法完成其他任何任務(wù)。
NVIDIA完全能夠做到這一切，這也解釋了為什么完全采用 NVIDIA 架構(gòu)是如此穩(wěn)妥的選擇。我們現(xiàn)已進(jìn)入良性循環(huán)，抵達(dá)了轉(zhuǎn)折點，這實在非同尋常。
我在這間會議室里有許多合作伙伴，而你們所有人都是我們供應(yīng)鏈的重要組成部分。我知道你們大家工作多么努力。我想感謝你們所有人，你們工作多么努力。非常感謝。
現(xiàn)在我將向你展示原因。這就是我們公司業(yè)務(wù)的現(xiàn)狀。正如我剛才提到的所有原因，我們看到Grace Blackwell正呈現(xiàn)出非凡的增長態(tài)勢。它由兩個指數(shù)函數(shù)驅(qū)動。我們現(xiàn)在已掌握情況。
我認(rèn)為，在Blackwell以及Rubin早期增長態(tài)勢上，2026年我們很可能是歷史上首家能夠看到5000億美元業(yè)務(wù)規(guī)模的公司。正如你所知，2025 年尚未結(jié)束，2026 年也尚未開始。這就是賬面上的業(yè)務(wù)量，迄今為止已達(dá)半萬億美元。
在這些產(chǎn)品中，我們已在前幾個季度售出了六百萬臺Blackwell 設(shè)備。我猜生產(chǎn)的前四個季度，四分之三的產(chǎn)量。2025 年還有一個季度要走。然后我們有四個季度。因此未來五個季度，將有 5000 億美元。這相當(dāng)于Hopper增長率的五倍，這多少說明了些什么。
這就是Hopper的全部人生。這不包括中國和亞洲。所以這只是西方市場。Hopper，在其全部生命周期中，四百萬塊 GPU。Blackwell，每個 Blackwell 在一個大封裝中包含兩塊 GPU。在 Rubin 的早期階段有 2000 萬塊 Blackwell GPU。令人難以置信的增長。
因此，我要感謝我們所有的供應(yīng)鏈合作伙伴。大家。我知道你們工作多么辛苦。我制作了一段視頻來慶祝你的工作。我們來玩吧。
（視頻內(nèi)容）
極致版Blackwell GB200Nv 與Grace Blackwell NVLink 72 的協(xié)同設(shè)計，使我們實現(xiàn)了十倍代際性能提升。簡直難以置信�，F(xiàn)在，真正令人難以置信的部分是這個。這是我們制造的第一臺AI超級計算機(jī)。這是2016 年，我將其交付給舊金山的一家初創(chuàng)公司，結(jié)果發(fā)現(xiàn)是 OpenAI。這就是那臺電腦。
為了制造那臺計算機(jī)，我們設(shè)計了一枚芯片。我們設(shè)計了一款新芯片。為了我們現(xiàn)在能夠進(jìn)行協(xié)同設(shè)計，看看我們得處理的這么多芯片。這就是需要的。你不可能拿一塊芯片就讓計算機(jī)速度提升十倍，那不可能發(fā)生。
使計算機(jī)速度提升十倍的方法在于我們能夠持續(xù)實現(xiàn)性能的指數(shù)級增長。我們能夠以指數(shù)級持續(xù)壓低成本的方法，是極端協(xié)同設(shè)計以及同時在所有這些不同芯片上并行工作。我們現(xiàn)在把Rubin 接回家了。這是 Rubin。
這是我們的第三代NVLink 72 機(jī)架級計算機(jī)。第三代。GB200 是第一代。遍布全球的所有合作伙伴們，我知道你們付出了多么艱辛的努力。這真的是極其艱難。第二代，順滑得多。而這一代，看這個，完全無線纜。完全無線纜。而這一切現(xiàn)在又回到了實驗室。
這是下一代，Rubin。在我們發(fā)貨GB300 的同時，我們正在準(zhǔn)備讓 Rubin 進(jìn)入量產(chǎn)。你知道的，就在明年的這個時候，也許會稍微早一點。因此，每一年，我們都會提出最激進(jìn)的協(xié)同設(shè)計系統(tǒng)，以便不斷提高性能并持續(xù)降低tokens生成成本。
看看這個。這是一臺令人難以置信的漂亮計算機(jī)。這是100 PetaFLOPS。我知道這沒有任何意義。100 PetaFLOPS。但與我十年前交付給 OpenAI 的 DGX-1 相比，性能提升了 100 倍。就在這里。與那臺超級計算機(jī)相比是 100 倍。一百臺那種的，來算算看，一百臺那種大概相當(dāng)于 25 個這樣的機(jī)架，都被這一樣?xùn)|西替代了。一個維拉·魯賓。
所以，這是計算托盤。所以這是Vera Rubin 超級芯片�？梢詥�？這是計算托盤。就在這里，上方。安裝起來非常容易。只需把這些東西掀開，塞進(jìn)去。就連我也能做到。這是 Vera Rubin 計算托盤。
如果你決定要添加一個特殊處理器，我們添加了另一個處理器，稱為上下文處理器，因為我們提供給AI 的上下文量越來越大。我們希望它在回答問題之前先讀取大量 PDF，希望它能讀取大量歸檔論文，觀看大量視頻，在回答我的問題之前先去學(xué)習(xí)所有這些內(nèi)容。所有這些上下文處理都可以被添加進(jìn)去。
因此您可以看到底部有八個ConnectX-9 新型 SuperNIC 網(wǎng)卡。你有八個。您擁有 BlueField-4，這款新型數(shù)據(jù)處理器，兩個 Vera 處理器，以及四個 Rubin 軟件包，或八個 Rubin GPU。這一切都集中在這個節(jié)點上。完全無線，100% 液冷。
至于這款新處理器，今天我就不多說了。我時間不夠，但這完全是革命性的。而原因在于，你們的AI 需要越來越多的內(nèi)存。你與它的互動更頻繁了，你希望它能記住我們上次的對話。你為我所學(xué)的一切，等我下次回來時，請千萬別忘記。
因此，所有這些記憶將共同構(gòu)筑出名為KV 緩存的東西。而 KV 緩存，檢索它時，你可能已經(jīng)注意到，每次你進(jìn)入你的會話，你們現(xiàn)在的 AI 刷新和檢索所有歷史對話的時間越來越長了。而且原因在于我們需要一款革命性的新處理器。這被稱為 BlueField-4。
接下來是NVLink交換機(jī)。這正是使我們能夠?qū)⑺杏嬎銠C(jī)連接在一起的關(guān)鍵所在。而這個交換機(jī)的帶寬現(xiàn)已達(dá)到全球互聯(lián)網(wǎng)峰值流量的數(shù)倍。因此，該主干將同時向所有 GPU 傳遞并傳輸所有數(shù)據(jù)。
除此之外，這是Spectrum-X 開關(guān)。這款以太網(wǎng)交換機(jī)的設(shè)計使得所有處理器能夠同時相互通信，而不會造成網(wǎng)絡(luò)擁塞。堵塞網(wǎng)絡(luò)，這很技術(shù)性�？梢詥�？所以這三者結(jié)合起來。然后這就是量子開關(guān)。這是 InfiniBand，這是以太網(wǎng)。我們不在乎你想用什么語言，無論您采用何種標(biāo)準(zhǔn)，我們都為您準(zhǔn)備了卓越的橫向擴(kuò)展架構(gòu)。
無論是InfiniBand、Quantum 還是 Spectrum 以太網(wǎng)，這款采用硅光子技術(shù)，并提供完全共封裝的選項。基本上，激光會直接接觸硅片，并將它與我們的芯片連接起來�？梢詥�？這就是 Spectrum-X 以太網(wǎng)。哦，這就是它的樣子。這是一個機(jī)架。這是兩噸。150萬個部件和這根脊柱，這根脊柱在一秒鐘內(nèi)承載著整個互聯(lián)網(wǎng)的流量。相同的速度，能在所有這些不同的處理器之間遷移。100%液冷。所有這一切，都是為了世界上最快的tokens生成速度�？梢詥�？所以那就是機(jī)架的樣子。
現(xiàn)在，那是一個機(jī)架。一個千兆瓦級的數(shù)據(jù)中心會有，來算算，16個機(jī)架大約是姑且叫它 9,000，8,000 個這樣的將是一個一千兆瓦的數(shù)據(jù)中心。所以那將是未來的 AI 工廠。
如你所見，NVIDIA起初是設(shè)計芯片，隨后我們開始設(shè)計系統(tǒng)，并且我們設(shè)計 AI 超級計算機(jī)。現(xiàn)在我們正在設(shè)計完整的 AI 工廠。每次我們將更多問題整合進(jìn)來進(jìn)行解決時，我們都會想出更好的解決方案。我們現(xiàn)在構(gòu)建完整的AI工廠。
這個AI工廠將會是…… 我們?yōu)?Vera Rubin 構(gòu)建的東西。我們創(chuàng)造了一項技術(shù)，使我們所有的合作伙伴都能夠以數(shù)字化方式集成到這個工廠中。讓我向你展示。
完全、完全是數(shù)字化的。在Vera Rubin 作為真實計算機(jī)出現(xiàn)之前很久很久，我們已經(jīng)把它作為數(shù)字孿生計算機(jī)來使用。很久在這些 AI 工廠出現(xiàn)之前，我們就會使用它，我們會設(shè)計它，我們會規(guī)劃它、優(yōu)化它，并以數(shù)字孿生的方式來運(yùn)行它。
因此，所有與我們合作的合作伙伴，我非常高興你們所有支持我們的人。Gio在這里，G Ver... Vernova在這里，Schneider。我想，Olivier在這里，Olivier Blum在這里。西門子，令人難以置信的合作伙伴。好的。羅蘭·布什，我想他在看。嗨，羅蘭。總之，真的，非常非常棒的合作伙伴與我們一起工作。
起初，我們有CUDA，以及各種不同的軟件合作伙伴生態(tài)系統(tǒng)�，F(xiàn)在，我們有Omniverse DSX，并且正在構(gòu)建AI工廠。同樣地，我們也有這些與我們合作的令人驚嘆的合作伙伴生態(tài)系統(tǒng)。
讓我們來談?wù)勀Ｐ�，特別是開源模型。在過去幾年里，發(fā)生了幾件事。一是開源模型因為具備推理能力而變得非常強(qiáng)大；它們之所以非常強(qiáng)大，是因為它們是多模態(tài)的，并且由于蒸餾技術(shù)，它們的效率非常高。因此，所有這些不同的功能已經(jīng)使開源模型首次對開發(fā)人員極其有用。它們現(xiàn)在是初創(chuàng)公司的命脈。顯然，這些初創(chuàng)公司的生存命脈在不同的行業(yè)中各不相同，正如我之前提到的，每個行業(yè)都有其自身的用例、其自身的數(shù)據(jù)、自己的已用數(shù)據(jù)，自己的飛輪。所有這些能力，那些領(lǐng)域?qū)ｉL需要能夠嵌入到模型中，開源使這成為可能。研究人員需要開源，開發(fā)者需要開源，世界各地的公司，我們需要開源。開源模型真的非常非常重要。
美國也必須在開源方面處于領(lǐng)先地位。我們擁有極其出色的專有模型，我們擁有令人驚艷的專有模型，我們同樣需要令人驚艷的開源模型。我們的國家依賴它，我們的初創(chuàng)公司依賴它，因此NVIDIA致力于去實現(xiàn)這一目標(biāo)。我們現(xiàn)在是最大的，我們在開源貢獻(xiàn)方面處于領(lǐng)先地位。我們在排行榜上有23個模型。我們擁有來自不同領(lǐng)域的這些語言模型，我將要討論的物理AI模型、機(jī)器人模型到生物學(xué)模型。每一個這些模型都有龐大的團(tuán)隊，這也是我們?yōu)樽约簶?gòu)建超級計算機(jī)以支持所有這些模型創(chuàng)建的原因之一。我們擁有第一的語音模型、第一的推理模型、第一的物理AI模型，下載量非常非�？捎^。我們致力于此，原因在于科學(xué)需要它，研究人員需要它，初創(chuàng)公司需要它，企業(yè)也需要它。
我很高興AI初創(chuàng)公司以NVIDIA為基礎(chǔ)構(gòu)建。他們這樣做有好幾種原因。首先，當(dāng)然我們的生態(tài)系統(tǒng)很豐富，我們的工具運(yùn)行得非常好。我們所有的工具都能在我們所有的GPU上運(yùn)行，我們的GPU無處不在。它實際上存在于每一個云中，它可以在本地部署，你可以自己構(gòu)建。你可以自己搭建一個發(fā)燒友級別的游戲電腦，里面裝多塊GPU，然后你可以下載我們的軟件棧，它就是能用。我們有大量開發(fā)者在不斷豐富生態(tài)系統(tǒng)，使其越來越強(qiáng)大。所以我對我們合作的所有初創(chuàng)公司感到非常滿意，我對此心存感激。
同樣，許多這些初創(chuàng)公司現(xiàn)在也開始創(chuàng)造更多方式來利用我們的GPU，例如CoreWeave、Nscale、Nebius、Lambda、Crusoe等。這些公司正在建立這些新的GPU云來為初創(chuàng)公司服務(wù)，我非常感激這一點。這一切之所以成為可能，是因為NVIDIA無處不在。
我們將我們的庫整合在一起，所有我剛才跟你提到的CUDA X庫、我提到的所有開源AI模型、我提到的所有模型，例如，我們已經(jīng)集成到AWS中。真的很喜歡和Matt共事。例如，我們已與Google Cloud集成。真的很喜歡和Thomas共事。每一個云都集成了NVIDIA GPUs和我們的計算、我們的庫，以及我們的模型。很喜歡與微軟Azure的Satya一起合作，很喜歡與Oracle的Clay一起合作。每一個這些云都集成了NVIDIA堆棧。因此，不論你去哪里，無論你使用哪個云端，它的工作效果令人難以置信。
我們還將NVIDIA的庫集成到全球的SaaS中，以便這些SaaS最終都能成為具代理能力的SaaS。我喜歡Bill McDermott對ServiceNow的愿景。那里有人，對，就這樣。我想那可能是Bill。嗨，Bill。那么ServiceNow是什么？全球85%的企業(yè)級工作負(fù)載、工作流。SAP，全球80%的商業(yè)交易。Christian Klein和我正在合作將NVIDIA庫集成起來，將CUDA X、NeMo和NeMotron，以及我們所有的AI系統(tǒng)集成到SAP中。
與Synopsys的Sassine合作，加速全球的CAE，使CAD、EDA工具更快且可擴(kuò)展，幫助他們創(chuàng)建AI代理。有朝一日，我很想雇傭一個AI代理ASIC設(shè)計師來與我們的ASIC設(shè)計師合作，從本質(zhì)上來說，就是Synopsys的AI代理。我們正在與Anirudh一起合作，Anirudh，是的，我今天早些時候見過他，他參與了賽前節(jié)目。Cadence做著令人難以置信的工作，加速他們的技術(shù)棧，創(chuàng)建AI代理，使得Cadence的AI ASIC設(shè)計師和系統(tǒng)設(shè)計師能夠與我們協(xié)同工作。
今天，我們宣布一個新的項目。AI將大幅提升生產(chǎn)力，AI將徹底改變每一個行業(yè)。但AI也會極大地增強(qiáng)網(wǎng)絡(luò)安全挑戰(zhàn)，那些惡意的AI。因此我們需要一個強(qiáng)大的防御者，我無法想象有比CrowdStrike更好的防御者。我們與CrowdStrike合作，將網(wǎng)絡(luò)安全的速度提升到光速，以創(chuàng)建一個在云端擁有網(wǎng)絡(luò)安全AI代理的系統(tǒng)，同時在本地或邊緣也擁有表現(xiàn)極為出色的AI代理。這樣一來，每當(dāng)出現(xiàn)威脅時，你就能在瞬間檢測到它。我們需要速度，我們需要一個快速的自主智能、超智能的AI。
我有第二個聲明。這是世界上發(fā)展最快的企業(yè)公司，可能是當(dāng)今世界上最重要的企業(yè)級堆棧，Palantir Ontology。這里有來自Palantir的人嗎？我剛才還在和Alex聊天。這是Palantir Ontology，他們獲取信息、獲取數(shù)據(jù)、獲取人為判斷，并將其轉(zhuǎn)化為商業(yè)洞察。我們與Palantir合作，加速Palantir的所有工作，以便我們能夠進(jìn)行數(shù)據(jù)處理，以更大規(guī)模和更高速度進(jìn)行數(shù)據(jù)處理，更大規(guī)模、更多速度。無論是過去的結(jié)構(gòu)化數(shù)據(jù)，當(dāng)然也包括我們將擁有結(jié)構(gòu)化數(shù)據(jù)、人為記錄的數(shù)據(jù)、非結(jié)構(gòu)化數(shù)據(jù)，并為我們的政府處理這些數(shù)據(jù)，用于國家安全，以及為全球的企業(yè)服務(wù)，以光速處理這些數(shù)據(jù)并從中發(fā)現(xiàn)洞見。這就是未來的樣子。Palantir將與NVIDIA集成，以便我們能夠以光速和極大規(guī)模進(jìn)行處理。
讓我們來談?wù)勎锢鞟I。物理AI需要三臺計算機(jī)。正如訓(xùn)練一個語言模型需要兩臺計算機(jī)一樣，一臺用于訓(xùn)練它、評估它，然后用于推理它。所以你看到的是大型的GB200。為了用于物理AI，你需要三臺計算機(jī)。你需要這臺計算機(jī)來訓(xùn)練它，這是GB，即Grace Blackwell NVLink-72。我們需要一臺能夠運(yùn)行我之前用Omniverse DSX展示的所有模擬的計算機(jī)。它基本上是一個數(shù)字孿生，讓機(jī)器人學(xué)習(xí)如何成為一個優(yōu)秀的機(jī)器人，并使工廠實質(zhì)上成為一個數(shù)字孿生。那臺計算機(jī)是第二臺計算機(jī)，即Omniverse計算機(jī)。這臺計算機(jī)必須在生成式AI方面表現(xiàn)卓越，并且必須在計算機(jī)圖形學(xué)方面表現(xiàn)出色，傳感器模擬、光線追蹤、信號處理。這臺計算機(jī)被稱為Omniverse計算機(jī)。一旦我們訓(xùn)練好模型，就在數(shù)字孿生中模擬該AI，而該數(shù)字孿生可以是一個工廠的數(shù)字孿生，以及大量機(jī)器人的數(shù)字孿生體。然后，你需要操作那臺機(jī)器人，這就是機(jī)器人計算機(jī)。這個可以裝進(jìn)一輛自動駕駛汽車?yán)�，其中一半可以裝進(jìn)一臺機(jī)器人里�？梢詥幔炕蛘吣銓嶋H上可以擁有，比如說，機(jī)器人在操作中非常靈活且非�？焖�，可能需要兩臺這樣的計算機(jī)。這就是Thor，Jetson Thor機(jī)器人計算機(jī)。這三臺計算機(jī)都運(yùn)行CUDA，這使我們能夠推進(jìn)物理AI，能夠理解物理世界、理解物理定律的AI，因果關(guān)系、持久性，物理AI。
我們有令人難以置信的合作伙伴與我們一起打造工廠的物理AI。我們自己也在使用它來打造我們在德克薩斯的工廠。現(xiàn)在，一旦我們建成了機(jī)器人工廠，我們里面有一堆機(jī)器人，這些機(jī)器人也需要物理AI，將物理AI應(yīng)用于數(shù)字孿生內(nèi)部，并在其中運(yùn)行。讓我們看看它。
這就是制造業(yè)的未來，未來的工廠。我要感謝我們的合作伙伴富士康。在這里。但所有這些生態(tài)系統(tǒng)合作伙伴使我們能夠創(chuàng)造未來的機(jī)器人工廠。這個工廠本質(zhì)上是一個機(jī)器人，它正在協(xié)調(diào)機(jī)器人去制造出具有機(jī)器人性質(zhì)的東西。要做到這一點所需的軟件量非常龐大，除非你能夠在數(shù)字孿生中去規(guī)劃它、去設(shè)計它、在數(shù)字孿生中去運(yùn)營它，否則讓這個方案奏效的希望幾乎不可能。
我也很高興看到Caterpillar，我的朋友Joe Creed，以及他那家有著百年歷史的公司也在將數(shù)字孿生技術(shù)融入他們的制造方式。這些工廠將配備未來的機(jī)器人系統(tǒng)，其中最先進(jìn)的之一是Figure。Brett Adcock今天在這里。他三年半前創(chuàng)辦了一家公司，他們現(xiàn)在市值接近400億美元。我們正在共同訓(xùn)練這個AI，訓(xùn)練機(jī)器人、模擬機(jī)器人，當(dāng)然還有裝入Figure的機(jī)器人電腦。真的非常驚人。我有幸見證了這一點，這真的相當(dāng)非凡。很可能類人機(jī)器人會出現(xiàn)，而且，我的朋友Elon也在做這方面的工作，這很可能會成為最大的消費(fèi)類產(chǎn)品之一，新的消費(fèi)電子市場，當(dāng)然還有最大的一類工業(yè)設(shè)備市場之一。
Peggy Johnson和Agility的團(tuán)隊正在與我們合作開發(fā)用于倉庫自動化的機(jī)器人。Johnson & Johnson的團(tuán)隊再次與我們合作，訓(xùn)練機(jī)器人，在數(shù)字孿生中進(jìn)行仿真，并且還要操作機(jī)器人。這些Johnson & Johnson外科手術(shù)機(jī)器人甚至將進(jìn)行完全非侵入性的手術(shù)，達(dá)到世界前所未有的精確度。
當(dāng)然，史上最可愛的機(jī)器人，迪士尼的機(jī)器人。這是與我們息息相關(guān)的某件事。我們正在與Disney Research合作開發(fā)一個全新的框架和仿真平臺，基于一種名為Newton的革命性技術(shù)。而那款Newton模擬器使得機(jī)器人在具備物理感知的環(huán)境中學(xué)習(xí)如何成為一名優(yōu)秀的機(jī)器人。讓我們看看它。
現(xiàn)在，人形機(jī)器人仍在開發(fā)中，但與此同時，有一款機(jī)器人明顯處于拐點上，它基本上就在這里，那是一個帶輪子的機(jī)器人。這是一個無人駕駛出租車。無人駕駛出租車本質(zhì)上就是一個AI司機(jī)�，F(xiàn)在，我們今天正在做的事情之一，我們宣布推出NVIDIA DRIVE Hyperion。這是一件大事。我們創(chuàng)建了這個架構(gòu)，以便世界上每一家汽車公司都能制造車輛，可以是商用的，也可以是乘用的，可以是專用于無人出租車，制造出具備無人出租車準(zhǔn)備能力的車輛。配備環(huán)視攝像頭、雷達(dá)和激光雷達(dá)的傳感套件使我們能夠?qū)崿F(xiàn)最高級別的全方位感知套件與冗余，這是實現(xiàn)最高安全級別所必需的。Hyperion DRIVE，DRIVE Hyperion現(xiàn)在已被設(shè)計進(jìn)Lucid、梅賽德斯-奔馳、我的朋友Ola Källenius，Stellantis的團(tuán)隊，還有許多其他車型即將到來。
一旦你有了一個基本的標(biāo)準(zhǔn)平臺，那么自動駕駛系統(tǒng)的開發(fā)者們，他們中有很多非常有才華的團(tuán)隊，例如 Wayve、 Waabi、 Aurora、 Momenta、 Nuro、 WeRide等，有這么多公司可以把他們的AV系統(tǒng)移植到標(biāo)準(zhǔn)底盤上運(yùn)行�；旧�，標(biāo)準(zhǔn)底盤現(xiàn)在已經(jīng)變成了一個移動的計算平臺。并且因為它是標(biāo)準(zhǔn)化的，且傳感器套件非常全面，他們都可以將他們的AI部署到上面。我們來快速看一下。好的。
那就是美麗的舊金山，正如你所見，自動駕駛出租車的拐點即將到來。未來，每年將有萬億英里被駕駛，每年制造1億輛汽車，全球大約有5000萬輛出租車將會被大量無人駕駛出租車所增強(qiáng)。所以這將是一個非常龐大的市場。為了將其連接并在全球部署，今天我們宣布與Uber建立合作伙伴關(guān)系。Uber的Dara，Dara要走了。我們正在合作，將這些NVIDIA DRIVE Hyperion汽車連接成一個全球網(wǎng)絡(luò)。而在未來，你將能夠召喚到這些汽車中的一輛，生態(tài)系統(tǒng)將非常豐富，我們會在全世界看到Hyperion或無人駕駛出租車出現(xiàn)。這將成為我們的一個新的計算平臺，我預(yù)計它會非常成功。好的。
這就是我們今天所討論的內(nèi)容。我們討論了很多很多事情。請記住，其核心是兩點，是從通用計算向加速計算的兩次平臺轉(zhuǎn)變。NVIDIA CUDA及其名為CUDA-X的一系列庫使我們能夠應(yīng)對幾乎所有行業(yè)，我們正處于拐點，現(xiàn)在它正如虛擬循環(huán)所示地增長。第二個拐點現(xiàn)在已經(jīng)到來，從傳統(tǒng)手寫軟件到AI的轉(zhuǎn)變。兩個平臺同時發(fā)生轉(zhuǎn)變，這就是我們感受到如此驚人增長的原因。
量子計算，我們已經(jīng)提到過。我們談到了開源模型。我們談到了與CrowdStrike的企業(yè)應(yīng)用，以及Palantir，加速他們的平臺。我們談到了機(jī)器人技術(shù)，一個新的可能成為最大規(guī)模的消費(fèi)電子和工業(yè)制造行業(yè)之一。當(dāng)然，我們還談到了6G，NVIDIA有了用于6G的新平臺，我們稱之為Aria。我們有一個用于機(jī)器人汽車的新平臺，我們把它稱為Hyperion。我們有新的平臺，即便是面向工廠，也是兩類工廠，我們把那個AI工廠稱為DSX，然后把工廠與AI結(jié)合，我們稱之為MEGA。
女士們、先生們，感謝你們今天的到來，并且感謝你們讓我——謝謝——感謝你們讓我們能夠把GTC帶到華盛頓特區(qū)。我們希望每年都舉辦一次。感謝你們！
本內(nèi)容由作者授權(quán)發(fā)布，觀點僅代表作者本人，不代表虎嗅立場。如對本稿件有異議或投訴，請聯(lián)系 tougao@huxiu.com。
本文來自虎嗅，原文鏈接：https://www.huxiu.com/article/4798409.html?f=wyxwapp
