文：天空之城·城主

萬(wàn)眾期待的AI界科技界春晚-NVIDIA GTC 2024大會(huì)今天正式開(kāi)幕。這不僅是一場(chǎng)面向開(kāi)發(fā)者的盛會(huì), 更是NVIDIA創(chuàng)始人黃仁勛獨(dú)領(lǐng)風(fēng)騷、引領(lǐng)業(yè)界方向的重要舞臺(tái)。

以下和大家分享這一次黃教主大會(huì)主旨演講中的精彩內(nèi)容, 附上視頻完整版及書(shū)面文字版,方便大家深入了解。

視頻完整版的B站傳送門(mén)：

【【精?！縉vidia GTC2024 黃仁勛主旨演講 2024.3.19【中英】-嗶哩嗶哩】 https:///eEDeOq4

此次GTC大會(huì)聚集了來(lái)自氣候科技、無(wú)線電科學(xué)等不同領(lǐng)域的研究人員,他們正探索如何利用AI、機(jī)器人技術(shù)控制下一代6G無(wú)線電、自動(dòng)駕駛汽車(chē)等。大會(huì)還邀請(qǐng)了眾多公司代表,他們將運(yùn)用加速計(jì)算解決普通計(jì)算機(jī)無(wú)法應(yīng)對(duì)的難題,應(yīng)用領(lǐng)域涵蓋生命科學(xué)、醫(yī)療健康、基因組學(xué)、零售、物流、制造、工業(yè)等。

NVIDIA的發(fā)展歷程始于1993年。2006年,革命性的CUDA計(jì)算模型誕生,成為里程碑。2012年,AI首次接觸CUDA,標(biāo)志著AlexNet的出現(xiàn)。2016年,NVIDIA發(fā)明了DGX-1超級(jí)計(jì)算機(jī),8個(gè)GPU實(shí)現(xiàn)170 teraflops計(jì)算能力。從2017年Transformer到2022年ChatGPT,這些技術(shù)點(diǎn)燃全球想象力,彰顯AI非凡潛力。2023年,生成式AI嶄露頭角,開(kāi)啟全新產(chǎn)業(yè)征程。

數(shù)據(jù)中心正成為NVIDIA生成Token、浮點(diǎn)數(shù)的重要基地。就像工業(yè)革命時(shí)期的發(fā)電機(jī)創(chuàng)造了電力,NVIDIA如今正在AI工廠中用GPU生成極其有價(jià)值的新型電子Token。以AI為核心的新產(chǎn)業(yè)正在形成。

NVIDIA的靈魂在于計(jì)算機(jī)圖形學(xué)、物理、AI的交叉融合,這些在Omniverse模擬的虛擬世界中交匯。今天展示的內(nèi)容皆為模擬而非動(dòng)畫(huà),它之所以美,源于其背后的物理學(xué)規(guī)律,就像真實(shí)的世界一樣。更神奇的是,這些動(dòng)畫(huà)由機(jī)器人、AI創(chuàng)作。觀眾將欣賞到前所未有的AI自制音樂(lè)會(huì)。

加速計(jì)算已到達(dá)臨界點(diǎn),通用計(jì)算逐漸失去動(dòng)力。加速計(jì)算在性?xún)r(jià)比上遠(yuǎn)超通用計(jì)算,幾乎遍布所涉足的每個(gè)行業(yè)。它的影響不局限于單一行業(yè)。各行業(yè)正在利用數(shù)字孿生技術(shù),實(shí)現(xiàn)全流程數(shù)字化、高保真模擬。這意味著要大幅提升計(jì)算規(guī)模。合作伙伴正攜手NVIDIA,共同推動(dòng)整個(gè)生態(tài)系統(tǒng)進(jìn)入加速計(jì)算時(shí)代。

加速計(jì)算的另一大優(yōu)勢(shì)在于,當(dāng)整個(gè)基礎(chǔ)設(shè)施與GPU耦合時(shí),便可輕松實(shí)現(xiàn)AI生成能力。NVIDIA已與一些重要合作伙伴建立了深度關(guān)系。ANSYS、新思科技、Cadence這些頂級(jí)公司,正在利用NVIDIA GPU加速系統(tǒng)的巨大安裝基礎(chǔ),為最終用戶(hù)、系統(tǒng)制造商、CSP創(chuàng)造巨大機(jī)遇與客戶(hù)需求。

Blackwell是NVIDIA推出的全新GPU平臺(tái),將涵蓋與Hopper兼容的普通系統(tǒng)和與Grace CPU連接的專(zhuān)用系統(tǒng)。Blackwell提供了前所未有的算力,有望突破物理極限,為互聯(lián)網(wǎng)產(chǎn)業(yè)注入新動(dòng)力。

在處理海量數(shù)據(jù)和復(fù)雜計(jì)算時(shí),精確性和范圍至關(guān)重要。配備第五代NV Link的全新Transformer引擎速度驚人。在多GPU環(huán)境中,信息同步與更新必不可少。

新型超算的高速運(yùn)轉(zhuǎn)離不開(kāi)早期問(wèn)題檢測(cè)和替換機(jī)制。同時(shí),數(shù)據(jù)加密對(duì)價(jià)值數(shù)億美元的AI模型和代碼至關(guān)重要。高速壓縮引擎可將數(shù)據(jù)高效導(dǎo)入導(dǎo)出,速度提升20倍。Nvidia必須全力保留這些功能,因?yàn)檫@些超算的投資和能力都十分驚人。

全新的FP8格式讓內(nèi)存可容納更多參數(shù),大幅提升計(jì)算速度。生成式AI作為一種全新計(jì)算范式正在興起。NVLink交換芯片實(shí)現(xiàn)所有GPU同時(shí)全速通信,仿佛成為一個(gè)巨無(wú)霸GPU。直接驅(qū)動(dòng)銅技術(shù)的突破讓系統(tǒng)更加經(jīng)濟(jì)實(shí)惠。

訓(xùn)練一個(gè)1.8萬(wàn)億參數(shù)的GPT模型,傳統(tǒng)方法可能需要8000個(gè)GPU、15MW電力,歷時(shí)90天。而B(niǎo)lackwell只需2000個(gè)GPU,功耗4MW。

NVIDIA GPU有一半時(shí)間運(yùn)行在云端,專(zhuān)注于生成Token,如Copilot、ChatGPT等。龐大的語(yǔ)言模型需要后臺(tái)超算的支持。要在眾多GPU中高效分配任務(wù),CUDA和其豐富生態(tài)系統(tǒng)不可或缺。Blackwell驚人的推理能力是Hopper的30倍,有望成為未來(lái)生成式AI的核心引擎。這些AI工廠旨在產(chǎn)生智慧而非電力。AWS、GCP、Oracle、微軟紛紛為Blackwell做好準(zhǔn)備。

數(shù)字孿生技術(shù)已在各行各業(yè)大放異彩。Wistron利用Omniverse SDK定制軟件,將NVIDIA DGX和HGX工廠實(shí)現(xiàn)數(shù)字孿生,大幅縮短調(diào)試周期。NVIDIA還運(yùn)用生成式AI預(yù)測(cè)天氣。CoreDev可通過(guò)超高分辨率AI預(yù)測(cè)嚴(yán)重風(fēng)暴,如臺(tái)風(fēng)燦都。這項(xiàng)服務(wù)作為NVIDIA Earth 2的一部分,將惠及全球氣象機(jī)構(gòu)。NVIDIA在醫(yī)療領(lǐng)域也碩果累累,涵蓋醫(yī)學(xué)成像、基因測(cè)序和計(jì)算化學(xué)等。

NVIDIA推出BioNeMo NIMS、NVIDIA推理微服務(wù)(NIMS)等新品,可在幾分鐘內(nèi)生成候選分子。微服務(wù)包含三大支柱:AI模型、運(yùn)行AI的工具;AI技術(shù);基礎(chǔ)設(shè)施用于AI微調(diào)和部署,可在DGX云等平臺(tái)上實(shí)現(xiàn)。這類(lèi)似于臺(tái)積電代工芯片的模式,因此被稱(chēng)為AI代工廠。

用戶(hù)可利用這些服務(wù)處理各類(lèi)結(jié)構(gòu)化和非結(jié)構(gòu)化數(shù)據(jù),編碼存儲(chǔ)于向量數(shù)據(jù)庫(kù)中,成為企業(yè)專(zhuān)屬智慧。通過(guò)與智能數(shù)據(jù)庫(kù)交互,可輕松獲取所需信息。NVIDIA AI Foundry正攜手SAP、ServiceNow等巨頭,幫助他們開(kāi)發(fā)自有數(shù)據(jù)和工具,在聊天機(jī)器人中打造企業(yè)級(jí)Copilot。

要讓AI理解物理世界,需要AI計(jì)算機(jī)、監(jiān)測(cè)分析計(jì)算機(jī)和執(zhí)行任務(wù)的機(jī)器人三位一體。這就像語(yǔ)言模型,只不過(guò)我們要構(gòu)建的是端到端的機(jī)器人系統(tǒng)。

通過(guò)強(qiáng)化學(xué)習(xí),機(jī)器人可適應(yīng)物理定律。Omniverse提供模擬環(huán)境,教會(huì)機(jī)器人如何成為機(jī)器人。OVX托管于Azure。未來(lái)的倉(cāng)儲(chǔ)、工廠都將由軟件定義,機(jī)器人自主協(xié)同工作。數(shù)字孿生是機(jī)器人系統(tǒng)CICD的關(guān)鍵。西門(mén)子正構(gòu)建工業(yè)元宇宙,日產(chǎn)已將Omniverse整合到工作流。

所有移動(dòng)設(shè)備都將是機(jī)器人,包括自動(dòng)駕駛汽車(chē)。從計(jì)算機(jī)視覺(jué)到AI控制,還有很多工作要做。

最后,黃仁勛總結(jié)了5大要點(diǎn):新工業(yè)革命、Blackwell平臺(tái)、NIMS、NEMO和NVIDIA AI Foundry、Omniverse和ISAAC機(jī)器人。這些將重塑產(chǎn)業(yè)格局,開(kāi)啟AI新紀(jì)元。

==附：演講之天空之城書(shū)面全文版==

歡迎來(lái)到GTC。我希望你意識(shí)到這不是一場(chǎng)音樂(lè)會(huì)，你已到達(dá)開(kāi)發(fā)者大會(huì)。這里將會(huì)有很多科學(xué)描述，包括算法、計(jì)算機(jī)體系結(jié)構(gòu)、數(shù)學(xué)。

我突然感覺(jué)到房間里有很重的重量，幾乎就像你來(lái)錯(cuò)地方了。世界上沒(méi)有哪個(gè)會(huì)議，會(huì)有更多的研究人員聚集，他們來(lái)自如此不同的科學(xué)領(lǐng)域，包括氣候技術(shù)、無(wú)線電科學(xué)，他們?cè)噲D找出如何使用AI機(jī)器人控制MIMO下一代6G無(wú)線電、機(jī)器人、自動(dòng)駕駛汽車(chē)，甚至人工智能。即使是人工智能，我也突然感覺(jué)到一種如釋重負(fù)的感覺(jué)。

此外，本次會(huì)議也有代表參加，他們來(lái)自一些令人驚嘆的公司。這份名單中，這些不是與會(huì)者，這些是主持人，令人驚奇的是這個(gè)。如果你帶走我所有的朋友，親密的朋友邁克爾·戴爾就坐在那兒。在IT行業(yè)，所有和我一起在這個(gè)行業(yè)長(zhǎng)大的朋友，如果你把那個(gè)名單拿走，這就是令人驚奇的事情。

這些非IT行業(yè)的主講者使用加速計(jì)算來(lái)解決普通計(jì)算機(jī)無(wú)法解決的問(wèn)題。它在生命科學(xué)、醫(yī)療保健、基因組學(xué)領(lǐng)域都有代表性。運(yùn)輸當(dāng)然是零售、物流、制造、工業(yè)。所代表的行業(yè)范圍確實(shí)令人驚嘆。您來(lái)這里不僅僅是為了參加，您來(lái)這里是為了談?wù)撃难芯俊＝裉爝@個(gè)房間里有代表世界上100萬(wàn)億美元的行業(yè)的代表，這絕對(duì)是驚人的。

絕對(duì)有事情發(fā)生，有事情發(fā)生。這個(gè)行業(yè)正在發(fā)生轉(zhuǎn)變，不僅僅是我們的行業(yè)，因?yàn)橛?jì)算機(jī)行業(yè)，計(jì)算機(jī)是當(dāng)今社會(huì)最重要的工具。計(jì)算領(lǐng)域的根本性變革影響著每個(gè)行業(yè)。但我們是如何開(kāi)始的呢？我們是怎么來(lái)到這里的？

我為你做了一個(gè)小漫畫(huà)，從字面上看是我畫(huà)的，在一頁(yè)中這是NVIDIA的旅程。1993年開(kāi)始，這可能是談話(huà)的其余部分。1993年，這是我們的旅程，我們于1993年成立，一路上發(fā)生了幾件重要的事件。我想強(qiáng)調(diào)幾個(gè)關(guān)鍵的時(shí)間節(jié)點(diǎn)。首先是2006年，CUDA的誕生。事實(shí)證明，這是一種革命性的計(jì)算模型。當(dāng)時(shí)，我們預(yù)見(jiàn)到它將引發(fā)一場(chǎng)革命，并在一夜之間嶄露頭角。如今，近20年過(guò)去了，我們看到了這一預(yù)言的實(shí)現(xiàn)。

然后是2012年，AlexNet的出現(xiàn)，標(biāo)志著人工智能與CUDA的首次接觸。再后來(lái)是2016年，我們認(rèn)識(shí)到這種計(jì)算模型的重要性，于是發(fā)明了一種全新類(lèi)型的計(jì)算機(jī)，我們將其稱(chēng)為DGX-1。這臺(tái)超級(jí)計(jì)算機(jī)具有170 teraflops的計(jì)算能力，8個(gè)GPU連接在一起。我親手將第一臺(tái)DGX-1交付給了一家位于舊金山的初創(chuàng)公司，名為OpenAI。DGX-1是世界上第一臺(tái)AI超級(jí)計(jì)算機(jī)，記住，它的計(jì)算能力達(dá)到了170 teraflops。

從2017年的Transformer到2022年的ChatGPT，這些技術(shù)激發(fā)了全世界的想象力，讓人們認(rèn)識(shí)到人工智能的重要性和能力。到了2023年，生成式人工智能出現(xiàn)了，一個(gè)新的行業(yè)開(kāi)始了。為什么我說(shuō)這是一個(gè)新的行業(yè)呢？因?yàn)檫@種軟件以前并不存在。我們現(xiàn)在正在用計(jì)算機(jī)編寫(xiě)軟件，生產(chǎn)出以前從未存在過(guò)的軟件。這是一個(gè)全新的類(lèi)別，它從無(wú)到有地占據(jù)了市場(chǎng)份額。這是一個(gè)全新的類(lèi)別，以及一種全新的制作軟件的方式，與我們以前做過(guò)的任何事情都不一樣。

在數(shù)據(jù)中心，我們生成Token，產(chǎn)生浮點(diǎn)數(shù)，規(guī)模非常大。這就像在最后一次工業(yè)革命中，當(dāng)人們意識(shí)到可以建立工廠，對(duì)其施加能量，這種看不見(jiàn)的、有價(jià)值的東西，叫做電，就出現(xiàn)了交流發(fā)電機(jī)。100年后，200年后，我們現(xiàn)在正在創(chuàng)建新型電子Token，使用我們稱(chēng)為工廠的基礎(chǔ)設(shè)施——人工智能工廠來(lái)生成這種新的、極其有價(jià)值的東西。一個(gè)叫做人工智能的新產(chǎn)業(yè)已經(jīng)出現(xiàn)。

我們將討論這個(gè)新行業(yè)的很多事情，包括接下來(lái)如何進(jìn)行計(jì)算，您因這個(gè)新行業(yè)而構(gòu)建的軟件類(lèi)型，新軟件，您會(huì)如何看待這個(gè)新軟件，以及這個(gè)新興行業(yè)的應(yīng)用情況。然后，我們也許會(huì)探討接下來(lái)會(huì)發(fā)生什么，我們今天如何開(kāi)始為接下來(lái)的事情做準(zhǔn)備。

在我開(kāi)始之前，我想向您展示NVIDIA的靈魂。我們公司的靈魂位于計(jì)算機(jī)圖形學(xué)、物理和人工智能的交叉點(diǎn)。所有這些都在計(jì)算機(jī)內(nèi)部交叉，在Omniverse虛擬世界模擬中。我們今天要向您展示的所有內(nèi)容，都是模擬，而非動(dòng)畫(huà)。它之所以美麗，是因?yàn)樗俏锢韺W(xué)。世界是美麗的。這太神奇了，因?yàn)樗怯脵C(jī)器人制作的動(dòng)畫(huà)，是用人工智能制作的動(dòng)畫(huà)。您一整天都會(huì)看到的東西，都是在Omniverse中完全模擬生成的。您將要享受的是世界上第一場(chǎng)音樂(lè)會(huì)，一切都是自制的。您將要觀看一些家庭視頻，所以請(qǐng)坐下來(lái)盡情享受。

我愛(ài)英偉達(dá)。加速計(jì)算已達(dá)到臨界點(diǎn)。通用計(jì)算已經(jīng)失去動(dòng)力。我們需要另一種計(jì)算方式，這樣我們就可以繼續(xù)擴(kuò)展，這樣我們就可以繼續(xù)降低計(jì)算成本，這樣我們就可以繼續(xù)消耗越來(lái)越多的計(jì)算。我們正在追求的是可持續(xù)性。加速計(jì)算已經(jīng)在與通用計(jì)算的比較中展現(xiàn)出顯著的優(yōu)勢(shì)。在我所參與的每一個(gè)行業(yè)中，我都有大量的案例可以向您展示。其影響力巨大，而且在任何行業(yè)中，它的重要性都超過(guò)了我們自己的行業(yè)。這些行業(yè)都在使用模擬工具來(lái)創(chuàng)建產(chǎn)品。這并不是為了降低計(jì)算成本，而是為了擴(kuò)大計(jì)算規(guī)模。我們希望能夠進(jìn)行模擬，我們所做的整個(gè)產(chǎn)品都是完全高保真、完全數(shù)字化的，這就是我們所說(shuō)的數(shù)字孿生。我們希望設(shè)計(jì)它、構(gòu)建它、模擬它、操作它，完全數(shù)字化。為了實(shí)現(xiàn)這一目標(biāo)，我們需要加速整個(gè)行業(yè)的發(fā)展。今天，我想宣布，我們有一些合作伙伴正在加入我們的旅程，他們將加速他們的整個(gè)生態(tài)系統(tǒng)，以便我們可以將世界帶入加速計(jì)算的時(shí)代。

但是，加速計(jì)算還有一個(gè)好處。當(dāng)你的計(jì)算速度加快時(shí)，你的基礎(chǔ)設(shè)施將與GPU耦合。當(dāng)這種情況發(fā)生時(shí)，生成人工智能的基礎(chǔ)設(shè)施將完全相同。因此，我很高興地宣布，我們已經(jīng)與一些非常重要的合作伙伴建立了關(guān)系。ANSYS是世界上一些最重要的公司，他們對(duì)世界制造的產(chǎn)品進(jìn)行工程模擬。我們正在與他們合作，加速ANSYS生態(tài)系統(tǒng)，將ANSYS連接到Omniverse數(shù)字孿生。令人驚嘆的是，NVIDIA GPU加速系統(tǒng)的安裝基礎(chǔ)已經(jīng)遍布世界各地、每個(gè)云、每個(gè)系統(tǒng)。因此，他們加速的應(yīng)用程序?qū)⒂幸粋€(gè)巨大的安裝基礎(chǔ)可供服務(wù)。最終用戶(hù)將擁有令人驚嘆的應(yīng)用程序，當(dāng)然，系統(tǒng)制造商和CSP也會(huì)有巨大的客戶(hù)需求。

新思科技(Synopsys)是NVIDIA的第一個(gè)軟件合作伙伴，他們?cè)谖覀児境闪⒌牡谝惶炀蛥⑴c其中。新思科技通過(guò)高水平設(shè)計(jì)徹底改變了芯片行業(yè)。我們將采取行動(dòng)來(lái)加速Synopsys的發(fā)展。我們正在加速計(jì)算光刻，這是一項(xiàng)鮮為人知但極其重要的應(yīng)用。為了制作芯片，我們必須將光刻技術(shù)推向極限。NVIDIA創(chuàng)建了一個(gè)領(lǐng)域特定庫(kù)，這加速了計(jì)算光刻。令人難以置信的是，一旦我們能夠加速并由軟件定義臺(tái)積電的全部，臺(tái)積電今天宣布他們將使用NVIDIA Qlitho投入生產(chǎn)。一旦軟件定義并加速，下一步就是將生成式人工智能應(yīng)用于半導(dǎo)體制造的未來(lái)，進(jìn)一步推動(dòng)幾何學(xué)的發(fā)展。

Cadence構(gòu)建了世界上重要的EDA和SDA工具。我們也在使用Cadence。這三個(gè)公司，Ansys、Synopsys、Cadence，我們基本上是在構(gòu)建NVIDIA。我們共同致力于加速Cadence。他們還利用NVIDIA GPU構(gòu)建超級(jí)計(jì)算機(jī)，以便為他們的客戶(hù)提供服務(wù)。這樣，他們就可以進(jìn)行流體動(dòng)力學(xué)模擬，基本上是一百、一千倍的規(guī)模，實(shí)時(shí)風(fēng)洞。Cadence Millennium內(nèi)置NVIDIA GPU的超級(jí)計(jì)算機(jī)是一家構(gòu)建超級(jí)計(jì)算機(jī)的軟件公司，我很高興看到這一點(diǎn)。我們正在一起構(gòu)建Cadence Copilot。想象一下有一天，當(dāng)Cadence可以成為Synopsys、Ansys等工具提供商時(shí)，將為您提供人工智能Copilot。這樣我們就有成千上萬(wàn)的Copilot助理幫助我們?cè)O(shè)計(jì)芯片、設(shè)計(jì)系統(tǒng)。我們還將把Cadence數(shù)字孿生平臺(tái)連接到Omniverse。

正如您在這里看到的趨勢(shì)，我們正在加速世界上的CAE、EDA和SDA，以便我們能夠在數(shù)字孿生中創(chuàng)造我們的未來(lái)。我們將把它們?nèi)窟B接到Omniverse，這是未來(lái)數(shù)字孿生的基本操作系統(tǒng)。受益于規(guī)模巨大的行業(yè)之一，你們都非常了解這一大型語(yǔ)言模型。基本上，自從Transformer被發(fā)明之后，我們能夠以令人難以置信的速度擴(kuò)展大型語(yǔ)言模型，每六個(gè)月有效翻倍。

你可能會(huì)問(wèn)，現(xiàn)在怎么可能每六個(gè)月翻一番呢？我們已經(jīng)發(fā)展了這個(gè)行業(yè)，到目前為止，我們已經(jīng)增加了計(jì)算需求。原因很簡(jiǎn)單。如果你將模型的大小加倍，你的大腦的大小就會(huì)加倍，你需要兩倍的信息來(lái)填充它。因此，每次將參數(shù)數(shù)量加倍時(shí)，您還必須適當(dāng)增加訓(xùn)練Token數(shù)量。這兩個(gè)數(shù)字的組合，成為你必須支持的計(jì)算規(guī)模。

最新、最先進(jìn)的OpenAI模型，大約有1.8萬(wàn)億個(gè)參數(shù)。1.8 萬(wàn)億個(gè)參數(shù)，需要幾萬(wàn)億Token去訓(xùn)練。所以，幾萬(wàn)億個(gè)參數(shù)大約是幾萬(wàn)億個(gè)Token，當(dāng)你將它們兩者相乘時(shí)，大約30、40、500億，四萬(wàn)億每秒浮點(diǎn)運(yùn)算。現(xiàn)在我們只需要做一些CO數(shù)學(xué)就可以了。所以你有300億千萬(wàn)億，一萬(wàn)億就像善待動(dòng)物組織（PETA）。因此，如果你有一個(gè)PETA flop GPU，你將需要300億秒來(lái)進(jìn)行計(jì)算和訓(xùn)練該模型，300億秒大約需要1,000年。

一千年，這很值得。我想早點(diǎn)做，但這是值得的。當(dāng)大多數(shù)人告訴我做一件事要花多長(zhǎng)時(shí)間時(shí)，我的答案通常是20年，這是值得的。但我們可以下周做嗎？等了1000年，我們需要的是更大的GPU。

我們需要更大的GPU，我們很早就認(rèn)識(shí)到了這一點(diǎn)。我們意識(shí)到答案是將一大堆GPU放在一起，當(dāng)然一路上創(chuàng)新一大堆東西，比如發(fā)明張量核心，推進(jìn)NVLink，以便我們能夠創(chuàng)造出實(shí)質(zhì)上巨大的東西。GPU并通過(guò)來(lái)自Mellanox InfiniBand公司的令人驚嘆的網(wǎng)絡(luò)將它們連接在一起，以便我們可以創(chuàng)建這些巨型系統(tǒng)。

所以，DGX1是我們的第一個(gè)版本，但它不是最后一個(gè)版本，我們一直在構(gòu)建超級(jí)計(jì)算機(jī)。2021年，我們有Selene，大約4,500個(gè)GPU。然后進(jìn)入2023年，我們建造了世界上最大的人工智能超級(jí)計(jì)算機(jī)之一，它剛剛上線，名為埃歐斯。

當(dāng)我們正在構(gòu)建這些東西時(shí)，我們正在努力幫助世界建造這些東西。為了幫助世界構(gòu)建這些東西，我們必須首先構(gòu)建它們。我們制造芯片、系統(tǒng)、網(wǎng)絡(luò)、執(zhí)行此操作所需的所有軟件。你應(yīng)該看到這些系統(tǒng)，想象一下編寫(xiě)一個(gè)在整個(gè)系統(tǒng)上運(yùn)行并分布計(jì)算的軟件。

數(shù)千個(gè)GPU，但內(nèi)部是數(shù)千個(gè)較小的GPU，數(shù)以百萬(wàn)計(jì)的GPU，在所有這些之間分配工作并平衡工作負(fù)載，以便您可以獲得最大的能源效率，最佳的計(jì)算時(shí)間，降低您的成本等等。這種根本性創(chuàng)新，是什么讓我們來(lái)到這里。

我們到了，正如我們看到的奇跡，ChatGPT的出現(xiàn)，我們也意識(shí)到了，我們還有很長(zhǎng)的路要走。我們需要更大的模型，我們將使用多模態(tài)數(shù)據(jù)來(lái)訓(xùn)練它，而不僅僅是互聯(lián)網(wǎng)上的文本，我們將使用文本、圖像、圖形和圖表來(lái)訓(xùn)練它。正如我們所學(xué)的那樣，將會(huì)有大量觀看視頻，以便這些模型。我們可以以物理學(xué)為基礎(chǔ)來(lái)理解，為什么我們的手臂不能穿過(guò)墻壁。因此，這些模型具有常識(shí)。他們通過(guò)觀看世界上的大量視頻和各種語(yǔ)言的結(jié)合來(lái)學(xué)習(xí)。當(dāng)我們嘗試學(xué)習(xí)時(shí)，他們會(huì)像我們一樣使用合成數(shù)據(jù)生成等工具。我們可能會(huì)用我們的想象力來(lái)模擬它將如何結(jié)束，就像我在準(zhǔn)備這個(gè)主題演講時(shí)所做的那樣，我一直在模擬它的過(guò)程。我希望事情會(huì)成功，我腦子里也有這個(gè)想法。

當(dāng)我正在模擬這個(gè)主題演講的結(jié)果時(shí)，有人確實(shí)提到了另一位表演者。她的表演完全是在跑步機(jī)上進(jìn)行的，這樣她就能以飽滿(mǎn)的能量來(lái)完成任務(wù)。我沒(méi)有那樣做。如果我在大約10分鐘內(nèi)聽(tīng)到一點(diǎn)風(fēng)聲，你就知道發(fā)生了什么。

那么我們?cè)谀睦?？我們坐在這里使用合成數(shù)據(jù)生成，我們將使用強(qiáng)化學(xué)習(xí)，我們將在我們的腦海中練習(xí)。我們將讓人工智能與人工智能一起工作，就像學(xué)生、老師和辯手一樣互相訓(xùn)練。所有這些都將增加我們模型的大小，這將增加我們擁有的數(shù)據(jù)量，并且我們將不得不構(gòu)建更大的模型。GPU Hopper非常棒，但我們需要更大的GPU。

女士們、先生們，我想向您介紹一下，至極大的GPU，以大衛(wèi)·Blackwell的名字命名。他是一位數(shù)學(xué)家，博弈論學(xué)家。我們認(rèn)為這是一個(gè)完美的名字。Blackwell，女士們、先生們，你們會(huì)喜歡這個(gè)。Blackwell不是芯片，Blackwell是一個(gè)平臺(tái)的名稱(chēng)。人們認(rèn)為我們制造GPU，我們確實(shí)這么做了，但GPU的外觀已不再像以前那樣了。如果你愿意的話(huà)，這是Blackwell系統(tǒng)的核心。公司內(nèi)部不叫Blackwell，只是一個(gè)數(shù)字。

這是Blackwell，坐在旁邊的是當(dāng)今世界上生產(chǎn)的最先進(jìn)的GPU，這是Hopper。Hopper改變了世界，這是Blackwell。沒(méi)關(guān)系，Hopper，你很不錯(cuò)。2080億個(gè)晶體管，所以你可以看到，我可以看到，兩個(gè)芯片之間有一條小線，這是第一次兩個(gè)芯片如此鄰接在一起，以這樣的方式，兩個(gè)骰子認(rèn)為這是一個(gè)芯片。每秒10TB之間有10TB的數(shù)據(jù)，因此Blackwell芯片的兩側(cè)不知道它們?cè)谀囊粋?cè)，沒(méi)有內(nèi)存局部性問(wèn)題，沒(méi)有緩存問(wèn)題。這只是一塊巨型芯片，所以當(dāng)我們被告知Blackwell的野心超出了物理學(xué)的極限時(shí)，工程師說(shuō)那又怎樣。這就是發(fā)生的事情，這就是Blackwell。

芯片及其進(jìn)入兩種類(lèi)型的系統(tǒng)：第一種。形狀適合，功能與Hopper兼容，所以你在Hopper上滑動(dòng)，然后你推入Blackwell，這就是為什么坡道的挑戰(zhàn)之一將如此高效。世界各地都有安裝Hopper，它們可能是你知道的相同的基礎(chǔ)設(shè)施，相同的設(shè)計(jì)。電源、電力、熱量、軟件相同，將其推回原處，所以這是針對(duì)當(dāng)前HGX配置的Hopper版本，這就是第二個(gè)Hopper的樣子?，F(xiàn)在這是一個(gè)原型板。

第二個(gè)問(wèn)題是，隨著技術(shù)的發(fā)展，產(chǎn)品的價(jià)格會(huì)降低，這對(duì)所有消費(fèi)者來(lái)說(shuō)都是好消息。然而，當(dāng)前的產(chǎn)品價(jià)格相當(dāng)高，這是因?yàn)樗且环N創(chuàng)新的啟動(dòng)產(chǎn)品。

這款產(chǎn)品將以一種新的生產(chǎn)方式進(jìn)入市場(chǎng)。它配備了兩個(gè)Blackwell芯片和四個(gè)Blackwell芯片，這些芯片都連接到Grace CPU上。Grace CPU具有超快的芯片到芯片鏈接，這是一項(xiàng)令人驚奇的技術(shù)。這臺(tái)計(jì)算機(jī)是同類(lèi)產(chǎn)品中的第一臺(tái)，能夠進(jìn)行大量的計(jì)算。

這款產(chǎn)品的體積小巧，內(nèi)存充足，所有的組件都能夠協(xié)同工作，就像一個(gè)幸福的大家庭一樣，共同開(kāi)發(fā)應(yīng)用程序，保證了產(chǎn)品的連貫性。你可能會(huì)看到這款產(chǎn)品的數(shù)字規(guī)格，包括大量的太字節(jié)，這是一項(xiàng)令人驚嘆的技術(shù)。

MV鏈接位于產(chǎn)品的頂部，而PCI Express位于底部。至于CPU芯片到芯片的鏈接，它可能在你的左邊，也可能在我的左邊，這取決于我們的位置。我們正在努力解決這個(gè)問(wèn)題，但我認(rèn)為這并不重要。

我們希望能夠插入更多的功能，這就是Grace Blackwell系統(tǒng)。但我們還有更多的計(jì)劃。所有的規(guī)格都很棒，但我們需要開(kāi)發(fā)更多新功能，以突破物理的極限。

我們希望能夠不斷提高性能，因此我們發(fā)明了第二代Transformer引擎。這款引擎具有動(dòng)態(tài)和自動(dòng)的能力，可以重新調(diào)整和重塑數(shù)字格式，即使精度較低，只要它能記住，人工智能就是關(guān)于概率的。

你可能會(huì)看到一些數(shù)字，比如1.7乘以1.4等等，這些數(shù)字是否有意義，取決于數(shù)學(xué)的精度和范圍。在處理數(shù)據(jù)的特定階段，保持精度和范圍的能力是非常重要的。這不僅僅是因?yàn)槲覀冊(cè)O(shè)計(jì)了一個(gè)更小的鋁，它并不完全是世界，它并不那么簡(jiǎn)單。你必須弄清楚在整個(gè)計(jì)算過(guò)程中何時(shí)可以使用它。

我們有數(shù)千個(gè)GPU，它們可以連續(xù)運(yùn)行數(shù)周，你希望確保訓(xùn)練工作能夠收斂。因此，我們的新Transformer引擎配備了第五代MV鏈接。它的速度是Hopper的兩倍，這非常重要，因?yàn)樗枰诰W(wǎng)絡(luò)中進(jìn)行計(jì)算。

當(dāng)你有這么多不同的GPU一起工作時(shí)，我們必須彼此共享我們的信息，我們必須彼此同步和更新。每隔一段時(shí)間，我們就必須減少部分產(chǎn)品，然后重新廣播部分產(chǎn)品，其中一些部分產(chǎn)品返回給其他人。所以有很多所謂的全部減少和全部到所有所有收集都是這的一部分同步和集體領(lǐng)域，這樣我們就可以讓GPU相互協(xié)作，具有非?？斓逆溄?，并且能夠在網(wǎng)絡(luò)中正確進(jìn)行數(shù)學(xué)運(yùn)算，使我們能夠從本質(zhì)上放大甚至更進(jìn)一步。

因此，即使它的速度是每秒1.8TB，它實(shí)際上也高于這個(gè)數(shù)字，所以可能性是Hopper的很多倍。超級(jí)計(jì)算機(jī)在In上運(yùn)行數(shù)周的時(shí)間大約為零，其原因是因?yàn)橛刑嘟M件同時(shí)工作。據(jù)統(tǒng)計(jì)，它們連續(xù)工作的概率非常低，因此我們需要確保只要有一口井，我們就盡可能頻繁地檢查點(diǎn)并重新啟動(dòng)。然而，如果我們有能力盡早檢測(cè)到芯片或筆記本的問(wèn)題，我們就可以將其退役，甚至可能將其替換為另一個(gè)處理器。這種能力可以保持超級(jí)計(jì)算機(jī)的高利用率，特別是當(dāng)你剛剛花費(fèi)了20億美元建造它時(shí)，這是非常重要的。因此，我們?cè)赗as引擎中加入了一個(gè)具有可靠性的引擎。

我們的系統(tǒng)測(cè)試中，每一個(gè)門(mén)的每一個(gè)內(nèi)存位都會(huì)進(jìn)行百分百的自檢。這包括在Blackwell芯片上以及所有連接到的內(nèi)存上。這幾乎就像我們?yōu)槊總€(gè)芯片配備了自己的高級(jí)測(cè)試儀一樣，我們用它來(lái)測(cè)試我們的芯片。這是我們第一次對(duì)它的安全人工智能感到非常興奮。只有在今天的這次會(huì)議上，我們才為Ras引擎鼓掌。

顯然，保護(hù)你剛剛花費(fèi)了數(shù)億美元?jiǎng)?chuàng)建的人工智能和代碼是非常重要的。這個(gè)人工智能的智能被編碼在參數(shù)中。你需要確保一方面你不會(huì)丟失它，另一方面它不會(huì)被污染。因此，我們現(xiàn)在有能力對(duì)數(shù)據(jù)進(jìn)行加密，無(wú)論是在休息時(shí)，還是在運(yùn)輸途中，甚至在計(jì)算時(shí)，它都是加密的。所以我們現(xiàn)在有能力加密和傳輸數(shù)據(jù)，當(dāng)我們計(jì)算它時(shí)，它是在可信的環(huán)境中，最后一件事是解壓縮。

當(dāng)計(jì)算速度如此之快時(shí)，將數(shù)據(jù)移入和移出這些節(jié)點(diǎn)變得非常重要。因此，我們安裝了高線速壓縮引擎，有效地將數(shù)據(jù)移入和移出這些計(jì)算機(jī)的速度提高了20倍。這些計(jì)算機(jī)非常強(qiáng)大，而且投資如此之大，我們最不想做的就是讓它們閑置。因此，所有這些功能都應(yīng)該保留。

總的來(lái)說(shuō)，與Hopper相比，對(duì)于每個(gè)芯片的訓(xùn)練來(lái)說(shuō)，它是fp8性能的兩倍半。它也有這種稱(chēng)為fp6的新格式，因此即使計(jì)算速度是相同的，由于內(nèi)存而放大的帶寬，你可以在內(nèi)存中存儲(chǔ)的參數(shù)數(shù)量現(xiàn)在已放大。Fp4有效地使吞吐量加倍，這對(duì)于推理至關(guān)重要。

變得非常清楚的一件事是，每當(dāng)你使用另一側(cè)帶有人工智能的計(jì)算機(jī)時(shí)，無(wú)論是與聊天機(jī)器人聊天，提出問(wèn)題，審查或制作圖像，都要記住后面是一個(gè)GPU生成token。有些人稱(chēng)之為推理，但更合適的是一代。

過(guò)去計(jì)算的方式是檢索，你會(huì)抓住你的手機(jī)，觸摸一些東西，一些信號(hào)基本上會(huì)消失，一封電子郵件會(huì)發(fā)送到某個(gè)存儲(chǔ)，某處有預(yù)先錄制的內(nèi)容，有人寫(xiě)了一個(gè)故事，有人制作了一張圖像，或者有人錄制了一個(gè)內(nèi)容。視頻。然后，這些預(yù)先錄制的內(nèi)容會(huì)流回手機(jī)并以基于推薦系統(tǒng)的方式重新組合，向你呈現(xiàn)信息。

然而，未來(lái)你就知道了，絕大多數(shù)內(nèi)容將不會(huì)被檢索。原因是因?yàn)檫@是由不了解上下文的人預(yù)先錄制的。這就是我們必須檢索這么多內(nèi)容的原因。如果你可以與一個(gè)人工智能一起工作，它可以理解你是誰(shuí)，你出于什么原因獲取這些信息，并以你喜歡的方式為你生成信息。我們節(jié)省的能源量、我們節(jié)省的網(wǎng)絡(luò)帶寬量、我們節(jié)省的時(shí)間浪費(fèi)量，將是巨大的。

未來(lái)是生成式的，這就是我們稱(chēng)之為生成式人工智能的原因，這就是為什么這是一個(gè)全新的行業(yè)，我們的計(jì)算方式根本不同。我們創(chuàng)建了一個(gè)處理器，面向生成人工智能時(shí)代。它最重要的部分之一是內(nèi)容Token生成，我們稱(chēng)之為它，這種格式是fp4。這涉及到大量的計(jì)算。Token生成的能力是Hopper推理能力的五倍，這看起來(lái)已經(jīng)足夠了。但是，為什么我們要止步于此呢？答案是，這還不夠。我將向您解釋原因。

我們希望有一個(gè)更大的GPU，甚至比現(xiàn)在的更大。我們決定擴(kuò)展它，但在此之前，讓我告訴您我們?cè)谶^(guò)去的八年里是如何擴(kuò)展我們的計(jì)算能力的。在這八年里，我們的計(jì)算能力增加了一千倍。還記得摩爾定律的美好舊時(shí)光嗎？那時(shí)，我們的計(jì)算能力每五年增加十倍，每十年增加一百倍。在個(gè)人電腦革命的鼎盛時(shí)期，我們的計(jì)算能力每十年增加一百倍。然而，在過(guò)去的八年里，我們的計(jì)算能力每十年增加了一千倍，而且我們還有兩年的時(shí)間。

我們推進(jìn)計(jì)算的速度是驚人的，但仍然不夠快，所以我們建造了另一個(gè)芯片。這個(gè)芯片是一個(gè)令人難以置信的芯片，我們稱(chēng)之為MV鏈接開(kāi)關(guān)。它有五百億個(gè)晶體管，幾乎有Hopper大小。這個(gè)開(kāi)關(guān)芯片本身有四個(gè)MV鏈接，每個(gè)鏈接每秒可以傳輸1.8TB的數(shù)據(jù)。正如我提到的，它具有計(jì)算功能。

這個(gè)芯片的作用是什么呢？如果我們制造這樣的芯片，我們可以讓每個(gè)GPU同時(shí)與其他每個(gè)GPU全速通信。這聽(tīng)起來(lái)似乎有些瘋狂，甚至沒(méi)有意義。但是，如果你能找到一種方法來(lái)實(shí)現(xiàn)這一點(diǎn)，并建立一個(gè)系統(tǒng)來(lái)實(shí)現(xiàn)這一點(diǎn)，那么這將是非常劃算的。如果我們可以通過(guò)一致的鏈路將所有這些GPU連接起來(lái)，使它們實(shí)際上就是一個(gè)巨大的GPU，那將是多么令人難以置信啊。

為了使其具有成本效益，我們必須直接驅(qū)動(dòng)銅，這是我們的一項(xiàng)偉大發(fā)明。這樣，我們就可以直接驅(qū)動(dòng)到銅，結(jié)果是，您可以構(gòu)建一個(gè)如下所示的系統(tǒng)。

現(xiàn)在，這個(gè)系統(tǒng)看起來(lái)有些瘋狂。這是一個(gè)DGX，這就是DGX現(xiàn)在的樣子。還記得六年前的樣子嗎？它相當(dāng)重，但我能夠舉起它。我交付了第一個(gè)DGX，打開(kāi)了AI的大門(mén)。研究人員，你知道這些照片是在互聯(lián)網(wǎng)上的。我們都親筆簽名了。如果你來(lái)我的辦公室，你會(huì)看到它有親筆簽名，那里真的很漂亮。但你可以舉起這個(gè)DGX。

順便說(shuō)一句，那個(gè)DGX的浮點(diǎn)運(yùn)算能力是170萬(wàn)億次。如果您不熟悉編號(hào)系統(tǒng)，那是0.17萬(wàn)億次浮點(diǎn)運(yùn)算。所以這是720。我交付給Open AI的第一個(gè)是0.17。你可以將其四舍五入到0.2，這不會(huì)有任何區(qū)別。到那時(shí)，就像哇，你知道了，30萬(wàn)億次浮點(diǎn)運(yùn)算。目前，我們已經(jīng)擁有了一臺(tái)720 petaflops的機(jī)器，這幾乎等同于exaflops的訓(xùn)練能力，它是世界上第一臺(tái)在一個(gè)機(jī)架中達(dá)到1 exaflops的機(jī)器。如你所知，在我們的地球上，只有兩臺(tái)能夠進(jìn)行三百億次浮點(diǎn)運(yùn)算的機(jī)器。這是一臺(tái)Exaflops級(jí)別的人工智能系統(tǒng)。

讓我們來(lái)看看這臺(tái)機(jī)器的背面。這就是讓這臺(tái)機(jī)器成為可能的關(guān)鍵部分，也就是DGX的背面。這里有一個(gè)MV鏈路脊椎，每秒可以處理130 TB的數(shù)據(jù)。這個(gè)數(shù)據(jù)傳輸速度甚至超過(guò)了互聯(lián)網(wǎng)的總帶寬。因此，我們基本上可以在一秒鐘內(nèi)將所有內(nèi)容發(fā)送給每個(gè)人。

這臺(tái)機(jī)器的背面有5000根電纜，這些中壓連接電纜總長(zhǎng)達(dá)到了2英里。這是一項(xiàng)令人驚奇的技術(shù)，如果我們必須使用光學(xué)器件，我們將不得不使用收發(fā)器和重定時(shí)器，而僅這些收發(fā)器和重定時(shí)器就需要花費(fèi)20,000瓦的電力。而我們只用了2千瓦的收發(fā)器就驅(qū)動(dòng)了MV鏈路主干。我們通過(guò)MV鏈路交換機(jī)完全免費(fèi)完成此操作，因此我們能夠節(jié)省整個(gè)機(jī)架的20千瓦計(jì)算功率。120千瓦與20千瓦的差別是巨大的。

這臺(tái)機(jī)器是液體冷卻的，溫度約為室溫25攝氏度。結(jié)果是，你的按摩浴缸的溫度會(huì)達(dá)到45攝氏度。所以，室溫的液體進(jìn)入按摩浴缸后，每秒會(huì)輸出2升的液體。我們可以出售這些外圍設(shè)備。

有人曾經(jīng)說(shuō)過(guò)，你們知道你們制造GPU，我們也制造GPU。但這就是我們的GPU的樣子。對(duì)我來(lái)說(shuō)，當(dāng)有人說(shuō)GPU時(shí)，我看到的就是這個(gè)。兩年前，當(dāng)我看到GPU是HGX時(shí)，它重70磅，需要35,000個(gè)零件。而我們現(xiàn)在的GPU有600,000個(gè)零件，重3,000磅。這個(gè)重量有點(diǎn)像碳纖維的法拉利。我不知道這是否是一個(gè)有用的比較。

現(xiàn)在，讓我們看看這臺(tái)DGX在運(yùn)行中是什么樣子。讓我們想象一下我們?nèi)绾巫屗l(fā)揮作用，這意味著什么。如果你要訓(xùn)練一個(gè)擁有1.8萬(wàn)億參數(shù)的GPT模型，你需要25,000安培的電力，這可能需要3到5個(gè)月的時(shí)間。如果我們用傳統(tǒng)的方式來(lái)做這件事，可能需要8,000個(gè)GPU并會(huì)消耗15兆瓦的電力，這需要90天，大約3個(gè)月的時(shí)間。

你知道這個(gè)突破性的人工智能模型，這顯然不像任何人想象的那么昂貴，但它需要8,000個(gè)GPU，這仍然是一筆巨大的投資。如果你要使用Blackwell來(lái)做這件事，只需要2,000個(gè)GPU。我們使用了2000個(gè)GPU，同樣在90天內(nèi)完成了任務(wù)，但令人驚奇的是，功率僅為4兆瓦。是的，從15開(kāi)始，這是正確的。我們的目標(biāo)是不斷降低成本和能源消耗，因?yàn)樗鼈兣c計(jì)算相關(guān)的成本和能源是正比關(guān)系。這樣，我們就可以繼續(xù)擴(kuò)展并擴(kuò)大我們必須進(jìn)行的計(jì)算訓(xùn)練，以培養(yǎng)下一代模型。這就是訓(xùn)練的過(guò)程。

推理或生成過(guò)程也是至關(guān)重要的一步。你可能知道，NVIDIA GPU有一半的時(shí)間都在云中運(yùn)行，這些天它被用于Token生成。它們可能在運(yùn)行Copilot，或者在進(jìn)行聊天，例如使用ChatGPT。當(dāng)你使用這些模型時(shí)，它們正在與你交互或生成圖像、視頻、蛋白質(zhì)、化學(xué)物質(zhì)等。所有這些都屬于我們稱(chēng)為推理的計(jì)算類(lèi)別，但推理過(guò)程非常困難。

對(duì)于大型語(yǔ)言模型，因?yàn)樗鼈兎浅４?，所以它們不適合一個(gè)GPU。這就像Excel不適合一個(gè)GPU，或者你在日?；A(chǔ)上運(yùn)行的某些應(yīng)用程序不適合一臺(tái)計(jì)算機(jī)，就像視頻游戲不適合一臺(tái)計(jì)算機(jī)一樣。事實(shí)上，過(guò)去很多次，超大規(guī)模計(jì)算的許多應(yīng)用程序都安裝在同一臺(tái)計(jì)算機(jī)上?，F(xiàn)在突然之間，你正在與這個(gè)聊天機(jī)器人進(jìn)行交互的推理應(yīng)用程序，需要一臺(tái)超級(jí)計(jì)算機(jī)在后臺(tái)運(yùn)行。這就是未來(lái)，未來(lái)是由這些聊天機(jī)器人生成的，這些聊天機(jī)器人有數(shù)萬(wàn)億的Token和數(shù)萬(wàn)億的參數(shù)，它們必須生成Token。

現(xiàn)在，從互動(dòng)的角度來(lái)看，這意味著什么呢？好吧，一個(gè)詞通常由三個(gè)Token表示。你知道，“太空是最后的疆域”，這就像80個(gè)Token一樣。我不知道這對(duì)你是否有用，你知道，溝通的藝術(shù)就是選擇好的和好的類(lèi)比。是的，這個(gè)過(guò)程并不順利。我不知道他在說(shuō)什么，我從未看過(guò)《星際迷航》。所以我們?cè)谶@里嘗試生成這些Token，當(dāng)你與它交互時(shí)，你希望這些Token盡可能快地返回給你，這是你可以閱讀的最快速度。因此，生成Token的能力非常重要，你必須讓這個(gè)模型在許多GPU上工作，這樣你就可以實(shí)現(xiàn)幾件事。一方面，你想要吞吐量，因?yàn)橥掏铝靠梢越档蜕擅總€(gè)Token的總體成本，因此吞吐量決定了提供服務(wù)的成本。另一方面，你有交互率，它是每秒生成另一個(gè)Token，它與每個(gè)用戶(hù)有關(guān)，也與服務(wù)質(zhì)量有關(guān)。所以，這兩個(gè)目標(biāo)是相互競(jìng)爭(zhēng)的。

我們必須找到一種方法，在所有這些不同的GPU上分配工作，并以一種能夠?qū)崿F(xiàn)這兩個(gè)目標(biāo)的方式進(jìn)行操作。事實(shí)證明，搜索空間是巨大的。你知道，我告訴過(guò)你這會(huì)涉及到數(shù)學(xué)。每個(gè)人都會(huì)感到困擾。我剛才放那張幻燈片時(shí)，聽(tīng)到了一些喘息聲。所以，這個(gè)圖表中的y軸表示數(shù)據(jù)中心的吞吐量，即每秒的Token數(shù)，x軸表示用戶(hù)的交互性，即每秒的Token數(shù)。請(qǐng)注意，右上角是最好的，你希望交互性非常高，你希望每個(gè)用戶(hù)每秒的Token數(shù)非常高，你希望每個(gè)數(shù)據(jù)中心的每秒Token數(shù)非常高。右上角非常棒，但是很難做到這一點(diǎn)。我們正在尋找最好的答案，跨越每一個(gè)交點(diǎn)xy坐標(biāo)。所有這些藍(lán)點(diǎn)都來(lái)自于一些重新分區(qū)。在優(yōu)化軟件的過(guò)程中，我們必須明確是否使用張量并行、專(zhuān)家并行、管道并行或數(shù)據(jù)并行和分布。這個(gè)巨大的模型需要在所有這些不同的GPU上運(yùn)行并保持所需的性能。如果沒(méi)有NVIDIA GPU的可編程性，這個(gè)探索空間將是不可能的。因此，我們可以通過(guò)CUDA，利用我們豐富的生態(tài)系統(tǒng)，探索這個(gè)領(lǐng)域并發(fā)現(xiàn)新的可能性。

請(qǐng)注意那條綠色屋頂線，它實(shí)際上證明了一些重要的事實(shí)。TP2EPADP4代表兩個(gè)張量并行，跨兩個(gè)GPU的張量并行，跨8個(gè)GPU的專(zhuān)家并行，跨4個(gè)GPU的數(shù)據(jù)并行。在另一端，您會(huì)看到跨4個(gè)GPU的張量并行以及跨16個(gè)GPU的專(zhuān)家并行。這些都是軟件分布的不同配置，它們?cè)诓煌倪\(yùn)行時(shí)環(huán)境中會(huì)產(chǎn)生不同的結(jié)果。你必須去發(fā)現(xiàn)那個(gè)屋頂線，這只是一個(gè)模型，這只是計(jì)算機(jī)的一種配置。想象一下，所有在世界各地創(chuàng)建的模型以及所有不同的系統(tǒng)的不同配置將可用。

現(xiàn)在您已經(jīng)了解了基礎(chǔ)知識(shí)，讓我們看一下Blackwell的推理比較。Hopper，這是一件非凡的事情。在一代人的時(shí)間里，我們創(chuàng)建了一個(gè)專(zhuān)為萬(wàn)億參數(shù)生成人工智能而設(shè)計(jì)的系統(tǒng)。Blackwell的推理能力超乎尋常，事實(shí)上，它是Hopper的大約30倍。對(duì)于大型語(yǔ)言模型，例如ChatGPT和其他類(lèi)似的大型語(yǔ)言模型，藍(lán)線代表我給你的Hopper。想象一下，我們沒(méi)有改變Hopper的架構(gòu)，我們只是把它變成了一個(gè)更大的芯片。

我們只使用您所知道的最新最好的技術(shù)，我們將兩個(gè)芯片連接在一起，我們得到了這個(gè)巨大的2080億參數(shù)的芯片。如果沒(méi)有其他改變，我們會(huì)如何執(zhí)行，結(jié)果非常美妙。那是紫色線，但沒(méi)有那么好。這就是fp4 Tensor核心、新Transformer引擎和非常重要的NV鏈接開(kāi)關(guān)的地方。原因是因?yàn)樗羞@些GPU必須共享結(jié)果，每當(dāng)他們互相交流時(shí)，所有人都會(huì)聚集在一起。NV鏈接交換機(jī)的通信速度幾乎快了10倍，比我們過(guò)去使用最快的網(wǎng)絡(luò)所能做的要多。

Blackwell將成為未來(lái)生成人工智能的一個(gè)令人驚嘆的系統(tǒng)。未來(lái)的數(shù)據(jù)中心將被視為我之前提到的人工智能工廠。在這種情況下，人工智能工廠的目標(biāo)是產(chǎn)生智力，而不是發(fā)電。這是一種新的工業(yè)革命，是智能的產(chǎn)生，所以這種能力是超級(jí)重要的。Blackwell的興奮真的很令人興奮。當(dāng)我們第一次開(kāi)始使用漏斗進(jìn)入市場(chǎng)時(shí)，我們有兩個(gè)好處，兩個(gè)csp加入我們共進(jìn)午餐，我們很高興。所以我們有兩個(gè)客戶(hù)，現(xiàn)在我們有更多。對(duì)于Blackwell來(lái)說(shuō)，這是令人難以置信的興奮。

還有一大堆不同的配置。當(dāng)然，我向您展示了可滑入Hopper外形尺寸的配置，以便輕松升級(jí)。我向您展示了液體冷卻的示例，其極端版本是通過(guò)MV連接的整個(gè)機(jī)架鏈接672個(gè)GPU。我們計(jì)劃將Blackwell推向全球的人工智能公司，其中許多公司正在以各種令人驚嘆的方式進(jìn)行工作。每個(gè)云服務(wù)提供商（CSP）都已經(jīng)做好準(zhǔn)備，包括所有的原始設(shè)備制造商（OEM）和原始設(shè)計(jì)制造商（ODM）。無(wú)論是區(qū)域性的還是全球的，各地的云主權(quán)AI和電信公司都正在與Blackwell簽約，以推出這項(xiàng)服務(wù)。

Blackwell將是我們歷史上最成功的產(chǎn)品發(fā)布，因此我迫不及待地想看到這一切。我要感謝那些加入我們的合作伙伴。亞馬遜網(wǎng)絡(luò)服務(wù)（AWS）正在為Blackwell做準(zhǔn)備，他們將使用安全的AI構(gòu)建第一個(gè)圖形處理器（GPU），并正在構(gòu)建一個(gè)222 exaflops的系統(tǒng)。當(dāng)我們剛剛開(kāi)始動(dòng)畫(huà)數(shù)字雙胞胎時(shí)，你可能會(huì)看到所有的集群都在下降，但實(shí)際上并非如此。

我們正在構(gòu)建的數(shù)字孿生就是藝術(shù)，除了基礎(chǔ)設(shè)施之外，它將會(huì)有多大。我們正在與AWS一起做很多事情，我們正在加速Sage制造商人工智能，我們正在加速基巖人工智能。亞馬遜機(jī)器人正在與我們合作，在Nvidia Omniverse和Isaac Sim AWS Health上使用Nvidia Health，因此AWS已經(jīng)真正傾向于加速計(jì)算。

谷歌正在為Blackwell做準(zhǔn)備，谷歌云平臺(tái)（GCP）已經(jīng)擁有100H 100T Force LForce的Nvidia Cuda GPUs，他們最近宣布了運(yùn)行在所有方面的Jemma模型。我們正在努力優(yōu)化和加速GCP的各個(gè)方面，我們正在加速數(shù)據(jù)處理，用于數(shù)據(jù)處理，他們的數(shù)據(jù)處理引擎Vertex AI和Mujoko與Google和GCP合作，跨越一系列舉措。

Oracle正在為Blackwell做準(zhǔn)備，Oracle是我們的一個(gè)很好的合作伙伴，對(duì)于Nvidia DGX云，我們也在共同努力加速對(duì)很多公司來(lái)說(shuō)非常重要的事情，如Oracle數(shù)據(jù)庫(kù)。

微軟正在為Blackwell做準(zhǔn)備，微軟和Nvidia有廣泛的合作伙伴關(guān)系，我們正在加速Cuda加速各種服務(wù)。當(dāng)你明顯地和AI聊天時(shí)，微軟Azure中的服務(wù)很可能是Nvidia在后面做推理和Token生成。我們構(gòu)建了他們構(gòu)建了最大的Nvidia Infiniband超級(jí)計(jì)算機(jī)，基本上是我們的數(shù)字孿生或我們的物理孿生。我們正在將Nvidia生態(tài)系統(tǒng)引入Azure Nvidia DGX云到Azure Nvidia Omniverse，現(xiàn)在托管在Azure Nvidia Health中關(guān)心Azure，所有這一切都與微軟結(jié)構(gòu)深度集成和深度連接。

整個(gè)行業(yè)都在為Blackwell做準(zhǔn)備，這就是我要向您展示的最多的內(nèi)容。到目前為止，您在Blackwell看到的場(chǎng)景是Blackwell的全保真設(shè)計(jì)，我們公司的所有東西都有數(shù)字孿生。事實(shí)上，這種數(shù)字孿生的想法正在真正傳播，它有助于幫助公司構(gòu)建非常復(fù)雜的東西，完美地第一次，還有什么比這更令人興奮的呢？

我們正在創(chuàng)建數(shù)字孿生，構(gòu)建一臺(tái)采用數(shù)字孿生構(gòu)建的計(jì)算機(jī)。讓我向您展示W(wǎng)ishtron正在做什么。為了滿(mǎn)足Nvidia加速計(jì)算Wishtron的需求，我們的領(lǐng)先制造合作伙伴之一正在使用由Omniverse SDKs和API開(kāi)發(fā)的定制軟件構(gòu)建Nvidia DGX和HGX工廠的數(shù)字孿生。對(duì)于他們最新的工廠，Wishtron從數(shù)字孿生開(kāi)始，將他們的Multicad和過(guò)程模擬數(shù)據(jù)虛擬集成到統(tǒng)一視圖中。在這個(gè)物理精確的數(shù)字環(huán)境中，經(jīng)過(guò)測(cè)試和優(yōu)化布局，工人的效率提高了51%。在施工過(guò)程中，我們使用Omniverse數(shù)字孿生來(lái)驗(yàn)證物理構(gòu)建是否與數(shù)字化計(jì)劃相匹配，以便盡早發(fā)現(xiàn)任何差異。這有助于避免成本高昂的變更訂單。使用數(shù)字孿生的結(jié)果令人印象深刻，它幫助Wishtron工廠的上線時(shí)間縮短了一半，只需兩個(gè)半月而不是五個(gè)月。全方位數(shù)字孿生投入運(yùn)行，幫助Wishtron快速測(cè)試新布局以適應(yīng)新流程，或改進(jìn)現(xiàn)有空間中的操作，并使用生產(chǎn)線上每臺(tái)機(jī)器的實(shí)時(shí)物聯(lián)網(wǎng)數(shù)據(jù)監(jiān)控實(shí)時(shí)操作。

最終，Wishtron將端到端周期時(shí)間縮短了50%，缺陷率降低了40%。借助nvidia ai和Omniverse，nvidia的全球合作伙伴生態(tài)系統(tǒng)正在構(gòu)建一個(gè)加速人工智能數(shù)字化的新時(shí)代。這就是我們的方式，這就是未來(lái)的方式。當(dāng)我們首先以數(shù)字方式制造所有東西，然后實(shí)際制造它時(shí)，人們問(wèn)我這是如何開(kāi)始的，是什么讓我們?nèi)绱伺d奮。

這就是那個(gè)時(shí)刻。這就是當(dāng)你不排練時(shí)會(huì)發(fā)生的情況。這就是你所知道的，這是第一次接觸。在2012年，AlexNet，你把一只貓的圖片放進(jìn)這臺(tái)電腦里，結(jié)果出來(lái)了，上面寫(xiě)著“貓”。我們驚嘆，這將改變一切。

你拿了一百萬(wàn)個(gè)數(shù)字，跨越了RGB的三個(gè)通道。這些數(shù)字對(duì)任何人來(lái)說(shuō)都毫無(wú)意義。你把它放入這個(gè)軟件中，它會(huì)壓縮它，它會(huì)在維度上減少它，它從一百萬(wàn)維減少到一個(gè)向量，一個(gè)數(shù)字，三個(gè)字母。廣義上來(lái)說(shuō)，你可以養(yǎng)貓，成為不同的貓。你可以把它放在貓的前面和貓的后面。你看看你說(shuō)的這件事，令人難以置信的是你指的是任何貓。是的，任何貓。它能夠識(shí)別所有這些貓。

我們意識(shí)到它是如何系統(tǒng)地做到這一點(diǎn)的。從結(jié)構(gòu)上講，它是可擴(kuò)展的。你能做多大，你想把它做多大。我們也是這樣想象的。這是一種全新的軟件編寫(xiě)方式。正如你所知，今天，你可以讓你輸入單詞“cat”，出來(lái)的是一只貓。事情卻走向了另一條路。我對(duì)嗎？難以置信，這怎么可能，是的，你怎么可能拿了三個(gè)字母，你從中生成了一百萬(wàn)個(gè)像素，這是有道理的。這就是奇跡。

十年后，我們真的認(rèn)識(shí)了文本，我們認(rèn)識(shí)了圖像，我們認(rèn)識(shí)了視頻和聲音，我們不僅認(rèn)識(shí)了它們，而且還理解了它們的含義。我們理解文本的含義，這就是我可以和你聊天的原因。它可以為你總結(jié)，它理解文本。它理解的不僅僅是識(shí)別英語(yǔ)，它理解英語(yǔ)，它不只是識(shí)別像素，它理解像素，你甚至可以在兩種模式之間調(diào)節(jié)它，你可以擁有語(yǔ)言條件圖像，并生成各種有趣的東西。

好吧，如果你能理解這些事情，你還能理解什么？你已經(jīng)數(shù)字化了。我們從文本開(kāi)始的原因，你知道圖像是因?yàn)槲覀儗⑦@些數(shù)字化了，但是我們還數(shù)字化了其他什么東西？事實(shí)證明我們數(shù)字化了很多東西，比如蛋白質(zhì)、基因和腦電波。任何可以數(shù)字化的東西，只要它們的結(jié)構(gòu)，我們就可以從中學(xué)習(xí)一些模式，如果我們可以從中學(xué)習(xí)模式，我們就可以理解它的含義，如果我們可以理解它的含義。我們也許有能力生成它。

因此，生成式人工智能革命就在眼前。那么，我們還能生成什么？我們還能學(xué)到什么？學(xué)習(xí)是我們的一項(xiàng)愿望。我們是否對(duì)氣候有所了解？我們?cè)敢饬私鈽O端天氣，我們?cè)敢鈱W(xué)習(xí)。那么，我們?nèi)绾晤A(yù)測(cè)未來(lái)的天氣？如何在區(qū)域范圍內(nèi)以足夠高的分辨率預(yù)測(cè)天氣，以便我們可以在傷害到來(lái)之前讓人們遠(yuǎn)離傷害？

極端天氣給世界造成了1500億美元的損失，這個(gè)數(shù)字肯定還要更高。這些損失并不均勻分布，1500億美元主要集中在世界的某些地區(qū)。對(duì)于世界上的某些人來(lái)說(shuō)，我們需要適應(yīng)，我們需要知道即將發(fā)生什么。因此，我們正在創(chuàng)造地球2，這是地球的數(shù)字孿生，用于預(yù)測(cè)天氣。

我們已經(jīng)做出了一項(xiàng)非凡的發(fā)明，名為CoreDiv，它能夠使用生成式人工智能以極高的分辨率預(yù)測(cè)天氣。隨著地球氣候變化，人工智能天氣預(yù)報(bào)使我們能夠更準(zhǔn)確地預(yù)測(cè)和跟蹤2021年超級(jí)臺(tái)風(fēng)“燦圖”等嚴(yán)重風(fēng)暴，該風(fēng)暴對(duì)臺(tái)灣及周邊地區(qū)造成廣泛破壞。當(dāng)前的人工智能預(yù)測(cè)模型可以準(zhǔn)確預(yù)測(cè)風(fēng)暴的軌跡，但它們的分辨率僅限于25公里，這可能會(huì)錯(cuò)過(guò)重要細(xì)節(jié)。

NVIDIA的CoreDiv是一種革命性的新生成AI模型，經(jīng)過(guò)高分辨率雷達(dá)同化碼頭天氣預(yù)報(bào)和ERA-5再分析數(shù)據(jù)的訓(xùn)練，使用CoreDiv，像Chanthu這樣的極端事件可以從25公里超分辨率到2公里分辨率，其速度和能源效率是傳統(tǒng)天氣模型的3000倍。通過(guò)結(jié)合NVIDIA天氣預(yù)報(bào)模型ForecastNet的速度和準(zhǔn)確性以及CoreDiv等生成式AI模型，我們可以探索數(shù)百甚至數(shù)千公里范圍的區(qū)域天氣預(yù)報(bào)，以提供清晰的圖片風(fēng)暴的最好、最壞和最有可能的影響。

這些豐富的信息可以幫助最大限度地減少生命損失和財(cái)產(chǎn)損失。今天，CoreDiv針對(duì)臺(tái)灣進(jìn)行了優(yōu)化，但很快，生成式超級(jí)采樣將作為NVIDIA Earth2推理服務(wù)的一部分提供給全球許多地區(qū)。氣象公司必須信任全球天氣預(yù)報(bào)的來(lái)源，我們正在共同努力加速他們的天氣模擬。

模擬的第一個(gè)原則基礎(chǔ)，但是，他們還將集成Earth2 CoreDiv，這樣他們就可以幫助企業(yè)和國(guó)家進(jìn)行區(qū)域高分辨率天氣預(yù)報(bào)。因此，如果您有一些天氣預(yù)報(bào)您想知道，喜歡做，聯(lián)系我們到氣象公司，這真的是一項(xiàng)令人興奮的工作。

在英偉達(dá)醫(yī)療保健領(lǐng)域，我們15年前就開(kāi)始做這件事，對(duì)此我們感到非常非常興奮，這是一個(gè)讓我們非常非常自豪的領(lǐng)域。無(wú)論是醫(yī)學(xué)成像、基因測(cè)序還是計(jì)算化學(xué)，很可能NVIDIA就是其背后的計(jì)算者。我們?cè)谶@方面做了很多工作。

今天我們宣布，我們要做一些非常非?？岬氖虑椤Ｏ胂笠幌?，所有這些正在使用的人工智能模型來(lái)生成圖像和音頻，但不僅僅是圖像和音頻。因?yàn)樗斫鈭D像和音頻，我們?yōu)榛?、蛋白質(zhì)和氨基酸所做的所有數(shù)字化，這種數(shù)字化能力就是現(xiàn)在通過(guò)機(jī)器學(xué)習(xí)讓我們理解生命的語(yǔ)言。理解生命語(yǔ)言的能力，當(dāng)然，我們看到了它的第一個(gè)證據(jù)，那就是阿爾法折疊。這確實(shí)是一項(xiàng)了不起的成就。經(jīng)過(guò)幾十年的艱苦努力，我們終于實(shí)現(xiàn)了世界的數(shù)字化。我們使用了各種不同的技術(shù)，如冷凍電子顯微鏡和X射線晶體學(xué)，進(jìn)行重建。

在不到一年的時(shí)間里，AlphaFold竭盡全力重建了200,000個(gè)蛋白質(zhì)。至今，已經(jīng)重建了2億個(gè)蛋白質(zhì)，基本上包括了每一種被測(cè)序過(guò)的生物的每一種蛋白質(zhì)。這是一次完全的革命。這些模型非常難以使用，對(duì)于人們來(lái)說(shuō)極其難以構(gòu)建。因此，我們的任務(wù)就是要構(gòu)建這些模型，我們將為世界各地的研究人員構(gòu)建它們。這不會(huì)是唯一的，我們還會(huì)創(chuàng)建許多其他模型。接下來(lái)，我將向您展示我們將如何使用這些模型。

新藥的虛擬篩選是一個(gè)計(jì)算上難以解決的問(wèn)題?，F(xiàn)有技術(shù)只能掃描數(shù)十億種化合物，并且需要在數(shù)千個(gè)標(biāo)準(zhǔn)計(jì)算節(jié)點(diǎn)上運(yùn)行數(shù)天才能識(shí)別新的候選藥物。NVIDIA BioNemo NIMS啟用了新的生成篩選范例。通過(guò)使用NIMS進(jìn)行蛋白質(zhì)結(jié)構(gòu)預(yù)測(cè)，通過(guò)MolNIM進(jìn)行AlphaFold分子生成，并與DiffDock對(duì)接，我們現(xiàn)在可以在幾分鐘內(nèi)生成和篩選候選分子。MolNIM可以連接到自定義應(yīng)用程序，迭代地引導(dǎo)生成過(guò)程，優(yōu)化所需的特性。

這些應(yīng)用程序可以使用BioNemo微服務(wù)定義或從頭開(kāi)始構(gòu)建。在這里，基于物理的模擬優(yōu)化分子與目標(biāo)蛋白結(jié)合的能力，同時(shí)優(yōu)化其他有利的分子特性。MolNIM生成的高質(zhì)量藥物樣藥物與靶標(biāo)結(jié)合且可合成的分子，將轉(zhuǎn)化為更快開(kāi)發(fā)成功藥物的更高可能性。

BioNemo正在啟用藥物發(fā)現(xiàn)的新范例，通過(guò)NIMS提供可組合的按需微服務(wù)，構(gòu)建強(qiáng)大的藥物發(fā)現(xiàn)工作流程，如從頭蛋白質(zhì)設(shè)計(jì)或用于虛擬篩選的引導(dǎo)分子生成。BioNemo NIMS正在幫助研究人員和開(kāi)發(fā)人員重新發(fā)明計(jì)算藥物設(shè)計(jì)。NVIDIA MOLNIM、MolNIM、CoreDiff以及一大堆其他模型，包括計(jì)算機(jī)視覺(jué)模型、機(jī)器人模型，甚至一些非常優(yōu)秀的開(kāi)源語(yǔ)言模型，都是開(kāi)創(chuàng)性的。

然而，對(duì)于企業(yè)來(lái)說(shuō)，這些模型很難使用。如何使用它們？如何將它們引入您的公司并將其集成到您的工作流程中？如何打包并運(yùn)行它？請(qǐng)記住，我剛才說(shuō)過(guò)，這個(gè)推論是一個(gè)非凡的計(jì)算問(wèn)題。您將如何對(duì)每個(gè)模型進(jìn)行優(yōu)化，并將運(yùn)行該超級(jí)計(jì)算機(jī)所需的計(jì)算堆棧組合在一起，以便您可以在您的公司中運(yùn)行這些模型？

因此，我們有一個(gè)好主意。我們將發(fā)明一種新方法，為您發(fā)明一種新方法，接收并操作軟件。這個(gè)軟件基本自帶，在數(shù)字盒子中我們稱(chēng)其為容器。我們將其稱(chēng)為NVIDIA推理微服務(wù)，簡(jiǎn)稱(chēng)NIM。讓我向你解釋一下它是什么。

NIM是一個(gè)預(yù)先訓(xùn)練的模型，所以它非常聰明。它經(jīng)過(guò)打包和優(yōu)化，可在NVIDIA的安裝基礎(chǔ)上運(yùn)行，該安裝基礎(chǔ)非常非常大，里面的內(nèi)容令人難以置信。您擁有所有這些經(jīng)過(guò)預(yù)先訓(xùn)練的最先進(jìn)的開(kāi)源模型。它們可以是開(kāi)源的，也可以來(lái)自我們的合作伙伴之一，也可以由我們創(chuàng)建，例如NVIDIA Moment。它與它的所有依賴(lài)項(xiàng)一起打包，因此CUDA，正確的版本CUDNN，正確的版本TensorRT，LLM，分布在多個(gè)GPU上。Trident推理服務(wù)器是一個(gè)全面優(yōu)化并打包的系統(tǒng)。其優(yōu)化程度取決于您是否擁有單個(gè)GPU、多GPU或多節(jié)點(diǎn)GPU。此外，它還與易用的API相連。

那么，什么是AI API呢？AI API是一個(gè)接口，您只需與之交談即可。因此，這是未來(lái)的一種軟件，它具有一個(gè)非常簡(jiǎn)單的API，這個(gè)API被稱(chēng)為人類(lèi)。這些軟件包中的優(yōu)秀軟件將被優(yōu)化和打包。我們會(huì)將其放在網(wǎng)站上供您下載，您可以隨身攜帶，可以在任何云中運(yùn)行它，也可以在自己的數(shù)據(jù)中心運(yùn)行它。如果合適，您甚至可以在工作站中運(yùn)行它。您只需訪問(wèn)AI.NVIDIA.com，我們稱(chēng)之為NVIDIA Inference Microservice，但在公司內(nèi)部，我們都稱(chēng)之為NIM。

想象一下，有一天，將會(huì)有這些聊天機(jī)器人之一，這些聊天機(jī)器人將位于NIM中。您將組裝一大堆聊天機(jī)器人，這就是未來(lái)軟件構(gòu)建的方式。您不太可能從頭開(kāi)始編寫(xiě)它，或者編寫(xiě)一大堆Python代碼或類(lèi)似的東西，您很可能會(huì)組建一個(gè)人工智能團(tuán)隊(duì)?？赡軙?huì)有一個(gè)超級(jí)人工智能，它將接受您賦予它的任務(wù)并將其分解為執(zhí)行計(jì)劃。部分執(zhí)行計(jì)劃可以移交給另一個(gè)NIM。NIM可能會(huì)理解SAP，SAP的語(yǔ)言是ABAP，它可能理解ServiceNow，并從他們的平臺(tái)檢索一些信息。然后它可能會(huì)將結(jié)果交給另一個(gè)NIM，后者會(huì)對(duì)其進(jìn)行一些計(jì)算，也許這是一個(gè)優(yōu)化軟件，一個(gè)組合優(yōu)化算法，也許只是一些基本的計(jì)算器，也許這就是熊貓。對(duì)它進(jìn)行一些數(shù)值分析，然后它會(huì)返回答案。它會(huì)與其他人的結(jié)合起來(lái)，因?yàn)樗呀?jīng)被呈現(xiàn)出來(lái)，這就是正確的答案應(yīng)該是什么樣的，它知道生產(chǎn)的正確答案是什么，并將其呈現(xiàn)給您。

我們每天都可以得到一份報(bào)告，這與構(gòu)建計(jì)劃或一些預(yù)測(cè)或一些客戶(hù)警報(bào)或一些錯(cuò)誤數(shù)據(jù)庫(kù)或其他任何東西有關(guān)，我們可以使用所有這些NIM來(lái)組裝它，因?yàn)檫@些NIM已打包并準(zhǔn)備好在您的系統(tǒng)上工作，只要您的數(shù)據(jù)中心或云端有視頻GPU，這些NIM將作為一個(gè)團(tuán)隊(duì)一起工作并做出驚人的事情。因此，我們認(rèn)為這是一個(gè)好主意，我們要去這么做。

因此，NVIDIA在我們公司的各個(gè)角落都運(yùn)行著NIM。聊天機(jī)器人遍布各地，最重要的聊天機(jī)器人之一當(dāng)然是芯片設(shè)計(jì)師聊天機(jī)器人。您可能不會(huì)驚訝我們非常關(guān)心構(gòu)建芯片。所以我們想要構(gòu)建聊天機(jī)器人人工智能Copilot。這是我們工程師的共同設(shè)計(jì)師，所以這就是我們這樣做的方式，所以我們給自己設(shè)計(jì)了一輛Llama 2，這是一輛70b，你知道它封裝在NIM中，我們問(wèn)它你知道什么是CTL。事實(shí)證明，CTL是一個(gè)內(nèi)部程序，它有一種內(nèi)部專(zhuān)有語(yǔ)言，但它認(rèn)為CTL是一種組合時(shí)序邏輯，因此它描述了您知道CTL的常規(guī)知識(shí)，但這對(duì)我們來(lái)說(shuō)不是很有用。所以我們給了它一大堆新的例子。員工入職員工。

您問(wèn)我是否知道，我感謝您的提問(wèn)。這是一個(gè)誤解。然后我們向他們展示，這就是CTL，沒(méi)有問(wèn)題。所以這就是NVIDIA的CTL，以及您可以看到的CTL。您知道，CTL代表計(jì)算跟蹤庫(kù)，這讓您知道我們一直在跟蹤計(jì)算周期。它寫(xiě)了“程序真是太棒了”。

這樣，我們的芯片設(shè)計(jì)人員的生產(chǎn)力就可以提高。這就是您可以使用NIM做的第一件事。您可以使用它進(jìn)行定制。我們有一項(xiàng)名為NEMO微服務(wù)的服務(wù)，可以幫助您管理數(shù)據(jù)，準(zhǔn)備數(shù)據(jù)，以便您可以進(jìn)行教學(xué)在這個(gè)人工智能上。您可以對(duì)它們進(jìn)行微調(diào)，然后您可以對(duì)其進(jìn)行防護(hù)，您可以評(píng)估答案，根據(jù)其他示例評(píng)估其性能，這就是所謂的NEMO。

現(xiàn)在出現(xiàn)的微服務(wù)是三個(gè)要素，我們正在做的事情的三個(gè)支柱。第一個(gè)支柱當(dāng)然是發(fā)明技術(shù)。AI模型和運(yùn)行AI模型，然后再為您打包。是創(chuàng)建工具來(lái)幫助您修改它，其次是擁有人工智能技術(shù)，第二是幫助您修改它，第三是供您微調(diào)它的基礎(chǔ)設(shè)施。如果您喜歡部署它，您可以將其部署在我們稱(chēng)為DGX云的基礎(chǔ)設(shè)施上，或者您可以使用它，將其部署在本地，您可以將其部署在任何您喜歡的地方。

一旦您開(kāi)發(fā)了它，您就可以把它帶到任何地方。所以我們是一家有效的人工智能代工廠。我們將為您和人工智能行業(yè)做的事情，就像臺(tái)積電為我們制造芯片所做的那樣。因此，我們帶著我們的偉大想法去臺(tái)積電，他們制造，我們隨身攜帶。所以這里完全相同的事情，人工智能鑄造廠和三大支柱是NEMS，NEMO微服務(wù)和DGX云。

您可以做的另一件事是教導(dǎo)NEM要做的就是了解您的專(zhuān)有信息。請(qǐng)記住，在我們公司內(nèi)部，我們的絕大多數(shù)數(shù)據(jù)并不在云中，而是在我們公司內(nèi)部。您知道它一直坐在那里，并且一直在使用。天哪，我們想要獲取的數(shù)據(jù)基本上是NVIDIA的智能。了解其含義，就像我們了解了我們剛剛談到的幾乎所有其他內(nèi)容的含義一樣，然后將這些知識(shí)重新索引到一種稱(chēng)為矢量數(shù)據(jù)庫(kù)的新型數(shù)據(jù)庫(kù)中。

所以您本質(zhì)上是采用結(jié)構(gòu)化數(shù)據(jù)或非結(jié)構(gòu)化數(shù)據(jù)，您了解它的含義，您編碼它的含義。所以現(xiàn)在這變成了一個(gè)人工智能數(shù)據(jù)庫(kù)和那個(gè)人工智能數(shù)據(jù)庫(kù)。將來(lái)，一旦您創(chuàng)建了它，您就可以與它交談。

讓我給您一個(gè)例子，說(shuō)明您可以做什么。假設(shè)您創(chuàng)建了您得到的，您得到了一大堆多模態(tài)數(shù)據(jù)，其中一個(gè)很好的例子就是PDF。所以您將在所有的PDF中，將所有您最喜歡的您知道的東西都拿走。對(duì)您專(zhuān)有、對(duì)您公司至關(guān)重要的，您可以對(duì)其進(jìn)行編碼。就像我們對(duì)貓的像素進(jìn)行編碼一樣，它變成了貓這個(gè)詞。我們可以對(duì)您所有的PDF進(jìn)行編碼，然后它就會(huì)變成。

現(xiàn)在存儲(chǔ)在矢量數(shù)據(jù)庫(kù)內(nèi)的矢量將成為您公司的專(zhuān)有信息。一旦您擁有該專(zhuān)有信息，您就可以與它聊天。這是一個(gè)智能數(shù)據(jù)庫(kù)，您只需與數(shù)據(jù)聊天，您知道這有多有趣。

對(duì)于我們的軟件團(tuán)隊(duì)來(lái)說(shuō)，他們只是與錯(cuò)誤聊天數(shù)據(jù)庫(kù)。您知道昨晚有多少錯(cuò)誤，我們是否取得了任何進(jìn)展。然后在您完成討論之后，Bug數(shù)據(jù)庫(kù)，您需要治療。所以我們?yōu)槟鷾?zhǔn)備了另一個(gè)聊天機(jī)器人。您是否在詢(xún)問(wèn)我們的尼莫檢索器？這個(gè)工具的主要功能是快速檢索信息。您只需對(duì)它發(fā)出指令，例如：“嘿，檢索我這個(gè)信息”，它就會(huì)立即為您找到并返回所需的信息。這就是您想要了解的嗎？我們將其命名為Nemo檢索器。Nemo服務(wù)可以幫助您創(chuàng)建各種所需的工具。我們擁有各種不同的NIMS，甚至包括數(shù)字人類(lèi)的NIMS。我是Rachel，您的人工智能護(hù)理經(jīng)理。

接下來(lái)，我要向您展示的是一個(gè)非常短的剪輯。我們有很多視頻和演示想要向您展示，所以我只能剪短這個(gè)片段。這是戴安娜，她是一個(gè)數(shù)字人類(lèi)NIM。您只需與她交談，她就會(huì)在這種情況下，與希波克拉底人工智能的醫(yī)療保健大型語(yǔ)言模型相連接，這確實(shí)令人驚嘆。她在醫(yī)療保健方面非常聰明。所以在你完成與我的軟件工程副總裁Dwight和Chatbot討論Bug數(shù)據(jù)庫(kù)之后，你可以過(guò)來(lái)與Diane交談。Diane是完全由人工智能驅(qū)動(dòng)的數(shù)字人類(lèi)。

許多公司都希望能夠開(kāi)發(fā)他們所擁有的金礦。企業(yè)IT行業(yè)就坐擁一座金礦，因?yàn)樗麄儗?duì)此有深入的了解。他們擁有多年來(lái)創(chuàng)建的所有這些令人驚嘆的工具，以及大量的數(shù)據(jù)。如果他們能夠開(kāi)發(fā)這個(gè)金礦并將其轉(zhuǎn)化為Copilot，這些Copilot可以幫助我們完成工作。

因此，世界上幾乎所有擁有人們使用的有價(jià)值工具的IT特許經(jīng)營(yíng)IT平臺(tái)都坐在Copilot的金礦上。他們希望在自己的聊天機(jī)器人中建立自己的Copilot。因此，我們宣布NVIDIA AI Foundry正在與世界上一些偉大的公司合作。例如，SAP，它支撐了全球87%的全球商業(yè)，基本上世界都在SAP上運(yùn)行。我們?cè)赟AP上運(yùn)行。NVIDIA和SAP正在使用NVIDIA NEMO和DGX Cloud構(gòu)建SAP gem Co-pilots。

ServiceNow運(yùn)營(yíng)著85%的世界財(cái)富500強(qiáng)公司在ServiceNow上運(yùn)行其人員和客戶(hù)服務(wù)業(yè)務(wù)。他們正在使用NVIDIA AI Foundry來(lái)構(gòu)建ServiceNow輔助虛擬助手。Cohesity備份世界數(shù)據(jù)。他們坐擁數(shù)據(jù)金礦，擁有超過(guò)10,000家公司的數(shù)百艾字節(jié)數(shù)據(jù)。NVIDIA AI Foundry正在與他們合作，幫助他們構(gòu)建Gaia生成式AI代理。

Snowflake是一家在云中存儲(chǔ)全球數(shù)字倉(cāng)庫(kù)的公司，每天為10,000家企業(yè)客戶(hù)提供超過(guò)30億次查詢(xún)服務(wù)。Snowflake正在與NVIDIA AI Foundry合作打造Copilot。借助NVIDIA NEMO和NIMS，NetApp存儲(chǔ)了全球近一半的文件。NVIDIA AI Foundry正在幫助他們使用NVIDIA NEMO和NIMS構(gòu)建聊天機(jī)器人和Copilot，例如矢量數(shù)據(jù)庫(kù)和檢索器。我們與戴爾有著良好的合作伙伴關(guān)系。我們正在構(gòu)建聊天機(jī)器人和生成人工智能。當(dāng)你準(zhǔn)備好運(yùn)行它時(shí)，你將需要一個(gè)人工智能工廠。沒(méi)有人比戴爾更擅長(zhǎng)為企業(yè)構(gòu)建大規(guī)模的端到端系統(tǒng)，因此，無(wú)論是個(gè)人還是公司，都需要建立人工智能工廠。事實(shí)證明，邁克爾·戴爾非常樂(lè)意接受您的訂單。女士們、先生們，邁克爾·戴爾。

現(xiàn)在，我們來(lái)談?wù)剻C(jī)器人和人工智能的下一波浪潮，即機(jī)器人物理人工智能。到目前為止，我們談?wù)摰乃腥斯ぶ悄芏际且慌_(tái)計(jì)算機(jī)。數(shù)據(jù)進(jìn)入一臺(tái)計(jì)算機(jī)，世界上許多的數(shù)據(jù)都以數(shù)字文本的形式存在。人工智能模仿我們，通過(guò)閱讀大量的語(yǔ)言來(lái)預(yù)測(cè)下一個(gè)單詞，它正在模仿你通過(guò)研究所有的模式和所有其他前面的例子。當(dāng)然，它必須理解上下文等等，但是一旦它理解了上下文，它就本質(zhì)上是在模仿你。

我們獲取所有數(shù)據(jù)，將其放入像DGX這樣的系統(tǒng)中，將其壓縮為大型語(yǔ)言模型，數(shù)萬(wàn)億個(gè)參數(shù)變成數(shù)十億個(gè)，數(shù)十億個(gè)Token變成數(shù)十億個(gè)參數(shù)，這些數(shù)十億個(gè)參數(shù)變成你的人工智能。為了讓我們進(jìn)入下一波人工智能浪潮，讓人工智能理解物理世界，我們將需要三臺(tái)計(jì)算機(jī)。

第一臺(tái)計(jì)算機(jī)仍然是同一臺(tái)計(jì)算機(jī)，它是人工智能計(jì)算機(jī)，現(xiàn)在它將觀看視頻，也許它正在進(jìn)行合成數(shù)據(jù)生成，也許有很多人類(lèi)示例，就像我們有文本形式的人類(lèi)示例一樣，我們將以清晰的形式提供人類(lèi)的例子。人工智能會(huì)監(jiān)視我們，了解正在發(fā)生的事情，并嘗試將其適應(yīng)上下文。而且因?yàn)樗梢酝茝V這些基礎(chǔ)模型，也許這些機(jī)器人也可以在物理世界中相當(dāng)普遍地執(zhí)行。

我只是用非常簡(jiǎn)單的術(shù)語(yǔ)描述了大語(yǔ)言模型中剛剛發(fā)生的事情，除了機(jī)器人的ChatGPT時(shí)刻可能即將到來(lái)。因此，我們構(gòu)建機(jī)器人端到端系統(tǒng)已經(jīng)有一段時(shí)間了，我對(duì)這項(xiàng)工作感到非常非常自豪，我們擁有人工智能系統(tǒng)DGX。我們有較低的系統(tǒng)，稱(chēng)為AGX對(duì)于自主系統(tǒng)，世界上第一個(gè)機(jī)器人處理器，當(dāng)我們第一次構(gòu)建這個(gè)東西時(shí)，人們?cè)跇?gòu)建什么它是一個(gè)SOC，它是一個(gè)芯片它被設(shè)計(jì)為非常低功耗但它是專(zhuān)為高速傳感器處理和人工智能而設(shè)計(jì)。

因此，如果您想在汽車(chē)中運(yùn)行Transformer，或者您想在任何東西中運(yùn)行Transformer，那么，我們?yōu)槟峁┝送昝赖挠?jì)算機(jī)，它被稱(chēng)為Jetson。因此頂部的DGX用于訓(xùn)練AI，Jetson是自主處理器，中間我們需要另一臺(tái)計(jì)算機(jī)。而大型語(yǔ)言模型有好處。您提供示例，然后進(jìn)行強(qiáng)化學(xué)習(xí)人類(lèi)反饋。

什么是機(jī)器人的強(qiáng)化學(xué)習(xí)人類(lèi)反饋，這是強(qiáng)化學(xué)習(xí)物理反饋，這就是你如何調(diào)整機(jī)器人，這就是你的方式，這就是機(jī)器人在學(xué)習(xí)時(shí)知道這些關(guān)節(jié)能力和操縱能力，它將正確適應(yīng)物理定律，所以我們需要一個(gè)模擬引擎。以數(shù)字方式代表世界對(duì)于機(jī)器人來(lái)說(shuō)，讓機(jī)器人有一個(gè)健身房去學(xué)習(xí)如何成為一個(gè)機(jī)器人我們稱(chēng)之為虛擬世界。Omniverse和運(yùn)行Omniverse的計(jì)算機(jī)稱(chēng)為OVX，OVX，計(jì)算機(jī)本身托管在Azure云中。

所以基本上我們構(gòu)建了這三個(gè)東西，這三個(gè)系統(tǒng)，在這三個(gè)系統(tǒng)之上，我們?yōu)槊總€(gè)系統(tǒng)都有算法?，F(xiàn)在我將向您展示人工智能和全宇宙如何協(xié)同工作的一個(gè)超級(jí)示例，我將向您展示的示例有點(diǎn)瘋狂，但它將非常非常接近明天。這是一座被稱(chēng)為“倉(cāng)庫(kù)”的機(jī)器人大樓。在這座大樓內(nèi)，將會(huì)有一些自治系統(tǒng)，其中一些將被稱(chēng)為人類(lèi)，另一些則被稱(chēng)為叉車(chē)。這些自治系統(tǒng)將自動(dòng)地相互交互，而倉(cāng)庫(kù)將監(jiān)控并調(diào)整它們的行為，以確保每個(gè)人都免受傷害。

倉(cāng)庫(kù)的角色可以被比喻為空中交通管制員，每當(dāng)有事情發(fā)生時(shí)，它將重定向交通并為機(jī)器人和人們提供新的路徑點(diǎn)，他們會(huì)確切地知道該怎么做。這個(gè)倉(cāng)庫(kù)，或者說(shuō)這個(gè)大樓，也具有交流的能力。您可以與它進(jìn)行對(duì)話(huà)，比如詢(xún)問(wèn)SAP中心今天的感覺(jué)如何。

這個(gè)我剛才描述的系統(tǒng)將有Omniverse云，它托管在DGX云上運(yùn)行的虛擬模擬和人工智能，所有這些都是實(shí)時(shí)運(yùn)行的。重工業(yè)的未來(lái)始于數(shù)字孿生。人工智能代理，它們幫助機(jī)器人、工人和基礎(chǔ)設(shè)施應(yīng)對(duì)復(fù)雜工業(yè)空間中不可預(yù)測(cè)的事件，將首先在復(fù)雜的數(shù)字孿生中構(gòu)建和評(píng)估。

這個(gè)100,000平方英尺的倉(cāng)庫(kù)的Omniverse數(shù)字孿生作為一個(gè)模擬環(huán)境運(yùn)行，集成了數(shù)字工人、運(yùn)行NVIDIA Isaac受體堆棧的AMR整個(gè)倉(cāng)庫(kù)的集中活動(dòng)地圖，由100個(gè)模擬吸頂式攝像機(jī)繪制。使用NVIDIA Metropolis并通過(guò)NVIDIA進(jìn)行AMR路線規(guī)劃合作軟件循環(huán)測(cè)試人工智能代理在這個(gè)物理上精確的模擬環(huán)境中使我們能夠評(píng)估和完善系統(tǒng)如何適應(yīng)現(xiàn)實(shí)世界的不可預(yù)測(cè)性。

在這里，當(dāng)一起事故沿著AMR計(jì)劃的路線發(fā)生時(shí)，其路徑被NVIDIA Metropolis更新，并將實(shí)時(shí)占用地圖發(fā)送到合作社，在那里計(jì)算出新的最佳路線。AMR能夠查看周?chē)墓战翘幉⑼ㄟ^(guò)生成人工智能驅(qū)動(dòng)的Metropolis Vision基礎(chǔ)模型提高其任務(wù)效率。操作員甚至可以使用自然語(yǔ)言提出問(wèn)題。視覺(jué)模型可以理解細(xì)致入微的活動(dòng)，并可以提供即時(shí)見(jiàn)解以改進(jìn)操作。

所有傳感器數(shù)據(jù)均在模擬中創(chuàng)建，并傳遞給作為NVIDIA推理微服務(wù)或NEMS運(yùn)行的實(shí)時(shí)AI。準(zhǔn)備部署在物理孿生中，即真正的倉(cāng)庫(kù)中，我們將Metropolis和Isaac NEMS連接到真實(shí)的傳感器，能夠持續(xù)改進(jìn)數(shù)字孿生和人工智能模型。

未來(lái)的設(shè)施倉(cāng)庫(kù)、工廠建筑將由軟件定義，因此軟件正在運(yùn)行。那么，還有什么其他方式您會(huì)測(cè)試軟件，以便測(cè)試軟件以構(gòu)建倉(cāng)庫(kù)、優(yōu)化系統(tǒng)呢？在數(shù)字孿生中，所有機(jī)器人都在運(yùn)行自己的自主機(jī)器人堆棧，因此在未來(lái)機(jī)器人系統(tǒng)的CICD中集成軟件的方式是使用數(shù)字孿生。

我們已經(jīng)使全宇宙變得更容易訪問(wèn)，我們將為簡(jiǎn)單的Api和通道創(chuàng)建基本上全宇宙云api，您可以將您的應(yīng)用程序連接到它，這將是非常美麗的簡(jiǎn)單。在未來(lái)全方位宇宙將成為現(xiàn)實(shí)，通過(guò)這些api，您將擁有我們也已經(jīng)轉(zhuǎn)變的神奇數(shù)字孿生功能。

我們已經(jīng)將全宇宙變成了人工智能，并將其與使用我們語(yǔ)言的語(yǔ)言聊天的能力集成起來(lái)。人類(lèi)和全宇宙是語(yǔ)言，事實(shí)證明是通用的場(chǎng)景描述。所以這種語(yǔ)言是相當(dāng)復(fù)雜的，所以我們已經(jīng)教了我們的全宇宙這種語(yǔ)言。所以你可以用英語(yǔ)對(duì)它說(shuō)話(huà)，它會(huì)直接生成美元，它會(huì)用美元回復(fù)，但會(huì)用英語(yǔ)跟你說(shuō)話(huà)。你也可以尋找這個(gè)世界上的信息，語(yǔ)義上而不是世界被語(yǔ)義編碼，現(xiàn)在在語(yǔ)言中，它在場(chǎng)景中被語(yǔ)義編碼。在某些特定的物體、條件或場(chǎng)景下，人工智能可以幫助您找到相應(yīng)的場(chǎng)景，并在生成過(guò)程中與您協(xié)作。您可以在3D環(huán)境中設(shè)計(jì)一些東西，模擬一些東西，或者使用人工智能在3D環(huán)境中生成一些東西。讓我們一起探討這一切將如何進(jìn)行。

我們與西門(mén)子有著良好的合作伙伴關(guān)系。西門(mén)子是世界上最大的工業(yè)工程和運(yùn)營(yíng)平臺(tái)。在工業(yè)領(lǐng)域，有許多不同的公司，其中太空重工業(yè)是其最偉大的最終前沿之一?，F(xiàn)在，我們終于擁有了必要的技術(shù)，可以產(chǎn)生真正的影響。西門(mén)子正在構(gòu)建工業(yè)元宇宙。今天，我們宣布，西門(mén)子將他們的皇冠寶石加速器連接到Nvidia Omniverse。讓我們一起來(lái)看看。

西門(mén)子的技術(shù)每天都在發(fā)生變化。對(duì)于每個(gè)人，團(tuán)隊(duì)中心X的客戶(hù)每天都在使用來(lái)自西門(mén)子加速器平臺(tái)的領(lǐng)先產(chǎn)品生命周期管理軟件來(lái)開(kāi)發(fā)和交付產(chǎn)品?，F(xiàn)在，我們正在通過(guò)集成Nvidia的技術(shù)，大規(guī)模地拉近真實(shí)世界和虛擬世界的距離，將AI和Omniverse技術(shù)引入團(tuán)隊(duì)中心。

Omniverse APIs實(shí)現(xiàn)了數(shù)據(jù)互操作性和基于物理的渲染。對(duì)于工業(yè)規(guī)模的設(shè)計(jì)和制造項(xiàng)目，我們的客戶(hù)HD和可持續(xù)船舶制造的市場(chǎng)領(lǐng)導(dǎo)者正在構(gòu)建氨和氫動(dòng)力芯片，這些芯片通常包含超過(guò)700萬(wàn)個(gè)分立零件。Omniverse APIs和團(tuán)隊(duì)中心X使HD和其他公司能夠以交互方式統(tǒng)一和可視化這些海量工程數(shù)據(jù)集，并集成生成式人工智能以生成3D對(duì)象或HDRI背景，以便在上下文中查看其項(xiàng)目。

這樣的結(jié)果是一個(gè)超直觀的、基于照片真實(shí)物理的數(shù)字孿生，消除了浪費(fèi)和錯(cuò)誤，大大節(jié)省了成本和時(shí)間。我們正在構(gòu)建這個(gè)系統(tǒng)，以便于協(xié)作，無(wú)論是跨越更多的西門(mén)子加速器工具，如西門(mén)子附件或Star CCM Plus，還是跨團(tuán)隊(duì)致力于他們最喜歡的工作，同一場(chǎng)景中的設(shè)備在一起。這只是與Nvidia合作的開(kāi)始，我們將在整個(gè)西門(mén)子加速器產(chǎn)品組合中引入加速器計(jì)算生成人工智能和全方位集成。

我的好朋友，專(zhuān)業(yè)的配音演員羅蘭布什，恰好是西門(mén)子的CEO。一旦你將Omniverse連接到你的工作流程和生態(tài)系統(tǒng)，從你的設(shè)計(jì)開(kāi)始，從工程設(shè)計(jì)到制造規(guī)劃，一直到數(shù)字孿生運(yùn)營(yíng)，一旦你把一切連接在一起，你可以獲得多少生產(chǎn)力，這真是太瘋狂了。突然間，每個(gè)人都在同一個(gè)基本事實(shí)上運(yùn)作，這真是太棒了。

你不必交換數(shù)據(jù)和轉(zhuǎn)換數(shù)據(jù)犯錯(cuò)誤，每個(gè)人都在同一個(gè)事實(shí)上工作，從設(shè)計(jì)部門(mén)到美術(shù)部門(mén)，從建筑部門(mén)一直到工程部門(mén)，甚至營(yíng)銷(xiāo)部門(mén)。讓我們來(lái)看看Nissan是如何做到的，他們已經(jīng)將Omniverse集成到他們的工作流程中，這都是因?yàn)樗ㄟ^(guò)所有這些出色的工具以及與我們合作的開(kāi)發(fā)人員連接起來(lái)。

這不是動(dòng)畫(huà)，這是全宇宙。今天我們宣布全宇宙云流至視覺(jué)專(zhuān)業(yè)人士。你在虛擬門(mén)周?chē)邉?dòng)是非常非常奇怪的。當(dāng)我從那輛車(chē)?yán)锵聛?lái)的時(shí)候，每個(gè)人都這樣做，這真的是非常驚人的。愿景Pro連接到全宇宙，帶你進(jìn)入全宇宙。

因?yàn)樗羞@些CAD工具和所有這些不同的設(shè)計(jì)工具現(xiàn)在都集成并連接到Omniverse，你可以擁有這種類(lèi)型的工作流程，這真的令人難以置信。讓我們來(lái)談?wù)剻C(jī)器人技術(shù)，所有移動(dòng)的東西都將是機(jī)器人，毫無(wú)疑問(wèn)，它更安全，更方便。汽車(chē)行業(yè)將成為最大的行業(yè)之一。我們正在從頭開(kāi)始構(gòu)建機(jī)器人堆棧，就像我在計(jì)算機(jī)系統(tǒng)中提到的那樣。對(duì)于自動(dòng)駕駛汽車(chē)，包括今年年底的自動(dòng)駕駛汽車(chē)應(yīng)用，我預(yù)測(cè)明年年初我們將開(kāi)始使用梅賽德斯發(fā)貨，緊隨其后的是捷豹路虎。

這些自主機(jī)器人系統(tǒng)是由軟件定義的，它們需要進(jìn)行大量的工作，包括計(jì)算機(jī)視覺(jué)，人工智能控制，以及規(guī)劃各種非常復(fù)雜的技術(shù)。這需要數(shù)年時(shí)間來(lái)完善，我們正在構(gòu)建整個(gè)堆棧。

然而，我們將整個(gè)堆棧開(kāi)放給所有汽車(chē)行業(yè)，這就是我們的工作方式。我們?cè)诿總€(gè)行業(yè)都嘗試盡可能多地構(gòu)建，以便我們理解它，然后我們將其開(kāi)放給每個(gè)人，無(wú)論您是否愿意購(gòu)買(mǎi)我們的全球唯一的計(jì)算機(jī)，都可以訪問(wèn)它。我們的全功能安全ACLD系統(tǒng)可以運(yùn)行AI。這種功能安全的優(yōu)質(zhì)計(jì)算機(jī)或操作系統(tǒng)位于我們的數(shù)據(jù)中心之上。

基本上，不是所有的自動(dòng)駕駛汽車(chē)公司都可以享受到這一點(diǎn)，但如果您想享受，我們會(huì)很高興。今天我們宣布，世界上最大的電動(dòng)汽車(chē)公司比亞迪正在采用我們的下一代產(chǎn)品，它被稱(chēng)為雷神。雷神是為T(mén)ransformer雷神發(fā)動(dòng)機(jī)而設(shè)計(jì)的，我們的下一代影音計(jì)算機(jī)將由比亞迪使用。

您可能不知道，我們擁有超過(guò)一百萬(wàn)的機(jī)器人開(kāi)發(fā)人員。我們創(chuàng)造了噴氣式飛機(jī)和這臺(tái)我們感到非常自豪的機(jī)器人計(jì)算機(jī)。它之上的軟件數(shù)量是瘋狂的，但我們之所以能做到這一點(diǎn)，完全是因?yàn)樗俜职倥cCUDA兼容。我們所做的一切，我們?cè)诠舅龅囊磺?，不是為了我們的開(kāi)發(fā)人員的服務(wù)，而是為了我們能夠維護(hù)這個(gè)豐富的生態(tài)系統(tǒng)，并使其與您從我們?cè)L問(wèn)的所有內(nèi)容兼容。我們可以將所有這些令人難以置信的功能帶到這臺(tái)小小的計(jì)算機(jī)上，我們將Jetson稱(chēng)為我們的機(jī)器人計(jì)算機(jī)。

我們今天還宣布了一個(gè)令人難以置信的高級(jí)新SDK，我們稱(chēng)之為Isaac。Isaac感知器是今天大多數(shù)機(jī)器人的感知器，它們都是預(yù)先編程的，它們要么遵循地面數(shù)字軌道上的軌道，要么遵循四月的標(biāo)簽。但在未來(lái)，它們將具有感知能力，你可以輕松地對(duì)其進(jìn)行編程，你說(shuō)我想要從A點(diǎn)到B點(diǎn)，它會(huì)找到一種導(dǎo)航方式。因此，只需對(duì)路點(diǎn)進(jìn)行編程，整個(gè)路線就可以自適應(yīng)整個(gè)環(huán)境?？梢灾匦戮幊?，正如我一開(kāi)始就向您展示的那樣，在倉(cāng)庫(kù)中，您無(wú)法通過(guò)預(yù)編程的GV做到這一點(diǎn)，如果這些盒子掉下來(lái)，它們就會(huì)全部粘起來(lái)，然后就在那里等待有人來(lái)清理它。所以現(xiàn)在有了Isaac感知器，我們擁有令人難以置信的最先進(jìn)的視覺(jué)里程計(jì)，3D重建以及3D重建深度感知。

今天的機(jī)器人最常用的是機(jī)械手臂。制造手臂，它們還預(yù)先編程了計(jì)算機(jī)視覺(jué)算法、人工智能算法、控制和路徑規(guī)劃算法，這些算法是幾何感知的，計(jì)算量非常大。我們已經(jīng)使這些庫(kù)達(dá)到了加速，所以我們擁有世界上第一個(gè)加速運(yùn)動(dòng)規(guī)劃器，這是幾何感知的。你把它提出了一個(gè)新的計(jì)劃并圍繞它進(jìn)行了闡述，它對(duì)3D物體的姿勢(shì)估計(jì)具有出色的感知能力。它不僅不是2D的姿勢(shì)，而是3D的姿勢(shì)，所以它必須想象周?chē)惺裁匆约叭绾巫詈玫刈プ∷员慊饡?huì)擺出抓地力的姿勢(shì)。這種關(guān)節(jié)算法現(xiàn)在可用，我們稱(chēng)之為Isaac操縱器，它們也可以在視頻計(jì)算機(jī)上運(yùn)行。我們正在進(jìn)行一些真正偉大的工作，關(guān)于下一代機(jī)器人技術(shù)。下一代機(jī)器人技術(shù)可能會(huì)是人形機(jī)器人。我們現(xiàn)在擁有必要的技術(shù)，正如我之前所描述的。想象一下所需的技術(shù)。廣義的人類(lèi)機(jī)器人技術(shù)在某種程度上可能更容易，原因是我們有更多的機(jī)器人技術(shù)。

我們可以為機(jī)器人提供模仿訓(xùn)練數(shù)據(jù)。因?yàn)槲覀兪且苑浅Ｏ嗨频姆绞綐?gòu)建的，所以人類(lèi)機(jī)器人很可能在我們的世界中更加有用。我們創(chuàng)造了一個(gè)可以互操作并很好地工作的世界，我們建立工作站、制造和物流的方式是為人類(lèi)設(shè)計(jì)的，因此這些人類(lèi)或機(jī)器人的部署可能會(huì)更加高效。

我們正在創(chuàng)建整個(gè)堆棧，就像我們與其他人一樣。從頂部開(kāi)始，從觀看視頻“Human”中學(xué)習(xí)的基礎(chǔ)模型。示例可以是視頻形式，也可以是虛擬現(xiàn)實(shí)形式，然后我們?yōu)槠鋭?chuàng)建了一個(gè)健身房，稱(chēng)為艾薩克強(qiáng)化學(xué)習(xí)健身房。這使得人形機(jī)器人能夠?qū)W習(xí)如何適應(yīng)物理世界，然后是一臺(tái)令人難以置信的計(jì)算機(jī)，這臺(tái)計(jì)算機(jī)將進(jìn)入機(jī)器人汽車(chē)，這臺(tái)計(jì)算機(jī)將在人類(lèi)或機(jī)器人體內(nèi)運(yùn)行，稱(chēng)為雷神，它是為T(mén)ransformer引擎設(shè)計(jì)的。

我們將其中的幾個(gè)內(nèi)容合并到一個(gè)視頻中，您一定會(huì)喜歡看一下。這還不足以人類(lèi)想象。我們必須發(fā)明、探索，并推動(dòng)超出已完成的工作的相當(dāng)多的細(xì)節(jié)。我們創(chuàng)造更智能、更快的機(jī)器人。我們推動(dòng)它失敗，所以它可以學(xué)習(xí)。我們教它然后幫助它自學(xué)。我們拓寬了它的理解，去迎接新的挑戰(zhàn)。具有絕對(duì)的精度，并成功。我們讓它感知、移動(dòng)，甚至還有理由，所以它可以與我們分享我們的世界。這就是靈感引領(lǐng)我們下一個(gè)前沿的地方。

這是NVIDIA項(xiàng)目組，人形機(jī)器人學(xué)習(xí)的通用基礎(chǔ)模型。組模型將多模式指令和過(guò)去的交互作為輸入，并生成機(jī)器人要執(zhí)行的下一個(gè)動(dòng)作。我們開(kāi)發(fā)了Isaac實(shí)驗(yàn)室，一個(gè)機(jī)器人學(xué)習(xí)應(yīng)用程序來(lái)訓(xùn)練Omniverse Isaac sim組。我們使用Osmo擴(kuò)展了一種新的計(jì)算編排服務(wù)，該服務(wù)可以協(xié)調(diào)用于訓(xùn)練的DGX系統(tǒng)和用于模擬的OVX系統(tǒng)之間的工作流程。

借助這些工具，我們可以在基于物理的模擬中訓(xùn)練團(tuán)隊(duì)，并將零射擊轉(zhuǎn)移到現(xiàn)實(shí)世界。團(tuán)體模型將使機(jī)器人能夠從少量人類(lèi)演示中學(xué)習(xí)，因此它可以幫助完成日常任務(wù)。通過(guò)觀察我們來(lái)模仿人類(lèi)的運(yùn)動(dòng)。這是通過(guò)NVIDIA的技術(shù)實(shí)現(xiàn)的，這些技術(shù)可以從視頻中理解人類(lèi)，訓(xùn)練模型和模擬，并最終將它們直接部署到物理機(jī)器人上，將群組連接到大型語(yǔ)言模型，甚至允許它生成動(dòng)作，通過(guò)遵循自然語(yǔ)言指令，你能給我一個(gè)高五嗎？讓我們高五。你能給我們一些很酷的動(dòng)作嗎？看看這個(gè)。

所有這些令人難以置信的智能均由全新Jetson Thor機(jī)器人芯片提供支持，專(zhuān)為面向未來(lái)的團(tuán)隊(duì)而設(shè)計(jì)。通過(guò)Isaac lab, Osmo和Groot，我們正在為下一代人工智能提供構(gòu)建模塊。動(dòng)力機(jī)器人。大小差不多。

NVIDIA的靈魂。計(jì)算機(jī)圖形學(xué)物理人工智能的交叉點(diǎn)。這一切都在此時(shí)產(chǎn)生了通用機(jī)器人項(xiàng)目的名稱(chēng)。003。我知道超級(jí)好。超好。我想我們有一些特殊的客人。大家好，我知道你們都是由Jetson提供動(dòng)力的，他們是由Jetsons提供動(dòng)力的小Jetson機(jī)器人計(jì)算機(jī)，他們已經(jīng)學(xué)會(huì)了模擬行走。這是橙色的，這是著名的綠色，他們是迪士尼的BDX機(jī)器人，這是迪士尼研究的成果?，F(xiàn)在，讓我們結(jié)束吧，我們走吧。

我想和你們分享五件事。首先，我想問(wèn)你，你要去哪里？我就坐在這里。別害怕，綠色，你在說(shuō)什么？不，還沒(méi)到吃飯的時(shí)間。我一會(huì)兒就給你吃零食，讓我快點(diǎn)吃完。來(lái)吧，綠燈快點(diǎn)停下來(lái)。我們不能浪費(fèi)時(shí)間。

最后，五件事。

首先是新工業(yè)革命。每個(gè)數(shù)據(jù)中心都應(yīng)該加速價(jià)值萬(wàn)億美元的已安裝數(shù)據(jù)中心。由于計(jì)算能力帶來(lái)了一種新的軟件制作方式，生成式人工智能（Generative AI）已經(jīng)出現(xiàn)，因此在未來(lái)幾年內(nèi)將變得現(xiàn)代化。這將創(chuàng)造新的基礎(chǔ)設(shè)施，這些基礎(chǔ)設(shè)施致力于做一件事且僅做一件事，它們不適用于多用戶(hù)數(shù)據(jù)中心，而是人工智能生成器。這些人工智能生成器將創(chuàng)造出極其有價(jià)值的軟件。

第二，這次革命的計(jì)算機(jī)。這一代的計(jì)算機(jī)，萬(wàn)億參數(shù)的生成式AI。Blackwell，瘋狂數(shù)量的計(jì)算能力。

第三， Nims。新計(jì)算機(jī)創(chuàng)建新類(lèi)型的軟件。新型軟件應(yīng)該以新的方式分發(fā)，以便它可以一方面成為云中的端點(diǎn)，易于使用，但仍然允許您隨身攜帶，因?yàn)樗悄愕闹腔邸Ｄ愕闹腔蹜?yīng)該以一種允許你隨身攜帶的方式打包，我們稱(chēng)之為NIMS。

第四，Nemo and Nvidia AI Foundary。這些NIMS將幫助你為未來(lái)創(chuàng)建一種新型的應(yīng)用程序，而不是你完全從頭開(kāi)始編寫(xiě)的應(yīng)用程序，但您將像Teams一樣集成它們。這些應(yīng)用程序在NIMS、人工智能技術(shù)、工具Nemo和基礎(chǔ)設(shè)施DGX云之間擁有出色的能力。在我們的AI工廠里，幫助您創(chuàng)建專(zhuān)有應(yīng)用程序、專(zhuān)有聊天機(jī)器人。

最后，Omniverse and ISAAC 機(jī)器人。未來(lái)移動(dòng)的一切都將是機(jī)器人，您不會(huì)是唯一的一個(gè)和這些機(jī)器人系統(tǒng)。無(wú)論它們是人形機(jī)器人、自動(dòng)駕駛汽車(chē)、叉車(chē)還是操縱手臂，他們都需要一件事：巨型體育場(chǎng)倉(cāng)庫(kù)、那里的工廠可以是工廠、機(jī)器人編排工廠、機(jī)器人生產(chǎn)線、制造機(jī)器人汽車(chē)。這些系統(tǒng)都需要一個(gè)東西，一個(gè)平臺(tái)，一個(gè)數(shù)字平臺(tái)，一個(gè)數(shù)字孿生平臺(tái)，我們稱(chēng)之為全宇宙，機(jī)器人世界的操作系統(tǒng)。

這就是我們今天討論的五件事。

當(dāng)我們談?wù)揋PU時(shí)，Nvidia是什么樣子？當(dāng)人們首先問(wèn)我有關(guān)GPU的問(wèn)題時(shí)，我看到的是一堆軟件堆棧和類(lèi)似的東西，然后我看到的是這個(gè)，這就是我們今天向您宣布的，這是Blackwell，這是平臺(tái)。令人驚嘆的處理器MV鏈路交換機(jī)網(wǎng)絡(luò)系統(tǒng)和系統(tǒng)設(shè)計(jì)，這是一個(gè)奇跡，這是Blackwell，這對(duì)我來(lái)說(shuō)就是我心目中的GPU的樣子。

謝謝你們，祝你們GTC2024愉快，謝謝大家的光臨，謝謝。