大數(shù)據(jù)文摘作品

作者：Aileen, 魏子敏，龍牧雪，崔云柯

“Saving money（省錢）！”

這兩個(gè)字可能是今天上午英偉達(dá)GTC 2017北京場，黃仁勛在兩小時(shí)的keynote演講中提到最多的一句話。

這兩個(gè)字也道出了本次大會(huì)英偉達(dá)想要展示給中國聽眾的精華：NVIDIA的愿景是為所有AI研究人員打造一個(gè)功能強(qiáng)大，又經(jīng)濟(jì)高效的AI計(jì)算平臺(tái)。

9月26日，英偉達(dá)GPU科技大會(huì)GTC 2017世界巡回北京場開幕。今天上午，大會(huì)的主題演講依舊由英偉達(dá)創(chuàng)始人、總裁兼首席執(zhí)行官黃仁勛帶來，探討了在AI時(shí)代下，英偉達(dá)如何引領(lǐng)新格局。演講中，他宣布了全球首款可編程的AI推理加速器TensorRT3的發(fā)布，介紹了英偉達(dá)開放的自動(dòng)駕駛計(jì)算平臺(tái)NVDIA DRIVE，還展示了從權(quán)力的游戲到AI城市，英偉達(dá)產(chǎn)品加速AI的案例。此外黃仁勛重磅宣布了與中國眾多企業(yè)的合作，包括阿里巴巴、百度、騰訊、華為、浪潮、聯(lián)想等。

本次大會(huì)將持續(xù)三天時(shí)間，之后，英偉達(dá)GTC 2017還將去到慕尼黑、特拉維夫、臺(tái)北、華盛頓特區(qū)和東京等地區(qū)。

大數(shù)據(jù)文摘第一時(shí)間為各位帶來本次演講的精華內(nèi)容及演講PPT：

黃仁勛激動(dòng)的跑上臺(tái)，大喊：Welcome Beijing！接下來就開始了自己2小時(shí)的演講。

他首先宣布中國的頂級(jí)云服務(wù)提供商均采用NVIDIA AI計(jì)算，阿里巴巴、百度、和騰訊已在各自的云服務(wù)中采用NVIDIA Volta GPU。研究人員和初創(chuàng)公司現(xiàn)在可以租用云端最先進(jìn)的AI基礎(chǔ)設(shè)施，免去建造超級(jí)計(jì)算機(jī)的復(fù)雜性和高昂費(fèi)用。省錢！

NVIDIA的愿景是為所有AI研究人員打造一個(gè)功能強(qiáng)大而高效的AI計(jì)算平臺(tái)。NVIDIA將積極投入，全力推進(jìn)'統(tǒng)一架構(gòu)“CUDA GPU計(jì)算，從而保護(hù)開發(fā)人員在其平臺(tái)上的重大投資。他表示英偉達(dá)通過Inception計(jì)劃，支持了1900家初創(chuàng)公司創(chuàng)建AI的未來。

黃仁勛稱AI推理是AI領(lǐng)域的下一個(gè)巨大挑戰(zhàn)。AI是軟件的未來，可以讓我們重新暢想各種服務(wù)，軟件，計(jì)算機(jī)和設(shè)備。經(jīng)過訓(xùn)練的網(wǎng)絡(luò)將展現(xiàn)出驚人的智慧并融入萬億物聯(lián)網(wǎng)設(shè)備中。

AI推理平臺(tái)必須具備可編程性，才能運(yùn)用種類繁多且不斷演進(jìn)的網(wǎng)絡(luò)框架。新的架構(gòu)、更深的網(wǎng)絡(luò)、新的分層設(shè)計(jì)會(huì)繼續(xù)提升CNN的性能。

近來，網(wǎng)絡(luò)設(shè)計(jì)正在經(jīng)歷爆炸性的增長：

• 用于長序列模式分類的RNN (如LSTM)實(shí)現(xiàn)了超越人類的語音識(shí)別和語言翻譯能力；

• GAN：一個(gè)網(wǎng)絡(luò)通過訓(xùn)練進(jìn)行判別，另一個(gè)網(wǎng)絡(luò)則不斷學(xué)習(xí)生成示例以欺騙判別器，最終的生成器可生成圖像、語音、取出噪音；

• 強(qiáng)化學(xué)習(xí)通過反復(fù)的試錯(cuò)、并且根據(jù)價(jià)值函數(shù)來進(jìn)行獎(jiǎng)懲，機(jī)器人可以利用強(qiáng)化學(xué)習(xí)進(jìn)行行為學(xué)習(xí)。

同時(shí)，智能機(jī)器也正在經(jīng)歷著爆發(fā)性增長：AI會(huì)將智能注入到2000萬云服務(wù)器、上億臺(tái)汽車和制造機(jī)器人中。最終，以萬億的物聯(lián)網(wǎng)設(shè)備和傳感器將只能地監(jiān)測一切，從心率到血壓監(jiān)測，到需維修設(shè)備的振動(dòng)監(jiān)測。

AI推理平臺(tái)必須可擴(kuò)展，以解決海量計(jì)算的性能、功耗、和成本需求 - 省錢！

黃教主隨后非常激動(dòng)地宣布了NVIDIA TENSORRT3的發(fā)布。TensorRT可編程，且支持所有框架，并能加速現(xiàn)有和未來的網(wǎng)絡(luò)架構(gòu)。TensorRT可編譯到廣泛的目標(biāo)CUDA GPU中，從120 TOPS到1 TOPS，從250瓦到低于1瓦。同時(shí)TensorRT也是一款適用于CUDA GPU的優(yōu)化神經(jīng)網(wǎng)絡(luò)編譯器，可利用CUDA深度學(xué)習(xí)指令集創(chuàng)建運(yùn)行時(shí)。它可以確定每個(gè)目標(biāo)GPU的最佳策略，對(duì)數(shù)值精度、網(wǎng)絡(luò)層、和張量的去除和融合、快速內(nèi)核以及內(nèi)存管理進(jìn)行優(yōu)化。

從云、數(shù)據(jù)中心、PC、汽車到機(jī)器人，TensorRT皆能在NVIDIA全系列平臺(tái)用最低耗能獲得最優(yōu)效果。

這張圖表解釋了TensorRT3的卓越性能。運(yùn)行在Volta上的TensorRT3在圖像分類方面比最快的CPU還要快40倍，在語言翻譯方面則要快140倍。

神經(jīng)網(wǎng)絡(luò)的響應(yīng)時(shí)間或處理延時(shí)會(huì)對(duì)服務(wù)質(zhì)量造成直接影響。運(yùn)行在V100上的TensorRT在處理圖像時(shí)可實(shí)現(xiàn)7ms的延時(shí)，在處理語音時(shí)延時(shí)不到200ms，這是標(biāo)準(zhǔn)云服務(wù)的理想目標(biāo)。單靠CPU是無法實(shí)現(xiàn)的。AI推理降低數(shù)據(jù)中心整體擁有成本,在不遠(yuǎn)的未來，數(shù)據(jù)中心內(nèi)的每一個(gè)查詢和工作負(fù)載都將涉及一個(gè)或多個(gè)DNN推理，而推理吞吐量將直接影響數(shù)據(jù)中心的成本。劃重點(diǎn)，能省錢！

而且你的數(shù)據(jù)中心不用再那么臃腫了！（從上圖變成下圖）

黃教主對(duì)于數(shù)據(jù)中心體型的這一變化頗為欣喜，并且現(xiàn)場展示了兩者在體型上的巨大變化。他在兩張圖片之間來回切換并且表示，我可以看這個(gè)看一整天。

神經(jīng)網(wǎng)絡(luò)的響應(yīng)時(shí)間或處理延時(shí)會(huì)對(duì)服務(wù)質(zhì)量造成直接影響。運(yùn)行在V100上的TensorRT在處理圖像時(shí)可實(shí)現(xiàn)7ms的延時(shí)，在處理語音時(shí)延時(shí)不到200ms，這是標(biāo)準(zhǔn)云服務(wù)的理想目標(biāo)，單靠CPU無法實(shí)現(xiàn)。

AI推理降低數(shù)據(jù)中心整體擁有成本：在不遠(yuǎn)的將來，數(shù)據(jù)中心內(nèi)的每個(gè)查詢和工作負(fù)載都將涉及一個(gè)或多個(gè)DNN推理，推理吞吐量直接影響數(shù)據(jù)中心成本。

接下來，黃仁勛展示了應(yīng)用最新CPU的三個(gè)案例。

黃教主展示的第一個(gè)案例是一個(gè)關(guān)于圖像推理的案例。這個(gè)演示展現(xiàn)了用最新的CPU和通過TensorRT 3優(yōu)化V100的推理吞吐量比較。（網(wǎng)絡(luò)為Resnet-152并由TensorFlow進(jìn)行訓(xùn)練）

使用使用最新的CPU的識(shí)別器識(shí)別速度翻倍，可以在一秒鐘識(shí)別超過200張圖像。

黃教主接下來展示了另外一個(gè)案例，關(guān)于語音推理。他介紹了一家叫做“Deep Gram的公司，這是一家目標(biāo)客戶為針對(duì)安全或隱私原因需要在內(nèi)部部署語音引擎的初創(chuàng)企業(yè)。

這家公司語音識(shí)別一個(gè)很有趣的應(yīng)用場景是對(duì)權(quán)力的游戲里的臺(tái)詞進(jìn)行語音搜索。黃教主也在現(xiàn)場展示了這一搜索的炫酷之處。

權(quán)力的游戲：搜索進(jìn)入當(dāng)時(shí)的那句臺(tái)詞的場景、集數(shù)

最后一個(gè)案例是關(guān)于AI城市：助力中國建設(shè)更智慧、更安全的城市。

確保城市安全是全球的首要任務(wù)之一到2020年，城市中的實(shí)時(shí)攝像頭將達(dá)到10億，光靠人力監(jiān)控這些攝像頭是不現(xiàn)實(shí)的，AI是唯一的解決方案。AI城市是一個(gè)巨大的AI推理挑戰(zhàn)，它可能需要使用大約1000萬個(gè)Tesla V100 GPUs來監(jiān)控10億臺(tái)攝像頭。

黃仁勛宣布?？低晹y手 NVDIA共建 AI城市。此外，大華、華為和阿里巴巴都提供基于平臺(tái)的視頻解決方案。?？低曇呀?jīng)在端到端解決方案中采用 NVDIA平臺(tái)，大華的方案為大型活動(dòng)提供了數(shù)以百計(jì)的虛擬保安，華為的方案用于監(jiān)控交通流量，阿里巴巴的解決方案可以監(jiān)控交通堵塞并改善交通狀態(tài)。

深度學(xué)習(xí)需要海量的數(shù)據(jù)，但不是每個(gè)人都可以獲取如此龐大的數(shù)據(jù)量。遷移學(xué)習(xí)可以利用同一個(gè)問題學(xué)習(xí)到的知識(shí)來解決另一個(gè)不同的相關(guān)問題，而不需要使用大量數(shù)據(jù)來訓(xùn)練新的網(wǎng)絡(luò)。這有助于提高城市的安全性，找到失蹤人員，改善交通環(huán)境和加強(qiáng)執(zhí)法能力。

大會(huì)上，黃仁勛還宣布了使用NVIDIA GPU的中國公司，他說，中國擁有世界上最龐大和最活躍的互聯(lián)網(wǎng)用戶群，并且中國的互聯(lián)網(wǎng)公司是AI 領(lǐng)域的全球領(lǐng)導(dǎo)者。他們正在競相把 AI 融合到商業(yè)、社交、新聞、語音、時(shí)時(shí)視頻和圖像共享中。中國的頂級(jí)互聯(lián)網(wǎng)公司都采用了NVDIA 的可編程推理加速平臺(tái)來支持呈指數(shù)級(jí)增長的 AI工作負(fù)載，包括阿里巴巴、騰訊、百度、京東和科大訊飛等。

黃仁勛表示，自動(dòng)駕駛汽車的發(fā)明將是AI最大的貢獻(xiàn)之一。自動(dòng)駕駛將催生新的出租車服務(wù)，幫助卡車司機(jī)減輕壓力、增加運(yùn)輸距離并減少事故。自動(dòng)駕駛甚至能改變車輛的形態(tài)——在飛機(jī)和汽車之間使用自動(dòng)駕駛技術(shù)，汽車和飛機(jī)的邊界將會(huì)變得模糊。這是由NVDIA 技術(shù)驅(qū)動(dòng)的 AirBus 飛行汽車。

黃仁勛介紹了英偉達(dá)開放的自動(dòng)駕駛計(jì)算平臺(tái)。NVDIA DRIVE是一個(gè)為自動(dòng)駕駛行業(yè)帶來變革的端到端品牌,汽車制造商將訓(xùn)練汽車,共享和車隊(duì)服務(wù)將訓(xùn)練AI用于管理車隊(duì)。自動(dòng)駕駛計(jì)算機(jī)可以支持L3、F4和L5級(jí)。開放軟件棧包含了從ASIL-D OS、深度學(xué)習(xí)、計(jì)算機(jī)視覺SDK到自動(dòng)駕駛行動(dòng)。

DRIVE AV是 NVDIA 開發(fā)的自動(dòng)駕駛應(yīng)用。環(huán)繞攝像頭、雷達(dá)和激光雷達(dá)的傳感數(shù)據(jù)融合，多種深度學(xué)習(xí)和計(jì)算機(jī)視覺算法將為L4和L5級(jí)別自動(dòng)駕駛技術(shù)提供所需的多樣性和冗余性。這一系統(tǒng)可以做到3D識(shí)別移動(dòng)物體的長寬高、與自己的距離等，下面是一個(gè)酷炫的展示demo▼

NVDIA DRIVE是最前沿的深入學(xué)習(xí)和計(jì)算機(jī)視覺計(jì)算機(jī)，可以讓新型的初創(chuàng)公司設(shè)計(jì)新的算法和軟件。145家初創(chuàng)公司正在研制基于NVDIA DRIVE  的自動(dòng)駕駛汽車、卡車、高清制圖及服務(wù)。比如Zoox正打造一個(gè)全新的智能出租車及相應(yīng)服務(wù)。

黃仁勛稱，英偉達(dá)正致力于設(shè)計(jì)許多類型的自主機(jī)器,他能感知周圍的環(huán)境,理解他的處境以及做出合理響應(yīng)。計(jì)算挑戰(zhàn)性在于實(shí)時(shí)處理,豐富的傳感接口,深度學(xué)習(xí)推理,高性能并行計(jì)算和高能效的要求。

他還表示，英偉達(dá)設(shè)計(jì)了全球首款自主積極的處理器,我們稱之為Xavier。Xavier是迄今為止最為復(fù)雜的片上系統(tǒng)——將于18年第一季度早期接觸合作伙伴提供;18年第四季度全面推出。

他繼續(xù)宣布了京東X選擇NVDIA實(shí)現(xiàn)其自助機(jī)器,機(jī)器人技術(shù)將會(huì)革新制造,物流和配送行業(yè)。京東作為全球最大的零售和物流運(yùn)營商之一，京東采用了英偉達(dá)的Jetson平臺(tái)。Xavier將成為下一代Jetson的片上系統(tǒng)（SOC）

教機(jī)器人與外部世界交互和執(zhí)行復(fù)雜的任務(wù)是一個(gè)未解決的難題。相信隨著深入學(xué)習(xí)和AI的突破,這個(gè)問題的最終必將得以解決。但是當(dāng)機(jī)器人學(xué)習(xí)執(zhí)行具體任務(wù)的過程中,他們可能會(huì)對(duì)周邊的失誤造成損壞,而且需要很長的訓(xùn)練周期。我們需要?jiǎng)?chuàng)建一個(gè)可供機(jī)器人學(xué)習(xí)的虛擬世界,一個(gè)看起來向現(xiàn)實(shí)世界,并遵守物理學(xué)定律的世界,機(jī)器人可以在其中超實(shí)時(shí)的學(xué)習(xí)。他們把這個(gè)虛擬機(jī)器人仿真環(huán)境稱之為Isaac Lab。其中，Issac的命名是來自牛頓。NVDIA Xavier——全球首款自動(dòng)機(jī)器處理器將在第一季度發(fā)布樣片，并將揭開人工智能時(shí)代的新篇章。

黃仁勛的演講在11點(diǎn)準(zhǔn)時(shí)結(jié)束，現(xiàn)場完整視頻將在英偉達(dá)優(yōu)酷及YouTube頻道呈現(xiàn)。

讓我們響應(yīng)黃教主的號(hào)召，一起創(chuàng)造AI時(shí)代！ Let's go creat the future together! :)