從AlphaGo的人機(jī)對(duì)戰(zhàn)，到無人駕駛汽車的上路，再到AI合成主播上崗......無形之中，人工智能正以前所未有的發(fā)展速度滲透我們的日常生活。而作為人工智能的核心技術(shù)之一，人工智能芯片也向來備受關(guān)注。

近幾年，谷歌、蘋果、微軟、Facebook、英特爾、高通、英偉達(dá)、AMD、阿里巴巴、百度等科技巨頭紛紛入局，開始自主研發(fā)人工智能芯片。而在此趨勢(shì)之下，作為 IT 從業(yè)者，你是否有了解芯片的起源？又是否想過下一代芯片需要具備哪些特性才能更好地滿足我們的需求？

接下來，我們將從世界十大AI科學(xué)家之一特倫斯·謝諾夫斯基的《深度學(xué)習(xí) 智能時(shí)代的核心驅(qū)動(dòng)力量》技術(shù)圖書中一窺究竟。

新一代芯片的趨勢(shì)

我們正在目睹電腦芯片行業(yè)一個(gè)新格局的誕生。該領(lǐng)域的競(jìng)爭(zhēng)主要在于如何設(shè)計(jì)和制造新一代的芯片，能夠運(yùn)行學(xué)習(xí)算法——不管是深度學(xué)習(xí)、強(qiáng)化學(xué)習(xí)還是其他的學(xué)習(xí)算法——比在通用計(jì)算機(jī)上的模擬學(xué)習(xí)算法快上幾千倍，能耗也更低。新的超大規(guī)模集成電路芯片采取并行處理結(jié)構(gòu)，帶有內(nèi)存，能夠緩解在過去 50 年里主導(dǎo)計(jì)算的順序馮·諾依曼構(gòu)架中內(nèi)存和中央處理器之間的瓶頸。在硬件層面，我們還在探索階段。每種具有特殊用途的超大規(guī)模集成電路芯片都有不同的優(yōu)點(diǎn)和局限性。運(yùn)行人工智能應(yīng)用的大型網(wǎng)絡(luò)需要巨大的運(yùn)算能力，因此，構(gòu)建高效的硬件有著巨大的贏利空間。

主要的電腦芯片公司和初創(chuàng)公司都在開發(fā)深度學(xué)習(xí)芯片上投入了大量資金。比如，2016 年，英特爾用 4 億美元并購了 Nervana，這是一家來自圣迭戈的初創(chuàng)公司，主營設(shè)計(jì)深度學(xué)習(xí)的專用超大規(guī)模集成電路芯片。Nervana 前 CEO 納維恩·饒（Naveen Rao）現(xiàn)在負(fù)責(zé)領(lǐng)導(dǎo)英特爾新設(shè)立的 AI 產(chǎn)品部，直接報(bào)告給英特爾的 CEO。2017 年，英特爾用 153 億美元并購了 Mobileye，該公司專注于生產(chǎn)自動(dòng)駕駛汽車的傳感器以及計(jì)算機(jī)視覺系統(tǒng)。英偉達(dá)（Nvidia）開發(fā)了能夠優(yōu)化圖形應(yīng)用程序和游戲的專用數(shù)字芯片，稱為圖形處理器（graphics processing units，GPUs），目前正在銷售更多為深度學(xué)習(xí)和計(jì)算設(shè)計(jì)的專用芯片。而谷歌則設(shè)計(jì)生產(chǎn)了一種更為高效的專用芯片——張量處理單元（tensor processing unit，TPU），以助力為其互聯(lián)網(wǎng)服務(wù)的深度學(xué)習(xí)。

不過研發(fā)專用軟件和發(fā)展深度學(xué)習(xí)應(yīng)用同樣重要。谷歌開源了它的深度學(xué)習(xí)項(xiàng)目 TensorFlow，盡管該做法并沒有看起來那么無私。比如讓安卓系統(tǒng)免費(fèi)開源，就給了谷歌對(duì)全世界絕大多數(shù)智能手機(jī)操作系統(tǒng)的控制權(quán)?，F(xiàn)在除了 TensorFlow，還有其他一些開源選擇，比如微軟的 CNTK，亞馬遜和其他大型互聯(lián)網(wǎng)公司支持的 MVNet，以及其他深度學(xué)習(xí)程序，比如 Caffe、Theano 和 PyTorch。

神經(jīng)形態(tài)芯片

2011 年，我在挪威的特羅姆瑟組織舉辦了由 Kavli 基金會(huì)贊助的“綠色環(huán)境中高性能計(jì)算的發(fā)展”（Growing High Performance Computing in a Green Environment） 研 討 會(huì)。我 們 估 計(jì)，使用當(dāng)前的微處理器技術(shù)，百億億次級(jí)（exascale）計(jì)算［比千萬億次級(jí)（petascale）計(jì)算強(qiáng)大 1000 倍］需要 50 兆瓦的功率 ，比運(yùn)行紐約市地鐵所需的功率還多。因此，下一代超級(jí)計(jì)算機(jī)可能不得不使用像英國跨國半導(dǎo)體公司 Arm Holdings（ARM）為手機(jī)開發(fā)和優(yōu)化的那種低功耗芯片。很快，在大多數(shù)計(jì)算密集型應(yīng)用中使用通用數(shù)字計(jì)算機(jī)將不再可行，專用芯片將占主導(dǎo)地位，因?yàn)樗鼈円呀?jīng)被嵌入手機(jī)中了。

人類大腦中有大約 1000 億個(gè)神經(jīng)元，每個(gè)神經(jīng)元都與其他數(shù)千個(gè)神經(jīng)元相連接，總計(jì)達(dá) 1000 萬億個(gè)（1015）突觸連接。大腦運(yùn)轉(zhuǎn)所需的功耗大約是 20 瓦，占整個(gè)身體運(yùn)轉(zhuǎn)所需功率的 20 %，盡管大腦僅占身體質(zhì)量的 3%。相比之下，一臺(tái)遠(yuǎn)不如大腦強(qiáng)大的千萬億次級(jí)超級(jí)計(jì)算機(jī)，功耗卻為 5 兆瓦，是大腦功耗的 25 萬倍。大自然是怎么創(chuàng)造出這一高效奇跡的呢？首先，神經(jīng)元接收和發(fā)送信號(hào)的部分被微縮至分子水平。另外，神經(jīng)元是在三維空間上連接的（微芯片表面的晶體管僅在二維平面上相互連接），這樣就可以使所需空間最小化。由于大自然很久以前就進(jìn)化出了這些技術(shù)，想要追趕大腦的能力，我們還有很多工作要做。

深度學(xué)習(xí)是高度計(jì)算密集型的，該過程目前在中央服務(wù)器上完成，計(jì)算結(jié)果會(huì)被傳送到手機(jī)等周邊設(shè)備。最終，周邊設(shè)備應(yīng)該是自主運(yùn)行的，這就需要完全不同的硬件——比云計(jì)算輕得多，耗電也更少。幸運(yùn)的是，這樣的硬件已經(jīng)存在了，即受大腦啟發(fā)設(shè)計(jì)出的神經(jīng)形態(tài)芯片。

視網(wǎng)膜芯片

1983 年，我在匹茲堡郊外一個(gè)度假村里舉行的研討會(huì)上第一次見到了卡弗·米德（Carver Mead）。米德向我們展示了一個(gè)硅視網(wǎng)膜，它使用了與超大規(guī)模集成電路芯片相同的制造技術(shù)，但使用了模擬而非數(shù)字電路。在模擬電路中，晶體管上的電壓可以連續(xù)變化，而數(shù)字電路中的晶體管只能采用“開”或“關(guān)”兩個(gè)二進(jìn)制值中的一個(gè)。人的視網(wǎng)膜上有一億個(gè)光感受器，與相機(jī)將信息從光子桶（photon buckets）傳動(dòng)到記憶體的方式不同，視網(wǎng)膜具有多層神經(jīng)處理功能，可將視覺輸入轉(zhuǎn)換為高效的神經(jīng)編碼。視網(wǎng)膜的所有處理過程都是模擬的，直到其編碼信號(hào)到達(dá)神經(jīng)節(jié)細(xì)胞，神經(jīng)節(jié)細(xì)胞將這些信號(hào)沿著 100 萬個(gè)軸突，以“全或無”的放電脈沖形式傳送到大腦。脈沖信號(hào)的“全或無”特征就像數(shù)字邏輯，但放電脈沖的時(shí)間是一個(gè)模擬變量，沒有時(shí)鐘同步，因此放電脈沖序列是一種混合編碼。

1976 年的卡弗·米德。正是在那段時(shí)期，他在加州理工學(xué)院創(chuàng)造了第一個(gè)硅編譯器?？ǜナ且晃挥羞h(yuǎn)見的人，他的洞察力和引領(lǐng)的技術(shù)進(jìn)步對(duì)數(shù)字和模擬計(jì)算產(chǎn)生了重大影響。桌上的電話暗示了照片的拍攝時(shí)間。圖片來源：加州理工學(xué)院。

在米德的視網(wǎng)膜芯片中，處理過程的分級(jí)部分是通過使用位于閾值拐點(diǎn)以下，從“關(guān)”到接近“關(guān)”狀態(tài)的電壓來完成的。與之相反，在數(shù)字模式下運(yùn)行時(shí)，晶體管迅速跳到完全“導(dǎo)通”的狀態(tài)，這需要消耗更多的功率。因此，模擬超大規(guī)模集成電路芯片僅消耗數(shù)字芯片所需能耗的一小部分，從納瓦到微瓦，而不是從毫瓦到瓦，能量效率提升了數(shù)百萬倍。米德是神經(jīng)形態(tài)工程的創(chuàng)始人，他致力于構(gòu)建基于大腦式算法的芯片，在 1989 年，他表明嵌入在昆蟲和哺乳動(dòng)物眼睛神經(jīng)環(huán)路中的神經(jīng)算法，可以有效地復(fù)制到芯片上。

視網(wǎng)膜芯片是米德的明星研究生米莎·馬霍沃德（Misha Mahowald）于 1988 年創(chuàng)造的一項(xiàng)令人印象深刻的發(fā)明。她在加州理工學(xué)院讀本科時(shí)主修的是生物學(xué)。在研究生階段，她從事的是電子工程領(lǐng)域的工作。這兩個(gè)領(lǐng)域的結(jié)合所帶來的洞見幫助她獲得了四項(xiàng)專利。1992 年，她的博士論文描述了在芯片上的實(shí)時(shí)雙目匹配，這是第一個(gè)真正使用集群行為完成艱巨任務(wù)的芯片。為此她獲得了加州理工學(xué)院的米爾頓和弗朗西斯·克拉澤獎(jiǎng)（Milton and Francis Clauser Prize）。1996 年，她的名字還被列入了國際技術(shù)女性（Women in Technology International，WITI）名人堂。

1982 年，加州理工學(xué)院的米莎·馬霍沃德作為卡弗·米德的學(xué)生，創(chuàng)造了當(dāng)時(shí)世界上第一個(gè)硅視網(wǎng)膜。她對(duì)神經(jīng)形態(tài)工程的貢獻(xiàn)是開創(chuàng)性的。圖片來源：托比·德爾布呂克。

晶體管在閾值附近的物理特性，與生物膜中離子通道的生物物理特性之間存在密切的對(duì)應(yīng)關(guān)系。馬霍沃德與牛津大學(xué)的神經(jīng)科學(xué)家凱萬·馬?。↘evan Martin）和羅德尼·道格拉斯（Rodney Douglas）合作開發(fā)過硅神經(jīng)元，并隨同他們一起搬到了蘇黎世，幫助他們?cè)谔K黎世大學(xué)和瑞士聯(lián)邦理工學(xué)院建立了神經(jīng)信息學(xué)研究所。然而后來，在經(jīng)歷了抑郁癥的折磨之后，米莎于 1996 年結(jié)束了自己的生命，時(shí)年 33 歲。一位杰出的新星就此隕落。