海歸學(xué)者發(fā)起的公益學(xué)術(shù)平臺(tái)

分享信息，整合資源

交流學(xué)術(shù)，偶爾風(fēng)月

通用人工智能（Artificial General Intelligence, AGI）是指一種智力水平與人類不分伯仲的人工智能。原則上，通用人工智能平臺(tái)可以執(zhí)行人類能夠完成的所有任務(wù)。目前，通用人工智能有兩種研究路徑：計(jì)算機(jī)科學(xué)導(dǎo)向和神經(jīng)科學(xué)導(dǎo)向。

神經(jīng)科學(xué)導(dǎo)向的AGI方法追求無(wú)限度地模仿人的大腦。這種方法研究觀察了記憶和計(jì)算之間的緊密相互作用，運(yùn)用脈沖進(jìn)行編碼、制定學(xué)習(xí)規(guī)則。其代表為第三代神經(jīng)網(wǎng)絡(luò)——脈沖神經(jīng)網(wǎng)絡(luò)（Spiking Neural Networks, SNN）。相比之下，面向計(jì)算機(jī)科學(xué)的方法主要表現(xiàn)為在計(jì)算機(jī)上執(zhí)行的顯式算法。其代表是非脈沖式的人工神經(jīng)網(wǎng)絡(luò)（ANNs），屬于第二代神經(jīng)網(wǎng)絡(luò)。ANNs在處理特定任務(wù)方面取得了實(shí)質(zhì)性進(jìn)展，如圖像分類、語(yǔ)音識(shí)別、語(yǔ)言處理和游戲AI等領(lǐng)域。

雖然這兩種方法都可以解決數(shù)據(jù)豐富的專門任務(wù)，但是要解決與多系統(tǒng)相關(guān)的、信息不完整的復(fù)雜動(dòng)態(tài)問(wèn)題，現(xiàn)有的技術(shù)仍然是無(wú)能為力。因此，為了進(jìn)一步發(fā)展出智力可與人類比肩的AGI，目前的大趨勢(shì)是將更多由生物學(xué)啟發(fā)而來(lái)的模型或算法納入主流人工神經(jīng)網(wǎng)絡(luò)，從而在SNN與ANNs構(gòu)建起橋梁。但由于兩套系統(tǒng)使用的平臺(tái)各不相同且互不兼容，因此極大地限制了人工通用智能的發(fā)展。

在本次研究中，研究人員開(kāi)發(fā)了一種混合式計(jì)算芯片，它可以適應(yīng)同時(shí)面向計(jì)算機(jī)科學(xué)和神經(jīng)科學(xué)的神經(jīng)網(wǎng)絡(luò)。設(shè)計(jì)出與各種神經(jīng)模型和算法兼容的通用平臺(tái)是一項(xiàng)基本挑戰(zhàn)，而這挑戰(zhàn)性在某些方面又尤其突出——比如ANN和SNN之間天然隔離。

ANN和SNN在信息表示、計(jì)算原理和記憶組織方面都具有不同的建模范例。而其中最根本的差異是，ANN以精確的多位值進(jìn)行信息處理，而SNN卻使用二進(jìn)制脈沖序列。所以，為了在一個(gè)平臺(tái)上實(shí)現(xiàn)兩種模型，脈沖需要表示為數(shù)字序列，以便它們與數(shù)字編號(hào)的ANN編碼格式兼容。

ANN計(jì)算模型與生物神經(jīng)元計(jì)算模型

除此之外，還有幾點(diǎn)差異也十分重要：首先，SNN在時(shí)空域中運(yùn)行，這需要在一定時(shí)間內(nèi)記憶歷史膜電位和脈沖樣式，而ANN在過(guò)程中累積加權(quán)并周期性地刷新信息。其次，SNN的計(jì)算包括膜電位積分、閾值交叉和電位復(fù)位，其由脈沖驅(qū)動(dòng)。相比之下，ANN主要與密集的乘積累加運(yùn)算（Multiply Accumulate, MAC）操作和激活變換相關(guān)。最后，SNN中的脈沖信息的處理需要可編程的存儲(chǔ)器及額外的高精度存儲(chǔ)器，而ANN僅需要用于激活存儲(chǔ)和變換的存儲(chǔ)器即可。當(dāng)然，ANN和SNN之間也存在一些相似之處，這為模型實(shí)現(xiàn)融合留下了空間。

ANN和SNN實(shí)現(xiàn)路徑之間的比較

在對(duì)不同系統(tǒng)進(jìn)行詳細(xì)比對(duì)之后，研究人員抽象統(tǒng)一了軸突、突觸、樹(shù)突、胞體和感知器等模塊，設(shè)計(jì)了一種交叉范式的神經(jīng)元方案。如下圖所示：

在該方案的支持下創(chuàng)建的功能核心，是一種具有“ANN輸入和SNN輸出”或“SNN輸入和ANN輸出”能力的混合網(wǎng)絡(luò)基元。換言之，一種可以充當(dāng)ANN / SNN系統(tǒng)轉(zhuǎn)換器的功能核心誕生了。本次研究發(fā)布的Tianjic芯片即由這種功能核心構(gòu)成。Tianjic芯片由156個(gè)功能核心組成，包含大約40,000個(gè)神經(jīng)元和1000萬(wàn)個(gè)突觸。芯片采用28-nm處理技術(shù)制造，膜片區(qū)面積為3.8×3.8 平方毫米。Tianjic芯片憑借其分布式片上存儲(chǔ)器和分散式多核架構(gòu)，提供的內(nèi)存帶寬超過(guò)了610GB（每秒）。

Tianjic芯片和測(cè)試板及其布局視圖

為了證明這種類腦跨范式系統(tǒng)的實(shí)用性，研究人員用芯片設(shè)計(jì)了一輛無(wú)人自行車。通過(guò)在一個(gè)Tianjic芯片內(nèi)并行部署多個(gè)專用網(wǎng)絡(luò)，自行車得以配備多種算法和模型。該無(wú)人自行車已能夠執(zhí)行實(shí)時(shí)物體檢測(cè)、跟蹤、語(yǔ)音命令識(shí)別、超速減速、避障、平衡控制等任務(wù)。

研究人員認(rèn)為，本次研究將能夠促進(jìn)AGI的實(shí)現(xiàn)進(jìn)程。施路平教授介紹說(shuō)：“本次研究事實(shí)上包含了多重信息，它是‘腦和電腦’的融合；是計(jì)算和存儲(chǔ)的融合，既有分離又有一體化；是時(shí)空復(fù)雜性和空間復(fù)雜性的融合；是空間編碼和時(shí)間編碼的融合?！痹谡劶氨敬窝芯颗c類腦的關(guān)系時(shí)，他表示：“類腦在本次研究中具有風(fēng)向標(biāo)的地位，自然界中唯一的AGI系統(tǒng)就是人腦，所以朝著這一方向進(jìn)發(fā)，是研究中十分寶貴的方向感?！?/p>

但研究人員也表示，該工作還是十分初步的，還有很大的上升空間，而迭代更新的工作已經(jīng)在著手進(jìn)行中。據(jù)悉，現(xiàn)在該芯片技術(shù)已經(jīng)在與部分公司進(jìn)行產(chǎn)業(yè)合作。