小男孩‘自慰网亚洲一区二区,亚洲一级在线播放毛片,亚洲中文字幕av每天更新,黄aⅴ永久免费无码,91成人午夜在线精品,色网站免费在线观看,亚洲欧洲wwwww在线观看

分享

重磅 | IBM創(chuàng)造出世界上首個(gè)人工相變神經(jīng)元,可實(shí)現(xiàn)高速無監(jiān)督學(xué)習(xí)

 思考力_行動(dòng)力 2016-08-06

IBM蘇黎世研究院創(chuàng)造出了世界上首個(gè)人工納米級(jí)的隨機(jī)相變神經(jīng)元,他們已將論文發(fā)表在了Nature Nanotechnology上。據(jù)介紹,IBM已經(jīng)創(chuàng)造出了500個(gè)這樣的人工神經(jīng)元,并使用它們以類似大腦(神經(jīng)形態(tài))的方式處理過了信號(hào)。


這一突破相當(dāng)?shù)刂档藐P(guān)注,因?yàn)檫@種相變神經(jīng)元是由已經(jīng)被充分理解的材料制成的,其尺寸能縮減至數(shù)個(gè)納米級(jí),而且它們能夠高速爆發(fā)動(dòng)作電位而能量需求卻很低。這種神經(jīng)元的隨機(jī)性(stochasticity)也很重要——也就是它們總是產(chǎn)生稍微不同的、隨機(jī)結(jié)果的能力,如同生物神經(jīng)元一樣。


設(shè)計(jì)這種神經(jīng)元是為了在僅使用傳統(tǒng)芯片能耗的幾分之一的情況下更好地處理大量的數(shù)據(jù)。IBM蘇黎世研究院的科學(xué)家Tomas Tuma(論文第一作者)說,「如今的挑戰(zhàn)是接收量級(jí)和復(fù)雜度都不斷增大的數(shù)據(jù),并且使用較小的功率和較少的能耗提取里面有用的知識(shí)?!?/span>


技術(shù):人工相變神經(jīng)元的構(gòu)建


閑言少敘,讓我們看一下這些相變神經(jīng)元如何構(gòu)建的:



圖解 IBM 的單個(gè)相變神經(jīng)元



相變神經(jīng)元的動(dòng)力。左下展示了 GST 的漸結(jié)晶化,當(dāng)有足夠的晶體(藍(lán)色顯示)之后,神經(jīng)元就會(huì)放電。



在左邊你可以看到單個(gè)相變神經(jīng)元的初始行為,中間你能看到在數(shù)秒后它有什么行為。


像生物神經(jīng)元一樣,IBM的人工神經(jīng)元也有輸入(樹突)、一個(gè)圍繞著尖峰發(fā)生器(胞體、細(xì)胞核)的神經(jīng)元膜(雙層脂膜(lipid bilayer))和一個(gè)輸出(軸突)。從尖峰發(fā)生器(spike generator)到輸入之間有一個(gè)反向傳播連接,可強(qiáng)化一些輸入峰值的強(qiáng)度。


這種人工神經(jīng)元和生物神經(jīng)元的主要區(qū)別是在神經(jīng)元膜中。在真正的神經(jīng)元中,里面會(huì)是雙層脂膜,本質(zhì)上是充當(dāng)電阻器和電容器:它抗電導(dǎo),但在輸入樹突最后有足夠電力的情況下,它將建立足夠的電勢(shì)產(chǎn)生自己的峰值(spike of electricity),然后從軸突流動(dòng)到其他神經(jīng)元等等,并繼續(xù)下去。


在IBM的神經(jīng)元中,神經(jīng)元膜被替換成了小塊的鍺-銻-碲(germanium-antimony-tellurium,GeSbTe或GST)。GST剛好是其他可復(fù)寫光碟的主要原料,也是一個(gè)相變材料。這意味著它能以兩種不同的相存在(這里是晶體與非晶體),而且能輕松的在兩者間進(jìn)行轉(zhuǎn)換,通常是通過加熱進(jìn)行轉(zhuǎn)換(方式是激光或者電力)。一個(gè)相變材料因所在相的不同有相當(dāng)不同的物理特性:在GST中,非晶相是電絕緣體,晶體相卻導(dǎo)電。


帶有這些人工神經(jīng)元的GST方塊在非晶相開始了其生命周期。然后,隨著輸入中尖峰信號(hào)(spikes)的到來,GST開始緩慢結(jié)晶。最終,GST的結(jié)晶達(dá)到足夠程度使其變得導(dǎo)電——于是,電流流過細(xì)胞膜并創(chuàng)造一個(gè)尖峰信號(hào)。在一個(gè)任意的不應(yīng)期(refractory period,指不會(huì)響應(yīng)刺激的休止階段)后,GST會(huì)被重置回它的非晶相,然后重新開始這個(gè)過程。


「隨機(jī)」是指系統(tǒng)的結(jié)果中存在隨機(jī)量(randomness)。生物神經(jīng)元因?yàn)橛懈鞣N不同的噪聲(離子電導(dǎo)、熱、背景噪聲),所以是隨機(jī)的。IBM說它的人工神經(jīng)元能表現(xiàn)出類似的隨機(jī)行為,因?yàn)槊總€(gè)GST細(xì)胞的非晶狀態(tài)在每次重置之后總是稍有不同,這又會(huì)繼續(xù)導(dǎo)致其結(jié)晶過程各不相同。因此,這些工程師從來不明確知道每個(gè)神經(jīng)元會(huì)何時(shí)放電。



一個(gè)滿是相變器件(銀色方塊)的晶圓的照片。要讓這樣的實(shí)際成果工作,必需要探針:這只是一塊原型芯片,沒有可以連接到電路板的線路/引腳。


IBM 人工神經(jīng)元的應(yīng)用


現(xiàn)在有兩個(gè)主要的發(fā)展方向。第一,這種由已被充分理解的材料構(gòu)成的人工神經(jīng)元具有很好的性能特點(diǎn),可以長(zhǎng)時(shí)間持續(xù)(數(shù)萬億個(gè)開關(guān)周期),并且可以在先進(jìn)的節(jié)點(diǎn)上制造/集成(上圖所示芯片所采用的工藝是90納米,但研究論文中提到了14納米的可能性)。在這次的研究中提出的這種相變器件已經(jīng)相當(dāng)小了——大約100納米見方。



IBM 的多人工神經(jīng)元計(jì)算機(jī)的模樣


第二,這些相變神經(jīng)元是我們到目前為止所創(chuàng)造出的行為最接近生物神經(jīng)元的人工器件,也會(huì)能為我們帶來一種高效的、大規(guī)模的并行計(jì)算機(jī)設(shè)計(jì)——應(yīng)用神經(jīng)形態(tài)的方法來進(jìn)行決策和處理傳感信息。IBM表示他們的新成果和正在研發(fā)的基于憶阻器(memristor)的突觸是相輔相成的。


到目前為止,IBM已經(jīng)構(gòu)建出了10x10的神經(jīng)元交叉陣列,并將這樣的5個(gè)陣列連接起來創(chuàng)建了一個(gè)包含多達(dá)500個(gè)神經(jīng)元的神經(jīng)元群,然后讓它以一種全新的類腦方式處理了寬帶信號(hào)。(用技術(shù)方面的術(shù)語來說:這些神經(jīng)元表現(xiàn)出了和生物神經(jīng)元涌現(xiàn)出的一樣的「群編碼(population coding)」,而且這種信號(hào)處理規(guī)避了奈奎斯特-香農(nóng)采樣定理。)


但我們沒有任何理由止步于此?,F(xiàn)在是時(shí)候?qū)?shù)千個(gè)這樣的相變神經(jīng)元集成到單一一塊芯片上了——然后是更難的部分:編寫一些能夠真正利用該芯片的神經(jīng)形態(tài)的軟件。


  • 論文:Stochastic phase-change neurons




摘要:在理解人腦和構(gòu)建神經(jīng)計(jì)算系統(tǒng)上,基于棘波神經(jīng)元(spiking neurons)群的人工神經(jīng)形態(tài)系統(tǒng)是一種不可或缺的工具。要實(shí)現(xiàn)可與生物系統(tǒng)相比的尺寸和能量效率,基于電離子和基于相變的憶阻器件一直被看作是突觸的納米級(jí)對(duì)應(yīng)物而被研究。但是,神經(jīng)元的可擴(kuò)展的實(shí)現(xiàn)的進(jìn)展一直以來都很有限。在這里我們提出了一種可用于創(chuàng)造人工神經(jīng)元的基于硫族化物的相變材料,該人工神經(jīng)元的膜電位可由該納米相變器件的相結(jié)構(gòu)表示。通過利用非晶到結(jié)晶相變的這個(gè)可逆的物理過程,我們發(fā)現(xiàn)突觸后電位(postsynaptic potentials)的時(shí)間積分可以在納秒級(jí)的時(shí)間尺度上實(shí)現(xiàn)。此外,我們發(fā)現(xiàn)在神經(jīng)元重置過程中會(huì)發(fā)生原子結(jié)構(gòu)的熔融-驟冷-誘導(dǎo)生成(melt-quench-induced),所以該重置過程本質(zhì)上是隨機(jī)的。我們還在高帶寬信號(hào)的并行數(shù)據(jù)流和亞奈奎斯特表示(sub-Nyquist representation)中的時(shí)間關(guān)聯(lián)性檢測(cè)中演示了這些相變神經(jīng)元及它們的群的使用。


轉(zhuǎn)自機(jī)器之心


相關(guān)內(nèi)容 | 回復(fù)關(guān)鍵字
APP | 藍(lán)色精英 | 學(xué)霸風(fēng)云賽
管理學(xué)院 | 微課堂 | 特色銷售方法 | Flash
Power | RTC | Bluemix | 大數(shù)據(jù)大學(xué)
Urbancode Deploy

IBM中國渠道大學(xué)

    本站是提供個(gè)人知識(shí)管理的網(wǎng)絡(luò)存儲(chǔ)空間,所有內(nèi)容均由用戶發(fā)布,不代表本站觀點(diǎn)。請(qǐng)注意甄別內(nèi)容中的聯(lián)系方式、誘導(dǎo)購買等信息,謹(jǐn)防詐騙。如發(fā)現(xiàn)有害或侵權(quán)內(nèi)容,請(qǐng)點(diǎn)擊一鍵舉報(bào)。
    轉(zhuǎn)藏 分享 獻(xiàn)花(0

    0條評(píng)論

    發(fā)表

    請(qǐng)遵守用戶 評(píng)論公約

    類似文章 更多