2018年圖靈獎(jiǎng)得主,但在獲得人工智能博士學(xué)位前,沒(méi)有學(xué)過(guò)計(jì)算機(jī),也沒(méi)有碩士學(xué)位,并從事木匠工作兩次改變?nèi)斯ぶ悄馨l(fā)展進(jìn)程,并以一己之力改變一個(gè)國(guó)家的科技水平![]() 杰弗里·辛頓(Geoffrey Hinton) Hinton出生于英國(guó)的科學(xué)世家,在高中時(shí)期就對(duì)人腦的工作原理產(chǎn)生了濃厚興趣,但在劍橋大學(xué)換過(guò)多個(gè)專業(yè)后,最終拿到的卻是實(shí)驗(yàn)心理學(xué)學(xué)士學(xué)位。 失去方向的Hinton在畢業(yè)后選擇成為一名木匠,一邊做木門、做書架,一邊繼續(xù)思考大腦工作原理。 一年多的體力勞動(dòng)后,Hinton決定回到學(xué)術(shù)界,前往愛(ài)丁堡大學(xué)研究尚處邊緣的神經(jīng)網(wǎng)絡(luò)方向,并于1978年獲得人工智能博士學(xué)位。 雖然對(duì)神經(jīng)網(wǎng)絡(luò)的研究最早可以追溯到五十年代,但在1986年Hinton等人提出反向傳播算法前,幾乎沒(méi)人相信神經(jīng)網(wǎng)絡(luò)。反向傳播算法解決了多層神經(jīng)網(wǎng)絡(luò)的訓(xùn)練問(wèn)題,讓神經(jīng)網(wǎng)絡(luò)開始變得可行,這是Hinton第一次改變?nèi)斯ぶ悄馨l(fā)展進(jìn)程。 2006年Hinton等人提出深度信念網(wǎng)絡(luò)(DBNs),帶領(lǐng)神經(jīng)網(wǎng)絡(luò)進(jìn)入深度學(xué)習(xí)時(shí)代,這是Hinton第二次改變?nèi)斯ぶ悄馨l(fā)展進(jìn)程。 神經(jīng)網(wǎng)絡(luò)的全稱是人工神經(jīng)網(wǎng)絡(luò)(Artificial Neural Networks, ANNs),是受人類大腦中生物神經(jīng)網(wǎng)絡(luò)啟發(fā)而構(gòu)建的計(jì)算模型,它使用一系列人工神經(jīng)元進(jìn)行信息處理,這些神經(jīng)元通過(guò)加權(quán)連接進(jìn)行組織。 在神經(jīng)網(wǎng)絡(luò)基礎(chǔ)上,深度學(xué)習(xí)通過(guò)構(gòu)建多層神經(jīng)網(wǎng)絡(luò)模型,并且模型中通常還含有多個(gè)隱藏層,以達(dá)到學(xué)習(xí)數(shù)據(jù)中更深層次、更抽象的特征。 現(xiàn)在我們看到的人工智能繁榮,在很大程度上都要?dú)w功于深度學(xué)習(xí)技術(shù)的突破,深度學(xué)習(xí)從根本上塑造了現(xiàn)代人工智能的面貌。 深度信念網(wǎng)絡(luò)(DBNs)不僅展示了深度學(xué)習(xí)的有效性,還啟發(fā)了許多后續(xù)的深度學(xué)習(xí)模型和訓(xùn)練策略,比如卷積神經(jīng)網(wǎng)絡(luò)(CNNs)、循環(huán)神經(jīng)網(wǎng)絡(luò)(RNNs)、生成對(duì)抗網(wǎng)絡(luò)(GANs)等,對(duì)深度學(xué)習(xí)領(lǐng)域產(chǎn)生了深遠(yuǎn)影響。 與Hinton同時(shí)獲得2018年圖靈獎(jiǎng)的還有兩位,楊立昆(Yann LeCun) 和 約書亞·本吉奧(Yoshua Bengio),這在圖靈獎(jiǎng)歷史上并不常見(jiàn)。圖靈獎(jiǎng)又被稱為“計(jì)算機(jī)界的諾貝爾獎(jiǎng)”,多數(shù)情況下每年僅頒發(fā)給一名科學(xué)家。 ![]() 2018年圖靈獎(jiǎng)?lì)C獎(jiǎng)典禮 LeCun的主要貢獻(xiàn)在卷積神經(jīng)網(wǎng)絡(luò)(CNNs)、Bengio的主要貢獻(xiàn)在生成對(duì)抗網(wǎng)絡(luò)(GANs),他們與Hinton一起被稱為“深度學(xué)習(xí)之父”。 這三位不僅在學(xué)術(shù)上有獨(dú)立的研究貢獻(xiàn),也有緊密的合作,互相之間影響很大,更是在神經(jīng)網(wǎng)絡(luò)發(fā)展的低谷期建立了很深的友誼。 從1986年到2006年的20年是神經(jīng)網(wǎng)絡(luò)研究的低谷,只有以Hinton為核心的少數(shù)科學(xué)家在堅(jiān)持研究這個(gè)方向。 為了找到支持他研究神經(jīng)網(wǎng)絡(luò)的棲身之處,1987年Hinton接受加拿大高級(jí)研究所(CIFAR)邀請(qǐng),在加拿大多倫多大學(xué)建立了實(shí)驗(yàn)室。 Hinton對(duì)神經(jīng)網(wǎng)絡(luò)的堅(jiān)定信念,吸引相信神經(jīng)網(wǎng)絡(luò)的人陸續(xù)來(lái)到多倫多加入他的實(shí)驗(yàn)室。 LeCun在美國(guó)獲得博士學(xué)位后,追隨Hinton來(lái)到多倫多,在Hinton實(shí)驗(yàn)室進(jìn)行博士后研究并發(fā)表了卷積神經(jīng)網(wǎng)絡(luò)(CNNs)論文,他現(xiàn)在是Meta首席科學(xué)家。 Bengio在讀研究生時(shí)被Hinton的一篇論文所激勵(lì),明確了研究方向,并成為Hinton的摯友,現(xiàn)在是加拿大蒙特利爾大學(xué)教授,幾十年來(lái)每當(dāng)Bengio從蒙特利爾來(lái)多倫多,都是住在Hinton家里。 在神經(jīng)網(wǎng)絡(luò)低谷期,Hinton實(shí)驗(yàn)室逐漸成為大家的避風(fēng)港,Hinton也成為神經(jīng)網(wǎng)絡(luò)研究的精神領(lǐng)袖。同時(shí),Hinton在此期間培養(yǎng)了一大批優(yōu)秀的學(xué)生,其中就包括OpenAI聯(lián)合創(chuàng)始人兼董事Ilya Sutskever,他是Hinton的博士。 今年已經(jīng)77歲高齡的Hinton依然活躍在人工智能研究領(lǐng)域。因?yàn)镠inton,加拿大成為全球人工智能研究的重鎮(zhèn)之一,吸引了多家人工智能巨頭將研究機(jī)構(gòu)設(shè)立在多倫多。 |
|
|