小男孩‘自慰网亚洲一区二区,亚洲一级在线播放毛片,亚洲中文字幕av每天更新,黄aⅴ永久免费无码,91成人午夜在线精品,色网站免费在线观看,亚洲欧洲wwwww在线观看

分享

Geoffrey Hinton,AlexNet與Google AI

 xiaopanglang 2024-04-03 發(fā)布于山東

深度學(xué)習(xí)三巨頭Geoffrey Hinton、Yann LeCun、Yoshua Bengio中,Hinton是LeCun與Bengio的老師。LeCun是Hinton在加拿大多倫多大學(xué)帶的博士后,LeCun在多倫多學(xué)習(xí)期間就住在Hinton家里;Bengio是MIT的Micheal Jordan的博士后,而Micheal Jordan曾申請(qǐng)讀Hinton的博士后,Bengio在蒙特利爾大學(xué)時(shí)長(zhǎng)期是學(xué)校里唯一教授機(jī)器學(xué)習(xí)的老師,對(duì)于學(xué)術(shù)和工作上遇到的問(wèn)題,Bengio一直把Hinton當(dāng)老師。深度學(xué)習(xí)歷史上的幾乎所有里程碑,不是Hinton主導(dǎo),就是Hinton的學(xué)生所主導(dǎo),因此,Geoffrey Hinton是名副其實(shí)的“深度學(xué)習(xí)教父(Godfather of AI)”。

回顧深度學(xué)習(xí)的歷史,最令人感慨的,就是在深度學(xué)習(xí)的長(zhǎng)期低谷中,Hinton鼓勵(lì)和引領(lǐng)著LeCun與Bengio,三人在加拿大為深度學(xué)習(xí)保留著研究的種子,一直堅(jiān)持到“AlexNet時(shí)刻”的到來(lái)。

為什么在全世界都長(zhǎng)期不看好神經(jīng)網(wǎng)絡(luò)的情況下只有Hinton一直獨(dú)自堅(jiān)持研究?因?yàn)镠inton不是一般的學(xué)者,Hinton是真正的貴族知識(shí)分子,只有貴族知識(shí)分子才能超越俗世,以信念來(lái)決定自己的學(xué)術(shù)人生。

1947年Geoffrey Hinton出生于溫布爾頓。Hinton的高祖父是著名數(shù)學(xué)家George Boole,Boole創(chuàng)立的布爾代數(shù)(Boolean algebra)奠定了計(jì)算機(jī)科學(xué)的數(shù)學(xué)基礎(chǔ);Hinton的全名是Geoffrey Everest Hinton,中間名Everest來(lái)自于高祖母家族,Hinton高祖母的叔叔就是著名地理學(xué)家George Everest,珠穆朗瑪峰的英語(yǔ)單詞(Mount Everest)就是以George Everest的名字命名的;Hinton父親Howard Hinton是知名昆蟲(chóng)學(xué)家;Hinton的舅舅是著名經(jīng)濟(jì)學(xué)家Colin Clark,創(chuàng)立了宏觀經(jīng)濟(jì)學(xué)里的GNP核算;Hinton的表姑媽Joan Hinton是知名核物理學(xué)家,1948年到延安,是新中國(guó)第一個(gè)獲得中國(guó)綠卡的外國(guó)人。在如此顯赫的家族背景下,Hinton看待世界與學(xué)問(wèn)的角度是不一樣的,Hinton自述“我大概在7歲的時(shí)候就意識(shí)到,不讀博士是不行了”。

1965年,Hinton進(jìn)入劍橋大學(xué)國(guó)王學(xué)院(King's College)讀物理與化學(xué),但很快退學(xué),之后又申請(qǐng)國(guó)王學(xué)院的建筑學(xué),又很快退學(xué),再申請(qǐng)國(guó)王學(xué)院的哲學(xué),再退學(xué)。Hinton的劍橋歲月,不是與老師吵架,就是退學(xué),Hinton稱(chēng)這種貴族式的任性為“學(xué)習(xí)多動(dòng)癥”。

退學(xué)后工作了幾年后,Hinton還是想起了“不讀博士是不行了”,1973年,Hinton進(jìn)入蘇格蘭愛(ài)丁堡大學(xué)(The University of Edinburgh)讀博士學(xué)位,開(kāi)始研究神經(jīng)網(wǎng)絡(luò)。導(dǎo)師每次見(jiàn)到Hinton,都提醒他神經(jīng)網(wǎng)絡(luò)這個(gè)方向是公認(rèn)短期內(nèi)看不到結(jié)果的,然而Hinton不為所動(dòng)。博士畢業(yè)后,Hinton在卡內(nèi)基梅隆大學(xué)(CMU)找到一份工作。

1987年,Hinton接受加拿大高等研究院(CIFAR)的邀請(qǐng)到多倫多大學(xué)工作,并為CIFAR展開(kāi)機(jī)器學(xué)習(xí)項(xiàng)目研究,CIFAR是當(dāng)時(shí)幾乎唯一愿意資助冷門(mén)的神經(jīng)網(wǎng)絡(luò)研究的機(jī)構(gòu)。以Hinton在多倫多大學(xué)的辦公室為核心,一小撮神經(jīng)網(wǎng)絡(luò)的信徒聚集在Hinton身邊,這一小撮人的代表人物是Yann LeCun、Yoshua Bengio、Alex Krizhevsky、Ilya Sutskever。Hinton始終懷有“相信自己是對(duì)的,其他人都錯(cuò)了”的貴族式信念,而這一小撮人則都被Hinton洗腦了,把自己的學(xué)術(shù)生涯賭在了Hinton所選的方向上。Hinton后來(lái)半開(kāi)玩笑地說(shuō)——在神經(jīng)網(wǎng)絡(luò)這條孤獨(dú)的道路上,他的一個(gè)工作就是選出最優(yōu)秀的學(xué)生,而優(yōu)秀學(xué)生的標(biāo)準(zhǔn)就是完全相信Hinton對(duì)神經(jīng)網(wǎng)絡(luò)的看法。這樣,在加拿大聚集起了一小撮人認(rèn)為“自己是對(duì)的,而其他人都錯(cuò)了”的神經(jīng)網(wǎng)絡(luò)研究者,而其他人則嘲諷這幫人是AI領(lǐng)域非主流的“加拿大黑幫”。

2012年,深度學(xué)習(xí)的“Sputnik時(shí)刻”——“AlexNet時(shí)刻”終于到來(lái),Hinton與他的兩位博士生Alex Krizhevsky、Ilya Sutskever設(shè)計(jì)了在深度學(xué)習(xí)歷史上具有里程碑意義的AlexNet,在當(dāng)年的ImageNet大賽上以極大的性能優(yōu)勢(shì)奪冠,AlexNet讓深度學(xué)習(xí)站到了AI舞臺(tái)的中央。

“AlexNet時(shí)刻”讓工業(yè)界聞風(fēng)而動(dòng),動(dòng)作最快的竟然是中國(guó)公司百度。AlexNet論文發(fā)表后不久,Hinton就收到了百度的郵件,李彥宏向Hinton和他的兩位學(xué)生提供了三年1200萬(wàn)美元的工作offer,當(dāng)時(shí)受寵若驚的Hinton已經(jīng)準(zhǔn)備接受百度的offer。

Geoffrey Hinton的兩位學(xué)生Alex Krizhevsky與Ilya Sutskever到底不是等閑之輩,他們向老師提出,與其和某個(gè)公司談工作邀約,不如三個(gè)人直接成立一家公司,然后讓各個(gè)公司來(lái)競(jìng)購(gòu)這家公司,這樣顯然能獲得高得多的報(bào)價(jià)。Hinton采納了他們的意見(jiàn),三人成立了一家公司DNNresearch,并邀請(qǐng)工業(yè)界來(lái)競(jìng)購(gòu)。聯(lián)系Hinton競(jìng)購(gòu)DNNresearch的,一共有四家公司:谷歌、微軟、百度與DeepMind。

競(jìng)購(gòu)初期,DeepMind首先被排除了,因?yàn)镈eepMind提供的是股票期權(quán),DeepMind當(dāng)時(shí)沒(méi)有現(xiàn)金、只能用股票來(lái)競(jìng)購(gòu),這顯然不符合Hinton和他學(xué)生們的期望,DeepMind首先出局。這里假設(shè)一下,假如Hinton三人接受了DeepMind的股票加入了DeepMind,這大致相當(dāng)于Hinton、OpenAI、DeepMind合三為一,那么大家可以想象一下現(xiàn)在的DeepMind會(huì)形成何等的大模樣?

當(dāng)競(jìng)購(gòu)的競(jìng)價(jià)達(dá)到2200萬(wàn)美元時(shí),微軟退出了。百度和谷歌都已經(jīng)定下競(jìng)價(jià)策略——奉陪到底,到午夜時(shí)百度和谷歌已經(jīng)把價(jià)格抬高到了4400萬(wàn)美元,而且雙方都告訴Hinton會(huì)繼續(xù)出價(jià)。Hinton對(duì)如此高價(jià)感到了不安,宣布當(dāng)天競(jìng)拍結(jié)束。第二天,Hinton通知百度和谷歌,競(jìng)拍不再進(jìn)行,Hinton選擇了谷歌。Hinton后來(lái)承認(rèn),中斷和百度的談判而改為競(jìng)購(gòu),其想要的結(jié)果就是谷歌。

競(jìng)購(gòu)?fù)瓿珊?,Geoffrey Hinton、Alex Krizhevsky與Ilya Sutskever加入了Jeff Dean領(lǐng)導(dǎo)的Google Brain(谷歌最重要的AI部門(mén))。外界曾笑談,Google花了4400萬(wàn)美元只是招聘到了三個(gè)員工,事實(shí)上,Ilya Sutskever在谷歌工作期間被DeepMind的AlphaGo所激勵(lì),很快離開(kāi)谷歌創(chuàng)業(yè)去了,成立了現(xiàn)在風(fēng)生水起的OpenAI,而Alex Krizhevsky在谷歌期間默默無(wú)聞?wù)撐暮苌?,后?lái)也離開(kāi)了谷歌加盟了一家加拿大AI初創(chuàng)企業(yè)Dessa,三人中只有Hinton一直留在了谷歌。

但是,沒(méi)有誰(shuí)會(huì)認(rèn)為Google的4400萬(wàn)美元投資不值得,Google的4400萬(wàn)投資買(mǎi)到的東西實(shí)際上遠(yuǎn)超4400萬(wàn)。Google就依靠Google Brain、Hinton、DeepMind(2014年谷歌以6億美元收購(gòu))這三個(gè)支柱,牢牢建立起了AI技術(shù)的絕對(duì)領(lǐng)先地位。這個(gè)絕對(duì)領(lǐng)先地位對(duì)于谷歌來(lái)說(shuō)價(jià)值幾何?Hinton當(dāng)時(shí)叫停競(jìng)購(gòu)是覺(jué)得4400萬(wàn)美元的高價(jià)有些離譜了,但是如果Hinton三人當(dāng)時(shí)選擇拿DeepMind的10%股份呢,現(xiàn)在的AI會(huì)是什么格局,這10%的股份現(xiàn)在價(jià)值幾何?

Geoffrey Hinton加入谷歌后,被谷歌工程師奉為超級(jí)偶像,最優(yōu)秀的AI人才都以加入谷歌與Hinton共事為榮。在谷歌原來(lái)的架構(gòu)里,搜索和人工智能部門(mén)二合一,由高級(jí)副總裁John Giannandrea管理,如今谷歌AI部門(mén)越來(lái)越強(qiáng)大,人工智能部門(mén)已經(jīng)成為獨(dú)立部門(mén)與搜索部門(mén)并列,原Google Brain負(fù)責(zé)人Jeff Dean掌管谷歌人工智能部門(mén)。同時(shí),谷歌提出了AI First戰(zhàn)略,將AI作為谷歌所有業(yè)務(wù)的先導(dǎo)與動(dòng)力,AI First戰(zhàn)略的基礎(chǔ)就是谷歌所擁有的業(yè)界最強(qiáng)大的人工智能部門(mén)。

Geoffrey Hinton在谷歌還有一個(gè)更重要的作用就是確定未來(lái)的方向。Hinton近年思考的都是未來(lái)深度神經(jīng)網(wǎng)絡(luò)發(fā)展方向的問(wèn)題,Hinton提出了Capsule Network、SimCLR、NGRAD(neural gradient representation by activity differences)等下一代技術(shù)的框架。實(shí)際上,這些技術(shù)是否能發(fā)展成為深度神經(jīng)網(wǎng)絡(luò)的升級(jí)還未可知,但重要的是,Hinton這樣級(jí)別的人物能夠定義出方向并引發(fā)大家的研究與討論,通過(guò)這些探索與研究,谷歌就能始終把握住方向,保持領(lǐng)先地位。

當(dāng)前AI領(lǐng)域,能夠引領(lǐng)方向的人物大致有6位,這6位是Geoffrey Hinton、Jeff Dean、Yann LeCun、Yoshua Bengio、Ilya Sutskever與Demis Hassabis,除了Hinton的其他5位,不是Hinton的學(xué)生,就是Hinton的同事。

    本站是提供個(gè)人知識(shí)管理的網(wǎng)絡(luò)存儲(chǔ)空間,所有內(nèi)容均由用戶發(fā)布,不代表本站觀點(diǎn)。請(qǐng)注意甄別內(nèi)容中的聯(lián)系方式、誘導(dǎo)購(gòu)買(mǎi)等信息,謹(jǐn)防詐騙。如發(fā)現(xiàn)有害或侵權(quán)內(nèi)容,請(qǐng)點(diǎn)擊一鍵舉報(bào)。
    轉(zhuǎn)藏 分享 獻(xiàn)花(0

    0條評(píng)論

    發(fā)表

    請(qǐng)遵守用戶 評(píng)論公約

    類(lèi)似文章 更多