小男孩‘自慰网亚洲一区二区,亚洲一级在线播放毛片,亚洲中文字幕av每天更新,黄aⅴ永久免费无码,91成人午夜在线精品,色网站免费在线观看,亚洲欧洲wwwww在线观看

分享

不忘初心,堅(jiān)守幾何

 taotao_2016 2019-01-14

2018年的跨年夜,回首倏忽而逝的一年,百感交集,一言難盡,可能最為貼切的概括是'跌宕起伏,波詭云譎'。老顧的團(tuán)隊(duì)依然堅(jiān)守學(xué)術(shù),用幾何的觀點(diǎn)來探討研究計(jì)算機(jī)科學(xué)、醫(yī)學(xué)圖像、機(jī)械工程方面的問題,特別是將流形觀點(diǎn)、最優(yōu)傳輸理論和深度學(xué)習(xí)相結(jié)合,來解釋對(duì)抗生成網(wǎng)絡(luò)模型。


幾何觀點(diǎn)下的深度學(xué)習(xí)

我們認(rèn)為自然數(shù)據(jù)滿足如下的兩個(gè)假設(shè):1)流形分布律:人們關(guān)心的一類數(shù)據(jù)(如人臉圖像)滿足特定的概率分布,可以用概率分布來刻畫。這一概率分布,集中在高維數(shù)據(jù)背景空間中的低維流形附近(人臉圖像的概率分布集中在低維流形附近);2)聚類分布律:同一數(shù)據(jù)中的不同子類,對(duì)應(yīng)于流形上不同的概率分布;并且這些概率分布之間的距離足夠遠(yuǎn),使得這些子類可以被區(qū)分。


深度學(xué)習(xí)的核心任務(wù)包括兩個(gè):1)學(xué)習(xí)流形結(jié)構(gòu):即用各種方式來隱含表達(dá)流形到隱空間(特征空間)的編碼映射,和從隱空間到圖像空間的解碼映射;2)概率分布變換:在特征空間或者圖像空間中,計(jì)算兩種概率分布之間的距離,和兩種概率分布之間的變換。


最優(yōu)傳輸理論是一門幾何、概率論和偏微分方程交叉的領(lǐng)域,專門研究如何定義概率分布之間的距離,所謂Wasserstein距離,和如何構(gòu)造概率分布之間的幾何變換,即所謂的最優(yōu)傳輸映射。從幾何觀點(diǎn)來看,最優(yōu)傳輸理論等價(jià)于經(jīng)典的Minkowski問題和Alexandrov問題,即如何從給定的高斯曲率來構(gòu)造凸幾何曲面;從偏微分方程角度來看,等價(jià)于經(jīng)典的蒙日-安培方程。凸幾何中的Alexandrov理論和最優(yōu)傳輸中的Brenier理論本質(zhì)上是等價(jià)的。


從最優(yōu)傳輸理論的觀點(diǎn)來看,1)對(duì)抗生成網(wǎng)絡(luò)中的生成器本質(zhì)上是在計(jì)算最優(yōu)傳輸映射;判別器本質(zhì)上是在計(jì)算Wasserstein距離;2)Brenier理論揭示了這兩個(gè)計(jì)算任務(wù)之間的等價(jià)性,從生成器的解可以解析地寫出判別器的解。由此,我們可以設(shè)計(jì)出更為簡(jiǎn)潔高效的網(wǎng)絡(luò)結(jié)構(gòu);3)最優(yōu)傳輸映射有可能非連續(xù),因此實(shí)踐中會(huì)出現(xiàn)模式坍塌(Mode Collapse)問題。


基于最優(yōu)傳輸觀點(diǎn),特別是幾何上的Alexandrov途徑,我們?cè)O(shè)計(jì)了新穎的生成模型,進(jìn)行了初步試驗(yàn)。這里的幾何算法可以用硬件加速。詳細(xì)的討論請(qǐng)見【1】,深度學(xué)習(xí)和幾何(演講提要),深度學(xué)習(xí)的幾何觀點(diǎn)(1) - 流形分布定律深度學(xué)習(xí)的幾何理解(2) - 學(xué)習(xí)能力的上限,深度學(xué)習(xí)的幾何理解(3) - 概率變換的幾何觀點(diǎn)。


圖1. 生成的人臉圖像,基于最優(yōu)傳輸理論的生成模型。



離散曲率流

黎曼度量是整個(gè)現(xiàn)代幾何的基石,絕大多數(shù)工程和醫(yī)療的實(shí)際問題都和黎曼度量有著本質(zhì)的關(guān)系。因此,黎曼度量的構(gòu)造方法具有根本的重要性。Ricci曲率流是一種非常強(qiáng)有力的方法,它將黎曼度量進(jìn)行形變,形變速率和當(dāng)前曲率成正比,曲率的演化滿足擴(kuò)散-反應(yīng)方程,最終彌散成常數(shù)。Ricci流的直接推廣可以用來根據(jù)曲率來設(shè)計(jì)黎曼度量,非常優(yōu)雅而實(shí)用。


曲面Ricci流理論可以推出經(jīng)典的曲面單值化定理:任何封閉、帶有黎曼度量的曲面都可以共形的變換成三種常曲率曲面中的一種:?jiǎn)挝磺蛎妗W式曲面或者雙曲曲面。


圖2. 曲面單值化定理。


但是,經(jīng)典的Ricci流方法是基于二階光滑的流形結(jié)構(gòu),在計(jì)算機(jī)上所有的流形都是用零階的離散形式加以逼近,Ricci流方法無法直接應(yīng)用。因此,我們將建立離散曲面的Ricci流理論和算法作為主要目標(biāo),進(jìn)行了長(zhǎng)期的研究工作。我們大概花了兩三年建立了算法,應(yīng)用于計(jì)算機(jī)科學(xué)的諸多領(lǐng)域;又花費(fèi)了十?dāng)?shù)年,證明了離散Ricci流解的存在性,唯一性,收斂性等理論問題。對(duì)于工程領(lǐng)域而言,后期更為艱苦的理論證明是不必要的,即便做出也無法在工程領(lǐng)域發(fā)表。從這個(gè)角度而言,這種“十年磨一劍”的迂腐沒有任何意義,同樣的精力可以發(fā)表數(shù)十篇工程領(lǐng)域的論文,而非僅僅兩篇純數(shù)學(xué)論文。但是,我們認(rèn)為從長(zhǎng)遠(yuǎn)來看,為離散曲面Ricci流建立嚴(yán)格而堅(jiān)實(shí)的理論基礎(chǔ)是必需的,只有如此才能保證這一套理論和算法放之四海而皆準(zhǔn),才能超越當(dāng)前時(shí)代具有恒久價(jià)值,才能超越自身小團(tuán)體的狹隘融入人類知識(shí)寶庫之中。這一點(diǎn)和目前流行的商業(yè)價(jià)值觀念背道而馳,但卻是學(xué)者本應(yīng)具有的操守。經(jīng)過四年的審稿,最終離散單值化定理的論文發(fā)表在微分幾何期刊上【2】【3】。


近期,我們又介紹了各種離散曲率流的算法,并應(yīng)用于計(jì)算機(jī)圖形學(xué)領(lǐng)域【4】。未來,離散三流形的Ricci流理論和算法是我們長(zhǎng)遠(yuǎn)的目標(biāo)。


最優(yōu)傳輸映射

計(jì)算曲面或者幾何體之間的微分同胚(光滑雙射)是幾乎所有工程、醫(yī)療領(lǐng)域的核心問題之一。我們希望能夠計(jì)算得到最優(yōu)的微分同胚,使得幾何的畸變達(dá)到最小。


幾何畸變可以分成兩類:局部形狀的畸變和局部面積元的畸變。如果使得局部形狀被保持,即映射局部是相似變換,但是相似比逐點(diǎn)不同,所得的映射是共形映射(conformal mapping),由共形幾何理論來研究;如果使得面積元被保持,則所得映射為最優(yōu)傳輸映射,由最優(yōu)傳輸理論來刻畫。


    圖2. 共形變換。


圖3.最優(yōu)傳輸變換。


我們建立了離散最優(yōu)傳輸映射的計(jì)算方法,將求解蒙日-安培方程歸結(jié)為凸優(yōu)化問題,與經(jīng)典的計(jì)算幾何方法相結(jié)合,給出了實(shí)用穩(wěn)定的算法。最優(yōu)傳輸理論可以嚴(yán)格控制曲面面積元和幾何實(shí)體的體積元,可以用于醫(yī)學(xué)圖像領(lǐng)域中作為體視放大鏡,詳情請(qǐng)見體視放大鏡—醫(yī)學(xué)圖像中的最優(yōu)傳輸,這一工作獲得China Graph2018的最佳論文獎(jiǎng)【5】。

圖4.脊椎體數(shù)據(jù)的放大。


Brenier極分解理論斷言:任何一個(gè)微分同胚可以分解為一個(gè)最優(yōu)傳輸映射和一個(gè)保體積映射,如圖5所示,從(a)到(c)是一個(gè)共形變換,保持角度不變,(b)是這一映射中保面積映射,每一個(gè)棋盤格被扭曲變形,但是其面積不變。我們給出了映射的極分解算法【6】。


圖5. 映射的極分解。


曲面葉狀結(jié)構(gòu)理論

葉狀結(jié)構(gòu)是拓?fù)渲械闹匾拍?,直觀上葉狀結(jié)構(gòu)將曲面分解成曲線的集合,局部具有直積結(jié)構(gòu)。在設(shè)計(jì)大師扎哈·哈迪德(Zaha Hadid)的建筑設(shè)計(jì)中,葉狀結(jié)構(gòu)被用得出神入化,請(qǐng)見 解構(gòu)“解構(gòu)主義大師”扎哈·哈迪德


圖6. 哈迪德設(shè)計(jì)的Soho銀河,基于曲面葉狀結(jié)構(gòu)。


曲面上的葉狀結(jié)構(gòu)被分成Whitehead等價(jià)類,每一個(gè)等價(jià)類中都存在唯一的一個(gè)調(diào)和葉狀結(jié)構(gòu),調(diào)和葉狀結(jié)構(gòu)和黎曼面的全純二次微分等價(jià)。曲面上所有的全純二次微分成群,我們發(fā)明一種變分法來計(jì)算全純二次微分:在Whitehead類中優(yōu)化調(diào)和能量。



圖7. 曲面上的調(diào)和葉狀結(jié)構(gòu)。


圖8. 基于調(diào)和葉狀結(jié)構(gòu)的曲面配準(zhǔn)。


調(diào)和葉狀結(jié)構(gòu)取決于曲面的共形結(jié)構(gòu),在曲面的等距、共形變換下保持不變,應(yīng)用這一性質(zhì),我們可以將曲面配準(zhǔn)問題簡(jiǎn)化為對(duì)于葉子之間的配準(zhǔn)問題,這種方法可以用于老年癡呆的診斷【7】。

圖9. 全純二次微分誘導(dǎo)的四邊形網(wǎng)格。


規(guī)則曲面四邊形網(wǎng)格生成和幾何體六面體網(wǎng)格生成是計(jì)算力學(xué)領(lǐng)域中的基本問題,這些問題和曲面上的全純微分具有本質(zhì)淵源。全純微分自然誘導(dǎo)了一個(gè)平直度量,其和樂群具有特殊結(jié)構(gòu)。對(duì)于全純微分的深入理解,有助于我們解決規(guī)則網(wǎng)格生成問題,詳見和樂群。


基于共形幾何的結(jié)構(gòu)設(shè)計(jì)/拓?fù)鋬?yōu)化

共形幾何的概念和方法日益滲透到機(jī)械工程領(lǐng)域,特別在結(jié)構(gòu)設(shè)計(jì)和拓?fù)鋬?yōu)化中得到直接應(yīng)用。薄殼結(jié)構(gòu)的拓?fù)鋬?yōu)化需要在曲面上求解微分方程,例如應(yīng)用水平集法需要求解哈密爾頓-雅可比方程。傳統(tǒng)方法需要將曲面等距嵌入在三維歐氏空間中求解,所有的微分算子采用三維歐氏空間的微分算子,然后將每一步的結(jié)果投影到曲面上,即所謂的外蘊(yùn)方法。

 

 

圖10. 基于共形幾何的結(jié)構(gòu)設(shè)計(jì)。

 

應(yīng)用共形幾何方法【8,9】,我們將曲面共形映射到平面區(qū)域,將曲面的黎曼度量張量在平面上表示,由此得到曲面的協(xié)變微分和各種微分算子。在平面參數(shù)域上求解微分方程。圖10顯示了一個(gè)3D打印的花瓶,其結(jié)構(gòu)經(jīng)過了拓?fù)鋬?yōu)化,左幀顯示了最終得到的加強(qiáng)筋。這種內(nèi)蘊(yùn)方法等價(jià)于外蘊(yùn)方法,但是更加簡(jiǎn)單高效。


圖11. 基于共形幾何的結(jié)構(gòu)設(shè)計(jì)。


圖11顯示了另外一個(gè)例子,極硬結(jié)構(gòu)設(shè)計(jì)。在平面薄殼結(jié)構(gòu)中,右上角結(jié)構(gòu)的硬度最高。我們希望3D打印一只兔子模型,使得其質(zhì)量盡量小,同時(shí)硬度盡量高。通過共形映射,我們將兔子曲面映射到平面區(qū)域之上,然后將右上角的單位結(jié)構(gòu)平鋪到參數(shù)域上,再用共形映射拉回到曲面之上。如此設(shè)計(jì)的曲面達(dá)到了設(shè)計(jì)要求。這一方法可以系統(tǒng)性地將平面設(shè)計(jì)方案推廣到曲面結(jié)構(gòu)之上,三維曲面的結(jié)構(gòu)設(shè)計(jì)歸結(jié)為二維平面上的計(jì)算,具有一定的普適性。

教書育人

近期,老顧團(tuán)隊(duì)畢業(yè)了三名博士生:馬明博士去了斯坦福大學(xué)進(jìn)行醫(yī)學(xué)圖像方面的研究,林瑜瑤去了Intel進(jìn)行網(wǎng)格生成方面的研究,彭浩在加州理工附近的Idea Lab領(lǐng)導(dǎo)三維人臉建模、表情追蹤的視覺團(tuán)隊(duì)。


老顧也輔導(dǎo)了幾位天才少年。Simon Lam研究了非歐氏幾何下的最優(yōu)傳輸問題,最近被哈佛大學(xué)錄取。Gerald Xu應(yīng)用群論,研究了異常復(fù)雜的五魔方群結(jié)構(gòu),Megaminx Group,給出了自動(dòng)解法,榮獲丘成桐中學(xué)生科學(xué)金獎(jiǎng)。這幾位少年天資聰穎,對(duì)于數(shù)學(xué)充滿了強(qiáng)烈的好奇心和旺盛的求知欲,具有自然而敏銳的洞察力和純真而熾烈的審美,前途不可限量。


2018年,我們團(tuán)隊(duì)也將以前講解過的計(jì)算共形幾何課程資料匯集整理,準(zhǔn)備在2019年出版一本漢語教程。這本教程涵蓋計(jì)算共形幾何所需要的各方面知識(shí),代數(shù)拓?fù)?、微分幾何、?fù)變函數(shù)、黎曼面理論、擬共形幾何和Teichmuller理論,曲面調(diào)和映照、雙曲幾何、連續(xù)和離散曲面Ricci流理論,同時(shí)介紹各種算法、應(yīng)用實(shí)例。希望能夠做到內(nèi)容自洽,幫助工程背景的學(xué)生自學(xué)。


總結(jié)

2018年,深度學(xué)習(xí)方法依然狂飆突進(jìn),顛覆著傳統(tǒng)的科研范式,同時(shí)對(duì)于年輕學(xué)子的思想方法和價(jià)值觀念造成了沖擊。傳統(tǒng)的科研模式可以歸納如下:1)通過實(shí)驗(yàn)積累數(shù)據(jù),總結(jié)統(tǒng)計(jì)規(guī)律、拼湊經(jīng)驗(yàn)公式;2)建立不同層次的數(shù)學(xué)模型來解釋經(jīng)驗(yàn),建立并深化理論;3)依據(jù)理論模型,進(jìn)行數(shù)值模擬仿真,進(jìn)行預(yù)測(cè);4)進(jìn)行實(shí)驗(yàn)驗(yàn)證預(yù)測(cè),修正理論。循環(huán)往復(fù),螺旋上升。


不同領(lǐng)域的學(xué)者負(fù)責(zé)傳統(tǒng)研究模式中的不同階段,具有不同的知識(shí)結(jié)構(gòu)和能力專長(zhǎng)。例如,實(shí)驗(yàn)物理學(xué)家設(shè)計(jì)實(shí)驗(yàn),積累數(shù)據(jù);理論物理學(xué)家建立理論模型,通常提煉出物理定律,用微分方程表示;純粹數(shù)學(xué)家研究微分方程解的存在性、唯一性、正則性;計(jì)算數(shù)學(xué)家研究微分方程的數(shù)值解法,收斂性、適定性;計(jì)算機(jī)科學(xué)家設(shè)計(jì)數(shù)據(jù)結(jié)構(gòu)和算法,開發(fā)程序軟件,進(jìn)行模擬仿真,做出預(yù)言。


我們團(tuán)隊(duì)主要研究和幾何相關(guān)的課題,雖然主要在計(jì)算機(jī)科學(xué)領(lǐng)域內(nèi)進(jìn)行學(xué)習(xí)和研究,但是所用的知識(shí)結(jié)構(gòu)和理論工具遠(yuǎn)遠(yuǎn)超出傳統(tǒng)計(jì)算機(jī)科學(xué)的范圍,所研究問題的本質(zhì)往往在于微分幾何、拓?fù)洌推⒎址匠汤碚?。依隨時(shí)代的發(fā)展,計(jì)算機(jī)計(jì)算能力的增加,涉及問題深度的增加,這一趨勢(shì)愈演愈烈。這對(duì)計(jì)算機(jī)科學(xué)的教育提出了挑戰(zhàn)。


近期深度學(xué)習(xí)方法的浪潮使得數(shù)據(jù)驅(qū)動(dòng)的方法大行其道,相比傳統(tǒng)的科研模式,數(shù)據(jù)驅(qū)動(dòng)的方法強(qiáng)調(diào)“端到端”,省略“特征工程”的步驟,這意味著數(shù)學(xué)建模、深化理論這一步驟被拋棄。用基于統(tǒng)計(jì)或者唯象的經(jīng)驗(yàn)公式,我們依然可以做出預(yù)測(cè),預(yù)測(cè)的結(jié)果往往優(yōu)于求解偏微分方程得到的結(jié)果。在商業(yè)應(yīng)用中,自然不必再進(jìn)行艱苦的數(shù)學(xué)建模和理論驗(yàn)證。一方面,學(xué)習(xí)數(shù)學(xué)需要多年的積累,需要艱辛不懈的自律;另一方面,由于資本追捧目前的AI方法,市場(chǎng)不再需要懂得精深幾何理論的人才,大多數(shù)新生不再有熱情學(xué)習(xí)現(xiàn)代拓?fù)?、幾何、偏微分方程。這令秉持傳統(tǒng)的教授們多少有些擔(dān)憂。


丘成桐先生曾經(jīng)說過:古希臘文明孕育了科學(xué)思想,用極少的幾條基本原理來解釋極其復(fù)雜的自然現(xiàn)象,這種思想是高級(jí)文明的本質(zhì)特征;對(duì)于古巴比倫文明、古埃及等文明而言是不可想象的。老顧剛到哈佛大學(xué)的時(shí)候,另一位菲爾茲獎(jiǎng)得主芒福德教授(David Mumford)告訴老顧,在第二次世界大戰(zhàn)之前,美國(guó)的人民群眾非常強(qiáng)調(diào)實(shí)用價(jià)值。那時(shí)主流意見認(rèn)為高中課程應(yīng)該去掉微積分的初步知識(shí),取而代之的是拖拉機(jī)駕駛。但是二戰(zhàn)的結(jié)束是由于原子彈,原子理論的發(fā)軔是出于人類的好奇心而非實(shí)際用途。因此二戰(zhàn)之后,美國(guó)主流群眾對(duì)于科學(xué)的態(tài)度發(fā)生了根本逆轉(zhuǎn)。


前幾年,有很多工作將微分方程的傳統(tǒng)解法翻譯成深度神經(jīng)網(wǎng)絡(luò)的體系結(jié)構(gòu),用神經(jīng)網(wǎng)絡(luò)的前饋來模仿傳統(tǒng)算法的迭代;這一年,有一些工作力圖用傳統(tǒng)常微分方程來解釋深度學(xué)習(xí)算法的收斂性。我們的工作也是致力于用傳統(tǒng)的幾何拓?fù)淅碚搧斫忉尯椭笇?dǎo)深度學(xué)習(xí)模型。我們相信傳統(tǒng)學(xué)術(shù)方法的價(jià)值觀念會(huì)被延續(xù)下去,與新興的數(shù)據(jù)驅(qū)動(dòng)方法相輔相成,相互促進(jìn)。我們會(huì)沿著這一方向堅(jiān)定不移地走下去!





References:


【1】 Na Lei, Kehua Su, Li Cui, Shing-Tung Yau, Xianfeng Gu. A Geometric View of Optimal Transportation and Generative Model, Computer Aided Geometric Design, 68(2019), 1-21.

【2】Xianfeng David Gu, Feng Luo, Jian Sun, Tianqi Wu. A discrete uniformization theorem for polyhedral surfaces, J. Differential Geom. 109(2), 2018: 223-256.

【3】Xianfeng David Gu, Feng Luo, Jian Sun, Tianqi Wu. A discrete uniformization theorem for polyhedral surfaces II, J. Differential Geom. 109(2), 2018: 431-466.

【4】 Hui zhao, Xuan Li, Huabin Ge, Na Lei, Min Zhang, Xiaoling Wang and Xianfeng Gu, Conformal Mesh Parameterization Using Discrete Calabi Flow, Computer Aided Geometric Design (CAGD), 63(2018), 96-108

【5】Kehua Su, Na Lei, Li Cui, Xianfeng Gu, Focus+Context Visualization Based on Optimal Mass Transportation, China Graph 2018, Best Paper Award.

【6】 Xiaokang Yu, Na Lei, Xiaopeng Zheng,Xianfeng Gu. Surface Parameterization Based on Polar Factorization, J. Comp. Appl. Math.,V329, 24-36, Feb. 2018. 

【7】Chengfeng Wen, Na Lei, Ming Ma, Xin Qi, Wen Zhang, Yalin Wang, Xianfeng Gu, Brain Morphometry Analysis with Surface Foliation Theory, 40th Annual International Conference of the IEEE Engineering in Medicine and Biology Society (EMBC'18), Honolulu, HI, USA, July 17-21, 2018. 

【8】Shi-Kui Chen, Qian Ye, Yang Guo, Na Lei and Xianfeng Gu, Topology Optimization of Conformal Structures on Manifolds Using Extended Level Set Methods (XLSM) and Conformal Geometry Theory, Computer Methods in Applied Mechanics and Engineering (accepted).

【9】Long Jiang, Yang Guo, Shikui Chen, Peng Wei, Na Lei, Xianfeng Gu. Concurrent Optimization of Structural Topology and Infill Properties with a CBF-Based Level Set Method,F(xiàn)rontiers of Mechanical Engineering (Accepted)


 


    本站是提供個(gè)人知識(shí)管理的網(wǎng)絡(luò)存儲(chǔ)空間,所有內(nèi)容均由用戶發(fā)布,不代表本站觀點(diǎn)。請(qǐng)注意甄別內(nèi)容中的聯(lián)系方式、誘導(dǎo)購(gòu)買等信息,謹(jǐn)防詐騙。如發(fā)現(xiàn)有害或侵權(quán)內(nèi)容,請(qǐng)點(diǎn)擊一鍵舉報(bào)。
    轉(zhuǎn)藏 分享 獻(xiàn)花(0

    0條評(píng)論

    發(fā)表

    請(qǐng)遵守用戶 評(píng)論公約

    類似文章 更多