|
吳有光
2012.2.13
伊妹：Webbery(at)sohu(dot)com
部落格：http://blog.sina.com.cn/wuyouguang 目錄 函數(shù)逼近論中的幾個概念： 框架，Riesz基，Hamel基和Schauder基 1 序 2 直觀描述部分 2.1空間關系 2.2 Hilbert空間中的框架和基 3 數(shù)學描述部分 3.1 框架理論 3.2 框架與Riesz關系
從4天前開始打算寫10頁左右的框架理論的文章，想作為我的文章sparse representation中的一節(jié)。然而，明明框架就是用于稀疏或冗余表示，但總無法從sparse的角度來寫，并且網(wǎng)上關于框架的資料也很少。雖然找到不少論文，但都是關于小波框架構造的，都是專門給數(shù)學系的人看的，不是專著就是幾十頁的畢業(yè)論文，看得毫無頭緒。糊糊混混三四天過去了，除了睡了幾個大覺之外，毫無進展。 今天早上起來，打算改換思路，就從我以前看過life beyond bases那篇文章的方向入手，寫一個自我的框架內(nèi)容總結(jié)就行了。方向?qū)α诉M展就快了，從2月13日上午10點開始，到2月14日凌晨2點，加上吃飯上廁所和修改，不超過14個小時。 關鍵字：框架，Riesz基，Hamel基，Schauder基，希爾伯特空間，巴拿赫空間，稀疏表示，冗余表示，正交基，正交表示 Key words: Frame, Riesz basis, Hamel basis, Schauder basis, Hilbert space, Banach space, Sparse representation, Redundant representation, Orthonormal basis (ONB), Orthogonal linear combination
Banach空間和Hilbert空間是賦范線性空間中兩個概念 賦范線性空間具備完備性（極限的封閉性）時稱為Banach空間；賦范線性空間定義內(nèi)積則為內(nèi)積空間；Banach空間中定義內(nèi)積即為Hilbert空間（即完備內(nèi)積空間），或者完備的線性空間為Hilbert空間。 Banach空間——完備賦范線性空間。 Hilbert空間——完備內(nèi)積空間，內(nèi)積空間必為線性空間。 Euclidean空間是Hilbert空間特殊化，Hilbert空間是歐幾里得空間的推廣，歐幾里德空間是定義了內(nèi)積的有限維線性空間。 集合論中的空間關系請看本人先前的博文：http://blog.sina.com.cn/s/blog_569d6df80100rfa4.html 框架和Riesz基是Hilbert空間的概念；Hamel基和Schauder基是Banach空間中的概念。 框架是Hilbert空間中一組完備函數(shù)列，完備的意思是空間中任意函數(shù)都可以由其表示出來，并且滿足后面3.1節(jié)中的(3.1.1)式。主要特點：可能是冗余的，即元素一般都線性相關。 Riesz基是Hilbert空間中的線性無關組。 框架+無冗余=Riesz基。注意Riesz不包含正交和規(guī)范兩個條件。
Hamel基：Banach空間對應Hilbert空間Riesz基的為Schauder基和Hamel基，有限維稱為Hamel基，無限維（countable basis）稱為Schauder基。 換一種描述，完備賦范線性空間（Banach空間）中一組線性無關基，如果可將該空間中所有元素線性表出，則稱為基，也稱為代數(shù)基。由于線性無關性，其表示系數(shù)唯一。 因為正交概念必須在內(nèi)積空間中才存在，所有只有Hilbert空間中才有正交基的說法。 我們常說的基都是（Hilbert空間中）標準正交化的Riesz基，稱為標準正交基(Orthonormal Basis, ONB)。 【我是先寫后面的框架和Riesz關系，再回頭來看其與Schauder基的關系的。因為之前一點都不了解，再加上我先入為主的思想是二者一定是遞進關系，所以簡單到二者只是所處空間不同這一點都花了我至少兩個小時，因為網(wǎng)上根本沒有這二者的直接對比（空間不同當然沒有了）。百度用“Riesz基+Schauder基”居然沒有結(jié)果，于是反復在維基百科中反復比對這兩個基的定義，才發(fā)現(xiàn)不同點】
基
線性空間V中，存在某一個線性無關子集B，空間V中所有向量都可以用B中的元素線性表示，則稱B這個空間的基。
1），基元素線性無關
2），空間V由B長成，且V無法由B的子集張成。這句話意思是說，B已經(jīng)是符合要求的最小集了。
Hamel基與Schauder基
如果V是有限維的，則B稱為Hamel基；如果是無限維，就稱為Schauder基。Hamel基也稱為代數(shù)基。
我們一般接觸的線性空間是歐幾里得空間，都是有限維，里面基都是Hamel基 正交基
如果B中元素兩兩正交，則稱B為正交基。一般正交基伴隨著基的歸一化，即每個基能量為1。并且都要保證空間的完備性。正交基是最為嚴格的基（相對于雙正交基和廣泛意義上的“基”來說）。
傅里葉變換，圖像處理中的DCT變換，Walsh變換，Garbor變換等，所使用的基都是正交基。 雙正交基
在V中，如果存在兩個線性無關子集B和B'，且B中元素與B'中元素互相正交，但B中內(nèi)部元素并不正交，則稱為B和B'為雙正交基。這時已經(jīng)放寬了條件。這是因為完備正交基非常難找，而雙正交的則好辦一些。
在小波變換中，雙正交基顯示了他的光芒，DB小波就是雙正交小波，其分解效果所有小波基中最好的。 廣義上的“基”
有時我們把超完備的向量也稱為基。注意，這時元素之間已經(jīng)線性相關。這在最近的壓縮感知的觀測矩陣的討論中被廣泛討論。如果是相關的，那么元素之間的相關性對信號表示有什么影響，以及怎么控制相關性以達到表示的最優(yōu)，是正在熱門討論的問題。比如b1與b2完全相關，基b1=cb2，c為常數(shù)，那么無論在那種討論或者應用中，這種b1和b2所造成的冗余都是毫無意義的。
空間 空間：具有某些內(nèi)在結(jié)構的集合。當不附加結(jié)構時，我們一般稱為集合，否則稱為空間。 下面由空間的疊加依次遞進：什么都沒附加，稱集合，也可以稱為空間；附加度量（測度或距離），稱度量空間（測度空間或距離空間）；附加線性結(jié)構，稱線性空間或向量空間；在線性空間上附加范數(shù)，稱賦范線性空間；在賦范線性空間上附加內(nèi)積，稱內(nèi)積空間。 完備的賦范線性空間，稱Banach空間；完備的內(nèi)積空間稱Hilbert空間。 我們對任何事物的刻畫，都要確定其所屬空間，才能知道如何來刻畫其性質(zhì)。有興趣的可以仔細研讀一下小波，其中對小波空間、小波的正交補空間的刻畫。特別提醒，不要讀科大出那本牛書，保證讓你看不懂！ 空間的完備性是為了保證極限的封閉性，而極限是依賴于度量（測度）的定義的。即任何一個柯西列都收斂到此空間中的某個元素，即它們與某個元素的距離的極限為0。例如Hilbert空間是一個內(nèi)積空間，其上有距離和角的概念（及由此引伸而來的正交性與垂直性的概念）。 
由此來理解其他空間就容易理解了。比如投影空間是某類集合上附加了某種結(jié)構，Soblev空間也是在某一類元素上疊加了某些特殊的結(jié)構。 我們常見的Euclid space（歐式空間）是實數(shù)域上的內(nèi)積空間；對應的復數(shù)域上的內(nèi)積空間稱為酉空間。 最常用的要數(shù)Hilbert空間，我們用重新描述一遍：在一個復向量空間H上的給定內(nèi)積，并由內(nèi)積導出范數(shù)，如果其對于這個范數(shù)來說是完備的，那么它就是希爾伯特空間。 下面幾點值得記?。?/span> （1） 度量（更一般的是拓撲）是定義現(xiàn)代分析核心概念（極限、連續(xù)等）的基礎； （2） 對空間抽象和分類的過程中，三個起到核心作用的概念：度量（或距離）、極限（或連續(xù)）和線性。 （3） 度量是用來刻畫空間的幾何結(jié)構，極限（或收斂）是用來刻畫空間的分析結(jié)構，線性是用來刻畫空間的代數(shù)結(jié)構。 （4） 現(xiàn)代分析=幾何+代數(shù)+分析。由于極限是在度量的基礎上定義的，常把分析結(jié)構看做是度量結(jié)構必備的。因此，現(xiàn)代分析=幾何+代數(shù)。 （5） 泛函分析的基礎建立在集合的兩種結(jié)構上，一種是代數(shù)結(jié)構即線性結(jié)構，另一種是度量（拓撲）結(jié)構。具有度量結(jié)構的集合稱為度量空間，具有線性結(jié)構的集合稱為線性空間（或向量空間）。度量空間與線性空間本并不互相包含，二者的交集稱為度量線性空間
  
圖1 各類框架間轉(zhuǎn)換關系圖 
圖2 各類框架間包含關系圖
圖3 框架，Riesz基和ONB關系圖 Reference [1]牛曉芳,李建華. Hilbert空間中框架，Riesz基與正交基之間的關系[J]. 河西學院學報, vol. 23, no. 5, pp:12-18, 2007 Niu Xiao-fang,Li Jian-hua. The relationship among Frames, Riesz Bases and orthonormal Bases in Hilbert Space. Journal of Hexi University, vol. 23, no. 5, pp:12-18, 2007 [2] J. Kovacecic, A. Cherbira. Life beyond bases: The advent of the frames (Part I).IEEE Signal Process. Mag., 24 (5) (2007), pp. 115–125 [3] J. Kovacecic, A. Cherbira. Life beyond bases: The advent of the frames (Part II). IEEE Signal Process. Mag., 24 (5) (2007), pp. 115–125 [4]曲長文. 框架理論及應用. 國防工業(yè)出版社, 2009年.
|
