在看線(xiàn)性代數(shù)這一部分的時(shí)候，真是一頭霧水。雖然明白了特征值和特征向量的求法，但總覺(jué)得沒(méi)有用。在《理解矩陣》一文中，雖然提到了這與矩陣的本質(zhì)有關(guān)，但并未詳細(xì)提及，但我知道了一定具有一定的幾何意義。

后來(lái)，查看了《特征向量的幾何意義》一文，才明白了。特別是wikipedia中關(guān)于《特征向量》的文章，終于對(duì)特征向量有了一點(diǎn)認(rèn)識(shí)。

因?yàn)?span style="font-family: symbol;">l是常數(shù)，所以lx與x的方向相同。即，一個(gè)變換的特征向量是這樣一種向量，它經(jīng)過(guò)這種特定的變換后保持方向不變，只是進(jìn)行長(zhǎng)度上的伸縮而已。

下圖是從wikipedia的《特征向量》一文中引用的。通過(guò)這個(gè)圖可以對(duì)變與不變有一個(gè)進(jìn)一步的了解。

圖1. 在這個(gè)錯(cuò)切變換中，蒙娜麗莎的圖像被變形，但是中心的縱軸在變換下保持不變。（注意：角落在右邊的圖像中被裁掉了。）藍(lán)色的向量，從胸部到肩膀，其方向改變了，但是紅色的向量，從胸部到下巴，其方向不變。因此紅色向量是該變換的一個(gè)特征向量，而藍(lán)色的不是。因?yàn)榧t色向量既沒(méi)有被拉伸又沒(méi)有被壓縮，其特征值為1。所有沿著垂直線(xiàn)的向量也都是特征向量，它們的特征值相等。它們構(gòu)成這個(gè)特征值的特征空間。

在wikipedia的《特征向量》一文中還提到了一個(gè)地球旋轉(zhuǎn)的例子，旋轉(zhuǎn)本身是一種線(xiàn)性變化，出來(lái)在旋轉(zhuǎn)軸上的向量之外，所有從地心指向地表的向量的方向都變了。在旋轉(zhuǎn)軸上的向量的向量就是這個(gè)線(xiàn)性變化的特征向量。

說(shuō)到這我想很多人應(yīng)該明白了，矩陣是一種線(xiàn)性變化，特征向量就是在這個(gè)變化當(dāng)中不變的向量。說(shuō)白了就是在變化當(dāng)中尋找不變的東西。這不就是很多學(xué)科研究的內(nèi)容嗎？

關(guān)于這個(gè)主題的更多內(nèi)容可以參考《漫談高數(shù)(四) 特征向量物理意義》一文，該文對(duì)這個(gè)主題做了一個(gè)深入淺出的解釋?zhuān)且黄容^好的文章。

美國(guó)數(shù)學(xué)家斯特讓?zhuān)℅..Strang）在其經(jīng)典教材《線(xiàn)性代數(shù)及其應(yīng)用》中這樣介紹了特征值作為頻率的物理意義，他說(shuō)：

大概最簡(jiǎn)單的例子（我從不相信其真實(shí)性，雖然據(jù)說(shuō)1831年有一橋梁毀于此因）是一對(duì)士兵通過(guò)橋梁的例子。傳統(tǒng)上，他們要停止齊步前進(jìn)而要散步通過(guò)。這個(gè)理由是因?yàn)樗麄兛赡芤缘扔跇虻奶卣髦抵坏念l率齊步行進(jìn)，從而將發(fā)生共振。就像孩子的秋千那樣，你一旦注意到一個(gè)秋千的頻率，和此頻率相配，你就使頻率蕩得更高。一個(gè)工程師總是試圖使他的橋梁或他的火箭的自然頻率遠(yuǎn)離風(fēng)的頻率或液體燃料的頻率；而在另一種極端情況，一個(gè)證券經(jīng)紀(jì)人則盡畢生精力于努力到達(dá)市場(chǎng)的自然頻率線(xiàn)。特征值是幾乎任何一個(gè)動(dòng)力系統(tǒng)的最重要的特征。

摘自《線(xiàn)性代數(shù)的幾何意義》

我們知道，矩陣乘法對(duì)應(yīng)了一個(gè)變換，是把任意一個(gè)向量變成另一個(gè)方向或長(zhǎng)度都大多不同的新向量。在這個(gè)變換的過(guò)程中，原向量主要發(fā)生旋轉(zhuǎn)、伸縮的變化。如果矩陣對(duì)某一個(gè)向量或某些向量只發(fā)生伸縮變換，不對(duì)這些向量產(chǎn)生旋轉(zhuǎn)的效果，那么這些向量就稱(chēng)為這個(gè)矩陣的特征向量，伸縮的比例就是特征值。

實(shí)際上，上述的一段話(huà)既講了矩陣變換特征值及特征向量的幾何意義（圖形變換）也講了其物理含義。物理的含義就是運(yùn)動(dòng)的圖景：特征向量在一個(gè)矩陣的作用下作伸縮運(yùn)動(dòng)，伸縮的幅度由特征值確定。特征值大于1，所有屬于此特征值的特征向量身形暴長(zhǎng)；特征值大于0小于1，特征向量身形猛縮；特征值小于0，特征向量縮過(guò)了界，反方向到0點(diǎn)那邊去了。

    注意：常有教科書(shū)說(shuō)特征向量是在矩陣變換下不改變方向的向量，實(shí)際上當(dāng)特征值小于零時(shí)，矩陣就會(huì)把特征向量完全反方向改變，當(dāng)然特征向量還是特征向量。我贊同特征向量不改變方向的說(shuō)法：特征向量永遠(yuǎn)不改變方向，改變的只是特征值（方向反轉(zhuǎn)特征值為負(fù)值了）。這有點(diǎn)類(lèi)似地說(shuō)冬天深圳的室外“溫度”是10℃，哈爾濱室外的“溫度”是-30℃(稱(chēng)溫度而不溫)；也類(lèi)似說(shuō)無(wú)人飛機(jī)在海拔“高度”100米處飛行而核潛艇在海拔“高度”-50米（稱(chēng)高度而不高）處游弋一樣。

關(guān)于特征值和特征向量，這里請(qǐng)注意兩個(gè)亮點(diǎn)。這兩個(gè)亮點(diǎn)一個(gè)是線(xiàn)性不變量的含義，二個(gè)是振動(dòng)的譜含義。

特征向量是線(xiàn)性不變量

所謂特征向量概念的亮點(diǎn)之一是不變量，這里叫線(xiàn)性不變量。因?yàn)槲覀兂Ｖv，線(xiàn)性變換啊線(xiàn)性變換，不就是把一根線(xiàn)（向量）變成另一根線(xiàn)（向量），線(xiàn)的變化的地方大多是方向和長(zhǎng)度一塊變。而一種名叫“特征向量”的向量特殊，在矩陣作用下不變方向只變長(zhǎng)度。不變方向的特性就被稱(chēng)為線(xiàn)性不變量。

如果有讀者堅(jiān)持認(rèn)為負(fù)方向的特征向量就是改變了向量的方向的想法的話(huà)，你不妨這樣看線(xiàn)性不變量：特征向量的不變性是他們變成了與其自身共線(xiàn)的向量，他們所在的直線(xiàn)在線(xiàn)性變換下保持不變；特征向量和他的變換后的向量們?cè)谕桓本€(xiàn)上，變換后的向量們或伸長(zhǎng)或縮短，或反向伸長(zhǎng)或反向縮短，甚至變成零向量（特征值為零時(shí)），如下圖。

  特征值是振動(dòng)的譜

除了線(xiàn)性不變量，另外一個(gè)亮點(diǎn)是關(guān)于振動(dòng)方面的。戲說(shuō)在朝代宋的時(shí)候，我國(guó)就與發(fā)現(xiàn)矩陣特征值理論的機(jī)會(huì)擦肩而過(guò)。話(huà)說(shuō)沒(méi)有出息的秦少游在往池塘里扔了一顆小石頭后，剛得到一句“投石沖開(kāi)水底天”的泡妞詩(shī)對(duì)之后，就猴急猴急地去洞房了，全然沒(méi)有想到水波中隱含著矩陣的特征值及特征向量的科學(xué)大道理。大概地說(shuō)，水面附近的任一點(diǎn)水珠在原處上下振動(dòng)（實(shí)際上在做近似圓周運(yùn)動(dòng)），并沒(méi)有隨著波浪向外圈移動(dòng)，同時(shí)這些上下振動(dòng)的水珠的幅度在漸漸變小，直至趨于平靜。在由某塊有著特定質(zhì)量和形狀的石頭被以某種角度和速度投入某個(gè)面積和深度特定的水池中所決定的某個(gè)矩陣中，紋波蕩漾中水珠的漸變過(guò)程中其特征值起著決定性的作用，它決定著水珠振動(dòng)的頻率和幅度減弱的衰退率。

在理解關(guān)于振動(dòng)的特征值和特征向量的過(guò)程中，需要加入復(fù)向量和復(fù)矩陣的概念，因?yàn)樵趯?shí)際應(yīng)用中，實(shí)向量和實(shí)矩陣是干不了多少事的。機(jī)械振動(dòng)和電振動(dòng)有頻譜，振動(dòng)的某個(gè)頻率具有某個(gè)幅度；那么矩陣也有矩陣的譜，矩陣的譜就是矩陣特征值的概念，是矩陣所固有的特性，所有的特征值形成了矩陣的一個(gè)頻譜，每個(gè)特征值是矩陣的一個(gè)“諧振頻點(diǎn)”。

美國(guó)數(shù)學(xué)家斯特讓?zhuān)℅..Strang）在其經(jīng)典教材《線(xiàn)性代數(shù)及其應(yīng)用》中這樣介紹了特征值作為頻率的物理意義，他說(shuō)：

大概最簡(jiǎn)單的例子（我從不相信其真實(shí)性，雖然據(jù)說(shuō)1831年有一橋梁毀于此因）是一對(duì)士兵通過(guò)橋梁的例子。傳統(tǒng)上，他們要停止齊步前進(jìn)而要散步通過(guò)。這個(gè)理由是因?yàn)樗麄兛赡芤缘扔跇虻奶卣髦抵坏念l率齊步行進(jìn)，從而將發(fā)生共振。就像孩子的秋千那樣，你一旦注意到一個(gè)秋千的頻率，和此頻率相配，你就使頻率蕩得更高。一個(gè)工程師總是試圖使他的橋梁或他的火箭的自然頻率遠(yuǎn)離風(fēng)的頻率或液體燃料的頻率；而在另一種極端情況，一個(gè)證券經(jīng)紀(jì)人則盡畢生精力于努力到達(dá)市場(chǎng)的自然頻率線(xiàn)。特征值是幾乎任何一個(gè)動(dòng)力系統(tǒng)的最重要的特征。

其實(shí)，這個(gè)矩陣之所以能形成“頻率的譜”，就是因?yàn)榫仃囋谔卣飨蛄克傅姆较蛏暇哂袑?duì)向量產(chǎn)生恒定的變換作用：增強(qiáng)（或減弱）特征向量的作用。進(jìn)一步的，如果矩陣持續(xù)地疊代作用于向量，那么特征向量的就會(huì)凸現(xiàn)出來(lái)。

比如，一個(gè)物理系統(tǒng)，其特性可以被一個(gè)矩陣所描述，那么這個(gè)系統(tǒng)的物理特性就可以被這個(gè)矩陣的特征值所決定，各種不同的信號(hào)（向量）進(jìn)入這個(gè)系統(tǒng)中后，系統(tǒng)輸出的信號(hào)（向量）就會(huì)發(fā)生相位滯后、放大、縮小等各種紛亂的變化。但只有特征信號(hào)（特征向量）被穩(wěn)定的發(fā)生放大（或縮?。┑淖兓?。如果把系統(tǒng)的輸出端口接入輸入端口，那么只有特征信號(hào)（特征向量）第二次被放大（或縮?。┝?，其他的信號(hào)如滯后的可能滯后也可能超前同時(shí)縮小，放大的可能被繼續(xù)放大也可能被縮小同時(shí)滯后，縮小的可能被繼續(xù)縮小也可能被放大同時(shí)滯后等。經(jīng)過(guò)N次的循環(huán)后，顯然，亂七八糟的大量的向量群眾們終不能成氣候，只有特征向量們，心往一處想，勁往一處使，要么成功出人頭地，要么失敗殺身成仁。因此我們就可以因此在時(shí)間域上觀(guān)察輸出，就會(huì)得到一個(gè)或幾個(gè)超級(jí)明顯的特征信號(hào)出來(lái)（特征向量）。

弄過(guò)電路的哥們?cè)缈闯隽税车暮成溆埃呵校±@什么繞，你說(shuō)的不就是振蕩器的原理嘛，振蕩信號(hào)（電壓、電流）構(gòu)成了特征向量，特征值是1，振蕩信號(hào)的頻率是…

是是是，就是振蕩器的原理。其實(shí)振蕩器原理是可以用矩陣的冪來(lái)解釋的。這個(gè)編輯器不好用，矩陣分析和細(xì)節(jié)這里就忽略了。