特征值和特征向量的物理意義

ABSTRACT:

特征向量：它經(jīng)過這種特定的變換后保持方向不變.只是進行長度上的伸縮而已。

特征值： 一個變換（矩陣）可由它的所有特征向量完全表示，而每一個向量所對應(yīng)的特征值，就代表了矩陣在這一向量上的貢獻率——說的通俗一點就是能量（power）。

內(nèi)積：內(nèi)積可以簡單的理解為兩個函數(shù)的相似程度,內(nèi)積值越大表示兩個函數(shù)相似程度越大,內(nèi)積為零表示完全不相似。兩個函數(shù)內(nèi)積為零則兩個函數(shù)正交,在三維空間中它們的夾角為90度,在三維以上不是這樣的。

CONTENT

矩陣(既然討論特征向量的問題.當然是方陣.這里不討論廣義特征向量的概念)乘以一個向量的結(jié)果仍是同維數(shù)的一個向量.因此.矩陣乘法對應(yīng)了一個變換.把一個向量變成同維數(shù)的另一個向量.那么變換的效果是什么呢?這當然與方陣的構(gòu)造有密切關(guān)系.比如可以取適當?shù)亩S方陣.使得這個變換的效果就是將平面上的二維向量逆時針旋轉(zhuǎn)30度.這時我們可以問一個問題.有沒有向量在這個變換下不改變方向呢?可以想一下.除了零向量.沒有其他向量可以在平面上旋轉(zhuǎn)30度而不改變方向的.所以這個變換對應(yīng)的矩陣(或者說這個變換自身)沒有特征向量(注意:特征向量不能是零向量).所以一個變換的特征向量是這樣一種向量.它經(jīng)過這種特定的變換后保持方向不變.只是進行長度上的伸縮而已(再想想特征向量的原始定義Ax= cx.你就恍然大悟了.看到了嗎?cx是方陣A對向量x進行變換后的結(jié)果.但顯然cx和x的方向相同).而且x是特征向量的話.ax也是特征向量(a是標量且不為零).所以所謂的特征向量不是一個向量而是一個向量族. 另外.特征值只不過反映了特征向量在變換時的伸縮倍數(shù)而已.對一個變換而言.特征向量指明的方向才是很重要的.特征值不是那么重要.雖然我們求這兩個量時 先求出特征值.但特征向量才是更本質(zhì)的東西!

比如平面上的一個變換.把一個向量關(guān)于橫軸做鏡像對稱變換.即保持一個向量的橫坐標不變.但縱坐標取相反數(shù).把這個變換表示為矩陣就是[1 0;0 -1].其中分號表示換行.顯然[1 0;0 -1]*[a b]'=[a –b]'.其中上標 ' 表示取轉(zhuǎn)置.這正是我們想要的效果.那么現(xiàn)在可以猜一下了.這個矩陣的特征向量是什么?想想什么向量在這個變換下保持方向不變.顯然,橫軸上的向量在這個變換下保持方向不變(記住這個變換是鏡像對稱變換.那鏡子表面上(橫軸上)的向量當然不會變化).所以可以直接猜測其特征向量是 [a 0]'(a不為0).還有其他的嗎?有.那就是縱軸上的向量.這時經(jīng)過變換后.其方向反向.但仍在同一條軸上.所以也被認為是方向沒有變化。

當我們引用了Spectral theorem（譜定律）的時候，情況就不一樣了。Spectral theorem的核心內(nèi)容如下：一個線性變換A（用矩陣乘法表示）可表示為它的所有的特征向量的一個線性組合，其中的線性系數(shù)就是每一個向量對應(yīng)的特征值，寫成公式就是：
T(x)=(V1.x)λ1V1+(V2.x)λ2V2+(V3.x)λ3V3+...
其中，V1 V2 V3等表示特征向量，λ1 λ2 λ3等表示特征值，V表示輸入向量，T(x)即變換后的向量。

從這里我們可以看出，一個變換（矩陣）可由它的所有特征向量完全表示(即T(x)=Ax)。而每一個向量所對應(yīng)的特征值，就代表了矩陣在這一向量上的貢獻率——說的通俗一點就是能量（power），這種貢獻是一種整體上的貢獻率，對于單個向量來說還要考慮特征向量V與輸入向量x的點積，即dot(V,x)部分。也就是說，即使λ1相比其它特征值來說很大，使得V1的貢獻率很高，但是（V1.x）=0，T(x)在V1上也沒有任何表現(xiàn)。

我們知道，一個變換可由一個矩陣乘法表示，那么一個空間坐標系也可視作一個矩陣，而這個坐標系就可由這個矩陣的所有特征向量表示，用圖來表示的話，可以想象就是一個空間張開的各個坐標角度，這一組向量可以完全表示一個矩陣表示的空間的“特征”，而他們的特征值就表示了各個角度上的能量（可以想象成從各個角度上伸出的長短，越長的軸就越可以代表這個空間，它的“特征”就越強，或者說顯性，而短軸自然就成了隱性特征），因此，通過特征向量/值可以完全描述某一幾何空間這一特點，使得特征向量與特征值在幾何（特別是空間幾何）及其應(yīng)用中得以發(fā)揮。

---

案例學習：二維空間直角坐標系下，有一向量x=[1 1]'，求通過變換矩陣A=[1 2;3 4]后的向量。

步驟1：題目中之所以強調(diào)直角坐標系，是因為想讓大家清楚，日常生活中所默認的這種坐標系的變換矩陣為A₀=[1 0; 0 1]，其對應(yīng)的2組特征值和特征向量為：橫坐標即λ1=1，V1=[1 0]'; 縱坐標即λ2=1，V2=[0 1]'。V1和V2也可以稱為二維空間的一組基。

你可以發(fā)現(xiàn)T(x)=A₀x=[1 0; 0 1] *[1 1]'=[1 1]'。根據(jù)譜定理也有：T(x)=(V1.x)λ1V1+(V2.x)λ2V2=dot(V1,x)* λ1*V1+dot(V2,x)* λ2*V2=[1 1]'。

步驟2：下面看一下題目中的變換矩陣A=[1 2;3 4]，其對應(yīng)的特征值和特征向量為：λ1=-0.3723，V1=[-0.8246 0.5658]'; λ2=5.3723，V2=[-0.4160 -0.9094]'。如果不假思索直接得到T(x)=Ax=[3 7]'，當然結(jié)果正確，但本案例旨在說明這個結(jié)果的意義和背后的故事。首先需要明白結(jié)果[3 3]'仍然是在直角坐標系下，即基為[1 0]'和[0 1]'。根據(jù)譜定理也有：T(x)=(V1.x)λ1V1+(V2.x)λ2V2=dot(V1,x)* λ1*V1+dot(V2,x)* λ2*V2=[2.8824 6.5294]'≈[3 7]'。將x變換前后的在直角坐標系中的向量圖表示如下，圖中得出：A對x的作用是旋轉(zhuǎn)和縮放。

步驟3： 更換直角坐標系的基，由原來的[1 0]'和[0 1]'變?yōu)橛?/span>A的特征向量[-0.8246 0.5658]'和[-0.4160 -0.9094]'組成的一對正交基。將x映射到此正交基構(gòu)成的坐標系中，得到[-0.2588   -1.3254]'（變換前的x）和 [1.4867   -7.6136]（變換后的x）。下圖給出了坐標系變換前后的對比圖，圖中可得：更換正交基是對整個坐標系進行旋轉(zhuǎn)和縮放。