特征值和特征向量具有良好的性質(zhì)，是線(xiàn)性代數中的重要概念之一，在多元統計分析方法中也具有重要的應用。

在數學(xué)上，特別是線(xiàn)性代數中， A為n階矩陣，若數λ和n維非0列向量v，滿(mǎn)足Av=λv，那么數λ稱(chēng)為A的特征值，v稱(chēng)為A的對應于特征值λ的特征向量。

在多元統計中，特征值和特征向量主要在PCA主成分分析及FA因子分析中發(fā)揮作用。

在主成分分析中

特征向量正交化保證了主成分之間具有兩兩互不相關(guān)的性質(zhì)單位化使主成分表達式中線(xiàn)性組合的系數更加簡(jiǎn)單;主成分的方差等于構成線(xiàn)性組合的特征向量相應的特征值，特征值的總和與原始變量的方差的總和相等，表示所有的主成分恰好反映了所有原始變量的全部信息特征值在選取主成分的過(guò)程中通過(guò)限定方差貢獻程度，控制包含較多信息的主成分。

特征向量之間是正交的。

特征值的總和=矩陣R的跡（主對角線(xiàn)元素的總和）=總方差。

特征值的乘積=矩陣的行列式值=廣義方差。

在因子分析中

特征值和特征向量用于對因子模型進(jìn)行估計在對應分析中用于計算因子載荷矩陣。

進(jìn)一步解釋特征值/向量的作用，本文假設一個(gè)雙變量模型。

給定相關(guān)系數矩陣R，從中得出2對特征值和特征向量。

特征向量描述了這個(gè)橢圓的兩條軸的方向。橢圓軸的半長(cháng)和特征值的平方根是成比例的。所以，在2個(gè)變量時(shí)，特征值比較大的特征向量對應的就是長(cháng)軸方向。因為這里只有2個(gè)維度，所以是一個(gè)平面圖形。

原坐標系中，每個(gè)樣本都對應了一個(gè)橫縱坐標?，F在，有了特征向量后，我們順著(zhù)特征向量的方向畫(huà)兩條新軸，也就是圍繞橢圓建立新軸。因為軸心沒(méi)有改變，所以每個(gè)樣本與軸心的距離是不會(huì )改變的。改變的只有橫縱坐標。

因為軸的順序是按照特征值的大小排序的，所以在解釋樣本變異方向時(shí)，排序在前的軸重要性更高。

實(shí)例：

如下圖，特征值總和都是2。但是每張圖有不一樣的特征值和特征向量。

左圖：兩個(gè)特征值很接近，因此橢圓的兩條軸長(cháng)度就相近。因此，樣本的散落的位置接近于一個(gè)圓形。λ1稍微大一些，因此，紅軸重要性稍微更高一些，我們可以推測可能存在一些負相關(guān)性，但也非常微小，接近于0，幾乎不相關(guān)。

中間：λ1對應紅軸，負方向。λ2對應綠軸，正方向。λ1