データを理解する・その3「特異値分解、固有値」

これも、2020年にまとめていた記事。これが最後 放置していたままも嫌なので、公開します。

ここから

長い年末休暇を利用して、理解した記録です。

特異値分解

特異値分解は、行列を 3 つの行列の積に分解する。

$$ X = USV^{T} $$

このとき、$U$を右得意行列、$V$を左得意行列、$U$を特異値行列とよぶ。

$U$と$V$は正方行列で、$U$が$[n \times n]$、$V$が$[m \times m]$のとき、$V$は$[n \times m]$の行列になる。

$S$の要素は次で$s_{1 \dots k}$が特異値になる。また、$SS^{T} = S^{T}S = S^{2}$の性質を持つ。

固有値

固有値は、特異値分解の$U$と$V$で$V^{T} = U$となるときに成立する。

$$ A = P \Lambda P^{T} $$

このときの$\Lambda$は次で$\lambda_{1 \dots k}$が固有値。