日々のつれづれ

不惑をむかえ戸惑いを隠せない男性の独り言

データを理解する・その3「特異値分解、固有値」

これも、2020年にまとめていた記事。これが最後 放置していたままも嫌なので、公開します。

ここから

長い年末休暇を利用して、理解した記録です。

特異値分解

特異値分解は、行列を 3 つの行列の積に分解する。

$$ X = USV^{T} $$

このとき、$U$を右得意行列、$V$を左得意行列、$U$を特異値行列とよぶ。

$U$と$V$は正方行列で、$U$が$[n \times n]$、$V$が$[m \times m]$のとき、$V$は$[n \times m]$の行列になる。

$S$の要素は次で$s_{1 \dots k}$が特異値になる。また、$SS^{T} = S^{T}S = S^{2}$の性質を持つ。


S = \left(
  \begin{array}{cccc}
  s_{1}  & 0      & \dots  & 0     \\
  0      & s_{2}  &        & 0     \\
  \vdots &        & \ddots & \vdots\\
  0      & 0      &        & s_{k} \\
  0      & 0      & \dots  & 0     \\
  \vdots & \vdots & \vdots & \vdots\\
  \end{array}
\right)

固有値

固有値は、特異値分解の$U$と$V$で$V^{T} = U$となるときに成立する。

$$ A = P \Lambda P^{T} $$

このときの$\Lambda$は次で$\lambda_{1 \dots k}$が固有値


\Lambda = \left(
  \begin{array}{cccc}
  \lambda_1 & 0         & \dots  & 0         \\
  0         & \lambda_2 &        & 0         \\
  \vdots    &           & \ddots & \vdots    \\
  0         & 0         &        & \lambda_k \\
  \end{array}
\right)