固有値分解と対角化

信号処理論入門　第1章 §1.4　★ Fourierはユニタリ変換という伏線

線形時不変システム（次節・第3章）を理解する伏線として、固有値分解に触れておく。$N\times N$ 行列 $\bm A$ が $N$ 個の一次独立な固有ベクトル $\bm v_k$（固有値 $\lambda_k$）をもつとき、$\bm V=[\bm v_1\,\cdots\,\bm v_N]$ とおくと

$$\bm A=\bm V\,\mathrm{diag}(\lambda_1,\dots,\lambda_N)\,\bm V^{-1}$$

と対角化できる。これは「入力を固有ベクトルへ展開し（$\bm V^{-1}$を掛ける）、各成分を固有値倍し（対角行列）、再合成する（$\bm V$を掛ける）」という三段の操作に線形変換を分解したものである。

とくに $\bm A$ が実対称（$\bm A^{\top}=\bm A$）なら固有ベクトルは直交させられて$\bm V$ は直交行列となり、$\bm A$ がHermite（$\bm A^{*}=\bm A$）なら $\bm V$ はユニタリ行列となる。このとき $\bm V^{-1}=\bm V^{*}$ なので逆行列を別途求める必要がない。後で見るように、Fourier 変換とはまさに「複素正弦波を固有ベクトルにもつ、ユニタリな座標変換」であり、この「展開→固有値倍→再合成」の構図が周波数領域での信号処理の本質である。