線形代数入門書籍線形代数がわかる(4) 行列の特性を引き出す

久しぶりに数学を復習しようと思い立ちました。この記事はそのメモです。ポイントだけを残していきます。

今回は線形代数入門第4回(最終回)です。今回はテキストの第4章行列の特性を引き出すです。一週間くらいで終わるかな、と思っていたんですが、やはり結構かかってしまいました。でもしっかり理解できた気がします。線形代数は解析学や統計学でも頻出する数学の道具なので、先にやる意味が強くあったと思います。ああ、他の科目もまだまだ控えてるんだなぁ…

- - 教材
  - 行列の特性を引き出す
    - 4-1 固有値と固有ベクトル
    - 4-2 対角化とは
      - 対角化の応用フィボナッチ数列
      - n × n行列の対角化

教材

First Book 線形代数がわかる

著者: 中村厚、戸田晃一
出版社: 技術評論社
発行日: 2010-9-25
ISBN: ISBN978-4-7741-4346-0
価格: C3041 ￥1780E
書籍サイト: 線形代数がわかる：書籍案内｜技術評論社 (amazon)

学習範囲 (太文字の章節がこの記事の対象)
序章プロローグ
ベクトルとは
線形代数の意味
行列と行列式
物理と線形代数
第1章ベクトルとスカラー
1-1 ベクトルのすみか
1-2 ベクトルのスカラー倍、和と差
1-3 基底ベクトル
1-4 内積
1-5 外積
第2章行列と連立一次方程式
2-1 行列とその演算
2-2 連立一次方程式とガウスの消去法
2-3 逆行列
2-4 逆行列がない!
第3章行列式とその応用**
3-1 行列式って何?
3-2 行列式の仕組み
第4章行列の特性を引き出す
4-1 固有値と固有ベクトル
4-2 対角化とは

行列の特性を引き出す

4-1 固有値と固有ベクトル

固有ベクトル、固有値
あるベクトルをある行列により変換したときに、方向が同じとなるベクトルをその行列の固有ベクトルという。またその行列で変換したときに変わるベクトルの大きさを固有値という。
固有値の求め方
行列 $A$ の固有値を $\lambda$ 、固有ベクトルを $\boldsymbol{v}$ とする。固有ベクトルに行列をかけるとそのベクトルに固有値 $\lambda$ 倍したベクトルとなるので
$A\boldsymbol {v} = \lambda\boldsymbol{v}$
である。これより
$\begin{align*} \left( \begin{array}{cc} a & b \\ c & d \end{array} \right) \left( \begin{array}{c} x \\ y \end{array} \right) &= \lambda \left( \begin{array}{c} x \\ y \end{array} \right) \\ &=\lambda \left( \begin{array}{cc} 1 & 0 \\ 0 & 1 \end{array} \right) \left( \begin{array}{c} x \\ y \end{array} \right) \quad (右辺に単位行列をかける) \\ \end{align*}$
これより
$\begin{align*} & \left( \begin{array}{cc} a & b \\ c & d \end{array} \right) \left( \begin{array}{c} x \\ y \end{array} \right) = \lambda \left( \begin{array}{cc} 1 & 0 \\ 0 & 1 \end{array} \right) \left( \begin{array}{c} x \\ y \end{array} \right) \iff \\ &\left( \begin{array}{cc} a & b \\ c & d \end{array} \right) \left( \begin{array}{c} x \\ y \end{array} \right) - \lambda \left( \begin{array}{cc} 1 & 0 \\ 0 & 1 \end{array} \right) \left( \begin{array}{c} x \\ y \end{array} \right) = \left( \begin{array}{c} 0 \\ 0 \end{array} \right) \iff \\ &\left( \begin{array}{cc} a - \lambda & b \\ c & d - \lambda \end{array} \right) \left( \begin{array}{c} x \\ y \end{array} \right) = \left( \begin{array}{c} 0 \\ 0 \end{array} \right) \tag{1} \end{align*}$
ここで
$\left( \begin{array}{c} x \\ y \end{array} \right) = \left( \begin{array}{c} 0 \\ 0 \end{array} \right)$
はこの連立方程式の自明な解であるが、 $\boldsymbol{0}$ ベクトルは固有ベクトルになりえないので、自明な解以外を探す。このとき連立方程式が自明な解以外をもつためのの条件は、 $(1)$ の左辺の行列が非正則行列であること、すなわち逆行列がないこと(行列式が $0$ )こと。すなわち(1)より行列式を求める式は以下となり、これを固有方程式という。
$|A-\lambda E|=0$
ここで $\lambda$ は下記方程式の解となる。
$\begin{vmatrix} a - \lambda & b \\ c & d - \lambda \end{vmatrix} = 0 \\ (a-\lambda)(d-\lambda)=0$
これは $\lambda$ に関する2次方程式であり、虚数解を含む。解が虚数のときは固有ベクトルは $xy$ 平面では図示できない。
また重解を持つときは、固有ベクトルが0となる、すなわちどんなものでも固有ベクトルになる場合と、固有ベクトルが存在する場合がある。
まとめ
行列 $A$ の固有値は、固有方程式
$|A - \lambda E| = 0$
の解 $\lambda$ である。それぞれの固有値に対して固有ベクトル $\boldsymbol V$ の方向が定まり、
$A\boldsymbol{V} = \lambda \boldsymbol V$
のように、行列 $A$ は固有ベクトルの方向を向いたベクトルを $\lambda$ 倍する。

4-2 対角化とは

例)
行列
$A = \left( \begin{array}{cc} 1 & 4 \\ 3 & 2 \end{array} \right)$
の固有値を求める。固有方程式より
$\begin{align*} (1-\lambda)(2-\lambda) - 12 &= 0 \iff \\ \lambda^2 -3\lambda -10 &= 0 \iff \\ (\lambda - 5)(\lambda + 2) &= 0 \iff \\ \lambda = 5, -2 & \end{align*}$
また固有ベクトルは
$\left( \begin{array}{cc} 1-\lambda & 4 \\ 3 & 2-\lambda \end{array} \right) \left( \begin{array}{c} x \\ y \end{array} \right) = \left( \begin{array}{c} 0 \\ 0 \end{array} \right)$
に $\lambda$ を代入し
$\lambda=5$ のとき
$\begin{align*} &\left( \begin{array}{cc} 1-5 & 4 \\ 3 & 2-5 \end{array} \right) \left( \begin{array}{c} x \\ y \end{array} \right) = \left( \begin{array}{c} 0 \\ 0 \end{array} \right) \iff \\ &\left( \begin{array}{cc} -4 & 4 \\ 3 & -3 \end{array} \right) \left( \begin{array}{c} x \\ y \end{array} \right) = \left( \begin{array}{c} 0 \\ 0 \end{array} \right) \iff \\ &-4x+4y=0 \iff \\ &y=x \iff \\ &この固有ベクトルは \left( \begin{array}{c} 1 \\ 1 \end{array} \right) \tag{2} \end{align*}$
$\lambda=-2$ のとき
$\begin{align*} &\left( \begin{array}{cc} 1+2 & 4 \\ 3 & 2+2 \end{array} \right) \left( \begin{array}{c} x \\ y \end{array} \right) = \left( \begin{array}{c} 0 \\ 0 \end{array} \right) \iff \\ &\left( \begin{array}{cc} 3 & 4 \\ 3 & 4 \end{array} \right) \left( \begin{array}{c} x \\ y \end{array} \right) = \left( \begin{array}{c} 0 \\ 0 \end{array} \right) \iff \\ &3x+4y = 0 \iff \\ &この固有ベクトルは \left( \begin{array}{c} 4 \\ -3 \end{array} \right) \tag{3} \end{align*}$
よって固有値と固有ベクトルの関係は
$\begin{align*} &\left( \begin{array}{cc} 1 & 4 \\ 3 & 2 \end{array} \right) \left( \begin{array}{c} 1 \\ 1 \end{array} \right) = 5 \left( \begin{array}{c} 1 \\ 1 \end{array} \right) \\ &\left( \begin{array}{cc} 1 & 4 \\ 3 & 2 \end{array} \right) \left( \begin{array}{c} 4 \\ -3 \end{array} \right) = -2 \left( \begin{array}{c} 4 \\ -3 \end{array} \right) \end{align*}$
となり、これを1つの式にまとめる。まず、固有ベクトルをならべた以下の行列 $P$ を考える。
$P= \left( \begin{array}{cc} 1 & 4 \\ 1 & -3 \end{array} \right)$
この行列にもとの行列Aを左から掛ける。
$\begin{align*} AP &= \left( \begin{array}{cc} 1 & 4 \\ 3 & 2 \end{array} \right) \left( \begin{array}{cc} 1 & 4 \\ 1 & -3 \end{array} \right) \\ & = \left( \begin{array}{cc} 1 \times 1 + 4 \times 1 & 1 \times 4 + 4 \times (-3) \\ 3 \times 1 + 2 \times 1 & 3 \times 4 + 2 \times (-3) \end{array} \right) \\ &= \left( \begin{array}{cc} 5 & -8 \\ 5 & 6 \end{array} \right) \end{align*}$

まとめると以下のようにかける (ここで登場する最後の項の行列が意味不明。どうやって作ったの?)
$\left( \begin{array}{cc} 5 & -8 \\ 5 & 6 \end{array} \right) = \left( \begin{array}{cc} 1 & 4 \\ 1 & -3 \end{array} \right) \left( \begin{array}{cc} 5 & 0 \\ 0 & -2 \end{array} \right)$

ここで、式をまとめるときの考え方の説明がなく、突然新しく数値の入った行列が登場する。なぜ新しい値の入った行列が出てくるのか意味をつかむことができない。
なお、線型代数［改訂版］｜日本評論社のp.61-62にかけての説明を読むとやりたそうなことは理解できた。固有値を対角に並べた行列を対角行列といい、その解説を具体的な数字がはいった行列でしたかったようだ。しかしそのことも書いていないので、私のような入門レベルの読者は意味がつかめず、頭を悩ますことになった。何が入門なのか… Aくんがわからないのも当然だ。えーっと、そうですね、しか言ってなくって、せっかく最後なんだからちょっとはわかったことを言わせてあげてよ、とかおもっちゃう。

ここで、対角線上にのみ成分を持つ行列を対角行列という。
対角行列を $D$ とすると先の例
$\left( \begin{array}{cc} 1 & 4 \\ 3 & 2 \end{array} \right) \left( \begin{array}{cc} 1 & 4 \\ 1 & -3 \end{array} \right)= \left( \begin{array}{cc} 5 & -8 \\ 5 & 6 \end{array} \right)$
より
$AP=PD$
である。すなわち
$P^{-1}AP=P^{-1}PD \iff \\ P^{-1}AP=D$
である。ある行列を正則行列とその逆行列ではさんで変形することを、行列の相似変形という。また相似変形をして対角行列にすることを対角化という。

対角化の応用フィボナッチ数列

フィボナッチ数列
以下の漸化式で定義される数列。 $n$ 番目のフィボナッチ数を $F_n$ とする。
$\begin{align*} F_0 &= 0 \\ F_1 &= 1 \\ F_{n + 2} &= F_n + F_{n + 1} \quad (n \ge 0) \end{align*}$
行列によるフィボナッチ数の算出
フィボナッチ数列を作る漸化式 $f_{n+1}=f_n+f_{n-1}$ と、式 $f_n=f_n$ により行列を作成する。
$\left( \begin{array}{cc} f_{n+1} \\ f_n \end{array} \right) = \left( \begin{array}{cc} f_{n} + f_{n-1} \\ f_n \end{array} \right) = \left( \begin{array}{cc} 1 & 1 \\ 1 &0 \end{array} \right) \left( \begin{array}{cc} f_{n-1} \\ f_n \end{array} \right)$
ここで行列 $A$ 、ベクトル $\boldsymbol V$ を
$A= \left( \begin{array}{cc} 1 & 1 \\ 1 &0 \end{array} \right), \quad \boldsymbol V_n = \left( \begin{array}{cc} f_{n-1} \\ f_n \end{array} \right)$
とすると
$\boldsymbol {V_n}=A\boldsymbol V_{n-1}$
とかける。ここで
$\boldsymbol {V_n}=A\boldsymbol V_{n-1} = A^2\boldsymbol V_{n-2} = \cdots = A^n\boldsymbol V_0$
である。
$V_n$ を求めるため、 $A$ を対角化する。固有方程式 $|A-\lambda E| =0$ より
$\begin{vmatrix} 1 - \lambda & 1 \\ 1 & - \lambda \end{vmatrix} = 0 \iff \\ (1-\lambda)(-\lambda) - 1 = 0 \iff \\ \lambda ^2 - \lambda -1 = 0$
これより
$\lambda = \frac{1\pm \sqrt{1-4\times 1\times (-1)}}{2} = \frac{1\pm \sqrt{5}}{2} \\ \lambda_{+} = \frac{1 + \sqrt{5}}{2}, \quad \lambda_{-} =\frac{1 - \sqrt{5}}{2} \\$
である。( $\lambda_{+}$ を黄金比という)
次に $\lambda_{+}, \lambda_{-}$ の固有ベクトル $\boldsymbol v$ を求める。 $A\boldsymbol{v}=\lambda \boldsymbol{v}$ より
$\left( \begin{array}{cc} 1 & 1 \\ 1 &0 \end{array} \right) \left( \begin{array}{cc} x \\ y \end{array} \right) = \lambda_{\pm} \left( \begin{array}{cc} x \\ y \end{array} \right) \iff \\ \left\{ \begin{array}{l} x +y = \lambda_{\pm} x \\ x = \lambda_{\pm} y \end{array} \right.$
これより
$y=1, \quad x = \lambda_{\pm}$
よって固有ベクトルは
$\left( \begin{array}{cc} \lambda_{+} \\ 1 \end{array} \right), \quad \left( \begin{array}{cc} \lambda_{-} \\ 1 \end{array} \right)$
である。固有ベクトルをまとめた行列 $P$ 、対角行列を $D$ として
$P = \left( \begin{array}{cc} \lambda_{+} & \lambda_{-} \\ 1 & 1 \end{array} \right)$
より
$AP=P \left( \begin{array}{cc} \lambda_{+} & 0 \\ 0 & \lambda_{-} \end{array} \right) \iff \\ P^{-1}AP = \left( \begin{array}{cc} \lambda_{+} & 0 \\ 0 & \lambda_{-} \end{array} \right) = D$
ここで
$\boldsymbol {V_n} = A^n\boldsymbol V_0$
より $A^n$ の算出を簡易化するため、作成した対角行列を用いて計算する。具体的には
$P^{-1}AP=D$
より
$\begin{align*} \overbrace{(P^{-1}AP)(P^{-1}AP)\cdots(P^{-1}AP)}^{n個の積}=D^n &\iff \\ P^{-1}A^nP=D^n &\iff \\ A^n=PD^nP^{-1} \end{align*}$
これより
$\begin{align*} A^n & = \left( \begin{array}{cc} \lambda_{+} & \lambda_{-} \\ 1 & 1 \end{array} \right) \left( \begin{array}{cc} {\lambda_{+}}^n & 0 \\ 0 & {\lambda_{-}}^n \end{array} \right) \frac{1}{\sqrt{5}} \left( \begin{array}{cc} 1 & -\lambda_{-} \\ -1 & \lambda_{+} \end{array} \right) \\ &= \frac{1}{\sqrt{5}} \left( \begin{array}{cc} {\lambda_{+}}^{n+1} & {\lambda_{-}}^{n+1} \\ {\lambda_{+}}^n & {\lambda_{-}}^n \end{array} \right) \left( \begin{array}{cc} 1 & \frac{1}{\lambda_{+}} \\ -1 & \frac{1}{\lambda_{-}} \end{array} \right) \\ &\quad (\because \lambda_{+} \lambda_{-} = \frac{c} {a} = -1 \implies \lambda_{+} = -\frac{1}{\lambda_{-}}, \lambda_{-} = -\frac{1}{\lambda_{+}}) \\ &= \frac{1}{\sqrt{5}} \left( \begin{array}{cc} {\lambda_{+}}^{n+1}-{\lambda_{-}}^{n+1} & {\lambda_{+}}^n - {\lambda_{-}}^n \\ {\lambda_{+}}^{n}-{\lambda_{-}}^{n} & {\lambda_{+}}^{n-1} - {\lambda_{-}}^{n-1} \end{array} \right) \end{align*}$
となる。これより $V_0$ は
$\begin{align*} \boldsymbol {V_n} &= A^n\boldsymbol V_0 \\ &= \left( \begin{array}{cc} {\lambda_{+}}^{n+1}-{\lambda_{-}}^{n+1} & {\lambda_{+}}^n - {\lambda_{-}}^n \\ {\lambda_{+}}^{n}-{\lambda_{-}}^{n} & {\lambda_{+}}^{n-1} - {\lambda_{-}}^{n-1} \end{array} \right) \left( \begin{array}{cc} 1 \\ 1 \end{array} \right) \\ &= \left( \begin{array}{c} {\lambda_{+}}^{n+1}-{\lambda_{-}}^{n+1} + {\lambda_{+}}^n - {\lambda_{-}}^n \\ {\lambda_{+}}^n - {\lambda_{-}}^n + {\lambda_{+}}^{n-1} - {\lambda_{-}}^{n-1} \end{array} \right) \\ &= \left( \begin{array}{c} {\lambda_{+}}^{n+2}-{\lambda_{-}}^{n+2} \\ {\lambda_{+}}^{n+1}-{\lambda_{-}}^{n+1} \end{array} \right) \\ \end{align*}$
ここで $\lambda ^2 - \lambda - 1 = 0 \implies \lambda+1=\lambda^2$ より
$\begin{align*} {\lambda_{+}}^{n+1}+{\lambda_{+}}^{n} &= {\lambda_{+}}^n({\lambda_{+}} + 1) \\ &= {\lambda_{+}}^n{\lambda_{+}}^2 \\ &= {\lambda_{+}}^{n+2} \end{align*}$
さて、ここで ${\lambda{-}}^n$ の極限値を求める。
$|\lambda_-| =\left| \frac{1-\sqrt 5}{2} \right| \fallingdotseq \frac{2.236-1}{2} = \frac{1.236}{2} \lt 1$
よって
$\lim_{n\to \infty}{\lambda_{-}}^n = 0$
となる。十分大きい $n$ に対して $V_n$ は $\lambda_-$ の項を無視することができ、
$V_n \to \frac{1}{\sqrt 5} \left( \begin{array}{c} {\lambda_{+}}^{n+2} \\ {\lambda_{+}}^{n+1} \end{array} \right) \\$
である。ベクトルの成分の比は十分大きな $n$ に対して
$\frac{f_{n+1}}{f_n}=\frac{{\lambda_{+}}^{n+2}}{{\lambda_{+}}^{n+1}} =\lambda_{+} =\frac{1 + \sqrt{5}}{2}$

n × n行列の対角化

n次正方行列でも2次正方行列と同様に対角化ができることを説明している。

まとめ行列の対角化の手順
の固有値が全て相異なるものとするとき
1. 固有方程式 $|A - \lambda E|=0$ をとき、固有値を求める。
2. 各固有値 $\lambda$ に対応した固有ベクトルを並べた行列 $P$ を作る。
3. ${AP}={PD}$ の関係から $P^{-1} {AP} = D$ となる。 $D$ は対角行列で、各成分は $A$ の固有値である。