Linear Algebra (D. Cherney et al.) 7日目

CC BY-NC-SA 3.0

7.3 Properties of Matrices

線形関数が行列(と基底)によって表現できることがわかった．行列の性質を知ることで線形関数の理解を深めることができる．

Definition

$r \times k$行列$M=(m^i_j), i=1,...,r; j=1,...,k$は実数あるいは複素数を
$$\left(\begin{array}{} m^1_1 & m^1_2 & \cdots & m^1_k \\ m^2_1 & m^2_2 &\cdots \\ \vdots \\ m^r_1 & m^r_2 &\cdots &m^r_k \end{array}\right)$$
と並べたもの．$m^i_j$を$M$の$(i, j)$成分と呼ぶことにする．
$(m^i_1 \ m^i_2 \ \cdots \ m^i_k)$を$M$の第$i$行といい，
$(m^1_j \ m^2_j \ \cdots \ m^r_j)^T$を$M$の第$j$列という．
$$\mathbf{v}= \left(\begin{array}{} v^1 \\ v^2 \\ \vdots \\ v^r \end{array} \right)$$
のような$r \times 1$行列を特に縦ベクトルとよび，
$$\mathbf{v} = \left(v_1 \ \ v_2 \ \ \cdots \ \ v_k \right)$$
のような$1\times k$行列を特に横ベクトルと呼ぶ．

Example 82

gif画像形式ファイルは，各要素がピクセルの色を表現する行列．

Example 83

グラフを行列で表現する．グラフとは，頂点(vertice)の集合$V$と，頂点を結ぶ辺(edge)の集合のこと．．$V=\{1, ..., n\}$と，頂点を自然数で表すとき，頂点$i$から出て$j$を終点とする辺の本数を$(i, j)$成分とする行列を作れば，行列でグラフを表現できる．このようにしてグラフを表現する行列を隣接行列(adjacency matrix)という．

$$M= \left(\begin{array}{} 1&2&1&1 \\ 2& 0&1&0 \\ 1&1&0&1\\1&0&1&3 \end{array}\right)$$

$r \times k$行列の集合を$\mathbb{M}^r_k$と書く．

(和書洋書をいくつか見てもこうした記法は見られないので，以後，$M$の$(i, j)$成分を$m_{i\ j}$, $m \times n$行列の集合を$M(m,n)$と書くことにする．)

Definition 行列の積

$L \in M(l,m), M \in M(m, n)$があるとき，$L$と$M$の積$LM$を定義できる．
$N =LM$，$L=(l_{i\ j}), M=(m_{i\ j}), N=(n_{i j})$とすると，
$$n_{i\ j} = \sum_{1 \leq k \leq m} l_{i\ k} m_{k\ j}$$

横ベクトル$\mathbf{u}=(u_1, ..., u_n)$と縦ベクトル$\mathbf{v}=\left(\begin{array}{} v_1\\ \vdots \\ v_n \end{array}\right)$ があるとき，積$\mathbf{uv}=\sum_i u_iv_i$
$L=\left(\begin{array}{} \mathbf{l_1}\\ \mathbf{l_2} \\ \vdots \\ \mathbf{l_l} \end{array}\right), M=(\mathbf{m_1} \ \mathbf{m_2} \ \cdots \ \mathbf{m_m})$と，横ベクトル$\mathbf{l}_i$と縦ベクトル$\mathbf{m}_j$で$L,M$を表すと，
$$n_{i\ j} = \mathbf{l}_i \mathbf{m}_j$$
が成立する．また，$M \in M(m,n)$と$\mathbf{x}\in M(n,1)$があって$M=(\mathbf{m_1} \ \mathbf{m_2} \ \cdots \ \mathbf{m}_n)$と縦ベクトル$\mathbf{m}_i$でかいて，$\mathbf{x}=\left(\begin{array}{}x_1 \\ \vdots \\x_n \end{array}\right)$とすると，
$$M\mathbf{x} = (x_1 \mathbf{m_1} + \cdots x_n \mathbf{m}_m)$$

Theorem 7.3.1

行列$M$と縦ベクトル$x$があるとき，$Mx=0$なら，$M$のすべての行と$x$は直交する．

Remark

$M$の列たちのなすベクトル空間を$M$の列空間といい，行たちのなすベクトル空間を$M$の行空間という．

7.3.1 Associativity and Non-Commutativity

行列$L,M,N$について，積が定義できるなら$(LM)N=L(MN)$
一方で$LM=ML$は一般には成り立たない．

7.3.2 Block Matrices

$$M = \left(\begin{array}{} 1 & 2 & 3 & 1\\ 4 & 5 & 6 & 0\\ 7 & 8 & 9& 1\\ 0 & 1 & 2 & 0\end{array}\right)$$
があるとき，
$$A= \left(\begin{array}{} 1 & 2 & 3 \\ 4 & 5 & 6 \\ 7 & 8 & 9\end{array}\right), B=\left(\begin{array}{} 1\\ 0\\ 1 \end{array}\right), C=\left(\begin{array}{} 0 & 1 & 2\end{array}\right), D= \left(0\right)$$
として，$M=\left(\begin{array}{} A & B \\ C & D \end{array}\right)$と書ける．
$N$が$M=\left(\begin{array}{} A' & B' \\ C' & D' \end{array}\right)$と書けて，$AA',BB',CC',DD'$が定義できていれば，
$MN =\left(\begin{array}{} AA'+BC & AB'+BD \\ CA'+DC' & CB'+DD' \end{array}\right)$
が成立する．このように行列を小さな行列を要素とする行列(blocks)に分割して行列の積を計算したりできる．

7.3.3 The Algebra of Square Matrices

正方行列$M$にはべき乗$M^0=I, M^n = M(M^{n-1})$が自然に定義できて，$f(x)=x^2+2x+3$のような多項式に自然に代入できる．

7.3.4 Trace

Definition

$M\in M(n,n)$のtraceは，その対角成分の和．すなわち
$$\text{tr} M = \sum_i m_{i\ i}$$

Theorem 7.3.3

traceは交代的．つまり$\text{tr} MN = \text{tr} NM$

7.5 Inverse matrix

Definition

$M \in M(n,n)$が可逆(正則，非特異)である
$\Leftrightarrow \exists M^{-1} \ \ s.t. \ \ MM^{-1}=M^{-1}M=I$
$M(n,n)$の部分集合で，可逆な行列の集合を一般線形群といい，$GL(n)$と書く．

7.5.1 Three Properties of the Inverse

1. $(A^{-1})^{-1}=A$
2. $(AB)^{-1}=B^{-1}A^{-1}$
3. $(A^{-1})^T=(A^T)^{-1}$

7.5.2 Finding Inverses (Redux)

大規模な行列の逆行列を求めるに当たって効率の良いアルゴリズム．
$M \in GL(n)$とし，$Mx=v$という線形連立方程式を解く．
$M^{-1}$が存在するから，$x=M^{-1}v$となって，解は一つに定まる．
$I= \left(v_1 \ v_2 \ \cdots \ v_n \right)$となるように縦ベクトル$v_i$を定め，$x_i = M^{-1}v_i$とすると，
$$\left(x_1 \ x_2 \ \cdots \ x_n\right) = M^{-1} \left(v_1 \ v_2 \ \cdots \ v_n\right)=M^{-1}I=M^{-1}$$
が成立する.
よって，$MX=I$という連立方程式を解けば良い．拡大係数行列は
$$(M|I)$$
という形で，基本変形を繰り返して
$$(I|M')$$
という形にしたとき，$M'$は$M^{-1}$に等しい．

7.5.3 Linear Systems and Inversees

$M^{-1}$が存在するとき，$Mx=v \Leftrightarrow x=M^{-1}v$

7.5.4 Homogeneous Systems

Theorem 7.5.1

正方行列$M$が可逆$\Leftrightarrow Mx=0$が$0$以外の解をもたない
proof.

($\Rightarrow$)
$Mx=0$に左から$M^{-1}$をかけて,$x=0$
($\Leftarrow$)
仮定より，$M$は基本変形によって単位行列に変形できる．このとき7.5.2の方法で$M^{-1}$を計算できる．