Linear Algebra (D. Cherney et al.) 三日目

CC BY-NC-SA 3.0

Chapter 4. Vectors in Space, n-Vectors

$n$次元ベクトル$a = \left( \begin{array}{} a^1 \\ a^2 \\ \vdots \\a^n \end{array}\right)$
と書く.この本では右上に第$i$要素と示す添え字を乗せる.

4.1 Addition and Scalar Multiplication in $\mathbb{R}^n$

ベクトルの足し算とスカラー倍の定義

4.2 Hyperplanes

$u, v \in \mathbb{R}^d$において，$u$を通って$v$と平行な直線$L$は
$$L = \{u + t v | t \in \mathbb{R}\}$$
と書ける．$u$をある点$P$と考えて，$L=\{P + tv\}$と書くこともできる．

0ベクトルでない$u, v \in \mathbb{R}^d$が平行でないとき,$u, v$は$\{su + tv| s, t \in \mathbb{R}\}$によって原点を通る平面を定める．また，ある点$P$を通り，かつ$\{su + tv\}$に平行な平面は$\{P + su + tv\}$と書ける．

Definition

$\{v_i \}_{i=1}^n$が一次独立$\Leftrightarrow [\sum \lambda_i v_i = 0 \Leftrightarrow \forall i \lambda_i=0]$

Definition

$k$本の一次独立なベクトル$v_1, ..., v_k \in \mathbb{R}^n$と点$P \in \mathbb{R}^n$があって，$k \leq n$なら，$k$次元の超平面(hyperplane)
$$\{ P + \sum_{i=1}^k \lambda_i v_i | \lambda_i \in \mathbb{R}\}$$

が定義できる．$k$が明示されていないとき，多くの場合は$k=n-1$である．すなわち，超平面はもとの空間を２つの空間に分ける．

Directions and Magnitudes

$$||v|| := \sqrt{\sum_{i=1}^n (v^i)^2}$$
を$n$次元ベクトル$v$のユークリッドノルムという．
$u, v \in \mathbb{R}^n$に，$||u-v||^2 = ||u||^2 + ||v||^2 - 2||u||||v|| \cos \theta$が成立するから，
$$\begin{aligned} ||u||||v|| \cos \theta &= \frac{1}{2} \left( ||u-v||^2 - ||u||^2 - ||v||^2 \right) \\ &= \sum_i [(v^i -u^i)^2 -(u^i)^2 - (v^i)^2] \\ &= \sum_i -2u^i v^i \end{aligned}$$
したがって
$$||u||||v|| \cos \theta = \sum u^iv^i$$

Definition Dot product (ドット積)

$u = (u^1 , ... , u^n)^T, v=(v^1, ..., v^n)^T$に,内積$u \cdot v = \sum u^iv^i$とする．

Definition ベクトルの長さ(norm, magnitude)

$v \in \mathbb{R}^n$の長さを$||v||:= \sqrt{v \cdot v}$で定めると，節頭で定義したユークリッドノルムと一致する．

Definition orthogonal, perpendicular (直行)

$u \cdot v = 0$なるとき，ベクトル$u, v \in \mathbb{R}^n$は直行するという．

以上ではドット積からノルムや直行を定義したが，ドット積の一般化にinner product(内積)という概念があり，内積はいくらでも考えられる．ドット積の代わりにある内積を使うと，同じベクトルだがノルムが違ったり，直行していたベクトルが直行しなくなったりする．とりあえずこの本では特に指定がなければドット積から定義されたノルムや直交性を考えれば良いようだ．内積は一般に$\langle u,v \rangle$と書く．

Definition Inner product (内積)

複素数で定義したほうがいいのかもしれないが，とりあえず実数でやる．
$\langle u,v \rangle: \mathbb{R}^n \times \mathbb{R}^n \rightarrow \mathbb{R}$がノルムである
$\Leftrightarrow \mbox{(1)} \langle v,v \rangle = 0 \Leftrightarrow v = 0 \\ \ \ \ \ \ \mbox{(2)} \forall \alpha \in \mathbb{R} \ \ \langle (\alpha u+ v), w \rangle = |\alpha| \langle u,w\rangle + \langle v, w \rangle \\ \ \ \ \ \ \mbox{(3)} \forall \alpha \in \mathbb{R} \ \ \langle u, (\alpha v + w) \rangle = |\alpha| \langle u,w\rangle + \langle u, w \rangle \\ \ \ \ \ \ \mbox{(4)} \langle u, v \rangle = \langle v, u \rangle \\ \ \ \ \ \ \mbox{(5)} \langle v, v \rangle \geq 0$

Theorem 4.3.1 (Cauchy-Schwartz Inequality)

ベクトル$u, v \neq 0$と内積$\langle u,v \rangle$があるとき，
$$|\langle u, v \rangle| \leq ||u||||v||$$
proof.

$\alpha \in \mathbb{R}$に，
$$0 \leq \langle u+\alpha v, u + \alpha v \rangle = \langle u, u \rangle + 2\alpha \langle u,v \rangle + \alpha^2 \langle v,v\rangle$$
が成立する．$\alpha$の二次式と考えて最小値をとるような$\alpha$を考えると,$\alpha = - \langle u,v \rangle / \langle v, v \rangle$で，代入して
$$0 \leq \langle u, u \rangle - \frac{\langle u, v \rangle}{\langle v, v \rangle} \Leftrightarrow \langle u, v\rangle ^2 \leq \langle u,u \rangle \langle v, v \rangle \Leftrightarrow |\langle u , v \rangle| \leq ||u||||v||$$

Theorem 4.3.2 Triangle Inequality (三角不等式)

$u, v \in \mathbb{R}^n$に$|| u + v|| \leq ||u|| + ||v||$
proof.

$$\begin{aligned} ||u + v||^2 &= (u + v) \cdot (u + v) \\ &= u \cdot u + 2u \cdot v + v \cdot v \\ &= ||u||^2 + ||v||2 + 2||u||||v|| cos \theta \\ &= (||u||+||v||)^2 + 2||u||||v||(cos \theta - 1) \\ & \leq (||u|| + ||v||)^2\end{aligned}$$

4.4 Vectors, Lists and Functions: $\mathbb{R}^S$

$$\mathbb{R}^n =\{ \left( \begin{array}{} a^1 \\ \vdots \\ a^n \end{array} \right) | a^1, ...., a^n \in \mathbb{R} \}$$
であるが，$a$を$a: \{1, ..., n\} \rightarrow \mathbb{R}$という任意の写像とするとき，
$$R^n = \{ a: \{1, ... n\} \rightarrow \mathbb{R}\} = : \mathbb{R}^{\{1, ..., n\}}$$
とも書ける．このように，集合$S$について，$S$から$\mathbb{R}$への写像すべての集合を考えることで，
$$\mathbb{R}^S = \{f: S \rightarrow \mathbb{R}\}$$
とすることができる．