[선형대수] 5강. 벡터공간과 열벡터공간

이전 장 정리

연립 방정식을 푸는 여러 방법이 있었는데, 연립 방정식을 행렬(계수)과 열 벡터(미지수)의 곱으로 표현했고, 그 결과도 열 벡터가 나옴을 확인했다.

 

$$Ax=b$$

 

이 식을 Gauss Elimination을 통해 풀면 x를 구할 수 있다.

 

Gauss Elimination을 좀 더 확장하면 $A^{-1}$도 구할 수 있다.

이 때, $A^{-1}$이 존재한다면, 연립 방정식의 해는 딱 하나가 존재한다. 그렇지 않으면 해가 없다.

 

지금까지의 내용에서는 미지수의 개수와 연립 방정식의 개수가 같았다.

이번 장 내용

똑같이 선형 방정식을 푸는데, 미지수의 개수가 방정식의 개수보다 많다는 것이 앞 장과의 차이점이다.

이 경우에 해가 무한히 많거나, 해가 없다.

 

그렇기 때문에 '무한히 많은 해를 어떻게 표현할 것인가'를 고민해야 한다.(vector space)

Chapter 2. Vector Space

Vector Space vs Subspace

Vector Space의 조건

• 덧셈에 대해 닫혀 있으며, Scalar 곱에 대해 닫혀 있어야 한다. (선형조합의 결과가 같은 Vector Space 안에 있어야 한다)
• zero vector(중심 좌표)를 포함해야 한다.

ex) $y=mx(m\neq 0), (x, y)\in R^2$

x, y는 $y=mx$를 만족하는 점들의 집합이다.

 

$S={(x, y)|y=mx,mx\neq 0}$

그렇다면 집합 S는 벡터 스페이스다.

 

이것이 벡터 스페이스가 될 수 있는 이유는 1) 원점을 포함하고, 2) $y=mx$의 임의의 두 점을 더해도 $y=mx$ 위에 있기 때문이다.

 

우리가 벡터 스페이스를 다룬 이유는 무한히 많은 해집합이 하나의 벡터 스페이스를 이루기 때문이다.

 

1. $x+y = y+x$
2. $x+(y+z)=(x+y)+z$
3. 덧셈 항등원이 있고, 덧셈 항등원에 대해 교환법칙이 성립한다. $x+0(항등원)=0(항등원)+x=x$
4. 덧셈 역원도 존재한다. $x+(-x)=0(항등원)$. 역원은 unique하다.
5. $1\cdot X=X$
6. $c(x+y)=cx+cy$(분배법칙)
7. $(c_1+c_2)*X=c_1X+c_2X$(분배법칙)

ex) 2차 다항함수 $ax^2+bx+c$가 있을 때 이것을 벡터로 표시하면 $\begin{bmatrix}a \ b \ c \end{bmatrix}$가 된다. 즉, 3차원 벡터 공간이라고 말할 수 있다($\in R^3$).

 

참고
하지만 $f(x)=e^x$와 같은 것은 어떻게 표현할 수 있을까?

 

Taylor Series라는 것을 사용한다. Base Point라는 기준점이 있으면, 그 기준점을 중심으로 해서 어떠한 함수든지 변수인 $x$에 대한 다항식으로 표시할 수 있다는 것이다.

 

$f(x)=f(0)+f'(0)x+\frac {f''(0)x^2} {2!}+\frac {f'''(0)x^3} {3!}+...$ 이런 식으로 차수를 늘릴 수 있다.

(복잡한 비선형 식들을 1, 2차 함수 정도로 근사할 때 자주 사용되는 것이다.)

 

위의 식 $f(x)=e^x$ Taylor Series에 의해 $1+x+x^2+x^3+...$으로 표현할 수 있다. 그러므로 $\begin{bmatrix}1 \\ 1 \\ \frac 1 {2!} \\ \frac 1 {3!} \\ ... \end{bmatrix}$으로 표현할 수 있다. 이 경우 무한대 차원에 해당하는 벡터공간이다. 이런 것은 Hilbert Space라고 따로 이름을 붙여 부른다.

Subspace

벡터 스페이스의 부분 집합과 같은 개념이라고 할 수 있다.

 

$s_1, s_2 \in S \subset V$
$c_1s_1+c_2s_2 \in S$

 

ex) $N\cdot N$인 Lower Triangular Matrix가 있다고 하자. 그렇다면 $c_1L_2+c_2L_2 \in L$도 만족한다. 그렇다면 $L$은 임의의 $N \cdot N$ Matrix인 $A$의 부분집합이다. 또한 $A$는 $N^2$ 공간의 subspace다.

정리하자면 아래와 같다.

 

$L_{n\cdot n}\subset A_{n\cdot n}\in R^{n^2}$

 

Upper Triangular Matrix도 마찬가지다.

Column Space of A(C(A))

Set of all Linear Combination from column vectors in A
A의 column vector로 만들 수 있는 모든 선형 조합의 집합

 

$A=\begin{bmatrix} a_1 & a_2 & a_3 & ...& a_n\end{bmatrix}\Rightarrow \displaystyle\sum_{i=1}^{n} c_ia_i$(여기 있는 a들은 column vector)

 

$c_i$이 모두 0이라면 zero vector가 되고, 이것 또한 Column Space에 포함된다고 할 수 있다.

 

ex 1) $Ax=b$라는 연립방정식이 있다. 이것은 $x_1a_1+x_2a_2+...+x_na_n=b$과 같은 column vector들의 linear combination으로 표현할 수 있다.

이 때 $b$라는 벡터가 C(A)라는 Column Space에 속해 있다면 솔루션이 존재한다. 그렇지 않다면 솔루션이 존재하지 않는다.

 

ex 2) $A$가 $n\times n$행렬일 때, $Ax=b$가 있다고 하자. 그렇다면 $A$의 inverse가 있는가 없는가에 따라 문제를 풀 수 있었다. inverse가 존재한다면 $x=A^{-1}b$로 unique한 해를 가진다.

A의 inverse가 존재한다면 $b \in C(A)$가 항상 성립한다.(b가 무엇이든지 간에 A의 inverse로 인해 하나의 해가 구해지므로)