[선형대수] 6강. 영벡터공간과 해집합

Null Space of A(N(A))

Set of vectors such that $Ax=0$($0$은 zero vector를 의미)

 

$N(A)= \{ x|Ax=0 \}$

 

이 때 조건을 만족하는 $x$라는 벡터 값들이 공간(space)임을 보이기 위해 5강에서 다뤘던 조건을 만족하는지 본다.

1. closed under addition  
   $Ax_1=0, Ax_2=0$이 있다고 하자. 즉, $x_1, x_2$는 Null Space라는 집합의 원소다. 그렇다면 $x_1+x_2\in N(A)$를 만족할 것인가. 이를 위해서는 $A(x_1+x_2)=0$임을 확인하면 된다. 식을 분리하면 $A(x_1)+A(x_2)$이고, 각각이 영벡터이므로 둘을 합치면 $0$이 된다. 그러므로 덧셈에 대해 닫혀있다고 말할 수 있다.

2. closed under scalar multiplication  
   $A(x_1)=0$과 임의의 스칼라 $c$가 있다고 하자. 이 때 $cA(x_1)\in N(A)$를 보이면 된다. 이것을 보기 위해서 $A(cx)=0$임을 확인하면 된다. $cA(x)$으로 정리할 수 있으며, $A(x)$가 0이므로 스칼라 $c$를 곱한 것도 0이 된다. 그러므로 스칼라 곱셈에 대해 닫혀있다고 말할 수 있다.

3. 원점을 포함하는가  
   $x$가 0이면 $Ax=0$이므로 항상 원점을 포함하고 있다.

ex)
$\begin{cases}
u + w = 0 \\
5u + 4v + 9w = 0 \\
2u + 4v + 6w = 0 \\
\end{cases}$

 

1. $(2)-5(1)$
   $4v+4w=0$
2. $(3)-2(1)$
   $4v+4w=0$

이런 식으로 식을 정리해보면 $u+w=0, v+w=0$이 나온다. 하나의 값이 나오면 좋겠지만 딱 하나의 해가 나오는 것이 아니다.(그 이유는 행렬로 바꿨을 때 계수의 역행렬이 존재하지 않기 때문)

 

$w=c$라고 두면, $u=v=-c$로 볼 수 있다. 이것을 열벡터로 표현해보면 $\begin{bmatrix}u\\v\\w\end{bmatrix}=\begin{bmatrix}-c\\ -c\\c\end{bmatrix}=c\begin{bmatrix} -1\\ -1\\1\end{bmatrix}$이다. $c$가 무엇이냐에 따라 $u, v, w$는 특정한 벡터들의 집합이 된다. 즉, 해가 무한히 많다.

 

행렬로 풀어보자.

$\begin{bmatrix}1&0&1\\5&4&9\\2&4&6\end{bmatrix}\begin{bmatrix}u\\v\\w\end{bmatrix}=\begin{bmatrix}0\\0\\0\end{bmatrix}\Rightarrow Ax=0$이므로 $x$는 Null Space다.

Solving Ax=0 & Ax=b

매번 문제를 풀 때 마다 관계식을 찾아내고 푸는 것은 힘드므로, 가우스 소거법처럼 솔루션을 규격화된 절차를 만들고, 솔루션을 벡터의 선형 조합으로 표현할 수 있게 해주는 방법을 찾는다.

 

미지수의 개수가 연립 방정식의 개수보다 많은 경우를 보자. 이 때 A는 Rectangular한 형태이기 때문에 inverse가 존재하지 않고, 그렇기 때문에 해가 없거나 무수히 많거나 하는 두 가지의 솔루션이 존재한다.

Echelon Form (U)

---

 

ex)
$\begin{bmatrix}1&3&3&2\\2&6&9&7\\ -1&-3&3&4\end{bmatrix}\begin{bmatrix}u\\v\\w\\z\end{bmatrix}=\begin{bmatrix}0\\0\\0\\0\end{bmatrix}$

 

이 때 열벡터는 3차원 모양인데, 미지수는 4차원이다(Sqare Matrix가 아니다). 수식으로 표현해보면 $C(A)\subset R^m, N(A)\subset R^n$이다.

 

Null space를 구할 때는 오른쪽의 값은 항상 0이기 때문에 고려할 필요가 없다. $\begin{bmatrix}1&3&3&2\\2&6&9&7 \\ -1&-3&3&4\end{bmatrix}$만 보면 된다.

 

가우스 소거법은 피봇을 정하고 피봇의 아래 변수들을 모두 0으로 만들어 주는 것이다.

 

$\begin{bmatrix}\underline{1}&3&3&2\\2&6&9&7\\ -1&-3&3&4\end{bmatrix}\Rightarrow \begin{bmatrix}1&3&3&2\\0&0&\underline{3}&3\\0&0&6&6\end{bmatrix}\Rightarrow \begin{bmatrix}1&3&3&2\\0&0&3&3\\0&0&0&0\end{bmatrix}$

 

여기까지의 결과물인 $\begin{bmatrix}1&3&3&2\\0&0&3&3\\0&0&0&0\end{bmatrix}$은 Echelon Form이라고 할 수 있다.

(피봇에는 underline을 그어줬다. 첫 번째 열을 연산한 이후 두 번째 열에서 피봇을 찾아야 하는데 모두 0이라 없으므로 세 번째로 넘어간 것이다.)

 

이 때 세 번째 행은 $0u+0v+0w+0z=0$을 의미하므로 아무런 정보가 없는 식이다. 그러므로 우리가 실제로 가진 정보는 첫 번째와 두 번재 행이고, 이것으로 관계식을 만들어야 한다.

 

이제 모든 피봇을 1로 만든다.(피봇은 1행의 1과 2행의 첫 번째 3)

$\begin{bmatrix}1&3&3&2\\0&0&3&3\\0&0&0&0\end{bmatrix}\Rightarrow \begin{bmatrix}1&3&3&2\\0&0&1&1\\0&0&0&0\end{bmatrix}$

 

다음으로는 피봇이 위치한 column에는 피봇을 제외한 것들이 모두 0이 되도록 만든다.

 

아래는 $1-3(2)$의 결과다.

$\begin{bmatrix}1&3&3&2\\0&0&1&1\\0&0&0&0\end{bmatrix}\Rightarrow \begin{bmatrix}1&3&0&-1\\0&0&1&1\\0&0&0&0\end{bmatrix}$

 

이렇게 나온 행렬을 Row Reduced From이라고 하며 쓸 때는 $R$이라고 쓴다.

이 $R$로 해집합을 구할 수 있다.

 

최종적으로 $\begin{bmatrix}\underline{1}&3&0&-1\\0&0&\underline{1}&1\\0&0&0&0\end{bmatrix}\begin{bmatrix}\underline{u}\\v \\underline{w}\\z\end{bmatrix}=\begin{bmatrix}0\\0\\0\\0\end{bmatrix}$이라는 관계식이 나온다.

 

이 때 피봇이 존재하는 column의 변수를 pivot variable이라고 하며(u, w가 해당), 피봇이 존재하지 않는 column의 변수를 free variable이라고 한다(v, z가 해당).

 

이제 할 일은 pivot variable을 free variable로 표현하는 것이다.

 

$\begin{cases}
u+3v-z=0 \\
w+x=0 \\
\end{cases}$

$\hspace{1cm}\Downarrow$

$\begin{cases}
u=-3v+z \\
w=-z \\
\end{cases}$

 

이제 구해고자 했던 $\begin{bmatrix}u\\v\\w\\z\end{bmatrix}$를 다음과 같이 바꿀 수 있다.

 

$\begin{bmatrix}u\\v\\w\\z\end{bmatrix}=\begin{bmatrix}-3v+z\\v\\ -z\\z\end{bmatrix}$

 

이제 식을 $v$가 포함된 부분과 $z$가 포함된 부분으로 나눌 수 있다.

 

$v\begin{bmatrix}-3\\1\\0\\0\end{bmatrix}+z\begin{bmatrix}1\\0\\ -1\\1\end{bmatrix}$

 

u, v, w, z로 이루어진 x를 구하는데 그 결과가 v, z에 대한 선형 조합으로 나왔다(free variable에 대한 선형 조합).

이 v, z에 대한 선형 조합이 이 예제에서의 Null Space라고 할 수 있다.

 

$v\begin{bmatrix}-3\\1\\0\\0\end{bmatrix}+z\begin{bmatrix}1\\0\\ -1\\1\end{bmatrix} \in N(A)$

 

이 때 구한 $\begin{bmatrix} -3\\1\\0\\0\end{bmatrix}, \begin{bmatrix}1\\0\\ -1\\1\end{bmatrix}$을 special solution이라고 한다.

Dimension of Vector Space

$Dim(N(A))$ : number of independant special solution

위 예제에서는 special solution이 2개였으므로, $Dim(N(A)) = 2$이다.