[Linear Algebra] Part12. 선형방정식 해의 개수

선형방정식의 해의 개수는 행렬에 따라 다르게 나타난다.

즉, $A\textbf{x}=\textbf{b}$에서 행렬 $A$가 어떤 랭크를 가지느냐에 따라 해의 개수가 다르다.

 

---

1. Full Column Rank

full column rank는 행렬 $A$의 열 개수와 그 행렬의 랭크가 같은 경우이다.

이때 선형방정식은 다음과 같은 모양을 가진다.

 

$$A_{m\times n}\textbf{x}_{n\times 1}=\textbf{b}_{m\times 1}\\ $$

 

행렬 $A$는 위와 같이 $m\times n$ 행렬이다. 이때 $m\geq n$은 이며, 세로로 길쭉한 모양을 갖는다.

이러한 식을 풀어 쓰면 아래와 같다.

 

 

$$\begin{bmatrix} a_{11} & \cdots & a_{1n} \\ a_{21} & \cdots & a_{2n} \\ \vdots & \vdots & \vdots \\ a_{(m-1)1} & \cdots & a_{(m-1)n} \\ a_{m1} & \cdots & a_{mn} \\ \end{bmatrix} \begin{bmatrix} \textbf{x}_{1} \\ \vdots \\ \textbf{x}_{n} \end{bmatrix} = \begin{bmatrix} b_{1} \\ b_{2} \\ \vdots \\ b_{m-1} \\ b_{m} \end{bmatrix}$$

 

행렬 $A$는 $m\times n$ 행렬이고, $n\times 1$인 $\textbf{x}$와 선형결합을 통한 결과 벡터는 $\textbf{b}$는 $m \times 1$ 벡터가 된다. 

여기서 알 수 있는 점은 해공간이 전체 $m$차원에서 $A$의 열공간인 $n$차원으로 span 된 공간이라는 것이다. 

 

다시말해,

행렬 $A$의 열공간인 $n$차원 공간 안에 벡터 $\textbf{b}$가 존재하면 해가 있다. 또, 이때의 벡터 $\textbf{b}$는 열공간 안에 하나의 점으로 존재하므로, 그에 따른 해가 한 개 존재한다.

하지만. $\textbf{b}$의 차원은 $m$차원이기 때문에 벡터 $\textbf{b}$가 $n$차원에 존재하지 않을 수도 있다.

 

그러므로, 벡터 $\textbf{b}$가 행렬 $A$의 열공간인 $n$차원에 존재하면 하나의 해가 있고, 존재하지 않으면 해가 없다.

 

 

2. Full Row Rank

full row rank는 행렬 $A$의 행 개수와 랭크가 같은 경우이다.

이때는 다음과 같은 선형방정식을 가진다.

 

$$A_{n\times m}\textbf{x}_{m\times 1}=\textbf{b}_{n\times 1}\\ $$

 

풀어서 표현하면 다음과 같다.

 

$$\begin{bmatrix} a_{11} & a_{12} & \cdots & a_{1(m-1)} & a_{1m} \\ \vdots & \vdots & \vdots \\ a_{n1} & a_{n2} & \cdots & a_{n(m-1)} & a_{nm} \\ \end{bmatrix} \begin{bmatrix} \textbf{x}_{1} \\ \textbf{x}_{2} \\ \vdots \\ \textbf{x}_{m-1} \\ \textbf{x}_{m} \end{bmatrix} = \begin{bmatrix} b_{1} \\ \vdots \\ b_{n} \end{bmatrix}$$

 

위와 같은 경우는 $A$의 열공간이 $m$ 차원이고, $\textbf{b}$의 차원 역시 $m$차원이다.

즉, $\textbf{b}$는 $A$의 열공간이 $m$ 차원에서만 존재하기 때문에 무조건 해가 존재하며, 특수해(particular solution), 소거법을 마친 후에 free variable을 0으로 만든 후에 찾을 수 있는 해가 $m$차원에 무조건 존재한다는 의미이다.

 

이를 수식으로 나타내면 다음과 같다.

 

$$A\textbf{x}_{p}=\textbf{b}$$

 

여기서 잠깐 완전해(complete solution) 개념을 짚고가자.

완전해는 특수해(particular solution)과 영공간의 해(null space solution)을 더한 값이다.

이는 homogeneous equation과 동일한 개념이 적용되는데, 이는 추후 정리하도록 한다.

 

완전해를 수식으로 표현하면 다음과 같다.

 

$$x_{p} = particular \; solution\\ x_{n} = null \; space \; solution\\ x = x_{p}x_{n}$$

 

결국, $A\textbf{x}=\textbf{b}$는 다음과 같이 정리된다.

 

$$A(\textbf{x}_{p}+\textbf{x}_{n})=\textbf{b}$$

 

full row rank에서는 null space가 $m-n$차원에서 존재하므로 무수히 많이 존재하게 된다.

즉, full row rank에서의 해는 무한하게 존재한다.

 

 

3. Full Rank

정사각행렬은 역행렬이 가능하다.

즉, $\textbf{x}=A^{-1}\textbf{b}$이며, 이를 만족하는 $\textbf{x}$는 단 1개가 존재한다.

그러므로, full rank의 경우 해가 1개 존재한다.

 

 

4. Rank Deficient

rank deficient의 경우 역행렬이 존재하지 않고, 조건에 따라 해의 유무가 달라진다.

예시를 보자.

 

$$A_{2\times 3}=\begin{bmatrix} 1 & 2 & 3 \\ 0 & 0 & 0 \\ \end{bmatrix} \rightarrow \left \{ \begin{matrix} rank(A)=1 \cdots (1)\\ dim(N(A))=3-rank(A)=2 \cdots (2) \end{matrix}\right.$$

 

(1)의 경우 $A$의 열공간은 직선으로 표현되고, $\textbf{b}$가 그 직선 위에 있으면 해가 무수히 존재하고 없으면 해가 없다. (2)의 경우는 영공간의 차원이 2이므로 2차원 내에서 해가 무한하게 존재하게 된다. 

 

즉, 이 경우 완전해의 경우는 다음과 같이 된다.

 

$$A(\textbf{x}_{p}+\textbf{x}_{n})=\textbf{b}\\ A((exist \;or\; not exist)+\infty )=\textbf{b}$$

 

그러므로, $\textbf{b}$가 $C(A)$에 존재하면 해가 무한하고, 존재하지 않으면 해가 없다.

 

 

---

앞선 full column rank에서도 완전해 개념으로 정리할 수 있다.

full column rank에서는 $dim(N(A)) = \#\; of\;  matrix\; A\; column - rank(A) = n - n = 0$이므로

영공간의 차원이 0이므로, $\textbf{x}_{n}$이 1개 존재한다.

 

$$A(\textbf{x}_{p}+\textbf{x}_{n})=\textbf{b}\\ A((exist \;or\; not exist)+ only \; 1 \; exist )=\textbf{b}$$

 

그러므로, 해가 1개 또는 존재하지 않는다.