[Linear Algebra] Part8. 행렬 곱셈의 4가지 관점

행렬 곱셈을 바라보는 4가지 관점에 대해서 설명하려고 한다.

행렬 곱셈을 바라보는 관점으로는 내적, rank-1 matrix의 합, 열공간, 행공간 관점이 있다.

---

 

1. 내적 관점

일반적으로 행렬곱이라고 하면 내적 관점으로 보면 된다.

 

$$ A = \begin{bmatrix} a_{1}^{T} \\ a_{2}^{T} \\ a_{3}^{T} \\ \end{bmatrix} B = \begin{bmatrix} b_{1} & b_{2} & b_{3}\\ \end{bmatrix} $$

 

위와 같이 행렬 A, B가 있다.

각 성분은 열벡터를 기준으로 표시하지만, 편의를 위해 행렬 A의 성분은 전치시켜 행벡터로 표시했다.

 

행렬곱의 과정은 다음과 같다.

 

$$ AB = \begin{bmatrix} a_{1}^{T} \\ a_{2}^{T} \\ a_{3}^{T} \\ \end{bmatrix} \begin{bmatrix} b_{1} & b_{2} & b_{3}\\ \end{bmatrix} = \begin{bmatrix} a_{1}^{T}b_{1} & a_{1}^{T}b_{2} & a_{1}^{T}b_{3} \\ a_{2}^{T}b_{1} & a_{2}^{T}b_{2} & a_{2}^{T}b_{3} \\ a_{3}^{T}b_{1} & a_{3}^{T}b_{2} & a_{3}^{T}b_{3} \\ \end{bmatrix} $$

 

결과로 나오는 3 x 3 행렬의 각 성분은 행렬 A와 B의 각 행벡터와 열벡터의 내적으로 표현된다.

계산해보면 일반적인 행렬곱 연산과 동일하다.

 

 

 

2. Rank-1 Matrix의 합

rank-1 matrix의 합으로 보는 관점도 내적과 유사하다.

 

$$ A = \begin{bmatrix} a_{1} & a_{2} & a_{3}\\ \end{bmatrix} B = \begin{bmatrix} b_{1}^{T} \\ b_{2}^{T} \\ b_{3}^{T} \\ \end{bmatrix} $$

 

이번엔 행렬 A를 그대로 열벡터 모양으로 두고, 행렬 B를 행벡터로 표현한다.

 

연산과정은 다음과 같다.

 

$$ AB = \begin{bmatrix} a_{1} & a_{2} & a_{3}\\ \end{bmatrix} \begin{bmatrix} b_{1}^{T} \\ b_{2}^{T} \\ b_{3}^{T} \\ \end{bmatrix} = a_{1}b_{1}^T + a_{2}b_{2}^T + a_{3}b_{3}^T $$

 

연산결과인 $a_{1}b_{1}^T + a_{2}b_{2}^T + a_{3}b_{3}^T$의 각 항은 필연적으로 rank 1이 되기 때문에 rank-1 matrix라고 한다.

즉, 열벡터 $\times$ 행벡터는 rank가 1이다.

 

 

 

3. 열공간 관점

앞선 포스팅에서 열공간은 열벡터로 span되는 벡터공간이라고 했다.

행렬과 벡터의 곱 과정을 보자

 

$$ A\textbf{x} = \begin{bmatrix} a_{1} & a_{2} & a_{3} \\ \end{bmatrix} \begin{bmatrix} x_{1} \\ x_{2} \\ x_{3} \end{bmatrix} = a_{1}x_{1}+ a_{2}x_{2}+a_{3}x_{3} $$

 

행렬 A와 벡터 $\textbf{x}$의 곱은 위와 같이 표현할 수 있다.

연산 결과인 $a_{1}x_{1}+ a_{2}x_{2}+a_{3}x_{3}$의 각 항은 열벡터의 스칼라배의 합로 표현할 수 있다. 다시말하면, 열벡터의 선형결합으로 이루어진 열공간이 된다.

 

이러한 개념에서 벡터 $\textbf{x}$를 행렬로 확장하면 열공간 관점에서 행렬곱을 표현할 수 있다. 

 

 

 

4. 행공간 관점

행공간 관점에서의 행렬곱은 열공간 관점을 열벡터에서 행벡터로 변화시킨 것이다.

 

$$ \textbf{x}^{T}A = \begin{bmatrix} x_{1} & x_{2} & x_{3} \\ \end{bmatrix} \begin{bmatrix} a_{1}^{T} \\ a_{2}^{T} \\ a_{3}^{T} \end{bmatrix} = x_{1}a_{1}^{T}+ x_{2}a_{2}^{T}+x_{3}a_{3}^{T} $$

 

열공간 관점과 마찬가지로 연산결과의 각 항은 행벡터의 스칼라배의 합이며, 행벡터의 선형결합으로 이루어져 있으므로 행공간이 된다.