[Linear Algebra] Part9. 항등행렬(Identity Matrix), 역행렬(Inverse), 대각행렬(Diagonal Matrix), 직교행렬(Orthogonal Matrix)

행렬의 중요한 개념인 항등행렬, 역행렬, 직교행렬에 대해 정리해보자.

 

우선 그 개념부터 간단히 정리하고, 각각의 개념을 예시를 들어 설명해보고자 한다.

 

 

항등행렬은 "어떤 행렬 A에 대해서 곱했을 때 자기 자신(A)를 만들게 하는 행렬"이다. 즉, $ A\times I = A $를 만족하는 행렬 $I$를 Identity Matrix라고 하고 약자로 $I$를 사용한다.

 

역행렬은 "어떤 행렬 A에 대해서 곱했을 때, 항등행렬을 만들게 하는 행렬"을 말한다. 즉, $A\times A^{-1}=I$를 만족하는 $A^{-1}$ 행렬을 말한다. 

 

대각행렬은 "어떤 행렬 A가 대각성분(diagonal element)를 제외한 성분들이 0인 행렬"을 말한다. 

 

직교행렬은 "어떤 행렬 A의 열벡터가 자기자신을 제외하고 서로 직교인 행렬"을 말한다. 

 

---

1. 항등행렬 : Identity Matrix

바로 예시로 보자.

 

$$ A = \begin{bmatrix} 1 & 2 & 3 \\ 4 & 5 & 6 \\ \end{bmatrix} $$

 

위와 같은 행렬 A가 있을때, 항등행렬은 다음과 같이 된다.

 

$$ \begin{bmatrix} 1 & 2 & 3 \\ 4 & 5 & 6 \\ \end{bmatrix} \begin{bmatrix} 1 & 0 & 0 \\ 0 & 1 & 0 \\ 0 & 0 & 1 \\ \end{bmatrix} = \begin{bmatrix} 1 & 2 & 3 \\ 4 & 5 & 6 \\ \end{bmatrix} \\\Rightarrow \begin{bmatrix} 1 \\ 4 \end{bmatrix} 1 + \begin{bmatrix} 2 \\ 5 \end{bmatrix} 0 + \begin{bmatrix} 3 \\ 6 \end{bmatrix} 0 + \begin{bmatrix} 1 \\ 4 \end{bmatrix} 0 + \begin{bmatrix} 2 \\ 5 \end{bmatrix} 1 + \begin{bmatrix} 3 \\ 6 \end{bmatrix} 0 + \begin{bmatrix} 1 \\ 4 \end{bmatrix} 0 + \begin{bmatrix} 2 \\ 5 \end{bmatrix} 0 + \begin{bmatrix} 3 \\ 6 \end{bmatrix} 1 $$

 

행렬곱을 했을때 위와 같이 A의 열벡터가 그대로 나오는 것을 볼 수 있다. 이를 문자로 나타내면 $AI=A$가 되며, 열공간 관점으로 행렬곱을 진행하는 것을 볼 수 있다.

 

즉, A의 열벡터가 각각의 열에서 그대로 존재하게끔 선택하는 행렬을 항등행렬($I$)라고 한다.

 

그렇다면 행공간으로 연산하는 항등행렬도 있을까?

아래의 연산과정을 보자.

 

$$ \begin{bmatrix} 1 & 0 \\ 0 & 1 \\ \end{bmatrix} \begin{bmatrix} 1 & 2 & 3 \\ 4 & 5 & 6 \\ \end{bmatrix} = \begin{bmatrix} 1 & 2 & 3 \\ 4 & 5 & 6 \\ \end{bmatrix} \\\Rightarrow 1\begin{bmatrix} 1 & 2 & 3 \\ \end{bmatrix} + 0\begin{bmatrix} 4 & 5 & 6 \\ \end{bmatrix} + 0\begin{bmatrix} 1 & 2 & 3 \\ \end{bmatrix} + 1\begin{bmatrix} 4 & 5 & 6 \\ \end{bmatrix} $$

 

A의 행벡터가 각각의 행에서 그대로 선택되어지는 것을 볼 수 있다.

 

그러므로,

위의 두 연산 예시에서 볼 수 있듯이 항등행렬은 교환 법칙이 성립한다.

 

$$ AI = IA = A $$

 

하지만 항등행렬이 어디에 붙냐에 따라서 2x2, 3x3 등 모양이 바뀔 수 있기 때문에 이를 구분하기 위해 각각 $I_{2}$,  $I_{3}$으로 표시한다.

$I$ 밑의 숫자는 행렬 A의 모양 n x m에 따라 달라진다.

 

 

2. 역행렬 : Inverse Matrix

역행렬은 항등행렬을 만드는 행렬이다.

수 개념으로 보면 자기자신으로 나누는 것이기 때문에 $\frac{1}{A}$ 개념이므로, $A^{-1}$로 표현한다.

 

역행렬은 행렬마다 존재할 수도 안할 수도 있다.

존재하면 Invertible하다고 하고, 역행렬은 항등행렬과 마찬가지로 교환법칙이 성립한다.

$$AA^{-1} = A^{-1}A = I$$

 

역행렬의 존재여부 확인은 추후 다루도록 한다.

 

 

3. 대각행렬 : Diagonal Matrix

대각행렬은 대각성분을 제외한 다른 성분들이 모두 0인 행렬이다.

 

$$A=\begin{bmatrix} a & 0 & 0 \\ 0 & b & 0 \\ 0 & 0 & c \\ \end{bmatrix}$$

 

일반적으로는 위와 같이 대각선 성분을 제외한 나머지 성분이 0이며, n x n의 정사각행렬을 말한다.

정사각 대각행렬인 경우, 대칭행렬이다.

 

 

하지만 아래와 같이 예외도 있다.

 

$$ B=\begin{bmatrix} a & 0 & 0 \\ 0 & 0 & 0 \\ 0 & 0 & 0 \\ \end{bmatrix} C=\begin{bmatrix} a & 0 & 0 \\ 0 & b & 0\\ 0 & 0 & c \\ 0 & 0 & 0 \\ 0 & 0 & 0 \\ \end{bmatrix} $$

 

행렬 B와 같이 대각성분중에서 하나라도 성분의 값이 있는 경우나, n x m 모양의 행렬이지만 대각성분이 존재하는 경우도 대각행렬로 본다.

후자의 경우, rectangular diagonal matrix라고 한다.

 

 

4. 직교행렬 : Orthogonal Matrix

직교행렬은 행렬의 열벡터끼리 직교하는 행렬이다.

즉, 직교하는 열벡터로 구성되는 행렬이다.

이런 열벡터를 Orthonomal Vector라고 한다.

 

이러한 성질을 통해 직교행렬의 역행렬은 항상 존재하게 된다.

무슨 의미냐, 아래의 과정을 보자.

 

$$ A = \begin{bmatrix} a_{1}^{T} \\ a_{2}^{T} \\ a_{3}^{T} \end{bmatrix} Q = \begin{bmatrix} q_{1} & q_{2} & q_{3} \\ \end{bmatrix} \\\Rightarrow AQ = \begin{bmatrix} a_{1}^{T}q_{1} & a_{1}^{T}q_{2} & a_{1}^{T}q_{3} \\ a_{2}^{T}q_{1} & a_{2}^{T}q_{2} & a_{2}^{T}q_{3} \\ a_{3}^{T}q_{1} & a_{3}^{T}q_{2} & a_{3}^{T}q_{3} \\ \end{bmatrix} = \begin{bmatrix} 1 & 0 & 0 \\ 0 & 1 & 0 \\ 0 & 0 & 1 \\ \end{bmatrix} $$

 

어떤 행렬 A가 있고, 대각행렬 Q가 있다.

두 행렬의 곱은 위와 같이 표현되고, 결과가 항등행렬이 된다고 할때, A는 Q의 역행렬이 될 수 있다.

이때, 결과 행렬의 각 성분은 열벡터와 행벡터의 내적으로 표현된다. 결과행렬의 n행, n열의 성분을 제외한 나머지가 0이 된다는 것은 n행은 n열을 제외한 나머지 행과 직교한다는 의미이다.

 

Q는 직교행렬이므로, 각 열벡터는 서로 직교한다. 각 열벡터끼리의 내적은 0이 되므로, A는 $Q^{T}$가 된다.

A는 $Q^{-1}$이었으므로, 다음과 같은 결과를 얻을 수 있다.

$$Q^{-1}=Q^{T}$$