欲速不達

일을 급히 하고자 서두르면 도리어 이루지 못한다.

Fantastic AI, Fantastic World

DS | Data Science/Statistics & Math

[Linear Algebra] Part4. 선형결합과 벡터공간, 그리고 부분공간

_껀이_ 2024. 1. 2. 19:44
728x90
반응형

https://kkuneeee.tistory.com/76

 

[Linear Algebra] Part1. 행렬과 벡터 그리고 선형대수학

1. 들어가며 딥러닝, 머신러닝 등 인공지능 분야에서는 주로 행렬, 벡터를 사용하는 알고리즘으로 선형대수학 개념이 중요하게 작용한다. 그러므로 선형대수학의 정리가 필수적이며, 단순하게

kkuneeee.tistory.com

 

앞서 벡터에 대해 정리해보았다.

 

벡터는 방향과 크기를 가지는 물리량으로 이러한 벡터들이 존재하는 공간을 벡터공간(Vector Space)이라고 한다.

그렇다면 벡터공간은 어떻게 구성되고 정확히 어떤 것을 의미하는 것일까?

 


 

1. 벡터공간 : Vector Space

벡터 공간에 대해 이야기 하기 전에 우선 공간에 대해 이야기해보자.

 

공간이란 무엇일까?

 

우리는 어렸을때 0차원의 점이 모여 1차원의 선이 되고, 1차원의 선이 모여 2차원의 면이 되며, 2차원의 면이 모여 3차원의 공간이 된다고 배웠을 것이다.

 

이처럼 벡터 공간은 벡터들이 모여 형성되는 공간이라고 할 수 있다.

 

예를 들어, x축과 y축으로 이루어진 2차원의 벡터 공간(x-y 평면 : x-y plane)을 생각해볼 수 있다. x축과 y축에는 수많은 실수가 존재하며 이 두 실수를 성분으로 하는 벡터가 2차원의 벡터 공간에 무수히 많이 존재하는 것이다. 

 

그렇다면 존재하는 모든 벡터들은 하나의 벡터공간에서 존재하는 것일까?

 

위의 x-y 평면 공간에서 확인해보자.

x-y 평면에 존재하는 벡터들의 성분은 모두 실수이다. 이 공간에 존재하는 벡터들은 서로 더하거나, 빼는 등의 연산을 통해 벡터의 길이가 늘어나거나 줄어들 수 있으며 연산 결과로 만들어진 벡터들 또한 x-y 평면에 존재한다.

 

즉, 선형결합(Linear Combination)이 같은 공간 상에 존재하는 벡터들 사이에 가능해야 한다.

 

그렇기에 일반적으로 같은 벡터공간 상에 허수와 실수를 동시에 다루지는 않는다. 따로 복소수 벡터 공간에서 실수와 허수 부분을 다루고 있으며, 이에 대한 정리는 기회가 되면 하도록 한다.

 

또, 성분이 모두 0으로 구성된 [0 0] 벡터는 반드시 벡터공간에 존재한다. 왜냐하면 벡터공간 내에 존재하는 벡터들은 선형결합을 통해 만들어지기 때문이다. 

 

 

1) 선형결합 : Linear Combination

 

선형결합이란, 여러 벡터들이 주어졌을 때 각각의 벡터에 임의의 상수(계수 또는 가중치)를 곱하고 모두 합친 형태를 말한다. 선형대수학의 기본 개념과 같이 행렬과 벡터를 이용하여 방정식으로 표현할때, 벡터 형태로 표현하는 방식이다. 이런 형태를 벡터 방정식이라고 한다.

 

또, 선형결합의 상수항(가중치)은 모든 실수가 될 수 있고, 0까지 포함한다.

 

$$ c_{1}v_{1}+c_{2}v_{2}+c_{3}v_{3}+...+c_{n}v_{n} = p $$

 

위에서 언급했듯이, 벡터공간은 선형결합이 가능한 벡터들로 구성된다.

 

2) 생성 : Span

 

Span은 주어진 벡터들을 선형결합하여 만든 모든 벡터들의 집합이다. 공간적으로 생각해보면 Span은 벡터공간이라고 할 수 있으며, 실수 벡터공간 $R^{n}$의 부분공간이라고도 할 수 있는 것이다.

 

$R^{n}$ = 집합 vs 공간??

$R^{n}$에서 R은 실수를 의미하고 n은 차원(개수)을 의미한다. 
즉, $R^{n}$의 한 원소는 ( a1, a2, ..., an)이 된다.


집합은 공간과 비교하면 정적인 개념이다. 예를 들어, 집합 A = {a,b,c}이 있을때, a,b,c 간의 어떤 연산도 작용하지 않는다. 그저 집합 A에 a,b,c가 원소로 주어진다는 것이다.


이러한 집합이 공간이 되기 위해서 규칙을 준다. 원소끼리 더하거나, 스칼라배 등을 통해 연산을 할 수 있도록 규칙을 부여함으로써 원소의 길이가 늘어나기도 하고, 원소가 변화하기도 한다. 이와 같이 상대적으로 동적인 집합의 모습을 공간이라 한다.


그러므로 실수 집합 $R^{n}$은 집합이기도 하면서 동시에 벡터공간이 된다.

 

 

기하학적으로 보면 Span의 공간적 개념은 다음과 같다.

 

그림에서 보면 벡터 v1과 벡터 v2를 선형결합하면 하나의 평면(plane)을 생성할 수 있고, 이러한 생각을 n차원으로 확장할 수 있다.

 

즉, 선형결합으로 생성되는 벡터방정식은 하나의 벡터공간을 형성하게 되고, n차원의 벡터를 선형결합하여 생성되는 벡터공간은 n차원이다.

 

 

이러한 기하학적 개념을 가지고 벡터 방정식을 다시 보자.

 

2차원 벡터로 선형결합하면 2차원 공간에 매핑되고, 3차원 벡터로 선형결합하면 3차원 공간에 매핑된다. 다시 말하면 2차원 벡터를 아무리 선형결합한다고 해도 3차원 공간 전체에 매핑될 수 없으며, 정확한 해를 구하지 못할 수 있다는 뜻이다.

 

위의 그림에서처럼 선형결합의 값 b가 span된 공간안에 존재해야 해를 구할 수 있다. 

 

2. 부분공간 : Subspace

부분공간은 말 그대로 전체공간의 일부분을 말한다. 즉, 어떤 벡터집합의 일부분으로 만든 공간을 전체공간의 부분공간이라고 하며, 앞서 말한 span으로 표현할 수 있다.

 

 


 

그렇다면 벡터공간의 중요한 개념인 기저(base)와 선형독립(Linearly Independence), 선형종속(Linearly Dependence)는 무엇일까? 

 

728x90
반응형