방송대 선형대수 8강: 벡터공간과 부분공간 판정

벡터처럼 생겼다는 사실만으로 벡터공간이 되는 것은 아니다. 어떤 스칼라를 쓰고 어떤 연산을 적용하는지 확인한 뒤, 닫힘성이 유지되는지를 검사해야 한다. 이 글에서는 행렬·다항식·함수처럼 서로 다른 대상을 같은 기준으로 바라보고, 부분공간 후보를 빠르게 탈락시키거나 끝까지 증명하는 판단 순서를 익힌다.

대상의 모양보다 연산이 먼저다

지난 강의의 공간벡터는 실수 성분을 가진 순서쌍이나 순서세쌍이었다. 이번 강의에서는 벡터의 범위를 행렬, 다항식, 연속함수까지 넓힌다. 이 대상들은 겉모양이 전혀 다르지만, 덧셈과 스칼라곱이 일정한 규칙을 만족한다는 공통점으로 하나의 언어 안에 들어온다.

따라서 “이 원소가 화살표인가?”가 아니라 다음 세 질문을 차례대로 물어야 한다.

스칼라를 가져오는 집합은 어떤 체인가?
벡터끼리의 덧셈과 스칼라곱은 어떻게 정의했는가?
그 연산을 해도 결과가 집합 안에 남고, 필요한 법칙이 성립하는가?

판단 핵심: 같은 원소 집합이라도 연산을 다르게 정의하면 벡터공간 여부가 달라질 수 있다. 집합, 체, 두 연산을 한 묶음으로 읽어야 한다.

체는 스칼라 계산의 규칙을 보장한다

체(field)는 덧셈과 곱셈이 정의된 집합으로, 두 연산에 대해 닫혀 있으며 사칙연산을 안정적으로 수행할 수 있는 성질을 갖는다. 덧셈과 곱셈에는 교환법칙과 결합법칙이 성립하고, 각각의 항등원이 존재한다. 모든 원소에는 덧셈의 역원이 있고, 0이 아닌 원소에는 곱셈의 역원이 있다. 곱셈은 덧셈에 대해 분배된다. 체의 원소를 벡터공간에서는 스칼라라고 부른다.

원소가 두 개뿐인 체

F={0,1}에서 덧셈과 곱셈을 2로 나눈 나머지로 정하면 1+1=0, 1·1=1이다. 덧셈은 XOR, 곱셈은 AND의 진리표와 같은 결과를 낸다. 특히 1의 덧셈 역원은 1이고, 0이 아닌 유일한 원소 1의 곱셈 역원도 1이다.

유리수보다 크고 실수보다 작은 예

Q(√2)={a+b√2 | a,b∈Q}에서 두 원소 a+b√2, c+d√2를 더하고 곱하면 다음과 같다.

덧셈: (a+c)+(b+d)√2
곱셈: (ac+2bd)+(ad+bc)√2

두 결과의 계수도 유리수이므로 집합 안에 남는다. 또한 0이 아닌 a+b√2의 역수는 (a-b√2)/(a²-2b²)로 쓸 수 있어 같은 꼴을 유지한다. 이 예는 체가 원소의 개수나 익숙한 모양이 아니라 연산 법칙으로 결정된다는 점을 보여 준다.

벡터공간은 덧셈 층과 스칼라곱 층을 함께 검사한다

집합 V와 체 F가 있을 때, V가 F 위의 벡터공간(vector space)이 되려면 벡터 덧셈과 스칼라곱이 닫혀 있고 다음 법칙들이 성립해야 한다. 강의의 여덟 성질은 두 층으로 나누면 기억하기 쉽다.

검사 층	확인할 성질	의미
벡터 덧셈	교환·결합, 영벡터, 덧셈 역원	더하고 되돌리는 계산이 집합 안에서 완결된다.
스칼라곱	`(kl)A=k(lA)`, `1A=A`	스칼라를 연속해서 곱해도 체의 곱셈과 맞물린다.
두 층의 연결	`k(A+B)=kA+kB`, `(k+l)A=kA+lA`	스칼라곱이 두 종류의 덧셈과 분배법칙으로 연결된다.

벡터의 ‘곱셈’이라는 표현은 벡터끼리 곱한다는 뜻이 아니다. 여기서 두 번째 연산은 체의 원소 k와 벡터 A를 결합하는 스칼라곱 kA이다.

행렬·다항식·함수는 같은 공리를 다른 모습으로 구현한다

벡터공간의 힘은 성분 벡터에만 머물지 않는다. 대상마다 자연스러운 덧셈과 실수배를 정의하면 동일한 공리를 만족하는 여러 공간을 얻는다.

벡터공간	원소	덧셈과 스칼라곱	닫힘성이 보이는 이유
`M_mn(R)`	실수 성분의 `m×n` 행렬	같은 위치끼리 더하고 모든 성분에 실수를 곱한다.	행렬 크기와 실수 성분이 유지된다.
`M_1n(R)`, `M_m1(R)`	행벡터와 열벡터	행렬의 덧셈과 스칼라곱을 그대로 쓴다.	각각 `1×n`, `m×1` 꼴이 유지된다.
`P(R)`	실수 계수 다항식	대응하는 차수의 계수끼리 더하고 각 계수에 실수를 곱한다.	결과도 유한 차수의 실수 계수 다항식이다.
`C(R)`	실수에서 실수로 가는 연속함수	`(f+g)(x)=f(x)+g(x)`, `(kf)(x)=kf(x)`	연속함수의 합과 실수배도 연속이다.

예를 들어 p(x)=1+2x, q(x)=x²-x라면 p+q=1+x+x²이고 3p=3+6x이다. 차수가 달라도 빠진 항의 계수를 0으로 보면 성분별 연산과 같은 구조가 드러난다.

부분공간은 전체 공리 대신 닫힘성을 집중 점검한다

V가 이미 체 F 위의 벡터공간이고, 비어 있지 않은 부분집합 S⊆V를 생각하자. S가 부분공간(subspace)인지 확인할 때는 V에서 물려받는 교환법칙과 결합법칙을 다시 증명할 필요가 없다. 다음 두 조건에 집중하면 된다.

A,B∈S이면 A+B∈S이다.
A∈S, k∈F이면 kA∈S이다.

두 조건은 하나로 합쳐 A,B∈S와 k,l∈F에 대해 kA+lB∈S인지 검사할 수도 있다. 이 일차결합 닫힘성은 다음 강의의 기저와 차원으로 이어지는 중요한 관점이다.

판정 순서: 먼저 S⊆V와 영벡터 포함 여부를 확인한다. 통과하면 덧셈 닫힘성, 스칼라곱 닫힘성을 차례로 증명한다. 하나라도 반례가 나오면 즉시 부분공간이 아니다.

영벡터 검사는 가장 빠른 탈락 기준이다

부분공간 S가 비어 있지 않다면 어떤 A∈S에 0을 곱한 0A=O도 S에 있어야 한다. 따라서 영벡터가 조건을 만족하지 않으면 더 계산할 필요 없이 탈락이다.

원점을 지나는 조건과 지나지 않는 조건

S₀={(x,y,z) | x+y+z=0}에는 (0,0,0)이 들어간다. 두 해를 더하거나 실수배해도 좌변은 여전히 0이므로 부분공간이다.
S₁={(x,y,z) | x+y+z=1}에는 (0,0,0)이 들어가지 않는다. 평면처럼 보여도 부분공간은 아니다.
T={(x,x+1,0) | x∈R}도 영벡터를 포함하지 않는다. 실제로 두 원소를 더하면 두 번째 성분에 2가 생겨 원래 꼴을 벗어난다.

여기서 중요한 구분은 방정식의 개수가 아니라 동차 조건인지다. 우변이 0인 선형조건은 원점을 포함하고 닫힘성을 기대할 수 있지만, 0이 아닌 상수로 평행이동한 조건은 영벡터 검사에서 걸린다.

같은 판정 절차를 행렬과 함수에도 적용한다

대각행렬의 집합

S={[[a,0],[0,d]] | a,d∈R}를 M₂₂(R)의 부분집합이라 하자. 두 대각행렬을 더하면 대각 성분끼리 더해지고 비대각 성분은 계속 0이다. 실수배를 해도 같은 꼴이므로 두 닫힘성을 모두 만족한다.

함숫값이 0으로 고정된 집합

S₀={f∈C(R) | f(a)=0}에서 f(a)=g(a)=0이면 (f+g)(a)=0+0=0이고 (kf)(a)=k·0=0이다. 따라서 부분공간이다.

함숫값이 5로 고정된 집합

S₅={f∈C(R) | f(a)=5}는 부분공간이 아니다. 영함수는 a에서 0이므로 집합에 없고, f,g∈S₅를 더하면 (f+g)(a)=10이 되어 조건을 벗어난다. k=2만 골라도 (2f)(a)=10이므로 스칼라곱 닫힘성도 실패한다.

오개념 주의: 부분집합이라는 사실과 부분공간이라는 사실은 다르다. 부분집합은 원소 포함만 말하지만, 부분공간은 기존 연산을 수행한 뒤에도 그 안에 머무는 구조를 요구한다.

직접 만든 후보를 세 단계로 판정해 본다

학습용 예제로 U={(x,y,z)∈R³ | 2x-y+z=0}를 판정해 보자.

영벡터: 2·0-0+0=0이므로 (0,0,0)∈U다.
덧셈: A=(a₁,a₂,a₃), B=(b₁,b₂,b₃)가 U에 있으면 2a₁-a₂+a₃=0, 2b₁-b₂+b₃=0이다. 두 식을 더하면 2(a₁+b₁)-(a₂+b₂)+(a₃+b₃)=0이므로 A+B∈U다.
스칼라곱: 2(ka₁)-ka₂+ka₃=k(2a₁-a₂+a₃)=0이므로 kA∈U다.

결론적으로 U는 R³의 부분공간이다. 반면 우변만 4로 바꾼 2x-y+z=4는 영벡터가 들어가지 않아 첫 단계에서 탈락한다. 이처럼 조건을 모두 전개하기 전에 가장 값싼 검사를 먼저 하면 풀이가 짧아진다.

일차결합으로 만든 집합은 닫힘성을 식 자체가 보장한다

벡터공간 V의 두 벡터 A,B를 고정하고 S={kA+lB | k,l∈R}라 하자. S의 두 원소를 v₁=k₁A+l₁B, v₂=k₂A+l₂B라 두면

v₁+v₂=(k₁+k₂)A+(l₁+l₂)B∈S

이고, 임의의 실수 t에 대해

tv₁=(tk₁)A+(tl₁)B∈S

이다. 계수끼리 더하거나 실수배해도 다시 실수이므로 원래 꼴이 유지된다. 이 계산은 부분공간 판정이 단순 암기가 아니라 “연산 뒤에도 같은 표현으로 돌아오는가?”를 확인하는 과정임을 잘 보여 준다.

핵심 개념 정리

체는 스칼라의 덧셈·곱셈과 역연산이 가능한 계산 규칙을 제공한다.
벡터공간은 벡터 덧셈과 스칼라곱에 대해 닫혀 있고 여덟 성질을 만족한다.
행렬, 다항식, 연속함수도 적절한 연산 아래에서는 벡터가 될 수 있다.
이미 알려진 벡터공간의 부분집합은 영벡터, 덧셈 닫힘성, 스칼라곱 닫힘성의 순서로 판정하면 효율적이다.
우변이 0인 동차 선형조건과 일차결합으로 표현된 집합은 닫힘성을 보이기 쉽고, 상수만큼 이동한 조건은 영벡터에서 자주 탈락한다.

처음 보는 후보 집합에서는 먼저 전체 벡터공간과 스칼라의 체를 확인하고, 영벡터를 대입한다. 통과하면 두 일반 원소의 합과 일반 스칼라배가 정의 조건을 보존하는지 계산한다. 이 세 단계가 모두 성립하면 부분공간으로 결론 내리고, 하나라도 실패하면 구체적인 반례를 제시한다. 다음 강의에서는 이렇게 닫힌 일차결합 집합을 바탕으로 벡터들의 독립성, 기저와 차원을 살펴본다.

예상문제 10선

1. 체의 역할에 대한 설명으로 가장 적절한 것은?

① 벡터의 길이와 방향만 정한다. ② 벡터끼리의 내적만 정의한다. ③ 부분집합의 원소 개수를 제한한다. ④ 스칼라의 덧셈과 곱셈이 따를 계산 규칙을 제공한다.

정답입니다.

오답입니다. 답안을 다시 선택해 보세요.

정답 및 해설 보기

정답: ④

① 오답: 길이와 방향은 특정 기하 벡터의 성질이며 체의 정의가 아니다.
② 오답: 내적은 벡터공간에 추가할 수 있는 연산이지 체의 필수 역할이 아니다.
③ 오답: 체의 공리는 부분집합의 원소 수를 제한하지 않는다.
④ 정답: 체는 스칼라의 두 연산과 항등원·역원·분배법칙을 보장한다.

2. F={0,1}에서 강의의 연산표를 적용할 때 1+1의 값은?

① 0 ② 1 ③ 2 ④ 정의되지 않는다.

정답입니다.

오답입니다. 답안을 다시 선택해 보세요.

정답 및 해설 보기

정답: ①

① 정답: 덧셈을 2로 나눈 나머지로 정했으므로 2의 나머지는 0이다.
② 오답: 1은 0+1 또는 1+0의 결과다.
③ 오답: 정수의 보통 덧셈 결과지만 2는 집합 F의 원소가 아니다.
④ 오답: 연산표가 모든 원소쌍의 덧셈을 정의하고 있다.

3. 벡터공간의 두 연산을 올바르게 구분한 것은?

① 둘 다 벡터 두 개를 입력으로 받는다. ② 둘 다 스칼라 두 개를 입력으로 받는다. ③ 덧셈은 벡터 둘을, 스칼라곱은 스칼라와 벡터를 결합한다. ④ 덧셈만 집합 안에 닫혀 있으면 된다.

정답입니다.

오답입니다. 답안을 다시 선택해 보세요.

정답 및 해설 보기

정답: ③

① 오답: 스칼라곱의 첫 입력은 체의 원소인 스칼라다.
② 오답: 벡터 덧셈에는 두 벡터가 필요하다.
③ 정답: A+B와 kA의 입력 종류를 정확히 구분한다.
④ 오답: 벡터공간은 덧셈과 스칼라곱 모두에서 닫혀 있어야 한다.

4. M₂₂(R)의 부분공간인 것은?

① 행렬식이 1인 모든 행렬의 집합 ② 비대각 성분이 0인 모든 대각행렬의 집합 ③ 왼쪽 위 성분이 1인 모든 행렬의 집합 ④ 네 성분의 합이 2인 모든 행렬의 집합

정답입니다.

오답입니다. 답안을 다시 선택해 보세요.

정답 및 해설 보기

정답: ②

① 오답: 영행렬의 행렬식은 0이므로 영벡터를 포함하지 않는다.
② 정답: 대각행렬끼리 더하거나 실수배해도 비대각 성분은 0으로 유지된다.
③ 오답: 영행렬의 왼쪽 위 성분은 0이며, 실수배도 1을 보존하지 않는다.
④ 오답: 영행렬이 조건을 만족하지 않는 비동차 조건이다.

5. S={(x,y)∈R² | x+y=1}을 부분공간이라 판단한 풀이의 가장 빠른 교정은?

① 원소가 무한히 많으므로 부분공간이라고 결론 낸다. ② 직선 모양이므로 부분공간이라고 결론 낸다. ③ 점 (1,0)이 속하므로 부분공간이라고 결론 낸다. ④ 영벡터가 조건을 만족하지 않음을 지적한다.

정답입니다.

오답입니다. 답안을 다시 선택해 보세요.

정답 및 해설 보기

정답: ④

① 오답: 원소 수는 연산 닫힘성을 보장하지 않는다.
② 오답: 원점을 지나지 않는 직선은 벡터 부분공간이 아니다.
③ 오답: 한 원소의 존재만으로 영벡터와 닫힘성을 확인할 수 없다.
④ 정답: (0,0)을 대입하면 좌변이 0이므로 조건 x+y=1을 만족하지 않는다.

6. 부분공간 후보를 효율적으로 판정하는 순서로 가장 적절한 것은?

① 차원을 계산한 뒤 영벡터를 찾고 덧셈을 검사한다. ② 전체 공간의 부분집합인지 보고 영벡터, 덧셈, 스칼라곱을 검사한다. ③ 내적을 계산한 뒤 행렬식을 검사하고 역원을 찾는다. ④ 원소 하나를 고른 뒤 그 원소만 실수배해 본다.

정답입니다.

오답입니다. 답안을 다시 선택해 보세요.

정답 및 해설 보기

정답: ②

① 오답: 차원은 다음 단계의 개념이며 부분공간 여부가 확인되기 전에는 판정 기준이 아니다.
② 정답: 값싼 필요조건부터 확인한 뒤 두 닫힘성을 증명하는 순서다.
③ 오답: 내적과 행렬식은 일반적인 부분공간 정의에 필요하지 않다.
④ 오답: 임의의 원소와 임의의 스칼라에 대해 성립해야 하므로 한 사례만으로 부족하다.

7. 연속함수 공간 C(R)의 부분공간인 것은?

① {f∈C(R) | f(2)=0} ② {f∈C(R) | f(2)=1} ③ {f∈C(R) | f(2)=5} ④ {f∈C(R) | f(2)=-3}

정답입니다.

오답입니다. 답안을 다시 선택해 보세요.

정답 및 해설 보기

정답: ①

① 정답: 합과 실수배 뒤에도 2에서의 함숫값이 0으로 유지된다.
② 오답: 영함수가 없고 두 함수를 더하면 2에서의 값이 2가 된다.
③ 오답: 영함수가 없고 덧셈과 실수배가 고정값 5를 보존하지 않는다.
④ 오답: 0이 아닌 고정값 조건이므로 영함수를 포함하지 않는다.

8. f(a)=0 조건과 f(a)=5 조건의 결정적 차이는?

① 첫 조건에서만 함수 덧셈을 정의할 수 있다. ② 둘째 조건에서만 연속함수를 사용할 수 있다. ③ 0은 덧셈과 실수배에 보존되지만 5는 일반적으로 보존되지 않는다. ④ 두 조건 모두 같은 부분공간을 정의한다.

정답입니다.

오답입니다. 답안을 다시 선택해 보세요.

정답 및 해설 보기

정답: ③

① 오답: 함수 덧셈은 두 후보 모두에서 정의되지만 결과가 조건 안에 남는지가 다르다.
② 오답: 두 집합 모두 연속함수 공간의 부분집합으로 정의할 수 있다.
③ 정답: 0+0=0, k·0=0이지만 5+5≠5, k·5≠5인 경우가 있다.
④ 오답: 첫 조건은 부분공간이지만 둘째 조건은 영함수를 포함하지 않는다.

9. S={kA+lB | k,l∈R}의 두 원소 v₁=k₁A+l₁B, v₂=k₂A+l₂B의 합은?

① (k₁+k₂)A+(l₁+l₂)B ② (k₁k₂)A+(l₁l₂)B ③ (k₁+l₁)A+(k₂+l₂)B ④ (k₁-k₂)A+(l₁-l₂)B

정답입니다.

오답입니다. 답안을 다시 선택해 보세요.

정답 및 해설 보기

정답: ①

① 정답: 같은 벡터 A와 B의 계수를 각각 더하면 다시 일차결합 꼴이 된다.
② 오답: 두 벡터를 더할 때 계수를 곱하지 않는다.
③ 오답: 서로 다른 기저 후보에 붙은 계수를 뒤섞은 식이다.
④ 오답: 이 식은 v₁-v₂에 해당한다.

10. U={(x,y,z)∈R³ | 2x-y+z=0}이 부분공간임을 완결되게 보이는 방법은?

① 원소 (1,2,0) 하나가 속함을 보인다. ② 방정식이 변수 세 개를 포함함을 보인다. ③ 평면 모양이라는 사실만 확인한다. ④ 영벡터를 확인하고 임의의 두 원소의 합과 임의의 실수배가 조건을 보존함을 보인다.

정답입니다.

오답입니다. 답안을 다시 선택해 보세요.

정답 및 해설 보기

정답: ④

① 오답: 특정 원소 하나는 집합이 비어 있지 않다는 사실만 일부 보여 준다.
② 오답: 변수의 개수는 닫힘성의 근거가 아니다.
③ 오답: 원점을 지나지 않는 평면도 있으므로 모양만으로 판정할 수 없다.
④ 정답: 영벡터와 두 닫힘성을 일반 원소에 대해 확인하므로 부분공간 판정이 완결된다.

참고 자료와 작성 기준

이 글은 해당 차시 강의자료를 바탕으로 학습 목적에 맞게 재구성한 비공식 학습자료입니다. 개념 관계, 예제와 문제 해설은 학습자의 이해를 돕도록 구성하고 검토했습니다.

작성·편집: 올에이클래스 학습연구팀
주요 근거: 한국방송통신대학교 컴퓨터과학과 선형대수 제8강 「벡터공간」 강의자료(2024)
보충 자료: 별도의 외부 자료를 사용하지 않음
편집 원칙: 올에이클래스 편집 정책
최종 내용 검토: 2026-08-26

방송대 선형대수 8강: 벡터공간과 부분공간 판정