방송대 선형대수 12강: 고유값·고유벡터와 특성방정식

방송대 선형대수 12강: 고유값·고유벡터와 특성방정식

행렬이 벡터를 변환할 때 대부분은 방향과 크기가 함께 달라지지만, 일부 특별한 방향은 한 직선 위에 남는다. 이 글은 주어진 벡터가 그 특별한 방향인지 판정하고, 특성방정식으로 가능한 배율을 찾은 뒤, 고유공간의 기저까지 구하는 의사결정 절차를 제시한다.

먼저 묻는다: 변환 뒤에도 같은 직선 위에 있는가

정방행렬 M이 0이 아닌 벡터 v를 변환했을 때 Mv가 v의 스칼라배라면, v는 변환 전후에 같은 직선 위에 있다. 이를 식으로 쓰면 다음과 같다.

Mv = λv, 단 v ≠ 0

이 관계를 만족하는 실수 λ를 M의 고유값, 0이 아닌 벡터 v를 λ에 대응하는 고유벡터라고 한다. λ는 변환의 배율을 알려 준다. λ가 양수면 방향을 유지한 채 크기가 바뀌고, 음수면 반대 방향으로 뒤집힌다. |λ|이 1보다 크면 길이가 늘고, 0과 1 사이면 줄어든다.

λ의 상태	Mv의 모습	판정할 때의 주의점
λ > 0	v와 같은 방향의 스칼라배	성분별 비율이 모두 같은지 확인한다.
λ < 0	v와 정반대 방향의 스칼라배	방향이 뒤집혀도 같은 직선 위이므로 고유벡터다.
λ = 0	Mv = 0	변환 뒤 방향은 없지만, v ≠ 0이면 정의상 고유벡터다.
v = 0	Mv = λv가 모든 λ에서 성립	λ를 구별하지 못하므로 영벡터는 고유벡터에서 제외한다.

특히 λ = 0과 v = 0을 구분해야 한다. 0이라는 고유값은 존재할 수 있지만, 영벡터는 고유벡터가 될 수 없다. λ = 0인 고유벡터는 M의 핵에 속하는 0이 아닌 벡터다.

첫 판정 규칙: 벡터가 0이 아닌지 확인한 뒤 Mv를 계산한다. 그 결과가 원래 벡터의 하나의 공통 배수인지 검사한다. 성분마다 서로 다른 배율이 필요하면 고유벡터가 아니다.

후보 벡터를 판정할 때는 비율보다 식을 우선한다

강의의 도입 행렬 M은 첫째 행이 (3, 1), 둘째 행이 (0, 2)인 행렬이다. 벡터 b = (1, 0)^T에 대해서는 Mb = (3, 0)^T = 3b이므로 b는 고유값 3에 대응한다. c = (-1, 1)^T에 대해서는 Mc = (-2, 2)^T = 2c이므로 c는 고유값 2에 대응한다.

반면 a = (1, 1)^T이면 Ma = (4, 2)^T다. 첫째 성분은 a의 4배, 둘째 성분은 2배여야 맞으므로 하나의 λ로 묶을 수 없다. 따라서 a는 고유벡터가 아니다.

성분 비율 계산이 위험한 경우

모든 성분이 0이 아닐 때는 (Mv)_i/v_i가 같은지 비교할 수 있다. 그러나 v의 성분 중 0이 있으면 0으로 나누는 문제가 생긴다. 이때는 비율을 억지로 만들지 말고 Mv = λv의 성분별 등식을 그대로 쓴다.

예를 들어 b = (1, 0)^T에서는 둘째 성분의 비율 0/0을 계산해서는 안 된다. Mb = (3, 0)^T와 λb = (λ, 0)^T를 비교하면 첫째 식에서 λ = 3을 얻고 둘째 식 0 = 0이 이를 방해하지 않는다고 판단하면 된다.

“Mv가 v와 평행해 보인다”는 그림은 직관을 주지만 계산의 증명은 아니다. 좌표에서는 Mv = λv를 만족하는 하나의 λ가 실제로 존재하는지 확인해야 한다.

가능한 배율은 특성방정식이 걸러 낸다

고유값을 모르는 상태에서 Mv = λv를 풀어 쓰면 다음 동차연립방정식이 된다.

(M - λI)v = 0

고유벡터는 0이 아닌 해여야 한다. 정방행렬 M - λI가 가역이면 동차방정식은 영벡터만 해로 가지므로 고유벡터가 생기지 않는다. 반대로 행렬식이 0이면 비자명한 해가 존재할 수 있다. 따라서 고유값 후보를 정하는 식은 다음과 같다.

det(M - λI) = 0

이를 M의 특성방정식이라고 한다. det(M - λI)는 λ에 관한 n차 다항식이며, 강의에서는 그 실수해를 고유값으로 다룬다. 계산 과정은 다음 네 질문으로 정리할 수 있다.

1. M이 n차 정방행렬인가?
2. M - λI를 만들 때 대각원소에서만 λ를 뺐는가?
3. 행렬식을 전개하고 인수분해했는가?
4. 얻은 각 λ에 대해 (M - λI)v = 0을 따로 풀었는가?

삼각행렬은 대각원소부터 읽는다

상삼각행렬이나 하삼각행렬의 행렬식은 대각원소의 곱이다. 따라서 M - λI의 행렬식은 (m₁₁ - λ)...(m_nn - λ)가 되고, 원래 행렬의 주대각원소가 고유값이 된다. 다만 대각원소가 반복되면 고유값 목록에서도 같은 근이 반복될 수 있다.

공식 선택 기준: 특정 λ가 고유값인지 확인하는 문제는 det(M - λI) = 0인지 검사한다. 모든 고유값을 구하는 문제는 λ를 문자로 둔 특성방정식을 풀고, 고유벡터까지 요구하면 각 근을 다시 동차방정식에 대입한다.

고유값을 찾은 뒤에는 영공간을 계산한다

λ가 고유값으로 정해졌다면 대응하는 모든 벡터는 (M - λI)v = 0의 해에서 나온다. 이 해집합은 M - λI의 핵이며, λ에 대한 고유공간이다.

E_λ = ker(M - λI)

고유공간은 부분공간이므로 영벡터를 포함한다. 반면 고유벡터는 E_λ의 원소 중 영벡터를 제외한 것들이다. 두 용어를 구분하면 “고유벡터의 집합이 부분공간인가?”라는 질문에도 정확히 답할 수 있다. 영벡터를 뺀 고유벡터 집합만으로는 부분공간이 아니고, 영벡터를 포함한 고유공간이 부분공간이다.

같은 고유값과 서로 다른 고유값의 관계

• 같은 λ에 대응하는 두 고유벡터의 합은 0이 아닐 때 다시 λ의 고유벡터다. 합이 0이면 고유공간에는 속하지만 고유벡터는 아니다.
• 고유벡터의 스칼라배도 0이 아닌 배수를 사용하면 같은 λ의 고유벡터다. 0배는 영벡터이므로 고유벡터가 아니다.
• 서로 다른 고유값에 대응하는 고유벡터들은 일차독립이다.

강의자료의 정리처럼 M(A + B) = λ(A + B), M(kA) = λ(kA)는 고유공간의 닫힘성을 보여 준다. 다만 고유벡터라는 이름을 붙이려면 결과가 0이 아닌지도 한 번 더 확인해야 한다.

2차 행렬은 고유값과 고유공간을 한 흐름으로 구한다

강의 예제의 행렬 M을 첫째 행 (3, 2), 둘째 행 (1, 2)로 두자. 목표는 고유값, 고유벡터, 고유공간을 차례로 구하는 것이다.

특성방정식으로 고유값 찾기

det(M - λI) = (3 - λ)(2 - λ) - 2 = λ² - 5λ + 4다. 인수분해하면 (λ - 1)(λ - 4) = 0이므로 고유값은 1과 4다.

λ = 1인 고유공간

M - I의 두 행은 (2, 2), (1, 1)이고, 방정식은 x + y = 0으로 줄어든다. y = t라고 두면 v = (-t, t)^T = t(-1, 1)^T다.

E₁ = span{(-1, 1)^T}

λ = 4인 고유공간

M - 4I의 두 행은 (-1, 2), (1, -2)이고, 방정식은 x = 2y다. y = t라고 두면 v = (2t, t)^T = t(2, 1)^T다.

E₄ = span{(2, 1)^T}

검산은 각 기저벡터에 M을 직접 곱하는 것이다. M(-1, 1)^T = (-1, 1)^T이고 M(2, 1)^T = (8, 4)^T = 4(2, 1)^T이므로 두 결과가 맞다.

반복된 고유값에서는 공간의 차원을 따로 계산한다

강의의 3차 예제는 첫째 행 (2, 0, -2), 둘째 행 (1, 1, -2), 셋째 행 (0, 0, 1)인 행렬이다. 특성방정식은 (2 - λ)(1 - λ)² = 0이므로 서로 다른 고유값은 2와 1이다.

λ = 2일 때

(M - 2I)v = 0을 풀면 z = 0, x = y가 된다. 따라서 E₂ = span{(1, 1, 0)^T}이고 1차원이다. 강의자료의 한 정리 문장에는 이 기저가 (1, 1, 1)^T로 표시되어 있지만, 바로 앞의 연립방정식과 뒤의 종합 슬라이드에 따라 세 번째 성분은 0이어야 한다.

λ = 1일 때

(M - I)v = 0은 x = 2z만 요구하고 y와 z는 자유다. 따라서 v = y(0, 1, 0)^T + z(2, 0, 1)^T로 쓸 수 있고, E₁은 두 벡터를 기저로 하는 2차원 부분공간이다. 자유변수 y나 z는 각각 0이 될 수 있으며, 둘이 동시에 0일 때만 영벡터가 된다.

확인 대상	λ = 2	λ = 1
특성방정식의 근	한 번 나타남	두 번 나타남
연립방정식의 조건	z = 0, x = y	x = 2z, y와 z는 자유
고유공간의 기저	(1, 1, 0)T	(0, 1, 0)T, (2, 0, 1)T
고유공간의 차원	1	2

특성방정식에서 근이 반복된 횟수만 보고 고유공간의 차원을 정하지 않는다. 고유공간의 차원은 반드시 (M - λI)v = 0을 풀어 얻은 자유변수의 수 또는 기저벡터의 수로 확인한다.

연습문제는 세 번의 판정으로 완성한다

강의 마지막 연습문제의 행렬은 첫째 행 (2, 3), 둘째 행 (2, 1)이다. 고유값과 고유벡터를 구해 보자.

고유값 판정

det(M - λI) = (2 - λ)(1 - λ) - 6 = λ² - 3λ - 4 = (λ - 4)(λ + 1)이다. 따라서 고유값은 4와 -1이다.

λ = 4의 고유벡터

M - 4I의 첫째 행은 (-2, 3), 둘째 행은 (2, -3)이다. -2x + 3y = 0이므로 x = 3t, y = 2t로 둘 수 있다. 고유공간은 E₄ = span{(3, 2)^T}이다.

λ = -1의 고유벡터

M + I의 두 행은 (3, 3), (2, 2)이고 x + y = 0이다. 따라서 E_-1 = span{(1, -1)^T}이다. 직접 곱하면 M(1, -1)^T = (-1, 1)^T = -1(1, -1)^T이므로 방향이 반대로 뒤집힌다는 해석과도 맞는다.

완성 판정: 특성방정식으로 λ를 찾고 → 각 λ의 영공간 기저를 구하고 → 대표 기저벡터를 M에 직접 곱해 λ배가 되는지 검산한다.

핵심 개념 정리

• 고유벡터는 Mv = λv를 만족하는 0이 아닌 벡터이며, 고유값은 그 공통 배율이다.
• λ는 det(M - λI) = 0의 실수해로 찾고, v는 (M - λI)v = 0의 비자명한 해로 찾는다.
• 고유공간 E_λ는 ker(M - λI)이며 영벡터를 포함하는 부분공간이다.
• 같은 고유값의 고유벡터는 하나의 고유공간을 이루고, 서로 다른 고유값의 고유벡터들은 일차독립이다.
• 삼각행렬의 고유값은 주대각원소지만, 각 고유공간의 차원은 연립방정식을 따로 풀어야 알 수 있다.

문제의 요구를 먼저 분류한다. 특정 벡터의 판정이면 Mv와 λv를 비교하고, 특정 λ의 판정이면 det(M - λI)를 확인한다. 전체 고유구조를 묻는다면 특성방정식 → 각 영공간 → 기저와 차원 → 직접 곱 검산의 순서로 진행한다. 이 흐름은 다음 차시의 대각화에서 충분한 수의 일차독립인 고유벡터를 찾는 출발점이 된다.

예상문제 10선

1. 정방행렬 M의 고유벡터 v와 고유값 λ의 관계를 정확히 나타낸 것은?

① Mv = v + λ이며 v는 임의의 벡터다. ② Mv = 0이며 λ는 0이 아닌 실수다. ③ Mv = λv이며 v ≠ 0이다. ④ Mv = λ이고 v는 단위벡터다.

정답입니다.

오답입니다. 답안을 다시 선택해 보세요.

정답 및 해설 보기

정답: ③

• ① 오답: 고유값은 벡터에 더하는 값이 아니라 벡터 전체에 곱하는 스칼라다.
• ② 오답: Mv = 0은 λ = 0인 경우만 나타내며, 다른 고유값을 포함하지 못한다.
• ③ 정답: 변환 결과가 원래 벡터의 공통 배수이고 영벡터를 제외한다는 두 조건을 모두 담는다.
• ④ 오답: 행렬과 벡터의 곱은 벡터이므로 스칼라 λ와 직접 같을 수 없고, 단위길이는 필수 조건도 아니다.

2. λ = 0과 영벡터에 대한 설명으로 옳은 것은?

① λ = 0은 고유값일 수 있지만 영벡터는 고유벡터가 아니다. ② λ = 0이면 대응하는 고유벡터도 영벡터여야 한다. ③ 영벡터는 λ = 0에 대해서만 고유벡터가 된다. ④ λ = 0은 정방행렬의 고유값이 될 수 없다.

정답입니다.

오답입니다. 답안을 다시 선택해 보세요.

정답 및 해설 보기

정답: ①

• ① 정답: 0이 아닌 핵의 원소는 λ = 0의 고유벡터가 되지만, 영벡터 자체는 정의에서 제외된다.
• ② 오답: λ = 0이면 Mv = 0인 0이 아닌 v를 찾아야 하며 v = 0으로 제한되지 않는다.
• ③ 오답: 영벡터는 M0 = λ0을 모든 λ에서 만족해 고유값을 구별하지 못하므로 아예 제외한다.
• ④ 오답: 행렬이 특이하여 핵에 0이 아닌 벡터가 있으면 0은 고유값이다.

3. v = (1, 0)^T의 고유벡터 여부를 성분 비율로 검사하려는 학생에게 가장 적절한 조언은?

① 둘째 성분에서 0/0을 1로 정하고 계속 계산한다. ② 0인 성분이 있으므로 고유벡터가 아니라고 결론 낸다. ③ 첫째 성분의 비율만 구하면 다른 조건은 볼 필요가 없다. ④ Mv = λv의 성분별 등식을 세워 하나의 λ가 모든 성분을 만족하는지 본다.

정답입니다.

오답입니다. 답안을 다시 선택해 보세요.

정답 및 해설 보기

정답: ④

• ① 오답: 0/0은 정의되지 않으므로 임의의 값을 붙일 수 없다.
• ② 오답: 고유벡터의 일부 성분은 0일 수 있으며 벡터 전체가 영벡터인지만 제외 조건이다.
• ③ 오답: 나머지 성분의 등식이 첫째 성분에서 얻은 λ와 모순되지 않는지 확인해야 한다.
• ④ 정답: 성분별 등식은 0으로 나누지 않고도 공통 배율의 존재를 정확히 판정한다.

4. 행렬의 고유값, 고유벡터, 고유공간을 모두 구하는 순서로 알맞은 것은?

① 고유공간의 차원 추측 → 행렬식 계산 → λ 선택 ② 특성방정식 풀이 → 각 (M - λI)v = 0 풀이 → 해공간의 기저 선택 ③ M의 역행렬 계산 → 임의의 v 선택 → 고유값 평균 계산 ④ 임의의 λ 대입 → 영벡터 선택 → 특성방정식 확인

정답입니다.

오답입니다. 답안을 다시 선택해 보세요.

정답 및 해설 보기

정답: ②

• ① 오답: 고유공간은 λ가 정해진 뒤 동차방정식을 풀어야 알 수 있으므로 차원을 먼저 추측할 수 없다.
• ② 정답: 가능한 배율을 먼저 찾고, 각 배율에서 비자명한 해와 그 해공간의 기저를 구하는 논리적 순서다.
• ③ 오답: 고유값 계산에 M의 역행렬이나 임의 벡터의 평균은 필요한 절차가 아니다.
• ④ 오답: 영벡터는 모든 λ에서 식을 만족해 후보를 판별하지 못하며 고유벡터도 아니다.

5. 대각원소가 2, -1, 5인 3차 상삼각행렬의 실수 고유값 목록은?

① 2, 1, 5 ② 2, -1, 5 ③ 2, -5, 1 ④ -2, 1, -5

정답입니다.

오답입니다. 답안을 다시 선택해 보세요.

정답 및 해설 보기

정답: ②

• ① 오답: 둘째 대각원소의 부호를 임의로 양수로 바꾸었다.
• ② 정답: 삼각행렬의 특성식은 대각의 (m_ii - λ)를 곱한 형태이므로 대각원소가 고유값이다.
• ③ 오답: 둘째와 셋째 값의 부호를 바꾸었으며 대각원소와 일치하지 않는다.
• ④ 오답: M - λI를 만든다고 원래 대각원소 모두의 부호를 뒤집는 것은 아니다.

6. M의 첫째 행이 (3, 2), 둘째 행이 (1, 2)일 때 특성방정식은?

① λ² - 5λ + 6 = 0 ② λ² + 5λ + 4 = 0 ③ λ² - λ - 2 = 0 ④ λ² - 5λ + 4 = 0

정답입니다.

오답입니다. 답안을 다시 선택해 보세요.

정답 및 해설 보기

정답: ④

• ① 오답: (3 - λ)(2 - λ)까지만 계산하고 비대각 곱 2·1을 빼지 않았다.
• ② 오답: λ의 일차항 부호가 바뀌었으며 M - λI의 대각 곱 전개와 맞지 않는다.
• ③ 오답: 대각합과 행렬식을 반영하지 못한 다항식이다.
• ④ 정답: (3 - λ)(2 - λ) - 2 = λ² - 5λ + 4로 계산된다.

7. E_λ = span{(1, -2)^T}일 때 λ의 고유벡터에 해당하는 것은?

① (-3, 6)^T ② (0, 0)^T ③ (2, -1)^T ④ (1, 2)^T

정답입니다.

오답입니다. 답안을 다시 선택해 보세요.

정답 및 해설 보기

정답: ①

• ① 정답: (-3, 6)^T = -3(1, -2)^T이고 0이 아니므로 해당 고유공간의 고유벡터다.
• ② 오답: 영벡터는 고유공간에는 포함되지만 고유벡터에서는 제외된다.
• ③ 오답: 두 성분에 같은 배수를 적용해 (1, -2)^T에서 만들 수 없다.
• ④ 오답: 둘째 성분의 부호가 반대여서 주어진 직선 위에 있지 않다.

8. 고유벡터 집합과 고유공간의 차이를 바르게 설명한 것은?

① 고유벡터 집합에는 영벡터가 들어가고 고유공간에는 들어가지 않는다. ② 두 집합 모두 영벡터를 제외하므로 부분공간이 아니다. ③ 고유공간은 영벡터를 포함한 ker(M - λI)이고, 고유벡터는 그중 0이 아닌 원소다. ④ 고유공간은 서로 다른 모든 고유값의 벡터를 한 집합에 모은 것이다.

정답입니다.

오답입니다. 답안을 다시 선택해 보세요.

정답 및 해설 보기

정답: ③

• ① 오답: 영벡터의 포함 관계를 거꾸로 설명했다.
• ② 오답: 고유공간은 핵이므로 영벡터를 포함하고 부분공간 조건을 만족한다.
• ③ 정답: 같은 λ에 대한 해공간 전체와 그중 비자명한 해를 정확히 구분한다.
• ④ 오답: 고유공간은 하나의 고정된 고유값 λ에 대응하는 해공간이다.

9. 연습문제 행렬의 첫째 행이 (2, 3), 둘째 행이 (2, 1)일 때 λ = -1에 대응하는 고유공간의 기저는?

① (1, -1)^T ② (1, 1)^T ③ (3, 2)^T ④ (2, 3)^T

정답입니다.

오답입니다. 답안을 다시 선택해 보세요.

정답 및 해설 보기

정답: ①

• ① 정답: (M + I)v = 0에서 x + y = 0이 나오며 M(1, -1)^T = -1(1, -1)^T다.
• ② 오답: M(1, 1)^T = (5, 3)^T로 원래 벡터의 -1배가 아니다.
• ③ 오답: 이 벡터는 λ = 4에 대응하는 고유공간의 기저다.
• ④ 오답: 행렬의 첫째 행을 벡터로 가져온 것이며 고유방정식을 만족하지 않는다.

10. 특성방정식에서 λ = 2가 두 번 나타났을 때 고유공간의 차원을 판단하는 방법은?

① 반복 횟수가 2이므로 계산 없이 2차원으로 정한다. ② 행렬의 크기와 같으므로 n차원으로 정한다. ③ λ가 반복되었으므로 고유공간이 존재하지 않는다고 본다. ④ (M - 2I)v = 0을 풀어 자유변수 수와 기저벡터 수를 확인한다.

정답입니다.

오답입니다. 답안을 다시 선택해 보세요.

정답 및 해설 보기

정답: ④

• ① 오답: 특성근의 반복 횟수와 고유공간 차원은 자동으로 같아지지 않는다.
• ② 오답: 고유공간은 전체 공간의 부분공간이며 행렬 크기만으로 차원이 결정되지 않는다.
• ③ 오답: 특성방정식의 근이라는 사실 자체가 0이 아닌 해의 존재를 보장한다.
• ④ 정답: 고유공간은 ker(M - 2I)이므로 연립방정식의 자유도와 기저를 직접 구해야 한다.

참고 자료와 작성 기준

이 글은 해당 차시 강의자료를 바탕으로 학습 목적에 맞게 재구성한 비공식 학습자료입니다. 고유값 판정 절차, 영벡터와 λ = 0의 경계 사례, 고유공간 계산과 연습문제 검산은 학습자의 이해를 돕도록 구성하고 검토했습니다.

• 작성·편집: 올에이클래스 학습연구팀
• 주요 근거: 한국방송통신대학교 선형대수 제12강 「고유값과 고유벡터」 강의자료(2024)
• 보충 자료: 별도의 외부 보충 자료를 사용하지 않음
• 편집 원칙: 올에이클래스 편집 정책
• 최종 내용 검토: 2026-08-27