방송대 선형대수 11강: 좌표와 기저변환행렬

벡터와 선형변환은 기저를 바꿔도 그대로이지만, 그것을 기록하는 좌표와 행렬의 숫자는 달라진다. 이 글은 새 좌표를 구하는 법, 선형변환의 행렬을 열벡터로 조립하는 법, 서로 다른 기저의 행렬을 기저변환행렬로 연결하는 법을 하나의 계산 흐름으로 묶는다. 마지막에는 미분변환 문제를 좌표 변환부터 행렬 검산까지 완주한다.

같은 벡터에 서로 다른 숫자가 붙는 이유

평면의 벡터 v = (1, 2)를 보자. 표준기저 E = (e₁, e₂)에서는 v = 1e₁ + 2e₂이므로 좌표가 (1, 2)다. 그러나 A = (a₁, a₂) = ((2, 1), (-1, 1))를 기저로 쓰면 v = 1a₁ + 1a₂이므로 좌표는 (1, 1)이 된다. 숫자가 바뀌었지만 화살표 자체가 바뀐 것은 아니다.

벡터공간 V의 순서기저 A = (a₁, ..., a_n)가 주어졌다고 하자. 모든 v ∈ V는 기저의 일차결합으로 유일하게 표현된다.

v = k₁a₁ + ... + k_na_n

이때 계수를 순서대로 모은 열벡터 (k₁, ..., k_n)^T가 기저 A에 대한 v의 좌표이며 [v]_A로 적는다. 기저의 벡터뿐 아니라 나열 순서도 좌표를 결정하므로 반드시 순서기저로 생각해야 한다.

대상	기저를 바꾸면	판단 기준
벡터 v	바뀌지 않는다.	공간 안의 실제 원소다.
좌표 [v]_A	대체로 바뀐다.	선택한 기저에 붙인 계수표다.
선형변환 T	바뀌지 않는다.	입력을 출력으로 보내는 규칙이다.
행렬 [T]_B←A	입력·출력 기저에 따라 바뀐다.	T를 특정 좌표계로 기록한 표다.

판단 핵심: 좌표나 행렬의 숫자가 달라졌다고 벡터나 선형변환이 달라졌다고 결론 내리지 않는다. 먼저 “대상 자체”와 “기저에 따른 표현”을 분리한다.

좌표를 구하는 일은 기저벡터의 계수를 푸는 일이다

좌표 계산은 벡터를 기저벡터의 일차결합으로 만드는 계수를 찾는 문제다. 기저벡터를 표준좌표로 세워 만든 행렬을 M = (a₁ ... a_n)이라고 하면 다음 관계가 성립한다.

[v]_E = M[v]_A, 따라서 [v]_A = M^-1[v]_E

M이 가역인 까닭은 a₁, ..., a_n이 기저여서 일차독립이기 때문이다. 역행렬을 무조건 외우기보다 “기저 좌표를 넣으면 표준좌표가 나온다”는 첫 식의 입력과 출력을 확인하면 방향을 잃지 않는다.

강의 예제에서 먼저 점검해야 할 기저 조건

강의자료의 예제에는 A = ((1, 0, -1), (0, 1, -1), (0, -1, 1))을 R³의 기저로 놓고 v = (1, 3, -4)의 계수를 구하는 장면이 나온다. 그러나 적힌 벡터를 그대로 계산하면 세 번째 벡터가 두 번째 벡터의 -1배다. 따라서 이 목록은 일차독립이 아니며 R³의 기저가 될 수 없다.

(1, 3, -4) = k₁(1, 0, -1) + k₂(0, 1, -1) + k₃(0, -1, 1)

첫째 성분에서 k₁ = 1을 얻는다.
둘째 성분에서 k₂ - k₃ = 3이다.
셋째 성분에서 -k₁ - k₂ + k₃ = -4다. k₁ = 1을 넣으면 다시 k₂ - k₃ = 3이 된다.
두 식이 같은 조건이므로 k₃ = t, k₂ = t + 3인 해가 무수히 많다. 자료에 제시된 (1, 2, -1)^T는 t = -1일 때의 한 계수 표현일 뿐, 유일한 좌표는 아니다.

구조를 바로잡은 학습용 예로 세 번째 벡터만 (0, -1, 2)로 바꾸면 세 벡터가 일차독립이 된다. 같은 v에 대해 식을 풀면 k₁ = 1, k₂ = 3, k₃ = 0이 유일하게 정해진다. 검산하면 (1, 0, -1) + 3(0, 1, -1) = (1, 3, -4)다. 좌표 계산 전 기저의 일차독립을 확인해야 하는 이유가 바로 유일성에 있다.

오류 교정 기준: 기저라고 주어졌더라도 한 벡터가 다른 벡터의 배수인지 먼저 살핀다. 계수식에서 자유변수가 남으면 그것은 좌표 계산이 끝난 것이 아니라 기저 조건이 무너졌다는 신호다.

좌표를 행벡터처럼 가로로 써도 의미를 읽기 쉽게 보이기 위한 표기일 수 있다. 행렬을 곱할 때는 이 글처럼 좌표를 열벡터로 통일하면 열의 의미와 곱의 차원을 함께 확인할 수 있다.

선형변환의 행렬은 기저벡터의 출력 좌표를 열로 세운다

V의 순서기저를 A = (a₁, ..., a_n), W의 순서기저를 B = (b₁, ..., b_m)라 하고 T: V → W가 선형변환이라고 하자. T는 입력 기저벡터 각각을 어디로 보내는지만 알면 모든 입력에서 결정된다. 그래서 T의 행렬은 다음처럼 만든다.

[T]_B←A = ([T(a₁)]_B [T(a₂)]_B ... [T(a_n)]_B)

열의 개수 n은 입력공간 V의 차원이고, 각 열의 길이 m은 출력공간 W의 차원이다. 따라서 [T]_B←A는 m × n 행렬이다. 이 행렬의 핵심 기능은 다음 한 줄이다.

[T(v)]_B = [T]_B←A[v]_A

표준기저와 비표준기저에서 같은 변환 기록하기

강의의 변환 T: R³ → R², T(x, y, z) = (x + z, y + z)를 먼저 표준기저로 나타내 보자.

T(1, 0, 0) = (1, 0)
T(0, 1, 0) = (0, 1)
T(0, 0, 1) = (1, 1)

세 출력의 표준좌표를 열로 세우면 [T]_E₂←E₃ = ((1, 0, 1), (0, 1, 1))처럼 두 행 세 열의 행렬이 된다.

이제 입력기저를 A = ((0, 1, 1), (1, 0, 1), (1, 1, 0)), 출력기저를 B = ((1, 1), (0, 1))로 바꾼다. 각 입력 기저벡터의 상을 먼저 구하고, 그 결과를 B의 계수로 다시 표현한다.

입력 기저벡터	실제 출력	B에 대한 출력 좌표
(0, 1, 1)	(1, 2)	(1, 1)^T
(1, 0, 1)	(2, 1)	(2, -1)^T
(1, 1, 0)	(1, 1)	(1, 0)^T

따라서 [T]_B←A의 세 열은 차례로 (1, 1)^T, (2, -1)^T, (1, 0)^T다. “T를 적용한 뒤 B좌표로 바꾼다”는 두 단계가 각 열 안에 들어 있다.

열 조립 규칙: j번째 열은 T(a_j)의 B좌표다. T(a_j) 자체의 표준좌표를 그대로 넣거나, 좌표를 행으로 눕히는 실수를 피한다.

기저변환행렬은 항등변환을 다른 좌표로 기록한 행렬이다

기저를 바꿀 때 실제 벡터는 움직이지 않는다. 달라지는 것은 그 벡터를 읽는 좌표다. 이 상황을 가장 정확히 표현하는 변환이 항등변환 I(v) = v다. A좌표를 B좌표로 바꾸는 기저변환행렬을 다음처럼 적자.

P_B←A = [I]_B←A = ([a₁]_B ... [a_n]_B)

그러면 임의의 v에 대해 [v]_B = P_B←A[v]_A다. 반대 방향은 P_A←B이며, 두 변환을 연달아 하면 원래 좌표로 돌아오므로 서로 역행렬이다.

P_A←B = (P_B←A)^-1

직접 구성한 2차원 예제로 방향 확인하기

학습을 위해 A를 R²의 표준기저, B = ((1, 1), (1, -1))로 두자. B좌표 (c₁, c₂)를 표준좌표로 바꾸는 행렬은 B의 기저벡터를 열로 세운다.

P_A←B = ((1, 1), (1, -1))

반대로 표준좌표 (x, y)를 B좌표로 바꾸려면 x = c₁ + c₂, y = c₁ - c₂를 풀어 c₁ = (x + y)/2, c₂ = (x - y)/2를 얻는다. 따라서 P_B←A는 첫째 행이 (1/2, 1/2), 둘째 행이 (1/2, -1/2)인 행렬이며 P_A←B의 역행렬이다.

예를 들어 v = (4, 2)는 B좌표로 (3, 1)이다. 3(1, 1) + 1(1, -1) = (4, 2)이므로 변환 방향과 계산을 동시에 검산할 수 있다.

“A에서 B로”라는 말은 기저벡터가 이동한다는 뜻이 아니라 입력이 A좌표이고 출력이 B좌표라는 뜻으로 읽는다. 화살표를 P_B←A처럼 쓰면 오른쪽의 A가 입력, 왼쪽의 B가 출력이어서 행렬 곱의 방향과 맞는다.

같은 선형변환의 두 행렬은 기저변환으로 연결된다

이제 V에서 V로 가는 같은 선형변환 T를 A와 B라는 두 기저에서 각각 기록한다고 하자. B좌표를 입력받아 B좌표를 출력하려면 세 단계가 필요하다.

B좌표를 A좌표로 바꾼다: P_A←B.
A좌표에서 T를 적용한다: [T]_A←A.
결과의 A좌표를 B좌표로 바꾼다: P_B←A.

행렬은 벡터에 가까운 변환부터 오른쪽에 놓이므로 다음 관계가 나온다.

[T]_B←B = P_B←A[T]_A←AP_A←B

P = P_B←A라고 놓으면 P_A←B = P^-1이므로 [T]_B←B = P[T]_A←AP^-1이다. 이런 관계를 만족하는 두 정방행렬을 닮은 행렬이라고 한다. 행렬의 숫자는 달라도 같은 선형변환을 서로 다른 좌표계에서 본 것이다.

곱의 순서를 외우지 않고 복원하는 방법

공식이 헷갈리면 [v]_B에서 출발해 목표 [T(v)]_B까지 좌표의 꼬리표를 이어 붙인다.

[v]_B → [v]_A → [T(v)]_A → [T(v)]_B

이 경로의 각 화살표를 행렬로 바꾸고, 실제 곱에서는 경로의 역순으로 왼쪽에 쌓으면 된다. 이 방법은 공식을 잊어도 입력·출력 기저만으로 다시 만들 수 있다.

자주 하는 잘못	왜 틀리는가	교정 질문
좌표가 바뀌면 벡터도 바뀌었다고 본다.	대상과 표현을 섞었다.	새 좌표를 새 기저로 다시 결합하면 원래 벡터가 되는가?
행렬의 j번째 행에 T(a_j)를 쓴다.	행렬-열벡터 곱의 열 조합 원리를 놓쳤다.	단위좌표 e_j를 곱했을 때 j번째 열이 나오는가?
P와 P^-1의 위치를 외운다.	P의 방향 정의가 달라지면 공식 모양도 달라진다.	현재 좌표의 기저와 다음 좌표의 기저는 무엇인가?
직사각형 행렬에도 닮음을 바로 적용한다.	같은 공간 V에서 V로 가는 변환의 기저 교체라는 조건을 빠뜨렸다.	두 행렬이 같은 크기의 정방행렬이며 같은 자기변환을 나타내는가?

미분변환 연습문제를 좌표부터 검산까지 푼다

강의의 연습문제는 V = P₂(R), W = P₁(R), D(f) = f′로 둔다. 입력기저는 α = (1, x, 1 + x²), 출력기저는 β = (1 + x, 1)이다. 목표는 [D]_β←α, f(x) = 5 + 5x + 2x²의 α좌표, 그리고 D(f)의 β좌표를 구하는 것이다.

미분변환의 행렬 만들기

α의 각 기저벡터를 미분하고 그 결과를 β좌표로 나타낸다.

D(1) = 0이므로 [D(1)]_β = (0, 0)^T.
D(x) = 1 = 0(1 + x) + 1이므로 [D(x)]_β = (0, 1)^T.
D(1 + x²) = 2x = 2(1 + x) - 2이므로 [D(1 + x²)]_β = (2, -2)^T.

세 좌표를 열로 세우면 [D]_β←α는 첫째 행이 (0, 0, 2), 둘째 행이 (0, 1, -2)인 2 × 3 행렬이다.

다항식의 α좌표 구하기

f = c₁·1 + c₂x + c₃(1 + x²)라고 두면 상수항은 c₁ + c₃, x의 계수는 c₂, x²의 계수는 c₃다. f = 5 + 5x + 2x²와 비교하면 c₃ = 2, c₂ = 5, c₁ = 3이므로 [f]_α = (3, 5, 2)^T다.

두 경로로 결과 검산하기

직접 미분하면 D(f) = 5 + 4x = 4(1 + x) + 1이므로 [D(f)]_β = (4, 1)^T다. 행렬 경로에서도 [D]_β←α(3, 5, 2)^T = (4, 1)^T가 나온다. 서로 다른 두 경로가 일치하므로 좌표, 열의 순서, 행렬 곱을 모두 검산한 셈이다.

재현 가능한 풀이 순서: 입력기저의 상을 구한다 → 출력기저의 좌표로 바꾼다 → 그 좌표를 열로 세운다 → 입력벡터의 좌표를 구한다 → 행렬 곱과 직접 계산을 비교한다.

핵심 개념 정리

좌표는 벡터 자체가 아니라 순서기저에 대한 계수의 기록이다.
[T]_B←A의 j번째 열은 입력기저 a_j의 상 T(a_j)을 출력기저 B로 나타낸 좌표다.
기저변환행렬 P_B←A는 항등변환의 행렬이며 [v]_B = P_B←A[v]_A를 만족한다.
반대 방향의 기저변환행렬은 역행렬이다.
같은 자기변환의 두 행렬은 [T]_B←B = P_B←A[T]_A←AP_A←B로 연결되며 서로 닮았다.

새 문제를 만나면 먼저 각 좌표와 행렬의 입력기저·출력기저를 적는다. 다음으로 기저벡터의 상을 구해 열로 세우고, 좌표의 이동 경로를 화살표로 연결한다. 마지막에는 새 좌표를 기저에 다시 결합하거나 직접 변환한 결과와 행렬 곱을 비교한다. 이 세 단계만 지키면 좌표의 방향, 열과 행, P와 P^-1의 순서를 따로 암기하지 않고도 복원할 수 있다.

예상문제 10선

1. 순서기저 A = (a₁, a₂)에서 [v]_A = (3, -2)^T라는 뜻으로 옳은 것은?

① v의 표준좌표가 반드시 (3, -2)^T이다. ② v = 3a₁ - 2a₂이다. ③ 기저의 순서를 바꿔도 v의 좌표는 그대로다. ④ v는 기저 A와 무관하게 두 실수의 순서쌍 자체다.

정답입니다.

오답입니다. 답안을 다시 선택해 보세요.

정답 및 해설 보기

정답: ②

① 오답: A가 표준기저라는 조건이 없으므로 좌표의 숫자를 표준좌표로 볼 수 없다.
② 정답: 좌표의 각 성분은 순서기저의 해당 벡터에 붙는 일차결합 계수다.
③ 오답: 순서를 바꾸면 첫째 계수와 둘째 계수가 붙는 기저벡터도 바뀐다.
④ 오답: 벡터 자체와 특정 기저에서의 좌표 표현을 같은 대상으로 혼동한 설명이다.

2. B = ((1, 1), (1, -1))일 때 v = (6, 2)의 B좌표는?

① (6, 2)^T ② (2, 4)^T ③ (3, 1)^T ④ (4, 2)^T

정답입니다.

오답입니다. 답안을 다시 선택해 보세요.

정답 및 해설 보기

정답: ④

① 오답: 주어진 표준좌표를 기저 B의 계수로 변환하지 않고 그대로 사용했다.
② 오답: 두 계수의 합과 차가 각각 6과 2가 되는지 확인하면 2 + 4와 2 - 4가 조건에 맞지 않는다.
③ 오답: 3(1, 1) + 1(1, -1) = (4, 2)이므로 첫째 성분이 부족하다.
④ 정답: 4(1, 1) + 2(1, -1) = (6, 2)이므로 두 계수가 정확하다.

3. [T]_B←A를 구하는 올바른 절차는?

① 각 a_j에 T를 적용하고, 결과의 B좌표를 j번째 열로 둔다. ② 각 b_j에 T를 적용하고, 결과의 A좌표를 j번째 열로 둔다. ③ 각 a_j에 T를 적용하고, 결과의 B좌표를 j번째 행으로 둔다. ④ A와 B의 기저벡터를 같은 순서로 곱해 행렬을 만든다.

정답입니다.

오답입니다. 답안을 다시 선택해 보세요.

정답 및 해설 보기

정답: ①

① 정답: 입력기저 A의 j번째 단위좌표를 행렬에 곱하면 j번째 열이 나오므로 그 열은 [T(a_j)]_B다.
② 오답: 정의의 입력기저와 출력기저를 서로 뒤바꾼 절차다.
③ 오답: 출력좌표는 열벡터이며 행렬-열벡터 곱에서 열 조합으로 작동한다.
④ 오답: 기저끼리의 단순 곱은 선형변환 T의 작용을 반영하지 못한다.

4. dim V = 3, dim W = 2이고 T: V → W일 때 [T]_B←A의 크기는?

① 3 × 3 ② 3 × 2 ③ 2 × 3 ④ 2 × 2

정답입니다.

오답입니다. 답안을 다시 선택해 보세요.

정답 및 해설 보기

정답: ③

① 오답: 출력 좌표의 길이가 2이므로 행이 3개인 정방행렬이 될 수 없다.
② 오답: 입력 차원을 행 수로, 출력 차원을 열 수로 뒤집었다.
③ 정답: 출력좌표는 2성분이라 행이 2개이고 입력기저는 3개라 열이 3개다.
④ 오답: 입력기저의 세 벡터 각각에 대응하는 열이 필요하므로 열이 하나 부족하다.

5. P_B←A[v]_A가 나타내는 것은?

① 벡터 v를 새로운 벡터 T(v)로 바꾼 결과 ② B의 기저벡터를 A의 기저벡터로 바꾼 결과 ③ 같은 벡터 v의 B좌표 [v]_B ④ v의 A좌표를 다시 A좌표로 나타낸 결과

정답입니다.

오답입니다. 답안을 다시 선택해 보세요.

정답 및 해설 보기

정답: ③

① 오답: 기저변환은 항등변환을 좌표로 기록하므로 실제 벡터에 새로운 작용을 하지 않는다.
② 오답: 이 곱의 입력은 기저 목록이 아니라 특정 벡터의 A좌표다.
③ 정답: 아래첨자 화살표가 A좌표를 입력받아 B좌표를 출력한다는 뜻이다.
④ 오답: 같은 기저로 되돌리는 행렬이라면 [I]_A←A, 즉 단위행렬이어야 한다.

6. 학생이 “P_B←A와 P_A←B는 기저의 이름만 다르므로 같은 행렬이다”라고 말했다. 가장 적절한 교정은?

① 두 행렬은 반대 방향의 좌표 변환이므로 일반적으로 서로 역행렬이다. ② 두 행렬은 항상 서로 전치행렬이다. ③ 두 행렬은 기저의 차원이 다를 때만 역행렬이다. ④ 두 행렬의 관계는 선형변환 T가 주어져야만 정해진다.

정답입니다.

오답입니다. 답안을 다시 선택해 보세요.

정답 및 해설 보기

정답: ①

① 정답: A에서 B로 바꾼 뒤 B에서 A로 바꾸면 원래 좌표가 되므로 곱이 단위행렬이다.
② 오답: 특별한 직교기저 상황이 아니면 역행렬과 전치행렬이 일치할 이유가 없다.
③ 오답: A와 B는 같은 공간의 기저이므로 애초에 원소 수, 즉 차원이 같다.
④ 오답: 기저변환행렬은 항등변환과 두 기저만으로 정해지며 별도의 T가 필요하지 않다.

7. 연습문제의 α = (1, x, 1 + x²)에서 f(x) = 5 + 5x + 2x²의 α좌표는?

① (5, 5, 2)^T ② (2, 5, 3)^T ③ (3, 2, 5)^T ④ (3, 5, 2)^T

정답입니다.

오답입니다. 답안을 다시 선택해 보세요.

정답 및 해설 보기

정답: ④

① 오답: 다항식의 일반 계수를 그대로 옮기면 세 번째 기저벡터가 상수항 1도 포함한다는 점을 놓친다.
② 오답: x²의 계수는 세 번째 좌표여야 하므로 첫째와 셋째 좌표를 뒤바꿨다.
③ 오답: 둘째 좌표는 x의 계수 5여야 하는데 기저의 순서를 잘못 읽었다.
④ 정답: 3·1 + 5x + 2(1 + x²) = 5 + 5x + 2x²로 원식을 복원한다.

8. β = (1 + x, 1)일 때 5 + 4x의 β좌표는?

① (5, 4)^T ② (4, 1)^T ③ (1, 4)^T ④ (4, 5)^T

정답입니다.

오답입니다. 답안을 다시 선택해 보세요.

정답 및 해설 보기

정답: ②

① 오답: 표준 다항식 계수를 β의 계수로 오해했다. 첫 번째 기저 1 + x가 상수항도 만든다.
② 정답: 4(1 + x) + 1 = 5 + 4x이므로 β의 첫째·둘째 계수는 4와 1이다.
③ 오답: 1(1 + x) + 4 = 5 + x여서 x의 계수가 맞지 않는다.
④ 오답: 4(1 + x) + 5 = 9 + 4x가 되어 상수항이 지나치게 커진다.

9. 두 행렬 M과 N이 같은 자기변환 T를 서로 다른 기저에서 나타낸 행렬일 때 옳은 관계는?

① N = M + P ② N = PM ③ N = P^-1M^-1P ④ 적절한 가역행렬 P에 대해 N = PMP^-1

정답입니다.

오답입니다. 답안을 다시 선택해 보세요.

정답 및 해설 보기

정답: ④

① 오답: 기저 교체는 행렬의 덧셈이 아니라 좌표 변환의 합성으로 표현된다.
② 오답: 한쪽 좌표만 바꾸면 입력과 출력이 서로 다른 기저로 남아 같은 자기변환의 B-B 표현이 되지 않는다.
③ 오답: 기저를 바꾼다고 원래 선형변환의 역변환을 취하는 것은 아니다.
④ 정답: 출력 좌표 변환 P와 입력 좌표의 반대 변환 P^-1이 M의 양쪽에 붙어 닮음 관계를 만든다.

10. 기저가 섞인 선형변환 문제를 풀 때 오류를 가장 잘 줄이는 방법은?

① 모든 좌표를 먼저 표준좌표라고 가정하고 계산한다. ② P와 P^-1의 위치를 문제마다 같은 모양으로 외운다. ③ 각 값에 기저 꼬리표를 붙이고 좌표 이동 경로를 만든 뒤 직접 계산으로 검산한다. ④ 행렬의 크기가 맞으면 기저 방향은 확인하지 않아도 된다.

정답입니다.

오답입니다. 답안을 다시 선택해 보세요.

정답 및 해설 보기

정답: ③

① 오답: 비표준기저 좌표를 표준좌표로 보면 실제 벡터와 계수가 달라져 첫 단계부터 오류가 생긴다.
② 오답: P를 어느 방향 행렬로 정의했는지에 따라 공식 모양이 달라져 단순 암기는 안전하지 않다.
③ 정답: 입력·출력 기저를 명시하면 행렬의 방향을 복원할 수 있고, 재결합이나 직접 변환으로 수치까지 확인할 수 있다.
④ 오답: 크기가 같은 서로 다른 기저변환행렬이 많으므로 차원 일치만으로 의미까지 보장하지 못한다.

참고 자료와 작성 기준

이 글은 해당 차시 강의자료를 바탕으로 학습 목적에 맞게 재구성한 비공식 학습자료입니다. 좌표와 행렬의 방향을 확인하는 절차, 2차원 예제와 미분변환의 단계별 검산은 학습자의 이해를 돕도록 구성하고 검토했습니다.

작성·편집: 올에이클래스 학습연구팀
주요 근거: 한국방송통신대학교 선형대수 제11강 「선형변환과 행렬」 강의자료(2024)
보충 자료: 별도의 외부 보충 자료를 사용하지 않음
편집 원칙: 올에이클래스 편집 정책
최종 내용 검토: 2026-08-27

방송대 선형대수 11강: 좌표와 기저변환행렬