방송대 선형대수 5강: 행렬식 계산과 정칙성 판정
행렬식 문제는 모든 항을 무조건 전개하는 계산 문제가 아닙니다. 영이 많은 행이나 열이 보이면 여인수 전개를, 삼각형 모양을 만들기 쉬우면 기본행연산을 선택하고, 그 과정에서 부호와 배수를 추적해야 합니다. 이 글은 행렬식을 하나의 수로 이해한 뒤 ‘어느 계산 경로가 짧은가’를 판단하고, 그 값으로 정칙 여부까지 결정하도록 구성합니다.
행렬식은 정방행렬 하나를 수 하나로 요약한다
행렬식은 n×n 정방행렬 A에 하나의 스칼라를 대응시키는 함수입니다. 기호는 det(A) 또는 |A|로 씁니다. 세로줄이 행렬을 둘러싸고 있지만 결과는 행렬이 아니라 수라는 점이 첫 번째 구분입니다. 정방행렬이 아닌 2×3 행렬에는 이 강의에서 정의한 행렬식을 적용하지 않습니다.
2×2 행렬 A=[[a,b],[c,d]]의 행렬식은 ad−bc입니다. 예를 들어 [[1,2],[-3,4]]의 행렬식은 1×4-2×(-3)=10입니다. 두 대각선 곱의 차라는 짧은 공식은 2차에서만 바로 쓸 수 있으며, 3차 이상에서는 소행렬과 여인수 또는 행 연산을 이용합니다.
의미 연결: 행렬식의 절댓값은 선형변환이 넓이나 부피를 얼마나 확대·축소하는지 나타냅니다. 값이 0이면 어떤 방향이 눌려 넓이나 부피가 사라진 상태이므로 변환을 되돌릴 수 없고, 이는 비정칙성과 연결됩니다.
소행렬식과 여인수는 큰 행렬식을 작은 행렬식으로 바꾼다
A에서 i행과 j열을 지워 얻는 (n−1)차 정방행렬의 행렬식을 소행렬식 Mij라고 합니다. 여기에 위치에 따른 부호를 붙인 값이 여인수 Aij=(−1)i+jMij입니다. 원소 aij와 여인수 Aij는 이름과 역할이 다르므로 대문자 표기를 눈여겨봐야 합니다.
| 위치 | (1,1) | (1,2) | (1,3) | (2,1) | (2,2) | (2,3) |
|---|---|---|---|---|---|---|
| 여인수 부호 | + | − | + | − | + | − |
부호는 첫 칸이 +인 바둑판 모양으로 번갈아 나옵니다. 예를 들어 (2,3)은 2+3이 홀수이므로 음의 부호, (3,3)은 합이 짝수이므로 양의 부호입니다. 행과 열을 지워 2×2 행렬식을 계산한 뒤 마지막에 위치 부호를 붙이는 순서를 지키면 부호 실수를 줄일 수 있습니다.
세 단계 메모: ‘행·열 삭제 → 작은 행렬식 계산 → (−1)i+j 부호 부착’을 한 줄에 섞지 말고 세 줄로 나눠 쓰세요. 특히 음수 원소와 음의 여인수가 만나 양수가 되는 경우를 분리해 볼 수 있습니다.
여인수 전개는 영이 가장 많은 행이나 열을 고른다
행 i를 따라 전개하면 |A|=Σj=1naijAij이고, 열 j를 따라 전개하면 |A|=Σi=1naijAij입니다. 어느 행이나 열을 선택해도 같은 행렬식이 나오지만 계산량은 크게 달라집니다. 0과 곱한 항은 바로 사라지므로 영이 가장 많은 줄을 고르는 것이 유리합니다.
강의자료의 A=[[8,1,5],[0,0,1],[5,1,6]]은 둘째 행에 영이 두 개입니다. 둘째 행으로 전개하면 (2,3) 위치의 한 항만 남습니다. 그 위치의 부호는 −이고, 남은 2×2 행렬식은 8×1-1×5=3이므로 |A|=−3입니다.
직접 만든 C=[[2,0,0],[3,-1,4],[5,2,1]]도 첫째 행을 선택하면 한 항만 계산합니다. |C|=2×((-1)×1-4×2)=2×(-9)=-18입니다. 같은 행렬을 영이 없는 둘째 행으로 전개해도 답은 같지만 2×2 행렬식을 세 번 계산해야 합니다.
선택 질문: 전개를 시작하기 전에 각 행과 열의 영 개수를 세어 보세요. ‘어디로 전개해도 된다’는 성질은 아무 줄이나 고르라는 뜻이 아니라 가장 짧은 줄을 선택할 자유가 있다는 뜻입니다.
기본행연산은 행렬식을 서로 다른 방식으로 바꾼다
큰 행렬은 삼각행렬로 바꾸어 계산하는 편이 빠를 수 있습니다. 다만 기본행연산이 행렬식을 어떻게 바꾸는지 함께 기록해야 합니다. 행 교환, 한 행의 상수배, 다른 행의 배를 더하는 연산은 행렬 자체에는 모두 변화를 주지만 행렬식에는 각각 다른 효과를 냅니다.
| 행 연산 | A에서 B로 바뀔 때 | 행렬식 장부 |
|---|---|---|
| 두 행을 교환 | |B|=−|A| | 부호를 한 번 뒤집음 |
| 한 행에 c를 곱함 | |B|=c|A| | 배수 c를 기록 |
| 한 행에 다른 행의 c배를 더함 | |B|=|A| | 변화 없음 |
예를 들어 E=[[0,2,0],[1,3,1],[0,4,5]]에서 첫째 행과 둘째 행을 교환하면 [[1,3,1],[0,2,0],[0,4,5]]가 됩니다. 이어 셋째 행에 둘째 행의 −2배를 더하면 대각선이 1, 2, 5인 상삼각행렬입니다. 바뀐 행렬의 행렬식은 10이지만 행 교환이 한 번 있었으므로 원래 |E|는 −10입니다.
행렬식 장부: 행 연산 옆에 ‘×(−1)’, ‘×c’, ‘변화 없음’을 적으세요. 마지막 삼각행렬의 행렬식만 구한 뒤 장부를 거꾸로 해석하면 원래 값을 복원할 수 있습니다.
삼각행렬은 주대각선의 곱으로 즉시 계산한다
상삼각행렬과 하삼각행렬의 행렬식은 주대각선 원소의 곱입니다. 예를 들어 [[2,3,6],[0,1,7],[0,0,5]]의 행렬식은 2×1×5=10입니다. 대각선 밖의 값 3, 6, 7은 이 계산에 직접 들어가지 않습니다.
한 행이 모두 0이면 그 행으로 여인수 전개할 때 모든 항이 0이므로 행렬식도 0입니다. 삼각행렬의 주대각선에 0이 하나 있는 경우도 대각선 곱이 0입니다. 따라서 완전한 값을 요구하지 않고 정칙 여부만 묻는 문제라면, 소거 과정에서 행 교환으로도 피벗을 확보할 수 없거나 영행이 확정되면 행렬식이 0임을 판단할 수 있습니다.
스칼라행렬 sIn은 주대각선이 모두 s인 대각행렬이므로 행렬식은 sn입니다. 특히 3차 행렬 2I₃의 행렬식은 2가 아니라 2³=8입니다. 차수가 지수로 들어간다는 사실은 뒤의 |cA| 성질과도 이어집니다.
행렬식이 0이 아니면 행렬을 되돌릴 수 있다
n차 정방행렬 A가 정칙행렬일 필요충분조건은 |A|≠0입니다. 즉 행렬식이 0이 아니면 역행렬이 존재하고, 0이면 역행렬이 존재하지 않습니다. 행렬식을 구하는 목적이 반드시 수 자체에 있는 것은 아닙니다. ‘역행렬이 있는가’, ‘연립방정식의 해가 하나인가’를 판정하기 위한 경계값으로도 씁니다.
강의자료의 A=[[1,2,3],[2,x,8],[-1,0,x-3]]에 다른 행의 배를 더하는 연산을 적용하면 행렬식을 보존하면서 계산을 단순화할 수 있습니다. 그 결과 |A|=x2−4x−4이고, 근은 x=2±2√2입니다. 따라서 이 두 값에서는 행렬식이 0이 되어 비정칙이고, 그 밖의 값에서는 정칙입니다.
조건 문제의 문장: 먼저 ‘정칙 ⇔ 행렬식 ≠ 0’을 적고, 행렬식을 x의 식으로 계산한 뒤, 0이 되는 값을 제외합니다. 근을 구한 뒤 그 값을 답에 포함시키는 실수에 주의하세요.
곱·상수배·전치·역행렬의 공식은 한 묶음으로 정리한다
| 대상 | 행렬식 성질 | 주의할 점 |
|---|---|---|
| 행렬의 곱 | |AB|=|A||B| | AB≠BA여도 두 행렬식은 같은 스칼라 |
| 행렬 전체의 상수배 | |cA|=cn|A| | n개 행 모두가 c배 됨 |
| 전치 | |AT|=|A| | 행과 열을 바꿔도 값은 같음 |
| 역행렬 | |A−1|=1/|A| | |A|≠0인 정칙행렬에서만 사용 |
가장 자주 섞이는 두 문장은 ‘한 행에 c를 곱하면 행렬식이 c배’와 ‘행렬 전체에 c를 곱하면 n차 행렬의 행렬식이 cn배’입니다. 전체 상수배는 각 행을 한 번씩, 모두 n번 상수배한 것과 같기 때문입니다.
한편 행렬식은 곱에 대해서는 잘 분리되지만 합에 대해서는 일반적으로 |A+B|=|A|+|B|가 아닙니다. 익숙한 분배 모양을 추측해 사용하지 말고, 공식 목록에 실제로 포함된 성질인지 확인해야 합니다.
강의 연습행렬은 서로 다른 조기 판정 신호를 보여 준다
강의 마지막 연습문제의 첫 행렬은 A=[[1,2,1],[1,5,6],[1,2,3]]입니다. 둘째 행에서 첫째 행을 빼고, 셋째 행에서도 첫째 행을 빼는 연산은 행렬식을 바꾸지 않습니다. 그러면 [[1,2,1],[0,3,5],[0,0,2]]가 되어 |A|=1×3×2=6입니다.
둘째 행렬은 B=[[1,4,7],[2,5,8],[0,3,6]]입니다. 둘째 행에서 첫째 행의 2배를 빼면 [0,-3,-6]이고, 이 행을 셋째 행에 더하면 영행이 생깁니다. 행렬식을 보존하는 연산만 사용했으므로 |B|=0입니다.
두 계산은 중요한 판단 차이를 보여 줍니다. A에서는 삼각형을 완성해 대각선 곱을 구했고, B에서는 영행이 나타난 순간 0이라고 끝냈습니다. 계산을 끝까지 같은 방식으로 밀어붙이는 것보다 답을 확정하는 신호를 알아보는 편이 빠르고 안전합니다.
처음 보는 행렬은 네 갈래 계산 경로로 분류한다
- 대상 확인: 정방행렬인지 확인합니다. 정방행렬이 아니면 행렬식을 계산하지 않습니다.
- 즉시 계산 신호: 2×2이면 ad−bc, 삼각행렬이면 대각선 곱, 영행이 있으면 0을 사용합니다.
- 희소성 확인: 영이 많은 행이나 열이 있으면 그 줄을 따라 여인수 전개합니다.
- 소거 가능성 확인: 영이 적고 차수가 크면 행 연산으로 삼각화하되 행렬식 장부를 기록합니다.
- 목적 확인: 정칙 여부만 묻는다면 값이 0인지 아닌지만 확정되는 순간 계산을 멈춥니다.
검산 경로도 마련할 수 있습니다. 3×3 행렬을 행 연산으로 계산했다면 영이 많은 행이나 열이 생긴 중간 단계에서 여인수 전개로 다시 확인할 수 있습니다. 행 교환 횟수가 홀수인지, 한 행의 상수배를 원래 값으로 되돌렸는지, 전체 상수배와 한 행 상수배를 구분했는지를 마지막에 점검합니다.
자가 설명: 답만 가린 뒤 ‘왜 이 행을 골랐는가’, ‘이 연산에서 행렬식은 어떻게 바뀌는가’, ‘0이 나오면 무엇을 뜻하는가’를 말해 보세요. 계산 선택의 이유까지 설명할 수 있어야 새 행렬에도 같은 원리를 적용할 수 있습니다.
핵심 개념 정리
- 정의: 행렬식은 정방행렬에 대응하는 스칼라이며, 2차에서는 ad−bc로 계산합니다.
- 여인수 전개: 행과 열을 지운 소행렬식에 (−1)i+j 부호를 붙이고, 영이 가장 많은 행이나 열을 선택합니다.
- 행 연산: 행 교환은 부호 반전, 한 행의 상수배는 같은 배수, 다른 행의 배를 더하는 연산은 변화 없음입니다.
- 삼각행렬: 행렬식은 주대각선의 곱이며 영행이나 0인 대각선 원소가 있으면 0입니다.
- 정칙성: |A|≠0일 때와 그때에만 역행렬이 존재합니다.
- 주요 성질: |AB|=|A||B|, |cA|=cn|A|, |AT|=|A|입니다.
행렬식 계산의 핵심은 공식을 많이 펼치는 데 있지 않고 구조를 먼저 읽는 데 있습니다. 영이 보이면 전개하고, 삼각형을 만들 수 있으면 소거하며, 그 사이의 부호와 배수를 장부처럼 추적하세요. 마지막 값이 0인지 아닌지는 행렬이 정보를 보존하는지, 역행렬로 되돌릴 수 있는지를 판정하는 기준이 됩니다.
예상문제 10선
1. 행렬식에 대한 설명으로 옳은 것은?
정답입니다.
오답입니다. 답안을 다시 선택해 보세요.
정답 및 해설 보기
정답: ②
- ① 오답: 이 강의의 행렬식은 행과 열의 수가 같은 정방행렬에 정의되며 결과도 행렬이 아니다.
- ② 정답: det(A) 또는 |A|는 정방행렬 하나를 수 하나에 대응시킨다.
- ③ 오답: 입력은 정방행렬이지만 출력은 정방행렬이 아니라 스칼라이다.
- ④ 오답: 행렬식은 단순 원소 합이 아니라 차수에 맞는 곱과 부호를 반영한 값이다.
2. 여인수 A23을 구하는 절차로 옳은 것은?
정답입니다.
오답입니다. 답안을 다시 선택해 보세요.
정답 및 해설 보기
정답: ④
- ① 오답: 소행렬은 해당 행과 열을 남기는 것이 아니라 삭제해 만든다.
- ② 오답: 남은 정방행렬에서 구할 값은 원소 합이 아니라 행렬식이다.
- ③ 오답: (2,3)은 행·열 번호의 합이 5로 홀수이므로 부호가 음이다.
- ④ 정답: Aij=(−1)i+jMij의 정의를 그대로 적용한 절차이다.
3. [[1,2],[-3,4]]의 행렬식은?
정답입니다.
오답입니다. 답안을 다시 선택해 보세요.
정답 및 해설 보기
정답: ①
- ① 정답: ad−bc=1×4−2×(−3)=4+6=10이다.
- ② 오답: 두 대각선 곱을 더하거나 음수의 곱을 잘못 처리한 값이다.
- ③ 오답: 원소를 순서대로 더한 값과 행렬식 공식을 혼동했다.
- ④ 오답: 두 대각선 곱을 빼는 순서를 반대로 적용한 값이다.
4. 여인수 부호가 음인 위치는?
정답입니다.
오답입니다. 답안을 다시 선택해 보세요.
정답 및 해설 보기
정답: ③
- ① 오답: 1+1=2는 짝수이므로 (−1)2=+1이다.
- ② 오답: 1+3=4는 짝수이므로 양의 부호이다.
- ③ 정답: 2+3=5는 홀수이므로 (−1)5=−1이다.
- ④ 오답: 3+3=6은 짝수이므로 양의 부호이다.
5. 기본행연산과 행렬식의 관계를 바르게 설명한 것은?
정답입니다.
오답입니다. 답안을 다시 선택해 보세요.
정답 및 해설 보기
정답: ④
- ① 오답: 두 행을 한 번 교환할 때 행렬식의 부호가 반대로 바뀐다.
- ② 오답: 한 행만 c배하면 행렬식도 c배이며, cn은 행렬 전체를 상수배할 때이다.
- ③ 오답: 다른 행의 배를 더하는 연산은 행렬식을 보존한다.
- ④ 정답: 이 연산은 삼각화에 사용하면서 별도 배수 보정이 필요 없는 연산이다.
6. 상삼각행렬 [[2,3,6],[0,1,7],[0,0,5]]의 행렬식은?
정답입니다.
오답입니다. 답안을 다시 선택해 보세요.
정답 및 해설 보기
정답: ②
- ① 오답: 마지막 대각선 원소만 선택하고 앞의 두 원소를 곱하지 않았다.
- ② 정답: 삼각행렬의 행렬식은 주대각선 곱이므로 2×1×5=10이다.
- ③ 오답: 주대각선이 아닌 원소까지 더해 만든 값이다.
- ④ 오답: 삼각행렬의 모든 영이 아닌 원소를 곱할 필요는 없다.
7. 강의 연습행렬 [[1,2,1],[1,5,6],[1,2,3]]의 행렬식은?
정답입니다.
오답입니다. 답안을 다시 선택해 보세요.
정답 및 해설 보기
정답: ①
- ① 정답: 둘째·셋째 행에서 첫째 행을 빼면 대각선이 1, 3, 2인 삼각행렬이 되어 곱은 6이다.
- ② 오답: 소거 뒤 영행이 생기는 것은 함께 제시된 다른 연습행렬 B이다.
- ③ 오답: 소거 뒤 둘째 대각선 원소 3만 보고 마지막 원소 2를 빠뜨렸다.
- ④ 오답: 사용한 연산은 다른 행의 배를 더하는 연산이라 부호 반전이 없다.
8. n차 정방행렬 A와 스칼라 c에 대한 식으로 옳은 것은?
정답입니다.
오답입니다. 답안을 다시 선택해 보세요.
정답 및 해설 보기
정답: ④
- ① 오답: c배는 한 행만 상수배할 때의 변화이며 행렬 전체에는 부족하다.
- ② 오답: 각 행의 배수는 더하는 것이 아니라 행렬식에서 곱으로 누적된다.
- ③ 오답: n차 행렬에는 행이 n개이므로 상수배도 n번 반영된다.
- ④ 정답: 모든 n개 행이 각각 c배가 되어 전체 배수는 cn이다.
9. A=[[1,2,3],[2,x,8],[-1,0,x-3]]이 정칙행렬이 되는 조건은?
정답입니다.
오답입니다. 답안을 다시 선택해 보세요.
정답 및 해설 보기
정답: ③
- ① 오답: 두 값에서는 x2−4x−4=0이 되어 오히려 비정칙이다.
- ② 오답: 행렬식이 0이 되는 두 예외값이 존재한다.
- ③ 정답: 정칙 조건은 행렬식이 0이 아닌 것이므로 이차식의 두 근을 제외한다.
- ④ 오답: 제외할 값은 2 하나가 아니라 2±2√2 두 값이다.
10. 영이 많은 4×4 행렬의 행렬식을 효율적으로 구하려 할 때 가장 적절한 첫 판단은?
정답입니다.
오답입니다. 답안을 다시 선택해 보세요.
정답 및 해설 보기
정답: ②
- ① 오답: 여인수 전개는 임의의 행이나 열에서 가능하므로 첫째 행에 고정할 이유가 없다.
- ② 정답: 영과 곱해지는 항은 사라지므로 영이 가장 많은 줄을 선택하면 작은 행렬식 계산 수가 줄어든다.
- ③ 오답: 행렬 전체에 0을 곱하면 원래 행렬식 정보를 잃어버린다.
- ④ 오답: 역행렬 존재 여부를 행렬식으로 판정할 수 있으므로 역행렬을 먼저 구할 필요가 없다.
참고 자료와 작성 기준
이 글은 해당 차시 강의자료를 바탕으로 학습 목적에 맞게 재구성한 비공식 학습자료입니다. 개념의 연결, 계산 예제와 문제 해설은 학습자가 스스로 계산 경로를 선택할 수 있도록 구성하고 검토했습니다.
- 작성·편집: 올에이클래스 학습연구팀
- 주요 근거: 한국방송통신대학교 컴퓨터과학과, 선형대수 5강 「행렬식」 강의자료(2024)
- 보충 자료: 별도의 외부 보충 자료를 사용하지 않음
- 편집 원칙: 올에이클래스 편집 정책
- 최종 내용 검토: 2026-08-26
댓글
댓글 쓰기