방송대 이산수학 5강: 행렬 연산과 가우스 소거법

행렬 문제는 숫자를 계산하기 전에 크기를 읽는 순간부터 시작됩니다. 덧셈은 두 행렬의 크기가 같아야 하고, 곱셈은 안쪽 차원이 맞아야 하며, 연립방정식은 해를 바꾸지 않는 기본행연산으로 정리해야 합니다. 이 글은 차원 판정에서 출발해 행렬곱, 가우스 소거법, 특수 행렬과 부울행렬까지 하나의 판단 흐름으로 연결합니다.

행렬을 만나면 먼저 모양부터 읽는다

행렬은 수를 직사각형 모양으로 배열한 것입니다. 가로줄을 행, 세로줄을 열이라고 하며, m개의 행과 n개의 열을 가진 행렬의 크기는 m×n입니다. 행렬 A=[a_ij]에서 a_ij는 i번째 행, j번째 열의 원소입니다. 예를 들어 다음 A는 2×3 행렬이고 a₂₃=5입니다.

A = [ 2  -1   0 ]
    [ 4   3   5 ]

1×n 행렬은 행벡터, m×1 행렬은 열벡터입니다. 모든 원소가 0인 행렬은 영행렬이며, 크기가 다르면 서로 다른 영행렬이므로 문맥에 맞는 크기를 확인해야 합니다. 행렬은 프로그래밍 언어의 자료 표현, 컴퓨터 그래픽스의 변환, 패턴 인식과 인공지능의 계산처럼 여러 값을 구조적으로 다루는 곳에 쓰입니다.

첫 관문: 원소를 계산하기 전에 각 행렬 옆에 크기를 적으세요. 크기 표시는 가능한 연산과 결과의 크기를 동시에 알려 주는 가장 빠른 오류 방지 장치입니다.

연산 가능 여부는 차원 게이트로 판정한다

연산	통과 조건	결과의 크기	계산 방식
`A+B`, `A-B`	A와 B의 행·열 수가 모두 같음	두 행렬과 같음	같은 위치의 원소끼리 계산
`cA`	스칼라 c와 행렬 A이면 항상 가능	A와 같음	A의 모든 원소에 c를 곱함
`AB`	A의 열 수 = B의 행 수	A의 행 수 × B의 열 수	A의 행과 B의 열을 대응해 합산
`Aⁿ`	A가 정방행렬	A와 같음	A를 n번 행렬곱
`A^-1`	A가 정방행렬이고 역행렬이 존재함	A와 같음	`AA^-1=A^-1A=I`

가령 A가 2×3, B가 2×3이면 A+B는 가능하지만 AB는 가능하지 않습니다. 반대로 A가 2×3, C가 3×4이면 A+C는 불가능하지만 AC는 가능하고 결과는 2×4입니다. “원소 수가 비슷하다”가 아니라 연산마다 요구하는 정확한 차원 조건을 적용해야 합니다.

경계 사례: A가 2×3, B가 3×2이면 AB와 BA가 모두 정의됩니다. 그러나 AB는 2×2, BA는 3×3이므로 두 결과는 같을 수 없습니다. 곱셈 가능 여부와 교환 가능 여부는 별개의 판단입니다.

덧셈과 스칼라곱은 위치를 보존한다

같은 크기의 행렬은 같은 위치의 원소끼리 더하고 뺍니다. 스칼라곱은 하나의 수를 행렬의 모든 원소에 곱합니다. 다음 예는 두 규칙을 한 번에 확인하게 해 줍니다.

A = [ 1  -2 ]    B = [ 2   1 ]
    [ 0   3 ]        [ -1  4 ]

2A - B = [ 2  -4 ] - [ 2   1 ]
          [ 0   6 ]   [ -1  4 ]
        = [ 0  -5 ]
          [ 1   2 ]

행렬 덧셈은 교환법칙과 결합법칙을 만족하고, 같은 크기의 영행렬은 덧셈의 항등원입니다. A의 각 원소에 부호를 바꾼 -A를 더하면 영행렬이 됩니다. 스칼라곱에도 c(dA)=(cd)A, c(A+B)=cA+cB, (c+d)A=cA+dA와 같은 결합·분배 성질이 성립합니다.

계산 후에는 결과의 크기가 입력 행렬의 크기와 같은지 확인하세요. 덧셈에서 행 또는 열이 사라졌다면 원소별 계산이 아니라 행의 합이나 열의 합을 구한 것이므로 다른 연산을 수행한 셈입니다.

행렬곱은 결과 한 칸의 출처를 추적한다

A가 m×n이고 B가 n×ℓ이면 C=AB는 m×ℓ 행렬입니다. 결과의 c_ij는 A의 i번째 행과 B의 j번째 열을 같은 위치끼리 곱한 뒤 더한 값입니다.

c_ij = a_i1 b_1j + a_i2 b_2j + ··· + a_in b_nj

강의자료의 예에서 A는 3×2, B는 2×2이므로 AB는 3×2입니다.

A = [ 4  -1 ]    B = [ 7  -3 ]
    [ 2   3 ]        [ 9  -2 ]
    [ 1   5 ]

c_11 = 4×7 + (-1)×9 = 19
c_12 = 4×(-3) + (-1)×(-2) = -10
c_31 = 1×7 + 5×9 = 52
c_32 = 1×(-3) + 5×(-2) = -13

AB = [ 19  -10 ]
     [ 41  -12 ]
     [ 52  -13 ]

이 계산 장부에서 행 번호 i는 A에서, 열 번호 j는 B에서 가져옵니다. 결과의 네 모서리나 임의의 한 칸을 다시 계산하면 행과 열을 뒤바꾼 실수를 빠르게 찾을 수 있습니다.

크기 암기법: (m×n)(n×ℓ)→m×ℓ에서 가운데 n은 곱셈 가능 여부를 검사하고, 바깥의 m과 ℓ은 결과의 크기로 남습니다.

행렬곱은 수의 곱셈과 다른 행동을 한다

행렬곱은 결합법칙 (AB)C=A(BC)와 분배법칙 A(B+C)=AB+AC를 만족하지만, 일반적으로 교환법칙은 성립하지 않습니다. 강의자료의 행벡터와 열벡터를 곱하면 차이가 모양부터 드러납니다.

A = [ -1  2  6 ]        B = [ 1 ]
                             [ 4 ]
                             [ 2 ]

AB = [19]               BA = [ -1   2   6 ]
                             [ -4   8  24 ]
                             [ -2   4  12 ]

AB는 1×1, BA는 3×3이므로 AB≠BA입니다. 두 곱의 크기가 우연히 같더라도 원소가 같다는 보장은 없습니다. 따라서 식의 순서를 임의로 바꾸면 안 됩니다.

또한 0이 아닌 두 행렬의 곱이 영행렬이 될 수 있습니다. 예를 들어 아래 A와 B는 모두 영행렬이 아니지만 AB는 2×2 영행렬입니다.

A = [ 0  1 ]    B = [ 1  1 ]    AB = [ 0  0 ]
    [ 0  1 ]        [ 0  0 ]         [ 0  0 ]

오개념 교정: 실수에서는 ab=0이면 a=0 또는 b=0이지만, 행렬에서는 같은 결론을 낼 수 없습니다. 행렬을 수처럼 취급해 약분하거나 순서를 바꾸는 추론은 별도의 조건이 없으면 허용되지 않습니다.

거듭제곱은 정방행렬에서만 같은 규칙으로 이어진다

행렬의 거듭제곱 Aⁿ은 A를 자신과 반복해서 곱하는 것이므로 A가 n×n 정방행렬이어야 합니다. 대각행렬에서는 각 대각 원소만 거듭제곱하면 되어 구조가 특히 잘 보입니다.

A = [ 2   0 ]       A^n = [ 2^n      0   ]
    [ 0  -1 ]             [  0    (-1)^n ]

같은 행렬의 자연수 거듭제곱에는 A^rA^s=A^r+s, (A^r)^s=A^rs가 성립합니다. 다만 서로 다른 행렬이 섞인 (AB)²는 ABAB이며, 일반적으로 A²B²와 같지 않습니다. 가운데의 B와 A 순서를 바꾸려면 AB=BA라는 추가 조건이 필요합니다.

연립방정식은 확대행렬로 계산 구조를 드러낸다

연립일차방정식은 AX=B로 나타낼 수 있습니다. A는 각 변수의 계수를 모은 계수행렬, X는 미지수를 세로로 모은 미지수행렬, B는 등식 오른쪽의 상수행렬입니다. 계산에서는 A와 B를 세로선으로 붙인 확대행렬 [A|B]를 사용합니다.

 x + 2y -  z =  2
2x + 5y +  z =  3
3x + 4y - 4z = 13

A = [ 1  2  -1 ]   X = [ x ]   B = [  2 ]
    [ 2  5   1 ]       [ y ]       [  3 ]
    [ 3  4  -4 ]       [ z ]       [ 13 ]

확대행렬의 한 행은 방정식 하나를 뜻합니다. 그래서 행을 서로 바꾸고, 한 행에 0이 아닌 수를 곱하고, 한 행에 다른 행의 배수를 더하는 세 가지 기본행연산은 방정식의 표현만 바꾸면서 해집합을 보존합니다.

기본행연산	기호 예	방정식에서의 의미
두 행 교환	`R₁↔R₂`	방정식의 나열 순서를 바꿈
한 행을 0이 아닌 수배	`R₂←cR₂`, c≠0	등식 양변을 같은 0이 아닌 수로 곱함
다른 행의 배수를 더함	`R₃←R₃-2R₁`	한 방정식에 다른 방정식의 배수를 더함

가우스 소거는 피벗을 오른쪽 아래로 이동시킨다

행사다리꼴은 영행이 아닌 행을 위에 두고, 각 비영행의 첫 0이 아닌 원소인 선도원소를 1로 만들며, 아래 행의 선도원소가 위 행의 것보다 오른쪽에 놓이게 한 행렬입니다. 기약행사다리꼴은 여기에 각 선도 1이 있는 열의 나머지 원소도 모두 0이라는 조건을 더합니다.

피벗 점검 순서	확인 질문	필요한 행동
행 배치	영행이 비영행 위에 있는가?	영행을 아래로 교환
선도원소	첫 0이 아닌 원소가 1인가?	그 행을 0이 아닌 수로 나눔
계단 모양	아래 피벗이 더 오른쪽에 있는가?	행 교환 또는 아래 원소 제거
기약 조건	피벗 열의 위아래가 모두 0인가?	다른 행에서 피벗 성분 제거

가우스 소거법은 확대행렬을 행사다리꼴로 만든 뒤 아래 행부터 미지수를 구합니다. 가우스-조르당 소거법은 더 나아가 기약행사다리꼴까지 만들어 각 미지수의 값을 행에서 바로 읽게 합니다. 어느 방법이든 한 단계마다 수행한 행 연산을 기록해야 계산을 되짚을 수 있습니다.

한 연립방정식을 행 연산 장부로 끝까지 푼다

강의자료의 연립방정식을 확대행렬로 바꾸고 첫 두 행을 교환하면 첫 열의 피벗을 바로 사용할 수 있습니다.

x₂ + 5x₃ = 2
x₁ - 3x₃ = -2
2x₁ + 2x₂ + 9x₃ = 1

[ 0  1   5 |  2 ]       [ 1  0  -3 | -2 ]
[ 1  0  -3 | -2 ]  ~    [ 0  1   5 |  2 ]
[ 2  2   9 |  1 ]       [ 2  2   9 |  1 ]

이후에는 각 행 연산이 어떤 원소를 0으로 만드는지 목적을 붙여 기록합니다.

R₃ ← R₃ - 2R₁   →  [ 0  2  15 | 5 ]
R₃ ← R₃ - 2R₂   →  [ 0  0   5 | 1 ]
R₃ ← (1/5)R₃    →  [ 0  0   1 | 1/5 ]
R₂ ← R₂ - 5R₃   →  [ 0  1   0 | 1 ]
R₁ ← R₁ + 3R₃   →  [ 1  0   0 | -7/5 ]

x₁ = -7/5,  x₂ = 1,  x₃ = 1/5

검산은 원래 식에 값을 대입해 합니다. 첫 식은 1+5×(1/5)=2, 둘째 식은 -7/5-3/5=-2, 셋째 식은 2×(-7/5)+2+9/5=1이므로 세 등식이 모두 맞습니다. 소수로는 (-1.4, 1, 0.2)이지만 분수 형태가 중간 계산과 검산에 더 안전합니다.

행 연산 장부: ‘무엇을 했는가’와 ‘어느 성분을 0으로 만들려는가’를 함께 적고, 마지막 해는 원래 방정식에 대입해 확인합니다.

특수 행렬은 0의 위치와 대칭 관계로 분류한다

행과 열의 수가 같은 행렬은 정방행렬이며, 왼쪽 위에서 오른쪽 아래로 이어지는 원소를 주대각원소라고 합니다. 특수 행렬은 주로 주대각선 밖의 원소가 어디에서 0인지, 전치했을 때 어떤 관계가 생기는지로 구분합니다.

종류	판정 기준	관계
대각행렬	주대각선 밖의 모든 원소가 0	상삼각·하삼각행렬이면서 대칭행렬
단위행렬 I	대각원소는 1, 나머지는 0	모든 단위행렬은 대각행렬
상삼각행렬	주대각선 아래가 모두 0	대각행렬을 포함
하삼각행렬	주대각선 위가 모두 0	대각행렬을 포함
대칭행렬	`a_ij=a_ji`, 즉 `A^T=A`	대각선을 기준으로 값이 거울처럼 같음
역대칭행렬	`a_ij=-a_ji`, 즉 `A^T=-A`	대각원소는 0

예를 들어 3차 역대칭행렬에서 a₁₂=3, a₁₃=2, a₂₃=-1이면 대각선 반대편에는 부호를 바꾼 값을 놓습니다.

[  0   3   2 ]
[ -3   0  -1 ]
[ -2   1   0 ]

영정방행렬은 대칭행렬이면서 역대칭행렬이고, 상삼각행렬이면서 하삼각행렬입니다. 분류 문제에서는 하나의 이름만 고르기보다 만족하는 조건을 모두 검사해야 합니다.

전치와 역행렬은 서로 다른 질문에 답한다

전치행렬 A^T는 A의 행과 열을 맞바꾼 행렬입니다. A가 m×n이면 A^T는 n×m이고, 두 번 전치하면 원래 행렬로 돌아옵니다. 전치는 모든 직사각행렬에 정의할 수 있습니다.

A = [ 1  2  3 ]      A^T = [ 1  4 ]
    [ 4  5  6 ]            [ 2  5 ]
                            [ 3  6 ]

반면 역행렬은 곱셈을 되돌리는 행렬입니다. 정방행렬 A에 대해 AB=BA=I를 만족하는 B가 존재할 때 B를 A^-1라고 합니다. 정방행렬이라고 해서 언제나 역행렬이 있는 것은 아닙니다. 따라서 ‘전치 가능 여부’는 크기만 보면 되지만, ‘역행렬 존재 여부’는 정방 여부와 실제 존재 조건을 추가로 확인해야 합니다.

역행렬이 존재한다면 AX=B의 양변 왼쪽에 A^-1을 곱해 X=A^-1B로 나타낼 수 있습니다. 왼쪽에 곱하는 이유는 행렬곱의 순서를 보존해야 하기 때문입니다.

부울행렬은 산술을 논리 연산으로 번역한다

부울행렬은 원소가 0과 1뿐인 행렬입니다. 같은 크기의 두 부울행렬의 합은 같은 위치에서 OR를 적용한 합(join)이고, 교차는 AND를 적용한 교차(meet)입니다. 따라서 1∨0=1, 1∧0=0을 원소별로 적용합니다.

산술 행렬의 관점	부울행렬에서의 대응	해석
같은 위치의 덧셈	OR, `∨`	둘 중 하나라도 1이면 1
같은 위치의 곱셈	AND, `∧`	둘 다 1일 때만 1
행렬곱의 곱	AND	한 경로의 두 조건이 모두 성립
행렬곱의 합	OR	가능한 경로가 하나라도 존재

A가 m×n, B가 n×ℓ인 부울행렬이면 부울곱 C=A⊙B는 m×ℓ이고, 원소는 c_ij=(a_i1∧b_1j)∨···∨(a_in∧b_nj)입니다. 차원 규칙은 보통 행렬곱과 같고 계산 기호만 바뀝니다.

A = [ 1  0  1 ]    B = [ 0  1 ]
    [ 0  1  0 ]        [ 1  0 ]
                       [ 0  1 ]

c_11 = (1∧0)∨(0∧1)∨(1∧0) = 0
c_12 = (1∧1)∨(0∧0)∨(1∧1) = 1

A⊙B = [ 0  1 ]
      [ 1  0 ]

계산을 마치기 전에 네 가지 오류를 감사한다

감사 항목	확인할 질문	잡아내는 오류
차원	연산 조건을 만족하고 결과 크기가 맞는가?	정의되지 않은 덧셈·곱셈
위치	곱의 (i,j) 원소에 A의 i행과 B의 j열을 썼는가?	행과 열의 뒤바뀜
순서	AB를 BA로 바꾸거나 임의로 약분하지 않았는가?	수의 곱셈 성질을 잘못 적용
검산	구한 해를 원래 방정식에 넣어 모두 성립하는가?	행 연산의 부호·배수 실수

이 네 단계는 서로 대신할 수 없습니다. 차원이 맞아도 원소 계산이 틀릴 수 있고, 소거 결과가 깔끔해도 원래 식에 대입하면 오류가 드러날 수 있습니다. 계산의 정답뿐 아니라 연산이 정의되는 이유와 검산 결과까지 남기면 풀이가 짧아도 논리 구조가 분명해집니다.

핵심 개념 정리

행렬의 크기 m×n과 원소 위치 a_ij를 먼저 읽으면 가능한 연산과 결과 크기를 판정할 수 있습니다.
덧셈은 같은 크기에서 원소별로, 곱셈은 안쪽 차원이 같을 때 행×열 방식으로 계산합니다.
행렬곱은 일반적으로 교환법칙이 성립하지 않으며, 0이 아닌 행렬끼리 곱해 영행렬이 될 수도 있습니다.
가우스 소거법은 해집합을 보존하는 세 기본행연산으로 확대행렬을 행사다리꼴로 바꿉니다.
대각·단위·삼각·대칭·역대칭행렬은 0의 위치와 전치 관계로 분류하며, 한 행렬이 여러 종류에 속할 수 있습니다.
부울곱은 행렬곱의 곱을 AND로, 합을 OR로 바꾸되 차원 규칙은 그대로 유지합니다.

행렬 문제의 안정적인 순서는 크기 표시 → 연산 가능 여부 → 결과 크기 예측 → 원소 계산 → 성질과 검산 확인입니다. 연립방정식이라면 각 행 연산의 목적을 기록하고 원래 식으로 되돌아가 해를 검산하세요. 특수 행렬은 이름을 외우기보다 0의 위치와 전치 관계를 확인하고, 부울행렬에서는 산술 기호가 AND와 OR로 바뀐다는 점을 분리해 보면 됩니다.

참고 자료와 작성 기준

이 글은 해당 차시 강의자료 57쪽 전체를 확인하고 표지·학습 범위·학습 목표·본문·정리·다음 강의 안내를 구분한 뒤, 5강의 행렬 기초와 연산, 가우스 소거법, 행렬의 종류와 부울행렬을 차원 판정과 계산 검산의 흐름으로 재구성한 비공식 학습자료입니다. 행렬곱의 각 원소, 연립방정식의 해와 부울곱 예시는 단계별로 다시 계산해 확인했습니다.

작성·편집: 올에이클래스 학습연구팀
주요 근거: 한국방송통신대학교 컴퓨터과학과 이산수학 5강 「행렬」 강의자료 :codex-file-citation{path="K1. 컴퓨터과학과/1. 재검토필요/2-1 이산수학/1. 강의록/이산수학_강의록_5강.pdf" purpose="source"}
편집 원칙: 올에이클래스 편집 정책
최종 내용 검토: 2026-09-05

방송대 이산수학 5강: 행렬 연산과 가우스 소거법