방송대 이산수학 4강: 집합의 관계와 연산 법칙

집합 문제에서 가장 흔한 실수는 기호를 몰라서가 아니라 원소와 집합의 층을 섞거나, 여집합의 전체집합을 빼먹거나, 겹친 원소를 두 번 세는 데서 생깁니다. 이 글은 대상을 먼저 고정하고 관계를 판정한 뒤 연산하고 원소 수로 검산하는 흐름을 통해 부분집합·분할·멱집합·집합연산·항등식을 하나의 체계로 연결합니다.

집합 문제는 네 번의 판단으로 정리된다

집합은 서로 구별되는 대상을 하나의 전체로 모아 다루는 수학적 언어입니다. 논리학에서 p(x) ∨ q(x)가 합집합에, p(x) ∧ q(x)가 교집합에 대응하듯, 집합연산은 원소의 소속 여부를 논리식으로 계산하는 방법입니다. 따라서 그림의 색칠만 외우기보다 다음 질문을 순서대로 묻는 편이 안전합니다.

대상: 지금 비교하는 것은 원소인가, 집합인가?
관계: 소속 관계인가, 포함 관계인가, 같은 집합인가?
연산: ‘또는’, ‘그리고’, ‘A이지만 B는 아님’ 중 어떤 조건인가?
검산: 결과가 전체집합을 벗어나지 않는가, 중복을 한 번만 셌는가?

판단 핵심: ∈의 왼쪽에는 원소, ⊆의 양쪽에는 집합이 놓입니다. 이 층을 먼저 맞추면 대부분의 표기 오류를 걸러낼 수 있습니다.

중괄호 안에서는 순서와 중복이 사라진다

집합은 중괄호로 나타냅니다. S = {1, 2, 3}처럼 원소를 직접 쓰는 방법은 원소나열법, S = {x | x는 0 < x < 4인 자연수}처럼 원소가 만족할 조건을 쓰는 방법은 조건제시법입니다. 세로선은 “그러한” 또는 “조건을 만족하는”으로 읽습니다.

표현	무엇을 말하는가	판정
`a ∈ {a, b}`	`a`가 집합의 원소이다	참
`{a} ⊆ {a, b}`	`{a}`의 모든 원소가 오른쪽에도 있다	참
`{a} ∈ {a, b}`	집합 `{a}` 자체가 원소로 들어 있는가	거짓
`{a} ∈ {{a}, b}`	집합 `{a}` 자체가 바깥 집합의 원소인가	참

집합에서는 원소를 나열한 순서와 같은 원소의 반복이 결과를 바꾸지 않습니다. 따라서 {a, b, a, c} = {c, b, a}이고 크기는 3입니다. 반면 곱집합에서 다루는 순서쌍은 순서가 중요하므로 (a, b)와 (b, a)가 일반적으로 다릅니다.

구간을 조건제시법으로 바꿀 때는 끝점 포함 여부를 부등호에 반영합니다. 수직선에서 -3이 열린 점이고 4가 닫힌 점이면 {x | -3 < x ≤ 4인 실수}입니다. 원소를 셀 때는 |S|를 사용하며, 이는 절댓값이 아니라 집합의 크기입니다.

부분집합은 모든 원소를, 상등은 두 방향을 검사한다

A ⊆ B는 A의 모든 원소가 B에도 있다는 뜻입니다. 원소 하나를 찾는 문제가 아니라 예외가 없는지 확인하는 전칭 조건이며, 논리식으로는 ∀x(x ∈ A → x ∈ B)입니다. 공집합 ∅에는 이 조건을 어길 원소가 없으므로 모든 집합의 부분집합입니다.

진부분집합은 포함되지만 같지는 않은 관계입니다. 이 글에서는 혼동을 줄이기 위해 A ⊂ B를 진부분집합으로 사용하고, 일반 부분집합은 A ⊆ B로 씁니다. 집합의 상등은 원소가 완전히 같다는 뜻이므로 다음처럼 양방향 포함으로 증명합니다.

A = B ⇔ (A ⊆ B) ∧ (B ⊆ A)

2 ∈ {1, 2}는 원소 소속을 말하고, {2} ⊆ {1, 2}는 집합 포함을 말합니다. 숫자 2와 한 원소를 가진 집합 {2}는 서로 다른 대상입니다.

포함관계에는 이행성이 있습니다. A ⊆ B이고 B ⊆ C이면 A의 원소는 B를 거쳐 모두 C에 들어가므로 A ⊆ C입니다. 또한 A ∩ B ⊆ A ⊆ A ∪ B는 교집합이 원소를 골라 줄이고 합집합이 원소를 모아 늘린다는 방향을 보여 줍니다.

분할은 빈틈·겹침·빈 블록을 모두 금지한다

두 집합 A, B가 서로소라는 말은 공통 원소가 없다는 뜻으로 A ∩ B = ∅입니다. 여러 집합이 쌍으로 서로소이려면 서로 다른 모든 두 집합 A_i, A_j에 대해 A_i ∩ A_j = ∅이어야 합니다.

여기에는 중요한 경계가 있습니다. 세 집합 전체의 교집합이 공집합이라고 해서 쌍으로 서로소인 것은 아닙니다. 예를 들어 A = {1, 2}, B = {2, 3}, C = {1, 3}이면 A ∩ B ∩ C = ∅이지만 각 쌍은 원소 하나씩을 공유합니다. 여러 집합에서는 ‘모두가 함께 공유하는 원소가 없음’과 ‘어느 두 집합도 공유하지 않음’을 구분해야 합니다.

집합 A의 분할은 A를 겹치지 않는 블록으로 정확히 나눈 것입니다. 집합족 P = {A₁, …, A_n}가 분할이 되려면 다음 세 조건이 모두 필요합니다.

각 블록은 공집합이 아니다.
모든 블록의 합집합은 원래 집합 A이다.
서로 다른 두 블록은 쌍으로 서로소이다.

A = {1, 2, 3, 4}에서 {{1, 3}, {2, 4}}는 분할입니다. 두 블록이 비어 있지 않고, 합치면 A가 되며, 겹치는 원소가 없습니다. {{1, 2}, {2, 3, 4}}는 2가 겹치고, {{1}, {2, 3}}은 4가 빠지므로 분할이 아닙니다. A ≠ ∅일 때 {A}도 블록 하나로 된 자명한 분할입니다.

분할 검사 순서: 공집합 블록 제거 → 합집합으로 누락 검사 → 모든 서로 다른 쌍의 교집합으로 중복 검사. 전체 교집합 한 번만 계산해서는 부족합니다.

멱집합은 원소가 아니라 선택 결과를 모은다

멱집합 P(A)는 A의 모든 부분집합을 원소로 갖는 집합입니다. A = {r, s, t}라면 원소를 0개, 1개, 2개, 3개 선택한 결과를 빠짐없이 모읍니다.

P(A) = {∅, {r}, {s}, {t}, {r, s}, {r, t}, {s, t}, {r, s, t}}

원소 하나마다 “선택한다/선택하지 않는다”의 두 가능성이 독립적으로 있으므로 |A| = n이면 |P(A)| = 2ⁿ입니다. 위 예에서는 2³ = 8로 목록의 개수와 일치합니다. 여기서 r ∈ A이지만 r은 보통 P(A)의 원소가 아닙니다. P(A)의 원소는 {r}처럼 모두 집합이어야 합니다.

목록을 만들 때는 부분집합의 크기별로 묶으면 누락을 줄일 수 있습니다. 공집합 1개, 한 원소 집합 3개, 두 원소 집합 3개, 전체집합 1개이므로 1 + 3 + 3 + 1 = 8입니다.

집합연산은 원소 하나의 소속 조건으로 읽는다

전체집합을 U라 하고 A, B ⊆ U라고 합시다. 연산 이름보다 임의의 원소 x가 결과에 들어갈 조건을 읽으면 복합식도 안정적으로 계산할 수 있습니다.

연산	원소 조건	판단 문장
`A ∪ B`	`x ∈ A ∨ x ∈ B`	A 또는 B 중 적어도 하나에 속함
`A ∩ B`	`x ∈ A ∧ x ∈ B`	A와 B 모두에 속함
`A - B`	`x ∈ A ∧ x ∉ B`	A에는 속하지만 B에는 속하지 않음
`A^c`	`x ∈ U ∧ x ∉ A`	전체집합 안에서 A 바깥에 있음
`A ⊕ B`	두 집합 중 정확히 하나에만 속함	합집합에서 교집합을 제거함

직접 구성한 예로 U = {1, 2, 3, 4, 5, 6}, A = {1, 2, 4, 6}, B = {2, 3, 6}이라 두겠습니다. 먼저 각 원소의 소속 여부를 비교하면 다음과 같습니다.

A ∪ B = {1, 2, 3, 4, 6}: 어느 한쪽에라도 속한 원소
A ∩ B = {2, 6}: 양쪽에 공통인 원소
A - B = {1, 4}: A 쪽에만 남는 원소
A^c = {3, 5}: U 안에서 A가 아닌 원소
A ⊕ B = {1, 3, 4}: 한쪽에만 속한 원소

대칭차집합은 (A - B) ∪ (B - A)와 같습니다. 차집합은 방향이 있어 일반적으로 A - B ≠ B - A이지만, 대칭차집합은 두 방향의 차이를 합치므로 A ⊕ B = B ⊕ A입니다. 여집합은 기준인 U가 바뀌면 결과도 바뀐다는 점을 반드시 표시해야 합니다.

곱집합에서는 괄호와 순서가 정보를 만든다

곱집합은 A × B = {(a, b) | a ∈ A, b ∈ B}로 정의합니다. A = {m, n}, B = {1, 2, 3}이면 첫째 자리에 A의 원소, 둘째 자리에 B의 원소를 놓아 모두 여섯 개의 순서쌍을 만듭니다.

A × B = {(m, 1), (m, 2), (m, 3), (n, 1), (n, 2), (n, 3)}

유한집합에서는 |A × B| = |A||B|이므로 2 × 3 = 6으로 검산할 수 있습니다. (m, 1)은 집합 {m, 1}과 달리 위치 정보를 보존합니다. 그래서 일반적으로 A × B와 B × A는 같지 않습니다. 곱집합은 뒤에서 관계를 순서쌍의 집합으로 정의할 때 연결됩니다.

원소 수는 겹친 영역을 한 번만 세어야 한다

유한집합의 합집합 크기를 단순히 |A| + |B|로 더하면 교집합의 원소를 두 번 셉니다. 따라서 한 번을 빼서 보정합니다.

|A ∪ B| = |A| + |B| - |A ∩ B|

학습용 상황으로 두 동아리의 가입자를 세어 보겠습니다. 독서 모임이 18명, 코딩 모임이 15명이고 두 모임에 모두 가입한 사람이 6명이면 적어도 하나에 가입한 사람은 18 + 15 - 6 = 27명입니다. 계산 뒤에는 27이 큰 집합의 크기 18보다 작지 않고 단순합 33보다 크지 않은지 확인합니다.

세 집합에서는 각 원소가 몇 번 더해지고 빠지는지 추적합니다.

|A ∪ B ∪ C| = |A| + |B| + |C| - |A ∩ B| - |A ∩ C| - |B ∩ C| + |A ∩ B ∩ C|

세 집합 모두에 속한 원소는 처음에 세 번 더해지고 쌍별 교집합에서 세 번 빠져 0번이 되므로 마지막에 한 번 다시 더합니다. 두 집합이 서로소이면 |A ∩ B| = 0이어서 공식이 |A ∪ B| = |A| + |B|로 단순해집니다.

검산 범위는 max(|A|, |B|) ≤ |A ∪ B| ≤ |A| + |B|입니다. 이 범위를 벗어나면 교집합을 더했거나 두 번 뺀 계산을 의심해야 합니다.

항등식은 원소 논증으로 다시 만들 수 있다

집합 항등식은 외울 목록처럼 보이지만, 임의의 원소 x의 소속 조건을 논리식으로 바꾸면 원리를 재구성할 수 있습니다. X ⊆ Y는 임의의 x ∈ X에서 x ∈ Y를 이끌어 내는 원소 논증으로 증명합니다. 두 집합의 상등은 양쪽 포함을 각각 보이면 됩니다.

법칙 묶음	대표 식	이해 기준
교환·결합	`A ∪ B = B ∪ A`, `(A ∩ B) ∩ C = A ∩ (B ∩ C)`	순서나 묶음이 소속 조건을 바꾸지 않음
분배	`A ∩ (B ∪ C) = (A ∩ B) ∪ (A ∩ C)`	논리곱과 논리합의 분배에 대응
항등·한계	`A ∪ ∅ = A`, `A ∩ U = A`, `A ∪ U = U`	빈 조건과 전체 조건의 역할
보수·이중보수	`A ∪ A^c = U`, `(A^c)^c = A`	소속과 비소속을 뒤집음
멱등·흡수	`A ∩ A = A`, `A ∪ (A ∩ B) = A`	같은 조건의 반복과 이미 포함된 조건 제거
드 모르간	`(A ∪ B)^c = A^c ∩ B^c`	여집합이 연산을 바꾸고 각 집합 안으로 들어감
차집합	`A - B = A ∩ B^c`	A에 속하고 B에는 속하지 않는 조건

예를 들어 드 모르간 법칙을 원소 하나로 확인하면 x ∈ (A ∪ B)^c는 x ∉ A ∪ B이고, 이는 x ∉ A이면서 x ∉ B라는 뜻입니다. 다시 쓰면 x ∈ A^c ∩ B^c입니다. 여집합을 단순히 안쪽에 붙이면서 합집합 기호를 그대로 두는 풀이가 틀리는 이유는 ‘또는의 부정’이 ‘그리고’로 바뀌기 때문입니다.

포함관계는 일곱 가지 모습으로 확인할 수 있다

A ⊆ B라면 A의 원소가 B 바깥에 하나도 없습니다. 같은 사실을 합집합, 교집합, 여집합, 차집합의 언어로 바꾸면 다음 조건들이 서로 동치입니다.

A ⊆ B
B^c ⊆ A^c: 포함 방향은 여집합에서 뒤집힘
A ∪ B = B: A를 더해도 B가 커지지 않음
A ∩ B = A: A가 교집합에서 그대로 남음
A^c ∪ B = U
A ∩ B^c = ∅
A - B = ∅: B 밖으로 빠져나간 A의 원소가 없음

문제에서 사용할 표현은 주어진 정보에 맞춰 고릅니다. 원소 목록이 있으면 A - B가 비었는지 보는 방법이 빠르고, 식을 단순화해야 하면 합집합·교집합 동치를 사용하기 좋습니다. 여집합만 주어졌다면 포함 방향을 뒤집은 B^c ⊆ A^c가 직접적입니다.

최종 점검: 대상을 구분하고(∈/⊆) → 전체집합을 고정하고 → 원소 소속 조건으로 연산하고 → 분할은 세 조건, 멱집합은 2ⁿ, 합집합 크기는 중복 보정으로 검산합니다.

핵심 개념 정리

표기 층: x ∈ A는 원소와 집합의 소속, A ⊆ B는 두 집합의 포함이다.
포함과 상등: 부분집합은 모든 원소를 확인하고, 상등은 양방향 포함으로 판정한다.
분할: 빈 블록이 없고, 블록의 합집합이 원집합이며, 서로 다른 블록이 쌍으로 서로소여야 한다.
멱집합: 모든 부분집합을 원소로 모으며, 원소가 n개이면 크기는 2ⁿ이다.
연산: 합집합은 또는, 교집합은 그리고, 차집합은 소속과 비소속, 여집합은 전체집합 안의 비소속으로 읽는다.
크기와 항등식: 겹친 영역의 중복을 보정하고, 항등식은 임의의 원소에 대한 논리 조건으로 재구성한다.

처음 보는 집합식에서도 그림을 먼저 외워 그리지 말고 임의의 원소 하나를 추적하십시오. 기호 양쪽의 대상이 맞는지 확인하고, 각 연산을 ‘속한다/속하지 않는다’의 조건으로 번역한 뒤, 결과를 원소 수나 포함 방향으로 검산하면 됩니다. 이 절차는 다음 차시의 행렬뿐 아니라 뒤에서 관계를 순서쌍의 집합으로 다룰 때도 집합의 층과 구조를 놓치지 않게 해 줍니다.

예상문제 10선

1. A = {1, 2}일 때 참인 것은?

① {1} ∈ A ② {1} ⊆ A ③ 1 ⊆ A ④ A ∈ {1, 2}

정답입니다.

오답입니다. 답안을 다시 선택해 보세요.

정답 및 해설 보기

정답: ②

① 오답: A의 원소는 숫자 1이지 집합 {1}이 아니다.
② 정답: {1}의 유일한 원소 1이 A에 있으므로 부분집합이다.
③ 오답: ⊆의 왼쪽에는 집합이 와야 하며 숫자 1은 집합으로 제시되지 않았다.
④ 오답: 바깥 집합의 원소는 1과 2이며 집합 A 자체가 원소는 아니다.

2. S = {a, b, c, d}일 때 |P(S)|는?

① 4 ② 8 ③ 12 ④ 16

정답입니다.

오답입니다. 답안을 다시 선택해 보세요.

정답 및 해설 보기

정답: ④

① 오답: 원집합의 크기만 센 값이며 부분집합의 수가 아니다.
② 오답: 원소가 3개일 때의 2³을 적용했다.
③ 오답: 각 원소의 두 선택 가능성을 곱하지 않고 임의로 배수 계산한 값이다.
④ 정답: 네 원소를 각각 선택하거나 제외하므로 2⁴ = 16이다.

3. 세 집합 A, B, C에 대해 A ∩ B ∩ C = ∅만 확인하고 “쌍으로 서로소”라고 결론 내린 풀이의 오류는?

① 세 집합 모두의 공통 원소가 없어도 두 집합끼리는 원소를 공유할 수 있다. ② 쌍으로 서로소이면 세 집합의 합집합도 공집합이어야 한다. ③ 서로소를 판정하려면 세 집합의 크기가 같아야 한다. ④ 전체 교집합이 공집합이면 세 집합 중 하나는 반드시 공집합이다.

정답입니다.

오답입니다. 답안을 다시 선택해 보세요.

정답 및 해설 보기

정답: ①

① 정답: 쌍으로 서로소는 A ∩ B, A ∩ C, B ∩ C를 각각 검사해야 한다.
② 오답: 서로소인 비어 있지 않은 집합들을 합치면 합집합에는 원소가 남는다.
③ 오답: 서로소는 공통 원소 유무의 조건이며 집합 크기와 무관하다.
④ 오답: 각 집합이 비어 있지 않아도 세 집합이 함께 공유하는 원소만 없을 수 있다.

4. A = {1, 2, 3, 4}의 분할인 것은?

① {{1, 2}, {2, 3, 4}} ② {{1}, {2, 3}} ③ {{1, 4}, {2}, {3}} ④ {∅, {1, 2, 3, 4}}

정답입니다.

오답입니다. 답안을 다시 선택해 보세요.

정답 및 해설 보기

정답: ③

① 오답: 원소 2가 두 블록에 들어가 쌍으로 서로소가 아니다.
② 오답: 합집합에 원소 4가 빠져 원래 집합을 덮지 못한다.
③ 정답: 세 블록이 비어 있지 않고 서로 겹치지 않으며 합치면 A가 된다.
④ 오답: 분할의 블록은 공집합이 아니어야 하므로 ∅을 블록으로 둘 수 없다.

5. U = {1,2,3,4,5,6}, A = {1,2,4,6}, B = {2,3,6}일 때 A ⊕ B는?

① {2, 6} ② {1, 2, 3, 4, 6} ③ {3, 5} ④ {1, 3, 4}

정답입니다.

오답입니다. 답안을 다시 선택해 보세요.

정답 및 해설 보기

정답: ④

① 오답: 두 집합에 공통인 교집합을 구한 결과다.
② 오답: 한쪽 이상에 속한 합집합이며 공통 원소를 제거하지 않았다.
③ 오답: 이는 전체집합 U에 대한 A의 여집합이다.
④ 정답: 합집합에서 공통 원소 2와 6을 제거하면 한쪽에만 속한 1, 3, 4가 남는다.

6. A = {x, y}, B = {1, 2, 3}일 때 옳은 설명은?

① A × B = B × A이다. ② |A × B| = 6이며 순서쌍의 첫째 성분은 A에서 고른다. ③ (x, 1)과 (1, x)는 같은 순서쌍이다. ④ 곱집합에서는 같은 값의 순서쌍을 중복 원소로 두 번 센다.

정답입니다.

오답입니다. 답안을 다시 선택해 보세요.

정답 및 해설 보기

정답: ②

① 오답: 순서쌍의 성분 위치가 바뀌므로 두 곱집합은 일반적으로 같지 않다.
② 정답: 첫째 성분 2가지와 둘째 성분 3가지를 조합해 2 × 3 = 6개를 만든다.
③ 오답: 순서쌍은 위치 정보를 보존하므로 두 성분이 바뀌면 다른 순서쌍이다.
④ 오답: 결과도 집합이므로 완전히 같은 순서쌍은 중복해 세지 않는다.

7. |A| = 18, |B| = 15, |A ∩ B| = 6일 때 |A ∪ B|는?

① 21 ② 33 ③ 27 ④ 39

정답입니다.

오답입니다. 답안을 다시 선택해 보세요.

정답 및 해설 보기

정답: ③

① 오답: 교집합을 두 번 빼 18 + 15 - 12로 계산한 값이다.
② 오답: 겹친 6명을 두 번 센 단순합이다.
③ 정답: 포함배제 원리에 따라 18 + 15 - 6 = 27이다.
④ 오답: 중복을 보정해야 하는데 교집합을 더해 오히려 세 번 셌다.

8. A ⊆ B와 동치인 것은?

① A - B = ∅ ② B - A = ∅ ③ A ∪ B = A ④ A ∩ B = B

정답입니다.

오답입니다. 답안을 다시 선택해 보세요.

정답 및 해설 보기

정답: ①

① 정답: A의 원소 중 B 밖에 있는 것이 하나도 없다는 뜻이 바로 A ⊆ B이다.
② 오답: 이는 반대 방향인 B ⊆ A를 뜻한다.
③ 오답: 합집합이 A라면 B가 A에 포함된 관계다.
④ 오답: 교집합에서 B가 그대로 남는 것도 B ⊆ A를 나타낸다.

9. (A ∪ B)^c를 원소 조건으로 변형한 결과는?

① A^c ∪ B^c ② A ∩ B ③ A^c ∩ B^c ④ A - B

정답입니다.

오답입니다. 답안을 다시 선택해 보세요.

정답 및 해설 보기

정답: ③

① 오답: 합집합의 여집합에서는 연산이 교집합으로 바뀌어야 한다.
② 오답: 두 집합 모두에 속하는 조건이지 두 집합 모두에 속하지 않는 조건이 아니다.
③ 정답: 합집합에 속하지 않으려면 A에도 속하지 않고 B에도 속하지 않아야 한다.
④ 오답: 차집합은 A에 속하면서 B에는 속하지 않는 비대칭 조건이다.

10. 원소 목록으로 주어진 두 집합이 A ⊆ B인지 가장 직접적으로 판정하는 방법은?

① 두 집합의 원소 수가 같은지만 비교한다. ② A ∩ B가 공집합인지 확인한다. ③ B - A가 공집합인지 확인한다. ④ A - B가 공집합인지 확인한다.

정답입니다.

오답입니다. 답안을 다시 선택해 보세요.

정답 및 해설 보기

정답: ④

① 오답: 크기가 같아도 원소가 다를 수 있고, 부분집합은 크기가 달라도 성립한다.
② 오답: 교집합이 공집합이면 서로소를 뜻하며 포함관계와는 다른 판정이다.
③ 오답: 이는 B에서 A 밖으로 나간 원소를 검사해 반대 방향 포함을 판정한다.
④ 정답: A에 있으면서 B에 없는 원소가 하나도 없으면 A의 모든 원소가 B에 포함된다.

참고 자료와 작성 기준

이 글은 해당 차시 강의자료를 바탕으로 학습 목적에 맞게 재구성한 비공식 학습자료입니다. 집합의 표기, 관계, 연산과 대수법칙을 학습자가 직접 판정하고 검산할 수 있도록 예제와 오류 분석을 새로 구성했습니다.

작성·편집: 올에이클래스 학습연구팀
주요 근거: 한국방송통신대학교 이산수학 4강 「집합론」 강의자료(2021)
자료 성격: 강의자료의 정의와 범위를 바탕으로 재구성한 비공식 학습자료
편집 원칙: 올에이클래스 편집 정책
최종 내용 검토: 2026-09-05

방송대 이산수학 4강: 집합의 관계와 연산 법칙