방송대 인공지능 13강: 오차역전파와 자기조직화 학습

방송대 인공지능 13강: 오차역전파와 자기조직화 학습

정답은 출력층에만 주어지는데 은닉층의 가중치는 어떻게 책임을 나누어 학습할까요? 이 글은 오차를 뒤로 전달하는 계산, 입력과 복원을 대비하는 제한 볼츠만 머신, 승자와 이웃을 함께 움직이는 자기조직화 지도를 하나의 질문으로 연결합니다. 각 모델에서 학습 신호가 어디서 생기고 어느 가중치를 어떤 방향으로 움직이는지 판단할 수 있도록 수식과 새 예제를 단계별로 풉니다.

가중치를 움직이는 신호를 찾으면 세 학습 계열이 구분된다

다층 신경망에는 단층 퍼셉트론보다 먼저 해결해야 할 문제가 있다. 출력층에는 정답 레이블이 있지만 은닉층에는 “이 뉴런은 얼마를 출력해야 한다”는 정답이 직접 주어지지 않는다. 13강의 모델들은 모두 가중치를 학습하지만, 가중치를 움직이는 근거는 서로 다르다.

학습 계열	학습 신호의 출발점	신호가 이동하는 방식	학습 결과
오차역전파	출력과 레이블의 차이	연쇄 법칙으로 출력층에서 은닉층 방향으로 전달	손실을 줄이는 다층 연결 가중치
제한 볼츠만 머신	데이터 상태와 복원 상태의 차이	가시 유닛과 은닉 유닛 사이를 번갈아 표본화	입력 패턴의 특징을 나타내는 은닉 표현
자기조직화 지도	입력과 가장 가까운 대표벡터	승자와 지도상 이웃을 입력 방향으로 함께 이동	위상적 이웃 관계를 보존하는 대표벡터 지도
LVQ	입력 레이블과 승자 노드의 클래스 일치 여부	일치하면 입력 쪽으로, 불일치하면 반대쪽으로 이동	분류 경계를 형성하는 클래스 대표벡터

첫 판단 기준: “신경망이므로 모두 오차역전파를 쓴다”라고 묶지 않는다. 레이블 오차, 복원 대비, 이웃 경쟁, 클래스 일치 여부 중 무엇이 갱신 방향을 정하는지 먼저 확인한다.

오차역전파는 출력 오차를 계산 가능한 조각으로 분해한다

다층 퍼셉트론은 은닉층이 만든 중간 표현을 이용해 단층 구조보다 복잡한 결정경계를 만들 수 있다. 그러나 은닉층 목표값을 직접 제시할 수 없으므로 단층 퍼셉트론의 갱신 규칙을 그대로 적용할 수 없다. 오차역전파는 미분 가능한 활성함수와 연쇄 법칙을 이용해 최종 손실에 대한 각 연결의 기여를 계산한다.

강의에서는 출력 벡터 ŷ와 레이블 y의 오차제곱합을 다음 손실로 둔다.

C(ŷ,y)=½Σ_k=1^N(ŷ_k-y_k)²

가중치 변화량은 Δw=-η∂C/∂w이며, 학습률 η는 한 번에 이동할 크기를 조절한다. 시그모이드 함수 f(u)=1/(1+e^-u)는 도함수가 f′(u)=f(u)(1-f(u))이므로, 출력값만 알아도 국소 미분값을 계산할 수 있다.

출력 뉴런 p로 들어가는 가중치 w_q의 기울기는 세 조각으로 나뉜다.

∂C/∂w_q = (∂C/∂ŷ_p)(∂ŷ_p/∂u_p)(∂u_p/∂w_q) = δ_po_q

δ_p=(ŷ_p-y_p)ŷ_p(1-ŷ_p), Δw_q=-ηδ_po_q이다. 여기서 첫 항은 예측 오차, 둘째는 활성함수의 민감도, 셋째는 해당 연결로 들어온 입력이다. 셋 중 하나가 작으면 그 연결의 변화도 작아진다.

출력층 갱신을 숫자로 검산하기

학습용 예로 한 출력 뉴런의 출력이 0.7, 레이블이 1, 해당 연결의 입력이 0.4, 학습률이 0.2라고 가정하자.

1. 출력 오차와 시그모이드 미분을 묶으면 δ=(0.7-1)×0.7×(1-0.7)=-0.063이다.
2. 기울기는 δo=-0.063×0.4=-0.0252이다.
3. 변화량은 Δw=-0.2×(-0.0252)=+0.00504이다.

현재 출력이 목표 1보다 작기 때문에 이 양의 입력 연결은 커지는 방향으로 움직인다. 부호를 검산할 때는 식만 보지 말고, 변화가 현재 출력을 목표 쪽으로 밀어 주는지까지 확인한다.

은닉층의 책임은 다음 층에서 되돌아온 오차를 합해 정한다

은닉 뉴런에는 직접 비교할 레이블이 없다. 대신 그 뉴런이 다음 층의 여러 뉴런에 끼친 영향을 합한다. 은닉 뉴런 p의 출력이 o′_p이고 다음 층으로 가는 가중치와 오차항이 각각 w′_k, δ′_k라면 은닉층 오차항은 다음과 같다.

δ_p=(Σ_kδ′_kw′_k)o′_p(1-o′_p)

괄호 안은 이 은닉 뉴런이 다음 층의 전체 오차에 기여한 정도이고, 뒤의 곱은 현재 은닉 뉴런의 시그모이드 민감도다. 이전 층에서 들어오는 연결은 출력층과 같은 형태인 Δw_q=-ηδ_po_q로 갱신한다. 그래서 ‘역전파’란 출력값을 거꾸로 보내는 일이 아니라 손실의 미분값을 연결 가중치에 따라 뒤쪽 층에서 앞쪽 층으로 전달하는 일이다.

직접 구성한 작은 예에서 다음 층의 두 경로가 (δ′₁,w′₁)=(0.08,0.5), (δ′₂,w′₂)=(-0.04,-0.3)이면 되돌아오는 합은 0.08×0.5+(-0.04)×(-0.3)=0.052이다. 은닉 출력이 0.6이면 국소 미분은 0.6×0.4=0.24이므로 δ_p=0.052×0.24=0.01248이다. 이처럼 다음 층의 경로 하나만 보는 것이 아니라 모든 연결의 부호와 크기를 합해야 한다.

흔한 오개념: “은닉층에도 출력층과 같은 레이블 오차를 붙인다”는 풀이는 틀리다. 출력층은 ŷ-y를 직접 사용하지만, 은닉층은 다음 층의 δ′w′를 합한 뒤 자신의 활성함수 미분을 곱한다.

모멘텀은 현재 경사에 이전 이동 방향을 더한다

기본 경사하강법은 현재 단계의 기울기만 보고 움직인다. 모멘텀은 이전 변화량의 일부를 더해 Δw(n)=-ηδo+αΔw(n-1)로 갱신한다. 강의에서 α는 0.5에서 1.0 사이의 값으로 제시되며, 반복해서 같은 방향의 경사가 나타나면 이동이 누적되어 훈련을 빠르게 할 수 있고 지역최소치나 평평한 고원 문제를 개선하는 데 도움을 준다.

현재 경사 항이 -0.03, 직전 변화량이 +0.02, α=0.6이라면 새 변화량은 -0.03+0.6×0.02=-0.018이다. 이전 이동이 현재 경사와 반대여서 음의 이동 크기가 줄었다. 모멘텀은 항상 변화량을 크게 만드는 항이 아니라 과거 이동 방향에 따라 현재 이동을 강화하거나 완화하는 항이다.

층을 늘리는 목적도 모멘텀과 구분해야 한다. 층은 표현과 결정경계의 복잡성을 넓히고, 모멘텀은 주어진 구조의 최적화 경로를 조절한다. 구조의 표현 한계를 최적화 기법만 바꾸어 해결할 수 있다고 해석하면 두 역할을 혼동하게 된다.

제한 볼츠만 머신은 층내연결을 없애 양방향 조건확률을 만든다

볼츠만 머신은 가시 유닛과 은닉 유닛을 포함하며 유닛 사이의 대칭적 연결을 허용하는 확률적 순환 신경망이다. 제한 볼츠만 머신은 같은 층 안의 연결을 없애고 가시층과 은닉층 사이의 연결만 남긴다. 따라서 가시 벡터가 주어지면 각 은닉 유닛을, 은닉 벡터가 주어지면 각 가시 유닛을 조건확률로 다룰 수 있다.

p(h_j=1|v)=σ(b_j+Σ_iv_iw_ij)

p(v_i=1|h)=σ(a_i+Σ_jh_jw_ij)

b_j는 은닉 유닛 바이어스, a_i는 가시 유닛 바이어스다. 확률이 0.8이라고 해서 유닛 값을 그대로 0.8로 고정하는 것은 아니다. 깁스 샘플링에서는 0과 1 사이의 난수를 뽑아 그 값이 확률보다 작으면 1, 아니면 0을 선택한다. 확률은 2진 상태를 정하는 기준이다.

구조 판독: ‘제한’은 입력 종류를 제한한다는 뜻이 아니라 같은 층 유닛 사이의 연결을 제한한다는 뜻이다. 가시층과 은닉층 사이의 연결은 유지되며 양방향 조건부 계산에 함께 사용된다.

CD 학습은 원래 데이터와 다시 만든 데이터의 연결 반응을 대비한다

제한 볼츠만 머신은 비지도학습으로 입력 패턴의 특징을 은닉 표현에 담는다. CD 학습은 원래 가시 벡터 v(0)에서 시작해 은닉 상태와 복원 가시 상태를 번갈아 만든 뒤, 데이터에서 나타난 연결 반응과 복원에서 나타난 연결 반응의 차이로 가중치를 갱신한다.

1. 학습표본을 v(0)에 놓고 조건확률로 h(0)을 표본화한다.
2. h(0)에서 v(1)을 복원하고, 필요하면 다시 h(1)을 표본화한다.
3. 이를 n번 반복해 v(n)과 h(n)을 얻는다.
4. 각 표본의 변화량을 구한 뒤 학습표본 집합에서 평균하여 가중치와 두 층의 바이어스를 갱신한다.

Δw_ij=η{v_i(0)p(h_j=1|v(0))-v_i(n)p(h_j=1|v(n))}

첫 곱은 실제 데이터에서 가시 유닛과 은닉 유닛이 함께 활성화되는 정도이고, 둘째 곱은 복원 상태에서의 정도다. 두 항을 빼므로 데이터에서 강하고 복원에서 약한 연결은 강화되는 방향을 갖는다. 가시 바이어스는 v_i(0)-v_i(n), 은닉 바이어스는 두 조건확률의 차이를 이용한다.

잘못된 순서 교정: CD를 레이블과 예측의 차이를 뒤로 보내는 과정으로 보면 안 된다. 출발점은 레이블이 아니라 입력 v(0)이고, 핵심 비교는 원래 상태와 깁스 샘플링 뒤의 복원 상태다.

심층 신뢰망은 층별 사전학습과 지도 미세조정을 이어 붙인다

심층 신뢰망은 제한 볼츠만 머신을 여러 층 쌓는다. 첫 층의 학습이 끝나면 그 은닉 유닛 출력을 다음 제한 볼츠만 머신의 가시 입력으로 사용하고, 종료 조건을 만족할 때까지 층별 학습을 반복한다. 앞 층이 만든 특징이 다음 층의 입력 표현이 되는 셈이다.

분류 신경망을 만들 때는 이 비지도 사전학습으로 연결 가중치를 초기화한 뒤 출력층을 추가하고, 레이블이 있는 자료로 오차역전파 미세조정을 할 수 있다. 따라서 사전학습과 미세조정은 경쟁 관계가 아니다. 먼저 입력 구조를 층별로 학습하고, 그 결과를 분류 목적에 맞게 전체적으로 조정하는 서로 다른 단계다.

자기조직화 지도는 승자뿐 아니라 이웃까지 입력 쪽으로 이동시킨다

자기조직화 지도는 임의 차원의 입력을 보통 1차원 또는 2차원 뉴런 배열에 대응시키고, 입력 공간의 가까운 관계가 지도에서도 가깝게 나타나도록 학습한다. 레이블 없이 입력만 사용하며, 각 노드의 가중치 벡터는 입력을 대표하는 대표벡터가 된다.

학습은 경쟁 → 협력 → 적응으로 읽는다. 먼저 입력과 가장 가까운 대표벡터를 가진 승자 노드를 찾고, 지도상 승자의 이웃집합을 정한 뒤, 승자와 이웃의 가중치 벡터를 입력 방향으로 이동시킨다.

w_m(t+1)=w_m(t)+α(t){x_j-w_m(t)}, 단 m∈N_c(t)

이웃집합 밖의 노드는 그대로 둔다. 학습이 진행되면서 0<α(t)<1인 적응 이득과 이웃집합의 크기를 줄이면, 처음에는 지도의 넓은 영역이 대략적인 순서를 만들고 나중에는 좁은 영역이 세밀하게 조정된다.

대표벡터가 입력 쪽으로 얼마나 움직이는지 계산하기

학습용 예로 이웃집합 안의 대표벡터가 w=(1,3), 현재 입력이 x=(5,1), 적응 이득이 0.25라고 하자.

x-w=(4,-2)이므로 w′=(1,3)+0.25(4,-2)=(2,2.5)이다. 첫 좌표는 입력 5 쪽으로 1만큼 늘고, 둘째 좌표는 입력 1 쪽으로 0.5만큼 줄었다. 두 좌표 모두 현재 위치와 입력 사이 거리의 25%만큼 이동한다. 같은 대표벡터라도 이웃집합 밖에 있다면 이 단계에서는 (1,3)을 유지한다.

자가 점검: 자기조직화 지도의 ‘가까움’에는 두 종류가 있다. 입력 벡터와 대표벡터의 거리는 승자를 정하고, 1차원·2차원 지도 위의 공간적 거리는 어떤 이웃 노드를 함께 갱신할지 정한다.

LVQ는 레이블 일치 여부로 대표벡터를 당기거나 밀어낸다

LVQ는 자기조직화 지도의 대표벡터 아이디어를 패턴 분류에 적용한다. 각 출력 노드는 클래스 정보를 가지며, 입력과 가장 가까운 대표벡터의 노드가 승자가 된다. 다만 비지도학습인 자기조직화 지도와 달리 입력의 클래스 레이블을 사용한다.

승자와 입력의 클래스	갱신식	이동 방향	분류 관점의 의미
같음	w′=w+α(x-w)	입력 쪽으로 접근	해당 클래스 표본의 대표성을 강화
다름	w′=w-α(x-w)	입력 반대쪽으로 이탈	잘못 차지한 영역을 줄여 경계를 조정

직접 구성한 예에서 w=(2,2), x=(6,4), α=0.2이면 x-w=(4,2)다. 클래스가 같으면 w′=(2,2)+0.2(4,2)=(2.8,2.4)로 입력에 가까워진다. 클래스가 다르면 w′=(2,2)-0.2(4,2)=(1.2,1.6)으로 입력에서 멀어진다. 부호 하나를 외우기보다 “맞춘 대표는 당기고, 잘못 이긴 대표는 민다”라고 방향을 검산한다.

SOM과 LVQ 구분: 두 모델 모두 가장 가까운 대표벡터를 찾지만, 자기조직화 지도는 승자와 지도상 이웃을 입력 쪽으로 함께 이동시킨다. LVQ는 승자의 클래스가 정답과 같은지 확인해 접근 또는 이탈을 결정한다.

새 문제에서는 정답 유무와 원하는 결과부터 확인한다

모델 이름을 먼저 떠올리기보다 다음 순서로 학습 문제를 판독하면 갱신식을 고르기 쉽다.

1. 출력 레이블이 있고 다층 연결 전체를 조정해야 하는가? 출력 손실을 정의하고 오차역전파로 각 층의 기울기를 구한다.
2. 레이블 없이 입력의 특징 표현을 학습하려는가? 가시층과 은닉층 사이의 확률적 복원을 대비하는 제한 볼츠만 머신을 살핀다.
3. 고차원 입력의 이웃 관계를 저차원 지도에 보존하려는가? 승자와 이웃을 함께 갱신하는 자기조직화 지도를 선택한다.
4. 대표벡터로 분류 경계를 만들고 클래스 레이블도 있는가? 승자 클래스의 일치 여부로 방향을 바꾸는 LVQ를 적용한다.
5. 갱신 부호가 맞는가? 손실을 줄이는지, 대표벡터가 입력에 접근해야 하는지 이탈해야 하는지를 수치로 검산한다.

핵심 개념 정리

• 오차역전파: 출력층의 레이블 오차를 연쇄 법칙으로 분해하고, 다음 층의 오차항과 가중치를 이용해 은닉층 책임을 계산한다.
• 모멘텀: 현재 경사 항에 이전 변화량의 일부를 더해 최적화 이동을 조절하며, 층을 추가하는 구조 변화와 역할이 다르다.
• 제한 볼츠만 머신: 층내연결을 제한하고 가시·은닉 상태를 번갈아 표본화하여 데이터 상태와 복원 상태를 대비한다.
• 심층 신뢰망: 제한 볼츠만 머신을 층별로 사전학습한 뒤 분류 목적의 오차역전파 미세조정으로 이어 갈 수 있다.
• 자기조직화 지도: 경쟁으로 승자를 찾고, 협력으로 이웃을 정한 뒤, 적응으로 이웃집합의 대표벡터를 입력 쪽으로 이동시킨다.
• LVQ: 입력과 승자 노드의 클래스가 같으면 대표벡터를 당기고, 다르면 밀어 분류 경계를 형성한다.

처음 보는 학습 규칙은 ‘오차를 쓰는가’만으로 분류하지 마세요. 신호의 출발점이 레이블, 복원 차이, 입력과 대표벡터의 거리, 클래스 일치 여부 중 무엇인지 찾고, 그 신호가 한 연결·다음 층·지도상 이웃 가운데 어디까지 영향을 주는지 추적합니다. 마지막에는 변화량의 부호가 손실 감소, 입력 접근 또는 입력 이탈이라는 목적과 일치하는지 작은 수치로 검산하면 수식 암기를 실제 판단 절차로 바꿀 수 있습니다.

예상문제 10선

1. 오차역전파에서 은닉층 가중치의 갱신 방향을 구하는 설명으로 가장 적절한 것은?

① 은닉 뉴런마다 별도의 정답 레이블을 새로 만든다. ② 입력값을 출력층에서 은닉층으로 그대로 되돌려 보낸다. ③ 은닉층 출력과 입력 벡터의 거리를 손실로 사용한다. ④ 다음 층의 오차항과 연결 가중치를 합해 은닉층의 오차 기여를 구한다.

정답입니다.

오답입니다. 답안을 다시 선택해 보세요.

정답 및 해설 보기

정답: ④

• ① 오답: 은닉층에는 직접 제공되는 목표 출력이 없으므로 별도 레이블을 만드는 방식이 아니다.
• ② 오답: 역방향으로 전달하는 것은 입력값이 아니라 손실의 미분값이다.
• ③ 오답: 입력과 대표벡터의 거리는 경쟁학습에서 승자를 정할 때 쓰는 기준이다.
• ④ 정답: 다음 층의 각 오차항에 연결 가중치를 곱해 합하고 자신의 활성함수 미분을 반영한다.

2. 출력이 0.7, 레이블이 1, 연결 입력이 0.4, 학습률이 0.2일 때 본문의 시그모이드 출력층 가중치 변화량은?

① +0.00504 ② -0.00504 ③ +0.0126 ④ -0.0252

정답입니다.

오답입니다. 답안을 다시 선택해 보세요.

정답 및 해설 보기

정답: ①

• ① 정답: δ=(0.7-1)×0.7×0.3=-0.063이고 Δw=-0.2×(-0.063)×0.4=+0.00504이다.
• ② 오답: 경사하강 갱신식의 앞에 붙는 음수를 누락해 이동 방향을 뒤집었다.
• ③ 오답: -ηδ까지만 계산하고 연결 입력 0.4를 곱하지 않은 값이다.
• ④ 오답: δ와 입력을 곱한 기울기이며 학습률과 경사하강 부호를 반영하지 않았다.

3. 출력층 오차항과 은닉층 오차항의 차이를 옳게 설명한 것은?

① 두 층 모두 레이블과 은닉 출력의 차이를 직접 사용한다. ② 출력층은 다음 층의 오차항을 사용하고 은닉층은 레이블을 사용한다. ③ 출력층은 예측과 레이블의 차이를, 은닉층은 다음 층에서 되돌아온 가중 오차합을 사용한다. ④ 은닉층은 활성함수 미분을 사용하지 않는다.

정답입니다.

오답입니다. 답안을 다시 선택해 보세요.

정답 및 해설 보기

정답: ③

• ① 오답: 은닉층 목표값은 직접 주어지지 않으므로 레이블 차이를 바로 계산할 수 없다.
• ② 오답: 두 층의 오차 정보 출발점을 서로 뒤바꾸었다.
• ③ 정답: 출력층은 직접 오차를 쓰고 은닉층은 다음 층 경로들의 오차 기여를 합산한다.
• ④ 오답: 은닉층도 자신의 시그모이드 출력에 대한 미분값을 곱해야 한다.

4. 모멘텀에 관한 설명 중 잘못된 것은?

① 이전 단계의 가중치 변화량을 현재 갱신에 반영한다. ② 언제나 현재 경사 항의 절댓값보다 큰 변화량을 만든다. ③ 반복되는 이동 방향을 누적해 훈련 진행을 도울 수 있다. ④ 층을 늘려 결정경계 표현력을 바꾸는 방법과는 역할이 다르다.

정답입니다.

오답입니다. 답안을 다시 선택해 보세요.

정답 및 해설 보기

정답: ②

• ① 오답: 이는 모멘텀 항 αΔw(n-1)의 정확한 역할이므로 옳은 설명이다.
• ② 정답: 이전 변화량이 현재 경사와 반대 방향이면 본문 예처럼 이동 크기가 줄 수도 있다.
• ③ 오답: 같은 방향의 변화가 이어지면 모멘텀이 누적되어 이동을 강화할 수 있다.
• ④ 오답: 모멘텀은 최적화 이동을, 층 수는 모델의 표현 구조를 바꾸므로 옳은 구분이다.

5. 제한 볼츠만 머신에서 ‘제한’되는 것은?

① 가시 유닛이 받을 수 있는 입력표본의 개수 ② 은닉 유닛이 가질 수 있는 0과 1의 상태 ③ 가시층과 은닉층 사이의 모든 연결 ④ 같은 층 유닛 사이의 연결

정답입니다.

오답입니다. 답안을 다시 선택해 보세요.

정답 및 해설 보기

정답: ④

• ① 오답: 학습표본 수를 제한하는 모델이라는 뜻이 아니다.
• ② 오답: 2진 상태는 유닛의 동작 방식이며 제한이라는 이름의 대상이 아니다.
• ③ 오답: 두 층 사이의 연결은 조건확률 계산과 학습을 위해 유지한다.
• ④ 정답: 가시층 내부와 은닉층 내부의 연결을 없애 층간연결만 남긴 구조다.

6. 제한 볼츠만 머신의 CD 학습 흐름으로 옳은 것은?

① 레이블 설정→은닉층 오차역전파→결정경계 출력 ② v(0)에서 h(0) 표본화→v(1) 복원→데이터와 복원 반응의 차이로 갱신 ③ 승자 노드 선택→지도상 이웃 선택→모든 노드를 입력 반대쪽으로 이동 ④ 테스트 집합 분류→오분류 표본만 가시층에서 삭제

정답입니다.

오답입니다. 답안을 다시 선택해 보세요.

정답 및 해설 보기

정답: ②

• ① 오답: CD는 레이블 오차를 역전파하는 지도학습 절차가 아니다.
• ② 정답: 가시 상태와 은닉 상태를 번갈아 표본화하고 원래 상태와 복원 상태를 대비한다.
• ③ 오답: 승자와 이웃을 선택하는 과정은 자기조직화 지도이며 이동 방향도 반대로 서술했다.
• ④ 오답: 테스트 결과에 따라 표본을 삭제하는 단계는 CD 학습에 없다.

7. 자기조직화 지도에서 w=(1,3), x=(5,1), α=0.25이고 w가 이웃집합 안에 있을 때 새 대표벡터는?

① (2,2.5) ② (4,2) ③ (0,3.5) ④ (1,3)

정답입니다.

오답입니다. 답안을 다시 선택해 보세요.

정답 및 해설 보기

정답: ①

• ① 정답: w′=w+0.25(x-w)=(1,3)+0.25(4,-2)=(2,2.5)이다.
• ② 오답: x-w=(4,-2)를 새 대표벡터로 잘못 사용하고 기존 w를 더하지 않았다.
• ③ 오답: 입력 쪽이 아니라 반대 방향으로 이동한 결과다.
• ④ 오답: 이웃집합 밖이면 유지되지만 문제에서는 안에 있다고 명시했다.

8. 자기조직화 지도와 LVQ의 갱신 차이를 옳게 설명한 것은?

① 두 모델 모두 레이블 없이 승자 하나만 갱신한다. ② 자기조직화 지도는 클래스가 다르면 승자를 밀어내고 LVQ는 이웃을 모두 당긴다. ③ 자기조직화 지도는 승자와 이웃을 입력 쪽으로 이동시키고, LVQ는 승자 클래스의 일치 여부로 이동 방향을 정한다. ④ 자기조직화 지도는 지도학습이고 LVQ는 비지도학습이다.

정답입니다.

오답입니다. 답안을 다시 선택해 보세요.

정답 및 해설 보기

정답: ③

• ① 오답: 자기조직화 지도는 승자의 지도상 이웃도 갱신하며 LVQ는 레이블을 사용한다.
• ② 오답: 두 모델의 갱신 조건과 대상을 서로 뒤바꾸었다.
• ③ 정답: 위상 이웃 보존과 클래스 경계 형성이라는 두 모델의 목적 차이가 갱신 규칙에 반영된다.
• ④ 오답: 자기조직화 지도가 비지도학습이고 LVQ가 지도학습이다.

9. 심층 신뢰망을 분류 신경망에 활용하는 순서로 가장 적절한 것은?

① 모든 층을 무작위로 고정→출력층 제거→가시 유닛만 테스트 ② 제한 볼츠만 머신을 층별 사전학습→분류 출력층 추가→오차역전파 미세조정 ③ 오차역전파로 출력층만 학습→모든 연결을 제거→층별 표본화 ④ LVQ로 이웃집합 구성→레이블 삭제→모멘텀만 적용

정답입니다.

오답입니다. 답안을 다시 선택해 보세요.

정답 및 해설 보기

정답: ②

• ① 오답: 연결을 고정하고 출력층을 제거하면 분류 목적의 전체 조정을 수행할 수 없다.
• ② 정답: 비지도 층별 사전학습으로 초기 표현을 만든 뒤 레이블을 이용해 전체 신경망을 미세조정한다.
• ③ 오답: 층별 사전학습이 먼저이며 학습 뒤 연결을 제거하지 않는다.
• ④ 오답: LVQ의 이웃집합이나 레이블 삭제는 심층 신뢰망의 분류 활용 순서가 아니다.

10. 레이블이 없는 고차원 표본을 2차원 지도에 배치하면서 비슷한 표본이 지도에서도 가깝게 놓이도록 하려면 가장 적절한 모델은?

① 출력 레이블 오차를 사용하는 다층 퍼셉트론 ② 클래스 불일치 시 대표벡터를 밀어내는 LVQ ③ 이전 가중치 변화량만 추가하는 모멘텀 ④ 승자와 지도상 이웃을 함께 갱신하는 자기조직화 지도

정답입니다.

오답입니다. 답안을 다시 선택해 보세요.

정답 및 해설 보기

정답: ④

• ① 오답: 문제에는 출력 레이블이 없고 요구 결과도 분류 출력보다 위상적 배치에 가깝다.
• ② 오답: LVQ는 클래스 레이블을 사용해 분류 경계를 만드는 목적에 적합하다.
• ③ 오답: 모멘텀은 최적화 보조 항일 뿐 고차원 입력을 지도에 배치하는 모델이 아니다.
• ④ 정답: 자기조직화 지도는 레이블 없이 경쟁·협력·적응을 통해 입력의 위상적 이웃 관계를 저차원 지도에 반영한다.

참고 자료와 작성 기준

• 자료 성격: 한국방송통신대학교 인공지능 13강 강의록을 바탕으로 개념 관계, 계산 과정, 비교 사례를 재구성한 비공식 학습자료입니다.
• 작성·편집: 올에이클래스 학습연구팀
• 주요 근거: 인공지능 13강 「인공 신경망(2)」 강의록 전체 45쪽
• 외부 보충 자료: 사용하지 않음
• 작성 원칙: 올에이클래스 편집 정책
• 최종 내용 검토일: 2026년 8월 17일