딥러닝) CNN 풀링 계층

이전 포스팅에서 CNN구조와 합성곱 계층에 대해 다루었다. Fully connnected 신경망과 달리 CNN은 합성곱 계층과 풀링 계층이 등장한다고 하였다. 오늘은 풀링 계층에 대해 살펴볼 것이다.

 

 

CNN 구조

 

 

 

1. 풀링 계층(Pooling Layer)

pooling은 주로 합성곱 연산과 활성화 함수를 거친 후에 수행하며, 최대 풀링(max plooling)과 평균 풀링(average pooling) 등이 있다. 최대 풀링은 window에서 최댓값을 뽑아내는 것이다. 예를 들어 2x2 최대풀링을 stride=2로 처리하면 다음과 같다.

 

 

 

max pooling

 

 

 

 

평균 풀링(average pooling)은 원소를 뽑아낼 때, 최댓값이 아닌 윈도우내의 평균값을 연산하여 취하는 것을 말한다.

 

 

average pooling

 

 

 

일반적으로 풀링의 윈도우 크기와 스트라이드는 같은 값으로 설정한다. 위에서는 윈도우 크기 2x2, 스트라이드는 2로 두었고, 만약 윈도우가 4x4이면 스트라이드는 4로 설정한다.

 

 

 

 

 

 

2. 풀링 계층의 특징

1. 학습해야 할 매개변수가 없다.

 

2. 채널 수가 변하지 않는다.

 

3. 입력의 변화에 영향을 적게 받는다(=강건하다)

 

입력 데이터가 조금 달라져도 같은 출력 (not always)

 

 

 

 

 

여기까지 풀링 계층에 대해 설명하였다. 다음 포스팅에서는 합성곱 계층과 풀링 계층을 직접 구현해볼 것이다.

 

 

 

---

출처: 사이토 고키, 『밑바닥부터 시작하는 딥러닝』, 한빛미디어(2017), p240-241.