AutoEncoder

AutoEncoder

 

- 인코더(encoder)와 디코더(decoder)를 통해 압축과 해제를 실행

   - 인코더는 입력(x)의 정보를 최대한 보존하도록 손실 압축을 수행

   - 디코더는 중간 결과물(z)의 정보를 입력(x)과 같아지도록 압축 해제(복원)을 수행

 

- 복원을 성동적으로 하기 위해 오토인코더는 특징(feature)을 추출하는 방법을 자동으로 학습

 

 

 

Encoder

- 복원에 필요한 정보를 중심으로 손실 압축 수행

- 복원에 필요없는 정보는 버림

- 인코더에 통화시키는 것은 feature vector에 대한 embedding과정으로 볼 수 있음

 

중간 결과물(Bottleneck)

- 입력(x)에 비해 작은 차원으로 구성

- 정보의 선택과 압축이 발생, 차원에 따라 압축의 정도 결정

- 중간 결과물(z)은 입력(x)에 대한 feature vector(dense vector) 라고 할 수 있음 

 

Decoder

- 압축된 중간 결과물(z)를 바탕으로 최대한 입력(x)와 비슷하게 복원

- 보통 MSELoss를 통해 최적화 수행

 

 

---

김기현 님의 딥러닝 강의를 수강하며 정리한 내용입니다.

출처: fastcampus