개요
해당 포스팅 시리즈는 “Unerstanding Deep Learning” 책을 학습하는 과정을 기록하는 스터디 노트이다.
이번에는 15장, Generative adversarial networks에 대해 다룬다.
1. Generator vs Discriminator
Adversarial 이라는 단어에서도 볼 수 있듯 GAN에서는 두 모델이 경쟁하는 구도로 학습이 진행된다.
GAN은 sample 데이터와 최대한 비슷하게 생성하려는 Generator 모델과, Generator가 생성한 데이터를 sample 데이터와 최대한 구분하려는 Discriminator 모델로 나누어져 있다.
이런 식으로 두 모델이 경쟁하며 생성형 모델이 학습이 된다는 개념이 매우 신기했다.
2. Conditional generation
Condititional GAN, Auxiliary classifier GAN, InfoGAN 등 여러 GAN 파생 모델을 확인할 수 있었다.
실제 이미지 생성 모델을 사용하면서 latent variable 뿐만 아니라 더 자세한 프롬프트를 입력하는데, 이와 같은 프롬프트는 conditional generation의 파라미터로 들어가는 것을 알 수 있었다.
실제 생성 모델은 Diffusion 모델 기반의 생성형 모델이지만, GAN에서 conditional 파라미터로 들어가는 것을 보고 이를 떠올릴 수 있었다.
Reference
[1] Prince, S. J. D. (2023). Understanding Deep Learning. The MIT Press. Retrieved from http://udlbook.com