VAE & GAN 간단 비교

오랜만에 블로그를 다시 잡아보는데요, 

앞으로 다룰 주제는 제가 현재 졸업작품으로 다루고 있는 인공지능 작곡기(정확히는 편곡기)에 대해서 설명할 예정입니다.

오늘은 가장 기본이 되는 주제를 다룰 것은 아니고, 부수적으로 필요한 기본 개념들을 먼저 정리했습니다.

큰 주제는 조금 더 정리해서 올릴 예정입니다.

 

순서대로 정리하고 싶은 마음 반, 이미 정리된 것들을 먼저 올리고 싶은 마음 반이여서 고민을 했는데, 

하고 싶은걸 먼저해야 계속해서 블로그를 할 수 있을 것 같아서 오늘은 간단하게 전에 정리했던 내용을 올리려고 합니다.

 

 

 

처음에 이 인공지능 작곡기를 계획하면서, midi 파서를 VAE, DAE기법으로 인디코딩시키려고 했습니다만,

생각보다 듣기 좋은 음악이 나올 것 같지가 않아서 Resnet과 cycleGAN을 이용하는 쪽으로 회선 시켰습니다.

 

그렇기에 오늘은 VAE와 GAN의 간단한 차이점을 적어보려고 합니다.

 

 

 

VAE는?

 

- Variational Auto-Encoder  

- 복잡한 데이터 생성 모델을 설계하고 대규모 set에 적응 할 수 있게 해줌

- input data를 잠재변수 z로 encoding 한 후, 스스로 input을 복원해 내는 방법

- VAE에서의 Loss functoion은 input x와 복원된 x'(decoding 된 x) 간의 Loss로 정의

- VAE에서는 Auto-Encoder가 input을 따라 그리는 것에만 맞게 학습 시킴

- 결론적으로 z는 의미론적이지 않음

 

 

GAN은?

 

경축! 아무것도 안하여 에스천사게임즈가 새로운 모습으로 재오픈 하였습니다.
어린이용이며, 설치가 필요없는 브라우저 게임입니다.
https://s1004games.com

 

- Generative Adversarial Nets

- Generator과 Discriminator가 서로 대립하여 서로의 성능을 점차 개선해 나가는 개념

- ex) 지폐위조범(Generator)은 경찰(Discriminator)을 최대한 열심히 속이기 위해 노력함

       경찰은 지폐위조범의 위조된 지폐를 감별하기 위해(Classify) 노력함

       이런 경쟁 속에서 두 그룹 모두 속이는 능력, 구별하는 능력이 발전하게 됨

     = 결과적으로, 진짜 지폐와 위조 지폐를 구별할 수 없을 정도에 이름

 

- Generative model G -> data x의 distibution을 알아내려고 노력

  (G가 data distribution을 모사할 수 있으면 sample과 data를 구별할 수 있다.)

 

- Discriminator model D -> sample이 training data인지, G가 만들어낸 data 인지 구별하여 각각의 확률을 estimate시킴

 

 

결론적으로 VAE와 GAN의 차이점은?

 

GAN

 

-generator model의 목적 자체가 어떤 data의 분포를 학습하는 것이 아님

- 진짜 같은 sample을 generate하는 것이 목적

 

 

VAE

- data의 분포를 학습하고 싶은데, 이 data가 다루기 힘들기 때문에 variational inference(변화 추론)하는 방법

- VAE는 data 분포가 잘 학습되기만 하면 sampling (=data generation)이 저절로 따라옴

 

 

 [출처] https://dev-hani.tistory.com/entry/Symbolic-Music-Genre-Transfer-with-CycleGAN

 

 

본 웹사이트는 광고를 포함하고 있습니다.
광고 클릭에서 발생하는 수익금은 모두 웹사이트 서버의 유지 및 관리, 그리고 기술 콘텐츠 향상을 위해 쓰여집니다.
번호 제목 글쓴이 날짜 조회 수
공지 오라클 기본 샘플 데이터베이스 졸리운_곰 2014.01.02 86180
공지 [SQL컨셉] 서적 "SQL컨셉"의 샘플 데이타 베이스 SAMPLE DATABASE of ORACLE 가을의 곰을... 2013.02.10 78666
공지 [G_SQL] Sample Database 가을의 곰을... 2012.05.20 95401
644 Docker에서 SQL Server 컨테이너 이미지 구성 file 졸리운_곰 2020.01.23 1552
643 MSSQL 설치형 한글 환경으로 변경 file 졸리운_곰 2020.01.23 2885
642 FastText, 실전 사용하기 file 졸리운_곰 2020.01.12 1096
641 Generative Models Part 2: ImprovedGAN,InfoGAN,EBGAN file 졸리운_곰 2020.01.09 1202
640 Generative Models Part 1: VAE,GAN,DCGAN file 졸리운_곰 2020.01.09 1152
» VAE & GAN 간단 비교 file 졸리운_곰 2020.01.09 1099
638 구글 Colab을 이용한 BERT-Base Model 학습하기 file 졸리운_곰 2020.01.08 1078
637 BERT 톺아보기 file 졸리운_곰 2020.01.08 1159
636 BERT 한국어버전(korquad) training 및 evaluating 해보기 file 졸리운_곰 2020.01.08 1001
635 딥 러닝 용어 - batch, iteration, epoch 졸리운_곰 2020.01.08 1068
634 tensorflow 로 mnist 흉내내는 GAN 만들기 file 졸리운_곰 2020.01.08 846
633 텐서플로우(TensorFlow)를 이용해서 MNIST 데이터를 생성하는 GAN(Generative Adversarial Networks) 생성 모델(Generative Model) 구현해보기 – GAN 예제 file 졸리운_곰 2020.01.08 965
632 Tensorflow로 50줄짜리 Original GAN Code 구현하기 졸리운_곰 2020.01.08 1193
631 Inductive bias란? 졸리운_곰 2020.01.05 936
630 형태소 분석기를 이용한 Bert-Multilingual Model 기반 Korquad 결과의 성능 개선 file 졸리운_곰 2020.01.05 1229
629 Bert-Multilingual model을 이용해 KorQuAD 수행해보기 Part 2 제출 file 졸리운_곰 2020.01.05 1181
628 Bert-Multilingual model을 이용해 KorQuAD 수행해보기 Part 1 훈련 및 평가 file 졸리운_곰 2020.01.05 1066
627 [기계독해][MRC] R-NET: MACHINE READING COMPREHENSION WITH SELF-MATCHING NETWORKS file 졸리운_곰 2020.01.05 1164
626 한국어 뉴스 데이터로 딥러닝 시작하기- 6. doc2vec으로 문사 유사도 측정하기 file 졸리운_곰 2020.01.04 1725
625 한국어 뉴스 데이터로 딥러닝 시작하기 - 5. 한국어 word2vec 데모 사이트 만들기 file 졸리운_곰 2020.01.04 961
대표 김성준 주소 : 경기 용인 분당수지 U타워 등록번호 : 142-07-27414
통신판매업 신고 : 제2012-용인수지-0185호 출판업 신고 : 수지구청 제 123호 개인정보보호최고책임자 : 김성준 sjkim70@stechstar.com
대표전화 : 010-4589-2193 [fax] 02-6280-1294 COPYRIGHT(C) stechstar.com ALL RIGHTS RESERVED