• 코드 구현 시에는 저자의 코드가 아니면 신뢰하지 마라
  • 논문을 제 1 정보로 삼아야 한다.
  • 크로스 체크 해야 한다. 그냥 가져다 쓰면 안 된다.
  • 라인 바이 라인으로 차원 검증하는 태도는 아주 좋다.
• 코드가 공개되지 않은 경우에 구현할 수 있어야 한다.
  • 하다못해 텐서플로우 코드를 파이토치로 변환할 줄은 알아야 한다.
• bits/dim
  • pixelRNN 2016 논문에서 가장 먼저 사용되었다.
  • 이 저자가 VQ-VAE의 1 저자이기도 하다.
  • VAE에서 사용(marginal likelihood)
  • 어차피 Likelihood와 bits/dim은 거의 비슷하다. 그래서 같은 Metric을 쓰면 VAE와 VQ-VAE의 성능 비교가 가능하다.
  • 서로 다른 크기의 이미지에 대해 작동하는 모델끼리의 비교를 하려고 dim으로 나눠준다.
• 스켈레톤 먼저 짠