| Derivation of 2nd and 3rd terms
나머지 두 번째, 세 번째 Expectation 유도
| Derivation of the last term
마지막 Entropy $H(q)$ 유도
Mean Field 적용하면 각각 분리 가능 → 앞에서 봤던 1st, 2nd terms 유사한 모양
| ELBO
Optimization 가능한 수식으로 유도 완료!
Reference
문일철 교수님 강의
https://www.youtube.com/watch?v=X7CAmGbUU9A&list=PLzZ7PPT4KK5qpd-1VF4qmFMlpnr1is7Pu&index=51 https://www.youtube.com/watch?v=X7CAmGbUU9A&list=PLzZ7PPT4KK5qpd-1VF4qmFMlpnr1is7Pu&index=52
'Study > Lecture - Advance 1' 카테고리의 다른 글
| W3.L18. Parameter Optimization of ELBO (0) | 2023.11.29 |
|---|---|
| W3.L16-17. Optimization of ELBO (0) | 2023.11.29 |
| W3.L12-13. Dirichlet Distribution (0) | 2023.11.16 |
| W3.L10-11. Latent Dirichlet Allocation (LDA) (0) | 2023.11.07 |
| W2.L6-9. 중간 Summary (0) | 2023.11.05 |
