最近一直在看topic model 的東西,希望在音頻檢索中有所改進,在學習LDA中,遇到了graph model 以及variational inference的內容,翻看了bishop的machine learning and pattern recognition,在那本書中,graph model 和variational inference 分別是作爲一章來講的,閱讀中深感自己的功力太淺,bishop真實大牛。
帶有latent 變量的variational inference在求解參數估計問題中,主要有兩步:
第一:求解後驗概率的variational distribution,q(xita),作爲E-step
第二:與EM中的M-step相同。