如何计算 两个beta分布的KL散度

发布时间 2023-04-27 15:40:12作者: bregman

读论文 Sequential Recommendation with Probabilistic Logical Reasoning 中碰到的问题。
结论大概是这样: 对于Beta分布,KL散度的公式为:

\[D_{KL}(Beta(\alpha_1, \alpha_2)||Beta(\beta_1, \beta_2)) = log\frac{B(\beta_1, \beta_2)}{B(\alpha_1, \alpha_2)} + (\alpha_1 - \beta_1)\psi(\alpha_1) + (\alpha_2 - \beta_2)\psi(\alpha_2) + (\beta_1 - \alpha_1 + \beta_2 - \alpha_2)\psi(\alpha_1 + \alpha_2),\]

其中B是Beta函数,\(\psi\)是digamma函数。