1 简介
论文： Recommendation via Collaborative Diffusion Generative Model
源代码：https://github.com/WorldChanger01/CODIGEM
主要思想：将超分重构的扩散模型 (Denoising Diffusion Probabilistic Model, DDPM)迁移到推荐系统领域。DDPM模型在进行超分重构的时候，有两个主要的步骤。首先是在需要超分重构的图片上加噪声的过程(Diffusion)，其次是去噪的过程(Reverse Diffusion)。
1.1 Diffusion
x t x_t xt为 t t t时刻加了噪声的图片， x t − 1 x_{t-1} xt−1是 t − 1 t-1 t−1时刻加了噪声的图片， z t z_t zt为 t t t时刻的噪声。
加噪声过程：
x t = 1 − β t x t − 1 + β t z t , x_t = \sqrt{1 - \beta_t} x_{t-1} + \sqrt{\beta_t}z_t, xt=1−βt xt−1+βt zt,
其中系数 β t ∈ [ 1 0 − 4 , 2 × 1 0 − 2 ] \beta_t \in [10^{-4}, 2 \times 10^{-2}] βt∈[10−4,2×10−2],将区间等为 2000 2000 2000份, β \beta β依次取等分后值； z t ∼ N ( 0 , I ) z_t \sim N(0, I) zt∼N(0,I), T = 2000 T = 2000 T=2000。
令 α t = 1 − β t \alpha_t = 1 - \beta_t αt=1−βt, 则有：
x t = α t x t − 1 + 1 − α t z t , x t − 1 = α t − 1 x t − 2 + 1 − α t − 1 z t − 1 . \begin{array}{l} x_t = \sqrt{\alpha_t} x_{t-1} + \sqrt{1 - \alpha_t}z_t, \\ x_{t-1} = \sqrt{\alpha_{t-1}} x_{t-2} + \sqrt{1 - \alpha_{t-1}}z_{t-1}. \end{array} xt=αt xt−1+1−αt zt,xt−1=αt−1 xt−2+1−αt−1 zt−1.
可以推导得到：
x t = α ‾ t x 0 + 1 − α ‾ t z , x_{t}=\sqrt{\overline{\alpha}_{t}} x_{0}+\sqrt{1-\overline{\alpha}_{t}} z, xt=αt x0+1−αt z,
其中 α ‾ t = ∏ i = 1 T α i \overline{\alpha}_{t} = \prod_{i = 1}^{T} \alpha_i αt=∏i=1Tαi， z z z表示噪声变量。