Neural Attentive Session-based Recommendation

发布时间 2023-05-29 19:31:00作者: 馒头and花卷

Li J., Ren P., Chen Z., Ren Z., Lian T. and Ma J. Neural attentive session-based recommendation. CIKM, 2017.

Session 推荐的经典之作.

符号说明

  • \(\mathbf{x} = [x_1, x_2, \ldots, x_{t-1}, x_t]\), session;

NARM

  • session \(\mathbf{x}\) 分别经过 local 和 global encoder 得到特征表示:

    \[\bm{c}_t = [\bm{c}_t^g; \bm{c}_t^l]. \]

  • 概特征表示和其它的 items 的 embddings 一起, 通过如下方式计算 score:

    \[S_i = emb_i^T \bm{B} \bm{c}_t, \]

    其中 \(\bm{B}\) 是可训练的参数.

  • 该 score 可以用于 Top-K 的推荐, 以及通过交叉熵用于训练模型:

    \[L(p, q) = -\sum_{i = 1}^m p_i \log(q_i), \]

    其中 \(p\) 表示真实的分布, 二 \(q\) 是 score softmax 后的概率.

Global Encoder

  • 作者采用 GRU 来提取 global 的特征:

    \[\bm{h}_t = (1 - \bm{z}_t) \bm{h}_{t-1} + \bm{z}_t \hat{\bm{h}}_t, \\ \bm{z}_t = \sigma(\bm{W}_z \bm{x}_t + \bm{U}_z \bm{h}_{t-1}), \\ \hat{\bm{h}}_t = tanh(\bm{W}\bm{x}_t + \bm{U} (\bm{r} \odot \bm{h}_{t-1})), \\ \bm{r}_t = \sigma(\bm{W}_r \bm{x}_t + \bm{U}_r \bm{h}_{t-1}). \]

  • 最后

    \[\bm{c}_t^g = \bm{h}_t. \]

Local Encoder

  • 和 global 的架构基本相同, 除了:

    \[\bm{c}_t^l = \sum_{j=1}^t \alpha_{tj} \bm{h}_j \]

    为不同特征的加权和 (话说这个能叫 local 吗).

  • 其中

    \[\alpha_{tj} = q(\bm{h}_t, \bm{h}_j) = \bm{v}^T\sigma(\bm{A}_1 \bm{h}_t + \bm{A}_2 \bm{h}_j), \]

    \(\bm{v}, \bm{A}_1, \bm{A}_2\) 均为可训练的参数.

代码

official