其他分享
首页 > 其他分享> > 推荐系统CTR预估模型之xDeepFM

推荐系统CTR预估模型之xDeepFM

作者:互联网

 xDeepFM 是MSRA发表在KDD 2018上的一篇文章,用于CTR预估。

 前面已经介绍过Deep FM和Deep & Cross Networks两种模型,xDeepFM可以看成结合了这两种模型的优点。DNN模型以bit-wise的形式把特征进行交叉,而FM则以vector-wise的形式进行特征交叉。Deep&Cross交叉的每一层和起始输入X0其实都是一个线性关系,而且交叉也是以bit-wise的形式,并不能有效发现高阶组合特征。结合Deep FM和Deep&Cross的各自优点,提出xDeepFM这种结构。
在这里插入图片描述
 上图是xDeepFM的网络结构,类似Deep FM和Deep&Cross,xDeepFM有linear单元,一个DNN,再加一个CIN(Compressed Interaction Network)组合而成,linear和DNN结构与DeepFM和Deep&Cross一致,接下来简单介绍下CIN。
在这里插入图片描述
 上图是CIN的结构,理解DeepFM和Deep&Cross之后,这部分也很容易理解,初始输入shape为(batch_size, field_num, dim) , field_num为field的个数(多少个feature),dim为每个特征的维度,因为是类FM结构,所以每个特征的维度都必须是一样的。由上图(a),把输入根据最后一维进行split,形状变为(dim, batch_size, field_num ,1 ), 然后两个tensor再类似Deep&Cross那样相乘,再做一个conv1d的一维卷积,指定输出的维度(由cross_layer指定),最后把cross_layer的每一层结果做一个concat,作为最后CIN的输出。详细的过程可以具体看相应的paper。

xDeepFM模型的tensorflow代码实现可以参考:https://github.com/qiaoguan/deep-ctr-prediction/tree/master/XDeepFM
参考文献:Jianxun Lian et all. “xDeepFM: Combining Explicit and Implicit Feature Interactions for Recommender Systems,” In KDD,2018.

标签:CTR,xDeepFM,Cross,Deep,CIN,field,FM,预估
来源: https://blog.csdn.net/hnu2012/article/details/90317784