提出Field-aware Neural Factorization Machine模型，该模型可以通过FFM模型构造二阶的交互特征，也可通过DNN构建更高阶的交互特征。

FNFM模型结构如下：

Input Layer：x = [x1; x2; . . . ; xf ] ，其中f表示特征组的个数，如果是sparse的离散特征，xi就是one-hot向量，如果是dense的数值特征，就是一个scalar。
Embedding Layer：和传统的做法一样，通过embedding层映射到低维度向量。为了交叉合并离散特征和数值特征，dense的特征也可以通过embedding层做处理。
Bi-Interaction Concatation Layer：设xi和xj分别是属于特征组fi和fj的两个输入特征，那么second-order feature 交互向量的计算为：

其中的计算符号表示向量间的element-by-element product operation。 vi,fj表示输入xi和特征组fj交互时的向量，vj,fi表示输入xj和特征组fi交互时的向量，也就是相同的输入特征与不同的特征组特征交互时，使用的是不同的向量。然后将所有的交互向量concat起来。这里有一个创新点：就是传统的BI层中采用的是pooling层，而这里采用的是concat层，原因是为了最大的程度的保留信息不会损失。

Normalization Layer：之后是BN层，原因是经过BI层之后，输出会变得很不稳定，分布很不均匀。
Multiple Layer Perceptron (MLP) ：负责提取高阶的特征。
损失函数还是选择negative log-likelihood function：

实验结果

本文转载自Alex-zhai知乎账号。

原文链接：https://zhuanlan.zhihu.com/p/69503826

Field-aware Neural Factorization Machine 阅读笔记