推荐算法炼丹笔记：科学调参在模型优化中的意义【图文】

作者：九羽

基于Embedding的推荐算法模型一直是近几年研究的热门，在各大国际会议期刊都能看到来自工业界研究与实践的成果。MF（Matrix Factorization）作为传统基于点积和高阶组合Embedding的方式，在推荐系统被广泛应用。对user和item的交互行为的建模大多使用MF，对user和item的隐特征使用内积计算，而这是一种线性方式。

而通过引入user、item偏置提高MF效果也说明内积不足以捕捉到用户交互数据中的复杂结构信息。因此在NCF（Neural Collaborative Filtering）论文中，作者引入深度学习方法对特征之间的相互关系进行非线性的描述是解决该问题的一种方式。

本文主要阐述的内容主要为：

1、在相同实验情况下，矩阵分解（Matrix Factorization）在进行参数调优之后是否能比MLP（Multi Layer Perceptron）具有较大幅度的提升？

2、虽然MLP理论上可以逼近任何函数，但是本文通过实验对比分析MLP与点积函数之间的逼近关系；

3、最后，讨论MLP在实际线上生成环境中提供Service时的高成本问题，对比“点积”可以通过类似Faiss等高效搜索算法快速找到相似Item。

什么是Dot Product 和MLP？

更多文章请关注《万象专栏》