ML之FE:数据处理—特征工程之高维组合特征的处理案例(矩阵分解)——基于LoR算法的广告点击预估问题

 

 

 

 

 

目录

特征工程之高维组合特征的处理思路

1、原始数据:语⾔言和类型两种离散特征

2、为了提高拟合能力,语言和类型可以组成二阶特征

3、以逻辑回归算法为例例

4、所有的特征,才开始看起来没有任何问题

问题出现

问题解决


 

 

 

 

特征工程之高维组合特征的处理思路

1、原始数据:语⾔言和类型两种离散特征

ML之FE:数据处理—特征工程之高维组合特征的处理案例(矩阵分解)——基于LoR算法的广告点击预估问题_人工智能

2、为了提高拟合能力,语言和类型可以组成二阶特征

ML之FE:数据处理—特征工程之高维组合特征的处理案例(矩阵分解)——基于LoR算法的广告点击预估问题_人工智能_02

 

3、以逻辑回归算法为例例

<x_i,x_j>表示x_i和x_j的组合特征,w_ij的维度等于 |x_i|*|x_j| = 2*2 = 4

 

4、所有的特征,才开始看起来没有任何问题

但当引入ID类型的特征时,就会出现大规模数据。

(1)、⽤用户ID和物品ID对点击的影响

ML之FE:数据处理—特征工程之高维组合特征的处理案例(矩阵分解)——基于LoR算法的广告点击预估问题_ML_03

(2)、用户ID和物品ID的组合特征对点击的影响

ML之FE:数据处理—特征工程之高维组合特征的处理案例(矩阵分解)——基于LoR算法的广告点击预估问题_人工智能_04

 

问题出现

若用户的数量=m,物品的数量为n,那么学习的参数的规模mxn。但是可是,在互联⽹网环境下,数量
都可以达到千万量级,几乎无法学习这么大规模的参数。

问题解决

有效的方法就是将用户和物品分别用k维的低维向量表示(k<<m, k<<n),其中$x_i^’$ 和 $x_j^’$分别表示
x_i和x_j对应的低维向量。

ML之FE:数据处理—特征工程之高维组合特征的处理案例(矩阵分解)——基于LoR算法的广告点击预估问题_人工智能_05
ML之FE:数据处理—特征工程之高维组合特征的处理案例(矩阵分解)——基于LoR算法的广告点击预估问题_ML_06

   需要学习的参数的规模变成m*k+n*k (实质上就是等价于矩阵分解)。

 

 

 

 

更多文章请关注《万象专栏》

本栏目由《康祺惠购APP》独家赞助