人工智障学习笔记——机器学习(7)FM/FFM

一.概念

FM(分解机模型)和FFM(基于域的分解机模型)是最近几年提出的模型，主要用于预估CTR/CVR，凭借其在数据量比较大并且特征稀疏的情况下，仍然能够得到优秀的性能和效果的特性，屡次在各大公司举办的CTR预估比赛中获得不错的战绩。

二.原理

FM（Factorization Machine）是由Konstanz大学Steffen Rendle（现任职于Google）于2010年最早提出的，旨在解决稀疏数据下的特征组合问题，相比SVM的二阶多项式核而言，FM在样本稀疏的情况下是有优势的；而且，FM的训练/预测复杂度是线性的，而二项多项式核SVM需要计算核矩阵，核矩阵复杂度就是N平方。

FFM（Field-aware Factorization Machine）最初的概念来自Yu-Chin Juan（阮毓钦，毕业于中国台湾大学，现在美国Criteo工作）与其比赛队员，是他们借鉴了来自Michael Jahrer的论文中的field概念提出了FM的升级版模型。通过引入field的概念，FFM把相同性质的特征归于同一个field
假设样本的 n 个特征属于 f 个field，那么FFM的二次项有 nf个隐向量。而在FM模型中，每一维特征的隐向量只有一个。FM可以看作FFM的特例，是把所有特征都归属到一个field时的FFM模型。根据FFM的field敏感特性，可以导出其模型方程。

其中，fj 是第 j 个特征所属的field。如果隐向量的长度为 k，那么FFM的二次参数有 nfk 个，远多于FM模型的 nk 个。此外，由于隐向量与field相关，FFM二次项并不能够化简，其预测复杂度是 O(kn2)O(kn2)。

详情参考   https://tech.meituan.com/deep-understanding-of-ffm-principles-and-practices.html

三.算法

算法代码：（源码见最后）

ffm_model ffm_train_on_disk(string tr_path, string va_path, ffm_parameter param) {    problem_on_disk tr(tr_path);    problem_on_disk va(va_path);ffm_model model = init_model(tr.meta.n, tr.meta.m, param);//cout << "ffm_train_on_disk:" << endl;//for (int i = 0; i < 10; i++)//{//cout << "model.W[i]  "<<i<<" "<<*(model.W+i) << endl;//}    bool auto_stop = param.auto_stop && !va_path.empty();ffm_long w_size = get_w_size(model);    vector<ffm_float> prev_W(w_size, 0);    if(auto_stop)        prev_W.assign(w_size, 0);    ffm_double best_va_loss = numeric_limits<ffm_double>::max();    cout.width(4);    cout << "iter";    cout.width(13);    cout << "tr_logloss";    if(!va_path.empty())    {        cout.width(13);        cout << "va_logloss";    }    cout.width(13);    cout << "tr_time";    cout << endl;    Timer timer;    auto one_epoch = [&] (problem_on_disk &prob, bool do_update) {        ffm_double loss = 0;        vector<ffm_int> outer_order(prob.meta.num_blocks);        iota(outer_order.begin(), outer_order.end(), 0);        random_shuffle(outer_order.begin(), outer_order.end());        for(auto blk : outer_order) {            ffm_int l = prob.load_block(blk);            vector<ffm_int> inner_order(l);            iota(inner_order.begin(), inner_order.end(), 0);            random_shuffle(inner_order.begin(), inner_order.end());#if defined USEOMP#pragma omp parallel for schedule(static) reduction(+: loss)#endif            for(ffm_int ii = 0; ii < l; ii++) {                ffm_int i = inner_order[ii];                ffm_float y = prob.Y[i];                                ffm_node *begin = &prob.X[prob.P[i]];                ffm_node *end = &prob.X[prob.P[i+1]];                ffm_float r = param.normalization? prob.R[i] : 1;                ffm_double t = wTx(begin, end, r, model);                ffm_double expnyt = exp(-y*t);                loss += log1p(expnyt);//cout << ii <<"/"<< l <<" "<< i<<" " << y << " " << r ;//cout <<" " << t << " " << expnyt << endl;                if(do_update) {                                       ffm_float kappa = -y*expnyt/(1+expnyt);                    wTx(begin, end, r, model, kappa, param.eta, param.lambda, true);                }            }        }        return loss / prob.meta.l;    };//cout << "ffm_train_on_disk one_epoch" << endl;    for(ffm_int iter = 1; iter <= param.nr_iters; iter++) {        timer.tic();        ffm_double tr_loss = one_epoch(tr, true);        timer.toc();        cout.width(4);        cout << iter;        cout.width(13);        cout << fixed << setprecision(5) << tr_loss;        if(!va.is_empty()) {            ffm_double va_loss = one_epoch(va, false);            cout.width(13);            cout << fixed << setprecision(5) << va_loss;            if(auto_stop) {                if(va_loss > best_va_loss) {                    memcpy(model.W, prev_W.data(), w_size*sizeof(ffm_float));                    cout.width(13);cout << fixed << setprecision(1) << timer.get() << endl;cout << endl << "Auto-stop. Use model at " << iter - 1 << "th iteration." << endl;                    break;                } else {                    memcpy(prev_W.data(), model.W, w_size*sizeof(ffm_float));                    best_va_loss = va_loss;                 }            }        }        cout.width(13);        cout << fixed << setprecision(1) << timer.get() << endl;    }    return model;}

其中wTx函数（非USESSE情况）：

inline ffm_float wTx(    ffm_node *begin,    ffm_node *end,    ffm_float r,    ffm_model &model,     ffm_float kappa=0,     ffm_float eta=0,     ffm_float lambda=0,     bool do_update=false) {    ffm_int align0 = 2 * get_k_aligned(model.k);    ffm_int align1 = model.m * align0;    ffm_float t = 0;    for(ffm_node *N1 = begin; N1 != end; N1++) {//cout << "model.W "<<model.W << endl;        ffm_int j1 = N1->j;        ffm_int f1 = N1->f;        ffm_float v1 = N1->v;        if(j1 >= model.n || f1 >= model.m)            continue;        for(ffm_node *N2 = N1+1; N2 != end; N2++) {            ffm_int j2 = N2->j;            ffm_int f2 = N2->f;            ffm_float v2 = N2->v;            if(j2 >= model.n || f2 >= model.m)                continue;            ffm_float *w1 = model.W + (ffm_long)j1*align1 + f2*align0;            ffm_float *w2 = model.W + (ffm_long)j2*align1 + f1*align0;            ffm_float v = v1 * v2 * r;            if(do_update) {                ffm_float *wg1 = w1 + kALIGN;                ffm_float *wg2 = w2 + kALIGN;                for(ffm_int d = 0; d < align0; d += kALIGN * 2)                {                    ffm_float g1 = lambda * w1[d] + kappa * w2[d] * v;                    ffm_float g2 = lambda * w2[d] + kappa * w1[d] * v;                    wg1[d] += g1 * g1;                    wg2[d] += g2 * g2;                    w1[d] -= eta / sqrt(wg1[d]) * g1;                    w2[d] -= eta / sqrt(wg2[d]) * g2;                }            } else {                for(ffm_int d = 0; d < align0; d += kALIGN * 2)                    t += w1[d] * w2[d] * v;            }        }    }    return t;}

源码的一些问题：

问题1.ffm_node *end = &prob.X[prob.P[i+1]]下标越界问题

解决方法：

初始化时设置为(P[l]+1)

        P.resize(l+1);        f.read(reinterpret_cast<char*>(P.data()), sizeof(ffm_long) * (l+1));        X.resize(P[l]+1);        f.read(reinterpret_cast<char*>(X.data()), sizeof(ffm_node) * (P[l]+1));

        ffm_long nnz = P[l];        meta.l += l;        f_bin.write(reinterpret_cast<char*>(&l), sizeof(ffm_int));        f_bin.write(reinterpret_cast<char*>(Y.data()), sizeof(ffm_float) * l);        f_bin.write(reinterpret_cast<char*>(R.data()), sizeof(ffm_float) * l);        f_bin.write(reinterpret_cast<char*>(P.data()), sizeof(ffm_long) * (l+1));        f_bin.write(reinterpret_cast<char*>(X.data()), sizeof(ffm_node) * (nnz+1));

问题2.ffm_model model = init_model(tr.meta.n, tr.meta.m, param);时model.K数据接不到

解决方法：

由于函数结束时析构函数会释放该内存数据，只能先停用析构函数

struct ffm_model {    ffm_int n; // number of features    ffm_int m; // number of fields    ffm_int k; // number of latent factors    ffm_float *W = nullptr;    bool normalization;    //~ffm_model();};

/*ffm_model::~ffm_model() {    if(W != nullptr) {#ifndef USESSE        free(W);#else    #ifdef _WIN32        _aligned_free(W);    #else        free(W);    #endif#endif        W = nullptr;    }}*/

train测试截图

以及输出model（二进制文件）

不过你们不要轻易打开，看看大小就可以了。

四.总结

在DSP的场景中，FFM主要用来预估站内的CTR和CVR。在训练FFM的过程中，有许多小细节值得特别关注。
第一，样本归一化。FFM默认是进行样本数据的归一化，即 pa.normpa.norm 为真；若此参数设置为假，很容易造成数据inf溢出，进而引起梯度计算的nan错误。因此，样本层面的数据是推荐进行归一化的。
第二，特征归一化。CTR/CVR模型采用了多种类型的源特征，包括数值型和categorical类型等。但是，categorical类编码后的特征取值只有0或1，较大的数值型特征会造成样本归一化后categorical类生成特征的值非常小，没有区分性。例如，一条用户-商品记录，用户为“男”性，商品的销量是5000个（假设其它特征的值为零），那么归一化后特征“sex=male”（性别为男）的值略小于0.0002，而“volume”（销量）的值近似为1。特征“sex=male”在这个样本中的作用几乎可以忽略不计，这是相当不合理的。因此，将源数值型特征的值归一化到 [0,1][0,1] 是非常必要的。
第三，省略零值特征。从FFM模型的表达式(4)(4)可以看出，零值特征对模型完全没有贡献。包含零值特征的一次项和组合项均为零，对于训练模型参数或者目标值预估是没有作用的。因此，可以省去零值特征，提高FFM模型训练和预测的速度，这也是稀疏样本采用FFM的显著优势。

五.相关学习资源

https://tech.meituan.com/deep-understanding-of-ffm-principles-and-practices.html

http://blog.csdn.net/zc02051126/article/details/54614230

六.源码下载

官方源码：https://github.com/guestwalk/libffm  

VS2017工程（有些改动）：https://gitee.com/nine_sun/libffm_test

注：提供了FFM-predict.cpp预测和FFM-train.cpp训练两个接口