逻辑回归模型

1.模型

（1）概念：逻辑回归模型（Logistic Regression，LR）通过一个逻辑函数将样本的特征向量与样本属于正样本的概率联系起来；

（2）公式：

其中：

PS：

1）LR模型通过参数θ对特征向量x进行加权，从而算出一个分数，这个分数会被逻辑函数压缩到0-1之间；

2）很多分类算法是为测试样本产生一个实值或者概率预测，然后将这个预测值与一个分类阈值进行比较，若大于阈值则分为正类，否则为反类；在不同的应用任务中，我们可根据任务需求来采用不同的截断点，例如若我们更重视“查准率”，则可选择排序中靠前的位置进行截断；若更重视“查全率”，则可选择靠后的位置进行截断；

2.学习策略

（1）LR的目标就是要找到合适的参数θ，使得正样本的分数都比较大，负样本的分数都比较小；

（2）最大似然函数：

3.优化算法（梯度上升）