简要介绍Logistic 回归

Logistc回归是一种有监督的分类算法，属于广义线性模型的一种形式，属于判别模型。
Logistic回归从概率的角度来说，它假设了在给定x的情况下，y的概率的服从伯努利分布，因此，我们需要在给定x的情况下确定伯努利分布的概率。由于输入变量是一个向量，因此我们需要一个函数将向量映射成为一个0-1之间的数目，选取的函数是sigmod的函数，之所以选择这个函数可以从广义线性模型推出。最后，求伯努利分布的概率值也就被转化为求函数中参数的值。求参数值所采用的最优化函数是极大似然函数，求使该函数最大的参数值即为所求。可以通过梯度上升算法和牛顿法等方法求得。