Logistic 回归

Logistic 回归

---

Logistic回归作为一个学习算法，被用于输出y非0即1的监督学习问题中。Logistic回归的主要目标是使预测结果和训练数据的误差最小。

Cat vs No-cat

输入一张图像，由特征向量x来表示，回归算法将预估图像中有一只猫的可能性。
Givenx,y^=P(y=1|x),where0≤y^≤1

在Logstic回归中的参数包括：

• 输入特征向量：x∈Rnx,nx为特征的个数
• 训练标签：y∈0,1
• 权重：w∈Rnx,nx为特征的个数
• 门限值：b∈R
• 输出：y^=σ(wTx+b)
• Sigmoid 函数：s=σ(wTx+b)=σ(z)=11+e−z

(wTx+b)是一个线性函数f(ax+b)，但是因为我们寻求一个在[0,1] 之间的可能性，所以使用了Sigmod函数。如上图所示，Sigmod函数值介于[0,1] 之间。
我们能从图中观察得到：

• 当z是一个大的正数，有σ(z)=1
• 当z特别小或是一个“大的”负数时，σ(z)=1
• 当z=0时，σ(z)=0.5