Logistic Function == Sigmoid Function

来源:互联网 发布:宁波php招聘 编辑:程序博客网 时间:2024/05/16 01:06

Logistic function, 逻辑函数,逻辑斯谛函数,这些都是一个意思,指的也都是:

Sigmoid函数。解释如下:

---


s.png

Sigmoid函数是一个S型函数. Sigmoid函数的数学公式为

y = f(x) = 1 / (1 + e^(-x))

Sigmoid函数f(x)具有如下基本性质:

  • 定义域为(-\infty,+\infty)
  • 值域为(-1,1), 为有界函数
  • 函数f(x)在定义域内为连续和光滑函数
  • 函数f(x)的导数为f'(x)=\frac{f(x)\over 1-f(x)}
  • 不定积分为\int f(x)=\ln(1+e^x)+CC为常数

由于Sigmoid函数所具有的性质, 它常和单位阶跃函数用于构造人工神经网络[1]; 另外心理学中的学习曲线[2]的形状也和Sigmoid函数比较类似.

---

没太想明白,Sigmoid函数为什么会重要到这种程度?

逻辑回归分析其实也是一种特殊的线性回归分析,只不过把归一化函数使用sigmoid函数代替(?是这样吧?)

在神经网络ANN中,最基本的单元unit不使用linear unit是因为它只能表现线性函数,无法表现非线性;不使用perceptron(本质是sgn函数)是因为它不连续可导,无法使用梯度下降法,这样一般都选用sigmoid函数。为什么sigmoid函数的效果就会这么好?他有什么性质能表现这样好呢?使用其他函数可以不可以?跟它又差在那里了?

真是还没想明白。

0 0