高等数学-导数

转载请注明出处: http://blog.csdn.net/sinat_34857341/article/details/78482703

定义

设函数 y=f(x) 在点 x0 的某个邻域内有定义，当自变量 x 在 x0 处有增量 Δx (点 x0+Δx 仍也在该邻域内时 )，相应的函数取得增量 Δy=f(x0+Δx)−f(x0)；如果 Δy 与 Δx 之比当 Δx→0 时极限存在，则称函数 y=f(x) 在点 x0 处可导，并称这个极限为函数y=f(x) 在点 x0 处的导数记作 f′(x),

f′(x)=limΔx→0f(x+Δx)−f(x)Δx

也可以记为: y′∣x=x0 或者 df(x)dx∣x=x0

---

求导法则

如果函数 u=u(x) 及 v=v(x) 都在 x 可导, 那么 他们的 和、差、积、商(除分母为零的点外)都在 x 具有导数

• [u(x)±v(x)]′=u′(x)±v′(x)

• [u(x)v(x)]′=u′(x)v(x)+u(x)v′(x)

• [u(x)v(x)]′=u′(x)v(x)−u(x)v′(x)u2x　v(x)≠0

---

复合函数的求导法则

如果 u=g(x) 在点 x可导， 而 y=f(u) 在点 u=g(x) 可导，则复合函数 y=f[g(x)]在点x$可导，且其导数为:

dydx=f′(u)⋅g′(x)　或　dydx=dydu⋅dudx

---

常数和基本初等函数的求导公式

(1) 　(C)′=0 　 　(C 是常数)

(2) 　(xu)′=uxu−1

(3) 　(ax)′=ax⋅lna 　 　

(4) 　(ex)′=ex

(5) 　(logax)′=1x⋅lna 　 　

(6) 　(lnx)′=1x

(7) 　(sinx)′=cosx

(8) 　(cosx)′=−sinx

(9) 　(tanx)′=sec2x

(10) 　(cotx)′=−csc2x

(11) 　(secx)′=secx⋅cotx

(12) 　(cscx)′=−cscx⋅cotx

---

sigmoid 函数求导

函数定义如下:

f(z)=11+e−z

这是一个典型的复合函数，可将其分解为:

⎧⎩⎨⎪⎪⎪⎪u=−zv=eu=e−zw=1+v=1+e−zf(z)=1w=11+e−z

那么，求解

⎧⎩⎨⎪⎪⎪⎪df(z)dwdwdvdvdududz=−1w2=1=eu=−1

则最终解:

f′(x)=df(z)dw⋅dwdv⋅dvdu⋅dudz=−1w2⋅1⋅eu⋅(−1)=euw2=e−z(1+e−z)2=11+e−z⋅e−z1+e−z=11+e−z⋅1+e−z−11+e−z=11+e−z⋅(1−11+e−z)=f(z)∗(1−f(z))

通过求解，我们可以得到sigmoid导数:

f′(z)=f(z)⋅(1−f(z))

完毕

---

tanh x 函数求导

函数定义如下:

f(x)=ex−e−xex+e−x

根据对应的求导法则:

f′(x)=(ex−e−x)′(ex+e−x)−(ex−e−x)(ex+e−x)′(ex+e−x)2=(ex+e−x)(ex+e−x)−(ex−e−x)(ex−e−x)(ex+e−x)2=1−(ex−e−xex+e−x)2=1−f(x)2

通过求解，我们可以得到tanh x导数:

f′(x)=1−f(x)2

完毕

---

Relu 函数

函数定义如下:

f(x)=max(0,x)

可将其分解:

f(n)=⎧⎩⎨⎪⎪x,0,if x >= 0 if x < 0

可以分别分解来求导:

当 x>=0 时:

f′(x)=1

当 x<0 时:

f′(x)=0

通过求解，我们可以得到tanh x导数:

f′(x)=⎧⎩⎨⎪⎪1,0,if x >= 0 if x < 0

完毕