MATLAB—反向传播

来源：互联网发布：国际数据公司idc 编辑：程序博客网时间：2024/06/06 06:40

反向传导算法
假设我们有一个固定样本集 \textstyle { (x^{(1)}, y^{(1)}), \ldots, (x^{(m)}, y^{(m)}) }，它包含 \textstyle m 个样例。我们可以用批量梯度下降法来求解神经网络。具体来讲，对于单个样例 \textstyle (x,y)，其代价函数为：

J (W, b; x, y) = 1 2 ∥ ∥ h W, b (x) - y ∥ ∥ 2 .

这是一个（二分之一的）方差代价函数。给定一个包含 \textstyle m 个样例的数据集，我们可以定义整体代价函数为：

J (W, b) = [1 m \sum i = 1 m J (W, b; x (i), y (i))] + λ 2 \sum l = 1 n l - 1 \sum i = 1 s l \sum j = 1 s l + 1 (W (l) j i) 2 = [1 m \sum i = 1 m (1 2 ∥ ∥ h W, b (x (i)) - y (i) ∥ ∥ 2)] + λ 2 \sum l = 1 n l - 1 \sum i = 1 s l \sum j = 1 s l + 1 (W (l) j i) 2

以上关于\textstyle J(W,b)定义中的第一项是一个均方差项。第二项是一个规则化项（也叫权重衰减项），其目的是减小权重的幅度，防止过度拟合。

[注：通常权重衰减的计算并不使用偏置项 \textstyle b^{(l)}_i，比如我们在 \textstyle J(W, b) 的定义中就没有使用。一般来说，将偏置项包含在权重衰减项中只会对最终的神经网络产生很小的影响。如果你在斯坦福选修过CS229（机器学习）课程，或者在YouTube上看过课程视频，你会发现这个权重衰减实际上是课上提到的贝叶斯规则化方法的变种。在贝叶斯规则化方法中，我们将高斯先验概率引入到参数中计算MAP（极大后验）估计（而不是极大似然估计）。]

权重衰减参数 \textstyle \lambda 用于控制公式中两项的相对重要性。在此重申一下这两个复杂函数的含义：\textstyle J(W,b;x,y) 是针对单个样例计算得到的方差代价函数；\textstyle J(W,b) 是整体样本代价函数，它包含权重衰减项。

以上的代价函数经常被用于分类和回归问题。在分类问题中，我们用 \textstyle y = 0 或 \textstyle 1，来代表两种类型的标签（回想一下，这是因为 sigmoid激活函数的值域为 \textstyle [0,1]；如果我们使用双曲正切型激活函数，那么应该选用 \textstyle -1 和 \textstyle +1 作为标签）。对于回归问题，我们首先要变换输出值域（译者注：也就是 \textstyle y），以保证其范围为 \textstyle [0,1] （同样地，如果我们使用双曲正切型激活函数，要使输出值域为 \textstyle [-1,1]）。（待具体整理）

我们的目标是针对参数 \textstyle W 和 \textstyle b 来求其函数 \textstyle J(W,b) 的最小值。为了求解神经网络，我们需要将每一个参数 \textstyle W^{(l)}{ij} 和 \textstyle b^{(l)}_i 初始化为一个很小的、接近零的随机值（比如说，使用正态分布 \textstyle {Normal}(0,\epsilon^2) 生成的随机值，其中 \textstyle \epsilon 设置为 \textstyle 0.01 ），之后对目标函数使用诸如批量梯度下降法的最优化算法。因为 \textstyle J(W, b) 是一个非凸函数，梯度下降法很可能会收敛到局部最优解；但是在实际应用中，梯度下降法通常能得到令人满意的结果。最后，需要再次强调的是，要将参数进行随机初始化，而不是全部置为 \textstyle 0。如果所有参数都用相同的值作为初始值，那么所有隐藏层单元最终会得到与输入值有关的、相同的函数（也就是说，对于所有 \textstyle i，\textstyle W^{(1)}{ij}都会取相同的值，那么对于任何输入 \textstyle x 都会有：\textstyle a^{(2)}_1 = a^{(2)}_2 = a^{(2)}_3 = \ldots ）。随机初始化的目的是使对称失效。

梯度下降法中每一次迭代都按照如下公式对参数 \textstyle W 和\textstyle b 进行更新：

W (l) i j b (l) i = W (l) i j - α \partial \partial W ( l ) i j J (W, b) = b (l) i - α \partial \partial b ( l ) i J (W, b)

其中 \textstyle \alpha 是学习速率。其中关键步骤是计算偏导数。我们现在来讲一下反向传播算法，它是计算偏导数的一种有效方法。

我们首先来讲一下如何使用反向传播算法来计算 \textstyle \frac{\partial}{\partial W_{ij}^{(l)}} J(W,b; x, y) 和 \textstyle \frac{\partial}{\partial b_{i}^{(l)}} J(W,b; x, y)，这两项是单个样例 \textstyle (x,y) 的代价函数 \textstyle J(W,b;x,y) 的偏导数。一旦我们求出该偏导数，就可以推导出整体代价函数 \textstyle J(W,b) 的偏导数：

\partial \partial W ( l ) i j J (W, b) \partial \partial b ( l ) i J (W, b) = ⎡ ⎣ 1 m \sum i = 1 m \partial \partial W ( l ) i j J (W, b; x (i), y (i)) ⎤ ⎦ + λ W (l) i j = 1 m \sum i = 1 m \partial \partial b ( l ) i J (W, b; x (i), y (i))

以上两行公式稍有不同，第一行比第二行多出一项，是因为权重衰减是作用于 \textstyle W 而不是 \textstyle b。

反向传播算法的思路如下：给定一个样例 \textstyle (x,y)，我们首先进行“前向传导”运算，计算出网络中所有的激活值，包括 \textstyle h_{W,b}(x) 的输出值。之后，针对第 \textstyle l 层的每一个节点 \textstyle i，我们计算出其“残差” \textstyle \delta^{(l)}_i，该残差表明了该节点对最终输出值的残差产生了多少影响。对于最终的输出节点，我们可以直接算出网络产生的激活值与实际值之间的差距，我们将这个差距定义为 \textstyle \delta^{(n_l)}_i （第 \textstyle n_l 层表示输出层）。对于隐藏单元我们如何处理呢？我们将基于节点（译者注：第 \textstyle l+1 层节点）残差的加权平均值计算 \textstyle \delta^{(l)}_i，这些节点以 \textstyle a^{(l)}_i 作为输入。下面将给出反向传导算法的细节：

进行前馈传导计算，利用前向传导公式，得到 \textstyle L_2, L_3, \ldots 直到输出层 \textstyle L_{n_l} 的激活值。
对于第 \textstyle n_l 层（输出层）的每个输出单元 \textstyle i，我们根据以下公式计算残差：

δ (n l) i = \partial \partial z ( n l ) i 1 2 ∥ ∥ y - h W, b (x) ∥ ∥ 2 = - (y i - a (n l) i) \cdot f' (z (n l) i)

（注：这里的z
[译者注：

δ (n l) i = \partial \partial z n l i J (W, b; x, y) = \partial \partial z n l i 1 2 ∥ ∥ y - h W, b (x) ∥ ∥ 2 = \partial \partial z n l i 1 2 \sum j = 1 S n l (y j - a (n l) j) 2 = \partial \partial z n l i 1 2 \sum j = 1 S n l (y j - f (z (n l) j)) 2 = - (y i - f (z (n l) i)) \cdot f' (z (n l) i) = - (y i - a (n l) i) \cdot f' (z (n l) i)

]
对 \textstyle l = n_l-1, n_l-2, n_l-3, \ldots, 2 的各个层，第 \textstyle l 层的第 \textstyle i 个节点的残差计算方法如下：
\delta^{(l)}i = \left( \sum{j=1}^{s_{l+1}} W^{(l)}_{ji} \delta^{(l+1)}_j \right) f’(z^{(l)}_i)
{译者注：

δ (n l - 1) i = \partial \partial z n l - 1 i J (W, b; x, y) = \partial \partial z n l - 1 i 1 2 ∥ ∥ y - h W, b (x) ∥ ∥ 2 = \partial \partial z n l - 1 i 1 2 \sum j = 1 S n l (y j - a (n l) j) 2 = 1 2 \sum j = 1 S n l \partial \partial z n l - 1 i (y j - a (n l) j) 2 = 1 2 \sum j = 1 S n l \partial \partial z n l - 1 i (y j - f (z (n l) j)) 2 = \sum j = 1 S n l - (y j - f (z (n l) j)) \cdot \partial \partial z ( n l - 1 ) i f (z (n l) j) = \sum j = 1 S n l - (y j - f (z (n l) j)) \cdot f' (z (n l) j) \cdot \partial z ( n l ) j \partial z ( n l - 1 ) i = \sum j = 1 S n l δ (n l) j \cdot \partial z ( n l ) j \partial z n l - 1 i = \sum j = 1 S n l ⎛ ⎝ δ (n l) j \cdot \partial \partial z n l - 1 i \sum k = 1 S n l - 1 f (z n l - 1 k) \cdot W n l - 1 j k ⎞ ⎠ = \sum j = 1 S n l δ (n l) j \cdot W n l - 1 j i \cdot f' (z n l - 1 i) = ⎛ ⎝ \sum j = 1 S n l W n l - 1 j i δ (n l) j ⎞ ⎠ f' (z n l - 1 i)

将上式中的\textstyle n_l-1与\textstyle n_l的关系替换为\textstyle l与\textstyle l+1的关系，就可以得到：
\delta^{(l)}i = \left( \sum{j=1}^{s_{l+1}} W^{(l)}_{ji} \delta^{(l+1)}_j \right) f’(z^{(l)}_i)
以上逐次从后向前求导的过程即为“反向传导”的本意所在。 ]
计算我们需要的偏导数，计算方法如下：

\partial \partial W ( l ) i j J (W, b; x, y) \partial \partial b ( l ) i J (W, b; x, y) = a (l) j δ (l + 1) i = δ (l + 1) i .

最后，我们用矩阵-向量表示法重写以上算法。我们使用“\textstyle \bullet” 表示向量乘积运算符（在Matlab或Octave里用“.*”表示，也称作阿达马乘积）。若 \textstyle a = b \bullet c，则 \textstyle a_i = b_ic_i。在上一个教程中我们扩展了 \textstyle f(\cdot) 的定义，使其包含向量运算，这里我们也对偏导数 \textstyle f’(\cdot) 也做了同样的处理（于是又有 \textstyle f’([z_1, z_2, z_3]) = [f’(z_1), f’(z_2), f’(z_3)] ）。

那么，反向传播算法可表示为以下几个步骤：
进行前馈传导计算，利用前向传导公式，得到 \textstyle L_2, L_3, \ldots直到输出层 \textstyle L_{n_l} 的激活值。
对输出层（第 \textstyle n_l 层），计算：

δ (n l) = - (y - a (n l)) ∙ f' (z (n l))

对于 \textstyle l = n_l-1, n_l-2, n_l-3, \ldots, 2 的各层，计算：

δ (l) = ((W (l)) T δ (l + 1)) ∙ f' (z (l))

计算最终需要的偏导数值：

\nabla W (l) J (W, b; x, y) \nabla b (l) J (W, b; x, y) = δ (l + 1) (a (l)) T, = δ (l + 1) .

实现中应注意：在以上的第2步和第3步中，我们需要为每一个 \textstyle i 值计算其 \textstyle f’(z^{(l)}_i)。假设 \textstyle f(z) 是sigmoid函数，并且我们已经在前向传导运算中得到了 \textstyle a^{(l)}_i。那么，使用我们早先推导出的 \textstyle f’(z)表达式，就可以计算得到 \textstyle f’(z^{(l)}_i) = a^{(l)}_i (1- a^{(l)}_i)。

最后，我们将对梯度下降算法做个全面总结。在下面的伪代码中，\textstyle \Delta W^{(l)} 是一个与矩阵 \textstyle W^{(l)} 维度相同的矩阵，\textstyle \Delta b^{(l)} 是一个与 \textstyle b^{(l)} 维度相同的向量。注意这里“\textstyle \Delta W^{(l)}”是一个矩阵，而不是“\textstyle \Delta 与 \textstyle W^{(l)} 相乘”。下面，我们实现批量梯度下降法中的一次迭代：

对于所有 \textstyle l，令 \textstyle \Delta W^{(l)} := 0 , \textstyle \Delta b^{(l)} := 0 （设置为全零矩阵或全零向量）
对于 \textstyle i = 1 到 \textstyle m，
使用反向传播算法计算 \textstyle \nabla_{W^{(l)}} J(W,b;x,y) 和 \textstyle \nabla_{b^{(l)}} J(W,b;x,y)。
计算 \textstyle \Delta W^{(l)} := \Delta W^{(l)} + \nabla_{W^{(l)}} J(W,b;x,y)。
计算 \textstyle \Delta b^{(l)} := \Delta b^{(l)} + \nabla_{b^{(l)}} J(W,b;x,y)。
更新权重参数：

W (l) b (l) = W (l) - α [(1 m Δ W (l)) + λ W (l)] = b (l) - α [1 m Δ b (l)]

现在，我们可以重复梯度下降法的迭代步骤来减小代价函数 \textstyle J(W,b) 的值，进而求解我们的神经网络。

function nn = nnbp(nn)%NNBP performs backpropagation% nn = nnbp(nn) returns an neural network structure with updated weights     n = nn.n;%先让n=nn.n,就是最后一层输出的情况    sparsityError = 0;    switch nn.output %判断输出层的激活函数，根据输出的的残差表达式，含有不同激活函数的导数得出下面的表达式        case 'sigm'            d{n} = - nn.e .* (nn.a{n} .* (1 - nn.a{n}));        case {'softmax','linear'}            d{n} = - nn.e;    end    for i = (n - 1) : -1 : 2 %考虑隐层。因为是反向传播，所以是从n-1开始逐渐往前，之所以到第二层是因为，第一层通过权值传给第二层，然后激活。        % Derivative of the activation function        switch nn.activation_function             case 'sigm'  %判断隐层的激活函数，隐层的激活函数类型和输出层的激活函数类型选择还是有区别的                d_act = nn.a{i} .* (1 - nn.a{i});            case 'tanh_opt'                d_act = 1.7159 * 2/3 * (1 - 1/(1.7159)^2 * nn.a{i}.^2);        end        if(nn.nonSparsityPenalty>0)%考虑稀疏性            pi = repmat(nn.p{i}, size(nn.a{i}, 1), 1);            sparsityError = [zeros(size(nn.a{i},1),1) nn.nonSparsityPenalty * (-nn.sparsityTarget ./ pi + (1 - nn.sparsityTarget) ./ (1 - pi))];        end        % Backpropagate first derivative刚刚上面求出输出层的残差，这里根据输出层的残差进行迭代，依次求出n-1到第二层的残差。其中对于n-1层，由于第n层的激活函数的个数就是实际输出的个数，因为最后一层没有偏置，所以直接将dn带入求得dn-1,而对于第n-1，激活函数的个数是隐层数目加上1（偏置），所以实际的只有w的部分是从第二列开始。        if i+1==n % in this case in d{n} there is not the bias term to be removed                         d{i} = (d{i + 1} * nn.W{i} + sparsityError) .* d_act; % Bishop (5.56)        else % in this case in d{i} the bias term has to be removed            d{i} = (d{i + 1}(:,2:end) * nn.W{i} + sparsityError) .* d_act;        end        if(nn.dropoutFraction>0)            d{i} = d{i} .* [ones(size(d{i},1),1) nn.dropOutMask{i}];        end    end%上面是求残差的过程，接下来就是最后的偏导数。    for i = 1 : (n - 1)        if i+1==n            nn.dW{i} = (d{i + 1}' * nn.a{i}) / size(d{i + 1}, 1);        else            nn.dW{i} = (d{i + 1}(:,2:end)' * nn.a{i}) / size(d{i + 1}, 1);              end    endend

阅读全文

0 0