对UFLDL中最大化输出时候的输入值的求解的推导

来源：互联网发布：剪辑音乐软件手机软件编辑：程序博客网时间：2024/06/05 00:41

就是UFLDL中，第一个autoencoder之后，需要可视化出来那个，这个假定当最大化输出的时候，他对应的输入就是特征。那么为了draw出来特征，我们就先求这个输入吧。

先看

$a = f(\sum_{j=1}^{100}w_jx_j)$ $\sum_{j=1}^{100}x_j^2\leq 1$

后面是满足的条件，我们拉格朗日乘子法，引入一个参数 $\lambda$

因为f是个增函数所以只需要求出来里面那个最大值就行了，我们来构造函数

$g=\sum_{j=1}^{100}w_jx_j+\frac{1}{2}\lambda(1-\sum_{j=1}^{100}x_j^2)$

然后让g对每一个x和lambda求导可以得到。

$\frac{\partial g}{\partial x_1}=w_1-\lambda x_1$

$\frac{\partial g}{\partial x_2}=w_2-\lambda x_2$

.。。。。。

$\frac{\partial g}{\partial \lambda}=\frac{1}{2}(1-\sum_{j=1}^{200}x_j^2)$

然后让他们都为0，先根据前面j个方程依次把x求出来，然后带入到最后一个方程中可以得到

$w_1^2+w_2^2+\cdots+w_j^2=\lambda^2$

因为根据拉格朗日知道，这个\lambda是个正数，所以带入到第一个方程中去可以求的x_1

得到

$x_1=\frac{w_1}{\sqrt{w_1^2+w_2^2+\cdots+w_j^2}}$

0 0