深度学习框架Lasagne的技巧总结(2)——参数的更新与不更新

来源:互联网 发布:ubuntu查看jdk 编辑:程序博客网 时间:2024/05/07 10:08

如果你是一个在神经网络中做过诸多尝试,尤其是自己设计很多结构而不是照搬的话,那么在实际应用构建网络的时候,我相信经常有这样一个需求:需要让某些参数不更新。

这样的场景可能出现在训练好的词向量、预训练好的带参数的网络模块、信度分配容易出现问题的底层中等。

如何在Lasagne中实现参数的差异化呢?

这里有两个方法:

1. 通过在网络参数初始化时候给参数通过拟定不同的标签来过滤。
2. 直接修改网络参数列表,在update过程中避免某些参数的参与。

0 0
原创粉丝点击