神经网络 之 线性单元
来源:互联网 发布:软件使用许可费 编辑:程序博客网 时间:2024/06/03 12:56
本文结构:
- 什么是线性单元
- 有什么用
- 代码实现
1. 什么是线性单元
线性单元和感知器的区别就是在激活函数:
感知器的 f 是阶越函数:
线性单元的激活函数是线性的:
所以线性模型的公式如下:
2. 有什么用
感知器存在一个问题,就是遇到线性不可分的数据时,就可能无法收敛,所以要使用一个可导的线性函数来替代阶跃函数,即线性单元,这样就会收敛到一个最佳的近似上。
3. 代码实现
1. 继承Perceptron,初始化线性单元
from perceptron import Perceptron#定义激活函数ff = lambda x: xclass LinearUnit(Perceptron): def __init__(self, input_num): '''初始化线性单元,设置输入参数的个数''' Perceptron.__init__(self, input_num, f)
2. 定义一个线性单元, 调用 train_linear_unit
进行训练
- 打印训练获得的权重
- 输入参数值 [3.4] 测试一下预测值
if __name__ == '__main__': '''训练线性单元''' linear_unit = train_linear_unit() # 打印训练获得的权重 print linear_unit # 测试 print 'Work 3.4 years, monthly salary = %.2f' % linear_unit.predict([3.4]) print 'Work 15 years, monthly salary = %.2f' % linear_unit.predict([15]) print 'Work 1.5 years, monthly salary = %.2f' % linear_unit.predict([1.5]) print 'Work 6.3 years, monthly salary = %.2f' % linear_unit.predict([6.3])
- 其中训练的过程就是:
- 获得训练数据,
- 设定迭代次数,学习速率等参数
- 再返回训练好的线性单元
def train_linear_unit(): ''' 使用数据训练线性单元 ''' # 创建感知器,输入参数的特征数为1(工作年限) lu = LinearUnit(1) # 训练,迭代10轮, 学习速率为0.01 input_vecs, labels = get_training_dataset() lu.train(input_vecs, labels, 10, 0.01) #返回训练好的线性单元 return lu
完整代码
from perceptron import Perceptron#定义激活函数ff = lambda x: xclass LinearUnit(Perceptron): def __init__(self, input_num): '''初始化线性单元,设置输入参数的个数''' Perceptron.__init__(self, input_num, f)def get_training_dataset(): ''' 捏造5个人的收入数据 ''' # 构建训练数据 # 输入向量列表,每一项是工作年限 input_vecs = [[5], [3], [8], [1.4], [10.1]] # 期望的输出列表,月薪,注意要与输入一一对应 labels = [5500, 2300, 7600, 1800, 11400] return input_vecs, labels def train_linear_unit(): ''' 使用数据训练线性单元 ''' # 创建感知器,输入参数的特征数为1(工作年限) lu = LinearUnit(1) # 训练,迭代10轮, 学习速率为0.01 input_vecs, labels = get_training_dataset() lu.train(input_vecs, labels, 10, 0.01) #返回训练好的线性单元 return luif __name__ == '__main__': '''训练线性单元''' linear_unit = train_linear_unit() # 打印训练获得的权重 print linear_unit # 测试 print 'Work 3.4 years, monthly salary = %.2f' % linear_unit.predict([3.4]) print 'Work 15 years, monthly salary = %.2f' % linear_unit.predict([15]) print 'Work 1.5 years, monthly salary = %.2f' % linear_unit.predict([1.5]) print 'Work 6.3 years, monthly salary = %.2f' % linear_unit.predict([6.3])
学习资料:
https://www.zybuluo.com/hanbingtao/note/448086
推荐阅读
历史技术博文链接汇总
也许可以找到你想要的
0 1
- 神经网络 之 线性单元
- 线性单元
- 神经网络入门之线性回归
- 数据结构实验 第一单元 线性表之链表操作
- 线性神经网络
- 线性神经网络
- 感知器与线性单元
- 神经网络线性神经元
- 【Matlab工具箱】线性神经网络
- 神经网络学习笔记(二) 线性神经网络
- 缩放指数型线性单元(SELU)
- tf.nn.relu()--修正线性单元函数
- 神经网络之BP神经网络
- 神经网络之BP神经网络
- 线性神经网络Linear Neural Networks
- matlab解决线性神经网络问题
- 线性神经网络及其代码实现
- Freepascal之Crt单元
- SharePoint REST API
- java获取彩票数据,彩票API
- 1233 还是畅通工程(kruskal)
- C++运算符重载规则详解
- 解决方案、项目、程序集、命名空间
- 神经网络 之 线性单元
- jq.fullpage插件
- 因有需求给每个 a和post带上一个参数,故需要一个通用的js来完成此功能
- VS调试Bug记录
- 什么是神经网络
- 学习 笔记
- Bagging,Random Forests以及Boosting
- IT开发笔记
- 神经网络的前世