机器学习实践指南（一）—— 总论

η：learning rate

w:=w+ηw

学习率：以 10 倍的比例进行测试，如 0.025 ==> 0.25 ==> 2.5
如果我们以一个很小的学习率开始，其性能的提升就会十分缓慢，这就告诉我们当前学习率设置过小，我们就需增加学习率，一个惯用的手段就是提高到10倍的规模，逐次测试。

为了遍历的方便，将 X 和 y 做 zip 处理

training_data = zip(training_inputs, training_labels)for x, y in training_data:    ...