机器学习心得之Andrew Ng（4）

WEEK4：

本周开始学习神经网络，首先介绍了目前一些关于大脑研究的新进展。此处不表，直接进入主题。

神经网络概述：

关于神经网络，教程给出了一个最简单的网络模型：

在这个模型里，只有一个隐藏神经元，输入层有三个输入，最后是一个输出层。
当我们为隐藏层（Hidden layer）假如激活函数（activation function）之后，隐藏层就变成如下所示：

并按照如下公式进行计算，在此公式中，默认所有的激活函数都为sigmoid函数。在这里，每一个神经元节点的theta为theat+1，theta0为偏置参数。

这里把输入x做矢量化处理，简化成下图公式：

最后的计算结果为：

下一章，是利用sigmoid与神经网络做一些and和or的操作，如下图所示：

经过如上网络的操作，可以做出逻辑或一样的效果。