TensorFlow用到的数学知识传送门

来源：互联网发布：网络刷手一天能挣多少编辑：程序博客网时间：2024/05/21 21:39

# 数学知识

2017年3月14日21:29:01

SoftmaxSoftmax的相关介绍。详细的WIKI公式和讲解

交叉熵：是训练模型的一种指标，表示模型的好坏的指标称为（cost）或损失（loss),然后尽量最小化这个指标。交叉熵相关介绍

这里写图片描述

反向传播算法（backpropagation algorithm) 有效的确定变量是如何影响你想要最小化的那个成本值。反向传播算法相关介绍

2017年3月15日19:44:54

向量空间模型（VSMs）：主要作用是用来将相近语义词汇映射为相应的数据点，这一模型方法都会依赖于分布式假设，其核心思想为出现的上下文情景中的词汇都有相似的语义。潜在语义分析和预测神经概率化语言模型。潜在语义分析和预测方法的区别：论文中详细介绍了他们的区别点。

极大似然法（Maximum likelihood estimation）

蒙特卡洛平均值（Monte Carlo integration）：用来获取近似期望

2017年3月19日11:17:48

负抽样当真实地目标单词被分配到较高的概率，同时噪声单词的概率很低时，目标函数也就达到最大值了。相比Softmax的速度更快，无需加载整个库。只需挑出K个噪音。

训练结果对照表

传送门

2017年9月19日12:52:50
矩阵运算

长期更新ing。

0 0