Dynamic Memory Tensor Networks笔记

来源:互联网 发布:网络需求分析图片 编辑:程序博客网 时间:2024/05/17 22:51

DMTN是对DMN的改进,借鉴了NTN(Neural Tensor Networks)中的相似度评分函数,在bAbI-1k数据集上比DMN的结果要好。模型出自论文Ask Me Even More: Dynamic Memory Tensor Networks(Extended Model), theano实现代码:​https://github.com/rgsachin/DMTN

DMTN主要改进的地方在于G(c,m,q)
这里写图片描述
这里写图片描述

由于计算条件受限,作者放弃使用three-way-relationship tensor,因此:
这里写图片描述

另外作者还拓展了NTN网络:
这里写图片描述
以及列出了一些NTN中的relationship score function,这里不做详细介绍

最后作者给出了结果:
这里写图片描述