A Context-aware Natural Language Generator for Dialogue Systems

论文提出了一个nlg系统，这个 context-aware　generator基于rnn和seq2seq方法，是完全可以从上下文数据和生成的数据中训练的。

• generator结构

NLG的功能是从一个表示inform或request的dialogue act中生成一个自然语言句子。这篇文章的seq2seq generator是Dusek and Jurcicek(2016b)generator的提升版本，他的generator基于带有attention机制的seq2seq。首先先介绍这个baseline generator。

• Baseline Generator

这个generation有两个阶段，encoder阶段用带有LSTM的RNN将输入tokens序列编码成隐状态序列。

decoder阶段用隐状态h生成输出序列，这个阶段考虑attention机制，对所有encoder的隐状态求和，用带有tanh隐层的前馈网络加权。

DAs用一个序列表示：DA type, slot, value，generator支持greedy decoding和beam search.

• 让Generator Context-aware

用三种修正来让generator的输出依赖于之前的context。