CNN和RNN在自然语言中的适用场景

来源:互联网 发布:马伯乐了知 编辑:程序博客网 时间:2024/06/03 16:12

是个问题,有没有人回答一下。
CNN:
关注局部信息,一般要求句子的长度是相同,对语言来说这是一个很大的缺点,因为语言一般来说是不定长的,如果填充和截断对信息都有影响。如果CNN在语言上有突破,可能需要突破这个限制。
但如果是分类模型,可能更加注重局部的一个词语信息,因此可能CNN可能更加适合分类问题。
RNN:
形式上更贴近语言模型,因为到每个词的参数都是相同的,不用在意句子的长度。这个真是RNN的一个优点,但是同样的如果参数都相同,表达能力就受限了。

原创粉丝点击