【论文笔记】Convolutional Sequence to Sequence Learning

文章目录
  1. 1. 前期知识补充
    1. 1.1. 序列到序列结构
    2. 1.2. seq2seq的发展历史
    3. 1.3. seq2seq的类型
  2. 2. 论文主要内容
    1. 2.1. 模型结构

本篇笔记基于《Convolutional Sequence to Sequence Learning》。

注:笔记学习参考深度之眼人工智能Paper训练营NLP方向第十六课时课程。

前期知识补充

序列到序列结构

Sequence-to-Sequence(seq2seq)模型,它的输入是一个序列,输出也是一个序列,例如输入是英文句子,输出则是翻译的中文。seq2seq可以用在很多方面:机器翻译,QA系统,文档摘要生成等。

比如这种结构就是典型的seq2seq结构。


seq2seq的发展历史

seq2seq的类型

(1)RNN;
(2)RNN N VS 1;
(3)RNN 1 VS N;

论文主要内容

模型结构

论文的模型结构图如下所示: