Seq2Seq 于 2013年、2014 年被多位学者共同提出,在机器翻译任务中取得了非常显著的效果,随后提出的 attention 模型更是将Seq2Seq推上了神坛,Seq2Seq attention 的组合横扫了非常多的任务,只需要给定足够数量的 input-output pairs,通过设计两端的 sequence 模型和 attention 模型,就可以训练出一个不错的模型。除了应用在机器翻译任务中,其他很多的文本生成任务都可以基于Seq2Seq模型来做,比如:文本摘要生成、对话生成等,由于Seq2Seq模型中 sequence 的灵活性,很多有意思的应用也随之诞生。本文将会带着大家一起来看看Seq2Seq好玩的应用。
机器翻译神经机器翻译(Neural Machine Translation)是 NLP 中最经典的任务,也是最活跃的研究领域之一,Seq2Seq提出之后,最早应用于 nmt 任务。当前,主流的在线翻译系统都是基于深度学习模型来构建的,包括 Google、百度等,整体效果取得了非常显著的进步(当然,在刚刚推出的时候还是有很多槽点的)。每年都有特别多的 ** 在Seq2Seq模型上提出一些改进方案。 ▲ 图1:典型的Seq2Seq模型图
上图是典型的Seq2Seq模型图,输入序列是 ABC |
|
声明:文章版权归原作者所有 部分文章转自互联网 如有侵权请联系
[邮箱地址] 删除
|