c5w
c5w3_序列模型和注意力机制
序列模型和注意力机制 Seq2Seq模型 Seq2Seq(Sequence-to-Sequence)模型能够应用与机器翻译、语音识别等各种序列到序列的转换问题。一个Seq2Seq模型包括编码器(Encoder)和解码器(Decoder)两部分,它们通常是两个不同的RNN。如下图所示,将编码器的输出作 ......
c5w2_自然语言处理与词嵌入
自然语言处理与词嵌入 词嵌入 one-hot向量表示了每个词在词汇表中的位置,但是每个one-hot向量的内积为0,不能表示出每个词之间的相互关系。 I want a glass of orange juice. I want a glass of apple __. 例如,对于上述的这样一句话,通 ......