1 篇带「位置编码」标签的文章
先玩个小游戏。看这句话:「猫咬狗」。再看这句:「狗咬猫」。两个字完全一样,只是顺序颠倒,意思就完全反了——一个是猫赢,一个是狗赢。可问题是:Transformer 有个「大毛病」,它天生看不出顺序。