有一个理解上的歧义点，对位置编码的表述容易产生歧义。

[jackyzzy]

绝对位置编码和相对位置编码的理解容易产生歧义。
BERT用的Embedding是绝对位置编码，加上偏置之后也并不是相对位置编码。相对外置编码，如，RoPE，能够突破最大长度的限制，而绝对位置编码不行。