答案:C.RoPE 对查询和键做旋转变换,使点积携带相对位置 解析:RoPE 用旋转矩阵作用在 Q、K 上,相对位移体现为内积中的角度差。A 是把绝对位置加到嵌入上,属于正弦/可学习绝对位置编码。B、D 都不对:RoPE 可用于自回归解码,也常被用来做一定程度的长度外推。
答案:C.4×5 解析:P 为 4×3,Q 为 3×5,中间维 3 对齐,乘积为 4×5。
{{ select(1) }}
{{ select(2) }}
{{ select(3) }}
{{ select(4) }}
{{ select(5) }}
By signing up a CodeFun2000 universal account, you can submit code and join discussions in all online judging services provided by us.