ID: 2799

Difficulty: 5

所属公司 : 蚂蚁

时间 :2025年8月24日-算法岗

算法标签>

数学

思路步骤

缩放点积得分 $S=\frac{QK^\top}{\sqrt{d_k}}$ ，其中 $d_k=K$ 的列数。
加掩码

题目内容

设 $d_k=d$ 。

1.缩放点积得分 $S=\frac{QK^T}{\sqrt{d_k}}$

2.加掩码(如果提供) $S←S+mask$