1000ms

Difficulty: 5

所属公司 : 蚂蚁

时间 :2025年10月23日

算法与标签>模拟

会员或题库专享

请先，开通会员或购买题库蚂蚁机考题库，可解锁完整内容。

购买蚂蚁机考题库开通会员

会员专享

请先登录，登录后可使用今日免费解锁；开通会员，或购买该题目所属题库（蚂蚁机考题库），可解锁完整内容。

购买题库开通会员

思路步骤

缩放点积得分 $S=\frac{QK^\top}{\sqrt{d_k}}$ ，其中 $d_k=K$ 的列数。
加掩码

题目内容

请在仅使用 $numpy$ 的前提下，实现单头 $Scaled-Dot$ $Product$ $Attention$ 的前向计算。

输入为 $Query(Q),Key(K)，Value(V)$ 三矩阵和可选 $attention\_mask$ 。

设 $d_k=d$ 。

1.缩放点积得分 $S=\frac{QK^T}{\sqrt{d_k}}$