题目要求实现单头 Self-Attention（自注意力）机制的前向计算。给定序列长度 $n$ 和特征维度 $d$，输入矩阵 $X \in \mathbb{R}^{n \times d}$ 以及三个权重矩阵 $W_q, W_k, W_v \in \mathbb{R}^{d \times d}$。

计算过程分为四个步骤：

1. 线性映射： 通过矩阵乘法计算 Query, Key, Value 矩阵： $Q = X W_q, \quad K = X W_k, \quad V = X W_v$ 结果矩阵 $Q, K, V$ 的形状均为 $n \times d$。

题面描述

给定序列长度 n、特征维度 d 的输入矩阵 X（大小为 n × d），以及三组权重矩阵 Wq, Wk, Wv（大小均为 d × d），请你实现单头 Self-Attention 的前向计算，并返回 Attention 输出矩阵 O。

Attention 计算定义如下：

1. 线性映射：

   • Q = X · Wq
   • K = X · Wk
   • V = X · Wv

2. 缩放点积得分：

   • S = Q · K^T / sqrt(d) 其中 K^T 为 K 的转置。

3. 行级 softmax 得到注意力权重：

   • A = softmax(S) 对每一行独立做 softmax。

4. 输出：

   • O = A · V

请返回 O（形状为 n × d）。 你的答案与标准答案误差不超过 1e-4 即视为正确。

参数说明

• n: 序列长度
• d: 特征维度
• X: n × d 浮点矩阵
• Wq, Wk, Wv: d × d 浮点矩阵

返回值

• 返回 Attention 输出矩阵 O，大小为 n × d

约束

• 1 <= n <= 50
• 1 <= d <= 50
• X[i][j], Wq[i][j], Wk[i][j], Wv[i][j] 为浮点数
• -3 <= X[i][j], Wq[i][j], Wk[i][j], Wv[i][j] <=3

示例 1

输入：

n = 2 , d = 2

X  = [[1,0],[0,1]]

Wq = [[1,0],[0,1]]

Wk = [[1,0],[0,1]]

Wv = [[1,2],[3,2]]

输出：

O = [[1.6605,2.0000],[2.3395,2.0000]]

解释： Q=K=X，先算 Q·K^T/sqrt(2) 得到注意力分数，softmax 后加权 V 得到输出。