一、单选题

1、在 Transformer 的最后一层，Softmax 作为“激活层”的核心意义是下列哪一项？ {{ select(1) }}

• 自动选择最大 logit 对应的类别索引，并输出整数组标签
• 对 logits 进行非线性放大，从而增大不同类别之间的数值差异
• 将任意实数向量转换成相加后和为 1 的概率分布，使模型输出可直接解释为类别置信度
• 将输出映射到 $(-1,1)$ 区间，避免梯度消失

2、给定数据：$x=[1,2,3]$，$y=[1,4,9]$。用最小二乘法拟合直线 $y=a+bx$，则系数 $b$ 为？ {{ select(2) }}

• 2.5
• 3.0
• 4.0
• 3.5

3、连续随机变量 $X$ 的概率密度函数为 $f(x)=2x$，其中 $0 \le x \le 1$，那么 $P(0.5 \le X \le 1)$ 为？ {{ select(3) }}

• 0.5
• 1
• 0.25
• 0.75

4、以下关于自注意力机制中多头注意力（Multi-Head Attention MHA）、多查询注意力机制（Multi-Query Attention MQA）、分组查询注意力机制（Grouped Query Attention GQA）、多头潜在注意力（Multi-Head Latent Attention MLA）描述错误的是？ {{ select(4) }}

• MQA 核心思想是共享键（Key）和值（Value）的投影参数，仅对查询（Query）使用独立的头参数。
• MLA 核心思想是通过低秩投影压缩查询（Q）、键（K）、值（V）的维度，并在注意力计算中解耦内容与位置信息，从而减少计算复杂度，同时保留长距离依赖建模能力。
• MHA 核心思想是将输入映射到多个子空间，分别计算注意力权重并聚合结果，从而增强模型对复杂模式的捕捉能力。
• GQA 是对多头注意力（MHA）和多头潜在注意力（MLA）的折中优化方案。

5、在反向传播过程中，如果发现某个特定层的学习速度显著慢于其他层，以下选项中，最可能的原因是？ {{ select(5) }}

• 该层的参数数量较少
• 数据标准化不充分
• 学习率设置过低
• 该层的梯度消失