一、单选题

1、对 decoder-only 的 GPT 类模型做下游适配时，实践中最常见的用法是哪一种? {{ select(1) }}

• 只保留编码器参数，并在其上接入分类头
• 在句对输入中额外加入 $segment$ $embedding$
• 给定前缀后按自回归方式做生成式微调
• 随机遮盖若干词元，按填空目标进行训练

2、采用自动混合精度（$AMP$，如 $FP16/BF16$ 与 $FP32$ 并用）训练大模型时，对损失做 scaling 的核心动机是？ {{ select(2) }}

• 压低权重更新中的数值噪声，使收敛更稳
• 缩小反向传播时激活值占用的显存
• 加快前向矩阵乘的吞吐
• 避免低精度梯度因幅值过小而下溢成零

3、下列做法里，估计参数时不显式引入先验分布的是（） {{ select(3) }}

• 最大后验估计
• 贝叶斯分类器
• 最大似然估计
• 贝叶斯学习

4、讨论大模型时所说的“涌现能力”（Emergent Abilities），通常指哪类现象？ {{ select(4) }}

• 必须依赖特定加速硬件才能出现的能力
• 参数量、训练数据等规模跨过临界点后，小模型几乎做不到或很弱的能力突然显现
• 把参数量压到某个规模之后新长出来的能力
• 需要人工逐条挂载的专用功能模块

5、设总体 $X$ 的分布为 $P(X=1)=\dfrac{1-\theta}{2}$，$P(X=2)=P(X=3)=\dfrac{1+\theta}{4}$。现有独立样本 $1,2,2,3,1,2,3,2,1$，则 $\theta$ 的最大似然估计为（） {{ select(5) }}

• $2/5$
• $1/2$
• $1/4$
• $1/3$