1、在RLHF中，reward model的训练依赖于: {{ select(1) }}

• 人类偏好排序
• 监督数据
• 蒙特卡罗采样
• 随机初始化

2、若模型中attention部分head数h=8，GQA分组数g=2，则K/V矩阵的共享情况是 {{ select(2) }}

• 仅Q矩阵分组
• 每2个头共享K/V，共4组
• 每组4个头共享K/V
• 所有头共享同一组K/V

3、缩放点积注意力(Scaled Dot-Product Attention)与点积注意力(Dot-Product Attention)的区别是什么?假设键向量的维度为$d_k$。 {{ select(3) }}

• 对点积结果进行乘以$d_k$缩放
• 对点积结果进行除以$d_k$缩放
• 对点积结果进行除以$\sqrt{d_k}$缩放
• 对点积结果进行乘以$\sqrt{d_k}$缩放

4、现有同一问题的两个算法A和B，A的时间复杂度为$O(nk)$，B的时间复杂度为$O(n\log(n)k)$，且已知该问题的规模仅与正整数$n$和$k$有关。以下说法正确的是 {{ select(4) }}

• 对相同的n和k，A的运行耗时比B短
• 当k不变而n变大时，A的运行耗时增长速度比B慢
• 对相同的n和k，A的结果精度比B高
• 当n不变而k变大时，A的运行耗时与B保持一致

5、多模态Transformer中，若视觉输入被分块（patch）处理，以下关于分块的描述（一般情况下）哪项正确？ {{ select(5) }}

• 分块嵌入与文本嵌入维度对齐
• 分块大小不影响模型性能
• 分块数量与模型参数量无关
• 分块仅适用于卷积神经网络