答案:D. All-Reduce
解析: DDP中各GPU先独立算梯度,再用 All-Reduce 对梯度求和/平均并同步,保证参数更新一致。
1、在标准的数据并行(DDP)训练过程中,每个GPU独立计算梯度后,为了保持模型权重一致,需要在每次迭代结束时执行什么通信操作? {{ select(1) }}
2、在使用 K-Means 算法进行聚类之前,用户必须预先指定的关键参数是? {{ select(2) }}
3、设数据矩阵X∈Rn×d。若对数据进行线性映射$$ Z = XW, $$其中W∈Rd×k,则新的数据矩阵Z的维度为: {{ select(3) }}
4、给定输入向量为[4,4,4],经过标准Softmax函数处理后,输出的向量结果是多少? {{ select(4) }}
5、K-Means算法在迭代过程中,衡量样本点归属的核心准则是?
{{ select(5) }}
Scan the QR code below with WeChat to sign in
First-time scan will create your account automatically
请使用微信扫描下方二维码完成注册