题目内容

实现 Adam（Adaptive Moment Estimation）优化器的参数更新过程。

Adam 结合了动量法（Momentum）和 RMSProp 的思想：维护梯度的一阶矩估计（均值）$m$ 和二阶矩估计（未中心方差）$v$，并对它们做偏差修正后更新参数。

给定 $d$ 维参数向量 $\theta$、超参数 $\alpha, \beta_1, \beta_2, \varepsilon$，以及连续 $T$ 步的梯度，按以下规则逐步更新并输出每步的参数值。

更新规则（第 $t$ 步，$t$ 从 $1$ 开始）：

其中 $m_0 = 0$，$v_0 = 0$，所有运算均为逐元素操作。

输入描述

第一行包含两个整数 $d$ 和 $T$（$1 \le d \le 8$，$1 \le T \le 30$），分别表示参数维度和迭代步数。

第二行包含四个浮点数 $\alpha, \beta_1, \beta_2, \varepsilon$（$0.0001 \le \alpha \le 0.1$，$0 < \beta_1 < 1$，$0 < \beta_2 < 1$，$\varepsilon = 10^{-8}$）。

第三行包含 $d$ 个浮点数，表示初始参数 $\theta_0$。

接下来 $T$ 行，每行 $d$ 个浮点数，表示第 $t$ 步的梯度 $g_t$。

所有浮点数保留 $4$ 位小数。

输出描述

输出 $T$ 行，每行 $d$ 个浮点数，表示第 $t$ 步更新后的参数 $\theta_t$，保留 $4$ 位小数。

样例 $1$

输入

2 3
0.1000 0.9000 0.9990 0.00000001
1.0000 -1.0000
0.5000 -0.3000
0.5000 0.5000
0.4000 -0.2000

输出

0.9000 -0.9000
0.8012 -0.8030
0.7049 -0.7136

说明

初始 $\theta = [1, -1]$。

第 $1$ 步：$g = [0.5, -0.3]$，一阶矩 $m = [0.05, -0.03]$，偏差修正后 $\hat{m} = [0.5, -0.3]$，二阶矩修正后 $\hat{v} = [0.25, 0.09]$，更新量 $-0.1 \times [0.5/0.5,\ -0.3/0.3] = [-0.1,\ 0.1]$，$\theta \leftarrow [0.9,\ -0.9]$。

第 $2$、$3$ 步类似，参数持续向梯度减小的方向更新。

样例 $2$

输入

3 5
0.0100 0.9000 0.9990 0.00000001
0.5000 0.5000 1.0000
0.8000 -0.6000 0.2000
0.3000 -0.4000 0.5000
0.6000 -0.1000 0.3000
0.5000 0.5000 0.4000
0.2000 0.5000 0.1000
0.4000 -0.3000 0.4000

输出

0.4900 -0.4900 0.9900
0.4811 -0.4802 0.9806
0.4718 -0.4720 0.9711
0.4632 -0.4631 0.9615
0.4545 -0.4542 0.9527

说明

$3$ 维参数，$5$ 步梯度下降。学习率 $\alpha = 0.01$ 较小，每步更新幅度约 $0.01$。Adam 的自适应学习率使每个维度的步长独立调节。