① 拟合函数
模型曲线(实线)在数据点之间穿行,虚线是真实规律。竖直细线 = 每个点的误差,它们的平方平均就是损失。
② 损失函数
每次迭代的 MSE,单调下降说明在收敛。
③ 损失地形
同一批数据上直线模型 y=a·x+b 的损失曲面(等高线)。球是梯度下降轨迹,黄箭头是梯度方向。曲面是
凸的、只有一个谷底
,球总能滚到全局最优——但它最低点的 MSE≈0.45,是多项式模型(0.025)的十几倍。
地形好走 ≠ 模型够用,这就是欠拟合。
迭代
0
损失 MSE
–
残差平方和
–
参数
6
个
重新训练
暂停
换一批噪声数据
学习率
0.16
速度
3