神经网络训练过程可视化

实验目的

学会通过训练曲线判断模型的学习情况，理解收敛与过拟合的含义。

实验原理

每一轮训练中，网络先前向计算预测值，再用损失函数衡量预测与真实答案的差距，然后通过反向传播求出梯度，并按梯度下降更新参数。训练使损失逐渐减小、准确率逐渐提高。若训练集上表现越来越好而验证集上变差，说明出现过拟合。

实验器材

• 训练数据
• 神经网络结构
• 损失曲线
• 准确率曲线
• 训练轮数
• 学习率等训练参数

实验步骤

1. 了解任务和所用的网络结构。
2. 设置学习率等训练参数，开始训练。
3. 观察损失曲线和准确率随训练轮数的变化。
4. 改变学习率或网络结构，重新训练并比较曲线。
5. 根据曲线判断模型是否已经收敛。

实验现象与结论

训练正常时，损失曲线总体下降，准确率上升，之后逐渐平缓，表示趋于收敛。学习率过大时，曲线可能剧烈波动；若训练集表现好而验证集变差，则提示过拟合。结论：观察训练曲线有助于调整参数和改进模型。

注意事项

• 曲线有小幅波动是正常的，应观察整体趋势。

常见问题

损失曲线下降说明什么？

说明模型预测与真实答案的差距在变小，也就是模型正在学习。

什么是过拟合？

模型在训练数据上表现很好，但遇到新数据时表现变差，说明它记住了训练样本的细节。