一、全连接神经网络的整体结构

二、全连接神经网络的单元结构

找出一组w,b使得结果最优

三、常见激活函数

 

四、前向传播

学习率是指训练模型时每次迭代更新模型参数的步长。 

五、梯度下降法

六、反向传播计算

七、总结

1、准备数据

2、搭建模型

3、开始训练(设置学习率、训练轮次等超参数)

4、前向传播求出output

5、计算误差

6、反向传播(梯度下降)

7、知道训练轮次结束

8、产生model

9、开始测试

10、应用