第972章 AI模型训练里的链式法则用童话故事讲解

从前，在一个叫“深度王国”

的地方，有一个爱哭的小公主，名字叫Loss（洛斯）。

她只要一不开心，整个王国就会下雨、打雷，所有人都会很难过。

国王最怕女儿哭了，他下了一道圣旨：

“谁能让公主永远笑呵呵，谁就能得到整个王国的宝藏！”

于是，全国最聪明的信使们组团出发了。

他们排成一列长长的队伍，从公主的卧室一直排到王国的最边境。

这支信使队伍有好几层：

第一层信使站在公主床边，叫“输出层小红”

。

第二层叫“隐藏层小紫”

，第三层叫“隐藏层小蓝”

，一直排到最远方的“输入层小绿”

。

有一天，公主又哭了！

（因为预测的蛋糕味道和真的不一样）

小红第一个听到哭声，吓得脸都白了，赶紧把“公主哭得好大声啊！”

这个消息往后传。

可是，他不能自己跑，他只能把消息告诉站在他后面的小紫，同时附上一张纸条：

纸条上写着：

“公主哭得有10级伤心，我这边的门（激活函数）把伤心放大了2倍，所以你要收到的是10x2=20级伤心！”

小紫收到20级伤心后，自己这边的门（也是激活函数）又把伤心缩小了一半，只剩下10级。

然后他转身对小蓝喊：

“公主有10级伤心！

但要经过我这扇门的时候，我要乘上我的魔法权值3，所以你收到的是10x3=30级伤心！”

小蓝、小绿……每一个人都这样接力：

1.先收到前面传来的“伤心数值”

（这就是δ，误差信号）

2.乘上自己和前面人之间的“魔法绳子粗细”

（这就是权重w）

3.再乘上自己这扇门的“开关灵敏度”

（激活函数导数）

4.把新的伤心数值传给后面的人

就像多米诺骨牌一样，哭声一层层往回传，一直传到最远方的输入层小绿。

小绿收到消息以后，马上跑去告诉厨房：“公主因为蛋糕太甜哭了，下次糖要少放0.02个金币的量！”

旁边负责加糖的厨师（就是权重w）听了，立刻把自己的糖勺调小了一点点。

所有信使路过的厨师、烤蛋糕师、加奶油师……都根据收到的“伤心数值”

把自己的勺子、火候、材料调一调。

调完以后，重新烤一个蛋糕给公主吃。

本章未完，点击下一页继续阅读