第914章 梯度下降(第8页)
?t这就像
sgd
的抖动,帮我们跳出小陷阱。
?
好,那我就用一个生活化的故事,把“梯度下降”
讲成小朋友也能听懂的场景:
?
小明学认猫的故事
小明第一次去奶奶家,看见一只黑色的小动物,耳朵尖尖,胡须长长。
奶奶说:
“这是猫。”
从此,小明的脑子里有了第一个“猫的模型”
。
第一次错误:把狗当猫
几天后,小明在街上看到一只小狗,毛也黑黑的,耳朵也竖着,他兴奋地喊:
“猫!”
爸爸摇摇头:“这是狗,不是猫。”
小明心里有点动摇,就像
梯度下降
一样,他顺着“错误最大的地方”
修正了自己脑子里的“参数”
。
?
第二次错误:把毛绒玩具当猫
在商店里,小明看见一个毛绒玩具,长得跟猫很像,他又喊:
“猫!”
妈妈笑了:“这是玩具,不是猫。”
小明又调整了一次自己的“模型”
:
“哦,猫会动,玩具不会动。”
?
第三次错误:把狮子当猫
后来,小明在电视里看到动物园的狮子,大吼一声,他又喊:
“猫!”
爷爷说:“嗯,这算是猫科动物,但不是家猫。”
这一次,小明没有完全错,他的理解更接近真相了。
?
梯度下降的隐喻
1.t小明每次犯错
本章未完,点击下一页继续阅读