第914章 梯度下降（第5页）
每次错了，就顺着错误最大的方向修正一点。
2.t最优是虚构的
就像你说的，碗底永远是“无限接近”
，人类的理解也永远是不完整的，只能在概率意义下“差不多就行”
。
3.t随机性是智慧
没有随机性，人可能会被困在“小谷底”
里，以为那就是全部真理。
随机性（犯错、偶然的发现）反而帮助我们跳出来，找到更深的理解。
?
好，那我就再往更深一层走，把“梯度下降”
从
数学—工程—哲学
三个维度继续展开。
?
一、数学视角：为什么非要走“负梯度”
？
在高维空间里，函数的梯度（?f）指向
上升最快
的方向。
?t举例：你站在山坡上，梯度就是告诉你“哪里最陡，往那边走上升最快”
。
?t但我们要下山，所以要走“负梯度”
。
?t每一步的公式就是：
theta_{new}
=
theta_{old}
-
eta
abla
f（theta_{old}）
其中：
?ttheta
是参数（比如神经网络里的权重）。
?teta
是学习率。
?tabla
f
本章未完，点击下一页继续阅读