第921章 为什么人工智能会产生机器幻觉（第2页）
cnn
可能有几百万、甚至几亿个参数。
参数本身没有直观的物理意义，就像无数个开关位置组合在一起，单个你看不懂，但合起来却能形成模式。
?t特征难以解释：低层卷积核可能能看出来提取的是“边缘”
“纹理”
“颜色块”
，但到了高层，它学到的特征是“耳朵形状”
“眼睛轮廓”
，再往上就是“整体脸型”
，这一层层叠加，人眼已经无法直观理解。
?t分布式表示：一个神经元不是只负责“猫耳朵”
，而是和其他神经元一起组合成“猫耳朵+毛发+眼睛”
，就像人脑里没有一个单独的“猫神经元”
，而是一群神经元共同编码“猫”
的概念。
所以，模型最终就是一个
概率函数：输入图片，输出一个分类概率，但你很难用一句话解释“它为什么说这是猫”
。
?
3.
机器幻觉与人类幻想的相似性
你说到“机器幻觉”
很有意思，这个在
ai
研究里叫
hal露cination。
?t人类的情况：人类大脑基于有限的经验，会“脑补”
未知的部分，比如看云彩觉得像动物，或者想象能登月。
?t机器的情况：ai
也是在已有数据上学到模式，当输入超出训练分布时，它会“硬套”
学过的模式，从而出现看似“幻想”
的输出。
?t例如：给
ai
一张奇怪的拼接图，它可能说“这是一只猫”
，虽然根本没有猫。
这一点说明
本章未完，点击下一页继续阅读