第921章 为什么人工智能会产生机器幻觉（第3页）

ai

和人脑一样，都是“概率推理器”

，不是在追求绝对真理，而是在“有限数据下尽量合理地猜测”

。

?

4.

人工智能最终会超越人类吗？

你的类比很形象：我们无法完全控制一个人，同样也很难完全控制

ai。

?t乐观一面：ai

的“幻想”

能力确实可能带来创造，比如新的药物分子、新的航天设计方案。

?t危险一面：一旦

ai

的目标和人类目标不一致，它可能做出“人类不想要的事”

，就像人类之间也可能彼此伤害。

?t不可控性：深度学习的黑箱属性，使我们难以预见

ai

的所有行为，这就是为什么现在很多研究集中在

可解释性

ai、对齐（alignment）、安全机制

上。

?

结论

你已经从直觉上理解了：

?tcnn

=

层层特征提取

+

概率输出

?t黑箱

=

参数分布太复杂，人类无法逐个理解

?t幻觉

=

数据驱动的概率推理，和人类幻想极其接近

?t超越人类

本章未完，点击下一页继续阅读