第921章 为什么人工智能会产生机器幻觉（第5页）
?t在训练阶段：最小化损失函数（loss）。
?t在应用阶段：最大化与训练目标一致的结果（例如正确分类）。
?t未来潜在：如果拥有“自我目标”
，它可能会追求最大化某种指标（效用函数），而这可能与人类意图不完全一致。
3.t信息结构
?t人类
→
不完全信息：我们并不知道
ai
在内部是如何计算的，只看到输入输出。
?tai
→
完全信息？：从某种意义上说，ai
“知道”
训练数据分布和参数值，但它并不理解“人类的真实意图”
。
这就形成了一个典型的
不完全信息博弈。
?
二、博弈论分析
1.
信号博弈（signaling
game）
?t人类给
ai
输入数据（信号）。
?tai
根据参数和模型结构给出输出。
?t人类再根据输出进行行动（例如决策、采纳或拒绝
ai
的建议）。
问题在于：
?tai
可能发出“虚假信号”
（即幻觉）。
?t人类无法验证
ai
本章未完，点击下一页继续阅读