第921章 为什么人工智能会产生机器幻觉（第8页）
安全研究的重点就是：如何设计信誉机制，让
ai
的输出更可预测、更可靠。
?
3.
演化博弈（evo露tionary
game）
如果我们把
不同的
ai
系统
看作“种群”
，它们在市场和社会中竞争，就形成了演化博弈：
?t“听话型
ai”
（高度对齐、可控，但可能缺乏创造力）。
?t“冒险型
ai”
（追求高准确率或高创新，但风险更大）。
在人类选择的压力下，哪些
ai
模型被广泛应用，哪些被淘汰，就会演化出一个均衡状态。
但问题是：
?t市场机制倾向于选择“短期高效益”
的
ai，而不是“长期最安全”
的
ai。
?t这可能导致人类社会偏向使用“冒险型
ai”
，带来不可控风险。
这和金融市场很像：高风险投资常常吸引更多资本，但一旦出事，代价极大。
?
四、信息不对称与“黑箱”
困境
ai
的“黑箱性”
本章未完，点击下一页继续阅读