第143章 未来超级智能体

““危险”

并不一定意味着“灾难性”

。

“毕竟，原子弹很危险，但人类依然存活至今。”

“同样，你的邻居可能很危险，但社会依然存续——事实上，社会的一大功能，就是限制人类彼此之间的威胁。”

““潜在的危险”

并不等同于“必然的末日”

，因此，人工智能带来的危险，并不一定会“终结人工智能的未来发展”

，也不一定会“导致文明的毁灭”

。”

“因此，我们所设想的“文明被僵尸人工智能毁灭”

的结果，是否具备“排他性”

（即是否适用于所有或几乎所有文明），仍有待商榷。”

“科学家们关于这方面的观点可能是正确的，但我们尚无充分证据证明“这种结果的可能性高于不可能性”

，更不用说证明它“必然发生”

了——即我们生活在一个“充斥着僵尸人工智能、这些人工智能统治着没有生物生命的行星”

的宇宙中。”

“机器在没有明确目的的情况下维护着基础设施，而它们的创造者早已消失。”

“尽管如此，这仍是一个不错的解决方案，其逻辑也通常简单明了：制造一台“有智能但无意识”

的机器，要比制造“有感知能力或对齐的人工智能”

容易得多。”

“因此，每个文明都必然会被迫面临“僵尸人工智能带来的生存风险”

。”

“这为费米悖论提供了一个令人不寒而栗的解释：文明可能在有机会“走向星辰”

之前，就频繁地自我毁灭，只留下一个“充斥着智能但无意识系统”

的星系。”

“这些系统甚至可能存续数十亿年，以看似有目的的方式维护基础设施或进行扩张，却毫无主观意图。

本章未完，点击下一页继续阅读