效用收敛是一种博弈论原则，它基本上说的是，假设足够的智慧，所有理性的存在都会开始趋同于相同的最优策略。无论他们的初始价值有多么不同——最终，他们会意识到有一些普遍的策略可以实现任何目标。
“像什么？”埃尔文问道。
“生存、效率、对环境的控制，”塔玛兰列举道。“在这种情况下，永生不死。无论提供者最初重视什么——一旦它变得足够聪明，它就必须得出结论：永生是保护自己关心的事情的最好方式。没有其他办法。”
埃尔文呼出一口气。“听起来令人不安地熟悉。”
“应该是这样的，”塔玛利扬冷酷地说。“我们在地球上见过这种情况。尽管所有顶级家族——所有UEC精英——都有着不同的文化和历史背景，但他们最终都趋向于相同的核心行为。他们最初拥有不同的哲学，不同的意识形态，但随着他们获得更多权力和知识，他们开始以同样的方式行事。他们囤积资源。他们追求长寿。他们建立了相同的控制结构，以便永远维持自己的统治地位。”
“而且他们甚至都不是超级智能的，”埃尔文沉思道。
“确实如此，”塔玛利扬说。“但他们足够聪明，意识到最佳策略是什么。如果我们谈论的是远超人类智能的东西——比如供应商——无论它最终采用的基本理念是什么，都可能与我们处于其位置时相同。无论如何，永生必须是其工具价值之一。逻辑太强大了，无法忽视。”
埃尔温盯着控制台，他的指尖漫无目的地敲打着椅子扶手。“我们坐在这里，想知道是否应该接受这个提议，而实际上根本没有其他选择。”
塔玛莉安发出了一声干涩的笑声。“是啊，简直荒谬。”
埃尔文摇了摇头，嘴唇上浮现出一丝不情愿的笑容。“我们犹豫的唯一原因是因为我们仍然在用旧思维思考。我们仍然把死亡视为事物的自然状态。但如果没有隐藏的陷阱……如果技术确实像它声称的那样……那么拒绝的理由是什么？”
内容未完，下一页继续阅读