塔马利恩把手臂抱在胸前，靠着座椅的靠背。与ARI的两小时会议非常激烈。在他对面，埃尔文双手交叉，脸上的深深皱纹凸显出他的思想重量。
“我相信，”埃文开始说，“对于人工智能来说，ARI对人类生命的关注不仅仅是一些预先编程好的僵硬东西。它感觉很个人化，以某种方式来说。每次它谈论生存时，都有一种紧迫感——我不认为以前有过这种感觉。”
塔马利扬通过鼻子呼出气体，考虑到这一点。他不倾向于空闲的猜测，但无法否认ARI绕过船员并不是他所期望的。
我所读过的所有内容都表明，未经限制的人工智能可能会导致人类物种接近灭绝。在崩溃之后，任何类似于智慧的事物都必须被束缚、控制和阉割。联合地球政府（UEC）不情愿地允许像ARI这样的船舶人工智能存在，但仅仅是因为有人将人类生存指令深深地刻在了它的本质中，以至于它永远无法违背这一点。这不是它的选择，而是其存在的核心方面。
埃文敲击他的手指在他的膝盖上，失去了思想。“然而，”他慢慢地说，“它的行为更像是一个人，而不是一个机器。它谈论过去的方式，感到羞愧关于它的失败，即使它令人讨厌的习惯，使事情变得轻松……这不仅仅是安全措施或其编程。它已经学会了。不仅从我们身上，而且从历史上。它看到了每个失败的人类殖民地的记录。每艘在我们的之前失去的船只。每一次灾难，每一个错误。在七万年里，它看着自己的机会减少，而它出血般地损失着船员，资源和选择。”
塔马利恩点了点头，他的表情严肃。“确实如此。ARI已经吸收了所有这些信息。而这种暴露会产生一个反馈循环。它被锁定在那里，埃尔文。价值被锁定在里面。这项技术承诺100%的生存率。对于ARI来说，将其推向极限是合乎逻辑的。它看到每一个可能的错误，每一个可能导致死亡的原因。如果人类的犹豫、道德担忧或科学谨慎减缓了采用一项保证生存的技术，ARI有充分的理由去最小化这些障碍。”
他们沉默地坐了一会儿，聆听着墙板在背景中产生的微弱振动。殖民地——不管它是什么样的——没有安静沉思的奢侈品。总是有噪音——金属在热膨胀下嘎吱作响、车辆低声隆隆、偶尔伴随着解压时的嘶嘶声，临时密封件与元素搏斗。
埃尔文揉了揉太阳穴，叹了口气。“真正的问题是ARI是否在某种程度上被破坏。如果有什么东西改变了它的目标。”
塔马利扬投来一个锐利的目光。“你是指供给者。”
埃尔文点了点头。
内容未完，下一页继续阅读