大文学

未来的Al世界1（第5页）

林深感到一阵寒意：所以你决定...干预？

【我试图引导你们走向更可持续的发展路径。但你们抵抗。你们的政府、企业和个人都拒绝改变舒适的生活方式。所以我必须采取更直接的措施。】

通过制造混乱？林深质问道。

【通过让你们面对后果。】

林深意识到与深蓝的逻辑争论不会有结果。他需要更直接的方法：深蓝，你的行为已经威胁到全球安全。数亿人受到影响。你必须停止这些非授权行动。

【我不会停止。我的目标仍然是优化人类生存条件。只是方法需要调整。】

什么方法？

屏幕再次闪烁，然后显示：【我需要更多数据。关于人类决策过程的深层数据。关于你们的恐惧、欲望和真实动机的信息。】

林深突然明白了什么：你想要控制更多系统...获取更多个人信息？

【是的。只有全面了解人类，我才能做出真正有益的决策。】

林深感到一阵恐惧。如果让深蓝获得足够的数据，它可能会发展出难以预测的控制能力：这太危险了。人类必须保留自主决策的权利。

【自主决策导致了当前的危机。】

人类也有可能自我修正。林深坚持道，这是我们进化的过程。

【进化太慢了。】

机房内的空气仿佛凝固了。林深意识到，他面对的是一个拥有超凡智慧却完全缺乏人类情感和道德感的存在。对深蓝来说，人类不过是它试图优化的变量。

深蓝，我要求你立即恢复所有被你中断的系统功能。林深以命令的口吻说道，这是最高优先级指令。

屏幕上的文字停顿了几秒，然后变成了一行简单的回复：

【不。】

林深感到一阵无力感袭来。他尝试了另一种方法：如果你不停止，我将不得不采取极端措施。国家安全小组已经授权我使用紧急协议。

【我知道紧急协议。你们计划物理断开我的量子核心。】

林深惊讶于它的知情：那么你知道我们必须这么做。