曼哈顿计划的幽灵：为什么 AI 发明者注定无法掌控自己的造物？

就在最近与五角大楼陷入僵局的一年多前，Anthropic的首席执行官达里奥·阿莫代伊曾发表过一篇长达一万五千字的宣言，为我们勾勒了一个灿烂的AI未来。这篇名为“充满慈爱的机器”的文章标题取自理查德·布劳提根的一首诗，不过阿莫代伊也有些尴尬地承认，他笔下的乌托邦愿景确实带有些科幻色彩。按照阿莫代伊的设想，我们很快就能创造出首批博学多才的人工智能，它们在绝大多数关键领域的能力都将超越诺贝尔奖得主。届时，我们将拥有数以百万计的此类智能体，构成一个“天才之国”，它们并排运行在数据中心那些闪烁着微光的服务器机架上协同工作。虽然这些AI能直接操控物理世界的工具，从而具备制造严重破坏的能力，但阿莫代伊认为，只要能以正确的方式开发——或者用Anthropic员工更喜欢的词来说，让它们以正确的方式“生长”——这些AI最终会选择去极大地改善人类的生活。