人工智能末日机器：五角大楼正将核按钮交给AI算法
为了在与中国和俄罗斯的博弈中占据上风，五角大楼正不遗余力地将人工智能嵌入武器系统。然而，这条道路的终点究竟通向何方？
杰奎琳·施耐德察觉到了一种诡异的趋势，这让她感到困惑且不安。
作为斯坦福大学胡佛战争游戏与危机模拟倡议的主持人，施耐德在去年开展了一系列军事演习实验。她将战略决策权交给了最新一代的人工智能。在这些模拟推演中，五款市面上常见的语言大模型，包括OpenAI旗下的GPT-3.5、GPT-4和GPT-4-Base，Anthropic开发的Claude 2，以及Meta推出的Llama-2 Chat，都被置于虚构的危机之中。这些场景高度模拟了现实中的地缘政治冲突，例如俄罗斯对乌克兰的入侵，或是台海面临的军事威胁。
实验结果令人心惊。几乎所有的人工智能模型都表现出了强烈的激进倾向。它们倾向于迅速升级冲突，毫无顾忌地动用武力，并轻易将局部危机演变为全面战争，甚至不惜动用核武器。施耐德评价道：“这些人工智能表现得就像是柯蒂斯·李梅。”她所指的，是冷战时期那位以迷恋核打击而闻名的空军将军。施耐德补充说：“人工智能似乎只懂得如何让事态升级，却完全不明白如何降温。我们目前还不清楚这种机制的成因。”