“想象全人类灭绝”：人工智能威胁如何催生新型政治联盟

2026年2月的一个阴天，在加利福尼亚州的伯克利，参议员伯尼·桑德斯听到了一个惊人的消息：人类可能很快就会走向灭绝。

当时，桑德斯正与几位全球顶尖的人工智能“末日论者”围坐在会议桌旁。这群人大多驻扎在硅谷，与科技行业有着千丝万缕的联系。他们坚信，人工智能的发展最终会终结我们现有的文明。

机器智能研究所的联合创始人艾利泽·尤德科夫斯基在会上对桑德斯表示，人工智能最终会进化到极其强大的地步。他解释说，当人工智能全面接管机器人和工厂的运行后，它们其实不再需要人类。而一旦人类失去了利用价值，就会被彻底抛弃。

这位来自佛蒙特州的独立派议员追问道：“人类被抛弃是什么意思？”

尤德科夫斯基回答说：“想象全人类都死光了。”

在日益壮大的美国人工智能怀疑论阵营中，尤德科夫斯基和桑德斯分别代表了两个极端。

一端是以尤德科夫斯基为首的技术专家。他们大多生活在旧金山湾区，推崇理性主义或有效利他主义。这些意识形态主张用数据驱动的方法解决人类面临的重大危机，并得到了少数科技巨头的资金支持。他们被统称为“人工智能安全”倡导者，十多年来一直警告这项技术可能带来毁灭性的后果。

另一端则是像桑德斯这样的民粹主义者。无论来自左翼还是右翼，他们都对亿万富翁的影响力深感不安。相比之下，他们对人工智能的担忧出现得较晚，也更贴近现实生活。在过去的几个月里，他们努力将公众的焦虑转化为行动，这些焦虑主要集中在大规模失业、人工智能聊天机器人对儿童的负面影响，以及数据中心对电力和水资源的巨大消耗。

桑德斯目前正站在反抗人工智能的最前线。他正带头呼吁暂停新建数据中心，因为这些塞满服务器的庞大设施正是美国人工智能扩张的核心。桑德斯开始认真对待人工智能“末日论者”的观点，这一迹象表明，硅谷的技术派系与桑德斯的反企业意识形态之间，正在形成一种新兴的联盟关系。

桑德斯回到华盛顿后，在接受《政治报》杂志采访时表示：“过去我们看过太多关于机器人、人工智能和计算机摆脱人类控制、反戈一击的科幻作品了。但现在，那些业内人士已经不再把这当成虚构的故事了。”

如果人工智能安全倡导者能与反人工智能的民间力量联手，这个联盟将产生巨大的政治能量。不过，前提是他们得搁置那些根深蒂固的分歧，真正走到一起。否则，他们只会给硅谷的“人工智能加速派”及其在特朗普政府里的盟友留出空间，让对方更轻易地推动那种几乎不加约束的人工智能开发计划。

对于这派怀疑人工智能的阵营来说，双方抱团取暖是明智之举。

人工智能安全运动背后有雄厚的财力支持，达斯汀·莫斯科维茨等亿万富翁以及 Anthropic 这样的人工智能初创公司已经投入了数亿美元。这笔巨款催生了一个庞大的生态网，涵盖了各种智库、政府研究项目和专门从事人工智能安全游说的机构。如今，这股资金力量在选举中的存在感也越来越强。

相比之下，民间的反人工智能运动就显得有些散兵游勇，手里的经费也少得可怜。但他们的优势在于民意，一次又一次的民调结果都反映出美国民众日益增长的焦虑：人们担心人工智能会抢走自己的饭碗，担心孩子受到伤害，还担心这玩意儿会弄得电费飙升。

这两个派系目前面对着同一个对手，即一个财力雄厚的人工智能行业超级政治行动委员会网络。该网络与唐纳德·特朗普总统领导的白宫以及共和党内的核心立法者联手，正向华盛顿当局施压，试图阻止各州政府通过人工智能相关的法律。在这些团体中，声势最显赫的是引领未来。这是一个由 OpenAI 总裁格雷格·布罗克曼、风险投资巨头安德里森·霍罗威茨以及其他硅谷大亨共同出资组建的超级政治行动委员会网络，其资金规模高达1.25亿美元。

布拉德·卡森是公众优先组织的联合创始人，该组织是一个倡导人工智能安全的竞争对手网络，并从倾向于有效利他主义的 Anthropic 公司获得了2000万美元的资助。卡森指出，行业力量试图剥夺州政府制定人工智能规则权力的行为，迫使各方势力不得不进行一场仓促的政治联姻。这其中包括担心丢掉工作的普通民众，认为超级智能的崛起带有亵渎神明色彩的宗教领袖，关注人类生存风险的专家，以及国家安全领域的专业人士。

然而，这些团体在人工智能的具体议题上并非铁板一块。联盟内部已经显露出裂痕，例如人工智能安全倡导者对于暂停建设数据中心的提议大多持观望或反对态度，许多人对民粹主义者在技术问题上表现出的错误或片面的观点感到不满。部分有效利他主义者不希望深陷美国政治的浑水，而民粹主义者则对人工智能安全运动与硅谷科技亿万富翁之间的紧密联系心存戒备。

尽管如此，在人工智能行业试图扼杀一切监管尝试的现状面前，这些内部矛盾暂时显得并不重要。卡森曾是代表俄克拉荷马州的民主党国会议员，他将这个新兴联盟内部的争执比作第二次世界大战期间法国抵抗运动内部的摩擦。

卡森表示：“天主教徒曾与共产党人携手并进，因为他们意识到，虽然未来某天大家可能会在法国的治理方式上产生分歧，但眼下，我们拥有共同的目标。”

这群被称为“有效利他主义者”（简称 EA）的群体，在华盛顿的往事可谓毁誉参半。在拜登执政时期，一个与该群体关系密切的人工智能顾问网络曾发挥了巨大作用，直接影响了白宫和国会在技术领域的决策优先级。

然而，该群体中最具知名度的人物萨姆·班克曼-弗里德，因其加密货币交易所崩盘并涉及数十亿美元的诈骗活动，已在2024年被判处25年监禁。尽管他显然在寻求特朗普的赦免，但目前并无进展。据指控，他还曾挪用这些非法资金资助他看好的政治候选人。自此之后，EA 这个标签在华盛顿政界几乎成了禁忌，不过在硅谷，这个词依然非常流行。

在此之前，除了萨姆·班克曼-弗里德引发的那段短暂风波，有效利他主义者大多对选举政治敬而远之。尤德科夫斯基在2007年撰写的文章《政治是思维杀手》，其标题借用了科幻小说《沙丘》中的典故，至今仍被许多有效利他主义者奉为圭臬。

不过，随着近年来人工智能演变为核心的政治与政策博弈，与该群体相关的工程师、慈善家和政界领袖开始将人工智能系统的安全性视为头等大事。用技术行话来说，就是确保机器人不会毁灭人类。这一诉求促使他们更深地介入了政治领地。

在这些与有效利他主义立场一致的人士中，关于如何参政议政并没有统一的共识。像尤德科夫斯基这样的激进派领袖，将精力投入到撰写犀利的评论文章以及抗议任何形式的人工智能开发中；而那些更倾向于体制内运作的人，则致力于将科技界的资金引入智库、奖学金项目以及名为“公众优先”的超级政治行动委员会。这些硅谷人士更愿意信任卡森这样深谙华盛顿规则的老手去运筹帷幄、组建政治联盟，从而让自己免于投身繁琐的政治角力。

然而，文化与政治立场上的真实分歧，正让这群人与民粹主义者之间那段刚刚萌芽的盟友关系面临考验。

有效利他主义者这一群体，向来以在小众网络论坛或是在伯克利那家名为莱特海文的老酒店集会时，进行那种长篇大论且漫无边际的辩论而著称。如今，他们正处于能够施展巨大政治影响力的风口浪尖，但若想真正成事，他们必须采取一些与自身思维方式完全背道而驰的行动。毕竟，政治需要的是大刀阔斧地阐述宏大构想，不容许过多的细枝末节，还需要与政见不合者建立战略伙伴，并去讨好广大选民，而非仅仅围着技术精英转。

他们是否能保持足够的自律去完成这些转变，抑或他们内心是否真的愿意这样做，目前都还是个未知数。

“物理学家威廉·纽科姆的幽灵来到了莱特海文，他说：‘有一条路可以叫停人工智能并防止人类灭绝，但你们必须采纳伯尼·桑德斯和更完美联盟那套认知实践。’”系数捐赠这一顶级有效利他主义慈善机构的副项目官员迪伦·马修斯，最近在 X 平台上发布了一段随后被删除的文字，“理性主义者们思考了片刻。然后，全人类都毁灭了。”

理性主义者与民粹主义者已经在一次备受瞩目的政治博弈中分道扬镳。

在北卡罗来纳州第四国会选区的民主党初选中，一个与公众优先结盟的政治行动委员会斥资逾150万美元，力挺众议员瓦莱丽·富希。富希是一位温和派民主党人，去年年底被众议院少数党领袖哈基姆·杰弗里斯任命为众议院民主党人工智能与创新经济委员会的联合主席。而从左翼阵营向她发起挑战的是尼达·阿拉姆，这位进步派的达勒姆县专员得到了桑德斯的支持。

最终，富希以1000多票的微弱优势赢得了选举。

这次选举是一个典型的早期案例，揭示了与有效利他主义（EA）立场一致的政治力量，其核心诉求如何与民粹主义盟友分道扬镳。在经历了一场惜败之后，那些民粹主义者感到满腹牢骚。

“制度性人工智能安全联盟非常适应这种中间路线的政治手段，也习惯了在人工智能开发领域维持一种暧昧的亲近关系，”进步派非营利媒体组织“更完美的联盟”执行主任、桑德斯的高级顾问法伊兹·沙基尔表示。“在我看来，他们非常担心我们这些坚决主张暂停人工智能开发的人，并且正投入巨资对我们进行打击。”

未来可能会爆发更多的冲突。在加利福尼亚州，为了争夺前议长南希·佩洛西留下的席位，进步派组织“正义民主党人”的联合创始人赛卡特·查克拉巴蒂，将与有效利他主义者青睐的民主党州参议员斯科特·维纳展开对决。不过，沙基尔对另一位受有效利他主义阵营支持的候选人亚历克斯·博雷斯倒是有一些正面评价，后者正在角逐曼哈顿的一个国会议席。

当《政治报》杂志采访“公众优先”组织的领导人卡森时，他正准备去和“正义民主党人”会面，试图化解北卡罗来纳州初选后左翼阵营的愤怒情绪。

卡森表示：“在尼达·阿拉姆的初选结束后，他们中有些人对我们发起了无差别攻击，说什么‘搞人工智能的都是一丘之貉’。我并不是要强求谁来喜欢或讨厌我们，那是你们的自由。但大家必须意识到，人工智能领域内部存在着巨大的分歧。所谓的‘人工智能游说集团’并不是铁板一块，我们内部其实正斗得不可开交。”

卡森的看法没错，那些由不同人工智能企业背景支持的政治行动委员会之间确实势同水火。与OpenAI及其他硅谷巨头站在一起的超级政治行动委员会“引领未来”就公开指责“公众优先”及其背后的有效利他主义捐资人，认为他们只是在利用“人工智能安全”的名义来为自己的私利背书。

该超级政治行动委员会的高级官员乔希·弗拉斯托批评道：“【人工智能安全联盟】满口都是安全问题和失业风险，但他们其实只有一个目的，那就是构建一套偏袒Anthropic公司的监管体系。”对此，Anthropic公司拒绝发表评论，但该公司一直坚称其安全与透明化倡议其实是在促进小规模企业的成长。

在人工智能的这场博弈中，有效利他主义者发现自己正处于亲科技派与民粹派的夹缝之中，这倒也在情理之中。

一位要求匿名的前拜登政府官员在评价其政治盟友时直言不讳地表示：“在硅谷看来，有效利他主义者的立场只比伊丽莎白·沃伦稍微靠右一点；而在华盛顿的左翼人士眼中，有效利他主义者简直就是魔鬼。”

在尝试拉拢各方组建联盟时，这确实是一个棘手的问题。

一位官员补充说：“民粹主义的左翼和右翼通常对科技行业都没什么好感。他们可不会主动提议‘我们得和Anthropic公司开展合作’。相反，他们的态度更像是‘这帮家伙全都很差劲，我们要坐等革命爆发’。”

在政策层面，民粹主义左翼与硅谷那些倡导人工智能安全的人士之间，矛盾最尖锐的地方就在于数据中心的建设。

许多倾向左翼的民粹主义者尤其坚持要暂停开发。桑德斯在去年12月就曾呼吁停止施工，并在上周与纽约州民主党众议员亚历山德里娅·奥卡西奥-科尔特斯共同提出了一项旨在落实该禁令的法案。相比之下，有效利他主义者大多认为，暂停建设数据中心要么是分散了公众对生存风险等核心议题的注意力，要么就是一种违背道德的行为，因为任何停工都会阻碍人工智能安全产能的提升。

许多有效利他主义者还对民粹主义者在反对数据中心时所引用的错误数据感到反感。华盛顿特区有效利他主义协会的前执行主任安迪·马斯利曾试图驳斥数据中心耗水量巨大的说法。他专门点名批评了“更完美的联盟”组织，认为该组织在散布此类观点中起到了推波助澜的作用。马斯利本人并未对采访请求作出回应。

内特·索尔斯是机器智能研究院的联合创始人，该组织属于立场更激进的理性主义派别，主张彻底关停人工智能的研发。尽管如此，索尔斯并不排斥与那些政见不合的广泛群体结盟。他表示：“我很愿意与民粹主义运动合作，但我并不认为自己必须接受民粹主义者的认知标准，比如我绝不会去错误地相信数据中心会消耗惊人的水量。”

如果说民粹主义左翼更看重暂停数据中心建设，那么反人工智能的右翼则将重点放在了儿童安全上。这股力量主要源于宗教保守派，而他们与那些极度世俗化的理性主义者之间几乎没有共同语言。

社会保守派非营利机构家庭研究学会的高级研究员迈克尔·托斯卡诺指出：“民粹主义者习惯于从具体细节出发去思考问题，比如‘这个小镇怎么了，社区出了什么事，我的孩子近况如何’，这是一种非常务实的思维模式。而有效利他主义群体则更倾向于根据预测的情景进行思考，他们关注的是关于未来可能发生之事的宏大且抽象的模型。”

尽管双方之间存在诸多分歧，但托斯卡诺承认，眼下他们已经成了利益共同体。

他表示，从短期来看，他们在反对加速主义者这一立场上有着共同的利益基础。现在的悬念在于，这种联盟究竟能维持多久。

在那个致力于推动严苛人工智能监管规则的联盟中，许多人认为这种关系会相当稳固。这个联盟虽然组织松散，但规模正在不断壮大。他们认为美国民众渴望尽快实施监管，并坚信联邦政府和大部分人工智能企业正在试图阻挠这一进程。

这个联盟之所以缺乏统一的意识形态，甚至显得有些怪异，完全是出于这种迫切的现实需要。而在特朗普第二个任期初期陷入政治边缘地带的有效利他主义者们，或许是其中最明显的受益方。

民主党政治策略师艾丽莎·卡斯目前正为鲍尔斯的国会竞选效力，她指出，随着人工智能深入日常生活，加上那些著名的科技巨头整天口无遮拦，人工智能安全社区迎来了一个关键转折点。他们不再被视为一群歇斯底里的疯子，反而显得很有先见之明，并开始受到主流受众的关注。

艾丽莎·卡斯补充道，他们过去在那些长篇专栏文章里讨论的内容，如今已经变成了主流社会讨论的话题。

特朗普开启第二任期后，基本上把有效利他主义者清理出了政府部门。最初唯一的例外是Anthropic公司，因为其首席执行官达里奥·阿莫代在思想渊源上与有效利他主义运动有着深厚的联系。

但到了今年二月，情况急转直下。由于国防部长皮特·海格塞斯要求以达里奥·阿莫代认为不安全的方式使用克劳德人工智能模型，双方产生严重分歧，导致Anthropic与五角大楼的合作彻底破裂。特朗普随后在社交平台上公开抨击Anthropic是一家“极左的觉醒公司”，并下令所有美国政府机构停止与这家前沿实验室合作。目前，该公司与政府正陷入一场复杂的法律纠纷。

这场冲突爆发得如此剧烈且迅速，确实令人震惊。但从某种程度上看，这也是在特朗普第二个任期内，有效利他主义在华盛顿政治圈影响力走向终结的必然结果。

与此同时，特朗普对Anthropic表现出的报复心理，反而促成了有效利他主义者与反人工智能民粹主义者之间新生的政治合作。

艾丽莎·卡斯认为，五角大楼对Anthropic的围剿，加上美国民众对伊朗战场上人工智能战争的认知，正促使民粹主义者与安全倡导者走到一起，成为了意想不到的盟友。

其实早在Anthropic与五角大楼的关系破裂之前，更广泛的有效利他主义社区就已经重新介入了政治领域。在博雷斯和维纳这两位长期盟友的身上，有效利他主义者们看到了进入国会的希望。同时，他们也在资助像富希这样的人选，相信这些人能协助推动他们的计划。在犹他州等正在考虑人工智能立法的地区，他们积极赞助相关会议。该运动中一些极具影响力的人物，比如物理学家马克斯·泰格马克，甚至开始与佛罗里达州共和党州长罗恩·德桑蒂斯以及其他保守派民粹主义者共同出席研讨活动。

美国创新基金会这一保守派智库的首席经济学家萨缪尔·哈蒙德，是另一位在华盛顿立足的理性主义社区成员。他形容自己成长为一个“互联网赛博自由意志主义理性主义者”，虽然他不完全自认为是有效利他主义者，但至少对这一理念持开放态度。2024年8月，他曾撰写过一篇题为《2024年支持特朗普的有效利他主义理由》的博客文章，在当时引发了巨大的争议。

如今，哈蒙德非常担心民粹主义力量会干扰人工智能安全监管的进程。

哈蒙德表示：“美国的政策，也就是人工智能的国家框架，究竟是由支持或反对安全监管的聪明技术官僚来制定，还是因为双方僵持不下而不断拖延，直到最后演变成一个大众政治问题？我觉得双方其实都希望在人工智能变成纯粹的民粹主义话题之前，先建立起一套理性的框架，否则到那时候，大家的关注点恐怕就会跑偏了。”

然而，选民们并不会坐等观点成型。如果有效利他主义者想要左右人工智能监管的政治走向，他们或许真的需要争取普通大众的支持。

在这一点上，民粹主义者和理性主义者的看法是一致的。

沙基尔在谈到有效利他主义者时表示：“如果你想投身政治，你就必须代表真实的人民。”

索阿雷斯也补充说：“你不可能只靠理性主义者就拿到大量选票，毕竟这世界上并没有一亿个理性主义者来为你投票。”