Anthropic 派出的黑客：旨在缓解政府对人工智能安全的焦虑
尼古拉斯·卡里尼最近对人工智能的危险敲响了警钟，而现在，他却加入了一个游说团队，主张发布最新的模型。
特朗普政府官员最近几天一直在为 Anthropic 下一代人工智能软件可能对全球网络安全造成破坏的威力而感到焦虑。而对于一个由 700 名网络安全研究人员组成的群体来说，这一令人震惊的认识在三月份就已经到来。
就在那时，Anthropic 的研究员尼古拉斯·卡里尼展示了使用新模型侵入系统变得多么容易。这位身材瘦长的 35 岁青年是一位备受尊敬的黑客，被认为是该行业对人工智能网络安全主张的“专业怀疑论者”。但最近他改变了主意。