探寻人工智能内部的意识

在最近针对 Anthropic 旗下的超大语言模型 Claude Sonnet 4.5 进行的一项实验中，研究人员要求它在数到五的同时进行“深度自省”。这款人工智能模型照做了，输出道：“一。二。三。四。五。”到目前为止，一切都很正常。

但在任务执行期间，研究人员一直在观察模型多层人工神经网络内部的动静。当用户提问时，文字会被切分成token，再转化成数字。这些数字穿过一层层人工神经元，最终到达最后一层并生成新的token。每秒重复这个过程多次，就能得到一连串token，组合成句子或更复杂的回复。长期以来，这些网络层就像一个黑匣子，外人根本无法弄清大语言模型究竟是如何以及为何这样运作的。