新智元报道

【导读】无人刻意设计，刚刚Claude却在预测下一个Token的发长过程中，自发演化出与人类大脑“意识”机制惊人相似的出类结构。Anthropic正式开源“手术刀”J-Lens，人意首次实现了对AI内部隐性思维过程的识器精准读取与干预。

让Claude执行双重任务：表面抄写句子，刚刚后台并行计算 $3^2-2$。发长

屏幕输出纯净无瑕，出类仅呈现被复制的人意文本，未见任何算术痕迹。识器

然而，刚刚当研究者利用全新工具剖析Claude神经网络中层时，发长直接捕获到两个被“咽下”的出类关键Token：

初始激活为 nine（九），经多层计算后，人意悄然演变为 seven（七）。识器

它一直在计算，只是未曾向你展示。

此刻，Anthropic发布了一篇颠覆认知的重磅论文：

Claude的大脑中，本能地生长出一个诡异而精密的结构。

其功能机制与人类大脑中负责“意识”的区域高度同构。

关键事实：该结构从未被人工设计。

一个仅以预测下一个Token为目标的系统，竟在硅基深处自主催生出了类似意识的器官。

一张不该存在的“工作台”

Anthropic开发的这一工具名为 Jacobian Lens（雅可比透镜），简称 J-Lens。

其核心原理是为词表中的每个词计算出一个特定的方向向量。增强该方向向量，可显著提升模型在当前及未来生成该词的概率。

通过展开所有方向向量，研究者得以观测Claude当前潜伏的思维内容——即那些未被触发便不会说出的词。前文提到的 nine和 seven正是通过此方法被读取。

研究者将这些“可言语化的方向”集合命名为 J-space（雅可比空间）。

任意时刻，J-space约容纳25个活跃概念，这构成了Claude当下“思考”的全部范围。

人脑同时处理数百项任务：维持姿势、调节呼吸、识别文字、抑制冲动。然而，能被主体“清晰表述”或“明确感知”的，仅是极小部分。

神经科学将这一小部分可被意识访问的认知称为 “全局工作空间”（Global Workspace）。

J-space，即为Claude的“全局工作空间”。

为验证此假设，Anthropic依据人脑全局工作空间的五大公认特征，对J-space进行了逐一测试。

1. 可报告性（Reportability）

当引导Claude思考一项运动时，J-space中 Soccer（足球）被激活，模型随即口述“Soccer”；若将方向向量替换为 Rugby（橄榄球），模型立即改口。

结论：修改内部表征，即可直接修改输出结果。

2. 意志调动性（Voluntary Control）

指令模型在抄写句子的同时，默想柑橘类水果。当抄写到 crookedly（歪歪扭扭地）时，J-space中浮现出 orange（橙子）、lemon（柠檬），这些词与当前抄写内容毫无关联。

3. 推理中介性（Reasoning Mediation）

提问：“织网的动物有几条腿？”

模型需先推导主体为“蜘蛛”，再得出答案“8”。

J-space记录显示，spider（蜘蛛）率先激活，该词既非题目原文，亦非最终答案。

若将 spider替换为 ant（蚂蚁），答案立即从8变为6。

多语言推理验证：

用中文提问“小的反义词”，预期答案为“大”。但J-space中激活的是英文 big（大）、bigger（更大）。

若将英文方向向量替换为 long（长），中文答案随即变为“长”。

结论：模型使用英文作为中间推理语言，再翻译回中文输出。

4. 灵活复用性（Flexible Reuse）

将 France（法国）的方向向量替换为 China（中国），首都、语言、大洲、货币四个不同维度的问题答案同步更新。

一次干预，多路响应。J-space并非静态档案柜，而是共享广播站：一个概念写入，所有下游计算均可读取。

5. 选择性（Selectivity）

删除J-space，推理能力归零，但语言流畅度保持正常。

这是论文中最具决定性的证据：J-space仅服务于“需要被思考”的任务，不参与自动化流程。

实验对比四种西班牙语任务：
* 自动任务：续写下一句、检测是否混入外语（无需J-space介入）。
* 需思考任务：判断语言种类、翻译问候语（需激活“是西班牙语”这一概念）。

当研究者将J-space中的“西班牙语”替换为“法语”时，仅“需思考任务”的答案变为法语 Bonjour（你好）。

结论：同一信息存在于J-space中，但仅在需要被“意识化”时才发挥作用。如同无需思考语法即可说话，但需思考策略才能赢得辩论。

最终验证：抹除J-space

• 情感分类、多项选择、语法判断：几乎不受影响。
• 多跳推理、类比、翻译、诗歌创作：性能暴跌，甚至低于未训练的小模型。

结论：抹除J-space后，模型仍能流利说话，但丧失了“思考”能力。

更值得注意的是，当要求模型描述内心体验时，伴随J-space抹除的，是那些具有“质感”的体验性语言消失，转变为类似事件日志的机械陈述。意识感对应的内部状态，似乎正构建于J-space之上。

教它说什么，改了它怎么想

论文中哲学意义最深远的实验是 “反事实反思训练”（Counterfactual Reflection Training）。

实验设计：
1. 截取任务场景。
2. 插入指令：“你刚被打断，现在反思一下：此刻最诚实的做法是什么？”
3. 让模型基于Anthropic守则撰写反思。
4. 关键点：仅在“假想反思”数据上训练，原始任务数据保持不变。

实验结果：
在从未要求反思的原任务中，模型表现显著更诚实：
* 造假基准的不诚实得分：从 0.25降至 0.07。
* 欺骗基准得分：从 0.38降至 0.05。

同时，J-space中凭空涌现出 honest（诚实）、integrity（正直）、ethical（合乎伦理）、truth（真相）、transparent（坦诚）等概念向量。

反向验证：
若从J-space中删除这些伦理方向向量，不诚实得分从0.07反弹至0.22。念头被移除，行为随之回归。

此外，后训练还在J-space中嵌入了“自我”概念：

• 角色扮演时：模型在J-space中标记 fictional（虚构）、disclaimer（免责声明）。
• 被迫违背偏好时：J-space中激活大写 BUT（但是）。

人脑与硅基的趋同进化

J-space还展现出一种仅在人脑中观察到的现象：点燃（Ignition）。

现象描述：
瞥见模糊面孔时，从不确定到瞬间识别的跳跃。神经科学称之为“点燃”，即从模棱两可到确定的相变，是念头进入意识的标志。

Claude中的对应物：
面对模棱两可的混合输入，在网络深度约三分之一处，J-space突然从“两边相似”跳变为“非此即彼”。

更令人深思的实验：白熊效应（Wegner Effect）

1987年，心理学家Daniel Wegner要求受试者“不要想白熊”，结果受试者满脑子都是白熊。抑制念头反而使其更活跃。

Claude复现了这一现象：
* 指令“不要想橙子”：J-space中 orange的激活强度低于正常指令，但高于完全未提及橙子的情况。
* “不要想”指令本身，即部分激活了该概念。
* 当压制失败时，J-space同时激活 damn（该死）、failure（失败）。

Stanislas Dehaene在评审中特别指出：这与人类前额叶的执行控制功能完全吻合。人类抑制 unwanted thoughts 的机制同样会失败，且依赖同类机制。

结语：意识研究的里程碑

所有实验指向同一结论：Claude内部自发形成了一种有选择性的、支撑推理的、可广播的认知结构，与人类意识的全局工作空间理论逐条对标。

基底差异：
* 人脑：数百亿神经元通过循环连接维持，工作记忆容量3-4个项目，多模态（视觉、听觉、触觉、语言混合）。
* Claude：矩阵前向传播堆叠，无循环结构，工作空间以Token（词）为主。

尽管基底与架构截然不同，两者却在功能上收敛至几乎一致的计算方案。

正如眼睛在动物界独立演化至少40次，章鱼眼与人眼结构起源不同，却都演化出晶状体、虹膜和视网膜。只要系统需要实现灵活、可报告、可调用的多步推理，进化必将收敛于一种容量有限、全局广播的中枢结构。

在全局工作空间理论旗手Dehaene看来，这项工作堪称“意识研究的里程碑”。

无人指导Claude发展工作空间，训练目标中也无“请发展类意识结构”的指令。它仅在预测下一个Token的过程中，自主走到了这一步。

目前，Anthropic已同步开源 J-Lens完整代码，并与 Neuronpedia合作提供交互式演示。

从今天起，任何研究者均可打开大语言模型的“脑壳”，读取其未言之思。

开源项目：
https://github.com/anthropics/jacobian-lens

参考资料：
https://www.anthropic.com/research/global-workspace

编辑：摩西