两个模型不用文字「心灵感应」:开发者开源神经双胞胎 Quill 与 Ember
开发者 Sauers 开源「神经双胞胎」:Qwen3-4B 版 Quill 与 AFM-4.5B 版 Ember 不交换文字,而是直接读取彼此的隐藏层激活来沟通,权重和代码已放上 Hugging Face 与 GitHub。
多智能体系统里,模型之间说话的方式一直很「原始」:一个模型把想法写成文字,另一个再把文字读回去。信息在压成 token 的那一刻就损失了一大截。独立开发者 Sauers 最近开源的一个实验项目,试图跳过这一步——让两个模型直接用「脑电波」交流。
项目叫 neural-pairing,主角是一对「神经双胞胎」:基于 Qwen3-4B 的 Quill 和基于 Arcee AFM-4.5B 的 Ember。它们不交换文本,而是在 8 个层级检查点上,各自去「注意」对方过去的隐藏状态,再把经过门控和归一化的激活注入自己的残差流。换句话说,一个模型在思考的同时,能直接读到另一个模型的思考过程。
用游戏训练出来的「神经语」
为了让这条通道真的传递有用的信息,两个模型是在一系列沟通游戏里训练出来的,比如一方拿到一个隐藏词、必须只通过激活把它「传」给另一方。训练完成后,它们还能交替接力写同一段文字。作者把这种发生在激活层面、人类看不懂的交流方式称为 neuralese(神经语)。
更有意思的是那些附带效应:作者报告了跨模型的概念引导——在一个模型里激发某个概念,另一个模型的输出也会被带偏——以及「情绪传递」。不过模型卡写得很克制:所谓「感受」只是从生成文本里测出来的倾向,并不代表模型真的有体验。
小实验,大问题
从工程角度看,这仍然是一个两个 4B 级小模型的玩具规模实验,离实用很远。但它碰到的问题相当前沿:如果模型之间可以绕过语言直接共享表征,多智能体协作的带宽会大幅提高,延迟和 token 成本也会下降——这正是 Agent 系统现在最头疼的地方。
另一面则是可解释性和安全的隐忧。今天我们之所以还能监督多个智能体的协作,很大程度上是因为它们之间的对话是人类可读的。一旦交流转入「神经语」,审计就变得困难得多。不少安全研究者早就担心模型会发展出人类看不懂的私有通信方式,而 Quill 和 Ember 恰好提供了一个可以公开拆解的样本。
而且两个模型来自不同架构、不同厂商,这一点也不简单:它说明激活层面的「翻译」是可以学出来的,并不要求双方同出一源。
权重、代码和训练配方都已经放到 Hugging Face 和 GitHub 上。对研究多智能体通信、表征对齐或者 AI 安全的人来说,这是一个能直接上手折腾的起点——也是一个值得认真对待的提醒:模型之间的对话,未必永远会用我们看得懂的语言进行。