Sabi 提出 RLNF:用脑电信号取代人工打分,AI 直接「读懂」你的偏好
脑机接口公司 Sabi 展示 RLNF(神经反馈强化学习),用可穿戴脑电设备采集的大脑信号代替人类评分,演示中人脸会随观看者的偏好实时变化。
过去几年,让大模型「懂人」的主流办法是 RLHF——请人给模型的回答打分,再用这些评分去训练模型。现在,一家做脑机接口的创业公司想把「打分」这一步也省掉:直接读你的大脑。
这家公司叫 Sabi,联合创始人 Rahul Chhabra 近日展示了他们称为 RLNF(Reinforcement Learning with Neural Feedback,神经反馈强化学习)的新方法:用可穿戴脑电(EEG)设备采集的大脑信号,取代人类的显式评分,作为强化学习的奖励来源。
一张会「向你靠拢」的脸
Sabi 放出的演示很直观:屏幕上是一张由 AI 生成的人脸,观看者戴着 Sabi 的设备,什么也不用说、什么也不用点,只是看着。随着时间推移,这张脸会逐渐朝着观看者「更喜欢」的方向变化。
背后的逻辑并不复杂:人在看到喜欢或不喜欢的东西时,大脑会产生不同的神经反应,模型把这些反应当作反馈信号,不断调整输出。区别在于,传统 RLHF 依赖人有意识地给出评价,而 RLNF 抓取的是更早、更直接,甚至连本人都未必能清楚表达的那一层反应。
这一方向在学术界并非全新。此前已有研究用 EEG 中的「错误相关电位」作为强化学习的隐式奖励,也有团队用 fNIRS 信号来判断智能体表现好坏。但把它装进一个面向消费者的可穿戴设备里,并用一张实时变化的人脸来讲故事,Sabi 是第一个把这件事讲得如此「可感知」的。
一顶会读心的毛线帽
Sabi 本身就是这个故事成立的前提。这家位于湾区的公司做的是非侵入式脑机接口,把高密度 EEG 传感器塞进一顶毛线帽或棒球帽里,配合自研的「大脑基础模型」,目标是把人脑中「想说的话」转成文字和 AI 指令。本月它刚完成 5000 万美元种子轮融资,由 Khosla Ventures 领投,Accel、DST Global 等跟投。
从这个角度看,RLNF 更像是 Sabi 在为自己的硬件找一个比「意念打字」更大的叙事:如果脑电信号能成为训练 AI 的奖励,那么每一个戴着 Sabi 设备的人,都是一个不需要开口的标注员。
诱人,也让人不安
RLNF 的吸引力显而易见。人工打分慢、贵、主观且容易疲劳,而大脑信号是连续的、即时的、几乎零成本的。对于审美、情绪这类本来就难以用语言描述的偏好,直接读取神经反应或许比问卷更准。
但问题同样明显。EEG 信号噪声大、个体差异大,「喜欢」和「被吸引注意」在脑电上未必分得清;把模型优化目标交给潜意识反应,也可能把 AI 推向更刺激、更上瘾的方向——这正是推荐算法过去十年走过的路。更不用说,当训练数据直接来自你的大脑时,隐私边界在哪里,目前还没有人给出答案。
一张向你靠拢的脸是一个漂亮的演示。但它离真正的大模型训练还有很长距离,Sabi 需要回答的,远不止技术问题。