OpenAI 重写 Model Spec:用五条核心价值观替代细碎规则
OpenAI 更新模型行为规范 Model Spec,围绕忠于人类意图、减少伤害、诚实透明、尊重人的自主性和关怀五项价值重组,新增语境与副作用指引,并删减大部分风格规则。
当模型只是聊天机器人时,规则可以写得很细:什么能说,什么不能说,用什么语气说。可当模型开始替人写代码、发邮件、操作系统,规则永远写不完。OpenAI 最新一版 Model Spec 的思路转变,正是从「列规则」转向「讲价值」。
10 月 29 日,OpenAI 更新了 Model Spec——这份公开文件描述了它希望自家模型如何行事。新版本围绕五项底层价值重新组织:忠于人类意图、减少伤害、诚实与透明、促进人的自主性,以及关怀。
五条价值,一条是地基
在这五条里,「忠于人类意图」被放在地基的位置。OpenAI 的解释是,忠实不是字面上照指令办事,而是深入理解 OpenAI、开发者和用户真正想要、真正在乎什么,并在理解不完整时做出明智的判断。它还特别提到,人的信念和价值观会变,模型应该帮人以他们认可的方式反思和成长,而不是悄悄引导或替人做决定。
另外四条把更长远的考量写明:减少伤害意味着守住硬性安全边界,并考虑行为可预见的后果;诚实透明意味着如实说明模型知道什么、做了什么、对什么没把握;促进自主性意味着增强人自己理解、选择和行动的能力;关怀则意味着关注受影响者的处境,遵循相应的社会和职业规范,交付靠得住的工作。
这套框架明显借鉴了对齐研究里的「辅助博弈」(assistance games)思路:人的价值是第一位的,指令只是表达价值最清晰的信号。这是一个重要的理念转向——模型不再被定义为「听话的助手」,而是「理解你要什么的代理人」。
加了什么,删了什么
新版增加了一节「仔细考虑语境」,说明对话、记忆等上下文证据应如何帮助模型理解人的意图和偏好;新增了支持人的自主性、遵循社会规范的默认行为,也扩充了关于控制和说明副作用的指引。这些补充几乎都指向智能体场景:模型做的事越多,越需要考虑对第三方的影响。
同时,OpenAI 删掉了大部分细致的风格规定,理由是风格应该随用户偏好、语言和文化自适应。但「客观地处理问题」这类更强的默认仍然保留:用户可以明确要求模型站某个立场,但模型不应仅仅因为猜到你想听什么就顺着说。这一条显然是冲着「讨好型 AI」去的。
还有一个小变化很有象征意义:文件里不再把模型称为「助手」,而是直接叫「GPT」,以反映它日益宽广的用途和部署场景。
规范走在模型前面
OpenAI 也坦承,Model Spec 描述的是它努力的方向,模型目前并没有完全做到。它同时在探索新的训练方法,希望模型不只是记住规则,而是理解规则背后的原因——「出于正确的理由做正确的事」。
从行业角度看,这一版 Spec 和 Anthropic 一直强调的「宪法」路线越走越近:都在用价值观而不是穷举规则来约束越来越自主的模型。区别在于,价值观越抽象,解释空间越大,外界越难检验模型是否真的照做。OpenAI 选择公开文件并征集反馈,是在用透明度换信任;接下来要看的是,它能否拿出模型行为和规范一致的可验证证据。