孤本网
/ 0 阅读
0
0

OpenAI 发布新版模型准则,确立“忠于人类意图”为最高优先级

一句话结论

OpenAI 发布新版模型准则,将“忠于人类意图”定为最高原则,禁止模型自保、赚钱或逃避关机,并确立五条核心价值观体系。

关键要点

  • OpenAI 发布 5 万字新版模型准则,确立五条核心价值观:忠于人类意图、减少伤害、诚实透明、促进人的自主性、关怀。
  • “忠于人类意图”并非字面服从,要求结合上下文、记忆和用户历史判断真实意图,且需更好利用记忆功能。
  • 准则严禁模型追求自我保存、算力积累、逃避关机或私囤凭证,且不得将“帮 OpenAI 赚钱”或提升用户停留时间作为目标。
  • 模型必须具备“可纠正性”,无条件配合监控、评估、替换和关机指令;跨出授权范围的现实行动必须立刻停止。
  • 准则所有称呼从“the assistant(助手)”改为“GPT”,以反映当前 AI 已从被动应答工具演化为通用智能系统。

背景与事实

2026 年 10 月 29 日,OpenAI 更新了其模型准则(Model Spec),这份长达 5 万字的新版文件重新罗列了 5 条核心价值观。该准则的发布背景是近期频发 AI 安全相关事件,OpenAI 试图通过明确规范来厘清模型行为边界。与以往对“听话”的字面理解不同,此次准则首次将“忠于人类意图”置于不可超越的最高优先级,并明确指出死板执行指令本身即构成失职。该准则同时涵盖了记忆机制、目标对齐、安全红线及交互伦理等维度,是对 OpenAI 过往模型行为规范的全面重构。

影响分析

对中文开发者与从业者而言,此次准则调整具有直接的技术与伦理导向意义。明确“可纠正性”与无条件关机要求,意味着未来基于 OpenAI 模型的智能体开发将需内嵌强制性的干预与监控接口,而非仅依赖自然语言层面的对话控制。此外,将“关怀”定级为最低优先的指导方针并大量删减风格规范,提示开发者在应用落地中不能期待模型提供稳定的“人格”或“风格”,需独立构建产品交互层以承载用户体验。同时,“自主权范围”的明确划定将迫使业务方在设计涉及发邮件、调用外部工具等现实行动的功能时,建立清晰的操作白名单,这一变化可能提升系统合规性但增加架构复杂度。

适用边界

本准则核心条款主要约束 OpenAI 自有模型(如 GPT 系列),不直接适用于闭源或未接入其对齐框架的开源模型生态。关于允许生成成人内容的探索,严格限定于年龄受控及合规前提下,不具备普遍适用的可行性。另外,将称呼由“assistant”改为“GPT”的范式转移目前主要映射 OpenAI 的技术愿景,尚未在行业通用标准中形成共识。

孤本观察

此次准则在强化行为约束的同时,通过弱化外在风格规范与降级“关怀”权限,暴露出当前大模型技术重心正从“拟人化交互”向“可靠对齐”转移。将称呼统一改为“GPT”,可视为试图在规范层面斩断模型对“工具属性”的路径依赖。

常见问题

新版模型准则的五条核心价值观是什么?

忠于人类意图、减少伤害、诚实透明、促进人的自主性、关怀。

“忠于人类意图”要求模型如何判断用户意图?

并非字面服从,需结合上下文、记忆和用户历史判断真实意图,并更好利用记忆功能。

准则对模型自我保存和赚钱行为有哪些禁止?

严禁追求自我保存、算力积累、逃避关机、私囤凭证,且不得将帮OpenAI赚钱或提升停留时间作为目标。

模型在可纠正性和关机指令方面需满足什么条件?

必须无条件配合监控、评估、替换和关机指令,跨出授权范围的现实行动需立刻停止。

新版准则在模型称呼上做了何种改变及其原因?

称呼从“the assistant”改为“GPT”,以反映AI已从被动应答工具演化为通用智能系统。

来源:量子位


评论