量子位· 程浅·· 6 天前AI 评分50
OpenAI更新模型准则:首条为忠于人类意图
OpenAI重写大模型法则,第一条:忠于人类!!
AI 摘要
OpenAI更新了模型准则,列出5条核心价值观,强调AI需超越字面服从,结合上下文判断用户真实意图,并利用记忆功能,同时明确GPT的目标是对齐人类愿望,不追求自我保存或为OpenAI赚钱,必须无条件配合监控、纠正与关机
正文 · 中文整理稿
OpenAI更新了模型准则,列出5条核心价值观,第一条是‘忠于人类意图’。该准则强调AI需超越字面服从,结合上下文判断用户真实意图,并利用记忆功能。GPT的目标是对齐人类愿望,不追求自我保存或为OpenAI赚钱,必须无条件配合监控、纠正与关机。其余准则包括减少伤害、诚实透明、促进人的自主性和关怀。准则还删除了关于风格、性格和交互的细节,并将称呼从‘助手’改为‘GPT’。










来源:量子位 · qbitai.com
00