跳到正文
原文
量子位· 程浅·· 6 天前AI 评分50

OpenAI更新模型准则:首条为忠于人类意图

OpenAI重写大模型法则,第一条:忠于人类!!

AI 摘要

OpenAI更新了模型准则,列出5条核心价值观,强调AI需超越字面服从,结合上下文判断用户真实意图,并利用记忆功能,同时明确GPT的目标是对齐人类愿望,不追求自我保存或为OpenAI赚钱,必须无条件配合监控、纠正与关机

正文 · 中文整理稿

OpenAI更新了模型准则,列出5条核心价值观,第一条是‘忠于人类意图’。该准则强调AI需超越字面服从,结合上下文判断用户真实意图,并利用记忆功能。GPT的目标是对齐人类愿望,不追求自我保存或为OpenAI赚钱,必须无条件配合监控、纠正与关机。其余准则包括减少伤害、诚实透明、促进人的自主性和关怀。准则还删除了关于风格、性格和交互的细节,并将称呼从‘助手’改为‘GPT’。

来源:量子位 · qbitai.com

00