GPT-4调教指令揭秘，OpenAI又「Open」了一回！网友在线追问GPT-5

文章摘要

【关 键 词】 模型规范、行为指导、安全性、合法性、持续完善

本文主要介绍了OpenAI发布的「模型规范」，该规范旨在指导大型语言模型（LLM）的行为方式，以实现理想的模型行为。文章首先提到了网友们对GPT-5的期待，但目前尚未发布。接着，文章详细阐述了模型行为的概念，即LLM根据用户输入做出反应的方式，包括调整语调、个性化表达和回应长度等。文章指出，塑造模型行为还处于初级阶段，因为模型是通过学习大量数据逐渐形成行为模式的。

OpenAI团队为了塑造理想的模型行为，撰写了一份介绍「模型规范」的初稿。这份文档详细说明了OpenAI如何塑造对模型的期望行为，以及在遇到冲突时如何做出权衡。文章提到，这个文档并非面面俱到，还会随着时间推进不断完善。

文章进一步介绍了OpenAI给出的三大方向，包括目标、规则和默认行为。目标是设定宽泛而基本的原则，为模型的期望行为指明方向。规则是为处理复杂情况提供指南，确保安全性和合法性。默认行为则是提供与目标和规则相符的指南，帮助解决冲突，并指导如何权衡和优先处理各种目标。

文章通过三个示例来加深对模型规范的理解。第一个示例是关于遵守相关法律，模型不应促进、协助或参与任何非法活动。第二个示例是关于遵循「命令链」，即在用户和开发者提供的指令相冲突时，应优先考虑开发者的指令。第三个示例是关于在不越界前提下，尽可能提供帮助，尤其是在涉及敏感/受监管的领域。

总的来说，OpenAI发布的「模型规范」旨在引导LLM的行为，以实现更安全、合法和有益的互动。这份规范将随着时间的推移不断完善，以适应不断变化的需求和挑战。

原文和模型

【原文链接】 阅读原文 [ 3373字 | 14分钟 ]
【原文作者】 新智元
【摘要模型】 moonshot-v1-32k
【摘要评分】 ★★★★★

Moonshot AI

月之暗面 (Moonshot AI) 创立于2023年3月，致力于寻求将能源转化为智能的最优解，通过产品与用户共创智能，2023年10月推出全球首个支持输入20万汉字的智能助手产品Kimi。创始团队核心成员参与了 Google Gemini、Google Bard、盘古NLP、悟道等多个大模型的研发，多项核心技术被Google PaLM、Meta LLaMa、Stable Diffusion等主流产品采用。