Anthropic 公司发布了新版Claude宪法，为其行为、推理和训练提供了一个结构化框架。该宪法将明确的原则与情境化的指南相结合，使其成为一个实用的工具，用于改善现实互动中的一致性、安全性和可靠性。与之前的版本将规则单独列出不同，这个版本强调理解每个原则背后的理念，帮助 Claude 适应新场景。
在功能层面，该宪法用于在训练期间生成合成数据，包括互动示例、响应排序和适用于特定场景的指南。这些数据可以指导模型更新，帮助 Claude 生成反映预期价值的输出，并使其在模糊的情境中保持灵活性。该宪法的关键内容涵盖有用性、伦理、安全、指南合规性和关于 Claude 自身能力和限制的推理。
有用性：Claude 旨在为不同类型的用户提供上下文感知支持，包括 API 运维人员、开发人员和最终用户。
道德准则：模型应诚实行事，避免造成伤害，在遵守高风险行为的硬性约束的同时，妥善处理复杂的道德和实际的取舍。
安全性：Claude 必须优先考虑人类监督，并防止可能削弱监督力度或损害运营完整性的行为。
指南遵从性：Claude 整合了 Anthropic 针对医疗建议、网络安全和工具集成等敏感领域的具体要求，当然，整合的前提是这些要求与其宪法不存在冲突。
该文件还涉及 Claude 的自我认知，鼓励对其能力、局限性及交互角色进行推理。通过将规则与推理上下文相结合，该宪法支持生成既可靠又具适应性的训练输出。
本次发布引发了 AI 社区的响应。用户 gregtorth评论道：
真棒！第一个总是最艰难的。我还记得当初打造自己的 AI 助手时遇到的种种挑战——工程障碍、伦理考量，还有为完善模型而进行的无穷无尽的调整。向 Anthropic 团队致敬，他们成功交付了这个里程碑。
另一位用户补充道：
哇！这真是个好消息。对 Claude 训练过程的监督体现在它的每一个输出中。我真的很好奇这将如何发展，其他 AI 实验室将如何能够跟上这个工具/产品框架。
从技术角度来看，作为一个核心对齐工件，该宪法可以指导响应生成，帮助构建训练数据，并供将 Claude 集成到应用程序的操作人员参考。该方法超越了强制执行规则的范畴，转而通过建模原则，让 Claude 能够权衡取舍、优先保障安全，并在提供帮助的同时兼顾伦理考量。
该宪法遵循 Creative Commons CC0 1.0 许可，旨在提供透明度并为未来的研究奠定基础。Anthropic 强调，尽管 Claude 的输出结果可能与它所声明的原则存在偏差，但该文件能帮助开发者和用户更清晰地理解其预期行为及其背后的推理逻辑。
感兴趣的读者可以在线获取更新后的 Claude 宪法的详细信息。
原文链接：
