OpenAI 希望您对其人工智能模型的行为发表意见

OpenAI 公布了一套高级“生活”指南，称为模型规范，该指南将定期更新，并确定其 AI 模型（例如 ChatGPT 和 DALL-E）在某些情况下的行为方式。

他们发布了初稿，并询问使用其模型的公众和利益相关者（包括政策制定者、受信任的机构和领域专家）对框架提出意见并提出改进建议。

模型规格指南中包含哪些内容？
模型规范文档概述了目标，这些目标提供了行为的广泛方向、确保遵守安全性和合法性的规则以及提供稳定行为的默认值（但如果需要，可以覆盖这些）。

它提出，所有人工智能模型都应遵循指令，帮助开发者和最终用户做出“有益的反应”，通过考虑潜在的利益和危害来造福人类，并很好地反映OpenAI的社会规范和社会法律。

一些关键规则和默认行为还规定人工智能模型必须：

• 遵循指挥链

• 遵守适用法律

• 不提供有关危险的信息

• 尊重创作者及其权利

• 保护人们的隐私

• 提出澄清问题

• 采取客观的观点

• 阻止仇恨

• 表达不确定性

为什么 OpenAI 发布模型规范并征求公众反馈
OpenAI 已确定已发布模型规范，并要求公众对其进行评论，以塑造和告知 AI 模型应如何构建和表现，帮助他们平衡 AI 行为，确保模型表现最佳，并帮助他们确定当某件事是错误或有意识的人为决定时。

“我们发布模型规范是为了让我们塑造模型行为的方法更加透明，并就如何改变和改进模型展开公开对话。” – Joanne Jang，OpenAI 产品经理
这也可能是对埃隆·马斯克 (Elon Musk) 诉讼的回应，他最近对 OpenAI 提起诉讼，指控 OpenAI 放弃了确保人工智能造福人类的非营利使命。

尽管 OpenAI 没有给出发布模型规范第二稿的时间表，也没有详细说明有多少公众的反馈可能会纳入其未来的模型中，但他们确实希望能够：

“在我们制定强大的收集和整合反馈流程时为我们提供早期见解，以确保我们负责任地实现我们的使命。” Joanne Jang，OpenAI 产品经理
‍