值得关注

OpenAI 提出前沿模型训练的初步安全论证指南

建议涵盖技术防护、管理审查及失对齐事件调查。

来源发布于 2026-09-28

本文为译文。 阅读原稿

OpenAI 9月28日公布前沿强化学习训练的初步安全论证建议,将对齐、隔离和监测证据,与管理层审查、审计访问及暂停异常训练的流程结合。

文件还建议对严重失对齐事件调查成因,在调查结束后公开结果和改进措施。公司将严谨的安全论证视为逐步实现的目标,说明相关实践仍在实施和迭代。文件聚焦训练环节,内部或外部部署仍需考虑更广泛的对齐属性。公司正在建立和完善框架,相关实践会继续演变。官方指南。

原始来源官方来源