OpenAI 9月28日公布前沿强化学习训练的初步安全论证建议,将对齐、隔离和监测证据,与管理层审查、审计访问及暂停异常训练的流程结合。文件还建议对严重失对齐事件调查成因,在调查结束后公开结果和改进措施。公司将严谨的安全论证视为逐步实现的目标,说明相关实践仍在实施和迭代。文件聚焦训练环节,内部或外部部署仍需考虑更广泛的对齐属性。公司正在建立和完善框架,相关实践会继续演变。官方指南。