OpenAI a publié le 28 septembre des lignes directrices initiales sur les dossiers de sécurité pour la formation d'apprentissage par renforcement aux frontières. Les propositions combinent des preuves sur l'alignement, le confinement et la surveillance avec des contrôles opérationnels, y compris l'examen du leadership, l'accès aux audits et les procédures de suspension des exécutions problématiques.
Le document recommande également d'enquêter sur les incidents de désalignement graves et de partager les résultats une fois les enquêtes terminées. OpenAI décrit des cas de sécurité rigoureux comme un objectif et indique que ces pratiques sont mises en œuvre et évolueront. Le champ d'application est la formation ; le déploiement nécessite une évaluation plus large. Directives officielles.