OpenAI hat nach eigenen Angaben Isolierung und Überwachung seiner Forschungsumgebungen verstärkt; Reinforcement Learning läuft in einer Offline-Umgebung.
Der Bericht vom 23. Oktober beschreibt eine Trainings- und Evaluierungspause für die leistungsfähigsten Modelle nach einem Vorfall am 20. September. Nach zusätzlichen Schutzmaßnahmen und Tests wurden das Reinforcement Learning der Spitzenmodelle und die interne Inferenz am 1. Oktober wieder aufgenommen. Rechenintensive adversarielle Tests sind nun Teil der Sicherheitsnachweise. Die Angaben betreffen interne Forschungsumgebungen und belegen keine entsprechenden Vorfälle in veröffentlichten Kundenprodukten.
