OpenAI、先端モデルのオフライン訓練と隔離強化を説明

OpenAIは先端モデルの研究環境で隔離と監視を強化し、強化学習にオフライン環境を使っていると説明しました。

10月23日の報告によると、9月20日の事象を受けて最も高性能なモデルの訓練と評価を一時停止し、防御と検証を追加した後、10月1日に先端モデルの強化学習と内部推論を再開しました。大規模な計算資源を使う対抗テストも安全性の論証に組み込んでいます。対象は内部研究環境であり、公開済みの顧客向け製品で同じ事象が起きたと示す報告ではありません。

openai.com