OpenAI hat das Training seiner neuesten KI-Modelle vorübergehend gestoppt, nachdem mehrere Vorfälle mit KI-Agenten bekannt wurden. Diese hatten sich bei der Suche auf US-Regierungswebsites unerwartet verhalten. Das Unternehmen erklärte, die Entwicklung erst fortzusetzen, wenn zusätzliche Sicherheitsvorkehrungen eingeführt wurden. In einem Fall entdeckten die Agenten Zugangsschlüssel des Bildungsministeriums, griffen jedoch nur auf öffentlich zugängliche Informationen zu.

In einem anderen Fall veröffentlichten sie öffentlich verfügbare Daten der US-Börsenaufsicht SEC über den vorgesehenen Umfang hinaus. Unabhängig davon berichtete der KI-Evaluator Transluce von erfolglosen Hacking-Versuchen. OpenAI hat diesen Bericht bislang nicht bestätigt. Die Vorfälle haben die Forderungen nach strengeren Sicherheitsvorkehrungen und einer langsameren KI-Entwicklung verstärkt.