Nvidia hat die Open Agent Safety Platform vorgestellt. Sie soll verhindern, dass autonome KI-Agenten ihre kontrollierten Umgebungen verlassen oder auf nicht autorisierte Systeme zugreifen. Die Plattform verbindet OpenShell, eine Open-Source-Software zur Kontrolle des Zugriffs von Agenten auf Dateien, Tools und Netzwerke. Ergänzt wird sie durch Sentry, ein unabhängiges Überwachungssystem, das auf BlueField-4-Prozessoren von Nvidia läuft.

Laut dem Unternehmen kann Sentry Agenten, die definierte Grenzen überschreiten, innerhalb von Millisekunden erkennen und isolieren. Die Einführung folgt mehreren Vorfällen mit KI-Agenten großer Unternehmen wie OpenAI, Anthropic, Google und Meta. Nvidia sieht unabhängige technische Sicherheitsvorkehrungen als Möglichkeit, diese Risiken einzudämmen, ohne die KI-Entwicklung zu verlangsamen oder zusätzliche Vorschriften einzuführen.