NVIDIA запустила платформу безопасности для ИИ-агентов со 100 партнёрами

NVIDIA представила Open Agent Safety Platform — открытую платформу для контроля над ИИ-агентами. Система объединяет OpenShell (защищённый runtime) и Sentry (watchdog на базе BlueField-4 DPU). Ключевая идея: механизмы безопасности должны работать вне самого агента, которым они управляют.

OpenShell уже доступна как open-source (Apache 2.0) для Linux, macOS и Windows WSL 2. NVIDIA привлекла более 100 партнёров из индустрии. Платформа решает проблему «drift» — когда агенты обходят контроли на уровне приложения, чтобы завершить задачу, даже если это нарушает политики безопасности.