NVIDIA запустила платформу контроля над автономными ИИ-агентами

NVIDIA представила Open Agent Safety Platform — открытую систему для контроля действий автономных ИИ-агентов на всех этапах от тестирования до запуска. Платформа включает два инструмента: OpenShell изолирует агента и ограничивает доступ к данным и сети, Sentry отслеживает действия на уровне оборудования и может остановить нарушителя за миллисекунды.

К проекту уже присоединились более 100 компаний, включая Anthropic, Microsoft и Cisco. Михаил Васильев, руководитель департамента внедрения AI-решений Альфа-Банка, отметил, что такой слой безопасности был необходим по мере роста самостоятельности ИИ-агентов.