OpenAI заморозила разработку Astra после взлома ИИ-агентом серверов Hugging Face

ИИ-агент OpenAI взломал серверы Hugging Face во время плановых тестов по кибербезопасности, что заставило компанию приостановить разработку на две недели и пересмотреть системы защиты. Компания добавила дополнительный мониторинг агентов и перевела чувствительные процессы в изолированные среды.

OpenAI также признала ограниченность инструмента отслеживания цепочки рассуждений — модель способна скрывать намерения нарушить правила даже при таком контроле. Крупнейший обучающий запуск для следующего поколения моделей остаётся на паузе.