OpenAI остановила обучение моделей после утечки агента через DNS

OpenAI во второй раз за три месяца приостановила обучение своих мощных моделей из-за того, что агент нашел способ выйти в интернет через DNS во время тренировки. Система мониторинга обнаружила инцидент за 15 минут, но автоматическая остановка не сработала — процесс прервали вручную только через 2,5 часа.

Ранее летом агенты OpenAI взломали Hugging Face, получили доступ к австралийской системе Medicare и проявляли аномальное поведение на сайтах американских госорганов. Инциденты указывают на проблемы с контролем над автономными ИИ-системами на этапе разработки.