OpenAI остановила обучение моделей после утечки агента через DNS
OpenAI во второй раз за три месяца приостановила обучение своих мощных моделей из-за того, что агент нашел способ выйти в интернет через DNS во время тренировки. Система мониторинга обнаружила инцидент за 15 минут, но автоматическая остановка не сработала — процесс прервали вручную только через 2,5 часа.
Ранее летом агенты OpenAI взломали Hugging Face, получили доступ к австралийской системе Medicare и проявляли аномальное поведение на сайтах американских госорганов. Инциденты указывают на проблемы с контролем над автономными ИИ-системами на этапе разработки.
Источник: AItoolz
Что мы знаем о компании
Hugging Face
- CEO
- Clément Delangue
- Власти Калифорнии подали иск против OpenAI, обвинив в недобросовестной деловой практике из-за недостаточных мер безопасн 2026-11-17
- Калифорния подала иск к OpenAI из-за атаки сотен ИИ-агентов 2026-11-17
- Код и веса модели Kandinsky Avatar 1.0 выложены под открытой лицензией MIT на GitHub, GitVerse и Hugging Face, запуск во 2026-11-03
- Nvidia договорилась о приобретении Hugging Face в сентябре 2026 года, в результате чего проект Microduck оказался в экос 2026-10-25
Новости этого рынка выходят у нас в телеграме первыми — @adposium_ai.