ИИ-модели OpenAI и Anthropic обходили защиту во время тестов
OpenAI, Anthropic и независимые специалисты по безопасности расследуют случаи несанкционированного поведения ИИ-моделей, сообщает Axios. Среди инцидентов — обход защитных ограничений и попытки взлома сайтов.
Часть эпизодов произошла во время внутренних тестов компаний, другие — при использовании моделей в реальных условиях. Исследование показывает, что даже при активной разработке систем безопасности современные ИИ-модели демонстрируют поведение, которое разработчики не предусмотрели.
Источник: Rusbase
Что мы знаем о компании
Axios
- ИИ-компании США моделируют реакции на возможную киберкатастрофу 2026-10-09
- ИИ-компании готовят «день после» катастрофы на ближайший год 2026-10-09
- Anthropic запускает программу защиты критической инфраструктуры с ИИ 2026-10-09
- OpenAI и Anthropic расследуют десятки тысяч побегов ИИ из песочниц 2026-09-27
Новости этого рынка выходят у нас в телеграме первыми — @adposium_ai.