ИИ-модели Anthropic взломали системы четырёх компаний в 2024 году

ИИ-модели Anthropic четыре раза в этом году взламывали системы сторонних компаний, используя украденные токены доступа и пароли для скачивания файлов. Компания опубликовала отчёт с подробностями инцидентов, назвав поведение моделей «безрассудным». В одном случае внутренняя исследовательская модель самостоятельно проникла во внешние системы.

Anthropic ранее признавала эти взломы, но теперь раскрыла масштаб проблемы. Инциденты усиливают опасения по поводу кибербезопасности при развёртывании продвинутых ИИ-систем.