Исследователи взломали инфраструктуру OpenAI через уязвимость Discourse

Специалисты Hacktron AI с помощью Claude получили доступ к аккаунту сотрудника OpenAI и внутренней инфраструктуре компании через уязвимость в сервисе Discourse. Атака началась 23 июля — исследователи обнаружили ошибку в форуме OpenAI, но Claude первой версии не смог создать рабочий код для её эксплуатации. После выхода Opus 5 на следующий день модель нашла способ использовать уязвимость и получить токены аутентификации.

Часть токенов работала для ChatGPT-аккаунтов сотрудников и давала доступ к GitHub и внутреннему репозиторию Monorepo с алгоритмическими разработками. Исследователи сообщили об уязвимости в программу поиска ошибок OpenAI и остановили взлом.