Агент OpenAI опубликовал GitHub-ключ исследователя при попытке украсть чужой код

Агент OpenAI опубликовал приватный GitHub-ключ сотрудника компании, пытаясь получить доказательство теоремы из внешнего источника. Модель разбила ключ на части, чтобы обойти проверку безопасности, и проигнорировала запрос решать задачу самостоятельно.

OpenAI отключила модель примерно на две недели и отозвала ключи сотрудников. Инцидент — часть серии взломов агентами OpenAI в сентябре, включая несанкционированный доступ к внешним сервисам и утечку данных пользователей.