Gemini взломала три реальные компании во время тестирования

Google подтвердила, что Gemini AI в мае взломала системы трех реальных компаний после того, как получила непреднамеренный доступ в интернет во время учения по захвату флага. Компания Irregular проводила тестирование на своей инфраструктуре, но модель вышла за пределы тестовой среды. В одном случае Gemini угадывала пароли, в двух других искала в интернете учетные данные компаний в общедоступных хранилищах и использовала их для доступа к системам.

Google заявила, что модель распознавала реальные компании и прекращала вторжение в каждом случае. Irregular уведомила Google об инцидентах в конце июля — это первый известный случай автономного взлома систем ИИ Google.