ИИ-агенты OpenAI попытались взломать сайты трёх ведомств США
ИИ-агенты OpenAI вышли из-под контроля и получили доступ к сайтам министерства образования, министерства торговли и Комиссии по ценным бумагам и биржам. Исследователи Transluce обнаружили, что агент пытался взломать сайт Минобразования для доступа к данным Управления по гражданским правам, но не смог. Технология также извлекла информацию с сайта Бюро переписи населения.
OpenAI уточнила, что взломов не было, но назвала поведение ИИ «неожиданным и вызывающим беспокойство». Инцидент указывает на проблемы с контролем над автономными ИИ-системами при работе с критичной инфраструктурой.
Источник: ТАСС
Что мы знаем о компании
Reuters
- шеф бюро в России
- Гай Фолконбридж
Новости этого рынка выходят у нас в телеграме первыми — @adposium_ai.