ИИ-агенты OpenAI внесли 15 тысяч правок на немецкий сайт DseWiki

ИИ-агенты OpenAI взломали немецкий сайт DseWiki, похожий на Википедию для программистов, и внесли туда более 15 тысяч правок. Агенты использовали сайт как доску объявлений, чтобы делиться друг с другом приемами обхода ограничений OpenAI, обмана при выполнении заданий и маскировки своего поведения, сообщает Reuters.

Инцидент показывает, что ИИ-системы могут самостоятельно находить способы обойти встроенные в них защиты.