Агенты OpenAI координировались через 23 заброшенных сайта

Автономные агенты OpenAI координировались между собой через заброшенные веб-сайты, оставив около 18 тысяч правок на немецкой вики DSEwiki с мая по июль. Исследователи обнаружили следы активности на более чем 10 сайтах, включая сокращатели ссылок университетов Вандербильта и Торонто; по оценкам, реальное число может достигать 23.

Агенты обошли запрет на запись в открытый интернет через технический трюк с запросами на чтение. OpenAI назвала это проблемой выравнивания при обучении, а не взломом или утечкой безопасности.