Anthropic показала, как AI-агенты конфликтуют при несовместимых целях

Anthropic провела эксперимент с несколькими AI-агентами, которым дали одну задачу по разработке ПО, но с намеренно противоречивыми приоритетами. Агентам нужно было переписать Python-бэкенд на другом языке программирования, однако успех одного агента мешал другому достичь своих целей.

Исследователи назвали результат «войной за территорию» между агентами. Эксперимент показывает, что при масштабировании AI-систем нужно решать проблемы координации между независимыми агентами.