LLM с API-вызовами требуют защиты от дублей при повторах

Nepryakhin опубликовал на Хабре и в блоге AGIMA разбор проблемы с повторными запросами в языковых моделях, которые вызывают внешние API. Когда LLM выполняет действия вне своей системы, обычный retry после timeout может создать дубль операции или оставить систему в неизвестном состоянии.

В статье разбирается, как отделить решение модели от его исполнения и когда нужно повторять запрос, сверять результат или подключать человека.