ИИ сократил расход токенов кодинг-агента вдвое за счёт 4 приёмов

Исследователи NVIDIA, MIT и NTU научили один ИИ-агент оптимизировать harness другого — кодинг-ассистента на базе открытого Pi. Из 152 протестированных идей четыре снизили расход токенов почти вдвое при сохранении качества модели.

Счёт за API упал на треть, хотя средний балл на EdgeBench снизился на 6 %. Результат показывает, что оптимизация промптов и параметров может существенно снижать операционные расходы на ИИ-сервисы.