Яндекс ускорил эксперименты с LLM в поиске через граф-вычисления

Яндекс опубликовал на Хабре статью о RuntimeNodes — системе для ускорения работы с LLM-продуктами в поисковой выдаче. Инженер ilnurKh рассказал, как команда решила проблему срастания бизнес-логики с моделью: они представили вычисления в виде графа и создали собственный DSL.

Это позволило работать с бизнес-логикой как с ML-артефактом и быстрее итерировать эксперименты. По словам автора, сложность растёт по мере перехода к итеративным сценариям, где нужно распознавать интент, искать информацию и обрабатывать ответы модели.