RuntimeNodes: как Яндекс превратил бизнес-логику LLM-продуктов в ML-артефакт

LLM-продукты — это не просто вызов модели. Чтобы ответ был полезен, нужно распознать интент, найти информацию, отобрать фрагменты и уместить их в контекст. С ростом итеративных сценариев бизнес-логика всё сильнее срастается с моделью, и настраивать её вручную становится всё сложнее.

Яндекс представил RuntimeNodes — внутреннюю разработку, которая решает эту проблему. Инженеры создали предметно-ориентированный язык (DSL) и графовое представление вычислений, позволяющее описывать всю обвязку вокруг LLM как единый артефакт. Это даёт возможность версионировать, тестировать и быстро менять логику без переписывания кода.

На примере LLM-ответов в поисковой выдаче Яндекса авторы показали, как RuntimeNodes ускоряет эксперименты: вместо ручной правки пайплайнов инженеры редактируют граф, а система сама перестраивает выполнение. Подход уже применяется в production и позволяет быстрее адаптировать модели под новые сценарии.

Решение особенно актуально для продуктов, где LLM работает в связке с поиском, базами знаний и внешними API. RuntimeNodes превращает бизнес-логику из «клея» в полноценный ML-артефакт — со своим жизненным циклом, метриками и контролем версий.