LoRA больше не король? Hugging Face бросил вызов главному методу тонкой настройки ИИ

Команда Hugging Face бросила вызов сообществу: может ли кто-то превзойти LoRA (Low-Rank Adaptation) — самый популярный на сегодня метод parameter-efficient fine-tuning для больших языковых моделей? Соревнование проходит на платформе HF и предлагает участникам использовать любые открытые подходы, кроме самого LoRA.

Цель — показать более высокие результаты на стандартных задачах (QA, summarization, classification) при сопоставимом или меньшем количестве обучаемых параметров. Организаторы предоставили одинаковые бейзлайны и датасеты, так что всё упирается в креативность инженеров.

Победитель получит не только призовой пул, но и место в официальном репозитории Hugging Face с описанием метода. Если кто-то действительно обойдёт LoRA — это может изменить стандартный пайплайн тонкой настройки для тысяч моделей.