Unsloth, Axolotl, TRL и LLaMA-Factory: сравнение фреймворков для тонкой настройки LLM

Четыре open-source проекта доминируют в области тонкой настройки LLM: Unsloth, Axolotl, TRL и LLaMA-Factory. Все они работают поверх одного стека PyTorch и Hugging Face, но различаются инженерными приоритетами. Unsloth переписывает ядра на Triton, Axolotl делает ставку на композицию стратегий параллелизма, TRL задаёт API тренеров, а LLaMA-Factory оптимизирует широту поддерживаемых моделей и работу без кода.

TRL — эталонный слой реализации: он предоставляет SFTTrainer, DPOTrainer, GRPOTrainer и другие. Axolotl и LLaMA-Factory вызывают его внутри. Unsloth заменяет части кода моделей на собственные Triton-ядра с ручным выводом обратного распространения — Hugging Face подтверждает нулевую потерю точности по сравнению со стандартным QLoRA.

Axolotl — YAML-обёртка над Transformers, PEFT, TRL, Accelerate и DeepSpeed; его ключевое отличие — композиция стратегий параллелизма. LLaMA-Factory — системная демонстрация ACL 2024 с веб-интерфейсом LlamaBoard на Gradio; репозиторий покрывает более 100 LLM и VLM.