SLM против LLM: где малые языковые модели выигрывают, а где пока пасуют

Малые языковые модели (SLM) всё чаще привлекают внимание: при скромных вычислительных затратах они демонстрируют результаты, близкие к крупным LLM. Однако за кажущейся простотой скрывается ряд нюансов — от специфики обучения до узкой применимости.

SLM действительно хороши в конкретных, чётко очерченных задачах: классификация текста, извлечение сущностей, простые диалоги. Но на сложных рассуждениях, генерации длинных связных текстов и задачах, требующих широкого контекста, они пока уступают большим моделям. Кроме того, их легче дообучать и развёртывать на периферийных устройствах.

Авторы статьи приходят к выводу, что SLM вряд ли станут полноценной заменой LLM в обозримом будущем. Скорее, они займут свою нишу — там, где важны скорость, дешевизна и автономность, а не максимальное качество ответа.