Промпт важнее модели: как 0% отправляемости превратились в 88% на одной локальной LLM

В поисках идеального промпта для сопроводительных писем автор провёл эксперимент: сравнивал, потянет ли маленькая локальная модель эту задачу или без облака не обойтись. Оказалось, что мощность модели — не главное. Решающим фактором стала инструкция: переписал промпт — и отправляемость писем взлетела с 0% до 88%.

Чтобы проверить качество, автор провёл слепой тест: рекрутёр оценил 8 сгенерированных писем. Шесть из них приняли за настоящие, написанные человеком. Это доказывает, что даже скромная локальная LLM при правильной настройке способна выдавать убедительный текст.

Вывод прост: не стоит гнаться за самыми большими облачными моделями, если не отлажен сам промпт. Инвестиция в инженерию запросов может дать больший прирост качества, чем замена модели на более дорогую.