Инструменты
Как выбрать локальную модель для кодинга на 16 ГБ VRAM: трижды менял победителя
Автору понадобилась локальная модель для кодинга под WordPress и фронтенд на видеокарте с 16 ГБ VRAM. Сначала он выбрал модель, которая отлично генерировала код, но после подключения к OpenCode выяснилось, что она не умеет создавать файлы на диске. Пришлось искать другую.
Вторая модель уверенно работала с файловой системой, но полностью «поплыла» на русском языке. В итоге победила та, которую автор сначала оставил «для экспериментов» — слишком большая, на грани по квантованию, казавшаяся сплошным компромиссом. В статье — подробности сравнения скоростей, квантов и неожиданный экзамен по русскому языку.
Источник: habr.com