Инструменты
Muse Glimmer 30B: запускаем локальную LLM на MacBook Air без боли
Если вы когда-нибудь терялись на Hugging Face, глядя на десятки версий одной и той же модели, и не понимали, чем DFlash отличается от обычной квантизации — этот материал для вас. Muse Glimmer 30B обещает стать лучшим поводом наконец разобраться и запустить LLM локально.
Главный плюс — модель работает даже на MacBook Air, без мощной видеокарты и сложных настроек. Это отличный способ погрузиться в мир локального ИИ: понять, как выбирать версию модели, что такое квантизация и почему одна и та же нейросеть лежит в десяти репозиториях от разных авторов.
Источник: habr.com