Tencent выпустила Hy3: 295 млрд параметров, а активно — 21 млрд. Конкурирует с моделями в 5 раз больше
Компания Tencent выпустила открытую модель Hy3 с 295 миллиардами параметров. Она построена на архитектуре Mixture-of-Experts (MoE): из всего объёма в любой момент времени задействовано только 21 миллиард параметров. Такой подход позволяет резко экономить вычислительные ресурсы без потери качества.
По заявлениям Tencent, Hy3 по производительности не уступает моделям, которые в 2–5 раз больше по размеру. При этом галлюцинации снижены вдвое — до 5,4 процента. Модель распространяется как open-source, что открывает доступ к мощной MoE-архитектуре для сообщества.
Hy3 — очередной пример того, как MoE-подход помогает совмещать высокое качество с эффективностью. Для Tencent это также шаг в закреплении на рынке открытых ИИ-моделей, где уже сильны конкуренты вроде Qwen и DeepSeek.