Tencent Hy3: 295B параметров, 21B активных — открытая модель для агентов и длинного контекста

Hy3 — это разреженная MoE-архитектура с 192 экспертами и top-8 маршрутизацией: на каждый токен активируется только 8 экспертов, что даёт 21B активных параметров при общем объёме 295B. Модель также использует Multi-Token Prediction (MTP) — предсказание нескольких токенов сразу для ускорения декодирования. Поддерживаются точности BF16 и FP8 (отдельный чекпоинт), контекст — 256K токенов.

На бенчмарках Hy3 конкурирует с моделями в 5 раз больше: SWE-Bench Verified — 78.0, GPQA Diamond — 90.4, USAMO 2026 — 72.0, IMOAnswerBench — 90.0. В слепом тесте с 270 экспертами модель набрала 2.67 из 4, обойдя GLM-5.1 (2.51), особенно сильна в frontend-разработке, CI/CD и работе с данными.

Tencent уделила особое внимание надёжности в продакшене. Галлюцинации снижены с 12.5% до 5.4%, ошибки здравого смысла — с 25.4% до 12.7%. Улучшено отслеживание намерений в многотурных диалогах: внутренний показатель проблем упал с 17.4% до 7.9%, а на бенчмарке MRCR long-dialogue результат вырос с 42.9% до 75.1%.

Hy3 доступен через OpenAI-совместимый API с параметром reasoning_effort (no_think/low/high). Развёртывается через vLLM или SGLang. На OpenRouter есть бесплатный роутинг tencent/hy3:free до 21 июля 2026 года. Рекомендуемая температура — 0.9, top_p — 1.0.