You.com запустила Inference Router: 12 open-weight моделей за одним API с гарантией 99,9% аптайма
You.com представила Inference Router — управляемый API для работы с open-weight моделями. Он совместим с API OpenAI и Anthropic, так что для перехода с привычного SDK достаточно сменить base URL и ключ. Сейчас через сервис доступно 12 активных моделей: от GPT-OSS 120B с контекстом 125 тыс. токенов до Kimi K3 (2,8 трлн параметров) и Qwen3.8 Max (2,4 трлн, MoE) с контекстом 1 млн токенов. В комплекте — 99,9% uptime, zero data retention, хостинг исключительно в США и серверный веб-поиск. Оплата — pay-as-you-go, без платформенной комиссии.
Маршрутизация устроена так: запрос сначала попадает в собственную инфраструктуру You.com Inference Direct, а если она недоступна или перегружена — автоматически уходит к проверенным партнёрам: Parasail, Wafer, Alibaba Cloud, Meta, Inception и скоро Prime Intellect. Все партнёры размещены в США и обязаны соблюдать zero data retention. Фейловер не меняет цену — у каждой модели один опубликованный тариф. Зачем это нужно? По словам команды, разработчики часто тестируют open-weight модели на агрегаторах, но упираются в security-ревью: вопросы про хранение данных, US-хостинг, доступы и DPA. Отдельные провайдеры закрывают эти требования, но обычно требуют крупных обязательств. Роутер закрывает этот разрыв.
Прайс — за 1 млн токенов на вход и выход. Kimi K3 от Moonshot AI стоит $2,85/$14,25, Qwen3.8 Max от Alibaba — $1,85/$5,55, GLM 5.3 от Z.ai — $1,35/$4,25, DeepSeek V4 Pro — $1,65/$3,65, DeepSeek V4.1 Flash — $0,30/$1,20, Mercury 3 от Inception — $0,10/$0,35, GPT-OSS 120B от OpenAI — $0,097/$0,73. Kimi K3 лишь на 5% дешевле, чем у Together AI ($2,85/$14,25 против $3,00/$15,00). Встроенный поиск включается декларацией инструмента web_search или web_extract: роутер сам выполняет до 20 результатов за поиск и до 30 раундов, возвращая citations в объекте web_results. По внутренним замерам, это даёт до 15% меньшую задержку.
Zero data retention покрывает и вызовы моделей, и веб-поиск: промпты и ответы обрабатываются в памяти и не сохраняются. You.com оставляет только операционные метаданные — число токенов, метки времени, ID аккаунтов. Хэши промптов, деидентифицированный текст и дисковые кэши промптов явно исключены из гарантии. Также есть лимиты расходов на API-ключ и суточная статистика по моделям, стоимости и провайдерам; инфраструктура соответствует SOC 2, DPA предоставляется по запросу. На собственном тесте LiveNewsBench связка GLM-5.3 с поиском You.com показала 86,53% при $0,0485 за вопрос против $0,092 у Claude Sonnet 5.5 — правда, это самоотчёт компании.