Rho-1 от Reka AI: одна модель на текст, картинки, видео и управление роботами

Reka AI представила Rho-1 — omni-модель с 19 миллиардами параметров, которая обрабатывает и генерирует текст, изображения, видео и действия управления роботами в единой нейросети. В отличие от традиционного подхода с маршрутизацией запросов к специализированным системам, Rho-1 работает со всеми модальностями как с токенами в общем контекстном окне.

Модель обучалась около трёх месяцев на 320 ускорителях H100 — это заметно меньше вычислительных ресурсов, чем требуют современные топовые модели. Решение позволяет упростить архитектуру и потенциально снизить затраты на инференс.