VLA на гуманоиде: задержка 0,84 секунды и китайская документация

Год назад на проекте гуманоида с Jetson Orin на борту автору задали вопрос: можно ли запускать VLA-модель локально, без сети? VLA берёт кадр и текст, выдаёт команды на приводы. После изучения документации, тикетов PyTorch и статей он пересчитал: теоретически да, но от кадра до движения — 0,84 секунды. За это время робот упадёт, а пользователь решит, что система зависла.

После этого случая к автору не раз обращались за помощью в проектировании — от простой детекции на 30 FPS на плате за $10 до передовых LLM на устройстве. Проблема в том, что пиковые тераоперации из даташита плохо коррелируют с реальной задержкой от кадра до движения. Нужна документация (часто китайская, приходится переводить) и подробные инженерные расчёты.