Инструменты
DSpark на двух DGX Spark: портировали сами, нашли баг в одну строку и заново перемерили бенчмарки
DeepSeek представил DSpark — спекулятивный декодер для модели V4. В конце июня 2026 года для аппаратной платформы GB10 (DGX Spark) не было рабочего публичного пути, поэтому автор решил портировать его самостоятельно. В процессе обнаружился унаследованный баг длиной в одну строку, который убивал качество драфта.
После исправления автор снял профиль своего стенда и получил бенчмарки. Затем комьюнити выложило рецепт, который работал вдвое быстрее. Воспроизведя его, автор не стал гнаться за цифрой, а замерил то, чего в паблике не нашёл: кривую деградации до реальных 1 млн токенов, механизм выигрыша NVFP4 и петли когерентности на глубине. Также приведены три негативных результата.
Источник: habr.com