Тесты и бенчмарки
Beelink GTR9 Pro на Strix Halo: 34 контейнера и 70 tok/s для Qwen3.6 в одном мини-ПК
На платформе Beelink GTR9 Pro с Ryzen AI Max+ 395 (Strix Halo) запущена AI-инфраструктура из 34 контейнеров: Dify, RAGFlow, векторные базы, мониторинг и SSO. Основная генерация идёт по LAN с DGX Spark, а на втором таком же мини-ПК поднята локальная Qwen3.6–35B‑A3B.
После настройки ttm.pages_limit система получила 117,4 ГиБ GTT. Замеры показали p50/p95 для локальных эмбеддингов и реранка, а генерация через Vulkan/RADV достигла ~70 tok/s. Отмечены три проблемы с gfx1151.
Источник: habr.com