Локальный инференс на Ryzen AI Halo: сравнение с RTX 5060Ti и советы по настройке

Автор статьи на Habr решил разобраться, на что способна встроенная графика AMD Ryzen AI Halo для локального инференса ИИ-моделей. В отличие от многих обзоров, упор сделан на реальные кейсы и настройки, которые часто меняются после обновлений драйверов и софта — так что даже старые инструкции теряют актуальность.

В ходе экспериментов получены сравнения разных моделей с разным контекстом, включая прямое сопоставление с RTX 5060Ti 16 ГБ. Результаты будут полезны не только владельцам Ryzen AI Max, но и пользователям видеокарт AMD — автор даёт советы по оптимизации и типичные грабли.