Mac mini M4: замеряем реальную скорость генерации токенов

Владелец сервиса аренды Mac поделился практическими замерами скорости генерации токенов на Mac mini M4. В его распоряжении оказалось много одинаковых машин, что позволило получить воспроизводимые результаты без случайных колебаний.

В статье подробно описана методика тестирования, а сами данные выложены в открытый доступ по лицензии CC BY. Материал будет полезен всем, кто оценивает Mac mini M4 как платформу для локального запуска LLM и инференса.