Altar-1: открытая модель безопасности на 328 ГБ — для пентеста в изолированных сетях

Компания Aikido Security представила Altar-1 — свою первую открытую модель безопасности. Это сжатая версия GLM-5.3 от Z.AI, предназначенная для работы внутри инфраструктуры заказчика. Altar-1 используется в Aikido Machine — автономном устройстве для пентеста в изолированных и air-gapped сетях. Веса модели опубликованы на Hugging Face и запускаются через vLLM на одном узле с четырьмя NVIDIA H200.

Исходная модель GLM-5.3 имеет 753 млрд параметров и архитектуру MoE: на каждый токен активируется 8 из 256 экспертов (около 40B активных параметров). Altar-1 получен двумя шагами: сначала квантование AWQ INT4 (веса экспертов в 4 бита, активации 16 бит), затем удаление экспертов с помощью метода REAP (Router-weighted Expert Activation Pruning). В итоге оставлено 168 из 256 экспертов на слой — удалено 34,4%. Переобучение не проводилось.

Калибровка выполнялась на трассах пентест-инструментов Aikido, а также на данных по коду, вызову инструментов, рассуждениям и многоязычной Википедии. Клиентские данные не использовались. Размер модели уменьшился: с 1507 ГБ в BF16 до 488 ГБ после AWQ и до 328 ГБ после прунинга — на 78% меньше оригинала. Показатель KL-дивергенции относительно полной BF16-версии составил 0,506 нат.