AWS выпустила Strands Decider 2B — open-source модель, которая не генерирует текст, а выбирает вариант за 115 мс

AWS Strands Labs выпустила Strands Decider 2B — открытую decision-модель, которая не генерирует текст, а принимает решение. Она читает состояние и типизированные вопросы, после чего возвращает выбор из N вариантов, вероятность «да/нет» или оценку по шкале — и всё это с калиброванной уверенностью. Модель содержит 1,9 млрд параметров и работает локально: на CPU, потребительской видеокарте или Apple Silicon.

Архитектурно это LLM без «рта»: берётся Qwen3.5-2B-Base, убирается языковая голова, а вместо неё ставится указательная голова на ~1 млн параметров. Она сравнивает скрытое состояние на позиции с состоянием на последнем токене каждого варианта ответа. Один прямой проход — и результат готов, без цикла декодирования. Это делает модель дешёвой: состояние читается один раз, а каждый дополнительный вопрос добавляет только свои токены.

Strands Decider поддерживает три типа вопросов: choice (выбор из N), noul (вероятность «да/нет» от 0 до 1) и score (оценка по упорядоченной рубрике). Разработчики прямо пишут, что модель слабее reasoning-моделей на сложных задачах и не подходит для кодинга, чатов или суммаризации. Зато она подходит для локального и self-hosted использования: веса лежат на Hugging Face под Apache-2.0, а pip install strands-decider даёт CLI и HTTP-сервер. Правда, сервер по умолчанию слушает 127.0.0.1 без аутентификации, так что для продакшена нужен свой слой авторизации. Готового хостинг-провайдера для неё пока нет.