Пишем мини-LLM на чистом Node.js: нейроны, автоград и self-attention без фреймворков

На Habr вышла подробная статья-туториал, в которой автор шаг за шагом строит миниатюрную языковую модель на чистом Node.js. Никаких готовых ML-фреймворков — только нативный JavaScript: нейроны, автоград, эмбеддинги, механизм самовнимания (self-attention), полносвязная сеть (FFN) и обратное распространение ошибки с SFT.

Особенность подхода — полная прозрачность: можно наблюдать, как отдельные веса и целые матрицы изменяются в процессе обучения. Это не новая GPT и не продакшен-решение, а отличный способ разобраться в устройстве LLM изнутри, не уходя в дебри Python-экосистемы.

Материал будет полезен разработчикам, которые хотят понять механику работы языковых моделей на практике, не отвлекаясь на сложные инструменты. Код полностью воспроизводим и подходит для изучения.