Warhammer-LLM с нуля: токенизация Империума за свой счёт

Автор Владимир решил совместить хобби и Deep Learning: он пишет с нуля Decoder-only LLM на чистом PyTorch (почти), чтобы обучить её на лоре Warhammer 40K. Мотивация — глубже погрузиться во вселенную через собственную модель.

Первая статья цикла — о токенизации. Дальше обещает рассказать, как работают Decoder-only архитектуры, как обучить небольшую LLM и сколько времени на это ушло. Код полностью открыт, так что любой может повторить.