Нейросеть — плохой калькулятор, и это не баг

Языковые модели (LLM) часто ошибаются при умножении многозначных чисел — дают верные первые и последние цифры, а середину «выдумывают». Это не баг, а фундаментальная особенность: трансформер порождает текст, похожий на правильный ответ, опираясь на статистику обучающих данных, а не на процедуру вычисления. Для коротких чисел (например, 7×8) примеров в данных много, поэтому ответ точный, но с ростом разрядности статистика иссякает, и модель начинает правдоподобно продолжать, ошибаясь в середине.

Проблема хорошо известна, и индустрия решает её не изменением архитектуры моделей, а подключением внешних инструментов — калькуляторов, кода или цепочек вызовов (chain-of-thought, tool use). То есть ожидать от LLM арифметической точности так же наивно, как ждать от калькулятора написания стихов.