Почему LLM пишет гениально, но мыслит как школьник: разбор когнитивных ограничений

Автор, ежедневно делегирующий ИИ создание текстов и документации, признаёт: модели выдают настолько глупые логические ошибки, что иногда проще переписать всё вручную. В трёхнедельный отпуск он погрузился в фундаментальное устройство нейросетей с точки зрения когнитивных наук, чтобы понять, как LLM удаётся писать крутые тексты за секунды — и почему их «мышление» так ненадёжно.

Статья обещает разбор: LLM — это гениальный языковой процессор, но никудышный мыслительный движок. Автор исследует когнитивные ограничения моделей, объясняя, что их сила в генерации связного текста, а не в настоящем рассуждении. Это не технический гайд, а рефлексия практика, столкнувшегося с парадоксом ИИ.