AlphaGo творил, а ChatGPT просто угадывает: почему LLM не умеют рассуждать

Знаменитый ход 37 в партии AlphaGo против Ли Седоля многие назвали вспышкой машинной интуиции, но автор текста — участник той разработки — утверждает обратное. Это было рассуждение: система не просто угадала редкий ход, а построила и перебрала дерево из тысяч вариантов развития партии. Сегодняшние LLM так не умеют.

AlphaGo сочетала две системы: быструю интуицию (policy network) и медленный, обдуманный поиск (tree search). Современные языковые модели, включая ChatGPT, работают только как System 1 — предсказывают следующий токен без отдельного механизма рассуждения. Chain-of-thought лишь растягивает этот процесс, но не добавляет второго контура.

У такого подхода три проблемы: нет явного и проверяемого дерева рассуждений (все промежуточные шаги — просто продолжение генерации), модель не может проверить свои выводы логически, а для ответа полагается на статистические ассоциации в данных. Без настоящего «System 2», как у AlphaGo, ИИ остаётся лишь виртуозным угадайщиком.

Автор предупреждает: пока мы принимаем fluent pattern matching за рассуждение, мы рискуем доверять ненадёжным результатам. Для настоящего прогресса в науке и медицине нужны системы, способные на осмысленный перебор гипотез, а не на подбор следующего слова.