DeepMind: языковые модели не способны на научные революции — нужны мир-модели

Том Захави из Google DeepMind опубликовал позиционную статью «LLMs can’t jump», в которой доказывает, что современные языковые модели принципиально не способны совершить научную революцию. По его мнению, им не хватает ключевого когнитивного механизма, который позволяет выходить за пределы обучающих данных и генерировать действительно новое знание.

В качестве альтернативы Захави предлагает мир-модели (world models) — системы, которые строят внутреннее представление о причинно-следственных связях в окружающей среде. Такие модели могли бы не просто предсказывать следующее слово, а имитировать физические процессы, планировать эксперименты и делать открытия на основе собственных «мысленных» экспериментов.

Статья вызвала дискуссию в сообществе: если LLM — это лишь мощные системы перефразирования, то для прорывов в науке потребуется иная архитектура, способная к настоящему абстрактному мышлению.