Ричард Саттон: синтетические данные — «большая ошибка» для масштабирования LLM

Лауреат премии Тьюринга Ричард Саттон, известный как один из пионеров обучения с подкреплением, раскритиковал текущий подход к масштабированию больших языковых моделей. Он назвал использование синтетических данных «большой ошибкой», указав на то, что мир бесконечно сложен, а любая симуляция реальности остаётся «микроскопической». По мнению Саттона, человеческая экспертиза, которая лежит в основе таких данных, превращается в узкое место, блокирующее настоящее масштабирование.

В качестве альтернативы Саттон предлагает строить агентов, которые обучаются непрерывно на собственном опыте, а не полагаются на замороженные модели или искусственно сгенерированные примеры. Такой подход, по его замыслу, должен позволить ИИ адаптироваться к бесконечной сложности мира без ограничений, накладываемых человеческим знанием.