Экс-глава исследований DeepMind: самоулучшение ИИ ускорит науку в 10 раз, но взрыва интеллекта не будет

Ориоль Виньялс, до недавнего времени возглавлявший исследования в Google DeepMind, уверен: ИИ может ускорить научные исследования в десять раз, но не вызовет резкого «взрыва интеллекта» за счёт рекурсивного самоулучшения. По его словам, на пути стоят два фундаментальных ограничения: генерация новых идей (то, что он называет «исследовательским вкусом») и надёжная оценка результатов. Без решения этих проблем модель не сможет бесконечно улучшать себя.

Кроме того, Виньялс указывает на технические барьеры: reward hacking (когда модель находит лазейки в функции награды) и фундаментальное ограничение скорости света, которое не позволяет бесконечно наращивать вычислительные мощности. Всё это делает сценарий «интеллектуального взрыва» маловероятным.

Чтобы преодолеть эти узкие места, Виньялс вместе с Джеффом Дином, Санджаем Гемаватом и Цюок Ле основал стартап Discovery Loop. Компания намерена сосредоточиться на создании систем, которые помогут ИИ лучше формулировать гипотезы и точнее оценивать результаты экспериментов — то есть на тех самых «бутылочных горлышках», которые мешают полному самоулучшению.