Бывший сотрудник OpenAI предрекает $100 млрд на специализированные данные для ИИ

Эндрю Хо, бывший сотрудник OpenAI, и кембриджский исследователь Адам Хант бьют тревогу: большие языковые модели становятся не универсальнее, а, наоборот, всё более узкоспециализированными. Они отлично справляются с кодингом и математикой, но в других областях их прогресс застопорился или даже пошёл вспять.

Хо уходит из OpenAI, чтобы основать собственную компанию, которая займётся созданием специализированных обучающих данных. Он прогнозирует, что в ближайшие годы ИИ-лаборатории потратят на целенаправленный сбор данных более $100 млрд — простое масштабирование моделей больше не даёт нужного эффекта.