Альтман против локального ИИ: RAM должна лежать в дата-центре, а не в вашем ПК
В интервью на подкасте Cheeky Pint Сэма Альтмана спросили о проблемах с цепочками поставок, в том числе о продолжающейся нехватке RAM. Глава OpenAI ответил, что локальный запуск ИИ на своих компьютерах, который кажется многим решением, на самом деле проигрывает централизованной инфраструктуре.
«Многие хотят локальный инференс. Они думают, что проблема решена: появятся открытые модели, мы сможем запускать их у себя и нам не нужны дата-центры. Но с точки зрения глобального распределения ресурсов держать RAM у каждого на столе — довольно ужасно», — пояснил Альтман.
Похоже, OpenAI делает ставку на концентрацию вычислений в облаке, а не на децентрализацию ИИ. Впрочем, это заявление перекликается и с бизнес-интересами компании: чем больше инференса уходит в дата-центры, тем больше спрос на облачные мощности.