Исследования
От $100 до $1 млрд: реальная цена обучения LLM с нуля
Заголовки вроде «лучший ChatGPT за $100» или «китайцы обучили GPT-4 за $6 млн» не врут — но они про разные вещи. За словами «обучить LLM» скрывается лестница из семи порядков: от десятков долларов на одной видеокарте до миллиарда на фронтир-модель. Перепутать ступени — значит получить совсем не тот результат, который ожидал заказчик.
Автор — CTO ML-команды — на конкретных числах и первоисточниках показывает, что реально можно сделать на RTX 5090, где начинается аренда кластера и из чего складывается смета фронтир-модели. «Модель за $6 млн» и «компания с инфраструктурой на миллиард» — это правда одновременно, просто речь о разных этапах и масштабах.
Источник: habr.com