OpenAI представила собственный процессор для ИИ — Jalapeño

OpenAI официально представила свой первый процессор для ИИ-серверов — Jalapeño. Это заказной ASIC-чип, созданный в партнёрстве с Broadcom, который предназначен исключительно для инференса — этапа, когда модель обрабатывает запрос пользователя. Для сравнения: тренировка моделей (обучение на данных) идёт отдельно.

Новый чип анонсирован спустя девять месяцев после того, как OpenAI объявила о сотрудничестве с Broadcom. Jalapeño будет питать как текущие, так и будущие большие языковые модели компании, включая агентные решения вроде Codex, которые автономно пишут код, и сам ChatGPT.

ASIC-подход означает, что чип заточен под одну задачу — в данном случае логический вывод нейросетей, что потенциально даёт выигрыш в производительности и энергоэффективности по сравнению с универсальными GPU. Деталей о тактовой частоте, объёме памяти и энергопотреблении пока нет.