OpenAI Jalapeño обходит Nvidia Blackwell и Rubin в инференсе — первый кастомный чип оказался быстрее

OpenAI показала на конференции Hot Chips свой первый собственный ASIC-чип для инференса под кодовым названием Jalapeño. Результаты бенчмарков, проведённых аналитиками SemiAnalysis, оказались неожиданными: обычно первые поколения кастомных чипов уступают лидерам рынка, но здесь ситуация обратная.

По словам CEO SemiAnalysis Дилана Пателя, Jalapeño превосходит Nvidia Blackwell и даже ещё не вышедшую архитектуру Rubin как по пропускной способности (throughput), так и по энергоэффективности. Это серьёзная заявка для OpenAI, которая стремится снизить зависимость от поставок Nvidia и оптимизировать затраты на вывод моделей.