OpenAI выпустила GPT-6 Astra Ultrafast — до 8 раз быстрее на NVIDIA Blackwell

OpenAI объявила о запуске GPT-6 Astra Ultrafast — режима, который ускоряет генерацию токенов до 8 раз относительно обычного Astra. Ультрабыстрый режим работает на GPU NVIDIA Blackwell и уже доступен в OpenAI API, ChatGPT Work и для пользователей Codex.

Ускорение достигается за счёт инференс-оптимизаций, использующих возможности архитектуры Blackwell. Для разработчиков это значит более быстрые циклы правки-тестирования-отладки в агентах, сокращение времени ответа между вызовами инструментов и более отзывчивые приложения. Особенно заметен выигрыш, когда быстрый ответ повторяется внутри рабочего процесса — агент пишет код, вызывает инструмент, проверяет результат и решает, что делать дальше.

OpenAI продолжает улучшать производительность и после развёртывания: инженеры используют собственные модели для настройки софта инференса на GPU NVIDIA, а программируемость платформы позволяет тестировать и внедрять улучшения без остановки сервиса. «NVIDIA вложила серьёзные ресурсы в инструментарий и документацию, и мы смогли сделать Astra отличным генератором высокопроизводительных ядер для Blackwell и Rubin», — отметил Филипп Тийе, глава инференса OpenAI.