Transformers.js экспериментирует с Cross-Origin Storage API: браузерный ИИ получит доступ к общему кэшу

Hugging Face начал экспериментировать с интеграцией предложенного Cross-Origin Storage API в библиотеку Transformers.js. Если API будет принят, это кардинально изменит работу браузерных моделей ИИ: кэшированные веса и данные можно будет переиспользовать между разными веб-приложениями, снижая нагрузку на сеть и ускоряя загрузку.

Сейчас каждый сайт загружает свои копии моделей, что приводит к дублированию трафика. Cross-Origin Storage API решает эту проблему, разрешая безопасное совместное использование хранилища. Пока это лишь эксперимент, но успех может ускорить внедрение тяжёлых ИИ-моделей (например, для распознавания речи или генерации) прямо в браузере.