Инструменты
Hugging Face добавил нативную поддержку TorchTPU: модели PyTorch теперь работают на TPU без костылей
Hugging Face представил поддержку TorchTPU (PyTorch TPU) в своей платформе. Это значит, что разработчики могут запускать модели на тензорных процессорах Google (TPU) напрямую через интерфейс Hugging Face, используя нативные возможности PyTorch.
Раньше для работы с TPU приходилось вручную настраивать окружение и писать обвязки. Теперь интеграция встроена: достаточно передать device='tpu' при загрузке модели. Hugging Face обещает ускорение обучения и инференса без изменения кода для стандартных архитектур.
Первыми поддержку получат популярные модели вроде BERT и T5. В дальнейшем список расширят. Для сообщества это снижает порог входа в использование TPU — особенно актуально на фоне дефицита GPU и роста облачных предложений Google Cloud.
Источник: huggingface.co