Hugging Face выпустила библиотеку kernels с поддержкой 200+ WebGPU-ядер

Hugging Face представила библиотеку @huggingface/kernels, содержащую более 200 оптимизированных ядер для выполнения вычислений через WebGPU. Инструмент предназначен для ускорения работы локальных AI-моделей непосредственно в браузере за счет использования графического процессора.

Библиотека включает широкий набор математических операций, необходимых для глубокого обучения, включая тензорные вычисления, функции активации и нормализации. Использование WebGPU API позволяет перенести нагрузку с центрального процессора на GPU, что обеспечивает значительный прирост производительности при выполнении операций линейной алгебры в веб-среде.

Разработчики могут интегрировать данные ядра в свои проекты для создания высокопроизводительных приложений, работающих на стороне клиента. Библиотека спроектирована с учетом кроссплатформенности, что позволяет запускать сложные нейросетевые архитектуры в современных браузерах без необходимости установки дополнительного серверного ПО или специализированных драйверов.

Внедрение @huggingface/kernels упрощает процесс разработки локальных AI-инструментов, так как теперь разработчикам не нужно писать низкоуровневый код для каждого типа GPU. Стандартизация операций через WebGPU обеспечивает стабильную работу моделей на различных аппаратных конфигурациях, поддерживающих стандарт W3C WebGPU.

Этот релиз является частью стратегии компании по развитию экосистемы Web-AI. Переход на нативные GPU-вычисления в браузере позволяет создавать более сложные интерактивные интерфейсы и инструменты анализа данных, которые ранее требовали значительных вычислительных мощностей на стороне сервера.