Разработчики представили архитектуру Jev для ускорения AI-вычислений

Компания Jev анонсировала запуск принципиально нового типа AI-моделей, ориентированных на повышение скорости и снижение стоимости программного интеллекта. Разработка направлена на оптимизацию процессов, которые традиционно требуют значительных вычислительных мощностей при работе с крупными языковыми моделями.

Архитектура Jev использует уникальный метод обработки данных, позволяющий сократить задержки при генерации ответов. Согласно внутренним тестам, модель демонстрирует снижение затрат на инференс на 40% по сравнению с аналогичными решениями текущего поколения. Система оптимизирована для работы в условиях ограниченных ресурсов, что делает её пригодной для интеграции в сложные корпоративные приложения.

Техническая реализация модели базируется на пересмотре принципов работы с контекстным окном, что позволяет системе обрабатывать длинные последовательности токенов с меньшим потреблением оперативной памяти. Разработчики заявляют, что архитектура поддерживает масштабирование без потери точности, что подтверждается результатами бенчмарков в задачах логического вывода и написания кода.

Новый подход к созданию моделей от одного из создателей ChatGPT знаменует переход от гигантских монолитных систем к более специализированным и эффективным архитектурам. Внедрение подобных решений позволяет компаниям снизить зависимость от дорогостоящих облачных мощностей и ускорить развертывание AI-агентов в реальном времени.