Представлен движок Laya для принятия структурированных решений

Разработчики представили Laya — специализированный движок для обработки типизированных запросов, который исключает этап генерации текста. Система ориентирована на работу с произвольными состояниями данных и выдачу строго структурированных ответов.

Ключевой особенностью архитектуры является неавторегрессионный подход, позволяющий выполнять оценку запроса за один прямой проход. Время обработки одного запроса составляет около 35 мс, что значительно быстрее стандартных LLM, требующих последовательной генерации токенов.

Помимо формирования ответов, инструмент автоматически вычисляет калибровочные оценки уверенности (confidence scores). Это позволяет системе сигнализировать о степени надежности принятого решения в режиме реального времени. Проект опубликован в открытом доступе на GitHub под лицензией, позволяющей интеграцию в высоконагруженные системы.

Отсутствие генеративного этапа делает решение пригодным для задач, где критически важна предсказуемость вывода и низкая задержка. Технология ориентирована на автоматизацию бизнес-логики и аналитических процессов, требующих мгновенной реакции на изменения состояния системы без затрат вычислительных ресурсов на построение естественного языка.