Разработчик представил неавторегрессионную модель RL Agent

Независимый разработчик выпустил RL Agent — новую неавторегрессионную модель для принятия решений, ориентированную на высокую скорость работы. Проект позиционируется как альтернатива существующим решениям в области управления агентами, предлагая оптимизированный подход к генерации действий без последовательного предсказания токенов.

Ключевой характеристикой модели является время инференса, которое составляет от 33 до 38 мс. По словам автора, архитектура позволяет достигать стабильных результатов в задачах принятия решений, сохраняя при этом минимальную задержку, что критично для систем реального времени. Код проекта опубликован в открытом доступе для дальнейшего тестирования сообществом.

Разработка опирается на принципы неавторегрессионного вывода, которые позволяют исключить накопление ошибок, характерное для стандартных трансформеров при генерации длинных последовательностей. В отличие от традиционных подходов, где каждое действие зависит от предыдущего, данная модель вычисляет все шаги параллельно, что обеспечивает предсказуемую производительность.

Автор также отмечает, что подобные архитектуры ранее оставались вне фокуса крупных лабораторий, несмотря на их эффективность. Публикация RL Agent призвана привлечь внимание к развитию легковесных моделей, способных работать на ограниченных вычислительных ресурсах без потери точности в динамических средах.