Исследователи представили фреймворк SIFT для ускорения самообучения AI-агентов

Исследователи представили SIFT (Recursive Self Improvement via Fast Tree-search) — фреймворк для рекурсивного самосовершенствования кодинг-агентов. Система позволяет моделям модифицировать собственный код, минимизируя при этом затраты вычислительных ресурсов, которые обычно требуются для оценки эффективности изменений.

Основным узким местом существующих решений является необходимость многократного запуска бенчмарков для проверки каждой итерации кода. В SIFT этот процесс заменен на использование LLM в качестве судьи, которая проводит попарное сравнение кандидатов на улучшение. Результаты сравнений агрегируются с помощью модели Брэдли-Терри, формируя оценки силы, которые направляют поиск в дереве решений.

Дорогостоящие запуски тестов в новой архитектуре выполняются только для наиболее перспективных узлов, отобранных на основе предварительного анализа судьи. Такой подход значительно снижает потребление CPU-часов и затраты на API-вызовы по сравнению с традиционными методами поиска, сохраняя при этом высокую точность генерации кода.

В ходе тестирования на бенчмарке Polyglot фреймворк продемонстрировал превосходство над существующими системами самоэволюции на базе поиска по дереву. Исследование подтверждает, что использование промежуточных сигналов от модели-судьи позволяет агентам эффективнее исследовать пространство возможных модификаций без перегрузки вычислительной инфраструктуры.

Данная разработка меняет подход к созданию автономных систем, способных к самооптимизации. Переход от полного перебора тестов к ранжированию кандидатов через LLM-as-a-judge делает процесс итеративного улучшения кода доступным для реализации в условиях жестких бюджетных ограничений.