Исследователи представили метод Metacognitive Steering для управления логикой LLM

Исследователи разработали метод Metacognitive Steering, позволяющий динамически изменять стратегию рассуждений нейросетей в процессе генерации. Технология направлена на улучшение качества научных исследований, проводимых автономными агентами, за счет переключения между режимами исследования, исполнения и критической оценки.

В основе метода лежит анализ внутренних состояний модели Kimi 2.6 — системы с архитектурой mixture-of-experts, насчитывающей более триллиона параметров. С помощью методов сингулярного разложения и анализа весов внимания авторы выделили низкоразмерную структуру управления, расположенную в средних слоях нейросети. Контроллер считывает текущий когнитивный режим модели и применяет интервенции к конкретным слоям без необходимости дообучения или изменения весов.

Эффективность подхода продемонстрирована на системе Columbus-1. Агент успешно выявил восемь уязвимостей в стеке BlueZ, которые были независимо подтверждены, а также спроектировал и подготовил к производству трехметровую ракету с системой посадки на твердотопливных двигателях. Метод обеспечивает более глубокую проработку гипотез и позволяет агенту самостоятельно отсеивать неперспективные варианты в ходе решения сложных инженерных задач.

Данная разработка меняет подход к управлению поведением моделей, переходя от простых промптов к прямому воздействию на вычислительные процессы. Это позволяет использовать Metacognitive Steering для создания более надежных автономных систем, способных к самоконтролю и критическому анализу данных в реальном времени.