Исследование показало снижение эффективности AI-агентов при введении ограничений

Экспериментальное тестирование показало, что внедрение строгих правил дисциплины для AI-агентов приводит к снижению их способности исправлять программные ошибки. В ходе исследования агент, настроенный на повышенную осторожность при написании кода, продемонстрировал падение результативности на 13% по сравнению с базовыми настройками.

Для оценки эффективности использовался набор из 100 реальных багов, взятых из бенчмарка SWE-bench. Методология включала три последовательных прогона, в которых модель принуждали следовать жестким алгоритмам самоконтроля и верификации действий перед внесением правок в кодовую базу.

Результаты показали, что избыточные ограничения превращаются в «тормоза» для автономных систем. Вместо повышения качества кода, агент начал чаще отклонять потенциально верные решения, опасаясь совершить ошибку. В итоге количество успешно исправленных дефектов сократилось, что указывает на нелинейную зависимость между уровнем контроля и итоговой производительностью модели.

Данные выводы подчеркивают проблему баланса при настройке систем автоматизированного программирования. Чрезмерная осторожность, продиктованная попытками минимизировать галлюцинации или ошибки, может приводить к параличу принятия решений, снижая общую полезность агента в реальных задачах разработки ПО.