Исследователи выяснили непереносимость «якорей мышления» между моделями

Исследователи проанализировали эффективность передачи «якорей мышления» (thought anchors) между различными языковыми моделями в процессе цепочки рассуждений (Chain-of-Thought). Эксперименты показали, что ключевые логические этапы, выделенные одной моделью, не улучшают производительность другой при переносе.

В ходе тестирования выяснилось, что даже при использовании идентичных промптов, логические узлы, которые помогают конкретной архитектуре прийти к верному ответу, остаются специфичными для её весов. Модели не способны эффективно интерпретировать чужие «якоря» как руководство к действию, если они не содержат прямых подсказок относительно вариантов ответа.

Результаты исследования демонстрируют, что скрытые подсказки могут передаваться между системами только в том случае, если в трассировке рассуждений уже явно обсуждаются конкретные варианты выбора. В остальных случаях попытка внедрить «якоря» извне приводит к снижению точности или игнорированию контекста.

Данные выводы ставят под сомнение методы автоматизированного переноса логических цепочек между разнородными моделями. Вместо универсальных «якорей» исследователи предлагают сосредоточиться на адаптации самих алгоритмов генерации под конкретные архитектурные особенности каждой модели.

Это исследование уточняет границы интерпретируемости AI-систем. Понимание того, что логические структуры не являются универсальными, помогает разработчикам точнее настраивать процессы Chain-of-Thought для повышения надежности ответов в сложных многошаговых задачах.