Нейросети решают задачи лучше, когда спорят сами с собой
Исследователи из Google и Чикагского университета выяснили, почему reasoning-модели типа DeepSeek-R1 и другие так долго думают перед ответом. Оказывается, они буквально устраивают внутренний спор между несколькими персонажами – экспертами с разными взглядами. Которые задают вопросы, не соглашаются и ищут компромисс. Учёные назвали это общество мыслей. Звучит как раздвоение личности, но работает убийственно эффективно.
Анализ больше 8000 задач показал, что reasoning-модели используют паттерны диалога, смену перспективы, конфликт точек зрения и примирение. Обычные модели тех же размеров выдают монолог без внутренней дискуссии. Причём разница не в длине ответа. Даже при одинаковом количестве токенов reasoning-модели спорят сами с собой гораздо чаще. Они научились создавать мозговой штурм внутри себя.
Чтобы проверить связь, исследователи нашли фичу разговорного удивления в активациях – нейронный паттерн, срабатывающий на слова типа «о!» и «подожди» при смене точки зрения. Когда усилили эту фичу, точность на арифметических задачах подскочила вдвое. С 27 до 55 процентов. Подавление ухудшило результаты. Модель стала чаще проверять свои шаги, возвращаться к предыдущим решениям и разбивать задачу на части.
Получается, внутренний спор делает ИИ умнее. И чем больше голосов в голове нейросети, тем точнее ответы. Возможно это объясняет, почему reasoning-модели так резко превзошли обычные при схожем размере.
