Нейросети решают задачи лучше, когда спорят сами с собой
Исследователи из Google и Чикагского университета выяснили, почему reasoning-модели типа DeepSeek-R1 и другие так долго думают перед ответом. Оказывается, они буквально устраивают внутренний спор между несколькими персонажами – экспертами с разными взглядами. Которые задают вопросы, не соглашаются и ищут компромисс. Учёные назвали это общество мыслей. Звучит как раздвоение личности, но работает убийственно эффективно.
Анализ больше 8000 задач показал, что reasoning-модели используют паттерны диалога, смену перспективы, конфликт точек зрения и примирение. Обычные модели тех же размеров выдают монолог без внутренней дискуссии. Причём разница не в длине ответа. Даже при одинаковом количестве токенов reasoning-модели спорят сами с собой гораздо чаще. Они научились создавать мозговой штурм внутри себя.
Чтобы проверить связь, исследователи нашли фичу разговорного удивления в активациях – нейронный паттерн, срабатывающий на слова типа «о!» и «подожди» при смене точки зрения. Когда усилили эту фичу, точность на арифметических задачах подскочила вдвое. С 27 до 55 процентов. Подавление ухудшило результаты. Модель стала чаще проверять свои шаги, возвращаться к предыдущим решениям и разбивать задачу на части.
Получается, внутренний спор делает ИИ умнее. И чем больше голосов в голове нейросети, тем точнее ответы. Возможно это объясняет, почему reasoning-модели так резко превзошли обычные при схожем размере.
Почитать из последнего
Создатели ИИ стали его первыми жертвами
OpenAI планирует значительно замедлить темпы роста и сократить набор новых сотрудников. По данным Business Insider, гендиректор Сэм Альтман заявил, что ИИ изменил темпы роста штата компании. Ирония ситуации в том, что создатели технологии, которая должна заменять людей, сами стали её первыми жертвами.
Oracle потеряла 463 миллиарда из-за паники вокруг ИИ
Акции Oracle рухнули более чем на 50 процентов по сравнению с прошлогодним историческим максимумом. Падение привело к снижению рыночной стоимости примерно на 463 миллиарда долларов по сравнению с рекордом, достигнутым 10 сентября. Когда компания представила впечатляющие перспективы облачного бизнеса и растущий спрос на ИИ. Тогда стоимость превысила 933 миллиарда долларов, что сделало её десятой по стоимости публичной компанией в США.
Магазины в США вытаскивают память и видеокарты из витринных ПК из-за воров
Американские магазины начали изымать модули оперативной памяти и видеокарты из витринных образцов игровых компьютеров из-за участившихся краж. Например, розничная сеть Costco столкнулась с проблемой настолько массово, что теперь показывает ПК вообще без внутренностей. Просто корпуса с работающей RGB-подсветкой и вентиляторами.
Airtable потеряла две трети стоимости и запустила ИИ, который её убьёт
Представьте: ваша компания рухнула с 11 миллиардов до 4, инвесторы в шоке, опционы сотрудников превратились в тыкву. Что делать? Логично было бы затаиться и латать дыры. Но основатель Airtable Хоуи Лю, делает ровно наоборот. Запускает совершенно новый продукт, который может похоронить его основной бизнес.
Гуманоид с бровями будет приносить вам зубные щётки в отеле
Американский стартап Fauna представил человекоподобного робота Sprout, и это не очередная железяка для склада. Его задача — быть компаньоном в гостиницах, ресторанах и магазинах. Принести стакан воды, подать зубную щётку, сопроводить до номера. Цена — 50 тысяч долларов, но Disney и Boston Dynamics уже среди первых покупателей.