Новая модель для кодинга думает как разработчик со стажем

Post Thumbnail

IQuest-Coder-40B – это не просто ещё один чат-бот, который генерирует код по шаблонам из GitHub. Это новая open-source модель для кодинга с 40 миллиардами параметров. Которая обучалась совсем не так, как его конкуренты.

Все обычные модели учатся на готовых файлах и репозиториях. Смотрят на код как на картинку – вот так написано, значит так правильно. А IQuest-Coder пошёл другим путём. Его натаскивали на истории коммитов, на паттернах рефакторинга, на циклах исправления багов. Модель училась понимать не просто что написано, а как это менялось со временем и зачем. Как будто ей показывали не фотографии кода, а целые фильмы о том, как разработчики думают и работают.

Благодаря рекуррентной Loop-архитектуре с двухитерационным механизмом прохода через 80 слоев, эта штука умеет держать в голове контекст до 128 тысяч токенов. Плюс словарь из 76 800 токенов для точного кодирования редких символов и конструкций.

На SWE-Bench Verified модель выдала 81.4%. Это реальные задачи инженерных команд, исправление ошибок, рефакторинг. На LiveCodeBench 6-й версии – 81.1% по актуальным данным на 26-й год. Модель работает с современными фреймворками и стандартами так, будто она в них выросла.

Что всё это значит? А то, что ИИ перестал просто копировать чужой код. Кажется, он начал понимать стиль проектов и логику разработки.

Почитать из последнего
ИИ-ассистент научили разбирать документы и алерты
Главный вопрос корпоративного ИИ прост: что будет с данными после запроса? РТК-ЦОД предлагает не рисковать ими. На форуме «Цифровые решения» компания с блоком ИТ «Ростелекома» представила ассистента для организаций с жёсткими требованиями к защите.
К 2027 году чипов хватит на миллиарды ИИ-агентов
Похоже, у ИИ скоро вылезет проблема, которую не залатать покупкой ещё одного чипа. По расчётам Epoch AI, вычислительной мощности, выпущенной с 2025 по 2027 год, хватит для одновременной работы от 33 до 171 млн агентов уровня передовых моделей.
Kandinsky научился лепить видео со звуком
ИИ-видео всё меньше смахивает на немой клип. «Сбер» показал Kandinsky 6.0 Video - модель, которая разом генерит картинку и звук: речь персонажей, музыку и шумы окружения.
Три профессии, которые ИИ уже плодит прямо сейчас
ИИ перетряхивает рынок труда не только тем, что съедает привычные задачи. Вместе с автоматизацией вылезают специалисты, которых ещё несколько лет назад никто бы не вообразил, и часть таких профессий формируется на глазах.
Google научила эмбеддинги переваривать сразу пять типов данных
Google порешила, что эмбеддингам хватит возиться с одним текстом. Компания выкатила вторую версию EmbeddingGemma: теперь система сваливает в общее векторное пространство текст, код, изображения, видео и аудио. Так что на вход можно подавать сразу несколько типов данных.