Китайская модель в разы дешевле западных аналогов

Post Thumbnail

Китайская модель Kimi K2-Thinking с триллионом параметров обошлась в 4,5 млн долларов на финальном этапе обучения. По данным CNBC, это в разы дешевле западных аналогов. Издание ссылается на анонимный источник. И признаёт, что независимо подтвердить цифру не удалось. А сама компания Moonshot AI официально стоимость не раскрывала.

Модель построена по архитектуре Mixture of Experts — триллион параметров в общем объёме, но активна во время работы лишь малая часть. Создана для сложных задач рассуждения и взаимодействия с инструментами. Для таких систем обычно требуются астрономические вычислительные затраты, поэтому несколько миллионов выглядят почти смешно.

История повторяется. В конце 2024 года китайская DeepSeek обучила базовую модель V3 за 5,5 млн долларов. А рассуждающую надстройку R1 — за 294 тыс. Kimi K2-Thinking тоже построена на базовой K2, так что пропорция схожая. Правда, эти оценки не включают эксперименты, тестирование, аренду офисов и зарплаты.

В большинстве бенчмарков K2-Thinking держится на уровне лидирующих западных моделей вроде GPT-5 Pro и Grok 4. А теперь про цены конкурентов. Финальный этап обучения GPT-4, по оценке SemiAnalysis, стоил 63 млн долларов. В отчёте AI Index фигурирует ещё большая сумма в 78 млн. А полное обучение Grok 4 аналитики Epoch AI оценили в астрономические 490 млн долларов.

Либо это какая-то магия оптимизации, либо кто-то что-то недоговаривает. Либо кто-то сильно переплачивает за вычисления.

Почитать из последнего
ИИ-ассистент научили разбирать документы и алерты
Главный вопрос корпоративного ИИ прост: что будет с данными после запроса? РТК-ЦОД предлагает не рисковать ими. На форуме «Цифровые решения» компания с блоком ИТ «Ростелекома» представила ассистента для организаций с жёсткими требованиями к защите.
К 2027 году чипов хватит на миллиарды ИИ-агентов
Похоже, у ИИ скоро вылезет проблема, которую не залатать покупкой ещё одного чипа. По расчётам Epoch AI, вычислительной мощности, выпущенной с 2025 по 2027 год, хватит для одновременной работы от 33 до 171 млн агентов уровня передовых моделей.
Kandinsky научился лепить видео со звуком
ИИ-видео всё меньше смахивает на немой клип. «Сбер» показал Kandinsky 6.0 Video - модель, которая разом генерит картинку и звук: речь персонажей, музыку и шумы окружения.
Три профессии, которые ИИ уже плодит прямо сейчас
ИИ перетряхивает рынок труда не только тем, что съедает привычные задачи. Вместе с автоматизацией вылезают специалисты, которых ещё несколько лет назад никто бы не вообразил, и часть таких профессий формируется на глазах.
Google научила эмбеддинги переваривать сразу пять типов данных
Google порешила, что эмбеддингам хватит возиться с одним текстом. Компания выкатила вторую версию EmbeddingGemma: теперь система сваливает в общее векторное пространство текст, код, изображения, видео и аудио. Так что на вход можно подавать сразу несколько типов данных.