Китайская модель в разы дешевле западных аналогов

Post Thumbnail

Китайская модель Kimi K2-Thinking с триллионом параметров обошлась в 4,5 млн долларов на финальном этапе обучения. По данным CNBC, это в разы дешевле западных аналогов. Издание ссылается на анонимный источник. И признаёт, что независимо подтвердить цифру не удалось. А сама компания Moonshot AI официально стоимость не раскрывала.

Модель построена по архитектуре Mixture of Experts — триллион параметров в общем объёме, но активна во время работы лишь малая часть. Создана для сложных задач рассуждения и взаимодействия с инструментами. Для таких систем обычно требуются астрономические вычислительные затраты, поэтому несколько миллионов выглядят почти смешно.

История повторяется. В конце 2024 года китайская DeepSeek обучила базовую модель V3 за 5,5 млн долларов. А рассуждающую надстройку R1 — за 294 тыс. Kimi K2-Thinking тоже построена на базовой K2, так что пропорция схожая. Правда, эти оценки не включают эксперименты, тестирование, аренду офисов и зарплаты.

В большинстве бенчмарков K2-Thinking держится на уровне лидирующих западных моделей вроде GPT-5 Pro и Grok 4. А теперь про цены конкурентов. Финальный этап обучения GPT-4, по оценке SemiAnalysis, стоил 63 млн долларов. В отчёте AI Index фигурирует ещё большая сумма в 78 млн. А полное обучение Grok 4 аналитики Epoch AI оценили в астрономические 490 млн долларов.

Либо это какая-то магия оптимизации, либо кто-то что-то недоговаривает. Либо кто-то сильно переплачивает за вычисления.

Почитать из последнего
Музыку российских звёзд нашли в открытых датасетах
ИИ учится на миллионах файлов, и иногда в этих массивах обнаруживается контент, который никто не разрешал использовать. Теперь в открытых датасетах для обучения нейросетей нашли тысячи фрагментов музыкального контента российских исполнителей.
Microsoft заставила ИИ просить разрешения на опасные действия
Microsoft предупреждает: Copilot Cowork может ошибиться, неверно понять инструкцию или среагировать на скрытую вредоносную команду. Ответственность за действия остаётся за пользователем, особенно при работе с деньгами и данными.
Claude объединил чат и Cowork в единую среду
Ещё недавно в Claude приходилось выбирать режим: быстрый вопрос - в чат, работа посложнее - в Cowork. Теперь Anthropic убирает эту границу: Claude Cowork и обычный чат объединяются.
Дженсен Хуанг не увидел смысла в новых законах для ИИ
Глава Nvidia Дженсен Хуанг призвал не замедлять развитие ИИ ради безопасности и заявил, что проблему нужно решать прежде всего инженерными методами. Выступая на Dreamforce, он сказал, что новые законы и правила не нужны: по его мнению, компании сами должны выпускать продукт только тогда, когда уверены в его безопасности, а рынок уже создаёт для этого необходимые стимулы.
OpenAI и Anthropic захотели притормозить ИИ, но не сошлись в деталях
Крупнейшие игроки рынка ИИ заговорили о паузе, однако внутри компаний тут же всплыл неудобный вопрос: кого пускать к секретам разработчиков?