Gartner предупредила о новой напасти ИИ-кодинга

Post Thumbnail

ИИ должен помогать компаниям строчить код быстрее, но у этой скорости вырисовывается неожиданный ценник. Gartner прогнозирует: к 2028 году расходы на разработку с LLM переплюнут среднюю зарплату программиста. Главная причина — дикий рост потребления токенов и переезд поставщиков на оплату фактического использования.

Пока компании только осваивали ИИ-инструменты, расходы было проще держать в узде. Теперь организации массово внедряют автономных агентов, которые тянут всё больше задач сами. Беда в том, что разработчики обычно думают о скорости и удобстве, а не о количестве сожжённых токенов.

Особенно зловещей становится новая модель оплаты. Вместо фиксированной подписки компании всё чаще платят за фактическое потребление, так что заранее прикинуть итоговую сумму всё труднее. Без учёта токенов по отдельным задачам бюджет может иссякнуть раньше, чем появится обещанный эффект от ИИ.

Ситуацию подогревает сам способ работы агентов. Неограниченная автономность, раздутые контекстные окна и отсутствие обратной связи заставляют модели пережёвывать лишние данные. При этом встроенные инструменты контроля расходов у поставщиков LLM пока не дозрели.

Gartner предлагает перекроить сам подход к использованию ИИ. Простые задачи стоит спихивать небольшим моделям, а дорогие подключать только когда приспичит. Компании также должны урезать потребление токенов, следить за расходами и регулярно разбирать случаи перерасхода.

В итоге ИИ-кодинг может нарваться на парадокс: чем крепче разработчики подсаживаются на агентов, тем больше ими пользуются — и тем быстрее пухнет счёт. Поэтому следующим этапом гонки ИИ может стать уже не наращивание возможностей моделей, а умение заставить их работать экономно.

—

Телеграм про право в IT и AI. IT юристы — PravoWeb.com

Почитать из последнего
ИИ-ассистент научили разбирать документы и алерты
Главный вопрос корпоративного ИИ прост: что будет с данными после запроса? РТК-ЦОД предлагает не рисковать ими. На форуме «Цифровые решения» компания с блоком ИТ «Ростелекома» представила ассистента для организаций с жёсткими требованиями к защите.
К 2027 году чипов хватит на миллиарды ИИ-агентов
Похоже, у ИИ скоро вылезет проблема, которую не залатать покупкой ещё одного чипа. По расчётам Epoch AI, вычислительной мощности, выпущенной с 2025 по 2027 год, хватит для одновременной работы от 33 до 171 млн агентов уровня передовых моделей.
Kandinsky научился лепить видео со звуком
ИИ-видео всё меньше смахивает на немой клип. «Сбер» показал Kandinsky 6.0 Video - модель, которая разом генерит картинку и звук: речь персонажей, музыку и шумы окружения.
Три профессии, которые ИИ уже плодит прямо сейчас
ИИ перетряхивает рынок труда не только тем, что съедает привычные задачи. Вместе с автоматизацией вылезают специалисты, которых ещё несколько лет назад никто бы не вообразил, и часть таких профессий формируется на глазах.
Google научила эмбеддинги переваривать сразу пять типов данных
Google порешила, что эмбеддингам хватит возиться с одним текстом. Компания выкатила вторую версию EmbeddingGemma: теперь система сваливает в общее векторное пространство текст, код, изображения, видео и аудио. Так что на вход можно подавать сразу несколько типов данных.