Gartner предупредила о новой напасти ИИ-кодинга

ИИ должен помогать компаниям строчить код быстрее, но у этой скорости вырисовывается неожиданный ценник. Gartner прогнозирует: к 2028 году расходы на разработку с LLM переплюнут среднюю зарплату программиста. Главная причина — дикий рост потребления токенов и переезд поставщиков на оплату фактического использования.

Пока компании только осваивали ИИ-инструменты, расходы было проще держать в узде. Теперь организации массово внедряют автономных агентов, которые тянут всё больше задач сами. Беда в том, что разработчики обычно думают о скорости и удобстве, а не о количестве сожжённых токенов.

Особенно зловещей становится новая модель оплаты. Вместо фиксированной подписки компании всё чаще платят за фактическое потребление, так что заранее прикинуть итоговую сумму всё труднее. Без учёта токенов по отдельным задачам бюджет может иссякнуть раньше, чем появится обещанный эффект от ИИ.

Ситуацию подогревает сам способ работы агентов. Неограниченная автономность, раздутые контекстные окна и отсутствие обратной связи заставляют модели пережёвывать лишние данные. При этом встроенные инструменты контроля расходов у поставщиков LLM пока не дозрели.

Gartner предлагает перекроить сам подход к использованию ИИ. Простые задачи стоит спихивать небольшим моделям, а дорогие подключать только когда приспичит. Компании также должны урезать потребление токенов, следить за расходами и регулярно разбирать случаи перерасхода.

В итоге ИИ-кодинг может нарваться на парадокс: чем крепче разработчики подсаживаются на агентов, тем больше ими пользуются — и тем быстрее пухнет счёт. Поэтому следующим этапом гонки ИИ может стать уже не наращивание возможностей моделей, а умение заставить их работать экономно.