Нейросети генерируют код с проблемами намного чаще людей-программистов
Платформа AI-ревью кода CodeRabbit опубликовала отчёт State of AI vs Human Code Generation. И вот вам суровая правда. Ассистенты на ИИ стали массовым инструментом, но сгенерированный ими код содержит в среднем в 1,5 раза больше проблем, чем человеческий. Исследование основано на анализе 470 реальных pull request’ов из открытых проектов на GitHub. 320 с участием искусственного интеллекта и 150 написанных только людьми.
Проблемы затрагивают все ключевые категории качества. Логические ошибки и проблемы с корректностью встречаются на 75% чаще. Это ошибки в бизнес-логике, неверные конфигурации и небезопасные ветвления. Уязвимости безопасности появляются в 1,5-2 раза чаще, особенно некорректная работа с паролями и небезопасный доступ к объектам. Читаемость кода страдает втрое сильнее из-за проблем с именованием и форматированием.
Причина часто в том, что ИИ не дают контекст конкретного проекта. Ему недоступны бизнес-правила, архитектурные ограничения, принятые в команде паттерны. Без этой информации модель генерирует код, который выглядит корректным, но не учитывает специфику репозитория.
Самый большой разрыв — в производительности: неэффективные операции ввода-вывода встречаются в коде от искусственного интеллекта почти в 8 раз чаще. 8 раз, Карл!