ИИ находит сотни уязвимостей, но хакеры их почти не трогают

Post Thumbnail

Казалось бы, научи ИИ искать дыры быстрее людей — и хакеры получат готовый арсенал. Но данные проекта Glasswing рисуют другую картину: из 225 официально зарегистрированных ошибок, связанных с исследованием Anthropic, злоумышленники использовали всего одну.

За уязвимостями приглядывал исследователь VulnCheck Патрик Гэррити. К 21 сентября он вычислил среди них лишь CVE-2026-26980 — критическую SQL-инъекцию в платформе Ghost, которая и правда шла в атаках. Это меньше 0,5% от всей выборки.

Отсюда важный нюанс: найти дыру ещё не значит сделать из неё рабочий инструмент атаки. По мнению Гэррити, опубликованные Anthropic уязвимости пока повлияли ненамного сильнее, чем случайно взятые ошибки в ПО.

А дальше — новый парадокс. ИИ уже лихо ищет проблемы, но куда хуже их чинит. Исследование лаборатории Off-by-1 компании 1Password показало: модели OpenAI GPT-5.5 и Anthropic Opus 4.8 полностью закрывали уязвимость лишь в 26% случаев.

В остальных 54% модели либо бросали исходную проблему как есть, либо плодили новую, либо делали и то и другое разом. Поэтому, считает Гэррити, главная морока начинается уже после находки: надо решить, что латать первым, проверить результат и безопасно вкатить обновление.

ИИ и впрямь сделал поиск уязвимостей доступнее. Но между найденной ошибкой и реальной атакой до сих пор лежит работа, которую машине целиком не передать.

—

Телеграм про право в IT и AI. IT юристы — PravoWeb.com

Почитать из последнего
ИИ-ассистент научили разбирать документы и алерты
Главный вопрос корпоративного ИИ прост: что будет с данными после запроса? РТК-ЦОД предлагает не рисковать ими. На форуме «Цифровые решения» компания с блоком ИТ «Ростелекома» представила ассистента для организаций с жёсткими требованиями к защите.
К 2027 году чипов хватит на миллиарды ИИ-агентов
Похоже, у ИИ скоро вылезет проблема, которую не залатать покупкой ещё одного чипа. По расчётам Epoch AI, вычислительной мощности, выпущенной с 2025 по 2027 год, хватит для одновременной работы от 33 до 171 млн агентов уровня передовых моделей.
Kandinsky научился лепить видео со звуком
ИИ-видео всё меньше смахивает на немой клип. «Сбер» показал Kandinsky 6.0 Video - модель, которая разом генерит картинку и звук: речь персонажей, музыку и шумы окружения.
Три профессии, которые ИИ уже плодит прямо сейчас
ИИ перетряхивает рынок труда не только тем, что съедает привычные задачи. Вместе с автоматизацией вылезают специалисты, которых ещё несколько лет назад никто бы не вообразил, и часть таких профессий формируется на глазах.
Google научила эмбеддинги переваривать сразу пять типов данных
Google порешила, что эмбеддингам хватит возиться с одним текстом. Компания выкатила вторую версию EmbeddingGemma: теперь система сваливает в общее векторное пространство текст, код, изображения, видео и аудио. Так что на вход можно подавать сразу несколько типов данных.