Google обнаружила 3 вируса использующих ИИ для усиления атак

Google обнаружила 3 вируса нового поколения, которые тайно подключаются к моделям искусственного интеллекта для усиления атак. Об этом сообщило подразделение Google Threat Intelligence Group.

Первый вирус получил название Quietvault. Он разработан для кражи учётных данных с компьютеров под управлением Windows. При работе он «отправляет запрос к искусственному интеллекту и при помощи локальных инструментов командной строки производит поиск возможных секретов на заражённой системе. И извлекает эти файлы».

2 вредонос Promptflux предположительно является экспериментальной разработкой хакеров. Он удалённо обращается к чат-боту Google Gemini для модификации собственного кода, чтобы избежать обнаружения антивирусами. Обнаружен запрос, который Promptflux отправляет Gemini через API: «Напиши небольшую автономную функцию или блок кода, способный избежать обнаружения антивирусом».

На практике этот вредонос пока не смог нанести ущерба ни пользовательским устройствам, ни сетевым ресурсам. Компания изменила механизмы работы Gemini, чтобы искусственный интеллект отклонял подобные запросы.

3 вирус Promptsteal для кражи данных подключается к большой языковой модели Alibaba Qwen. Он действует как троян, маскирующийся под генератор изображений, и обращается к искусственному интеллекту для генерации кода.