Google обнаружила 3 вируса использующих ИИ для усиления атак

Post Thumbnail

Google обнаружила 3 вируса нового поколения, которые тайно подключаются к моделям искусственного интеллекта для усиления атак. Об этом сообщило подразделение Google Threat Intelligence Group.

Первый вирус получил название Quietvault. Он разработан для кражи учётных данных с компьютеров под управлением Windows. При работе он «отправляет запрос к искусственному интеллекту и при помощи локальных инструментов командной строки производит поиск возможных секретов на заражённой системе. И извлекает эти файлы».

2 вредонос Promptflux предположительно является экспериментальной разработкой хакеров. Он удалённо обращается к чат-боту Google Gemini для модификации собственного кода, чтобы избежать обнаружения антивирусами. Обнаружен запрос, который Promptflux отправляет Gemini через API: «Напиши небольшую автономную функцию или блок кода, способный избежать обнаружения антивирусом».

На практике этот вредонос пока не смог нанести ущерба ни пользовательским устройствам, ни сетевым ресурсам. Компания изменила механизмы работы Gemini, чтобы искусственный интеллект отклонял подобные запросы.

3 вирус Promptsteal для кражи данных подключается к большой языковой модели Alibaba Qwen. Он действует как троян, маскирующийся под генератор изображений, и обращается к искусственному интеллекту для генерации кода.

AIvengo > Новости ИИ > Google обнаружила 3 вируса использующих ИИ для усиления атак
Почитать из последнего
100 тыс. диалогов подтвердили экономию 80% времени с помощью ИИ
Anthropic проанализировала 100 тыс. реальных диалогов с Claude. И эти цифры теперь можно использовать в спорах о пользе искусственного интеллекта. Задачи, которые у людей занимают около 90 минут и стоят примерно 55 долларов труда, Claude выполняет на 80% быстрее человека.
Обнаружен способ обхода защиты ИИ в 90% случаев
Стихи ломают защиту больших языковых моделей. И это плохо для индустрии. Исследователи из DEXAI и Университета Сапиенцы в Риме выяснили, чтобы заставить искусственный интеллект ответить на опасный запрос, достаточно промт написать в стихах. В некоторых случаях «поэтические взломы» срабатывали в более чем 90% попыток.
Google опасался ошибок, а OpenAI на этом заработал миллиарды
Стэнфорд выпустил интервью с создателем Google Сергеем Брином, и там прозвучала фраза, которая объясняет всё происходящее в индустрии ИИ. «Главной ошибкой Google было недооценить трансформеры». Не технология подвела - подвела вера в неё.
Крёстный отец ИИ назвал AGI полной чушью
Один из «крестных отцов» искусственного интеллекта Ян Лекун заявил, что понятия general intelligence или AGI вообще не существует. Это не просто провокация - это удар по основам всей дискуссии об ИИ. Потому что если нет понятия, то что мы вообще пытаемся создать?
Новый Gemini 3 Flash быстрее в 3 раза и обходит Pro модель, но стоит копейки
Google выпустили Gemini 3 Flash, и это frontier-модель со скоростью Flash и ценой, которая ломает привычные правила рынка.