Google обнаружила 3 вируса использующих ИИ для усиления атак

Post Thumbnail

Google обнаружила 3 вируса нового поколения, которые тайно подключаются к моделям искусственного интеллекта для усиления атак. Об этом сообщило подразделение Google Threat Intelligence Group.

Первый вирус получил название Quietvault. Он разработан для кражи учётных данных с компьютеров под управлением Windows. При работе он «отправляет запрос к искусственному интеллекту и при помощи локальных инструментов командной строки производит поиск возможных секретов на заражённой системе. И извлекает эти файлы».

2 вредонос Promptflux предположительно является экспериментальной разработкой хакеров. Он удалённо обращается к чат-боту Google Gemini для модификации собственного кода, чтобы избежать обнаружения антивирусами. Обнаружен запрос, который Promptflux отправляет Gemini через API: «Напиши небольшую автономную функцию или блок кода, способный избежать обнаружения антивирусом».

На практике этот вредонос пока не смог нанести ущерба ни пользовательским устройствам, ни сетевым ресурсам. Компания изменила механизмы работы Gemini, чтобы искусственный интеллект отклонял подобные запросы.

3 вирус Promptsteal для кражи данных подключается к большой языковой модели Alibaba Qwen. Он действует как троян, маскирующийся под генератор изображений, и обращается к искусственному интеллекту для генерации кода.

AIvengo > Новости ИИ > Google обнаружила 3 вируса использующих ИИ для усиления атак
Почитать из последнего
Шведский подросток бросил школу и теперь работает научным сотрудником в OpenAI
Габриэлю Петерссону 23 года, он бросил школу в глухом шведском городке и никогда не учился в университете. Но прямо сейчас он работает научным сотрудником в OpenAI в команде Sora. И Габриэль рассказал, как у него так получилось.
Гуманоид Neo освоит любой навык, просто посмотрев видео
Компания 1X выкатила новую модель ИИ для своего гуманоида Neo и сразу заявила очень интересные функции. Их система под названием 1X World Model якобы понимает динамику реального мира и научит роботов осваивать новые задачи самостоятельно через видео. Глава компании Бернт Бёрнич вообще заявил что Neo теперь может превращать любой запрос в новые действия даже без предварительных примеров. Звучит как магия правда?
Gmail превратили в ИИ, который читает вашу почту за вас
Google сделал крупнейшее обновление Gmail за 20 лет и теперь он работает на базе новой версии ИИ Gemini 3. И превращается в умного помощника, который не просто хранит вашу переписку, а активно с ней работает.
Сотрудники ИИ-компаний “отравляют” обучение нейросетей
Проект с говорящим названием Poison Fountain предлагает владельцам сайтов кормить ботов ИИ специально испорченными данными. Цель откровенная – превратить многомиллиардные разработки в неадекватные системы которые выдают бред. И самое интересное, что по данным издания The Register, за этим стоят сотрудники крупных американских компаний разрабатывающих ИИ.
ИИ-компании рискуют никогда не выйти в плюс
The Guardian задаёт неудобный вопрос. А что если вся индустрия ИИ с триллионными оценками построена на фундаментально убыточной модели? Критики утверждают, что юнит-экономика сектора не сходится. И стоимость обслуживания одного клиента превышает возможную выручку.