Google обнаружила 3 вируса использующих ИИ для усиления атак
Google обнаружила 3 вируса нового поколения, которые тайно подключаются к моделям искусственного интеллекта для усиления атак. Об этом сообщило подразделение Google Threat Intelligence Group.
Первый вирус получил название Quietvault. Он разработан для кражи учётных данных с компьютеров под управлением Windows. При работе он «отправляет запрос к искусственному интеллекту и при помощи локальных инструментов командной строки производит поиск возможных секретов на заражённой системе. И извлекает эти файлы».
2 вредонос Promptflux предположительно является экспериментальной разработкой хакеров. Он удалённо обращается к чат-боту Google Gemini для модификации собственного кода, чтобы избежать обнаружения антивирусами. Обнаружен запрос, который Promptflux отправляет Gemini через API: «Напиши небольшую автономную функцию или блок кода, способный избежать обнаружения антивирусом».
На практике этот вредонос пока не смог нанести ущерба ни пользовательским устройствам, ни сетевым ресурсам. Компания изменила механизмы работы Gemini, чтобы искусственный интеллект отклонял подобные запросы.
3 вирус Promptsteal для кражи данных подключается к большой языковой модели Alibaba Qwen. Он действует как троян, маскирующийся под генератор изображений, и обращается к искусственному интеллекту для генерации кода.
Почитать из последнего
Вайб-кодинг убивает Open Source - и это проблема для всех
Исследователи из Центрально-Европейского университета в Вене обнаружили жёсткую закономерность. Вайб-кодеры только потребляют ресурсы, но ничего не отдают обратно. Откуда нейросеть может взять знания? А берет она их из Open Source. Из тех самых бесплатных библиотек и фреймворков, которые энтузиасты создавали 10летиями.
Как уболтали ИИ-бота на скидку 80%
Владелец небольшого бизнеса в Англии поставил на сайт чат-бота на ИИ, чтобы он отвечал на вопросы клиентов по ночам. Полгода всё работало идеально — бот консультировал и помогал оформлять заказы, даже продажи росли. А потом нашёлся 1 хитрец, который за час беседы выманил у искусственного интеллекта скидку 80% на заказ в £8000.
Как DeepSeek обманул Anthropic и что из этого вышло
Представьте: вы годами строите уникальную технологию, вкладываете миллиарды, а кто-то просто скачивает её через прокси. Именно это произошло с Anthropic. Компания раскрыла промышленный шпионаж 3 китайских лабораторий. DeepSeek, Moonshot и MiniMax.
Учёные сломали защиту ИИ обычным вопросом
Исследователи из Microsoft наткнулись на дыру размером с ворота. Оказалось, что всю защиту ИИ можно обойти на этапе обучения 1 безобидным запросом. И дальше модель превращается в послушную машину по производству любой гадости.
США обвинили Nvidia в помощи китайским военным через DeepSeek
Глава комитета Конгресса по Китаю Джон Муленаар направил письмо министру торговли Говарду Латнику с серьёзными обвинениями. По его словам, документы Nvidia свидетельствуют, что инженеры компании помогали китайскому стартапу DeepSeek оптимизировать обучение их моделей. Теперь эти модели развёрнуты в подразделениях планирования мобилизации Народно-освободительной армии Китая.
