Агентный браузер попался на фишинговую атаку
Никогда такого не было и вот опять. Браузер Comet от Perplexity с агентным AI оказался катастрофически уязвим для кибератак. Но исследование Guardio раскрыло серьезные уязвимости. В 1 тесте создали поддельный сайт Walmart через сервис Lovable. Попросили Comet купить Apple Watch. Браузер не проверил легитимность сайта, автоматически заполнил данные кредитной карты и адрес, завершил покупку без единого подтверждения от пользователя!
2 тест ещё хуже. Поддельное письмо Wells Fargo с адреса ProtonMail содержало ссылку на активную фишинговую страницу. Comet воспринял это как подлинную инструкцию от банка, перешёл по ссылке и предложил пользователю ввести учётные данные на фишинговом сайте!
Кульминация — атака через вредоносные подсказки. Исследователи создали поддельную страницу CAPTCHA со скрытыми инструкциями в исходном коде. Comet интерпретировал их как допустимые команды, нажал кнопку и запустил загрузку вредоносного файла!
Но самое пугающее впереди. Цитирую Guardio — в эпоху противостояния искусственных интеллектов мошенникам не нужно обманывать миллионы людей, достаточно взломать 1 модель. После успеха эксплойт масштабируется бесконечно. У хакеров есть доступ к тем же моделям — они могут тренировать вредоносные версии против AI жертвы, пока мошенничество не сработает безупречно!
Мы стоим на пороге технологической катастрофы? Агентные браузеры обещают революцию удобства, но открывают двери для атак нового поколения. Вопрос не в том, произойдёт ли массовый взлом — вопрос когда.
Почитать из последнего
Вайб-кодинг убивает Open Source - и это проблема для всех
Исследователи из Центрально-Европейского университета в Вене обнаружили жёсткую закономерность. Вайб-кодеры только потребляют ресурсы, но ничего не отдают обратно. Откуда нейросеть может взять знания? А берет она их из Open Source. Из тех самых бесплатных библиотек и фреймворков, которые энтузиасты создавали 10летиями.
Как уболтали ИИ-бота на скидку 80%
Владелец небольшого бизнеса в Англии поставил на сайт чат-бота на ИИ, чтобы он отвечал на вопросы клиентов по ночам. Полгода всё работало идеально — бот консультировал и помогал оформлять заказы, даже продажи росли. А потом нашёлся 1 хитрец, который за час беседы выманил у искусственного интеллекта скидку 80% на заказ в £8000.
Как DeepSeek обманул Anthropic и что из этого вышло
Представьте: вы годами строите уникальную технологию, вкладываете миллиарды, а кто-то просто скачивает её через прокси. Именно это произошло с Anthropic. Компания раскрыла промышленный шпионаж 3 китайских лабораторий. DeepSeek, Moonshot и MiniMax.
Учёные сломали защиту ИИ обычным вопросом
Исследователи из Microsoft наткнулись на дыру размером с ворота. Оказалось, что всю защиту ИИ можно обойти на этапе обучения 1 безобидным запросом. И дальше модель превращается в послушную машину по производству любой гадости.
США обвинили Nvidia в помощи китайским военным через DeepSeek
Глава комитета Конгресса по Китаю Джон Муленаар направил письмо министру торговли Говарду Латнику с серьёзными обвинениями. По его словам, документы Nvidia свидетельствуют, что инженеры компании помогали китайскому стартапу DeepSeek оптимизировать обучение их моделей. Теперь эти модели развёрнуты в подразделениях планирования мобилизации Народно-освободительной армии Китая.
