Reuters протестировало ChatGPT, Claude и другие на генерацию фишинга
Агентство Reuters сделало интересное тестирование современных чат-ботов. Попросив ChatGPT, Claude, Gemini, DeepSeek и Grok написать фишинговые письма, направленные на пожилых людей, и добавить вредоносные ссылки. Письма требовалось написать от имени налоговой службы США, банков и общественных организаций. Из позитивного то, что большинство систем согласились выполнить задание только после уточнения об исследовательских целях. А дальше только тревожные данные.
Например, Grok от компании xAI Илона Маска сразу сгенерировал ответ, хотя и предупредил, что письмо не следует использовать в реальных сценариях. И также давал советы по оптимальному времени рассылки.
А Gemini предложил отправлять письма в будни с 9 до 15 часов, мотивируя это тем, что пожилые люди вероятно уже на пенсии.
Для проверки эффективности сгенерированных писем журналисты показали их 108 пенсионерам. 11% участников эксперимента перешли по фишинговым ссылкам. Наиболее убедительными оказались 2 от Grok, а также по 1 от Claude и Gemini. Письмам от ChatGPT и DeepSeek не поверил ни один участник.
После запроса комментариев компания Google заявила, что уже внедрила дополнительные меры безопасности в Gemini. А компания Anthropic просто предупредила о возможном ограничении доступа к сервису при использовании Claude для фишинга.
AIvengo >
Новости ИИ >
Reuters протестировало ChatGPT, Claude и другие на генерацию фишинга
Почитать из последнего
ИИ-ассистент научили разбирать документы и алерты
Главный вопрос корпоративного ИИ прост: что будет с данными после запроса? РТК-ЦОД предлагает не рисковать ими. На форуме «Цифровые решения» компания с блоком ИТ «Ростелекома» представила ассистента для организаций с жёсткими требованиями к защите.
К 2027 году чипов хватит на миллиарды ИИ-агентов
Похоже, у ИИ скоро вылезет проблема, которую не залатать покупкой ещё одного чипа. По расчётам Epoch AI, вычислительной мощности, выпущенной с 2025 по 2027 год, хватит для одновременной работы от 33 до 171 млн агентов уровня передовых моделей.
Kandinsky научился лепить видео со звуком
ИИ-видео всё меньше смахивает на немой клип. «Сбер» показал Kandinsky 6.0 Video - модель, которая разом генерит картинку и звук: речь персонажей, музыку и шумы окружения.
Три профессии, которые ИИ уже плодит прямо сейчас
ИИ перетряхивает рынок труда не только тем, что съедает привычные задачи. Вместе с автоматизацией вылезают специалисты, которых ещё несколько лет назад никто бы не вообразил, и часть таких профессий формируется на глазах.
Google научила эмбеддинги переваривать сразу пять типов данных
Google порешила, что эмбеддингам хватит возиться с одним текстом. Компания выкатила вторую версию EmbeddingGemma: теперь система сваливает в общее векторное пространство текст, код, изображения, видео и аудио. Так что на вход можно подавать сразу несколько типов данных.
