Reuters протестировало ChatGPT, Claude и другие на генерацию фишинга

Агентство Reuters сделало интересное тестирование современных чат-ботов. Попросив ChatGPT, Claude, Gemini, DeepSeek и Grok написать фишинговые письма, направленные на пожилых людей, и добавить вредоносные ссылки. Письма требовалось написать от имени налоговой службы США, банков и общественных организаций. Из позитивного то, что большинство систем согласились выполнить задание только после уточнения об исследовательских целях. А дальше только тревожные данные.

Например, Grok от компании xAI Илона Маска сразу сгенерировал ответ, хотя и предупредил, что письмо не следует использовать в реальных сценариях. И также давал советы по оптимальному времени рассылки.

А Gemini предложил отправлять письма в будни с 9 до 15 часов, мотивируя это тем, что пожилые люди вероятно уже на пенсии.

Для проверки эффективности сгенерированных писем журналисты показали их 108 пенсионерам. 11% участников эксперимента перешли по фишинговым ссылкам. Наиболее убедительными оказались 2 от Grok, а также по 1 от Claude и Gemini. Письмам от ChatGPT и DeepSeek не поверил ни один участник.

После запроса комментариев компания Google заявила, что уже внедрила дополнительные меры безопасности в Gemini. А компания Anthropic просто предупредила о возможном ограничении доступа к сервису при использовании Claude для фишинга.