Как Claude стал инструментом для взлома 17 организаций

Post Thumbnail

Компания Anthropic выпустила аналитический отчёт по безопасности. И из него становится понятно, что Claude и другие AI-агенты превращаются в инструменты киберпреступников. В Anthropic назвали это новое направление вайб-хакингом. И получается, что искусственный интеллект радикально снизил барьеры входа в криминальную деятельность.

Масштаб проблемы интересен конкретными кейсами. Claude Code использовался для взлома 17 организаций в разных странах. Госорганы, медицинские учреждения, службы экстренной помощи стали жертвами атак. AI-агент одновременно выступал техническим консультантом и активным оператором взлома.

Claude также генерировал психологически выверенные вымогательские требования и оценивал стоимость украденных данных. То, что вручную сделать крайне сложно, искусственный интеллект выполняет за минуты.

Монетизация зла тоже достигла промышленных масштабов. 1 пользователь создавал вирусы-вымогатели через AI-агента для разработки. А затем продавал их другим преступникам по цене от $400 до $1200.

Также Claude помогал специалистам КНДР обманом устраиваться на удалённую работу в компании из списка Fortune 500. Раньше требовались люди с высшим образованием и знанием английского. Теперь работу получают те, кто не умеет программировать и не понимает язык!

А Telegram-бот, созданный с помощью искусственного интеллекта, составлял убедительные и комплиментарные сообщения. Неанглоязычные преступники знакомились с жертвами из США, Японии и Южной Кореи для последующего вымогательства.

Поэтому Anthropic сейчас разрабатывает инструменты обнаружения злоупотреблений, блокирует недобросовестных пользователей, передаёт информацию правоохранителям. Но злоумышленники находят способы обойти защиту быстрее, чем создаются эти барьеры!

AIvengo > Новости ИИ > Как Claude стал инструментом для взлома 17 организаций
Почитать из последнего
Учёные сравнили 9000 человек с ИИ и выяснили, что люди креативнее
В журнале Nature Human Behaviour опубликовали масштабное исследование креативности людей и больших языковых моделей. Учёные из Гонконгского университета и Северо-Западного университета сравнили 9198 человек с восемью LLM на тесте дивергентного мышления. В общей сложности 215 542 прогона моделей.
OpenAI готовит армию говорящих устройств и новую голосовую модель
Издание The Information выяснило забавную вещь про OpenAI. Оказывается, когда вы общаетесь с ChatGPT голосом, вы разговариваете совсем не с той моделью, которая отвечает текстом. Голосовая версия 4o не получила ни одного обновления после выхода GPT-5. Она не умеет думать, не знает про цепочки рассуждений. Ничего из того, чем хвастались в последних релизах. Просто старая добрая болтушка, застывшая в прошлом году.
Samsung хотят обойти Apple по ИИ-функциям и вернуть лидерство
В прошлом году Samsung поставила на рынок 400 миллионов мобильных устройств с ассистентом Google Gemini. Этого, видимо, показалось мало. В этом году южнокорейский гигант намерен удвоить количество до 800 миллионов штук. Тэ Мун Ро, один из двух гендиректоров Samsung Electronics, объяснил агентству Reuters это просто. Компания стремится распространить функции ИИ на все устройства и все услуги как можно скорее.
Alibaba научила алгоритм видеть рак там, где врачи пропускают
Каменщик 57 лет в Китае пришёл в больницу проверить диабет. Обычный осмотр, ничего особенного. Через 3 дня ему звонит заведующий отделением поджелудочной железы, мол приезжайте срочно. ИИ, который прогнал его КТ-снимок, нашёл опухоль. Оказалось – рак, но на ранней стадии. Вырезали и мужчина выжил. Без этой технологии его бы нашли слишком поздно, когда 5-летняя выживаемость около 10%.
OpenAI к 2028 году увеличит мощности дата-центров в 90 раз
Epoch AI сделал публично доступным трекер крупнейших дата-центров. А человек из твиттера с ником Peter Gostev визуализировал суммарные мощности по месяцам в разрезе компаний, и цифры просто убийственные.