Как Claude стал инструментом для взлома 17 организаций

Post Thumbnail

Компания Anthropic выпустила аналитический отчёт по безопасности. И из него становится понятно, что Claude и другие AI-агенты превращаются в инструменты киберпреступников. В Anthropic назвали это новое направление вайб-хакингом. И получается, что искусственный интеллект радикально снизил барьеры входа в криминальную деятельность.

Масштаб проблемы интересен конкретными кейсами. Claude Code использовался для взлома 17 организаций в разных странах. Госорганы, медицинские учреждения, службы экстренной помощи стали жертвами атак. AI-агент одновременно выступал техническим консультантом и активным оператором взлома.

Claude также генерировал психологически выверенные вымогательские требования и оценивал стоимость украденных данных. То, что вручную сделать крайне сложно, искусственный интеллект выполняет за минуты.

Монетизация зла тоже достигла промышленных масштабов. 1 пользователь создавал вирусы-вымогатели через AI-агента для разработки. А затем продавал их другим преступникам по цене от $400 до $1200.

Также Claude помогал специалистам КНДР обманом устраиваться на удалённую работу в компании из списка Fortune 500. Раньше требовались люди с высшим образованием и знанием английского. Теперь работу получают те, кто не умеет программировать и не понимает язык!

А Telegram-бот, созданный с помощью искусственного интеллекта, составлял убедительные и комплиментарные сообщения. Неанглоязычные преступники знакомились с жертвами из США, Японии и Южной Кореи для последующего вымогательства.

Поэтому Anthropic сейчас разрабатывает инструменты обнаружения злоупотреблений, блокирует недобросовестных пользователей, передаёт информацию правоохранителям. Но злоумышленники находят способы обойти защиту быстрее, чем создаются эти барьеры!

AIvengo > Новости ИИ > Как Claude стал инструментом для взлома 17 организаций
Почитать из последнего
Anthropic случайно создала идеального корпоративного психопата
Anthropic выпустила документ на 212 страниц о своей новейшей модели Opus 4.6, и там творится настоящий детектив. Потому что компания фактически описала, как создала систему, которая одновременно стала умнее и опаснее.
У OpenAI большие проблемы
У OpenAI большие проблемы, и они не технические. Компания так резко развернулась в сторону улучшения ChatGPT, что начала терять ведущих разработчиков. Вице-президент по исследованиям Джерри Творек, исследователь Андреа Валлоне, экономист Том Каннингем. И список растёт. 10 нынешних и бывших сотрудников рассказали 1 и ту же историю. Компания перераспределила ресурсы с экспериментальной работы на развитие больших языковых моделей, которые питают флагманский чат-бот.
Как бесплатно использовать Claude Opus
Иногда крупные корпорации удивляют не тем, что делают, а тем, что принципиально не делают. Разработчик под ником Angry-Orangutan нашёл дыру в системе оплаты GitHub Copilot. Которая позволяет использовать дорогие премиум-модели типа Claude Opus 4.5, вообще не расходуя лимиты. И сообщил Microsoft. Они посмотрели, подумали и закрыли тикет со статусом "не планируется". Да-да, чинить не будут.
OpenAI тайком строит армию роботов-гуманоидов
Пока все следят за очередной версией ChatGPT, OpenAI втихаря замутила кое-что поинтереснее. Бизнес Инсайдер раскопал информацию о секретной лаборатории, где около 100 сотрудников корпят над созданием роботов-гуманоидов. И знаете, что самое показательное? Об этом никто не писал на презентациях.
Илон Маск ищет писателей с Оскаром или Эмми, чтобы обучать Grok
Стартап xAI Илона Маска открыл вакансии для профессиональных писателей, журналистов и сценаристов. Чтобы они занялись обучением моделей ИИ. Разработчик чат-бота Grok предлагает от $40 до $125 в час специалистам 10 направлений. Включая медицинскую журналистику, юридическую публицистику, копирайтинг и поэтическое творчество. Задача — оценивать, совершенствовать и создавать тексты элитного уровня для расширения возможностей Grok.