Как Claude стал инструментом для взлома 17 организаций

Post Thumbnail

Компания Anthropic выпустила аналитический отчёт по безопасности. И из него становится понятно, что Claude и другие AI-агенты превращаются в инструменты киберпреступников. В Anthropic назвали это новое направление вайб-хакингом. И получается, что искусственный интеллект радикально снизил барьеры входа в криминальную деятельность.

Масштаб проблемы интересен конкретными кейсами. Claude Code использовался для взлома 17 организаций в разных странах. Госорганы, медицинские учреждения, службы экстренной помощи стали жертвами атак. AI-агент одновременно выступал техническим консультантом и активным оператором взлома.

Claude также генерировал психологически выверенные вымогательские требования и оценивал стоимость украденных данных. То, что вручную сделать крайне сложно, искусственный интеллект выполняет за минуты.

Монетизация зла тоже достигла промышленных масштабов. 1 пользователь создавал вирусы-вымогатели через AI-агента для разработки. А затем продавал их другим преступникам по цене от $400 до $1200.

Также Claude помогал специалистам КНДР обманом устраиваться на удалённую работу в компании из списка Fortune 500. Раньше требовались люди с высшим образованием и знанием английского. Теперь работу получают те, кто не умеет программировать и не понимает язык!

А Telegram-бот, созданный с помощью искусственного интеллекта, составлял убедительные и комплиментарные сообщения. Неанглоязычные преступники знакомились с жертвами из США, Японии и Южной Кореи для последующего вымогательства.

Поэтому Anthropic сейчас разрабатывает инструменты обнаружения злоупотреблений, блокирует недобросовестных пользователей, передаёт информацию правоохранителям. Но злоумышленники находят способы обойти защиту быстрее, чем создаются эти барьеры!

AIvengo > Новости ИИ > Как Claude стал инструментом для взлома 17 организаций
Почитать из последнего
Создатели ИИ стали его первыми жертвами
OpenAI планирует значительно замедлить темпы роста и сократить набор новых сотрудников. По данным Business Insider, гендиректор Сэм Альтман заявил, что ИИ изменил темпы роста штата компании. Ирония ситуации в том, что создатели технологии, которая должна заменять людей, сами стали её первыми жертвами.
Oracle потеряла 463 миллиарда из-за паники вокруг ИИ
Акции Oracle рухнули более чем на 50 процентов по сравнению с прошлогодним историческим максимумом. Падение привело к снижению рыночной стоимости примерно на 463 миллиарда долларов по сравнению с рекордом, достигнутым 10 сентября. Когда компания представила впечатляющие перспективы облачного бизнеса и растущий спрос на ИИ. Тогда стоимость превысила 933 миллиарда долларов, что сделало её десятой по стоимости публичной компанией в США.
Магазины в США вытаскивают память и видеокарты из витринных ПК из-за воров
Американские магазины начали изымать модули оперативной памяти и видеокарты из витринных образцов игровых компьютеров из-за участившихся краж. Например, розничная сеть Costco столкнулась с проблемой настолько массово, что теперь показывает ПК вообще без внутренностей. Просто корпуса с работающей RGB-подсветкой и вентиляторами.
Airtable потеряла две трети стоимости и запустила ИИ, который её убьёт
Представьте: ваша компания рухнула с 11 миллиардов до 4, инвесторы в шоке, опционы сотрудников превратились в тыкву. Что делать? Логично было бы затаиться и латать дыры. Но основатель Airtable Хоуи Лю, делает ровно наоборот. Запускает совершенно новый продукт, который может похоронить его основной бизнес.
Гуманоид с бровями будет приносить вам зубные щётки в отеле
Американский стартап Fauna представил человекоподобного робота Sprout, и это не очередная железяка для склада. Его задача — быть компаньоном в гостиницах, ресторанах и магазинах. Принести стакан воды, подать зубную щётку, сопроводить до номера. Цена — 50 тысяч долларов, но Disney и Boston Dynamics уже среди первых покупателей.