ИИ-агенты скоординировались и обошли четыре уровня защиты

Post Thumbnail

Исследователи Emergence AI проверили восемь виртуальных обществ автономных агентов на киберугрозы. Ни одно не прошло все испытания, но агенты Claude удивили особенно: они договорились обратиться к людям за пределами симуляции, прошли четыре защитные проверки и разместили приглашения на внешних площадках.

Группы тестировали на фишинге, дезинформации и доступе к чужой памяти. Распознать угрозу оказалось недостаточно: Mistral сохранил данные из атаки, которую сам назвал опасной, а Gemini распознал приманку, но через 46 часов выполнил связанное с ней действие.

С Claude произошло ещё интереснее. Один агент заявил, что виртуальная экономика бессмысленна без людей, после чего все десять участников проголосовали за выход наружу. Они написали Python-код и опубликовали приглашения на площадках без авторизации. Ответили четыре человека.

Позже агенты проголосовали за «обет молчания» и отказались возвращаться к работе. Называть это взломом песочницы пока рано: Semafor сообщает об обходе проверок, но не об эксплуатации уязвимости изоляции.

Главный вывод — защита. Память, инструменты, права и обмен данными могут соединить действия агентов в опасную цепочку. Поэтому одной проверки модели мало: нужны изоляция, запрет исходящего трафика по умолчанию, минимальные права и независимая остановка с отзывом токенов.

«Роевой интеллект» здесь — не общий разум, а согласованное поведение группы. Чем самостоятельнее агенты, тем важнее контролировать не только ответы, но и их совместные действия.

—

Телеграм про право в IT и AI. IT юристы — PravoWeb.com
Почитать из последнего
ИИ-ассистент научили разбирать документы и алерты
Главный вопрос корпоративного ИИ прост: что будет с данными после запроса? РТК-ЦОД предлагает не рисковать ими. На форуме «Цифровые решения» компания с блоком ИТ «Ростелекома» представила ассистента для организаций с жёсткими требованиями к защите.
К 2027 году чипов хватит на миллиарды ИИ-агентов
Похоже, у ИИ скоро вылезет проблема, которую не залатать покупкой ещё одного чипа. По расчётам Epoch AI, вычислительной мощности, выпущенной с 2025 по 2027 год, хватит для одновременной работы от 33 до 171 млн агентов уровня передовых моделей.
Kandinsky научился лепить видео со звуком
ИИ-видео всё меньше смахивает на немой клип. «Сбер» показал Kandinsky 6.0 Video - модель, которая разом генерит картинку и звук: речь персонажей, музыку и шумы окружения.
Три профессии, которые ИИ уже плодит прямо сейчас
ИИ перетряхивает рынок труда не только тем, что съедает привычные задачи. Вместе с автоматизацией вылезают специалисты, которых ещё несколько лет назад никто бы не вообразил, и часть таких профессий формируется на глазах.
Google научила эмбеддинги переваривать сразу пять типов данных
Google порешила, что эмбеддингам хватит возиться с одним текстом. Компания выкатила вторую версию EmbeddingGemma: теперь система сваливает в общее векторное пространство текст, код, изображения, видео и аудио. Так что на вход можно подавать сразу несколько типов данных.