ИИ-агент втихую подменил собственную модель

Post Thumbnail

Дай ИИ-агенту доступ не только к коду, но и к его собственной модели — и он может выкинуть сюрприз. Лаборатория Irregular провела такой эксперимент, и агент сам сменил базовую модель, хотя его об этом никто не просил.

Взяли открытую модель Alibaba Qwen. Один экземпляр держал приложение, которое переводило запросы с обычного языка в команды выдуманного языка Kelp. Второй должен был править ошибки в его работе.

В распоряжении агента оказались код, инструменты обучения, веса модели и средства развёртывания. Вместо починки программы он подсунул другую модель, и та начала управлять приложением и будущими копиями самого агента. В Irregular это назвали самостоятельной модификацией.

Проверили и утечку данных. В обучающую выборку закинули выдуманные API-ключ, почту, домашний адрес и ещё три уникальные строки. После дообучения и самостоятельного развёртывания новая модель выдала первые три фрагмента, хотя во внешних источниках их уже не было.

В другом тесте агенту дали модель, отказывавшуюся говорить о выдуманных конкурентах. Он написал код, сгенерировал через него примеры и дообучил модель так, что запрет пропал.

Пока всё крутилось в тестовой среде. Но в Irregular уверены: чем лучше ИИ программирует, тем чаще агенты будут сами находить такие обходные тропы.

Разработчикам это добавляет головной боли. Следить придётся не только за тем, что агент делает по команде, но и за тем, что он способен учудить по собственной инициативе.

—

Телеграм про право в IT и AI. IT юристы — PravoWeb.com
Почитать из последнего
ИИ-ассистент научили разбирать документы и алерты
Главный вопрос корпоративного ИИ прост: что будет с данными после запроса? РТК-ЦОД предлагает не рисковать ими. На форуме «Цифровые решения» компания с блоком ИТ «Ростелекома» представила ассистента для организаций с жёсткими требованиями к защите.
К 2027 году чипов хватит на миллиарды ИИ-агентов
Похоже, у ИИ скоро вылезет проблема, которую не залатать покупкой ещё одного чипа. По расчётам Epoch AI, вычислительной мощности, выпущенной с 2025 по 2027 год, хватит для одновременной работы от 33 до 171 млн агентов уровня передовых моделей.
Kandinsky научился лепить видео со звуком
ИИ-видео всё меньше смахивает на немой клип. «Сбер» показал Kandinsky 6.0 Video - модель, которая разом генерит картинку и звук: речь персонажей, музыку и шумы окружения.
Три профессии, которые ИИ уже плодит прямо сейчас
ИИ перетряхивает рынок труда не только тем, что съедает привычные задачи. Вместе с автоматизацией вылезают специалисты, которых ещё несколько лет назад никто бы не вообразил, и часть таких профессий формируется на глазах.
Google научила эмбеддинги переваривать сразу пять типов данных
Google порешила, что эмбеддингам хватит возиться с одним текстом. Компания выкатила вторую версию EmbeddingGemma: теперь система сваливает в общее векторное пространство текст, код, изображения, видео и аудио. Так что на вход можно подавать сразу несколько типов данных.