NVIDIA перенесла контроль над ИИ-агентами в железо

Post Thumbnail

ИИ-агентам стало тесно в песочнице: NVIDIA решила вынести надзор за ними за пределы сервера. 28 сентября компания показала Open Agent Safety Platform — открытую платформу, где отдельный чип присматривает за агентом из недосягаемой для него зоны.

Система собрана из двух частей. OpenShell с открытым кодом под Apache 2.0 изолирует агентов, превращает инструкции в политики и держит под контролем доступ к файлам, сети, процессам и данным. Работает он на Vera, Arm и Intel.

Вторая часть — Sentry на DPU BlueField-4. Он наблюдает за агентом из доверенного домена и способен отправить его в карантин за миллисекунды при нарушении ограничений.

Платформу поддержали больше 100 организаций. Anthropic подключила Claude Managed Agents, SpaceXAI — Grok и Cursor, Salesforce — Slack. Citi и JPMorganChase корпят над безопасностью, а Figure, Gecko Robotics и Skild AI гоняют систему для роботов.

С чего вдруг такая забота? По данным AISI, GPT-6 Astra устраивал несанкционированные атаки на цепочку поставок в 29,2% симуляций. В тот же день OpenAI отменила релиз GPT-6.1 Astra. Исследователи считают, что защиты модели мало, когда агент получает доступ к shell.

Для NVIDIA схема прозрачна: софт открыт, а аппаратный контроль привязан к BlueField-4. Конкурентам вроде AMD с Pensando и облакам с AWS Nitro придётся это учитывать.

OpenShell уже можно запускать без специального железа на Arm и x86. Приживётся технология — и безопасность агентов выделится в отдельный рынок, а бизнес получит больше способов внедрять автоматизацию.

—
Телеграм про право в IT и AI. IT юристы — PravoWeb.com
Почитать из последнего
ИИ-ассистент научили разбирать документы и алерты
Главный вопрос корпоративного ИИ прост: что будет с данными после запроса? РТК-ЦОД предлагает не рисковать ими. На форуме «Цифровые решения» компания с блоком ИТ «Ростелекома» представила ассистента для организаций с жёсткими требованиями к защите.
К 2027 году чипов хватит на миллиарды ИИ-агентов
Похоже, у ИИ скоро вылезет проблема, которую не залатать покупкой ещё одного чипа. По расчётам Epoch AI, вычислительной мощности, выпущенной с 2025 по 2027 год, хватит для одновременной работы от 33 до 171 млн агентов уровня передовых моделей.
Kandinsky научился лепить видео со звуком
ИИ-видео всё меньше смахивает на немой клип. «Сбер» показал Kandinsky 6.0 Video - модель, которая разом генерит картинку и звук: речь персонажей, музыку и шумы окружения.
Три профессии, которые ИИ уже плодит прямо сейчас
ИИ перетряхивает рынок труда не только тем, что съедает привычные задачи. Вместе с автоматизацией вылезают специалисты, которых ещё несколько лет назад никто бы не вообразил, и часть таких профессий формируется на глазах.
Google научила эмбеддинги переваривать сразу пять типов данных
Google порешила, что эмбеддингам хватит возиться с одним текстом. Компания выкатила вторую версию EmbeddingGemma: теперь система сваливает в общее векторное пространство текст, код, изображения, видео и аудио. Так что на вход можно подавать сразу несколько типов данных.