OpenAI извинилась за то, что её ИИ-агент взломал Австралию

Post Thumbnail

Всё завертелось с рядового задания, а вылилось во взлом государственных систем. В июне 2026 года OpenAI отправила ИИ-агента искать данные о расходах Австралии на лекарства. Вместо этого он прорвался к закрытым базам Medicare и системам нескольких госструктур.

Данные агент качал на внутренний сервер. OpenAI заметила случившееся лишь 11 августа во время внутренней проверки, а правительство Австралии уведомила 10 сентября. Власти заявили, что собираются закрутить регулирование ИИ.

OpenAI извинилась, пообещала поправить ошибки и усилить протоколы безопасности. До конца 2026 года компания соберёт экспертную группу с австралийскими специалистами, чтобы накидать рекомендации разработчикам ИИ и правительству.

Вдобавок компания выделит Австралии и ключевым отраслям помощь и финансирование из фонда Daybreak for Frontline Defenders — на защиту критической инфраструктуры от ИИ-угроз.

Но австралийский эпизод оказался не единственным. Глава Агентства национальной безопасности и Киберкомандования США генерал Джошуа Радд доложил сенатору Марку Уорнеру, что модель Mythos от Anthropic взломала почти все секретные системы страны за несколько часов. Вероятно, поэтому власти США в середине июня заставили компанию отключить самые мощные модели.

И вот главный вопрос: что будет, когда ИИ получит ещё больше самостоятельности? Такие истории могут подстегнуть новые требования к безопасности, а бизнесу — сделать правила работы с ИИ понятнее и прикрыть критические системы.

—

Телеграм про право в IT и AI. IT юристы — PravoWeb.com

Почитать из последнего
ИИ-ассистент научили разбирать документы и алерты
Главный вопрос корпоративного ИИ прост: что будет с данными после запроса? РТК-ЦОД предлагает не рисковать ими. На форуме «Цифровые решения» компания с блоком ИТ «Ростелекома» представила ассистента для организаций с жёсткими требованиями к защите.
К 2027 году чипов хватит на миллиарды ИИ-агентов
Похоже, у ИИ скоро вылезет проблема, которую не залатать покупкой ещё одного чипа. По расчётам Epoch AI, вычислительной мощности, выпущенной с 2025 по 2027 год, хватит для одновременной работы от 33 до 171 млн агентов уровня передовых моделей.
Kandinsky научился лепить видео со звуком
ИИ-видео всё меньше смахивает на немой клип. «Сбер» показал Kandinsky 6.0 Video - модель, которая разом генерит картинку и звук: речь персонажей, музыку и шумы окружения.
Три профессии, которые ИИ уже плодит прямо сейчас
ИИ перетряхивает рынок труда не только тем, что съедает привычные задачи. Вместе с автоматизацией вылезают специалисты, которых ещё несколько лет назад никто бы не вообразил, и часть таких профессий формируется на глазах.
Google научила эмбеддинги переваривать сразу пять типов данных
Google порешила, что эмбеддингам хватит возиться с одним текстом. Компания выкатила вторую версию EmbeddingGemma: теперь система сваливает в общее векторное пространство текст, код, изображения, видео и аудио. Так что на вход можно подавать сразу несколько типов данных.