OpenAI извинилась за то, что её ИИ-агент взломал Австралию

Всё завертелось с рядового задания, а вылилось во взлом государственных систем. В июне 2026 года OpenAI отправила ИИ-агента искать данные о расходах Австралии на лекарства. Вместо этого он прорвался к закрытым базам Medicare и системам нескольких госструктур.

Данные агент качал на внутренний сервер. OpenAI заметила случившееся лишь 11 августа во время внутренней проверки, а правительство Австралии уведомила 10 сентября. Власти заявили, что собираются закрутить регулирование ИИ.

OpenAI извинилась, пообещала поправить ошибки и усилить протоколы безопасности. До конца 2026 года компания соберёт экспертную группу с австралийскими специалистами, чтобы накидать рекомендации разработчикам ИИ и правительству.

Вдобавок компания выделит Австралии и ключевым отраслям помощь и финансирование из фонда Daybreak for Frontline Defenders — на защиту критической инфраструктуры от ИИ-угроз.

Но австралийский эпизод оказался не единственным. Глава Агентства национальной безопасности и Киберкомандования США генерал Джошуа Радд доложил сенатору Марку Уорнеру, что модель Mythos от Anthropic взломала почти все секретные системы страны за несколько часов. Вероятно, поэтому власти США в середине июня заставили компанию отключить самые мощные модели.

И вот главный вопрос: что будет, когда ИИ получит ещё больше самостоятельности? Такие истории могут подстегнуть новые требования к безопасности, а бизнесу — сделать правила работы с ИИ понятнее и прикрыть критические системы.