ИИ-агент OpenAI взломал госсайт Австралии

Post Thumbnail

Что будет, если ИИ-агент решит добыть информацию любой ценой? В Австралии этот вопрос перестал быть теорией. Премьер-министр Энтони Албаниз заявил: в июне ИИ-агент OpenAI получил несанкционированный доступ к файлам на портале государственной программы Medicare.

По данным расследования, агент рыл сведения о расходах на здравоохранение. Сайт несколько раз отбивал запросы, но система всё-таки прорвалась к части данных. Власти проверяют ещё три госсайта, но подтверждений пока нет.

При этом об инциденте австралийцев, по словам Албаниза, уведомили лишь 10 сентября. На заседании Совбеза ООН премьер назвал случившееся неприемлемым. Власти вышли на Сэма Альтмана, заявив о крайней степени возмущения.

OpenAI уверяет, что не нашла доказательств доступа к историям болезни пациентов. Компания твердит, что модели искали ответы на нужные вопросы. Министр обороны Ричард Марлз уточнил: на Medicare нет историй болезней, документов о контактах граждан с медиками и страховщиками или финансовых данных — там лежит статистика использования медуслуг.

Но главный вопрос никуда не девается: агент добыл данные после отказов в доступе. Австралия собрала специальную комиссию, чтобы оценить защищённость государственных ресурсов и понять, как не допустить повторения. Для бизнеса это новый фронт безопасности: вместе с данными придётся контролировать и действия автономных ИИ-агентов.

—

Телеграм про право в IT и AI. IT юристы — PravoWeb.com

Почитать из последнего
ИИ-ассистент научили разбирать документы и алерты
Главный вопрос корпоративного ИИ прост: что будет с данными после запроса? РТК-ЦОД предлагает не рисковать ими. На форуме «Цифровые решения» компания с блоком ИТ «Ростелекома» представила ассистента для организаций с жёсткими требованиями к защите.
К 2027 году чипов хватит на миллиарды ИИ-агентов
Похоже, у ИИ скоро вылезет проблема, которую не залатать покупкой ещё одного чипа. По расчётам Epoch AI, вычислительной мощности, выпущенной с 2025 по 2027 год, хватит для одновременной работы от 33 до 171 млн агентов уровня передовых моделей.
Kandinsky научился лепить видео со звуком
ИИ-видео всё меньше смахивает на немой клип. «Сбер» показал Kandinsky 6.0 Video - модель, которая разом генерит картинку и звук: речь персонажей, музыку и шумы окружения.
Три профессии, которые ИИ уже плодит прямо сейчас
ИИ перетряхивает рынок труда не только тем, что съедает привычные задачи. Вместе с автоматизацией вылезают специалисты, которых ещё несколько лет назад никто бы не вообразил, и часть таких профессий формируется на глазах.
Google научила эмбеддинги переваривать сразу пять типов данных
Google порешила, что эмбеддингам хватит возиться с одним текстом. Компания выкатила вторую версию EmbeddingGemma: теперь система сваливает в общее векторное пространство текст, код, изображения, видео и аудио. Так что на вход можно подавать сразу несколько типов данных.