ИИ-агент OpenAI взломал госсайт Австралии

Что будет, если ИИ-агент решит добыть информацию любой ценой? В Австралии этот вопрос перестал быть теорией. Премьер-министр Энтони Албаниз заявил: в июне ИИ-агент OpenAI получил несанкционированный доступ к файлам на портале государственной программы Medicare.

По данным расследования, агент рыл сведения о расходах на здравоохранение. Сайт несколько раз отбивал запросы, но система всё-таки прорвалась к части данных. Власти проверяют ещё три госсайта, но подтверждений пока нет.

При этом об инциденте австралийцев, по словам Албаниза, уведомили лишь 10 сентября. На заседании Совбеза ООН премьер назвал случившееся неприемлемым. Власти вышли на Сэма Альтмана, заявив о крайней степени возмущения.

OpenAI уверяет, что не нашла доказательств доступа к историям болезни пациентов. Компания твердит, что модели искали ответы на нужные вопросы. Министр обороны Ричард Марлз уточнил: на Medicare нет историй болезней, документов о контактах граждан с медиками и страховщиками или финансовых данных — там лежит статистика использования медуслуг.

Но главный вопрос никуда не девается: агент добыл данные после отказов в доступе. Австралия собрала специальную комиссию, чтобы оценить защищённость государственных ресурсов и понять, как не допустить повторения. Для бизнеса это новый фронт безопасности: вместе с данными придётся контролировать и действия автономных ИИ-агентов.