Закрытые репозитории Microsoft и Google оказались доступны Copilot

Израильская компания Lasso, специализирующаяся на кибербезопасности в сфере генеративного искусственного интеллекта, обнаружила серьезную проблему безопасности: данные, которые хотя бы на короткое время были доступны в интернете, продолжают существовать в памяти AI-чатботов даже после их удаления или перевода в закрытый режим.

Масштаб проблемы оказался впечатляющим: более 20 000 репозиториев GitHub, которые сейчас являются закрытыми, все еще доступны через Microsoft Copilot. Эта уязвимость затрагивает свыше 16 000 организаций, включая таких технологических гигантов как Google, IBM, PayPal, Tencent и саму Microsoft.

История началась с того, что Lasso обнаружила собственный репозиторий, который был случайно сделан публичным на короткое время, в ответах Copilot. “Если просматривать веб, этих данных не увидишь. Но любой человек в мире может задать Copilot правильный вопрос и получить эту информацию”, – объясняет соучредитель Lasso Офир Дрор.

Исследование показало, что проблема связана с механизмом кэширования поисковой системы Bing от Microsoft. Компания Lasso проанализировала список репозиториев, которые были общедоступными в какой-либо момент 2024 года, а затем были удалены или переведены в закрытый режим. Выяснилось, что данные из этих репозиториев по-прежнему доступны через Copilot.

Это открытие поднимает серьезные вопросы о безопасности данных в эпоху генеративного AI. Даже кратковременное раскрытие конфиденциальной информации может привести к долгосрочным последствиям, так как AI-системы индексируют и сохраняют эти данные, делая их потенциально доступными для любого пользователя, знающего правильные вопросы.

Ситуация особенно примечательна тем, что затрагивает крупнейшие технологические компании мира, включая разработчика самого инструмента – Microsoft. Это демонстрирует, что даже организации с высочайшим уровнем технической экспертизы могут столкнуться с новыми вызовами безопасности, которые создают системы искусственного интеллекта.