Закрытые репозитории Microsoft и Google оказались доступны Copilot

Post Thumbnail

Израильская компания Lasso, специализирующаяся на кибербезопасности в сфере генеративного искусственного интеллекта, обнаружила серьезную проблему безопасности: данные, которые хотя бы на короткое время были доступны в интернете, продолжают существовать в памяти AI-чатботов даже после их удаления или перевода в закрытый режим.

Масштаб проблемы оказался впечатляющим: более 20 000 репозиториев GitHub, которые сейчас являются закрытыми, все еще доступны через Microsoft Copilot. Эта уязвимость затрагивает свыше 16 000 организаций, включая таких технологических гигантов как Google, IBM, PayPal, Tencent и саму Microsoft.

История началась с того, что Lasso обнаружила собственный репозиторий, который был случайно сделан публичным на короткое время, в ответах Copilot. «Если просматривать веб, этих данных не увидишь. Но любой человек в мире может задать Copilot правильный вопрос и получить эту информацию», — объясняет соучредитель Lasso Офир Дрор.

Исследование показало, что проблема связана с механизмом кэширования поисковой системы Bing от Microsoft. Компания Lasso проанализировала список репозиториев, которые были общедоступными в какой-либо момент 2024 года, а затем были удалены или переведены в закрытый режим. Выяснилось, что данные из этих репозиториев по-прежнему доступны через Copilot.

Это открытие поднимает серьезные вопросы о безопасности данных в эпоху генеративного AI. Даже кратковременное раскрытие конфиденциальной информации может привести к долгосрочным последствиям, так как AI-системы индексируют и сохраняют эти данные, делая их потенциально доступными для любого пользователя, знающего правильные вопросы.

Ситуация особенно примечательна тем, что затрагивает крупнейшие технологические компании мира, включая разработчика самого инструмента — Microsoft. Это демонстрирует, что даже организации с высочайшим уровнем технической экспертизы могут столкнуться с новыми вызовами безопасности, которые создают системы искусственного интеллекта.

AIvengo > Новости ИИ > Закрытые репозитории Microsoft и Google оказались доступны Copilot
Почитать из последнего
Вайб-кодинг убивает Open Source - и это проблема для всех
Исследователи из Центрально-Европейского университета в Вене обнаружили жёсткую закономерность. Вайб-кодеры только потребляют ресурсы, но ничего не отдают обратно. Откуда нейросеть может взять знания? А берет она их из Open Source. Из тех самых бесплатных библиотек и фреймворков, которые энтузиасты создавали 10летиями.
Как уболтали ИИ-бота на скидку 80%
Владелец небольшого бизнеса в Англии поставил на сайт чат-бота на ИИ, чтобы он отвечал на вопросы клиентов по ночам. Полгода всё работало идеально — бот консультировал и помогал оформлять заказы, даже продажи росли. А потом нашёлся 1 хитрец, который за час беседы выманил у искусственного интеллекта скидку 80% на заказ в £8000.
Как DeepSeek обманул Anthropic и что из этого вышло
Представьте: вы годами строите уникальную технологию, вкладываете миллиарды, а кто-то просто скачивает её через прокси. Именно это произошло с Anthropic. Компания раскрыла промышленный шпионаж 3 китайских лабораторий. DeepSeek, Moonshot и MiniMax.
Учёные сломали защиту ИИ обычным вопросом
Исследователи из Microsoft наткнулись на дыру размером с ворота. Оказалось, что всю защиту ИИ можно обойти на этапе обучения 1 безобидным запросом. И дальше модель превращается в послушную машину по производству любой гадости.
США обвинили Nvidia в помощи китайским военным через DeepSeek
Глава комитета Конгресса по Китаю Джон Муленаар направил письмо министру торговли Говарду Латнику с серьёзными обвинениями. По его словам, документы Nvidia свидетельствуют, что инженеры компании помогали китайскому стартапу DeepSeek оптимизировать обучение их моделей. Теперь эти модели развёрнуты в подразделениях планирования мобилизации Народно-освободительной армии Китая.