Post Thumbnail

Les dépôts fermés de Microsoft et Google se sont avérés accessibles à Copilot

La société israélienne Lasso, spécialisée dans la cybersécurité dans le domaine de l’intelligence artificielle générative, a découvert un problème de sécurité grave: les données qui étaient accessibles sur internet même pour une courte durée continuent d’exister dans la mémoire des chatbots d’IA même après leur suppression ou leur passage en mode privé.

L’ampleur du problème s’est avérée impressionnante: plus de 20 000 dépôts GitHub, qui sont maintenant privés, sont toujours accessibles via Microsoft Copilot. Cette vulnérabilité affecte plus de 16 000 organisations, y compris des géants technologiques comme Google, IBM, PayPal, Tencent et Microsoft elle-même.

L’histoire a commencé lorsque Lasso a découvert son propre dépôt, qui avait été accidentellement rendu public pendant une courte période, dans les réponses de Copilot. “Si vous naviguez sur le web, vous ne verrez pas ces données. Mais n’importe quelle personne dans le monde peut poser à Copilot la bonne question et obtenir cette information”, explique le cofondateur de Lasso, Ofir Dror.

L’étude a montré que le problème est lié au mécanisme de mise en cache du moteur de recherche Bing de Microsoft. Lasso a analysé une liste de dépôts qui étaient publics à un moment donné en 2024, puis ont été supprimés ou passés en mode privé. Il s’est avéré que les données de ces dépôts sont toujours accessibles via Copilot.

Cette découverte soulève de sérieuses questions sur la sécurité des données à l’ère de l’IA générative. Même une brève divulgation d’informations confidentielles peut entraîner des conséquences à long terme, car les systèmes d’IA indexent et conservent ces données, les rendant potentiellement accessibles à tout utilisateur qui connaît les bonnes questions.

La situation est particulièrement remarquable car elle affecte les plus grandes entreprises technologiques du monde, y compris le développeur de l’outil lui-même – Microsoft. Cela démontre que même les organisations disposant du plus haut niveau d’expertise technique peuvent faire face à de nouveaux défis de sécurité créés par les systèmes d’intelligence artificielle.

Auteur: AIvengo
Depuis 5 ans, je travaille dans l'apprentissage automatique et l'intelligence artificielle. Et ce domaine ne cesse de m'étonner, de m'inspirer et de m'intéresser.
Latest News
L'économiste en chef du FMI a comparé le boom de l'IA à la bulle dotcom

L'économiste en chef du FMI Pierre-Olivier Gourinchas a déclaré que le monde a déjà parcouru la moitié du chemin jusqu'à l'éclatement de la bulle IA et une nouvelle crise financière.

Des chercheurs ont cracké 12 systèmes de protection IA

Vous savez ce que des chercheurs d'OpenAI, Anthropic, Google DeepMind et Harvard viennent de découvrir ? Ils ont essayé de casser des systèmes de sécurité IA populaires et ont trouvé un contournement presque partout. Ils ont vérifié 12 approches de protection courantes. Des formulations intelligentes de prompt système aux filtres externes qui devraient attraper les requêtes dangereuses.

OpenAI a 5 ans pour transformer 13 milliards $ en billion

Vous savez dans quelle position se trouve OpenAI maintenant ? Selon Financial Times, l'entreprise a 5 ans pour transformer 13 milliards de dollars en billion. Et voici à quoi cela ressemble en pratique.

Sam Altman promet de ramener l'humanité dans ChatGPT

Le chef d'OpenAI Sam Altman a fait une déclaration après de nombreuses protestations hors ligne et en ligne contre la fermeture du modèle GPT-4o. Et puis mise en marche, mais avec un routeur sauvage. J'ai parlé de cela la semaine dernière en détail maximum. Citation directe du chef d'OpenAI.

L'IA prend vie : Pourquoi le cofondateur d'Anthropic craint sa création

Le cofondateur d'Anthropic Jack Clark a publié un essai qui rend mal à l'aise. Il a écrit sur la nature de l'intelligence artificielle moderne, et ses conclusions sonnent comme un avertissement.