Geschlossene Microsoft- und Google-Repositories erwiesen sich als für Copilot zugänglich
Das israelische Unternehmen Lasso, das sich auf Cybersicherheit im Bereich der generativen künstlichen Intelligenz spezialisiert hat, entdeckte ein ernstes Sicherheitsproblem: Daten, die auch nur kurzzeitig im Internet verfügbar waren, existieren weiterhin im Gedächtnis von KI-Chatbots, selbst nachdem sie gelöscht oder in den privaten Modus versetzt wurden.
Das Ausmaß des Problems erwies sich als beeindruckend: Mehr als 20.000 GitHub-Repositories, die jetzt privat sind, sind immer noch über Microsoft Copilot zugänglich. Diese Sicherheitslücke betrifft über 16.000 Organisationen, darunter Technologieriesen wie Google, IBM, PayPal, Tencent und Microsoft selbst.
Die Geschichte begann damit, dass Lasso ihr eigenes Repository, das versehentlich für kurze Zeit öffentlich gemacht wurde, in den Antworten von Copilot entdeckte. „Wenn man im Web sucht, wird man diese Daten nicht sehen. Aber jede Person auf der Welt kann Copilot die richtige Frage stellen und diese Informationen erhalten“, erklärt Lasso-Mitbegründer Ofir Dror.
Die Untersuchung zeigte, dass das Problem mit dem Caching-Mechanismus der Bing-Suchmaschine von Microsoft zusammenhängt. Lasso analysierte eine Liste von Repositories, die zu irgendeinem Zeitpunkt im Jahr 2024 öffentlich waren und dann gelöscht oder in den privaten Modus versetzt wurden. Es stellte sich heraus, dass Daten aus diesen Repositories weiterhin über Copilot zugänglich sind.
Diese Entdeckung wirft ernsthafte Fragen zur Datensicherheit im Zeitalter der generativen KI auf. Selbst eine kurzzeitige Offenlegung vertraulicher Informationen kann zu langfristigen Folgen führen, da KI-Systeme diese Daten indizieren und speichern und sie potenziell für jeden Benutzer zugänglich machen, der die richtigen Fragen stellt.
Die Situation ist besonders bemerkenswert, weil sie die größten Technologieunternehmen der Welt betrifft, einschließlich des Entwicklers des Tools selbst – Microsoft. Dies zeigt, dass selbst Organisationen mit höchstem technischen Fachwissen mit neuen Sicherheitsherausforderungen konfrontiert werden können, die durch künstliche Intelligenzsysteme entstehen.
