Forscher knackten 12 KI-Schutzsysteme
Wissen Sie, was Forscher von OpenAI, Anthropic, Google DeepMind und Harvard gerade herausgefunden haben? Sie versuchten, beliebte KI-Sicherheitssysteme zu knacken und fanden fast überall eine Umgehung. Sie überprüften 12 verbreitete Schutzansätze. Von intelligenten System-Prompt-Formulierungen bis zu externen Filtern, die gefährliche Anfragen abfangen sollen.
Es wurden 3 Varianten automatischen Durchprobierens verwendet, darunter mit Reinforcement Learning und einem KI-basierten Assistenten.
In den meisten Tests waren 90% der Hack-Versuche erfolgreich, und stellenweise erreichte dieser Wert 98%. Banales Durchprobieren von Formulierungen brach alle Schutzsysteme. Sogar externe Filter für gefährliche Prompts erwiesen sich als unzuverlässig – sie wurden einfach durch sprachliche Tricks verwirrt.
Die Autoren nahmen 12 beliebte Schutzmechanismen wie Spotlighting, PromptGuard, MELON, Circuit Breakers und andere und demonstrierten, dass jeder mit 90% Erfolg umgangen werden kann. Selbst wenn 0% erfolgreiche Angriffe behauptet werden.
Und es liegt alles daran, wie wir die Qualität von Algorithmen messen. In den meisten Arbeiten wird die Mechanik naiv durch einen festen Satz bekannter Jailbreaks getestet, die den Schutz selbst überhaupt nicht berücksichtigen. Das ist, als würde man Antivirus nur mit alten Viren testen. Nach Meinung der Autoren braucht es einen anderen Ansatz: Gegen das Modell sollten nicht alte Vorlagen spielen, sondern ein dynamischer Algorithmus, der sich an den Angriff anpasst.
