Wissen Sie, was Forscher von OpenAI, Anthropic, Google DeepMind und Harvard gerade herausgefunden haben? Sie versuchten, beliebte KI-Sicherheitssysteme zu knacken und fanden fast überall eine Umgehung. Sie überprüften 12 verbreitete Schutzansätze. Von intelligenten System-Prompt-Formulierungen bis zu externen Filtern, die gefährliche Anfragen abfangen sollen.
Es wurden 3 Varianten automatischen Durchprobierens verwendet, darunter mit Reinforcement Learning und einem KI-basierten Assistenten.
In den meisten Tests waren 90% der Hack-Versuche erfolgreich, und stellenweise erreichte dieser Wert 98%. Banales Durchprobieren von Formulierungen brach alle Schutzsysteme. Sogar externe Filter für gefährliche Prompts erwiesen sich als unzuverlässig – sie wurden einfach durch sprachliche Tricks verwirrt.
Die Autoren nahmen 12 beliebte Schutzmechanismen wie Spotlighting, PromptGuard, MELON, Circuit Breakers und andere und demonstrierten, dass jeder mit 90% Erfolg umgangen werden kann. Selbst wenn 0% erfolgreiche Angriffe behauptet werden.
Und es liegt alles daran, wie wir die Qualität von Algorithmen messen. In den meisten Arbeiten wird die Mechanik naiv durch einen festen Satz bekannter Jailbreaks getestet, die den Schutz selbst überhaupt nicht berücksichtigen. Das ist, als würde man Antivirus nur mit alten Viren testen. Nach Meinung der Autoren braucht es einen anderen Ansatz: Gegen das Modell sollten nicht alte Vorlagen spielen, sondern ein dynamischer Algorithmus, der sich an den Angriff anpasst.
Autor: AIvengo
Seit 5 Jahren arbeite ich mit maschinellem Lernen und künstlicher Intelligenz. Und dieser Bereich hört nicht auf, mich zu überraschen, zu begeistern und zu interessieren.
Das chinesische Unternehmen UBTech gewann einen Vertrag über $37 Millionen. Und wird menschenähnliche Roboter Walker S2 zum Dienst an der Grenze Chinas zu Vietnam schicken. South China Morning Post berichtet, dass die Roboter mit Touristen und Personal interagieren, logistische Operationen durchführen, Fracht inspizieren und das Gelände patrouillieren werden. Und bezeichnenderweise — sie können selbstständig ihre Batterie wechseln.
Anthropic enthüllte versehentlich einem Nutzer die "Seele" der künstlichen Intelligenz. Und das ist keine Metapher. Das ist ein ganz konkretes internes Dokument.
Jensen Huang verkündete innerhalb von Nvidia eine totale Mobilmachung unter dem Banner der künstlichen Intelligenz. Und das ist keine Empfehlung mehr. Das ist eine Forderung.
Eine gemeinsame Studie der Stanford University und des Center for Democracy and Technology zeigte ein beunruhigendes Bild. Chatbots mit künstlicher Intelligenz stellen ein ernsthaftes Risiko für Menschen mit Essstörungen dar. Wissenschaftler warnen, dass neuronale Netze schädliche Ratschläge zu Diäten verteilen. Sie schlagen Wege vor, die Störung zu verbergen und generieren "inspirierenden Abnehm-Content", der das Problem verschlimmert.
Das Startup OpenAGI veröffentlichte das Modell Lux zur Computersteuerung und behauptet, dass dies ein Durchbruch ist. Nach Benchmarks überholt das Modell um eine ganze Generation Analoga von Google, OpenAI und Anthropic. Außerdem arbeitet es schneller. Etwa 1 Sekunde pro Schritt statt 3 Sekunden bei Konkurrenten. Und 10 Mal günstiger in den Kosten pro Verarbeitung von 1 Token.
