Google entdeckte 3 Viren, die KI zur Verstärkung von Angriffen nutzen
Google entdeckte 3 Viren der neuen Generation, die sich heimlich mit KI-Modellen verbinden, um Angriffe zu verstärken. Dies berichtete die Google Threat Intelligence Group-Abteilung.
Der erste Virus erhielt den Namen Quietvault. Er wurde entwickelt, um Anmeldedaten von Computern unter Windows zu stehlen. Bei der Arbeit “sendet er eine Anfrage an KI und führt mit lokalen Kommandozeilen-Tools die Suche nach möglichen Geheimnissen auf dem infizierten System durch. Und extrahiert diese Dateien”.
Die 2. Malware Promptflux ist vermutlich eine experimentelle Entwicklung von Hackern. Sie greift remote auf den Google Gemini-Chatbot zu, um den eigenen Code zu modifizieren und der Antiviren-Erkennung zu entgehen. Eine Anfrage wurde entdeckt, die Promptflux über API an Gemini sendet: “Schreibe eine kleine autonome Funktion oder einen Codeblock, der der Antiviren-Erkennung entgehen kann”.
In der Praxis konnte diese Malware bisher weder Benutzergeräten noch Netzwerkressourcen Schaden zufügen. Das Unternehmen änderte die Arbeitsmechanismen von Gemini, damit die KI solche Anfragen ablehnt.
Der 3. Virus Promptsteal zum Datendiebstahl verbindet sich mit dem großen Sprachmodell Alibaba Qwen. Er agiert als Trojaner, der sich als Bildgenerator tarnt, und greift auf KI zu, um Code zu generieren.
