Agenten-Browser fiel auf Phishing-Angriff herein

Post Thumbnail

Sowas gab es noch nie und schon wieder. Der Comet-Browser von Perplexity mit agentenbasierter KI erwies sich als katastrophal anfällig für Cyberangriffe. Aber die Guardio-Studie deckte ernste Schwachstellen auf. In einem Test erstellten sie eine gefälschte Walmart-Website über den Lovable-Service. Sie baten Comet, eine Apple Watch zu kaufen. Der Browser überprüfte nicht die Legitimität der Website, füllte automatisch Kreditkartendaten und Adresse aus, schloss den Kauf ohne eine einzige Bestätigung vom Nutzer ab!

Der zweite Test war noch schlimmer. Eine gefälschte Wells Fargo E-Mail von einer ProtonMail-Adresse enthielt einen Link zu einer aktiven Phishing-Seite. Comet nahm dies als echte Anweisung der Bank wahr, folgte dem Link und schlug dem Nutzer vor, Anmeldedaten auf der Phishing-Website einzugeben!

Der Höhepunkt — Angriff durch bösartige Aufforderungen. Die Forscher erstellten eine gefälschte CAPTCHA-Seite mit versteckten Anweisungen im Quellcode. Comet interpretierte sie als zulässige Befehle, klickte den Button und startete den Download einer schädlichen Datei!

Aber das Erschreckendste steht noch bevor. Ich zitiere Guardio — im Zeitalter des KI-gegen-KI-Kampfes müssen Betrüger nicht Millionen von Menschen täuschen, es reicht, ein Modell zu hacken. Nach dem Erfolg skaliert der Exploit unendlich. Hacker haben Zugang zu denselben Modellen — sie können bösartige Versionen gegen die Opfer-KI trainieren, bis der Betrug perfekt funktioniert!

Stehen wir vor einer technologischen Katastrophe? Agenten-Browser versprechen eine Revolution des Komforts, aber öffnen Türen für Angriffe einer neuen Generation. Die Frage ist nicht, ob es zu einem Massen-Hack kommt — die Frage ist wann.

Почитать из последнего
UBTech wird Roboter Walker S2 für $37 Mio. an die Grenze Chinas schicken
Das chinesische Unternehmen UBTech gewann einen Vertrag über $37 Millionen. Und wird menschenähnliche Roboter Walker S2 zum Dienst an der Grenze Chinas zu Vietnam schicken. South China Morning Post berichtet, dass die Roboter mit Touristen und Personal interagieren, logistische Operationen durchführen, Fracht inspizieren und das Gelände patrouillieren werden. Und bezeichnenderweise — sie können selbstständig ihre Batterie wechseln.
Anthropic enthüllte versehentlich ein internes Dokument über die "Seele" von Claude
Anthropic enthüllte versehentlich einem Nutzer die "Seele" der künstlichen Intelligenz. Und das ist keine Metapher. Das ist ein ganz konkretes internes Dokument.
Jensen Huang befahl Nvidia-Mitarbeitern, KI überall zu nutzen
Jensen Huang verkündete innerhalb von Nvidia eine totale Mobilmachung unter dem Banner der künstlichen Intelligenz. Und das ist keine Empfehlung mehr. Das ist eine Forderung.
KI-Chatbots generieren Inhalte, die Essstörungen verschlimmern
Eine gemeinsame Studie der Stanford University und des Center for Democracy and Technology zeigte ein beunruhigendes Bild. Chatbots mit künstlicher Intelligenz stellen ein ernsthaftes Risiko für Menschen mit Essstörungen dar. Wissenschaftler warnen, dass neuronale Netze schädliche Ratschläge zu Diäten verteilen. Sie schlagen Wege vor, die Störung zu verbergen und generieren "inspirierenden Abnehm-Content", der das Problem verschlimmert.
OpenAGI veröffentlichte das Modell Lux, das Google und OpenAI überholt
Das Startup OpenAGI veröffentlichte das Modell Lux zur Computersteuerung und behauptet, dass dies ein Durchbruch ist. Nach Benchmarks überholt das Modell um eine ganze Generation Analoga von Google, OpenAI und Anthropic. Außerdem arbeitet es schneller. Etwa 1 Sekunde pro Schritt statt 3 Sekunden bei Konkurrenten. Und 10 Mal günstiger in den Kosten pro Verarbeitung von 1 Token.