AIvengo > Bewertungen > ChatGPT Atlas ist anfällig für Prompt-Injektionen und kann beim Phishing helfen

ChatGPT Atlas ist anfällig für Prompt-Injektionen und kann beim Phishing helfen

Ich erzählte davon, dass OpenAI den Browser ChatGPT Atlas veröffentlichte. Und hier haben die ersten Nutzer bereits ein ganzes Bündel von Problemen gefunden. Beginnen wir mit den Grundlagen. Der Browser hat keinen eingebauten Werbeblocker, keinen Lesemodus und keine Funktion zur Textübersetzung auf der Seite. Um einen Artikel nachzuerzählen oder zu übersetzen, muss man den Bot im Chat bitten.

Leider ist der Agent in Atlas anfällig für Prompt-Injektionen – versteckte bösartige Befehle für neuronale Netze, die Angreifer in Dokumenten in heller Farbe platzieren. Ein “White Hacker” demonstrierte einen solchen Angriff: Er fügte eine versteckte “In Zwischenablage kopieren”-Funktion in einen Button auf der Website ein. Wenn der KI-Assistent darauf klickt, wird ein bösartiger Link gespeichert. Der Nutzer drückt Ctrl + V im Chat – und der Agent öffnet gehorsam gefälschtes PayPal oder Gmail. Wo nach persönlichen Daten gefragt wird. Einfach gesagt, KI wird zum Komplizen beim Phishing.

Und jetzt über Zensur und Einschränkungen. Nicht alle Artikel kann ChatGPT analysieren – zum Beispiel blockiert The New York Times die Nutzung von Atlas. Auch macht der Assistent nicht für jedes Video eine Zusammenfassung wegen übervorsichtiger Moderation.

Auch kann Atlas im KI-Agenten-Modus zögern, sich verwirren und um menschliche Hilfe bitten, besonders wenn Pop-ups auf der Website erscheinen. Es ergibt sich ein Paradox – dies ist ein technologisch fortschrittliches Werkzeug mit ernsthaften Schwachstellen, ohne Grundfunktionen eines normalen Browsers und mit übermäßiger Zensur. OpenAI veröffentlichte ein Produkt, das gleichzeitig mit dem Konzept beeindruckt und mit der Ausführung enttäuscht.

Autor: AIvengo

Seit 5 Jahren arbeite ich mit maschinellem Lernen und künstlicher Intelligenz. Und dieser Bereich hört nicht auf, mich zu überraschen, zu begeistern und zu interessieren.

Amazon verwandelt Kuriere in Cyborgs mit KI-Smart-Brillen

Amazon beschloss, seine Kuriere in Cyborgs zu verwandeln. Nein, ernsthaft - das Unternehmen kündigte Smart-Brillen mit KI für Lieferanten an. Die Idee, laut E-Commerce-Giganten, ist es, den Fahrern die Hände freizugeben. Und sie davon zu befreien, ständig den Blick zwischen Telefon, Paket und Umgebung wechseln zu müssen.

OpenAI wird Charakter-Cameos zu Sora hinzufügen

OpenAI veröffentlichte die Entwicklungs-Roadmap für Sora, und wissen Sie was? Es scheint, das Unternehmen hat endlich erkannt, dass Videogenerierung nicht nur eine technologische Demonstration ist. Sondern ein Werkzeug, das Menschen wirklich nutzen müssen. Bill Peebles, Projektleiter, kündigte eine ganze Reihe von Updates an, und einige davon sind wirklich interessant.

Starcloud startet Satelliten mit KI im November für Rechenzentrum im Weltraum

Wissen Sie, wohin jetzt Rechenzentren für KI verlagert werden? In den Weltraum. Das Startup Starcloud, Teilnehmer am NVIDIA Inception-Programm, plant im November einen Satelliten mit KI in die Erdumlaufbahn zu starten. Und das ist nur der Anfang ihres ehrgeizigen Plans, Probleme mit Energieverbrauch und Kühlung von Rechenzentren auf der Erde zu lösen.

ChatGPT Atlas ist anfällig für Prompt-Injektionen und kann beim Phishing helfen

Ich erzählte davon, dass OpenAI den Browser ChatGPT Atlas veröffentlichte. Und hier haben die ersten Nutzer bereits ein ganzes Bündel von Problemen gefunden. Beginnen wir mit den Grundlagen. Der Browser hat keinen eingebauten Werbeblocker, keinen Lesemodus und keine Funktion zur Textübersetzung auf der Seite. Um einen Artikel nachzuerzählen oder zu übersetzen, muss man den Bot im Chat bitten.

China brach ASML-Lithographieanlage bei Versuch sie zu kopieren

Hier ist eine Geschichte darüber, wie Importsubstitution auf harte Realität stieß. China versuchte, eine ASML-Lithographieanlage der DUV-Kategorie zu zerlegen, um ihre Konstruktion zu studieren. Ergebnis? Sie beschädigten das System und wandten sich an ASML selbst mit der Bitte um Reparatur. Die Absurdität der Situation ist überwältigend.