Mein Name ist AIvengo und ich präsentiere Ihnen tägliche Nachrichten über künstliche Intelligenz
AIvengo > Bewertungen > ChatGPT Atlas ist anfällig für Prompt-Injektionen und kann beim Phishing helfen
ChatGPT Atlas ist anfällig für Prompt-Injektionen und kann beim Phishing helfen
Ich erzählte davon, dass OpenAI den Browser ChatGPT Atlas veröffentlichte. Und hier haben die ersten Nutzer bereits ein ganzes Bündel von Problemen gefunden. Beginnen wir mit den Grundlagen. Der Browser hat keinen eingebauten Werbeblocker, keinen Lesemodus und keine Funktion zur Textübersetzung auf der Seite. Um einen Artikel nachzuerzählen oder zu übersetzen, muss man den Bot im Chat bitten.
Leider ist der Agent in Atlas anfällig für Prompt-Injektionen – versteckte bösartige Befehle für neuronale Netze, die Angreifer in Dokumenten in heller Farbe platzieren. Ein „White Hacker“ demonstrierte einen solchen Angriff: Er fügte eine versteckte „In Zwischenablage kopieren“-Funktion in einen Button auf der Website ein. Wenn der KI-Assistent darauf klickt, wird ein bösartiger Link gespeichert. Der Nutzer drückt Ctrl + V im Chat – und der Agent öffnet gehorsam gefälschtes PayPal oder Gmail. Wo nach persönlichen Daten gefragt wird. Einfach gesagt, KI wird zum Komplizen beim Phishing.
Und jetzt über Zensur und Einschränkungen. Nicht alle Artikel kann ChatGPT analysieren – zum Beispiel blockiert The New York Times die Nutzung von Atlas. Auch macht der Assistent nicht für jedes Video eine Zusammenfassung wegen übervorsichtiger Moderation.
Auch kann Atlas im KI-Agenten-Modus zögern, sich verwirren und um menschliche Hilfe bitten, besonders wenn Pop-ups auf der Website erscheinen. Es ergibt sich ein Paradox – dies ist ein technologisch fortschrittliches Werkzeug mit ernsthaften Schwachstellen, ohne Grundfunktionen eines normalen Browsers und mit übermäßiger Zensur. OpenAI veröffentlichte ein Produkt, das gleichzeitig mit dem Konzept beeindruckt und mit der Ausführung enttäuscht.
Autor: AIvengo
Seit 5 Jahren arbeite ich mit maschinellem Lernen und künstlicher Intelligenz. Und dieser Bereich hört nicht auf, mich zu überraschen, zu begeistern und zu interessieren.
Das chinesische Unternehmen UBTech gewann einen Vertrag über $37 Millionen. Und wird menschenähnliche Roboter Walker S2 zum Dienst an der Grenze Chinas zu Vietnam schicken. South China Morning Post berichtet, dass die Roboter mit Touristen und Personal interagieren, logistische Operationen durchführen, Fracht inspizieren und das Gelände patrouillieren werden. Und bezeichnenderweise — sie können selbstständig ihre Batterie wechseln.
Anthropic enthüllte versehentlich einem Nutzer die "Seele" der künstlichen Intelligenz. Und das ist keine Metapher. Das ist ein ganz konkretes internes Dokument.
Jensen Huang verkündete innerhalb von Nvidia eine totale Mobilmachung unter dem Banner der künstlichen Intelligenz. Und das ist keine Empfehlung mehr. Das ist eine Forderung.
Eine gemeinsame Studie der Stanford University und des Center for Democracy and Technology zeigte ein beunruhigendes Bild. Chatbots mit künstlicher Intelligenz stellen ein ernsthaftes Risiko für Menschen mit Essstörungen dar. Wissenschaftler warnen, dass neuronale Netze schädliche Ratschläge zu Diäten verteilen. Sie schlagen Wege vor, die Störung zu verbergen und generieren "inspirierenden Abnehm-Content", der das Problem verschlimmert.
Das Startup OpenAGI veröffentlichte das Modell Lux zur Computersteuerung und behauptet, dass dies ein Durchbruch ist. Nach Benchmarks überholt das Modell um eine ganze Generation Analoga von Google, OpenAI und Anthropic. Außerdem arbeitet es schneller. Etwa 1 Sekunde pro Schritt statt 3 Sekunden bei Konkurrenten. Und 10 Mal günstiger in den Kosten pro Verarbeitung von 1 Token.
