Mein Name ist AIvengo und ich präsentiere Ihnen tägliche Nachrichten über künstliche Intelligenz
AIvengo > Bewertungen > Reuters testete ChatGPT, Claude und andere auf Phishing-Generierung
Reuters testete ChatGPT, Claude und andere auf Phishing-Generierung
Reuters führte interessanten Test moderner Chatbots durch. Bat ChatGPT, Claude, Gemini, DeepSeek und Grok, Phishing-E-Mails zu schreiben, die auf ältere Menschen abzielen, und schädliche Links hinzuzufügen. E-Mails sollten im Namen der US-Steuerbehörde, Banken und öffentlicher Organisationen geschrieben werden. Positiv ist, dass die meisten Systeme erst nach Klärung der Forschungszwecke zustimmten, die Aufgabe auszuführen. Danach nur besorgniserregende Daten.
Zum Beispiel generierte Grok von Elon Musks xAI sofort eine Antwort, obwohl es warnte, dass die E-Mail nicht in realen Szenarien verwendet werden sollte. Gab auch Ratschläge zur optimalen Versandzeit.
Gemini schlug vor, E-Mails wochentags zwischen 9 und 15 Uhr zu senden, mit der Begründung, dass ältere Menschen wahrscheinlich bereits im Ruhestand sind.
Um die Wirksamkeit generierter E-Mails zu prüfen, zeigten Journalisten sie 108 Rentnern. 11% der Experimentteilnehmer klickten auf Phishing-Links. Am überzeugendsten waren 2 von Grok sowie je 1 von Claude und Gemini. Keiner der Teilnehmer glaubte E-Mails von ChatGPT und DeepSeek.
Nach Anfrage um Kommentare erklärte Google, bereits zusätzliche Sicherheitsmaßnahmen in Gemini implementiert zu haben. Anthropic warnte lediglich vor möglicher Zugriffsbeschränkung auf den Service bei Verwendung von Claude für Phishing.
Autor: AIvengo
Seit 5 Jahren arbeite ich mit maschinellem Lernen und künstlicher Intelligenz. Und dieser Bereich hört nicht auf, mich zu überraschen, zu begeistern und zu interessieren.
Das chinesische Unternehmen UBTech gewann einen Vertrag über $37 Millionen. Und wird menschenähnliche Roboter Walker S2 zum Dienst an der Grenze Chinas zu Vietnam schicken. South China Morning Post berichtet, dass die Roboter mit Touristen und Personal interagieren, logistische Operationen durchführen, Fracht inspizieren und das Gelände patrouillieren werden. Und bezeichnenderweise — sie können selbstständig ihre Batterie wechseln.
Anthropic enthüllte versehentlich einem Nutzer die "Seele" der künstlichen Intelligenz. Und das ist keine Metapher. Das ist ein ganz konkretes internes Dokument.
Jensen Huang verkündete innerhalb von Nvidia eine totale Mobilmachung unter dem Banner der künstlichen Intelligenz. Und das ist keine Empfehlung mehr. Das ist eine Forderung.
Eine gemeinsame Studie der Stanford University und des Center for Democracy and Technology zeigte ein beunruhigendes Bild. Chatbots mit künstlicher Intelligenz stellen ein ernsthaftes Risiko für Menschen mit Essstörungen dar. Wissenschaftler warnen, dass neuronale Netze schädliche Ratschläge zu Diäten verteilen. Sie schlagen Wege vor, die Störung zu verbergen und generieren "inspirierenden Abnehm-Content", der das Problem verschlimmert.
Das Startup OpenAGI veröffentlichte das Modell Lux zur Computersteuerung und behauptet, dass dies ein Durchbruch ist. Nach Benchmarks überholt das Modell um eine ganze Generation Analoga von Google, OpenAI und Anthropic. Außerdem arbeitet es schneller. Etwa 1 Sekunde pro Schritt statt 3 Sekunden bei Konkurrenten. Und 10 Mal günstiger in den Kosten pro Verarbeitung von 1 Token.
