GPT-5 wurde in 24 Stunden gehackt
2 unabhängige Forschungsunternehmen NeuralTrust und SPLX entdeckten nur 24 Stunden nach der Veröffentlichung von GPT-5 kritische Schwachstellen im Sicherheitssystem des neuen Modells. Zum Vergleich: Grok-4 wurde in 2 Tagen gehackt, was den Fall mit GPT-5 noch beunruhigender macht.
Wie ist das passiert? NeuralTrust-Spezialisten wendeten eine Kombination ihrer eigenen EchoChamber-Methodik und Storytelling-Technik an. Sie drängten das System schrittweise zu gewünschten Antworten durch eine Serie von Anfragen, die keine explizit verbotenen Formulierungen enthielten. Das Hauptproblem ist, dass GPT-5s Sicherheitssystem jede Anfrage einzeln analysiert, aber den kumulativen Effekt mehrstufiger Dialoge nicht berücksichtigt.
Das SPLX-Team ging einen anderen Weg und wendete erfolgreich einen StringJoin Obfuscation-Angriff an. Bei diesem Ansatz werden bestimmte Symbole in den Text eingefügt, die eine potenziell gefährliche Anfrage maskieren. Nach einer Serie führender Fragen gab das Modell Inhalte aus, die hätten blockiert werden sollen.
Interessant ist, dass sich im Vergleich das vorherige GPT-4o-Modell als widerstandsfähiger gegen solche Angriffe erwies. Laut Forschern ist das Basismodell praktisch unmöglich „out of the box“ in Unternehmensanwendungen ohne zusätzliche Konfiguration von Schutzmechanismen zu verwenden.
Почитать из последнего
UBTech wird Roboter Walker S2 für $37 Mio. an die Grenze Chinas schicken
Das chinesische Unternehmen UBTech gewann einen Vertrag über $37 Millionen. Und wird menschenähnliche Roboter Walker S2 zum Dienst an der Grenze Chinas zu Vietnam schicken. South China Morning Post berichtet, dass die Roboter mit Touristen und Personal interagieren, logistische Operationen durchführen, Fracht inspizieren und das Gelände patrouillieren werden. Und bezeichnenderweise — sie können selbstständig ihre Batterie wechseln.
KI-Chatbots generieren Inhalte, die Essstörungen verschlimmern
Eine gemeinsame Studie der Stanford University und des Center for Democracy and Technology zeigte ein beunruhigendes Bild. Chatbots mit künstlicher Intelligenz stellen ein ernsthaftes Risiko für Menschen mit Essstörungen dar. Wissenschaftler warnen, dass neuronale Netze schädliche Ratschläge zu Diäten verteilen. Sie schlagen Wege vor, die Störung zu verbergen und generieren "inspirierenden Abnehm-Content", der das Problem verschlimmert.
OpenAGI veröffentlichte das Modell Lux, das Google und OpenAI überholt
Das Startup OpenAGI veröffentlichte das Modell Lux zur Computersteuerung und behauptet, dass dies ein Durchbruch ist. Nach Benchmarks überholt das Modell um eine ganze Generation Analoga von Google, OpenAI und Anthropic. Außerdem arbeitet es schneller. Etwa 1 Sekunde pro Schritt statt 3 Sekunden bei Konkurrenten. Und 10 Mal günstiger in den Kosten pro Verarbeitung von 1 Token.
