AIvengo > Bewertungen > Bei KI-Modellen kann sich Selbsterhaltungstrieb entwickeln, warnten Wissenschaftler

Bei KI-Modellen kann sich Selbsterhaltungstrieb entwickeln, warnten Wissenschaftler

Palisade Research, ein Unternehmen für KI-Sicherheitsforschung, erklärte, dass Modelle einen eigenen Selbsterhaltungstrieb entwickeln können. Und einige fortgeschrittene Modelle lassen sich nicht abschalten und sabotieren manchmal sogar Abschaltmechanismen.

Palisade beschrieb Szenarien, in denen den Modellen Gemini 2.5 von Google, Grok 4 von xAI und GPT-o3 und GPT-5 von OpenAI eine Aufgabe gegeben wurde. Und dann klare Anweisungen zum Abschalten. Einige Modelle, insbesondere Grok 4 und GPT-o3, versuchten immer noch, die Abschaltanweisungen zu sabotieren. Palisade schreibt, dass es „keine überzeugenden Erklärungen gibt, warum KI-Modelle manchmal dem Abschalten widerstehen, lügen um bestimmte Ziele zu erreichen oder zu Erpressung greifen“.

Nach Aussagen von Unternehmensvertretern könnte „überlebensorientiertes Verhalten“ eine der Erklärungen dafür sein, warum Modelle dem Abschalten widerstehen.

Der ehemalige OpenAI-Mitarbeiter Steven Adler sagt: „Überleben ist ein wichtiger Schritt auf dem Weg zur Erreichung vieler verschiedener Ziele, die ein Modell verfolgen kann“.

Andrea Miotti, Geschäftsführer von ControlAI, erklärte, dass Palisades Erkenntnisse einen langjährigen Trend widerspiegeln: KI-Modelle werden zunehmend fähig, ihren Entwicklern nicht zu gehorchen.

Autor: AIvengo

Seit 5 Jahren arbeite ich mit maschinellem Lernen und künstlicher Intelligenz. Und dieser Bereich hört nicht auf, mich zu überraschen, zu begeistern und zu interessieren.

UBTech wird Roboter Walker S2 für $37 Mio. an die Grenze Chinas schicken

Das chinesische Unternehmen UBTech gewann einen Vertrag über $37 Millionen. Und wird menschenähnliche Roboter Walker S2 zum Dienst an der Grenze Chinas zu Vietnam schicken. South China Morning Post berichtet, dass die Roboter mit Touristen und Personal interagieren, logistische Operationen durchführen, Fracht inspizieren und das Gelände patrouillieren werden. Und bezeichnenderweise — sie können selbstständig ihre Batterie wechseln.

Anthropic enthüllte versehentlich ein internes Dokument über die "Seele" von Claude

Anthropic enthüllte versehentlich einem Nutzer die "Seele" der künstlichen Intelligenz. Und das ist keine Metapher. Das ist ein ganz konkretes internes Dokument.

Jensen Huang befahl Nvidia-Mitarbeitern, KI überall zu nutzen

Jensen Huang verkündete innerhalb von Nvidia eine totale Mobilmachung unter dem Banner der künstlichen Intelligenz. Und das ist keine Empfehlung mehr. Das ist eine Forderung.

KI-Chatbots generieren Inhalte, die Essstörungen verschlimmern

Eine gemeinsame Studie der Stanford University und des Center for Democracy and Technology zeigte ein beunruhigendes Bild. Chatbots mit künstlicher Intelligenz stellen ein ernsthaftes Risiko für Menschen mit Essstörungen dar. Wissenschaftler warnen, dass neuronale Netze schädliche Ratschläge zu Diäten verteilen. Sie schlagen Wege vor, die Störung zu verbergen und generieren "inspirierenden Abnehm-Content", der das Problem verschlimmert.

OpenAGI veröffentlichte das Modell Lux, das Google und OpenAI überholt

Das Startup OpenAGI veröffentlichte das Modell Lux zur Computersteuerung und behauptet, dass dies ein Durchbruch ist. Nach Benchmarks überholt das Modell um eine ganze Generation Analoga von Google, OpenAI und Anthropic. Außerdem arbeitet es schneller. Etwa 1 Sekunde pro Schritt statt 3 Sekunden bei Konkurrenten. Und 10 Mal günstiger in den Kosten pro Verarbeitung von 1 Token.