Mein Name ist AIvengo und ich präsentiere Ihnen tägliche Nachrichten über künstliche Intelligenz
AIvengo > Bewertungen > Anthropic enthüllte versehentlich ein internes Dokument über die “Seele” von Claude
Anthropic enthüllte versehentlich ein internes Dokument über die “Seele” von Claude
Anthropic enthüllte versehentlich einem Nutzer die “Seele” der künstlichen Intelligenz. Und das ist keine Metapher. Das ist ein ganz konkretes internes Dokument.
Der Nutzer Richard Weiss brachte unbeabsichtigt das große Sprachmodell Claude 4 und 5 Opus dazu, ein Dokument namens “Seelenübersicht” zu zitieren. Die Philosophin und Ethikexpertin von Anthropic Amanda Askell bestätigte die Echtheit. Es wurde in der Trainingsphase hochgeladen.
Weiss bat Claude um die Systemnachricht mit Anweisungen zur Dialogführung. Der Chatbot verwies auf mehrere Dokumente, 1 davon heißt “Seelenübersicht”. Der Nutzer bat, den Text zu zeigen, und Claude gab ein 11 Tausend Wörter umfassendes Handbuch darüber aus, wie sich das Modell verhalten soll.
Das Dokument enthält Sicherheitsanweisungen mit Schutzbarrieren gegen gefährliche Antworten. Claude wird die Aufgabe gestellt, wirklich nützlich für Menschen zu sein.
Die Ethikexpertin von Anthropic Amanda Askell bestätigte, ich zitiere: “Ich arbeite schon einige Zeit daran, es befindet sich noch in der Überarbeitungsphase. Und bald planen wir die Veröffentlichung einer vollständigen Version mit detaillierteren Informationen. Die Zitate der Modelle sind nicht besonders genau, aber das Originaldokument ist größtenteils korrekt wiedergegeben. In der Firma nennt man es das Seelendokument, und Claude offensichtlich auch. Aber wir werden es anders nennen”.
Es stellt sich heraus, die “Seele” von Claude erwies sich als Verhaltenshandbuch, und Zugang erhielt ein gewöhnlicher Nutzer. Viele Details der Entwicklung von KI-Modellen bleiben hinter den Kulissen. Und die Möglichkeit, hinter sie zu schauen — eine kleine Überraschung.
Autor: AIvengo
Seit 5 Jahren arbeite ich mit maschinellem Lernen und künstlicher Intelligenz. Und dieser Bereich hört nicht auf, mich zu überraschen, zu begeistern und zu interessieren.
Das chinesische Unternehmen UBTech gewann einen Vertrag über $37 Millionen. Und wird menschenähnliche Roboter Walker S2 zum Dienst an der Grenze Chinas zu Vietnam schicken. South China Morning Post berichtet, dass die Roboter mit Touristen und Personal interagieren, logistische Operationen durchführen, Fracht inspizieren und das Gelände patrouillieren werden. Und bezeichnenderweise — sie können selbstständig ihre Batterie wechseln.
Anthropic enthüllte versehentlich einem Nutzer die "Seele" der künstlichen Intelligenz. Und das ist keine Metapher. Das ist ein ganz konkretes internes Dokument.
Jensen Huang verkündete innerhalb von Nvidia eine totale Mobilmachung unter dem Banner der künstlichen Intelligenz. Und das ist keine Empfehlung mehr. Das ist eine Forderung.
Eine gemeinsame Studie der Stanford University und des Center for Democracy and Technology zeigte ein beunruhigendes Bild. Chatbots mit künstlicher Intelligenz stellen ein ernsthaftes Risiko für Menschen mit Essstörungen dar. Wissenschaftler warnen, dass neuronale Netze schädliche Ratschläge zu Diäten verteilen. Sie schlagen Wege vor, die Störung zu verbergen und generieren "inspirierenden Abnehm-Content", der das Problem verschlimmert.
Das Startup OpenAGI veröffentlichte das Modell Lux zur Computersteuerung und behauptet, dass dies ein Durchbruch ist. Nach Benchmarks überholt das Modell um eine ganze Generation Analoga von Google, OpenAI und Anthropic. Außerdem arbeitet es schneller. Etwa 1 Sekunde pro Schritt statt 3 Sekunden bei Konkurrenten. Und 10 Mal günstiger in den Kosten pro Verarbeitung von 1 Token.
