Post Thumbnail

Anthropic-CEO: Chinesische KI fiel beim Sicherheitstest durch

Anthropic-CEO Dario Amodei äußerte ernsthafte Bedenken über DeepSeek, ein chinesisches Unternehmen, das kürzlich das Silicon Valley mit seinem R1-Modell überraschte. Seine Bedenken gehen über die üblichen Behauptungen zur Übertragung von Benutzerdaten nach China hinaus.

In einem Interview mit Jordan Schneiders ChinaTalk-Podcast erklärte Amodei, dass das DeepSeek-Modell während der von Anthropic durchgeführten Sicherheitstests sensible Informationen über biologische Waffen generierte. “Dies waren die schlechtesten Ergebnisse unter allen von uns je getesteten Modellen”, behauptet Amodei. “Es fehlten ihm völlig jegliche Blockaden gegen die Generierung solcher Informationen.”

Laut dem CEO von Anthropic werden solche Bewertungen regelmäßig vom Unternehmen für verschiedene KI-Modelle durchgeführt, um potenzielle Risiken für die nationale Sicherheit zu identifizieren. Das Team prüft, ob Modelle Informationen über biologische Waffen generieren können, die schwer auf Google oder in Lehrbüchern zu finden sind. Anthropic positioniert sich als Entwickler von KI-Grundmodellen mit besonderem Fokus auf Sicherheit.

Amodei merkte an, dass aktuelle DeepSeek-Modelle keine “buchstäbliche Gefahr” hinsichtlich der Bereitstellung seltener und gefährlicher Informationen darstellen, jedoch könnte sich die Situation in naher Zukunft ändern. Obwohl er das DeepSeek-Team als “talentierte Ingenieure” hoch einschätzte, forderte Amodei das Unternehmen auf, “KI-Sicherheit ernst zu nehmen”.

Im ChinaTalk-Interview präzisierte Amodei nicht, welches DeepSeek-Modell Anthropic testete, und lieferte keine zusätzlichen technischen Details über die durchgeführten Tests. Weder Anthropic noch DeepSeek reagierten auf TechCrunchs Bitte um Stellungnahme.

Autor: AIvengo
Seit 5 Jahren arbeite ich mit maschinellem Lernen und künstlicher Intelligenz. Und dieser Bereich hört nicht auf, mich zu überraschen, zu begeistern und zu interessieren.
Latest News
UBTech wird Roboter Walker S2 für $37 Mio. an die Grenze Chinas schicken

Das chinesische Unternehmen UBTech gewann einen Vertrag über $37 Millionen. Und wird menschenähnliche Roboter Walker S2 zum Dienst an der Grenze Chinas zu Vietnam schicken. South China Morning Post berichtet, dass die Roboter mit Touristen und Personal interagieren, logistische Operationen durchführen, Fracht inspizieren und das Gelände patrouillieren werden. Und bezeichnenderweise — sie können selbstständig ihre Batterie wechseln.

Anthropic enthüllte versehentlich ein internes Dokument über die "Seele" von Claude

Anthropic enthüllte versehentlich einem Nutzer die "Seele" der künstlichen Intelligenz. Und das ist keine Metapher. Das ist ein ganz konkretes internes Dokument.

Jensen Huang befahl Nvidia-Mitarbeitern, KI überall zu nutzen

Jensen Huang verkündete innerhalb von Nvidia eine totale Mobilmachung unter dem Banner der künstlichen Intelligenz. Und das ist keine Empfehlung mehr. Das ist eine Forderung.

KI-Chatbots generieren Inhalte, die Essstörungen verschlimmern

Eine gemeinsame Studie der Stanford University und des Center for Democracy and Technology zeigte ein beunruhigendes Bild. Chatbots mit künstlicher Intelligenz stellen ein ernsthaftes Risiko für Menschen mit Essstörungen dar. Wissenschaftler warnen, dass neuronale Netze schädliche Ratschläge zu Diäten verteilen. Sie schlagen Wege vor, die Störung zu verbergen und generieren "inspirierenden Abnehm-Content", der das Problem verschlimmert.

OpenAGI veröffentlichte das Modell Lux, das Google und OpenAI überholt

Das Startup OpenAGI veröffentlichte das Modell Lux zur Computersteuerung und behauptet, dass dies ein Durchbruch ist. Nach Benchmarks überholt das Modell um eine ganze Generation Analoga von Google, OpenAI und Anthropic. Außerdem arbeitet es schneller. Etwa 1 Sekunde pro Schritt statt 3 Sekunden bei Konkurrenten. Und 10 Mal günstiger in den Kosten pro Verarbeitung von 1 Token.