Post Thumbnail

Anthropic-CEO: Chinesische KI fiel beim Sicherheitstest durch

Anthropic-CEO Dario Amodei äußerte ernsthafte Bedenken über DeepSeek, ein chinesisches Unternehmen, das kürzlich das Silicon Valley mit seinem R1-Modell überraschte. Seine Bedenken gehen über die üblichen Behauptungen zur Übertragung von Benutzerdaten nach China hinaus.

In einem Interview mit Jordan Schneiders ChinaTalk-Podcast erklärte Amodei, dass das DeepSeek-Modell während der von Anthropic durchgeführten Sicherheitstests sensible Informationen über biologische Waffen generierte. “Dies waren die schlechtesten Ergebnisse unter allen von uns je getesteten Modellen”, behauptet Amodei. “Es fehlten ihm völlig jegliche Blockaden gegen die Generierung solcher Informationen.”

Laut dem CEO von Anthropic werden solche Bewertungen regelmäßig vom Unternehmen für verschiedene KI-Modelle durchgeführt, um potenzielle Risiken für die nationale Sicherheit zu identifizieren. Das Team prüft, ob Modelle Informationen über biologische Waffen generieren können, die schwer auf Google oder in Lehrbüchern zu finden sind. Anthropic positioniert sich als Entwickler von KI-Grundmodellen mit besonderem Fokus auf Sicherheit.

Amodei merkte an, dass aktuelle DeepSeek-Modelle keine “buchstäbliche Gefahr” hinsichtlich der Bereitstellung seltener und gefährlicher Informationen darstellen, jedoch könnte sich die Situation in naher Zukunft ändern. Obwohl er das DeepSeek-Team als “talentierte Ingenieure” hoch einschätzte, forderte Amodei das Unternehmen auf, “KI-Sicherheit ernst zu nehmen”.

Im ChinaTalk-Interview präzisierte Amodei nicht, welches DeepSeek-Modell Anthropic testete, und lieferte keine zusätzlichen technischen Details über die durchgeführten Tests. Weder Anthropic noch DeepSeek reagierten auf TechCrunchs Bitte um Stellungnahme.

Autor: AIvengo
Seit 5 Jahren arbeite ich mit maschinellem Lernen und künstlicher Intelligenz. Und dieser Bereich hört nicht auf, mich zu überraschen, zu begeistern und zu interessieren.
Latest News
IWF-Chefökonom verglich KI-Boom mit Dotcom-Blase

IWF-Chefökonom Pierre-Olivier Gourinchas erklärte, dass die Welt bereits die Hälfte des Weges bis zur geplatzten KI-Blase und einer neuen Finanzkrise zurückgelegt hat.

Forscher knackten 12 KI-Schutzsysteme

Wissen Sie, was Forscher von OpenAI, Anthropic, Google DeepMind und Harvard gerade herausgefunden haben? Sie versuchten, beliebte KI-Sicherheitssysteme zu knacken und fanden fast überall eine Umgehung. Sie überprüften 12 verbreitete Schutzansätze. Von intelligenten System-Prompt-Formulierungen bis zu externen Filtern, die gefährliche Anfragen abfangen sollen.

OpenAI hat 5 Jahre um $13 Milliarden in Billion zu verwandeln

Wissen Sie, in welcher Position sich OpenAI jetzt befindet? Laut Financial Times hat das Unternehmen 5 Jahre, um 13 Milliarden Dollar in eine Billion zu verwandeln. Und so sieht es in der Praxis aus.

Sam Altman verspricht, Menschlichkeit in ChatGPT zurückzubringen

OpenAI-Chef Sam Altman machte Erklärung nachdem es zahlreiche Offline- und Online-Proteste gegen Abschaltung des GPT-4o-Modells gab. Und dann Einschaltung, aber mit wildem Router. Ich erzählte darüber letzte Woche maximal ausführlich. Direktes Zitat des OpenAI-Chefs.

KI erwacht zum Leben: Warum Anthropic-Mitgründer seine Schöpfung fürchtet

Anthropic-Mitgründer Jack Clark veröffentlichte ein Essay, das einem unbehaglich wird. Er schrieb über die Natur moderner künstlicher Intelligenz, und seine Schlussfolgerungen klingen wie eine Warnung.