Mein Name ist AIvengo und ich präsentiere Ihnen tägliche Nachrichten über künstliche Intelligenz
Anthropic-CEO: Chinesische KI fiel beim Sicherheitstest durch
Anthropic-CEO Dario Amodei äußerte ernsthafte Bedenken über DeepSeek, ein chinesisches Unternehmen, das kürzlich das Silicon Valley mit seinem R1-Modell überraschte. Seine Bedenken gehen über die üblichen Behauptungen zur Übertragung von Benutzerdaten nach China hinaus.
In einem Interview mit Jordan Schneiders ChinaTalk-Podcast erklärte Amodei, dass das DeepSeek-Modell während der von Anthropic durchgeführten Sicherheitstests sensible Informationen über biologische Waffen generierte. „Dies waren die schlechtesten Ergebnisse unter allen von uns je getesteten Modellen“, behauptet Amodei. „Es fehlten ihm völlig jegliche Blockaden gegen die Generierung solcher Informationen.“
Laut dem CEO von Anthropic werden solche Bewertungen regelmäßig vom Unternehmen für verschiedene KI-Modelle durchgeführt, um potenzielle Risiken für die nationale Sicherheit zu identifizieren. Das Team prüft, ob Modelle Informationen über biologische Waffen generieren können, die schwer auf Google oder in Lehrbüchern zu finden sind. Anthropic positioniert sich als Entwickler von KI-Grundmodellen mit besonderem Fokus auf Sicherheit.
Amodei merkte an, dass aktuelle DeepSeek-Modelle keine „buchstäbliche Gefahr“ hinsichtlich der Bereitstellung seltener und gefährlicher Informationen darstellen, jedoch könnte sich die Situation in naher Zukunft ändern. Obwohl er das DeepSeek-Team als „talentierte Ingenieure“ hoch einschätzte, forderte Amodei das Unternehmen auf, „KI-Sicherheit ernst zu nehmen“.
Im ChinaTalk-Interview präzisierte Amodei nicht, welches DeepSeek-Modell Anthropic testete, und lieferte keine zusätzlichen technischen Details über die durchgeführten Tests. Weder Anthropic noch DeepSeek reagierten auf TechCrunchs Bitte um Stellungnahme.
Autor: AIvengo
Seit 5 Jahren arbeite ich mit maschinellem Lernen und künstlicher Intelligenz. Und dieser Bereich hört nicht auf, mich zu überraschen, zu begeistern und zu interessieren.
YouTube startet eine revolutionäre Funktion, die es Erstellern ermöglicht, mithilfe künstlicher Intelligenz einzigartige Instrumentalmusik für ihre Videos zu erstellen. Das Unternehmen teilte dies in einem Update auf seinem Creator Insider-Kanal mit.
Dem weltweit größten Chiphersteller Taiwan Semiconductor Manufacturing Company (TSMC) droht eine Geldstrafe in Höhe von 1 Milliarde Dollar oder mehr nach Abschluss einer Untersuchung über Verstöße gegen US-Exportkontrollen. Der Grund war die Entdeckung von Chips des Unternehmens in KI-Prozessoren von Huawei, berichtet Reuters.
Google hat die Einführung von Gemini in Android Studio für Unternehmen angekündigt - einen neuen Abonnementdienst, der die Entwicklung von Unternehmensanwendungen vereinfachen soll. Die Ankündigung erfolgte auf der Google Cloud Next 2025 Konferenz in Las Vegas und zielt darauf ab, die Position des Unternehmens im Unternehmenssektor zu stärken.
OpenAI hat die Einführung eines ambitionierten Pioneers Program angekündigt, das darauf abzielt, grundlegend neue Standards für die Bewertung künstlicher Intelligenz zu schaffen. Das Unternehmen beabsichtigt, ein System zur Prüfung von KI-Modellen zu entwickeln, das ihre tatsächliche Wirksamkeit in verschiedenen Berufsbereichen besser widerspiegelt.
Peking bereitet sich darauf vor, in die Geschichte der Weltrobotik einzugehen: Am 13. April 2025 findet in der chinesischen Hauptstadt der weltweit erste Halbmarathon mit anthropomorphen Robotern statt. Bei diesem beispiellosen Ereignis werden Dutzende menschenähnliche Maschinen zusammenkommen, die eine Strecke von 21 Kilometern zurücklegen müssen.
