Mein Name ist AIvengo und ich präsentiere Ihnen tägliche Nachrichten über künstliche Intelligenz
Anthropic-CEO: Chinesische KI fiel beim Sicherheitstest durch
Anthropic-CEO Dario Amodei äußerte ernsthafte Bedenken über DeepSeek, ein chinesisches Unternehmen, das kürzlich das Silicon Valley mit seinem R1-Modell überraschte. Seine Bedenken gehen über die üblichen Behauptungen zur Übertragung von Benutzerdaten nach China hinaus.
In einem Interview mit Jordan Schneiders ChinaTalk-Podcast erklärte Amodei, dass das DeepSeek-Modell während der von Anthropic durchgeführten Sicherheitstests sensible Informationen über biologische Waffen generierte. „Dies waren die schlechtesten Ergebnisse unter allen von uns je getesteten Modellen“, behauptet Amodei. „Es fehlten ihm völlig jegliche Blockaden gegen die Generierung solcher Informationen.“
Laut dem CEO von Anthropic werden solche Bewertungen regelmäßig vom Unternehmen für verschiedene KI-Modelle durchgeführt, um potenzielle Risiken für die nationale Sicherheit zu identifizieren. Das Team prüft, ob Modelle Informationen über biologische Waffen generieren können, die schwer auf Google oder in Lehrbüchern zu finden sind. Anthropic positioniert sich als Entwickler von KI-Grundmodellen mit besonderem Fokus auf Sicherheit.
Amodei merkte an, dass aktuelle DeepSeek-Modelle keine „buchstäbliche Gefahr“ hinsichtlich der Bereitstellung seltener und gefährlicher Informationen darstellen, jedoch könnte sich die Situation in naher Zukunft ändern. Obwohl er das DeepSeek-Team als „talentierte Ingenieure“ hoch einschätzte, forderte Amodei das Unternehmen auf, „KI-Sicherheit ernst zu nehmen“.
Im ChinaTalk-Interview präzisierte Amodei nicht, welches DeepSeek-Modell Anthropic testete, und lieferte keine zusätzlichen technischen Details über die durchgeführten Tests. Weder Anthropic noch DeepSeek reagierten auf TechCrunchs Bitte um Stellungnahme.
Autor: AIvengo
Seit 5 Jahren arbeite ich mit maschinellem Lernen und künstlicher Intelligenz. Und dieser Bereich hört nicht auf, mich zu überraschen, zu begeistern und zu interessieren.
Die Investition von Taiwan Semiconductor Manufacturing Co. (TSMC) in Höhe von 100 Milliarden Dollar zur Erweiterung der Produktion in den Vereinigten Staaten ist "eine großartige Nachricht", sagte Qualcomm-CEO Cristiano Amon in einem Interview mit CNBC am Dienstag, dem 4. März 2025. Seinen Angaben zufolge trägt dies zur Diversifizierung der Halbleiterproduktionsstandorte bei.
Der private Suchdienst DuckDuckGo baut weiterhin seine Position im Bereich der generativen künstlichen Intelligenz aus. Laut einem am Donnerstag, dem 6. März 2025, veröffentlichten Blog-Beitrag gab das Unternehmen den Abschluss der Beta-Tests seiner Chat-Schnittstelle bekannt, die jetzt offiziell Duck.ai heißt und den umständlicheren Namen DuckDuckGo AI Chat aufgibt.
Der Milliardär und Eigentümer der Los Angeles Times, Patrick Soon-Shiong, der ein neues KI-Tool zur Generierung gegensätzlicher Perspektiven zu Meinungsbeiträgen vorstellte, wusste nicht, dass das System weniger als 24 Stunden nach dem Start Pro-KKK-Argumente erstellt hatte — und das sogar noch Stunden nachdem die skandalösen KI-Kommentare von der Website der Publikation entfernt worden waren. Der Vorfall schuf ein enormes Hindernis für die Times, die danach strebt, alte Abonnenten zurückzugewinnen und neue durch innovative technologische Lösungen anzuziehen.
Google hat die Einführung eines neuen KI-Tools für den Shopping-Tab angekündigt, das Benutzern helfen wird, Kleidung anhand ihrer verbalen Beschreibung zu finden. Die am Mittwoch, dem 5. März 2025, gemachte Ankündigung umfasst auch die Erweiterung der Funktionen von Augmented-Reality-Tools (AR) für Kosmetik und virtuelle Anprobe.
Der Technologieriese Google beschränkt weiterhin die Fähigkeiten seines KI-Assistenten Gemini im Bereich des politischen Diskurses, obwohl die Hauptkonkurrenten des Unternehmens, darunter OpenAI, Anthropic und Meta, ihre Chatbots in den letzten Monaten bereits für die Diskussion politisch sensibler Themen angepasst haben.
