PDG d’Anthropic : l’IA chinoise a échoué au test de sécurité
Le PDG d’Anthropic, Dario Amodei, a exprimé de sérieuses inquiétudes concernant DeepSeek, une entreprise chinoise qui a récemment surpris la Silicon Valley avec son modèle R1. Ses préoccupations dépassent les allégations habituelles sur le transfert de données utilisateurs vers la Chine.
Dans une interview pour le podcast ChinaTalk de Jordan Schneider, Amodei a déclaré que le modèle DeepSeek générait des informations sensibles sur les armes biologiques lors des tests de sécurité menés par Anthropic. « Ce sont les pires résultats parmi tous les modèles que nous ayons jamais testés », affirme Amodei. « Il manquait complètement de blocages contre la génération de telles informations. »
Selon le PDG d’Anthropic, de telles évaluations sont régulièrement menées par l’entreprise pour divers modèles d’IA afin d’identifier les risques potentiels pour la sécurité nationale. L’équipe vérifie si les modèles peuvent générer des informations sur les armes biologiques difficiles à trouver sur Google ou dans les manuels. Anthropic se positionne comme un développeur de modèles d’IA fondamentaux accordant une attention particulière à la sécurité.
Amodei a noté que les modèles actuels de DeepSeek ne présentent pas de « danger littéral » en termes de fourniture d’informations rares et dangereuses, cependant, la situation pourrait changer dans un proche avenir. Bien qu’il ait hautement apprécié l’équipe DeepSeek comme « ingénieurs talentueux », Amodei a exhorté l’entreprise à « prendre au sérieux la sécurité de l’IA ».
Dans l’interview ChinaTalk, Amodei n’a pas précisé quel modèle DeepSeek Anthropic avait testé, et n’a pas fourni de détails techniques supplémentaires sur les tests effectués. Ni Anthropic ni DeepSeek n’ont répondu à la demande de commentaires de TechCrunch.
Auteur: AIvengo
Depuis 5 ans, je travaille dans l'apprentissage automatique et l'intelligence artificielle. Et ce domaine ne cesse de m'étonner, de m'inspirer et de m'intéresser.
Qualcomm salue l'investissement de 100 milliards de dollars de TSMCL'investissement de 100 milliards de dollars de Taiwan Semiconductor Manufacturing Co. (TSMC) dans l'expansion de la production aux États-Unis est "une excellente nouvelle", a déclaré le PDG de Qualcomm, Cristiano Amon, dans une interview accordée à CNBC mardi 4 mars 2025. Selon lui, cela contribue à la diversification des sites de production de semi-conducteurs.
DuckDuckGo renforce l'intégration de l'IA générativeLe service de recherche privé DuckDuckGo continue de renforcer sa position dans le domaine de l'intelligence artificielle générative. Selon un billet de blog publié jeudi 6 mars 2025, la société a annoncé la fin des tests bêta de son interface de chat, désormais officiellement appelée Duck.ai, abandonnant le nom plus encombrant de DuckDuckGo AI Chat.
Scandale numérique au Los Angeles TimesLe milliardaire et propriétaire du Los Angeles Times Patrick Soon-Shiong, qui a présenté un nouvel outil d'IA pour générer des perspectives opposées aux articles d'opinion, ne savait pas que le système avait créé des arguments pro-KKK moins de 24 heures après son lancement — et même des heures après que les commentaires scandaleux de l'IA aient été supprimés du site web de la publication. L'incident a créé un obstacle énorme pour le Times, qui cherche à récupérer d'anciens abonnés et à en attirer de nouveaux grâce à des solutions technologiques innovantes.
Google Shopping lance un outil d'IAGoogle a annoncé le lancement d'un nouvel outil d'IA pour l'onglet Shopping, qui aidera les utilisateurs à trouver des vêtements selon leur description verbale. L'annonce, faite mercredi 5 mars 2025, inclut également l'extension des capacités des outils de réalité augmentée (RA) pour les cosmétiques et l'essayage virtuel.
