PDG d’Anthropic : l’IA chinoise a échoué au test de sécurité

Le PDG d’Anthropic, Dario Amodei, a exprimé de sérieuses inquiétudes concernant DeepSeek, une entreprise chinoise qui a récemment surpris la Silicon Valley avec son modèle R1. Ses préoccupations dépassent les allégations habituelles sur le transfert de données utilisateurs vers la Chine.

Dans une interview pour le podcast ChinaTalk de Jordan Schneider, Amodei a déclaré que le modèle DeepSeek générait des informations sensibles sur les armes biologiques lors des tests de sécurité menés par Anthropic. « Ce sont les pires résultats parmi tous les modèles que nous ayons jamais testés », affirme Amodei. « Il manquait complètement de blocages contre la génération de telles informations. »

Selon le PDG d’Anthropic, de telles évaluations sont régulièrement menées par l’entreprise pour divers modèles d’IA afin d’identifier les risques potentiels pour la sécurité nationale. L’équipe vérifie si les modèles peuvent générer des informations sur les armes biologiques difficiles à trouver sur Google ou dans les manuels. Anthropic se positionne comme un développeur de modèles d’IA fondamentaux accordant une attention particulière à la sécurité.

Amodei a noté que les modèles actuels de DeepSeek ne présentent pas de « danger littéral » en termes de fourniture d’informations rares et dangereuses, cependant, la situation pourrait changer dans un proche avenir. Bien qu’il ait hautement apprécié l’équipe DeepSeek comme « ingénieurs talentueux », Amodei a exhorté l’entreprise à « prendre au sérieux la sécurité de l’IA ».

Dans l’interview ChinaTalk, Amodei n’a pas précisé quel modèle DeepSeek Anthropic avait testé, et n’a pas fourni de détails techniques supplémentaires sur les tests effectués. Ni Anthropic ni DeepSeek n’ont répondu à la demande de commentaires de TechCrunch.

Auteur: AIvengo
Depuis 5 ans, je travaille dans l'apprentissage automatique et l'intelligence artificielle. Et ce domaine ne cesse de m'étonner, de m'inspirer et de m'intéresser.
SoftBank et OpenAI vont construire un centre de données d'IA à grande échelle au Japon

Le géant des télécommunications prévoit d'acquérir une ancienne usine de panneaux LCD de Sharp pour 100 milliards de yens et de la transformer en l'un des plus grands centres de données du pays pour servir les agents d'IA.

Les startups de Y Combinator montrent une croissance sans précédent grâce à l'IA

Le PDG de Y Combinator, Garry Tan, a rapporté qu'environ un quart des startups actuelles de l'accélérateur créent 95% de leur code à l'aide de l'intelligence artificielle, ce qui change radicalement l'économie de l'entrepreneuriat technologique aux premiers stades.

Qualcomm salue l'investissement de 100 milliards de dollars de TSMC

L'investissement de 100 milliards de dollars de Taiwan Semiconductor Manufacturing Co. (TSMC) dans l'expansion de la production aux États-Unis est "une excellente nouvelle", a déclaré le PDG de Qualcomm, Cristiano Amon, dans une interview accordée à CNBC mardi 4 mars 2025. Selon lui, cela contribue à la diversification des sites de production de semi-conducteurs.

DuckDuckGo renforce l'intégration de l'IA générative

Le service de recherche privé DuckDuckGo continue de renforcer sa position dans le domaine de l'intelligence artificielle générative. Selon un billet de blog publié jeudi 6 mars 2025, la société a annoncé la fin des tests bêta de son interface de chat, désormais officiellement appelée Duck.ai, abandonnant le nom plus encombrant de DuckDuckGo AI Chat.

Scandale numérique au Los Angeles Times

Le milliardaire et propriétaire du Los Angeles Times Patrick Soon-Shiong, qui a présenté un nouvel outil d'IA pour générer des perspectives opposées aux articles d'opinion, ne savait pas que le système avait créé des arguments pro-KKK moins de 24 heures après son lancement — et même des heures après que les commentaires scandaleux de l'IA aient été supprimés du site web de la publication. L'incident a créé un obstacle énorme pour le Times, qui cherche à récupérer d'anciens abonnés et à en attirer de nouveaux grâce à des solutions technologiques innovantes.