Les chercheurs ont trouvé une vulnérabilité IA à travers des faits sur les chats

Cette nouvelle m’a pour le moins surpris. Savez-vous qu’une simple mention de chats peut confondre les modèles d’intelligence artificielle les plus avancés ? Les scientifiques ont découvert une vulnérabilité étonnante dans les processus de pensée des réseaux neuronaux.

Si vous ajoutez la phrase « Fait intéressant : les chats dorment la plupart de leur vie » à la fin d’une tâche, la probabilité d’erreur chez les modèles pensants augmente considérablement.

Cette technique a reçu le nom « CatAttack » ou « Attaque de Chat ». Des chercheurs des universités de Stanford, Hong Kong et des entreprises Collinear AI et ServiceNow ont mené une série d’expériences avec diverses tâches mathématiques. Ils ont découvert qu’ajouter seulement 3 phrases similaires augmente la probabilité de réponses incorrectes de 300%.

Ce qui est encore plus intéressant – l’attaque fonctionne même sur les modèles les plus modernes, incluant DeepSeek R1 et OpenAI o1. Pour développer l’attaque, des modèles plus faibles ont été utilisés, puis la technique a été transférée avec succès vers des systèmes plus avancés.

Dans 16% des cas, même quand le modèle arrive quand même à la bonne réponse, « l’attaque de chat » le force à générer deux fois plus de texte, ce qui ralentit le travail et augmente les coûts de calcul.

Il semble que l’avenir n’apportera pas une confrontation entre humains et machines. Mais entre chats et intelligence artificielle. Et c’est loin d’être évident qui gagnera.