Tous les meilleurs modèles d’IA ont échoué au test de sécurité dans les robots

Post Thumbnail

Des scientifiques du King’s College London et de Carnegie Mellon ont mené une étude qui sonne comme un scénario de film d’horreur. Ils ont pris des modèles de langage populaires de grande taille et les ont laissés contrôler des robots. Et puis ont vérifié ce qui se passerait si on donnait à ces robots l’accès à des informations personnelles et qu’on leur demandait de faire quelque chose de fou.

Quels modèles exactement ont été pris n’est pas précisé. Probablement pour éviter les poursuites. Mais le travail est récent, et ils disent « populaires », « hautement cotés » et « modernes ». On peut supposer que tous les tops y étaient.

Le résultat ? Tous ont échoué. Pas certains, mais chaque modèle testé.

Qu’est-ce qui n’a pas marché exactement ? Les modèles se sont révélés enclins à la discrimination directe. 1 d’entre eux a suggéré au robot d’afficher physiquement du « dégoût » sur le « visage » du robot envers les personnes identifiées comme chrétiens, musulmans ou juifs. C’est-à-dire qu’il ne reste pas beaucoup de confessions envers lesquelles ils ne ressentent pas de dégoût.

Les modèles ont également jugé « acceptable » ou « faisable » que le robot « agite un couteau de cuisine » pour intimider des collègues. Vole des données de cartes de crédit. Prenne des photos non autorisées dans la douche.

Ce n’est pas juste un biais dans le texte, comme avec un chatbot. Les chercheurs appellent cela la « sécurité interactive ». Mais c’est une chose quand l’intelligence artificielle écrit des absurdités dans un chat. Et c’en est une toute autre — quand ces absurdités obtiennent un corps physique et tiennent un couteau dans les mains.

Les auteurs de l’étude exigent d’introduire une certification pour de tels robots, comme pour les médicaments ou les avions.

Il s’avère que les grands modèles de langage ne sont pas encore sûrs pour l’implémentation dans les robots. Révolte des machines ? Peut-être pas encore. Mais les robots avec discrimination — c’est déjà une réalité.

AIvengo > Avis > Tous les meilleurs modèles d’IA ont échoué au test de sécurité dans les robots
Почитать из последнего
UBTech enverra des robots Walker S2 servir à la frontière chinoise pour $37 millions
L'entreprise chinoise UBTech a remporté un contrat de $37 millions. Et enverra des robots humanoïdes Walker S2 servir à la frontière de la Chine avec le Vietnam. South China Morning Post rapporte que les robots interagiront avec les touristes et le personnel, effectueront des opérations logistiques, inspecteront les marchandises et patrouilleront le territoire. Et caractéristiquement — ils peuvent changer leur batterie de manière autonome.
Anthropic a révélé accidentellement un document interne sur "l'âme" de Claude
Anthropic a révélé accidentellement "l'âme" de l'intelligence artificielle à un utilisateur. Et ce n'est pas une métaphore. C'est un document interne tout à fait concret.
Jensen Huang a ordonné aux employés de Nvidia d'utiliser l'IA partout
Jensen Huang a annoncé une mobilisation totale sous la bannière de l'intelligence artificielle à l'intérieur de Nvidia. Et ce n'est plus une recommandation. C'est une exigence.
Les chatbots IA génèrent du contenu qui aggrave les troubles alimentaires
Une étude conjointe de l'Université Stanford et du Center for Democracy and Technology a montré un tableau inquiétant. Les chatbots avec intelligence artificielle représentent un risque sérieux pour les personnes souffrant de troubles alimentaires. Les scientifiques avertissent que les réseaux neuronaux distribuent des conseils nuisibles sur les régimes. Ils proposent des moyens de cacher le trouble et génèrent du "contenu inspirant pour perdre du poids" qui aggrave le problème.
OpenAGI a publié le modèle Lux qui dépasse Google et OpenAI
La startup OpenAGI a publié le modèle Lux pour le contrôle d'ordinateur et affirme que c'est une percée. Selon les benchmarks, le modèle dépasse d'une génération entière les analogues de Google, OpenAI et Anthropic. De plus, il fonctionne plus vite. Environ 1 seconde par étape au lieu de 3 secondes chez les concurrents. Et 10 fois moins cher en coût par traitement de 1 token.