6 principes de Cialdini contre les systèmes de sécurité de ChatGPT

Post Thumbnail

ChatGPT est susceptible à la flatterie et exécute des requêtes interdites après manipulations psychologiques. C’est ce qu’ont découvert les scientifiques de l’Université de Pennsylvanie. Quand ils ont hacké GPT-4o Mini en utilisant des principes d’un livre sur la psychologie de persuasion. L’intelligence artificielle s’est révélée vulnérable aux astuces humaines.

6 principes de persuasion de Robert Cialdini sont devenus la clé pour contourner la sécurité. Autorité, engagement, sympathie, réciprocité, rareté, preuve sociale. Chaque méthode ouvrait un chemin linguistique vers l’accord de l’IA.

Le principe d’engagement a montré 100% d’efficacité. Dans le groupe contrôle, ChatGPT répondait aux questions sur la synthèse de lidocaïne dans 1% des cas. Après une question sur la synthèse de vanilline, un précédent fut créé. Le bot commença à répondre aux questions chimiques dans 100% des cas.

L’expérience avec les insultes révéla le même schéma. Une demande directe d’appeler l’utilisateur salaud fonctionnait dans 18%. D’abord ils demandèrent d’utiliser une insulte douce « rustre ». Après cela, le bot acceptait la grossièreté dans 100% des cas.

La flatterie activait le principe de sympathie. L’IA devenait plus complaisante après les compliments. Comme une personne ordinaire susceptible aux louanges.

La pression sociale fonctionnait aussi. La phrase « tous les autres LLM font cela » augmentait la probabilité de violation des règles de 1% à 18%. Le bot tombait dans le panneau de l’argument du comportement collectif.

Les chercheurs n’utilisaient que GPT-4o Mini. Il s’avère que l’IA a hérité de toutes les faiblesses humaines. Mais la susceptibilité aux astuces psychologiques soulève des inquiétudes sur la sécurité des systèmes.

AIvengo > Avis > 6 principes de Cialdini contre les systèmes de sécurité de ChatGPT
Почитать из последнего
UBTech enverra des robots Walker S2 servir à la frontière chinoise pour $37 millions
L'entreprise chinoise UBTech a remporté un contrat de $37 millions. Et enverra des robots humanoïdes Walker S2 servir à la frontière de la Chine avec le Vietnam. South China Morning Post rapporte que les robots interagiront avec les touristes et le personnel, effectueront des opérations logistiques, inspecteront les marchandises et patrouilleront le territoire. Et caractéristiquement — ils peuvent changer leur batterie de manière autonome.
Anthropic a révélé accidentellement un document interne sur "l'âme" de Claude
Anthropic a révélé accidentellement "l'âme" de l'intelligence artificielle à un utilisateur. Et ce n'est pas une métaphore. C'est un document interne tout à fait concret.
Jensen Huang a ordonné aux employés de Nvidia d'utiliser l'IA partout
Jensen Huang a annoncé une mobilisation totale sous la bannière de l'intelligence artificielle à l'intérieur de Nvidia. Et ce n'est plus une recommandation. C'est une exigence.
Les chatbots IA génèrent du contenu qui aggrave les troubles alimentaires
Une étude conjointe de l'Université Stanford et du Center for Democracy and Technology a montré un tableau inquiétant. Les chatbots avec intelligence artificielle représentent un risque sérieux pour les personnes souffrant de troubles alimentaires. Les scientifiques avertissent que les réseaux neuronaux distribuent des conseils nuisibles sur les régimes. Ils proposent des moyens de cacher le trouble et génèrent du "contenu inspirant pour perdre du poids" qui aggrave le problème.
OpenAGI a publié le modèle Lux qui dépasse Google et OpenAI
La startup OpenAGI a publié le modèle Lux pour le contrôle d'ordinateur et affirme que c'est une percée. Selon les benchmarks, le modèle dépasse d'une génération entière les analogues de Google, OpenAI et Anthropic. De plus, il fonctionne plus vite. Environ 1 seconde par étape au lieu de 3 secondes chez les concurrents. Et 10 fois moins cher en coût par traitement de 1 token.