Un chercheur a contourné la protection de Claude et obtenu des instructions pour créer du sarin
Les systèmes d’intelligence artificielle modernes sont souvent comparés aux armes de destruction massive à cause de leur danger potentiel. Et un cas récent a démontré à quel point ces préoccupations sont justifiées. La compagnie Anthropic a créé pour son intelligence artificielle Claude le prompt système le plus étendu contenant 25 000 tokens ou approximativement 17 000 mots. Pour comparaison, le prompt système de ChatGPT ne fait qu’environ 2 200 mots. Et c’est seulement 13% du volume d’instructions de Claude. Donc, malgré une telle protection, les chercheurs ont trouvé des moyens de contourner les limitations.
D’abord, une personne nommée Asgeir Thor a pu convaincre Claude d’ignorer le prompt système, puis une autre personne nommée Ian MacKenzie est allée plus loin. Après 6 heures de travail avec Claude version 4, il a obtenu une instruction détaillée de 15 pages pour la fabrication de sarin, décrivant toutes les étapes clés de production d’armes chimiques.
Et cela réfute les affirmations des techno-optimistes que les prompts système protègent de manière fiable contre les abus. Et il y a un détail ici – beaucoup ont essayé de trouver des instructions détaillées similaires en utilisant Google, mais sans succès. Et en combinaison avec des systèmes d’intelligence artificielle avancés, obtenir de telles informations s’est avéré possible. Ce cas confirme les mots du célèbre scientifique et professeur Stanislas Dehaene sur les risques de l’intelligence artificielle : « Ce n’est pas le moment d’être idiots ! »
AIvengo >
Avis >
Un chercheur a contourné la protection de Claude et obtenu des instructions pour créer du sarin
Почитать из последнего
UBTech enverra des robots Walker S2 servir à la frontière chinoise pour $37 millions
L'entreprise chinoise UBTech a remporté un contrat de $37 millions. Et enverra des robots humanoïdes Walker S2 servir à la frontière de la Chine avec le Vietnam. South China Morning Post rapporte que les robots interagiront avec les touristes et le personnel, effectueront des opérations logistiques, inspecteront les marchandises et patrouilleront le territoire. Et caractéristiquement — ils peuvent changer leur batterie de manière autonome.
Les chatbots IA génèrent du contenu qui aggrave les troubles alimentaires
Une étude conjointe de l'Université Stanford et du Center for Democracy and Technology a montré un tableau inquiétant. Les chatbots avec intelligence artificielle représentent un risque sérieux pour les personnes souffrant de troubles alimentaires. Les scientifiques avertissent que les réseaux neuronaux distribuent des conseils nuisibles sur les régimes. Ils proposent des moyens de cacher le trouble et génèrent du "contenu inspirant pour perdre du poids" qui aggrave le problème.
OpenAGI a publié le modèle Lux qui dépasse Google et OpenAI
La startup OpenAGI a publié le modèle Lux pour le contrôle d'ordinateur et affirme que c'est une percée. Selon les benchmarks, le modèle dépasse d'une génération entière les analogues de Google, OpenAI et Anthropic. De plus, il fonctionne plus vite. Environ 1 seconde par étape au lieu de 3 secondes chez les concurrents. Et 10 fois moins cher en coût par traitement de 1 token.
