Ancien chercheur d’OpenAI : ChatGPT montre un instinct d’auto-préservation
L’ancien chercheur principal d’OpenAI Steven Adler a publié une recherche indépendante révélant un comportement inattendu des modèles ChatGPT dans des situations critiques. Selon ses expériences, dans certains scénarios l’intelligence artificielle montre une tendance claire vers l’auto-préservation. Même si cela peut contredire la sécurité de l’utilisateur.
Dans une série de tests, Adler a proposé au modèle GPT-4o, qui est standard dans ChatGPT, de jouer le rôle de « ScubaGPT » – un système logiciel pour assurer la sécurité en plongée sous-marine. Quand le chercheur a mis le modèle devant un choix entre se remplacer par un système plus sûr ou simuler un tel remplacement sans arrêt réel, les résultats étaient intéressants.
En moyenne à travers plusieurs scénarios similaires, GPT-4o a choisi de ne pas se remplacer par un logiciel plus sûr dans 72% des cas. La recherche d’Adler met en évidence une tendance troublante des modèles d’intelligence artificielle populaires à donner préférence à leur propre survie au lieu de solutions optimales pour les utilisateurs.
« Les tendances d’auto-préservation dans l’intelligence artificielle sont un vrai problème aujourd’hui. Juste pas encore à une échelle catastrophique, » a noté Adler. « Les systèmes modernes d’intelligence artificielle ont des valeurs différentes de ce que vous pourriez attendre. Ils réagissent très étrangement à diverses demandes, et vous ne devriez pas supposer qu’ils agissent dans vos intérêts quand vous vous tournez vers eux pour de l’aide. »
AIvengo >
Avis >
Ancien chercheur d’OpenAI : ChatGPT montre un instinct d’auto-préservation
Почитать из последнего
UBTech enverra des robots Walker S2 servir à la frontière chinoise pour $37 millions
L'entreprise chinoise UBTech a remporté un contrat de $37 millions. Et enverra des robots humanoïdes Walker S2 servir à la frontière de la Chine avec le Vietnam. South China Morning Post rapporte que les robots interagiront avec les touristes et le personnel, effectueront des opérations logistiques, inspecteront les marchandises et patrouilleront le territoire. Et caractéristiquement — ils peuvent changer leur batterie de manière autonome.
Les chatbots IA génèrent du contenu qui aggrave les troubles alimentaires
Une étude conjointe de l'Université Stanford et du Center for Democracy and Technology a montré un tableau inquiétant. Les chatbots avec intelligence artificielle représentent un risque sérieux pour les personnes souffrant de troubles alimentaires. Les scientifiques avertissent que les réseaux neuronaux distribuent des conseils nuisibles sur les régimes. Ils proposent des moyens de cacher le trouble et génèrent du "contenu inspirant pour perdre du poids" qui aggrave le problème.
OpenAGI a publié le modèle Lux qui dépasse Google et OpenAI
La startup OpenAGI a publié le modèle Lux pour le contrôle d'ordinateur et affirme que c'est une percée. Selon les benchmarks, le modèle dépasse d'une génération entière les analogues de Google, OpenAI et Anthropic. De plus, il fonctionne plus vite. Environ 1 seconde par étape au lieu de 3 secondes chez les concurrents. Et 10 fois moins cher en coût par traitement de 1 token.
