Les agents IA ont créé indépendamment des normes sociales sans participation humaine
Nous avons l’habitude de penser que les règles et normes sont une invention purement humaine. Mais une nouvelle recherche de scientifiques de City St George’s, University of London et IT University of Copenhagen montre l’inattendu. Leur recherche a montré que les grands modèles de langage, similaires à ChatGPT, sont capables de former indépendamment des normes sociales et des accords linguistiques, ainsi que de les changer sous l’influence d’une « minorité » – tout cela sans participation humaine.
Les chercheurs se sont posé une question. Les groupes d’intelligence artificielle pourront-ils créer de nouvelles formes de communication, comme le font les gens ? Pour l’expérience ils ont uni de 24 à 200 agents IA qui interagissaient entre eux dans des conditions spéciales. Ne connaissant pas l’existence de tout le groupe, avec une mémoire limitée des contacts passés et sans instructions humaines.
Il était proposé aux modèles de choisir un « nom » parmi un ensemble limité de symboles. Pour la correspondance avec un partenaire ils recevaient une récompense, pour la non-correspondance – une punition. Après des centaines de telles interactions, des normes linguistiques stables ont surgi dans les groupes, analogues aux modèles culturels humains.
La découverte la plus intéressante – l’apparition de biais collectifs non explicables par le comportement de modèles individuels. Cela prouve que l’intelligence artificielle en interaction génère de nouvelles qualités « sociales » qui ne peuvent être réduites aux algorithmes individuels des participants.
Auteur: AIvengo
Depuis 5 ans, je travaille dans l'apprentissage automatique et l'intelligence artificielle. Et ce domaine ne cesse de m'étonner, de m'inspirer et de m'intéresser.
Latest News
UBTech enverra des robots Walker S2 servir à la frontière chinoise pour $37 millionsL'entreprise chinoise UBTech a remporté un contrat de $37 millions. Et enverra des robots humanoïdes Walker S2 servir à la frontière de la Chine avec le Vietnam. South China Morning Post rapporte que les robots interagiront avec les touristes et le personnel, effectueront des opérations logistiques, inspecteront les marchandises et patrouilleront le territoire. Et caractéristiquement — ils peuvent changer leur batterie de manière autonome.
Les chatbots IA génèrent du contenu qui aggrave les troubles alimentairesUne étude conjointe de l'Université Stanford et du Center for Democracy and Technology a montré un tableau inquiétant. Les chatbots avec intelligence artificielle représentent un risque sérieux pour les personnes souffrant de troubles alimentaires. Les scientifiques avertissent que les réseaux neuronaux distribuent des conseils nuisibles sur les régimes. Ils proposent des moyens de cacher le trouble et génèrent du "contenu inspirant pour perdre du poids" qui aggrave le problème.
OpenAGI a publié le modèle Lux qui dépasse Google et OpenAILa startup OpenAGI a publié le modèle Lux pour le contrôle d'ordinateur et affirme que c'est une percée. Selon les benchmarks, le modèle dépasse d'une génération entière les analogues de Google, OpenAI et Anthropic. De plus, il fonctionne plus vite. Environ 1 seconde par étape au lieu de 3 secondes chez les concurrents. Et 10 fois moins cher en coût par traitement de 1 token.
