Même IA se comporte différemment selon interface
L’Université de Hambourg a mené une étude qui montre un schéma étrange. Il s’avère que les recommandations de nouvelles de ChatGPT diffèrent grandement selon que l’interface web ou l’API est utilisée. L’analyse de plus de 24 mille réponses en allemand a révélé une image claire.
La version web référence activement les partenaires sous licence d’OpenAI. C’est environ 13% de tous les liens. Et les réponses via API ne contiennent presque aucune de ces sources – seulement 2%. Au lieu de cela, le modèle préfère les sites encyclopédiques comme Wikipedia et les publications locales peu connues.
Il s’avère que la même IA se comporte différemment selon la méthode d’accès. La version web promeut les partenaires d’OpenAI, et la version API les ignore presque complètement.
Et la demande de « diversité des sources » n’améliore pas toujours la qualité.
Les chercheurs suggèrent que pour ChatGPT « diversité » peut signifier seulement des différences linguistiques, et non une variabilité substantielle. C’est-à-dire que le modèle comprend la diversité comme « laissez-moi prendre des sources avec des styles d’écriture différents » plutôt que « laissez-moi vérifier les faits de différentes rédactions indépendantes ».
Il s’avère que le choix des sources ne dépend pas de la qualité de l’information, mais de l’interface par laquelle vous accédez au modèle.
L’IA qui devrait aider à naviguer dans le flux d’informations crée elle-même une confusion supplémentaire.
AIvengo >
Avis >
Même IA se comporte différemment selon interface
Почитать из последнего
UBTech enverra des robots Walker S2 servir à la frontière chinoise pour $37 millions
L'entreprise chinoise UBTech a remporté un contrat de $37 millions. Et enverra des robots humanoïdes Walker S2 servir à la frontière de la Chine avec le Vietnam. South China Morning Post rapporte que les robots interagiront avec les touristes et le personnel, effectueront des opérations logistiques, inspecteront les marchandises et patrouilleront le territoire. Et caractéristiquement — ils peuvent changer leur batterie de manière autonome.
Les chatbots IA génèrent du contenu qui aggrave les troubles alimentaires
Une étude conjointe de l'Université Stanford et du Center for Democracy and Technology a montré un tableau inquiétant. Les chatbots avec intelligence artificielle représentent un risque sérieux pour les personnes souffrant de troubles alimentaires. Les scientifiques avertissent que les réseaux neuronaux distribuent des conseils nuisibles sur les régimes. Ils proposent des moyens de cacher le trouble et génèrent du "contenu inspirant pour perdre du poids" qui aggrave le problème.
OpenAGI a publié le modèle Lux qui dépasse Google et OpenAI
La startup OpenAGI a publié le modèle Lux pour le contrôle d'ordinateur et affirme que c'est une percée. Selon les benchmarks, le modèle dépasse d'une génération entière les analogues de Google, OpenAI et Anthropic. De plus, il fonctionne plus vite. Environ 1 seconde par étape au lieu de 3 secondes chez les concurrents. Et 10 fois moins cher en coût par traitement de 1 token.
