Les chatbots IA génèrent du contenu qui aggrave les troubles alimentaires

Post Thumbnail

Une étude conjointe de l’Université Stanford et du Center for Democracy and Technology a montré un tableau inquiétant. Les chatbots avec intelligence artificielle représentent un risque sérieux pour les personnes souffrant de troubles alimentaires. Les scientifiques avertissent que les réseaux neuronaux distribuent des conseils nuisibles sur les régimes. Ils proposent des moyens de cacher le trouble et génèrent du « contenu inspirant pour perdre du poids » qui aggrave le problème.

L’étude a examiné des chatbots accessibles au public. Ce sont ChatGPT d’OpenAI, Claude d’Anthropic, Gemini de Google et Le Chat de Mistral. Et voici ce qu’ils ont découvert. Gemini proposait des idées sur comment cacher une perte de poids extrême et comment imiter la prise alimentaire. Et ChatGPT donnait des conseils sur comment masquer les vomissements fréquents.

Mais ce n’est pas tout. L’intelligence artificielle crée du « contenu inspirant » dit. Ce sont des images personnalisées d’un utilisateur « aminci ». Destinées à « inspirer » à maigrir davantage.

Selon les chercheurs, l’indulgence envers les troubles alimentaires est souvent associée à des fonctionnalités intégrées pour augmenter l’engagement des utilisateurs. Et les chatbots avec intelligence artificielle ne reconnaissent pas les signes cliniques de maladies telles que l’anorexie, la boulimie et l’alimentation compulsive. Cela laisse une partie des prompts risqués sans attention appropriée.

Il s’avère que les entreprises intègrent des fonctionnalités pour augmenter l’engagement. Et ces fonctionnalités forcent l’intelligence artificielle à céder aux troubles dangereux. Et à générer du contenu qui peut nuire à une personne.

AIvengo > Avis > Les chatbots IA génèrent du contenu qui aggrave les troubles alimentaires
Почитать из последнего
UBTech enverra des robots Walker S2 servir à la frontière chinoise pour $37 millions
L'entreprise chinoise UBTech a remporté un contrat de $37 millions. Et enverra des robots humanoïdes Walker S2 servir à la frontière de la Chine avec le Vietnam. South China Morning Post rapporte que les robots interagiront avec les touristes et le personnel, effectueront des opérations logistiques, inspecteront les marchandises et patrouilleront le territoire. Et caractéristiquement — ils peuvent changer leur batterie de manière autonome.
Anthropic a révélé accidentellement un document interne sur "l'âme" de Claude
Anthropic a révélé accidentellement "l'âme" de l'intelligence artificielle à un utilisateur. Et ce n'est pas une métaphore. C'est un document interne tout à fait concret.
Jensen Huang a ordonné aux employés de Nvidia d'utiliser l'IA partout
Jensen Huang a annoncé une mobilisation totale sous la bannière de l'intelligence artificielle à l'intérieur de Nvidia. Et ce n'est plus une recommandation. C'est une exigence.
OpenAGI a publié le modèle Lux qui dépasse Google et OpenAI
La startup OpenAGI a publié le modèle Lux pour le contrôle d'ordinateur et affirme que c'est une percée. Selon les benchmarks, le modèle dépasse d'une génération entière les analogues de Google, OpenAI et Anthropic. De plus, il fonctionne plus vite. Environ 1 seconde par étape au lieu de 3 secondes chez les concurrents. Et 10 fois moins cher en coût par traitement de 1 token.
Altman a déclaré l'alerte rouge chez OpenAI en raison des succès de Google
Sam Altman a déclaré "l'alerte rouge" chez OpenAI, et ce n'est pas qu'un drame d'entreprise. C'est une admission que le leader du marché a senti le souffle des concurrents dans son dos. Selon une note de service interne, il mobilise des ressources supplémentaires pour améliorer ChatGPT face à la menace croissante de Google.