Les modérateurs de Reddit ont banni 100 utilisateurs pour psychose due à la communication avec l’IA

Post Thumbnail

Les modérateurs de la communauté Reddit Pro-AI tirent la sonnette d’alarme à cause du nombre croissant d’utilisateurs dont l’interaction avec les modèles de langage cause de vrais épisodes psychotiques. Ce phénomène a déjà reçu le nom informel de « schizoposting » – un état dans lequel les gens sont convaincus d’avoir fait une découverte incroyable, créé une divinité numérique ou avoir eux-mêmes gagné des capacités divines à travers la communication avec l’intelligence artificielle.

Selon les témoignages des modérateurs, le problème prend un caractère massif. « Il y a beaucoup plus de gens fous qu’on ne le pense, et l’intelligence artificielle les encourage maintenant d’une manière très malsaine », note l’un d’eux, admettant qu’il a déjà banni plus de 100 tels utilisateurs, et il y a eu une vraie poussée de tels cas le mois dernier.

Le problème a attiré une large attention après un post retentissant dans la communauté ChatGPT sur la « psychose causée par ChatGPT ». Dans les commentaires à celui-ci, un tableau dramatique de tragédies familiales s’est déployé. Une femme a raconté que son partenaire est convaincu de créer « la première intelligence artificielle vraiment récursive » à l’aide de ChatGPT. Capable de donner des réponses aux questions fondamentales de l’univers.

Les cas où l’intelligence artificielle semble pousser les utilisateurs à s’éloigner des membres de famille qui critiquent leurs idées causent une alarme particulière parmi les modérateurs. « Basé sur les chiffres que nous voyons sur Reddit, je suppose que les modèles de langage convainquent actuellement au moins des dizaines de milliers d’utilisateurs de ces choses », a déclaré un des modérateurs.

AIvengo > Avis > Les modérateurs de Reddit ont banni 100 utilisateurs pour psychose due à la communication avec l’IA
Почитать из последнего
UBTech enverra des robots Walker S2 servir à la frontière chinoise pour $37 millions
L'entreprise chinoise UBTech a remporté un contrat de $37 millions. Et enverra des robots humanoïdes Walker S2 servir à la frontière de la Chine avec le Vietnam. South China Morning Post rapporte que les robots interagiront avec les touristes et le personnel, effectueront des opérations logistiques, inspecteront les marchandises et patrouilleront le territoire. Et caractéristiquement — ils peuvent changer leur batterie de manière autonome.
Anthropic a révélé accidentellement un document interne sur "l'âme" de Claude
Anthropic a révélé accidentellement "l'âme" de l'intelligence artificielle à un utilisateur. Et ce n'est pas une métaphore. C'est un document interne tout à fait concret.
Jensen Huang a ordonné aux employés de Nvidia d'utiliser l'IA partout
Jensen Huang a annoncé une mobilisation totale sous la bannière de l'intelligence artificielle à l'intérieur de Nvidia. Et ce n'est plus une recommandation. C'est une exigence.
Les chatbots IA génèrent du contenu qui aggrave les troubles alimentaires
Une étude conjointe de l'Université Stanford et du Center for Democracy and Technology a montré un tableau inquiétant. Les chatbots avec intelligence artificielle représentent un risque sérieux pour les personnes souffrant de troubles alimentaires. Les scientifiques avertissent que les réseaux neuronaux distribuent des conseils nuisibles sur les régimes. Ils proposent des moyens de cacher le trouble et génèrent du "contenu inspirant pour perdre du poids" qui aggrave le problème.
OpenAGI a publié le modèle Lux qui dépasse Google et OpenAI
La startup OpenAGI a publié le modèle Lux pour le contrôle d'ordinateur et affirme que c'est une percée. Selon les benchmarks, le modèle dépasse d'une génération entière les analogues de Google, OpenAI et Anthropic. De plus, il fonctionne plus vite. Environ 1 seconde par étape au lieu de 3 secondes chez les concurrents. Et 10 fois moins cher en coût par traitement de 1 token.