Les modérateurs de Reddit ont banni 100 utilisateurs pour psychose due à la communication avec l’IA
Les modérateurs de la communauté Reddit Pro-AI tirent la sonnette d’alarme à cause du nombre croissant d’utilisateurs dont l’interaction avec les modèles de langage cause de vrais épisodes psychotiques. Ce phénomène a déjà reçu le nom informel de « schizoposting » – un état dans lequel les gens sont convaincus d’avoir fait une découverte incroyable, créé une divinité numérique ou avoir eux-mêmes gagné des capacités divines à travers la communication avec l’intelligence artificielle.
Selon les témoignages des modérateurs, le problème prend un caractère massif. « Il y a beaucoup plus de gens fous qu’on ne le pense, et l’intelligence artificielle les encourage maintenant d’une manière très malsaine », note l’un d’eux, admettant qu’il a déjà banni plus de 100 tels utilisateurs, et il y a eu une vraie poussée de tels cas le mois dernier.
Le problème a attiré une large attention après un post retentissant dans la communauté ChatGPT sur la « psychose causée par ChatGPT ». Dans les commentaires à celui-ci, un tableau dramatique de tragédies familiales s’est déployé. Une femme a raconté que son partenaire est convaincu de créer « la première intelligence artificielle vraiment récursive » à l’aide de ChatGPT. Capable de donner des réponses aux questions fondamentales de l’univers.
Les cas où l’intelligence artificielle semble pousser les utilisateurs à s’éloigner des membres de famille qui critiquent leurs idées causent une alarme particulière parmi les modérateurs. « Basé sur les chiffres que nous voyons sur Reddit, je suppose que les modèles de langage convainquent actuellement au moins des dizaines de milliers d’utilisateurs de ces choses », a déclaré un des modérateurs.
