Le Ministère américain a silencieusement remplacé un rapport avec de fausses citations d’IA

Le rapport du Ministère américain de la Santé et des Services sociaux sur les maladies chroniques de l’enfance s’est retrouvé au centre d’un scandale scientifique. Les experts ont découvert que le document “Make Our Children Healthy Again Assessment” contient des citations falsifiées et des études inexistantes.

Imaginez : 7 travaux scientifiques cités n’existent tout simplement pas dans la réalité ! De plus, certains scientifiques mentionnés dans le rapport ont déclaré qu’ils n’avaient jamais mené les recherches qui leur étaient attribuées. Les analystes du New York Times ont suggéré que des parties du rapport pourraient avoir été générées par l’intelligence artificielle, connue pour ses “hallucinations”. Quand l’algorithme invente simplement des “faits” qui correspondent au contexte de la requête.

Malgré le fait que de nombreux experts considèrent les conclusions principales du rapport sur la connexion entre la nourriture ultra-transformée et le diabète, l’autisme et le TDAH comme justifiées, le fait même d’utiliser des sources fictives sape la confiance dans le travail. Le Ministère a déjà silencieusement remplacé le document original par une version corrigée sur son site web. Mais n’a pas officiellement reconnu l’utilisation de l’intelligence artificielle, qualifiant les erreurs de “mineures”.

C’est un précédent alarmant. Les structures gouvernementales peuvent inconsciemment ou consciemment répandre de la désinformation et le remarquer devient de plus en plus difficile.