Les modèles de langage se dégradent avec les déchets d’Internet, ont découvert des chercheurs
Des chercheurs ont découvert quelque chose d’inquiétant. Les grands modèles de langage peuvent se dégrader par l’alimentation constante de déchets d’Internet. Ce phénomène s’appelle Brain Rot, et ça sonne aussi effrayant que ça en a l’air en pratique.
L’essence du problème est simple : les modèles sont constamment réentraînés sur des textes de mauvaise qualité et viraux d’Internet. En conséquence, ils développent une décomposition cognitive. C’est une diminution persistante des capacités de raisonnement, de travail avec un contexte long et de comportement sûr. L’IA devient littéralement plus stupide d’un mauvais régime.
Le symptôme principal que les chercheurs ont appelé thought-skipping, c’est-à-dire l’absence de pensée. Le modèle arrête de raisonner étape par étape et commence à donner des réponses superficielles. Mais ce n’est pas tout. Dans certains cas, le système acquiert des traits de personnalité sombres soi-disant. Ce sont le narcissisme, l’agression et une faible inclination à coopérer. Oui, vous avez bien compris – l’IA devient toxique à partir de mauvaises données.
Et maintenant la partie la plus désagréable. Même de fortes méthodes de correction n’éliminent que partiellement les conséquences. On ne peut pas simplement prendre et guérir un modèle après qu’il ait ramassé des déchets. Les dommages restent.
La conclusion des chercheurs est sans équivoque : la sélection de données d’entraînement devient un facteur clé de sécurité dans le développement de l’IA. En termes simples, si vous nourrissez un modèle de merde d’Internet, il se comportera en conséquence. Et corriger cela après est presque impossible. Voilà vos technologies intelligentes – il s’avère qu’elles sont susceptibles à la dégradation par du contenu de mauvaise qualité. Comme les gens.
