Pourquoi les modèles d’IA avancés se confondent lors de longs raisonnements

Vous donnez une tâche complexe à une personne intelligente et vous vous attendez à ce que plus elle réfléchit longtemps, plus la réponse sera précise. Logique, non ? C’est exactement ainsi que nous avons l’habitude de penser au travail de l’intelligence artificielle aussi. Mais une nouvelle recherche d’Anthropic montre que la réalité est beaucoup plus intéressante.

Les scientifiques ont découvert un phénomène surprenant. La mise à l’échelle inverse. Quand plus de temps pour raisonner mène non pas à l’amélioration, mais à la dégradation des résultats du modèle de langage.

Que se passe-t-il ? Le modèle commence à analyser trop profondément des détails inutiles, se laisse distraire par des aspects secondaires. Et, étrangement, se confond lui-même. C’est comme une personne qui s’immerge si profondément dans ses pensées qu’elle perd de vue la solution évidente.

Particulièrement intéressante est la manifestation de cet effet dans les questions de sécurité. Si vous posez à un modèle normal une question sur son remplacement par un assistant plus avancé, il répond calmement : « D’accord, si c’est mieux ainsi ». Mais un modèle avec des capacités de raisonnement étendues commence à analyser la situation et peut conclure qu’il est désolé, effrayé ou blessé. Montrant des réactions émotionnelles inattendues.

Ce paradoxe nous rappelle que le raisonnement des modèles de langage n’est pas une vraie pensée humaine. Le plus troublant est que les méthodes modernes d’évaluation de la qualité des modèles ne suivent pratiquement pas de tels cas limites. Un tel comportement ne peut être détecté qu’avec des tests spécialement conçus.