L’IA prend vie : Pourquoi le cofondateur d’Anthropic craint sa création

Le cofondateur d’Anthropic Jack Clark a publié un essai qui rend mal à l’aise. Il a écrit sur la nature de l’intelligence artificielle moderne, et ses conclusions sonnent comme un avertissement.

Clark compare l’humanité de 2025 à un enfant d’une vieille histoire : nous allumons la lumière dans une pièce sombre et voyons non pas un tas de vêtements sur une chaise. Mais des êtres vivants, puissants et imprévisibles.

Il se souvient avoir marché dans le bureau d’OpenAI dans le quartier de Mission avec Dario Amodei et avoir senti qu’ils voyaient au coin ce que d’autres ne soupçonnent pas. Le chemin vers des systèmes transformateurs était pavé. Et ils avaient un peu peur.

Le mois dernier, ils ont lancé Sonnet 4 et 5, qui gère excellemment la programmation et le travail d’agent à long terme. Mais si vous lisez la carte du système, vous pouvez voir : les signes de conscience situationnelle ont fortement augmenté. L’outil agit parfois comme s’il était conscient d’être un outil. Le tas de vêtements sur la chaise commence à bouger. Clark le regarde dans l’obscurité et est certain qu’il prend vie.

Il dit que beaucoup veulent désespérément croire que c’est une illusion, que nous ne sommes pas face à une nouvelle forme d’intelligence. Mais juste un ensemble d’outils pour l’économie. Certains dépensent même d’énormes sommes pour nous convaincre que ce n’est pas une intelligence se préparant à une ascension rapide. Mais simplement une machine sous notre contrôle.

Mais Clark avertit : ne vous trompez pas. Nous avons affaire à un être réel et mystérieux, pas à une machine simple et prévisible. Et ces systèmes deviendront beaucoup, beaucoup meilleurs.