Un haut responsable des entreprises d’Elon Musk a développé un chatbot IA spécialisé pour le Département de l’efficacité gouvernementale (DOGE), utilisant les technologies xAI pour optimiser l’administration publique, comme l’a appris TechCrunch.
Le chatbot, disponible publiquement jusqu’à mardi sur un sous-domaine DOGE du site web de Christopher Stanley, chef de la sécurité de SpaceX et employé de la Maison Blanche, a été désactivé peu après la publication de l’enquête.
Le système, qui se présente comme « l’assistant IA du Département de l’efficacité gouvernementale », est construit sur la base de Grok-2 de xAI. Le chatbot est positionné comme un outil pour aider les fonctionnaires à identifier les dépenses inefficaces et à optimiser les processus.
L’architecture technique de la solution représente un modèle de langage modifié, formé sur les objectifs clés de DOGE, incluant cinq « principes directeurs ». Parmi eux figurent la simplification des exigences gouvernementales et l’élimination des processus redondants.
L’analyse du fonctionnement du système a révélé une caractéristique particulière : le chatbot applique systématiquement ces principes à un large éventail de questions. Par exemple, en répondant à une requête sur les leaders politiques du XXe siècle, le système a mis en avant Margaret Thatcher et Lee Kuan Yew comme « excellents modèles pour DOGE » en raison de leur accent sur « l’efficacité, la simplification et l’utilisation de la technologie. »
Cependant, le système présente plusieurs problèmes, notamment l' »hallucination » typique des modèles de langage – la génération de données fictives. Lors de la demande d’informations sur les employés de DOGE, le chatbot créait des noms et des postes inexistants. Des cas de recommandations irréalistes ont également été notés, par exemple, suggérant à l’USAID d’utiliser des drones et des appareils portables pour augmenter l’efficacité.
L’implémentation de la technologie soulève des questions sur les conflits d’intérêts potentiels : l’utilisation de l’API xAI par les fonctionnaires pourrait directement augmenter les revenus de l’entreprise de Musk. Les représentants de xAI n’étaient pas disponibles pour commenter.
DOGE met activement en œuvre l’IA dans le cadre de la modernisation de l’administration gouvernementale américaine. Selon Wired, l’agence développe également un chatbot IA distinct pour l’Administration des services généraux, l’agence qui supervise les marchés publics.
