Microsoft interdit à la police américaine d’utiliser son IA
Microsoft a officiellement confirmé l’interdiction d’utiliser l’intelligence artificielle générative pour la reconnaissance faciale par les départements de police américains via son service d’entreprise Azure OpenAI Service.
Mercredi, l’entreprise a modifié les conditions d’utilisation du service, qui interdisent désormais clairement les intégrations avec Azure OpenAI Service “pour ou au nom” des départements de police américains à des fins de reconnaissance faciale. L’interdiction s’applique aux intégrations avec les modèles actuels et probablement futurs d’OpenAI capables d’analyser des images.
Une clause distincte concerne “tous les organismes d’application de la loi dans le monde” et interdit l’utilisation de la “technologie de reconnaissance faciale en temps réel” sur les caméras mobiles, telles que les caméras corporelles et les dashcams, pour identifier des personnes dans un “environnement non contrôlé”.
Les changements de politique sont intervenus une semaine après qu’Axon, un fabricant de produits technologiques et d’armes pour les agences militaires et policières, a annoncé un nouveau produit utilisant le modèle de texte génératif GPT-4 d’OpenAI pour résumer les enregistrements audio des caméras corporelles. Les critiques ont rapidement souligné des problèmes potentiels, notamment les “hallucinations” (même les meilleurs modèles d’IA générative inventent aujourd’hui des faits) et les préjugés raciaux hérités des données d’entraînement, ce qui est particulièrement inquiétant étant donné que les personnes de couleur sont beaucoup plus susceptibles d’être arrêtées par la police que leurs homologues blancs.
On ne sait pas si Axon a utilisé le modèle GPT-4 via Azure OpenAI Service et si le lancement du produit Axon était la raison de la mise à jour de la politique de Microsoft. OpenAI avait déjà restreint l’utilisation de ses modèles pour la reconnaissance faciale via ses API.
Les nouvelles conditions laissent à Microsoft une marge de manœuvre. L’interdiction complète d’utiliser Azure OpenAI Service ne s’applique qu’à la police américaine, et non aux organismes internationaux d’application de la loi. De plus, elle ne s’étend pas à la reconnaissance faciale effectuée avec des caméras fixes dans un environnement contrôlé, comme un bureau (bien que les conditions interdisent toute utilisation de la reconnaissance faciale par la police américaine).
