Microsoft verbietet US-Polizei die Nutzung seiner KI

Microsoft hat offiziell das Verbot bestätigt, generative künstliche Intelligenz für Gesichtserkennung durch US-Polizeibehörden über seinen Unternehmensdienst Azure OpenAI Service zu nutzen.

Am Mittwoch änderte das Unternehmen die Nutzungsbedingungen des Dienstes, die nun eindeutig Integrationen mit Azure OpenAI Service „für oder im Namen von“ US-Polizeibehörden zum Zwecke der Gesichtserkennung verbieten. Das Verbot gilt für Integrationen mit aktuellen und wahrscheinlich zukünftigen OpenAI-Modellen, die Bilder analysieren können.

Eine separate Klausel betrifft „alle Strafverfolgungsbehörden weltweit“ und verbietet die Verwendung von „Echtzeit-Gesichtserkennungstechnologie“ auf mobilen Kameras, wie Körperkameras und Dashcams, zur Identifizierung von Personen in einer „unkontrollierten Umgebung“.

Die Änderungen der Richtlinien erfolgten eine Woche nachdem Axon, ein Hersteller von Technologieprodukten und Waffen für Militär- und Strafverfolgungsbehörden, ein neues Produkt angekündigt hatte, das das generative Textmodell GPT-4 von OpenAI verwendet, um Audioaufnahmen von Körperkameras zusammenzufassen. Kritiker wiesen schnell auf potenzielle Probleme hin, darunter „Halluzinationen“ (selbst die besten generativen KI-Modelle erfinden heute Fakten) und rassistische Vorurteile, die aus Trainingsdaten geerbt wurden, was besonders beunruhigend ist, da farbige Menschen viel häufiger von der Polizei angehalten werden als ihre weißen Mitbürger.

Es ist unklar, ob Axon das GPT-4-Modell über Azure OpenAI Service genutzt hat und ob die Produkteinführung von Axon der Grund für die Aktualisierung der Microsoft-Richtlinie war. OpenAI hatte zuvor bereits die Verwendung seiner Modelle für Gesichtserkennung über seine APIs eingeschränkt.

Die neuen Bedingungen lassen Microsoft Spielraum. Das vollständige Verbot der Nutzung von Azure OpenAI Service gilt nur für die US-Polizei, nicht für internationale Strafverfolgungsbehörden. Zudem erstreckt es sich nicht auf Gesichtserkennung, die mit stationären Kameras in einer kontrollierten Umgebung, wie einem Büro, durchgeführt wird (obwohl die Bedingungen jegliche Nutzung von Gesichtserkennung durch die US-Polizei verbieten).