Microsoft запрещает полиции США использовать свой ИИ

Microsoft официально подтвердила запрет на использование генеративного искусственного интеллекта для распознавания лиц полицейскими департаментами США через свой корпоративный сервис Azure OpenAI Service.

В среду компания внесла изменения в условия использования сервиса, которые теперь четко запрещают интеграции с Azure OpenAI Service «для или от имени» полицейских департаментов США в целях распознавания лиц. Запрет распространяется на интеграции с текущими и, вероятно, будущими моделями OpenAI, способными анализировать изображения.

Отдельный пункт касается «всех правоохранительных органов в мире» и запрещает использование «технологии распознавания лиц в реальном времени» на мобильных камерах, таких как нательные камеры и видеорегистраторы, для идентификации людей в «неконтролируемой среде».

Изменения в политике последовали через неделю после того, как компания Axon, производитель технологических продуктов и оружия для военных и правоохранительных органов, анонсировала новый продукт, использующий генеративную текстовую модель OpenAI GPT-4 для обобщения аудиозаписей с нательных камер. Критики быстро указали на потенциальные проблемы, включая «галлюцинации» (даже лучшие модели генеративного ИИ сегодня изобретают факты) и расовые предубеждения, унаследованные из тренировочных данных, что особенно тревожно, учитывая, что цветные люди гораздо чаще подвергаются остановкам полицией, чем их белые сограждане.

Неясно, использовала ли Axon модель GPT-4 через Azure OpenAI Service и стал ли запуск продукта Axon причиной обновления политики Microsoft. OpenAI ранее уже ограничила использование своих моделей для распознавания лиц через свои API.

Новые условия оставляют Microsoft простор для маневра. Полный запрет на использование Azure OpenAI Service касается только полиции США, а не международных правоохранительных органов. Кроме того, он не распространяется на распознавание лиц, выполняемое со стационарных камер в контролируемой среде, например, в офисе (хотя условия запрещают любое использование распознавания лиц полицией США).