Microsoft заставила ИИ просить разрешения на опасные действия

Microsoft предупреждает: Copilot Cowork может ошибиться, неверно понять инструкцию или среагировать на скрытую вредоносную команду. Ответственность за действия остаётся за пользователем, особенно при работе с деньгами и данными.

Для контроля в Cowork появилась функция «Approve actions». Перед отдельными операциями система открывает окно подтверждения, где пользователь или администратор проверяет параметры. Если действие вызывает сомнения, Microsoft советует не пропускать запрос.

При этом согласие не становится точкой невозврата. Cowork позволяет приостановить задачу уже после подтверждения, а затем продолжить её или отменить.

Для проверок Microsoft выделяет: покупки и платежи, передачу имени, адреса или телефона сторонним сайтам, отправку писем и сообщений, удаление файлов, изменения в облачном хранилище, отмену подписок и настройку аккаунта. Отдельно — сведения о здоровье, правительственные документы и операции с безопасностью.

Сам Cowork представили весной. Инструмент выполняет многошаговые задачи в Outlook, Teams, Excel, PowerPoint и SharePoint, а Work IQ анализирует письма, календарь, сообщения и документы для формирования контекста.

Парадокс прост: чем больше задач ИИ выполняет сам, тем важнее человеческий контроль. Для бизнеса это может означать более понятные правила работы агентов и расширение автоматизации с проверкой критических действий.

—

Телеграм про право в IT и AI. IT юристы — PravoWeb.com