Поделиться через

Мониторинг злоупотреблений в обнаружении присутствия живого лица

Обнаружение живости распознавания лиц Azure AI позволяет выявлять и устранять случаи повторяющегося содержимого и/или поведения, которые указывают на нарушение кодекса поведения или других применимых условий продукта. В этом руководстве показано, как работать с этими функциями, чтобы обеспечить соответствие приложения политике Azure.

Сведения о том, как обрабатываются данные, можно найти на странице "Данные", " Конфиденциальность" и "Безопасность ".

Внимание

Клиентские пакеты SDK для определения живости в распознавании лиц — это ограниченная возможность. Необходимо запросить доступ к функции проверки жизнеспособности, заполнив форму запроса информации на распознавание лиц. Когда подписка Azure предоставляет доступ, вы можете скачать пакет SDK для распознавания лиц.

Компоненты мониторинга злоупотреблений

Существует несколько компонентов для мониторинга нарушений активности:

  • Управление сеансами: серверная система приложений создает сеансы обнаружения активности от имени конечных пользователей. Служба распознавания лиц выдает маркеры авторизации для определенного сеанса, и каждая из них действительна для ограниченного количества вызовов API. Когда конечный пользователь сталкивается с сбоем во время проверки активности, запрашивается новый маркер. Это позволяет бэкенд-приложению оценить риск увеличения числа попыток поддержания работоспособности. Чрезмерное количество повторных попыток может указывать на атаку методом грубой силы, направленную на обход системы обнаружения живого присутствия.
  • Временный идентификатор корреляции: При создании сеанса вам предлагается назначить временный корреляционный GUID на 128 бит (глобальный уникальный идентификатор) для каждого конечного пользователя вашей системы приложений. Это позволяет связать каждый сеанс с отдельным пользователем. Модели классификатора в серверной части службы имеют возможность обнаруживать признаки презентационных атак и отслеживать шаблоны сбоев при использовании конкретного GUID. Этот GUID должен иметь возможность быть сброшен по запросу для поддержки ручного переопределения системы автоматического устранения злоупотреблений.
  • Анализ паттернов злоупотреблений: служба определения жизнеспособности лиц ИИ Azure рассматривает шаблоны использования клиентами и использует алгоритмы и эвристики для обнаружения индикаторов потенциальных злоупотреблений. При анализе обнаруженных шаблонов учитываются, например, частота и серьезность при обнаружении содержания атаки на презентацию в захваченных изображениях клиента.
  • Проверка и решение человеком. Если идентификаторы корреляции помечены с помощью отслеживания шаблонов злоупотреблений, как описано выше, для этих идентификаторов больше не могут создаваться новые сеансы. Необходимо разрешить авторизованным сотрудникам оценить шаблоны трафика и подтвердить или переопределить определение на основе предопределенных рекомендаций и политик. Если проверка, выполненная человеком, делает вывод, что требуется переопределение, необходимо создать новый временный идентификатор GUID корреляции для отдельного пользователя, для создания большего количества сессий.
  • Уведомление и действие. Если порог жестокого поведения был подтвержден на основе предыдущих шагов, клиент должен быть проинформирован об определении по электронной почте. За исключением случаев серьезных или повторяющихся злоупотреблений, клиенты обычно получают возможность объяснить или исправить их, а также реализовать механизмы, чтобы предотвратить повторение — жестокое поведение. Отказ в устранении поведения или повторяющихся или серьезных злоупотреблений может привести к приостановке или прекращению возможности ограниченного доступа для ресурсов и /или возможностей Azure AI Face.

Связанный контент