Агенты мониторинга в управлении внутренними рисками

Важно!

Управление внутренними рисками Microsoft Purview сопоставляет различные сигналы для выявления потенциальных вредоносных или непреднамеренных внутренних рисков, таких как кража IP-адресов, утечка данных и нарушения безопасности. Управление внутренними рисками позволяет клиентам создавать политики для управления безопасностью и соответствием требованиям. Созданные с учетом конфиденциальности по умолчанию, пользователи по умолчанию псевдонимизированы, а элементы управления доступом на основе ролей и журналы аудита позволяют обеспечить конфиденциальность на уровне пользователя.

Управление внутренними рисками Microsoft Purview позволяет организациям выявлять, исследовать и реагировать на потенциальные внутренние риски для пользователей и агентов. По мере того как организации все чаще внедряют агентов ИИ, управление внутренними рисками предоставляет встроенные возможности для мониторинга активности агента и обнаружения рискованного поведения, которое может привести к риску раскрытия данных, нарушений соответствия требованиям или проблем безопасности.

Прежде чем приступить к мониторингу агентов в организации, необходимо выполнить действия, описанные в статье Начало работы с управлением внутренними рисками. Сведения о подписках, лицензировании и разрешениях см. в разделе Подписки и лицензирование и разрешения в управлении внутренними рисками.

Политика рискованных агентов

Политика рискованных агентов (предварительная версия) обеспечивает стандартное покрытие для распространенных сценариев риска, связанных с агентами ИИ. Политика предназначена для того, чтобы помочь поверхностному поведению, которое может указывать на недопустимое или небезопасное использование агента, включая ситуации, когда агенты взаимодействуют с конфиденциальными данными, создают рискованные выходные данные или обмениваются информацией за пределами организации.

По умолчанию политика обнаруживает:

  • Рискованные запросы
  • Агенты, генерирующие конфиденциальные ответы
  • Агенты, обращаюющиеся к конфиденциальным данным
  • Доступ к рискованным веб-сайтам

Эти обнаружения помогают группам безопасности, соответствия требованиям и рискам получить представление о том, как используются агенты и где могут существовать потенциальные риски.

Поддерживаемые агенты

Политика рискованных агентов (предварительная версия) поддерживает следующие типы агентов:

  • агенты Copilot Studio
  • Агенты Microsoft Foundry
  • Агенты, созданные с помощью пакета SDK P4AI

Доступность и поведение политики по умолчанию

Политика рискованных агентов (предварительная версия) доступна по умолчанию для всех организаций с поддерживаемыми лицензиями. При настройке службы эта политика автоматически отображается и готова к созданию оповещений на основе наблюдаемой активности агента.

Эта конфигурация по умолчанию позволяет организациям:

  • Немедленно начните мониторинг действий агента.
  • Получите раннее представление о потенциальных рисках, связанных с агентом.
  • Исследуйте поведение агента с помощью установленных рабочих процессов управления внутренними рисками.

Настройка мониторинга рисков агента

Хотя политика рискованных агентов (предварительная версия) по умолчанию обеспечивает широкий охват распространенных сценариев, некоторым организациям может потребоваться более конкретный или специализированный мониторинг.

Если политика по умолчанию не соответствует требованиям вашей организации, вы можете создать настраиваемую политику управления внутренними рисками, чтобы лучше соответствовать вашим требованиям к риску или потребностям исследования. Дополнительные сведения см. в разделе Создание новой политики.

Когда политика рискованных агентов (предварительная версия) обнаруживает соответствующие действия, оповещения создаются в рамках управления внутренними рисками. Эти оповещения можно проверить и исследовать с помощью стандартного рабочего процесса исследования оповещений.

Благодаря анализу оповещений аналитики могут:

  • Просмотрите сведения об обнаруженной активности.

  • Понимание контекста поведения агента.

  • Определите, требуются ли дальнейшие действия.

    Примечание.

    Когда гостевые пользователи взаимодействуют с агентами, полное содержимое запроса и ответа недоступно для исследования. Вместо этого отображаются только индикаторы конфиденциальной информации, обнаруженной в этих запросах и ответах.

    Примечание.

    Единицы администраторов в настоящее время не поддерживаются для оповещений агента. Если аналитик с заданной областью входит в систему, он не может видеть оповещения, связанные с агентом.

Подробные рекомендации по просмотру оповещений и управлению ими см. в разделе Просмотр оповещений.

Совместное использование рисков агентов с другими решениями Майкрософт

Риск агента, вычисляемый в Управление внутренними рисками Microsoft Purview, совместно используется в следующих решениях:

Связанные материалы

  • Last updated on