Тестирование приложения ИИ, использующего API Microsoft Purview в Microsoft Graph

После интеграции API Microsoft Purview в Microsoft Graph в приложение можно выполнить действия, описанные в этой статье, чтобы проверить интеграцию.

Сценарий

Данные о взаимодействиях с ИИ отображаются в Purview в решениях для управления состоянием безопасности, обеспечения соответствия требованиям и корпоративного управления.

Тест установки

1. DSPM for AI — включите следующие политики в один клик в DSPM for AI. Это позволяет Purview собирать данные о взаимодействиях с ИИ из ваших приложений GenAI и использовать их для аналитики рисков и всех остальных решений Purview.

   • Включите аудит Purview в DSPM на странице обзора ИИ.
   • Включите следующие политики в разделе «Рекомендации»:
     • DSPM для ИИ — сбор данных о взаимодействиях для корпоративных ИИ-приложений (DSPM для ИИ).
     • DSPM для искусственного интеллекта — неэтичное поведение в приложениях ИИ (соответствие требованиям к обмену данными).
     • DSPM для искусственного интеллекта — использование рискованного ИИ (IRM).

2. Приложение: Выполните несколько действий в приложении с ИИ (например, создайте запросы и ответы), некоторые из которых могут содержать типы конфиденциальной информации (SIT, предопределённых в Microsoft Purview или настраиваемых SIT).

3. Подождите несколько минут, пока данные появятся в Purview, а решения Purview отобразят классификации данных и сами данные в соответствующих решениях.

Запуск теста

1. В DSPM for AI найдите:

   • Отчеты: Фильтруется по корпоративным приложениям ИИ.
   • Обозреватель действий: Взаимодействие с ИИ и типы конфиденциальной информации для тестового взаимодействия.

2. Аудит в Purview: С помощью следующих фильтров создайте записи журнала аудита, чтобы убедиться, что данные о взаимодействии с ИИ отправляются в журнал аудита и что записи журнала аудита создаются:

   • ConnectedAIApp в рабочих нагрузках.
   • (OR) connectedAIAppInteraction в разделе "Действия — имена операций".

3. Управление внутренними рисками:

   • Создайте политику "Рискованное использование ИИ (предварительная версия)", чтобы вызывать оповещения для "приложение генеративного ИИ -> корпоративные приложения ИИ" в разделе индикаторов.
   • Взаимодействуйте с приложением с помощью запросов и ответов, которые активируют эту политику, и проверьте наличие оповещений, сгенерированных в IRM для этой политики.

4. Соответствие требованиям к обмену данными:

   • Создайте политику для активации оповещений для корпоративных приложений ИИ.
   • Взаимодействуйте со своим приложением, используя запросы и ответы, которые активируют эту политику, и найдите оповещения, сгенерированные в связи с этой политикой в решении Communication Compliance.

5. Электронное обнаружение данных:

   • Создайте дело eDiscovery со следующим запросом KQL в фильтре поиска ItemClass=IPM.SkypeTeams.Message.ConnectedAIApp.Entra.*YourEntraAppID*.
   • Чтобы просмотреть запросы и ответы, выберите команду "Добавить в набор проверки " и создать набор проверки. Проверьте набор для проверки на наличие реальных данных для валидации.
   • В наборе для проверки при необходимости снова примените фильтр. Найдите запросы и ответы вашего приложения среди результатов поиска в деле eDiscovery.

6. Управление жизненным циклом данных (DLM): Создайте политику хранения данных с помощью DLM с расположением = "Корпоративное приложение ИИ", где можно определить, какие данные следует хранить и сколько времени хранить.

См. также

Обзор платформы разработчика Microsoft Purview
Безопасность данных и соответствие приложениям