Меры защиты данных и соответствия требованиям Microsoft Purview для приложений генеративного ИИ

Руководство по лицензированию Microsoft 365 для обеспечения соответствия требованиям безопасности &

Используйте Microsoft Purview для снижения рисков, связанных с использованием ИИ, а также для управления ими, а также для реализации соответствующих средств управления защитой и управлением.

В следующих разделах на этой странице представлен обзор Управление состоянием безопасности данных для ИИ и возможностей Microsoft Purview, которые обеспечивают дополнительные средства управления безопасностью данных и соответствием требованиям для ускорения внедрения в организации copilots и агентов, а также других приложений искусственного интеллекта.

В некоторых решениях Microsoft Purview могут отображаться поддерживаемые приложения ИИ, сгруппированные по следующим именам категорий:

• Возможности и агенты Copilot или Microsoft Copilot для поддерживаемых копилотов и агентов, которые включают в себя:

  • Microsoft 365 Copilot
  • Security Copilot
  • Copilot в Структуре
  • Copilot Studio

• Корпоративные приложения ИИ для приложений и агентов, отличных от Copilot AI, подключенных к вашей организации с помощью регистрации Entra, соединителей данных, Azure AI Foundry и других методов, и включают:

  • Приложения ИИ, зарегистрированные в Entra
  • ChatGPT Enterprise
  • Службы ИИ Azure

• Другие приложения ИИ, которые обнаруживаются с помощью действий браузера и классифицируются как "Generative AI" в каталоге Defender for Cloud Apps и включают:

  • ChatGPT
  • Google Gemini
  • Microsoft Copilot (версия потребителя)
  • DeepSeek

Сведения о поддерживаемых возможностях безопасности и соответствия требованиям Microsoft Purview для взаимодействия с ИИ по приложениям см. на дополнительных страницах, указанных в следующей таблице. Если эти приложения ИИ поддерживают агентов, они наследуют те же возможности безопасности и соответствия, что и их родительское приложение ИИ. Однако краткое описание см. в статье Использование Microsoft Purview для управления безопасностью данных & соответствия требованиям для агентов ИИ.

Если вы новичок в Microsoft Purview, вам также может быть полезен обзор продукта: Узнайте больше о Microsoft Purview .

Управление состоянием безопасности данных для ИИ Microsoft Purview

Используйте Управление состоянием безопасности данных Microsoft Purview (DSPM) для ИИ в качестве передней двери для обнаружения, защиты и применения элементов управления соответствием требованиям для использования ИИ на предприятии. Это решение использует существующие элементы управления из Microsoft Purview для защиты информации и управления соответствием требованиям с простыми в использовании графическими средствами и отчетами, чтобы быстро получить аналитические сведения об использовании ИИ в организации. Благодаря персонализированным рекомендациям политики одним щелчком помогают защитить данные и соблюдать нормативные требования.

Дополнительные сведения см. в статье Сведения о Управление состоянием безопасности данных (DSPM) для ИИ.

Microsoft Purview усиливает защиту информации для приложений ИИ

Благодаря мощности и скорости ИИ может заблаговременно отображать содержимое, генеративный ИИ усиливает проблему и риск чрезмерного совместного использования или утечки данных. Узнайте, как возможности защиты информации от Microsoft Purview помогут укрепить существующие решения для защиты данных.

Метки конфиденциальности и взаимодействие СИ

Приложения ИИ, поддерживающие Microsoft Purview, используют существующие элементы управления для обеспечения того, чтобы данные, хранящиеся в клиенте, никогда не возвращались пользователю или не использовались крупной языковой моделью (LLM), если у пользователя нет доступа к этим данным. Если к содержимому применяются метки конфиденциальности из вашей организации, существует дополнительный уровень защиты:

• Если файл открыт в Word, Excel, PowerPoint или аналогично открытое сообщение электронной почты или событие календаря в Outlook, конфиденциальность данных отображается для пользователей в приложении с именем метки и маркировкой содержимого (например, текстом верхнего или нижнего колонтитула), настроенными для метки. Loop компоненты и страницы также поддерживают одинаковые метки конфиденциальности.

• Когда метка конфиденциальности применяет шифрование, пользователи должны иметь право на использование EXTRACT, а также view, чтобы приложения ИИ возвращали данные.

• Эта защита распространяется на данные, хранящиеся за пределами вашего клиента Microsoft 365, когда он открыт в приложении Office (используемые данные). Например, локальное хранилище, сетевые папки и облачное хранилище.

Если вы еще не используете метки чувствительности, см. Начало работы с метками чувствительности .

Шифрование без меток конфиденциальности и взаимодействия СИ

Даже если к контенту не применена метка конфиденциальности, службы и продукты могут использовать возможности шифрования службы Azure Rights Management. В результате приложения ИИ по-прежнему могут проверка для прав использования VIEW и EXTRACT, прежде чем возвращать данные и ссылки пользователю, но автоматическое наследование защиты для новых элементов не происходит.

Примеры продуктов и услуг, которые могут использовать возможности шифрования службы Azure Rights Management без меток конфиденциальности:

• Шифрование сообщений Microsoft Purview
• Управление правами на информацию (IRM) от Microsoft
• Соединитель Microsoft Rights Management
• Microsoft Rights Management SDK

Для других методов шифрования, не использующих службу Azure Rights Management:

• Защищенные S/MIME сообщения электронной почты не будут возвращены Copilot, и Copilot недоступен в Outlook, когда открыта защищенная электронная почта S/MIME.

• Защищенные паролем документы не могут быть доступны приложениям ИИ, если они еще не открыты пользователем в том же приложении (используемые данные). Пароли не наследуются целевым элементом.

Как и в случае с другими службами Microsoft 365, такими как обнаружение электронных данных и поиск, элементы, зашифрованные с помощью ключа клиента Microsoft Purview или собственного корневого ключа (BYOK), поддерживаются и могут быть возвращены Copilot.

Защита от потери данных и взаимодействие СИ

Защита от потери данных Microsoft Purview (DLP) помогает выявлять конфиденциальные элементы в службах и конечных точках Microsoft 365, отслеживать их и защищать от утечки этих элементов. Он использует глубокую проверку содержимого и контекстный анализ для выявления конфиденциальных элементов и применяет политики для защиты конфиденциальных данных, таких как финансовые записи, медицинская информация или интеллектуальная собственность.

Компьютеры Windows, подключенные к Microsoft Purview , можно настроить для политик защиты от потери данных конечных точек (DLP), которые предупреждают или блокируют предоставление пользователям общего доступа к конфиденциальной информации сторонним сайтам искусственного интеллекта, доступ к которым осуществляется через браузер. Например, пользователю запрещено вставлять в ChatGPT числа кредиты карта или отображается предупреждение о том, что он может переопределить. Дополнительные сведения о поддерживаемых действиях защиты от потери данных и о том, какие платформы поддерживают их, см. в первых двух строках таблицы из раздела Действия конечных точек, которые можно отслеживать и выполнять.

Кроме того, политика защиты от потери данных, ограниченная расположением ИИ, может запретить приложениям ИИ обрабатывать конфиденциальное содержимое. Например, политика защиты от потери данных может ограничить Microsoft 365 Copilot суммирования файлов на основе меток конфиденциальности, таких как "Строго конфиденциальный". После включения этой политики Microsoft 365 Copilot и агенты не будут суммировать файлы с меткой "Строго конфиденциальный", но могут ссылаться на него по ссылке, чтобы пользователь смог открыть и просмотреть содержимое с помощью Word. Дополнительные сведения о том, какие приложения ИИ поддерживают эту конфигурацию защиты от потери данных, см. в статье Сведения о расположении политики Microsoft 365 Copilot.

Управление внутренними рисками и взаимодействие с ИИ

Управление внутренними рисками Microsoft Purview помогает обнаруживать, исследовать и устранять внутренние риски, такие как кража IP-адресов, утечка данных и нарушения безопасности. В нем используются модели машинного обучения и различные сигналы от Microsoft 365 и сторонних индикаторов для выявления потенциальных вредоносных или непреднамеренных инсайдерских действий. Решение включает в себя элементы управления конфиденциальностью, такие как псевдонимизация и доступ на основе ролей, обеспечивая конфиденциальность на уровне пользователя и позволяя аналитикам рисков принимать соответствующие меры.

Используйте шаблон политики рискованного использования ИИ для обнаружения рискованного использования, которое включает в себя атаки с применением запросов на внедрение и доступ к защищенным материалам. Аналитические сведения об этих сигналах интегрированы в Microsoft Defender XDR, чтобы получить полное представление о рисках, связанных с ИИ.

Классификация данных и взаимодействие СИ

Классификация данных Microsoft Purview предоставляет комплексную платформу для идентификации и маркировки конфиденциальных данных в различных службах Майкрософт, включая Office 365, Dynamics 365 и Azure. Классификация данных часто является первым шагом для обеспечения соблюдения правил защиты данных и защиты от несанкционированного доступа, изменения или уничтожения. Вы можете использовать встроенные системные классификации или создать собственные.

Типы конфиденциальной информации и обучаемые классификаторы можно использовать для поиска конфиденциальных данных в запросах и ответах пользователей при использовании приложений ИИ. Затем полученные сведения отображаются на панели мониторинга классификации данных и в обозревателе действий в Управление состоянием безопасности данных для ИИ.

Microsoft Purview поддерживает управление соответствием для приложений ИИ

Взаимодействие с помощью поддерживаемых приложений ИИ можно отслеживать для каждого пользователя в клиенте. Таким образом, наряду с классификацией данных вы можете использовать аудит Microsoft Purview, соответствие требованиям к обмену данными, обнаружение электронных данных с поиском контента, а также возможности автоматического хранения и удаления из управления жизненным циклом данных для управления жизненным циклом данных.

Аудит и взаимодействие СИ

решения Аудит Microsoft Purview предоставляют комплексные средства для поиска и управления записями аудита действий, выполняемых пользователями и администраторами в различных службах Майкрософт, а также помогают организациям эффективно реагировать на события безопасности, судебно-медицинские расследования, внутренние расследования и обязательства по обеспечению соответствия требованиям.

Как и другие действия, запросы и ответы записываются в единый журнал аудита. События включают, как и когда пользователи взаимодействуют с приложением ИИ, а также могут включать в себя, в какой службе Microsoft 365 произошло действие, а также ссылки на файлы, хранящиеся в Microsoft 365, которые были доступны во время взаимодействия. Если к этим файлам применена метка конфиденциальности, она также записывается.

Эти события передаются в обозреватель действий в Управление состоянием безопасности данных для ИИ, где могут отображаться данные из запросов и ответов. Вы также можете использовать решение аудит на портале Microsoft Purview для поиска и поиска этих событий аудита.

Дополнительные сведения см. в разделе Журналы аудита для действий Copilot и ИИ.

Соответствие требованиям к обмену данными и взаимодействие с ИИ

Соответствие требованиям к обмену данными Microsoft Purview предоставляет средства, помогающие обнаруживать и контролировать нарушения соответствия нормативным требованиям и бизнес-поведения в различных каналах коммуникации, включая запросы и ответы пользователей для приложений ИИ. Он по умолчанию разработан с конфиденциальностью, псевдонимизируя имена пользователей и включая элементы управления доступом на основе ролей. Решение помогает выявлять и устранять недопустимые сообщения, такие как обмен конфиденциальной информацией, домогательства, угрозы и содержимое для взрослых.

Дополнительные сведения об использовании политик соответствия требованиям к обмену данными для приложений ИИ см. в статье Настройка политики соответствия требованиям к обмену данными для обнаружения взаимодействий с генеративным ИИ.

Обнаружение электронных данных с помощью поиска контента и взаимодействия СИ

Microsoft Purview eDiscovery позволяет идентифицировать и доставить электронную информацию, которую можно использовать в качестве доказательства в судебных делах. Средства обнаружения электронных данных в Microsoft Purview поддерживают поиск содержимого в командах Exchange Online, OneDrive для бизнеса, SharePoint Online, Microsoft Teams, Группы Microsoft 365 и Viva Engage. Затем вы можете запретить удаление и экспорт информации.

Так как запросы и ответы пользователей для приложений ИИ хранятся в почтовом ящике пользователя, можно создать вариант и использовать поиск , когда почтовый ящик пользователя выбран в качестве источника для поискового запроса. Например, выберите и получите эти данные из исходного почтового ящика, выбрав в построителе запросов Условие> ДобавитьТип>равно любому из>параметров Добавление и удаление дополнительных параметров>Взаимодействия Copilot.

После уточнения поиска результаты можно экспортировать или добавить в набор для проверки. Вы можете просматривать и экспортировать сведения непосредственно из набора для проверки.

Дополнительные сведения о идентификации и удалении данных взаимодействия с ИИ пользователей см. в статье Поиск и удаление данных Copilot в eDiscovery.

Управление жизненным циклом данных и взаимодействие СИ

Управление жизненным циклом данных Microsoft Purview предоставляет инструменты и возможности для управления жизненным циклом организационных данных, сохраняя необходимое содержимое и удаляя ненужное содержимое. Эти средства обеспечивают соответствие бизнес-, юридическим и нормативным требованиям.

Используйте политики хранения для автоматического хранения или удаления запросов и ответов пользователей для приложений ИИ. Подробные сведения об этом способе хранения см. в статье Сведения о хранении для приложений Copilot & ИИ.

Как и во всех политиках хранения и удержаниях, если к пользователю применяется несколько политик для одного расположения, принципы хранения разрешают любые конфликты. Например, данные хранятся в течение самого длительного срока из всех применяемых политик хранения или удержаний eDiscovery.

Взаимодействие с диспетчером соответствия требованиям и ИИ

Microsoft Purview Compliance Manager — это решение, которое помогает автоматически оценивать соответствие требованиям и управлять ими в многооблачной среде. Диспетчер соответствия требованиям поможет вам на протяжении всего пути к соответствию требованиям, от составления списка рисков защиты данных до управления сложными моментами реализации элементов управления, получения сведений о нормативных требованиях и сертификатах, а также отправки отчетов аудиторам.

Чтобы обеспечить соответствие нормативным требованиям ИИ, диспетчер соответствия требованиям предоставляет шаблоны нормативных требований, которые помогут вам оценить, внедрить и укрепить требования к соответствию для всех приложений искусственного интеллекта. Например, мониторинг взаимодействия ИИ и предотвращение потери данных в приложениях ИИ. Дополнительные сведения см. в разделе Оценки правил ИИ.

Другая документация по защите и управлению приложениями на основе искусственного интеллекта

Объявление в блоге: Ускорение внедрения ИИ с помощью возможностей безопасности и управления нового поколения

Microsoft 365 Copilot:

• Microsoft 365 Copilot
• Применение принципов "Никому не доверяй" в Microsoft 365 Copilot

Связанные ресурсы:

• Защита генеративного ИИ с помощью Microsoft Entra
• Управление приложениями ИИ и данными для соответствия нормативным требованиям
• Записи блога (апрель 2025 г.):
  • Развертывание microsoft Purview DSPM для ИИ для защиты приложений ИИ
  • Использование DSPM для оценки рисков данных ИИ для решения проблемы внутреннего переувыбора