Предотвращение утечки данных в теневой ИИ

Теневой ИИ относится к использованию средств искусственного интеллекта (ИИ), особенно генеративного ИИ, пользователями без ведома, одобрения или управления ит-отделами или группами безопасности своей организации. Теневой ИИ представляет собой серьезную проблему для организаций, так как нерегулируемое использование средств ИИ может подорвать протоколы безопасности, даже если эти средства повышают производительность.

Если вы не будете устранять теневые риски ИИ, они могут привести к следующим:

  • Утечка данных конфиденциальной информации
  • Несоответствие нормативным требованиям
  • Репутационный ущерб

Устраняя эти риски, организации могут обеспечить безопасное внедрение ИИ. Организациям необходимо разработать четкие руководящие принципы и структуры управления для эффективного управления внедрением технологий ИИ. Таким образом, вы можете использовать преимущества ИИ при одновременном устранении связанных с ним рисков.

В этой модели развертывания мы предлагаем рекомендуемый подход к предотвращению утечки данных в теневой ИИ с помощью Microsoft Purview, Microsoft Defender for Cloud Apps, Microsoft Entra и Microsoft Intune.

Сведения об этом руководстве

В этом руководстве содержатся следующие статьи:

В этих статьях рассматриваются:

  • Обзор теневых ИИ и его рисков.
  • Рекомендуемый поэтапный подход для защиты организации от теневых ИИ.
  • Подробные рекомендации по использованию Microsoft Defender for Cloud Apps, Microsoft Entra, Microsoft Intune и Microsoft Purview для предотвращения утечки данных в теневой ИИ.

Подготовка к работе

Это руководство предназначено для администраторов, знакомых с Защита от потери данных Microsoft Purview (DLP), Microsoft Defender for Cloud Apps, Microsoft Entra и Microsoft Intune. Если вы не знакомы с этими решениями, дополнительные сведения см. в следующих статьях:

Лицензирование и подписки

Дополнительные сведения о подписках, поддерживающих развертываемые функции, см. в руководстве по безопасности и соответствию требованиям Microsoft 365.

  • Защита от потери данных в Microsoft Purview
  • Microsoft Defender for Cloud Apps
  • Интернет-доступ Microsoft Entra
  • Microsoft Intune

Сведения о лицензировании см. в статье Подписки Microsoft 365, Office 365, Enterprise Mobility + Security и Windows 11 для предприятий.

Обзор развертывания

Модель развертывания разбивает подход на четыре этапа:

Шаг Описание Результат
Шаг 1. Обнаружение приложений ИИ Обнаружение и мониторинг использования приложений ИИ в организации. Обнаружено неизвестное использование приложений ИИ.
Шаг 2. Блокировка доступа к несанкционированным приложениям ИИ Блокировать доступ на уровне организации и пользователя к несанкционированным приложениям ИИ. Несанкционированные приложения ИИ блокируются.
Шаг 3. Блокировка конфиденциальных данных, передаваемых в санкционированные приложения ИИ Предотвращение совместного использования конфиденциальных данных с санкционированными приложениями ИИ. Конфиденциальные данные не отправляются в санкционированные приложения ИИ.
Шаг 4. Управление данными, отправленными в приложения ИИ Управление, аудит, хранение и исследование взаимодействия СИ. Запросы, отправляемые в приложения ИИ, сохраняются для будущих исследований.

Схема развертывания Microsoft Purview

Предотвращение утечки данных в теневой ИИ с помощью Корпорации Майкрософт.

Следующее действие

Шаг 1. Обнаружение приложений ИИ

  • Last updated on