Примечание.
Для доступа к этой странице требуется авторизация. Вы можете попробовать войти или изменить каталоги.
Для доступа к этой странице требуется авторизация. Вы можете попробовать изменить каталоги.
Защита от угроз для служб ИИ в Microsoft Defender для Cloud защищает службы ИИ в подписке Azure, предоставляя аналитические сведения об угрозах, которые могут повлиять на создаваемые приложения ИИ.
Необходимые компоненты
Ознакомьтесь с обзором — защита от угроз ИИ.
Вам потребуется подписка Microsoft Azure . Если у вас нет подписки Azure, вы можете зарегистрироваться для бесплатной подписки.
Включите Defender для облака в подписке Azure.
Мы не рекомендуем отказаться от запуска оповещений на основе запроса для фильтрации содержимого Azure OpenAI. Отказ и удаление этой возможности может повлиять на способность Defender для облака отслеживать и обнаруживать такие атаки.
Включение защиты от угроз для служб ИИ
Включите защиту от угроз для служб ИИ.
Войдите на портал Azure.
Найдите и выберите Microsoft Defender для облака.
В меню Defender для облака выберите параметры среды.
Выберите соответствующую подписку Azure.
На странице планов Defender переключите службы ИИ на включено.
Включение подтверждения запроса пользователя
С включенным планом защиты от угроз служб ИИ можно контролировать, включают ли оповещения подозрительные сегменты непосредственно из запросов пользователя или ответы модели из приложений или ресурсов ИИ. Включение доказательств запросов пользователя помогает выполнять триаж, классификацию оповещений и выявление намерений пользователя.
Доказательства запроса пользователя состоят из запросов и ответов модели. Оба считаются вашими данными. Доказательства доступны через портал Azure, портал Defender и любые присоединенные интеграции партнеров.
Войдите на портал Azure.
Найдите и выберите Microsoft Defender для облака.
В меню Defender для облака выберите параметры среды.
Выберите соответствующую подписку Azure.
Найдите службы ИИ и выберите "Параметры".
Установите переключатель "Включить подтверждение запроса пользователя" в "Вкл.".
Выберите Продолжить.
Включение безопасности данных для искусственного интеллекта Azure с помощью Microsoft Purview
Замечание
Для этой функции требуется лицензия Microsoft Purview, которая не входит в план Microsoft Defender для Cloud для служб ИИ.
Чтобы приступить к работе с Microsoft Purview DSPM для искусственного интеллекта, см. статью "Настройка MICROSOFT Purview DSPM для искусственного интеллекта".
Включите Microsoft Purview для доступа, обработки и хранения данных запроса и ответа, включая связанные метаданные, из служб ИИ Azure. Эта интеграция поддерживает ключевые сценарии безопасности и соответствия данным, такие как:
Классификация типа конфиденциальной информации (SIT)
Аналитика и отчетность с помощью MICROSOFT Purview DSPM для искусственного интеллекта
Управление внутренними рисками
Соответствие требованиям к обмену данными
Аудит Microsoft Purview
Управление жизненным циклом данных
Обнаружение электронных данных
Эта возможность помогает организации управлять и отслеживать созданные ИИ данные в соответствии с корпоративными политиками и нормативными требованиями.
Замечание
Безопасность данных для взаимодействия служб ИСКУССТВЕННОго интеллекта Azure поддерживается только для вызовов API, использующих проверку подлинности Идентификатора Microsoft Entra с маркером контекста пользователя или для вызовов API, которые явно включают контекст пользователя. Дополнительную информацию см. в разделе Получение контекста конечных пользователей для вызовов API Azure AI.
Войдите на портал Azure.
Найдите и выберите Microsoft Defender для облака.
В меню Defender для облака выберите параметры среды.
Выберите соответствующую подписку Azure.
Найдите службы ИИ и выберите "Параметры".
Переключите включение безопасности данных для взаимодействия ИИ на Вкл..
Выберите Продолжить.
