Быстрый старт: Обнаружение защищенных текстовых материалов

Предварительные условия

• Учетная запись Azure. Если у вас нет учетной записи, вы можете создать ее бесплатно.
• Ресурс ИИ Azure.
• Проект или концентратор Azure AI Foundry.

Настройка

Чтобы воспользоваться страницей Попробуйте Безопасность содержимого, выполните следующие действия:

1. Перейдите к Azure AI Foundry и перейдите к проекту или концентратору. Затем выберите вкладку "Guardrails + элементы управления" на левой панели навигации и выберите вкладку "Попробовать".
2. На странице "Попробовать" можно поэкспериментировать с различными функциями Guardrails и возможностями управления, например, текстом и изображениями, используя настраиваемые пороговые значения для фильтрации неуместного или вредного содержимого.

Использование обнаружения защищённых материалов

Эта функция сканирует созданные ИИ выходные данные для известного защищенного текста (например, текст песни, статьи, рецепты, выбранное веб-содержимое) или защищенного содержимого кода.

1. Выберите "Защищенное обнаружение материалов" для сканирования текста или выберите "Защищенное обнаружение материалов" длясканирования кода .
2. Вставьте текст или код для тестирования. Для получения наилучших результатов проверьте результаты работы LLM, а не запросы пользователей.
3. Выберите Запустить тест. Сервис возвращает результат защищенного содержимого.

Дополнительные сведения см. в концептуальном руководстве по защищенным материалам.

Предварительные условия

• Подписка Azure — Создать бесплатно
• Получив подписку Azure, создайте ресурс безопасности содержимого на портале Azure, чтобы получить ключ и конечную точку. Введите уникальное имя ресурса, выберите подписку и выберите группу ресурсов, поддерживаемый регион (см . доступность региона) и поддерживаемую ценовую категорию. Затем выберите Создать.
  • Развертывание ресурса занимает несколько минут. После завершения выберите перейдите к ресурсу. В области слева в разделе "Управление ресурсами" выберите "Ключ подписки" и "Конечная точка". Конечная точка и любой из ключей используются для вызова API.
• cURL установлен

Анализ текста для обнаружения защищенных материалов

В следующем разделе описывается пример запроса с cURL. Вставьте приведенную ниже команду в текстовый редактор и внесите следующие изменения.

1. Замените <endpoint> на URL-адрес конечной точки, связанный с вашим ресурсом.
2. Замените <your_subscription_key> одним из ключей, которые входят в ваш ресурс.
3. При необходимости замените поле "text" в теле собственным текстом, который вы хотите проанализировать.

   Совет

   Смотрите требования к входным данным для получения информации об ограничениях максимальной длины текста. Обнаружение защищённых материалов должно выполняться в завершениях LLM, а не в запросах пользователей.

curl --location --request POST '<endpoint>/contentsafety/text:detectProtectedMaterial?api-version=2024-09-01' \
--header 'Ocp-Apim-Subscription-Key: <your_subscription_key>' \
--header 'Content-Type: application/json' \
--data-raw '{
  "text": "Kiss me out of the bearded barley Nightly beside the green, green grass Swing, swing, swing the spinning step You wear those shoes and I will wear that dress Oh, kiss me beneath the milky twilight Lead me out on the moonlit floor Lift your open hand Strike up the band and make the fireflies dance Silver moon's sparkling So, kiss me Kiss me down by the broken tree house Swing me upon its hanging tire Bring, bring, bring your flowered hat We'll take the trail marked on your father's map."
}'

Следующие поля должны быть включены в URL-адрес:

Параметры в тексте запроса определяются в этой таблице:

См. следующий пример текста запроса:

{
  "text": "string"
}

Откройте окно командной строки и выполните команду cURL.

Интерпретация ответа API

Результаты обнаружения защищенных материалов отображаются в виде данных JSON в выходных данных консоли. Например:

{
  "protectedMaterialAnalysis": {
    "detected": true
  }
}

Поля JSON в выходных данных определяются здесь:

Очистка ресурсов

Если вы хотите очистить и удалить подписку Azure AI services, можно удалить ресурс или группу ресурсов. При удалении группы ресурсов также удаляются все связанные с ней ресурсы.

• портал Azure
• Azure CLI