Content Moderator
Content Moderator — это продукт Microsoft Cognitive Services, который обеспечивает модерацию текста и изображений с помощью компьютера для потенциально оскорбительных или нежелательных материалов, дополненных встроенными средствами проверки человека.
Этот соединитель доступен в следующих продуктах и регионах:
| Услуга | Class | Регионы |
|---|---|---|
| Copilot Studio | Стандарт | Все регионы Power Automate , кроме следующих: — Облако Китая, управляемое 21Vianet |
| Логические приложения | Стандарт | Все регионы Logic Apps , кроме следующих: — Регионы Azure Для Китая |
| Power Apps | Стандарт | Все регионы Power Apps , кроме следующих: — Облако Китая, управляемое 21Vianet |
| Power Automate | Стандарт | Все регионы Power Automate , кроме следующих: — Облако Китая, управляемое 21Vianet |
| Контакт | |
|---|---|
| Имя | Microsoft |
| URL |
Поддержка Microsoft LogicApps Поддержка Microsoft Power Automate Поддержка Microsoft Power Apps |
| Метаданные соединителя | |
|---|---|
| Publisher | Microsoft |
| Веб-сайт | https://azure.microsoft.com/services/cognitive-services/content-moderator/ |
Используйте API, чтобы проверить содержимое и использовать полученные аналитические сведения для принятия решений или сделать его доступным в средстве проверки для пользователей.
При использовании API изображения должны иметь не менее 128 пикселей и максимальный размер файла размером 4 МБ. Текст может содержать не более 1024 символов. Этот API в настоящее время доступен в западной части США, восточной части США 2, западной части США, Западной Европе и юго-восточной Азии.
Создание подключения
Соединитель поддерживает следующие типы проверки подлинности:
| По умолчанию | Параметры для создания подключения. | Все регионы | Доступный для общего пользования |
По умолчанию
Применимо: все регионы
Параметры для создания подключения.
Это совместное подключение. Если приложение power app предоставлено другому пользователю, подключение также предоставляется совместно. Дополнительные сведения см. в обзоре соединителей для приложений на основе холста — Power Apps | Документация Майкрософт
| Имя | Тип | Description | Обязательно |
|---|---|---|---|
| Ключ API | securestring | Ключ API для этого API | True |
| URL-адрес сайта | струна | URL-адрес корневого сайта (пример: https://westus.api.cognitive.microsoft.com ). Если url-адрес сайта не указан, по умолчанию будет иметь значение "https://westus.api.cognitive.microsoft.com". |
Ограничения регулирования
| Имя | Вызовы | Период обновления |
|---|---|---|
| Вызовы API для каждого подключения | 1200 | 60 секунд |
Действия
| Возвращает любой текст, найденный на изображении для указанного языка |
Возвращает любой текст, найденный на изображении для указанного языка. Если язык не указан во входных данных, обнаружение по умолчанию используется на английском языке. |
| Выполнение требуемого рабочего процесса в команде для оценки изображения или текстового содержимого |
Идентификатор задания будет возвращен для содержимого изображения или текста, размещенного на этой конечной точке. После оценки содержимого в соответствии с предоставленным рабочим процессом проверка будет создана или игнорируется на основе выражения рабочего процесса. |
| Обнаружение ненормативной лексики и сопоставления с настраиваемыми и общими списками блокировок |
Обнаруживает ненормативность на более чем 100 языках и соответствует пользовательским и общим спискам блокировок. |
| Определение языка заданного содержимого ввода текста |
Эта операция обнаружит язык заданного входного содержимого. Возвращает код ISO 639-3 для преобладающего языка, содержащего отправленный текст. Поддерживается более 110 языков. |
| Поиск лиц в содержимом изображения |
Найдите содержимое изображения в лицах. |
| Проверьте, содержит ли изображение христое или взрослое содержимое |
Возвращает вероятности изображения, содержащего растровое или взрослое содержимое. |
| Создание проверок для рецензентов в команде модерации |
Созданные проверки будут отображаться для рецензентов в вашей команде. Как рецензенты завершают проверку, результаты проверки будут POSTED (т. е. HTTP POST) в указанном CallBackEndpoint. |
| Сопоставление изображения с одним из списков пользовательских образов |
Fuzzily сопоставляет изображение с одним из пользовательских списков изображений. Вы можете создавать настраиваемые списки образов и управлять ими с помощью этого API. Возвращает идентификатор и теги сопоставления изображения. |
Возвращает любой текст, найденный на изображении для указанного языка
Возвращает любой текст, найденный на изображении для указанного языка. Если язык не указан во входных данных, обнаружение по умолчанию используется на английском языке.
Параметры
| Имя | Ключ | Обязательно | Тип | Описание |
|---|---|---|---|---|
|
Language
|
language | True | string |
Язык текста (например, eng для английского языка). |
|
Источник изображения
|
format | True | string |
Источник изображения — включен или по URL-адресу ссылки. |
|
Изображение
|
Image | True | dynamic |
Содержимое изображения. |
Возвращаемое значение
| Имя | Путь | Тип | Описание |
|---|---|---|---|
|
Идентификатор отслеживания
|
TrackingId | string |
Уникальный идентификатор транзакции Content Moderator. |
|
Идентификатор кэша
|
CacheId | string |
Идентификатор кэша. |
|
Язык текста
|
Language | string |
Язык текста, найденного на изображении. |
|
Обнаруженный текст
|
Text | string |
Текст, найденный на изображении. |
|
Обнаруженные кандидаты
|
Candidates | array of object |
Обнаруженные кандидаты текста, найденные на изображении. |
|
Обнаруженные кандидаты на текстовое содержимое
|
Candidates.Text | string |
Обнаруженные кандидаты на текстовое содержимое из изображения. |
|
Оценка достоверности
|
Candidates.Confidence | number |
Оценка достоверности обнаруженного кандидата содержимого текста. |
Выполнение требуемого рабочего процесса в команде для оценки изображения или текстового содержимого
Идентификатор задания будет возвращен для содержимого изображения или текста, размещенного на этой конечной точке. После оценки содержимого в соответствии с предоставленным рабочим процессом проверка будет создана или игнорируется на основе выражения рабочего процесса.
Параметры
| Имя | Ключ | Обязательно | Тип | Описание |
|---|---|---|---|---|
|
Имя группы
|
teamName | True | string |
Имя вашей команды. |
|
Тип контента
|
ContentType | True | string |
Тип содержимого. |
|
Идентификатор содержимого
|
ContentId | True | string |
Идентификатор содержимого. |
|
Выбор рабочего процесса
|
WorkflowName | True | string |
Выберите рабочий процесс, который требуется вызвать. |
|
Конечная точка обратного вызова
|
CallBackEndpoint | string |
Конечная точка обратного вызова. |
|
|
Значение содержимого
|
ContentValue | True | string |
Содержимое для оценки задания. |
Возвращаемое значение
| Имя | Путь | Тип | Описание |
|---|---|---|---|
|
Идентификатор задания
|
JobId | string |
Идентификатор задания для размещенного содержимого. |
Обнаружение ненормативной лексики и сопоставления с настраиваемыми и общими списками блокировок
Обнаруживает ненормативность на более чем 100 языках и соответствует пользовательским и общим спискам блокировок.
Параметры
| Имя | Ключ | Обязательно | Тип | Описание |
|---|---|---|---|---|
|
Language
|
language | string |
Язык текста (например, eng для английского языка). |
|
|
Автозамена
|
autocorrect | boolean |
Текст автозамены. |
|
|
Персональные идентифицируемые сведения
|
PII | boolean |
Личная идентифицируемая информация в тексте. |
|
|
Идентификатор списка
|
listId | string |
Идентификаторы разделенных запятыми списков. |
|
|
Классификация входных данных
|
classify | boolean |
Классификация входных данных. |
|
|
Тип контента
|
Content-Type | True | string |
Тип контента входного текста. |
|
Текстовое содержимое
|
Text Content | True | binary |
Текстовое содержимое. |
Возвращаемое значение
| Имя | Путь | Тип | Описание |
|---|---|---|---|
|
Исходный текст
|
OriginalText | string |
Исходный текст. |
|
Нормализованный текст
|
NormalizedText | string |
Нормализованный текст. |
|
Автозаменяемый текст
|
AutoCorrectedText | string |
Автозаменяемый текст |
|
Искажение
|
Misrepresentation | array of string |
Сведения о неправильном тексте. |
|
Обнаруженная электронная почта
|
PII.Email | array of object |
Обнаруженные сведения о электронной почте. |
|
Обнаруженная электронная почта
|
PII.Email.Detected | string |
Обнаружен адрес электронной почты из входного текстового содержимого. |
|
Подтип электронной почты
|
PII.Email.SubType | string |
Подтип обнаруженного адреса электронной почты. |
|
Электронная почта
|
PII.Email.Text | string |
Адрес электронной почты в входном текстовом содержимом. |
|
Email- Index
|
PII.Email.Index | integer |
Индекс (расположение) адреса электронной почты в входном текстовом содержимом. |
|
Обнаружен единый вход
|
PII.SSN | array of object |
Обнаружены сведения об SSN. |
|
Номер социального страхования
|
PII.SSN.Text | string |
Обнаружен единый вход. |
|
Индекс SSN
|
PII.SSN.Index | integer |
Индекс (расположение) SSN в входном текстовом содержимом. |
|
Обнаруженный IP-адрес
|
PII.IPA | array of object |
Обнаруженные сведения о IP-адресе. |
|
Подтип IP-адреса
|
PII.IPA.SubType | string |
Подтип обнаруженного IP-адреса. |
|
IP-адрес
|
PII.IPA.Text | string |
Обнаруженный IP-адрес. |
|
Индекс IP-адресов
|
PII.IPA.Index | integer |
Индекс(расположение) IP-адреса в входном текстовом содержимом. |
|
Обнаруженный номер телефона
|
PII.Phone | array of object |
Обнаруженные сведения о номере телефона. |
|
Phone CountryCode
|
PII.Phone.CountryCode | string |
Код страны обнаруженного номера телефона. |
|
Номер телефона
|
PII.Phone.Text | string |
Обнаруженный номер телефона. |
|
Индекс телефона
|
PII.Phone.Index | integer |
Индекс (расположение) номера телефона в входном текстовом содержимом. |
|
Обнаруженный адрес
|
PII.Address | array of object |
Обнаруженные сведения об адресе. |
|
Address
|
PII.Address.Text | string |
Обнаруженный адрес из входного текстового содержимого. |
|
Адрес — индекс
|
PII.Address.Index | integer |
Индекс (расположение) адреса в входном текстовом содержимом. |
|
Оценка категории1
|
Classification.Category1.score | double |
Сведения о оценке категории1 текста. Дополнительные сведения о классификации категорий см. здесь. |
|
Оценка категории 2
|
Classification.Category2.score | double |
Сведения о оценке категории 2 текста. Дополнительные сведения о классификации категорий см. здесь. |
|
Оценка категории 3
|
Classification.Category3.score | double |
Сведения о оценке категории 3 текста. Дополнительные сведения о классификации категорий см. здесь. |
|
Рекомендуемая проверка
|
Classification.ReviewRecommended | boolean |
Рекомендуемое состояние флага проверки. |
|
Язык текста
|
Language | string |
Язык входного текстового содержимого. |
|
Обнаруженные термины ненормативной лексики
|
Terms | array of object |
Обнаружены сведения о термине ненормативной лексики. |
|
Индекс терминов
|
Terms.Index | integer |
Index(Location) обнаруженного термина ненормативной лексики в входном текстовом содержимом. |
|
Исходный индекс термина
|
Terms.OriginalIndex | integer |
Исходный индекс (расположение) обнаруженного термина ненормативной лексики в входном текстовом содержимом. |
|
Идентификатор списка терминов
|
Terms.ListId | integer |
Идентификатор списка соответствующих терминов. |
|
Обнаруженный термин
|
Terms.Term | string |
Обнаружен термин ненормативной лексики. |
|
Идентификатор отслеживания
|
TrackingId | string |
Уникальный идентификатор транзакции Content Moderator. |
Определение языка заданного содержимого ввода текста
Эта операция обнаружит язык заданного входного содержимого. Возвращает код ISO 639-3 для преобладающего языка, содержащего отправленный текст. Поддерживается более 110 языков.
Параметры
| Имя | Ключ | Обязательно | Тип | Описание |
|---|---|---|---|---|
|
Тип контента
|
Content-Type | True | string |
Тип текстового содержимого. |
|
Текстовое содержимое
|
Text Content | True | binary |
Текстовое содержимое. |
Возвращаемое значение
| Имя | Путь | Тип | Описание |
|---|---|---|---|
|
Обнаруженный язык
|
DetectedLanguage | string |
Обнаруженный язык текста. |
Поиск лиц в содержимом изображения
Найдите содержимое изображения в лицах.
Параметры
| Имя | Ключ | Обязательно | Тип | Описание |
|---|---|---|---|---|
|
Источник изображения
|
format | True | string |
Источник изображения — включен или по URL-адресу ссылки. |
|
Изображение
|
Image | True | dynamic |
Содержимое изображения. |
Возвращаемое значение
| Имя | Путь | Тип | Описание |
|---|---|---|---|
|
Идентификатор отслеживания
|
TrackingId | string |
Уникальный идентификатор транзакции Content Moderator. |
|
Идентификатор кэша
|
CacheId | string |
Идентификатор кэша. |
|
Число лиц
|
Count | number |
Количество лиц, обнаруженных на изображении. |
|
Обнаруженная позиция лица
|
Faces | array of object |
Обнаружена позиция лица. |
|
Нижнее расположение
|
Faces.Bottom | number |
Нижнее расположение обнаруженного лица. |
|
Левое расположение
|
Faces.Left | number |
Левое расположение обнаруженного лица. |
|
Правильное расположение
|
Faces.Right | number |
Правильное расположение обнаруженного лица. |
|
Верхнее расположение
|
Faces.Top | number |
Верхнее расположение обнаруженного лица. |
Проверьте, содержит ли изображение христое или взрослое содержимое
Возвращает вероятности изображения, содержащего растровое или взрослое содержимое.
Параметры
| Имя | Ключ | Обязательно | Тип | Описание |
|---|---|---|---|---|
|
Источник изображения
|
format | True | string |
Источник изображения — включен или по URL-адресу ссылки. |
|
Изображение
|
Image | True | dynamic |
Содержимое изображения. |
Возвращаемое значение
| Имя | Путь | Тип | Описание |
|---|---|---|---|
|
Оценка классификации взрослых
|
AdultClassificationScore | number |
Оценка достоверности классификации взрослых. |
|
Классифицируется изображение для взрослых
|
IsImageAdultClassified | boolean |
Изображение классифицируется как содержимое для взрослых. |
|
Оценка классификации Racy
|
RacyClassificationScore | number |
Оценка достоверности классификации грейтов. |
|
Классифицировано изображение Racy
|
IsImageRacyClassified | boolean |
Изображение классифицируется как христое содержимое. |
|
Идентификатор отслеживания
|
TrackingId | string |
Уникальный идентификатор транзакции Content Moderator. |
Создание проверок для рецензентов в команде модерации
Созданные проверки будут отображаться для рецензентов в вашей команде. Как рецензенты завершают проверку, результаты проверки будут POSTED (т. е. HTTP POST) в указанном CallBackEndpoint.
Параметры
| Имя | Ключ | Обязательно | Тип | Описание |
|---|---|---|---|---|
|
Имя группы
|
teamName | True | string |
Имя вашей команды. |
|
SubTeam
|
subTeam | string |
Подтем вашей команды, вам нужно назначить проверку. |
|
|
Тип контента
|
Type | True | string |
Тип содержимого. |
|
Просмотр содержимого
|
Content | True | string |
Url-адрес изображения (для типа изображения)/text(для типа текста) для просмотра. |
|
Идентификатор содержимого
|
ContentId | True | string |
Идентификатор содержимого. |
|
Конечная точка обратного вызова
|
CallbackEndpoint | string |
Необязательная конечная точка обратного вызова. |
|
|
Ключевой параметр
|
Key | True | string |
Параметр ключа. |
|
Параметр value
|
Value | True | string |
Параметр значения. |
Возвращаемое значение
| Имя | Путь | Тип | Описание |
|---|---|---|---|
|
|
array of string |
Сопоставление изображения с одним из списков пользовательских образов
Fuzzily сопоставляет изображение с одним из пользовательских списков изображений. Вы можете создавать настраиваемые списки образов и управлять ими с помощью этого API.
Возвращает идентификатор и теги сопоставления изображения.
Примечание. Обновление индекса должно выполняться в соответствующем списке изображений перед добавлением и удалением в ответе.
Параметры
| Имя | Ключ | Обязательно | Тип | Описание |
|---|---|---|---|---|
|
Идентификатор списка
|
listId | string |
При необходимости укажите идентификатор списка для сопоставления. Если это не указано, изображение будет соответствовать всем спискам изображений. |
|
|
Источник изображения
|
format | True | string |
Источник изображения — включен или по URL-адресу ссылки. |
|
Изображение
|
Image | True | dynamic |
Содержимое изображения. |
Возвращаемое значение
| Имя | Путь | Тип | Описание |
|---|---|---|---|
|
Идентификатор отслеживания
|
TrackingId | string |
Уникальный идентификатор транзакции Content Moderator. |
|
Идентификатор кэша
|
CacheId | string |
Идентификатор кэша. |
|
Совпадение
|
IsMatch | boolean |
Имеет изображение, соответствующее идентификатору входного списка изображений или идентификаторам пользовательского списка изображений. |
|
Сведения о совпадении — оценка
|
MatchDetails.Score | number |
Оценка достоверности соответствия изображения. |
|
Сведения о совпадении — идентификатор соответствия
|
MatchDetails.MatchId | number |
Соответствующий идентификатор списка пользовательских изображений. |
|
Сведения о совпадении — источник
|
MatchDetails.Source | string |
Источник сопоставленного изображения. |
|
Сведения о совпадении — теги
|
MatchDetails.Tags | array of number |
Теги, связанные с соответствующим изображением. |
|
Сведения о совпадении — метка
|
MatchDetails.Label | string |
Соответствующая метка изображения. |