Примечание о прозрачности для распознавания именованных сущностей, включая персонально идентифицируемую информацию (PII)

Важно

Для удобства предоставляются только переводы, отличные от английского языка. Ознакомьтесь с EN-US версией этого документа для окончательной версии.

Что такое заметка о прозрачности?

Важно

В этой статье предполагается, что вы знакомы с рекомендациями и передовыми методами для Azure Language в инструментах Foundry. Дополнительные сведения см. в заметке о прозрачности языка.

Система ИИ включает не только технологию, но и людей, которые будут использовать его, людей, которые будут затронуты им, и среды, в которой она развернута. Для создания системы, которая подходит для ее целевой цели, требуется понимание того, как работает технология, ее возможности и ограничения, а также как достичь оптимальной производительности. Заметки о прозрачности Microsoft призваны помочь вам понять, как работает наша технология ИИ, какие выборы могут делать владельцы системы, чтобы влиять на производительность и поведение системы, и насколько важно рассматривать всю систему в целом, включая технологию, людей и окружающую среду. При разработке или развертывании собственной системы можно использовать прозрачные заметки или поделиться ими с пользователями, которые будут использовать вашу систему или на которых она повлияет.

Прозрачные записки Microsoft являются частью более широких усилий Microsoft по реализации наших принципов ИИ. Дополнительные сведения см. в статье "Принципы ответственного ИИ" из Microsoft.

Общие сведения о распознавании именованных сущностей и личных данных (PII)

Язык поддерживает распознавание именованных сущностей для идентификации и классификации информации в тексте. К ним относятся общие сущности, такие как Product и Event, а также персональные данные (PII). Можно распознать различные личные сущности , такие как имена, организации, адреса, номера телефонов, номера финансовых счетов или коды, а также правительственныеи региональные идентификационные номера . Подмножество этих личных данных составляет защищённую медицинскую информацию (PHI). При указании domain=phi в запросе вы получите только возвращенные сущности PHI. Полный список категорий сущностей PII и PHI можно найти в таблице. Кроме того, распознавание piI поддерживает возможность указания определенных категорий сущностей, которые нужно использовать в ответе и редактировать сущности PII в ответе. Сущности PII будут заменены звездочками в redactedText свойстве ответа.

Ознакомьтесь с примером запроса NER и примером ответа , чтобы узнать, как отправлять текст в службу и что ожидать обратно.

Примеры вариантов использования

Клиенты могут хотеть определить различные категории именованных сущностей по двум основным причинам:

  • Улучшение возможностей поиска . Клиенты могут создавать графы знаний на основе сущностей, обнаруженных в документах для улучшения поиска документов.
  • Улучшение или автоматизация бизнес-процессов . Например, при проверке страховых претензий можно выделить распознанные сущности, такие как имя и расположение, чтобы упростить проверку. Или запрос в службу поддержки можно создать с именем клиента и компанией автоматически из электронной почты.

Клиентам может потребоваться распознать различные категории сущностей PII специально по нескольким причинам:

  • Примените метки конфиденциальности . Например, на основе результатов службы PII можно применить общедоступную метку конфиденциальности к документам, где не обнаружены сущности PII. Для документов, в которых распознаются адреса и номера телефонов США, может применяться конфиденциальная метка. Метка с высокой конфиденциальностью может использоваться для документов, в которых распознаются номера маршрутизации банка.
  • Отредактировать некоторые категории персональных данных из документов для защиты конфиденциальности . Например, если записи контактов клиентов доступны представителям службы поддержки первой линии, компания может потребовать отредактировать ненужные персональные данные клиента из журнала клиентов, чтобы сохранить конфиденциальность клиента.
  • Отредактируйте личную информацию, чтобы уменьшить бессознательную предвзятость - например, во время процесса просмотра резюме в компании, они могут заблокировать имя, адрес и номер телефона, чтобы снизить бессознательную гендерную или другую предвзятость.
  • Замените личную информацию в исходных данных для машинного обучения, чтобы снизить несправедливость . Например, если вы хотите удалить имена, которые могут выявить пол при обучении модели машинного обучения, можно использовать службу для идентификации и заменить их универсальными заполнителями для обучения моделей.

Рекомендации при выборе варианта использования

Не используйте

  • Только ЛИЧНЫЕ данные — не используйте для сценариев автоматического редактирования или классификации информации . Любой сценарий, в котором отказ от редактирования персональных данных может привести к риску кражи удостоверений и физического или психологического ущерба, должен включать тщательный контроль человека.
  • NER и PII — не используйте для сценариев, которые используют личную информацию для цели, для которой согласие не было получено. Например, у компании есть резюме от претендентов, подавших заявки ранее. Кандидаты не дали согласие на то, чтобы с ними связывались для участия в рекламных мероприятиях, когда они отправляли свои резюме. В зависимости от этого сценария, службы NER и PII не должны использоваться для идентификации контактных данных в целях приглашения прошлых заявителей в торговое шоу.
  • NER и PII — клиентам запрещено использовать эту службу для сбора персональных данных из общедоступного содержимого без согласия лиц, которые являются предметом личной информации.
  • NER и PII — не используйте для сценариев, которые заменяют личную информацию в тексте с целью введения людей в заблуждение.

Юридические и нормативные аспекты: организациям необходимо оценить потенциальные определенные юридические и нормативные обязательства при использовании любых средств и решений Foundry, которые могут быть не подходящими для использования в каждой отрасли или сценарии. Кроме того, средства и решения Foundry не предназначены для использования и не могут использоваться способами, запрещенными в применимых условиях обслуживания и соответствующих кодексах поведения.

Характеристики и ограничения

В зависимости от вашего сценария, входных данных и сущностей, которые вы хотите извлечь, вы можете столкнуться с различными уровнями производительности. В следующих разделах описываются ключевые концепции производительности в контексте использования языковых служб NER и PII.

Понимание и измерение результативности NER

Так как могут возникать ложные положительные и ложные отрицательные ошибки, важно понимать, как оба типа ошибок могут повлиять на общую систему. При распознавании именованных сущностей (NER) ложное срабатывание происходит, когда сущность отсутствует в тексте, но система её распознаёт и возвращает. Ложный отрицательный результат — это когда сущность присутствует в тексте, но система не распознает и не возвращает его.

Общие сведения о производительности персональных данных

Например, в сценариях редактирования ложные отрицательные значения могут привести к утечке персональных данных. В сценариях редактации рассмотрим процесс проверки человека, который будет учитывать этот тип ошибки. В сценариях меток конфиденциальности как ложные срабатывания, так и ложные отрицательные могут привести к неправильной классификации документов. Документы, помеченные как конфиденциальные, могут оказаться ненужно ограниченными в доступе аудитории из-за ложного срабатывания. ПДн может произойти утечка, если произошла ошибка ложного отрицания и была применена общедоступная метка.

Вы можете настроить пороговое значение для оценки достоверности, который используется системой для настройки системы. Если более важно определить все потенциальные случаи ПДн, можно использовать более низкое пороговое значение. Это означает, что вы можете получить больше ложных срабатываний (данные, не являющиеся PII, распознаваемые как сущности PII), но меньше ложных отрицательных результатов (сущности PII не распознаются как PII). Если для вашей системы более важно распознавать только истинные данные PII, можно установить более высокий уровень порога. Пороговые значения могут не иметь согласованного поведения в отдельных категориях сущностей PII. Поэтому важно протестировать систему с реальными данными, которые будут обрабатываться в рабочей среде.

Ограничения системы и рекомендации по повышению производительности

  • Убедитесь, что вы понимаете все категории сущностей для NER и PII , которые можно распознать системой. В зависимости от вашего сценария данные могут включать другие сведения, которые могут считаться личными, но не охватываются категориями, которые в настоящее время поддерживает служба.

  • Контекст важен для всех категорий сущностей, которые должны быть правильно распознаны системой, так как часто это позволяет людям распознавать сущность. Например, без контекста десятизначное число — это всего лишь число. Тем не менее, учитывая контекст, как "Вы можете связаться со мной на моем номере телефона 2345678901", как система, так и человек может распознать десятизначный номер как номер телефона. Всегда включать контекст при отправке текста в систему, чтобы получить оптимальную производительность.

  • Имена пользователей, в частности, требуют лингвистического контекста. Отправьте максимально возможный контекст для лучшего обнаружения имен пользователей.

  • Для данных для диалогов рекомендуется отправлять более одной реплики в разговоре, чтобы обеспечить более высокую вероятность того, что необходимый контекст будет включен в фактические сущности.
    В следующем разговоре, если вы отправляете одну строку за раз, номер паспорта не будет связан с ним, и категория PII номера паспорта ЕС не будет признана.

    Привет, как я могу помочь вам сегодня?
    Я хочу продлить паспорт
    Конечно, какой у вас текущий номер паспорта?
    Вот его номер: 123456789, спасибо.

    Тем не менее, если вы отправляете всю беседу, она будет распознана, так как контекст включен.

  • Иногда для одной сущности можно распознать несколько категорий сущностей. Если мы рассмотрим предыдущий пример:

    Привет, как я могу помочь вам сегодня?
    Я хочу продлить паспорт
    Конечно, какой у вас текущий номер паспорта?
    Вот его номер: 123456789, спасибо.

    Несколько разных стран имеют одинаковый формат для номеров паспортов, поэтому могут быть признаны несколько различных категорий конкретных сущностей. В некоторых случаях использование максимальной оценки достоверности может быть недостаточно для выбора подходящего класса сущности. Если ваш сценарий зависит от распознавания определённой категории сущностей, возможно, потребуется уточнить результат в другом месте вашей системы с помощью проверки человеком или дополнительного кода валидации. Тщательное тестирование на реальных данных поможет определить, сможете ли вы увидеть несколько категорий сущностей, распознаваемых в вашем сценарии.

  • Не все категории сущностей поддерживаются во всех языках для NER и PII. Обязательно проверьте статью о типах сущностей для распознаваемых вами языков.

  • Поддерживаются многие международные объекты PII. По умолчанию возвращаемые категории сущностей — это те, которые соответствуют языковому коду, отправленного с вызовом API. Если вы ожидаете сущности из регионов, отличных от указанного, необходимо указать их с параметром piiCategories. Узнайте больше о том, как указать, что должно быть включено в ваш ответ, в справочнике Azure AI Foundry REST API. Узнайте больше о категориях, поддерживаемых для каждой локали, в документации по именованным типам сущностей.

  • В сценариях редактирования piI, если вы используете версию API, которая включает необязательный параметр piiCategories, важно учитывать все категории piI, которые могут присутствовать в тексте. Если вы редактируете только определенные категории сущностей или категории сущностей по умолчанию для определенного языкового стандарта, другие категории PII, которые могут неожиданно появиться в тексте, могут просочиться. Например, если вы отправили языковой стандарт EN-US и не указали какие-либо опциональные категории PII, и Немецкий номер водительского удостоверения присутствует в тексте, это приведет к утечке данных. Чтобы предотвратить это, необходимо указать категорию номера лицензии немецкого водителя в параметре piiCategories . Кроме того, если вы указали одну или несколько категорий с помощью piiCategories параметра для указанного языкового стандарта, помните, что эти категории являются единственными категориями, которые будут отредактированы. Например, если вы отправили EN-US локаль и указали номер социального страхования США (SSN) в качестве категории PII для редактирования, то любые другие категории EN-US, такие как номер водительских прав США или номер паспорта США, могут утечь, если они появятся во входном тексте.

  • Так как служба PII возвращает категории PII, соответствующие коду языка в вызове, рассмотрите возможность проверки, на каком языке написан входной текст, если вы не уверены в языке или региональном стандарте входного текста. Для этого можно использовать функцию обнаружения языка .

  • Служба piI принимает только текст в качестве входных данных. Если вы удаляете информацию из документов в других форматах, тщательно протестируйте код редактирования, чтобы убедиться, что обнаруженные сущности не утекут случайно.

См. также

  • Last updated on