Создание пользовательских моделей

стиль выделения

Это содержимое относится к:checkmarkверсии 4.0 (GA) | Предыдущие версии:blue-checkmarkверсии 3.1 (GA)red-checkmark версии 3.0 (вывод из эксплуатации)red-checkmarkверсии 2.1 (вывод из эксплуатации)

Это содержимое относится к:галочкаверсии 3.1 (GA) | Последняя версия:фиолетовая-галочкаверсии 4.0 (GA) | Предыдущие версии:синяя-галочкаверсии 3.0синяя-галочкаверсии 2.1

Это содержимое относится к:red-checkmarkверсии 3.0 (удаление)Последние версии:purple-checkmarkверсия 4.0 (GA)purple-checkmarkверсия 3.1Предыдущая версия:blue-checkmarkверсия 2.1 (удаление)

Это содержимое относится к:красная галочкаверсия 2.1 | Последняя версия:синяя галочкаверсия 4.0 (GA)

Важно

Поведение компоновки модели изменяется для версии API=2024-11-30 (GA). Дополнительные сведения см. в статье о составных пользовательских моделях. Следующее поведение применяется только к версии 3.1 и предыдущим версиям.

Составная модель создается путем взятия коллекции пользовательских моделей и назначения их одному идентификатору модели. Вы можете назначить до 200 обученных пользовательских моделей одному идентификатору составной модели. При отправке документа в составную модель служба выполняет шаг классификации, чтобы определить, какая пользовательская модель точно представляет форму, представленную для анализа. Составные модели полезны при обучении нескольких моделей и их группировке для анализа аналогичных типов форм. Например, ваша составная модель может включать пользовательские модели, обученные для анализа поставок, оборудования и заказов на покупку мебели. Вместо того чтобы вручную выбрать соответствующую модель, можно использовать составную модель для определения соответствующей пользовательской модели для каждого анализа и извлечения.

Дополнительные сведения см. в разделе "Создание пользовательских моделей".

В этой статье вы узнаете, как создавать и использовать создаваемые пользовательские модели для анализа форм и документов.

Необходимые условия

Чтобы приступить к работе, вам потребуется следующее:

  • Подписка Azure. Вы можете создать бесплатную подписку Azure.

  • Экземпляр решения для интеллектуальной обработки документов. После получения подписки Azure создайте ресурс аналитики документов на портале Azure, чтобы получить ключ и конечную точку. Если у вас есть существующий ресурс аналитики документов, перейдите непосредственно на страницу ресурсов. Вы можете использовать бесплатный уровень F0, чтобы попробовать сервис, а затем перейти на платный уровень для рабочей среды.

    1. После развертывания ресурса выберите "Перейти к ресурсу".

    2. Скопируйте значения Keys и Endpoint на портале Azure и вставьте их в удобное место, например в Microsoft Блокнот. Для подключения приложения к API аналитики документов нужны значения ключей и конечных точек.

Фотографическое изображение, показывающее, как получить ключ доступа и URL-адрес конечной точки.

Совет

Дополнительные сведения см. в статье о создании ресурса аналитики документов.

  • Учетная запись хранения Azure. Если вы не знаете, как создать учетную запись Azure storage, следуйте краткому руководству служба хранилища Azure на портале Azure. Вы можете использовать бесплатный уровень F0, чтобы попробовать сервис, а затем перейти на платный уровень для рабочей среды.

Создайте пользовательские модели

Во-первых, вам потребуется набор пользовательских моделей для компоновки. Вы можете использовать библиотеки Document Intelligence Studio, REST API или клиентские библиотеки. Ниже приведены действия.

Сборка набора данных для обучения

Создание пользовательской модели начинается с создания набора обучающих данных. Для примера набора данных требуется не менее пяти завершенных форм одного типа. Они могут быть разных типов файлов (jpg, png, pdf, tiff) и содержать текст и рукописный текст. Формы должны соответствовать требованиям к входным данным для аналитики документов.

Совет

Чтобы оптимизировать набор данных для обучения, выполните следующие советы.

  • По возможности используйте текстовые PDF-документы вместо документов на основе изображений. Сканированные PDF-файлы обрабатываются как изображения.
  • Для заполненных форм используйте примеры, в которых все поля заполнены.
  • Используйте формы с разными значениями в каждом поле.
  • Если изображения формы имеют более низкое качество, используйте более крупный набор данных (например, 10–15 изображений).

Сведения о сборе обучающих документов см. в статье "Создание набора данных для обучения ".

Отправка набора данных для обучения

После сбора набора обучающих документов необходимо загрузить обучающие данные в контейнер хранилища BLOB-объектов Azure.

Если вы хотите использовать данные с ручной разметкой, необходимо загрузить файлы .labels.json и .ocr.json, соответствующие вашим обучающим документам.

Обучение пользовательской модели

При обучении модели с помеченными данными модель использует защищенное обучение для извлечения значений, интересующих вас, используя предоставленные вами помеченные формы. Помеченные данные приводят к повышению производительности моделей и могут создавать модели, работающие с сложными формами или формами, содержащими значения без ключей.

Аналитика документов использует предварительно созданный API модели макета для изучения ожидаемых размеров и позиций шрифтов и рукописных текстовых элементов и извлечения таблиц. Затем он использует пользовательские метки для изучения сопоставлений ключей и значений, а также таблиц в документах. Рекомендуется использовать пять вручную помеченных форм одного типа (той же структуры), чтобы приступить к обучению новой модели. Затем добавьте дополнительные помеченные данные по мере необходимости, чтобы повысить точность модели. Аналитика документов позволяет обучать модель для извлечения пар "ключ-значение" и таблиц с помощью защищенных возможностей обучения.

Чтобы создать пользовательские модели, начните с настройки проекта:

  1. На домашней странице Студии выберите "Создать новую" на карточке настраиваемой модели.

  2. ➕ Используйте команду "Создать проект", чтобы запустить мастер настройки нового проекта.

  3. Введите сведения о проекте, выберите подписку и ресурс Azure и контейнер хранилища BLOB-объектов Azure, содержащий данные.

  4. Просмотрите, отправьте параметры и создайте проект.

Анимация, показывающая создание пользовательского проекта в Document Intelligence Studio.

При создании пользовательских моделей может потребоваться извлечь коллекции данных из документов. Коллекции могут отображаться в одном из двух форматов. Использование таблиц в качестве визуального шаблона:

  • Динамическое или переменное количество значений (строк) для заданного набора полей (столбцов)

  • Определенная коллекция значений для заданного набора полей (столбцы и/или строки)

См. статью Document Intelligence Studio: маркировка в виде таблиц

Создание составной модели

Примечание

Операция create compose model доступна только для пользовательских моделей , обученных с помощью меток. Попытка составления моделей без меток приведет к ошибке.

При операции создания составной модели можно назначить до 100 обученных пользовательских моделей одному идентификатору модели. При анализе документов с помощью составной модели аналитика документов сначала классифицирует отправленную форму, а затем выбирает оптимальную назначенную модель и возвращает результаты для этой модели. Эта операция полезна, если входящие формы могут принадлежать одному из нескольких шаблонов.

После успешного завершения процесса обучения можно приступить к созданию составной модели. Ниже приведены шаги по созданию и использованию составных моделей.

Соберите идентификаторы моделей

При обучении моделей с помощью Document Intelligence Studio идентификатор модели находится в меню моделей в проекте:

Снимок экрана: окно конфигурации модели в Document Intelligence Studio.

Создание пользовательских моделей

  1. Выберите проект пользовательских моделей.

  2. В проекте выберите Models пункт меню.

  3. В результирующем списке моделей выберите модели, которые вы хотите составить.

  4. Нажмите кнопку "Создать" в левом верхнем углу.

  5. Во всплывающем окне назовите только что созданную модель и выберите Compose.

  6. После завершения операции ваша новая составленная модель появится в списке.

  7. Когда модель будет готова, используйте команду Test , чтобы проверить ее с помощью тестовых документов и просмотреть результаты.

Анализ документов

Для выполнения операции Analyze пользовательской модели требуется указать modelID в вызове Document Intelligence. Необходимо указать идентификатор составной модели для modelID параметра в приложениях.

Снимок экрана: идентификатор составной модели в Document Intelligence Studio.

Управление составными моделями

Вы можете управлять пользовательскими моделями в течение жизненного цикла:

  • Тестирование и проверка новых документов.
  • Скачайте модель для использования в приложениях.
  • Удалите модель после завершения жизненного цикла.

Снимок экрана: составная модель в Студии аналитики документов

Прекрасно! Вы узнали, как создать пользовательские и составные модели и использовать их в проектах и приложениях аналитики документов.

Дальнейшие действия

Попробуйте одно из наших кратких руководств по интеллектуальному анализу документов:

Document Intelligence Studio

REST API

C#

Java

Javascript

Python

Аналитика документов использует расширенную технологию машинного обучения для обнаружения и извлечения информации из изображений документов и возврата извлеченных данных в структурированных выходных данных JSON. С помощью аналитики документов можно обучить автономные пользовательские модели или объединить пользовательские модели для создания составных моделей.

  • Пользовательские модели. Пользовательские модели аналитики документов позволяют анализировать и извлекать данные из форм и документов, относящихся к бизнесу. Специализированные модели обучены для ваших специфичных данных и случаев использования.

  • Составные модели. Составная модель создается путем сбора коллекции пользовательских моделей и присвоения их одной модели, которая охватывает ваши типы форм. При отправке документа в составную модель служба выполняет шаг классификации, чтобы определить, какая пользовательская модель точно представляет форму, представленную для анализа.

Из этой статьи вы узнаете, как создавать пользовательские и составные модели аналитики документов с помощью средства маркировки образца документов, REST API или клиентских библиотек.

Пример средства маркировки

Попробуйте извлечь данные из пользовательских форм с помощью нашего средства маркировки образцов. Вам потребуются следующие ресурсы:

  • Подписка Azure— вы можете создать бесплатно

  • Экземпляр Document Intelligence на портале Microsoft Azure. Вы можете использовать бесплатную ценовую категорию (F0) для пробной службы. После развертывания ресурса выберите "Перейти к ресурсу" , чтобы получить ключ и конечную точку.

Снимок экрана с ключами и местоположением конечной точки на портале Azure.

Попробуйте

В пользовательском интерфейсе аналитики документов:

  1. Выберите "Использовать настраиваемую настройку" для обучения модели с метками и извлечения пар ключ-значение.

Снимок экрана средства FOTT с выбранной опцией пользовательской модели.

  1. В следующем окне выберите новый проект:

Снимок экрана с инструментом FOTT с опцией выбора нового проекта.

Создайте ваши модели

Ниже приведены действия по созданию, обучению и использованию пользовательских и составных моделей.

Сборка набора данных для обучения

Создание пользовательской модели начинается с создания набора обучающих данных. Для примера набора данных требуется не менее пяти завершенных форм одного типа. Они могут быть разных типов файлов (jpg, png, pdf, tiff) и содержать текст и рукописный текст. Формы должны соответствовать требованиям к входным данным для аналитики документов.

Отправка набора данных для обучения

Необходимо загрузить данные для обучения в контейнер хранилища BLOB-объектов Azure. Если вы не знаете, как создать учетную запись хранилища Azure с контейнером, см. разделкраткое руководство по хранилищу Azure для портала Azure. Вы можете использовать бесплатный уровень F0, чтобы попробовать сервис, а затем перейти на платный уровень для рабочей среды.

Обучение пользовательской модели

Вы обучаете модель с помощью помеченных наборов данных. Помеченные наборы данных зависят от предварительно созданного API макета, но дополнительные данные человека включаются, такие как определенные метки и расположения полей. Начните с по крайней мере пять завершенных форм одного типа для данных обучения с метками.

При обучении с помеченными данными модель использует защищенное обучение для извлечения значений, интересующих вас, используя предоставленные вами помеченные формы. Помеченные данные приводят к повышению производительности моделей и могут создавать модели, работающие с сложными формами или формами, содержащими значения без ключей.

Аналитика документов использует API макета для изучения ожидаемых размеров и позиций шрифтов и рукописных текстовых элементов и извлечения таблиц. Затем он использует пользовательские метки для изучения сопоставлений ключей и значений, а также таблиц в документах. Рекомендуется использовать пять вручную помеченных форм одного типа (той же структуры), чтобы начать обучение новой модели. Добавьте больше помеченных данных, чтобы повысить точность модели. Аналитика документов позволяет обучать модель для извлечения пар ключевых значений и таблиц с помощью защищенных возможностей обучения.

Приступайте к обучению с метками

[! VIDEO https://learn.microsoft.com/Shows/Docs-Azure/Azure-Form-Recognizer/player]

Создание составной модели

Примечание

Создание модели доступно только для пользовательских моделей , обученных с помощью меток. Попытка составления моделей без меток приведет к ошибке.

С помощью операции "Создание модели" можно назначить до 200 обученных пользовательских моделей одному идентификатору модели. При вызове анализа с помощью идентификатора составной модели аналитика документов классифицирует форму, отправленную сначала, выбирает оптимальную назначенную модель, а затем возвращает результаты для этой модели. Эта операция полезна, если входящие формы могут принадлежать одному из нескольких шаблонов.

Используя средство создания меток аналитики документов, REST API или клиентские библиотеки, выполните действия, чтобы настроить созданную модель:

  1. Сбор идентификаторов пользовательских моделей
  2. Создание пользовательских моделей

Сбор идентификаторов пользовательских моделей

После успешного завершения процесса обучения пользовательская модель получает идентификатор модели. Вы можете получить идентификатор модели следующим образом:

При обучении моделей с помощью средства маркировки образца документов идентификатор модели находится в окне "Результат обучения":

Снимок экрана: окно результатов обучения.

Составьте свои пользовательские модели

После сбора пользовательских моделей, соответствующих одному типу формы, можно объединить их в одну модель.

Средство маркировки образцов позволяет быстро начать обучение моделей и объединять их под одним идентификатором модели.

После завершения обучения создайте модели следующим образом:

  1. В меню слева выберите значок "Создание модели " (объединяющая стрелка).

  2. В главном окне выберите модели, которые вы хотите назначить одному идентификатору модели. Модели со значком стрелки уже являются составными моделями.

  3. Нажмите кнопку "Создать" в левом верхнем углу.

  4. Во всплывающем окне назовите только что созданную модель и выберите Compose.

После завершения операции ваша новая составленная модель появится в списке.

Снимок экрана: окно создания модели.

Анализ документов с помощью пользовательской или составной модели

Для выполнения операции анализа пользовательской формы необходимо предоставить modelID при вызове в систему Document Intelligence. Вы можете указать один пользовательский идентификатор модели или идентификатор составной модели для modelID параметра.

  1. В меню левой панели инструментов выберите значок Analyze (значок лампочки).

  2. Выберите локальный файл или URL-адрес изображения для анализа.

  3. Нажмите кнопку "Выполнить анализ ".

  4. Средство применяет теги в ограничивающих полях и сообщает процент достоверности для каждого тега.

Снимок экрана окна средства Document Intelligence для анализа пользовательской формы.

Проверьте новые обученные модели, проанализировав формы , которые не были частью набора данных для обучения. В зависимости от сообщаемой точности может потребоваться дополнительное обучение для улучшения модели. Вы можете продолжить обучение, чтобы улучшить результаты.

Управление пользовательскими моделями

Вы можете управлять пользовательскими моделями на протяжении всего жизненного цикла, просматривая список всех пользовательских моделей в подписке, извлекая сведения о конкретной пользовательской модели и удаляя пользовательские модели из учетной записи.

Прекрасно! Вы узнали, как создать пользовательские и составные модели и использовать их в проектах и приложениях аналитики документов.

Дальнейшие действия

Дополнительные сведения о клиентской библиотеке аналитики документов см. в справочной документации по API.

Справочник по API аналитики документов

  • Last updated on