Лучшие практики: создание помеченных наборов данных

Это содержимое относится к:версии 4.0 (GA) | Предыдущие версии:версии 3.1 (GA)версии 3.0 (вывод из эксплуатации)

Пользовательские модели (шаблонные и нейронные) требуют размеченного набора данных как минимум из пяти документов для обучения модели. Качество помеченного набора данных влияет на точность обученной модели. Это руководство поможет вам узнать больше о создании модели с высокой точностью путем сборки различных наборов данных и рекомендаций по маркировке документов.

Понимание компонентов помеченного набора данных

Помеченный набор данных состоит из нескольких файлов:

• Вы предоставляете набор примеров документов (обычно PDF-файлы или изображения). Для обучения модели требуется как минимум пять документов.

• Кроме того, процесс маркировки создает следующие файлы:

  • Файл fields.json создается при добавлении первого поля. Существует один fields.json файл для всего тренировочного набора данных, список полей содержит имя поля и связанные подполя и их типы.

  • Студия выполняет каждую из документов с помощью API макета. Ответ макета для каждого примера файлов в наборе данных добавляется как {file}.ocr.json. Ответ расположения используется для создания меток полей при маркировке определенного участка текста.

  • {file}.labels.json Файл создается или обновляется, когда поле помечено в документе. Файл метки содержит диапазоны текста и связанных многоугольников из выходных данных макета для каждого диапазона текста, добавляемого пользователем в качестве значения для определенного поля.

Видео: советы и указатели на пользовательские метки

• Следующее видео является первым из двух презентаций, предназначенных для создания пользовательских моделей с более высокой точностью (вторая презентация проверяет рекомендации по маркировке документов).

• Мы рассмотрим, как создать сбалансированный набор данных и выбрать нужные документы для маркировки. Этот процесс задает путь к более качественным моделям.

Создание сбалансированного набора данных

Прежде чем приступить к маркировке, рекомендуется ознакомиться с несколькими различными примерами документа, чтобы определить, какие примеры необходимо использовать в наборе данных с метками. Сбалансированный набор данных представляет все типичные варианты, которые вы ожидаете увидеть для документа. Создание сбалансированного набора данных приводит к созданию модели с максимальной возможной точностью. Ниже приведены несколько примеров.

• Форматы документов: если вы планируете анализировать как цифровые, так и сканированные документы, добавьте несколько примеров каждого типа в обучающий набор данных.

• Варианты (модель шаблона): рекомендуется разделить набор данных на папки и обучить модель для каждого варианта. Любые варианты, включающие структуру или макет, должны быть разделены на разные модели. Затем можно создать отдельные модели в одну составную модель.

• Варианты (нейронные модели): если набор данных имеет управляемый набор вариантов, около 15 или меньше, создайте один набор данных с несколькими образцами каждого из различных вариантов для обучения одной модели. Если число вариантов шаблона превышает 15, обучите несколько моделей и составьте их вместе.

• Таблицы: для документов, содержащих таблицы с переменным числом строк, убедитесь, что обучающий набор данных также представляет документы с разными числами строк.

• Многостраничные таблицы: когда таблицы занимают несколько страниц, необходимо обозначить одну таблицу. Добавьте документы в набор данных обучения с ожидаемыми вариантами, представленными — документы с таблицей только на одной странице и документы с таблицей, охватывающими две или более страницы со всеми строками, помеченными.

• Необязательные поля. Если набор данных содержит документы с необязательными полями, убедитесь, что обучающий набор данных содержит несколько документов с параметрами, представленными.

Начните с идентификации полей

Идентифицируйте все поля, которые вы планируете пометить в наборе данных. Обратите внимание на необязательные поля. Определите поля с метками, которые лучше всего соответствуют поддерживаемым типам.

Используйте следующие рекомендации для определения полей:

• Для пользовательских нейронных моделей используйте семантические имена для полей. Например, если извлекаемое значение имеет Effective Date, назовите его effective_date или EffectiveDate, а не таким общим названием, как date1.

• В идеале назовите ваши поля, используя Pascal или CamelCase.

• Если значение является частью визуально повторяющейся структуры и требуется только одно значение, пометите его как таблицу и извлеките необходимое значение во время последующей обработки.

• Для табличных полей, охватывающих несколько страниц, определите и примечайте поля в виде одной таблицы.

Возможности модели

Пользовательские нейронные модели в настоящее время поддерживают только пары "ключ-значение", структурированные поля (таблицы) и метки выбора.

¹ Реализация маркировки регионов отличается от шаблонов и нейронных моделей. Для моделей шаблонов в процессе обучения используется искусственные данные, если в отмеченной области не обнаружен текст. При использовании нейронных моделей искусственный текст не заполняется, и распознанный текст используется в исходном виде.
² Перекрывающиеся поля поддерживаются, начиная с версии APIv4.0 2024-11-30 (GA). Перекрывающиеся поля имеют некоторые ограничения. Для получения дополнительной информации см. раздел о перекрывающихся полях.

Табличные поля

Табличные поля (таблицы) поддерживаются пользовательскими нейронными моделями с версией API v4.0 2024-11-30 (GA). Модели, обученные с помощью API версии 2022-06-30-preview или более поздней, будут принимать табличные метки полей, а документы, проанализированные этими моделями с помощью API версии 2022-06-30-preview или более поздней, будут создавать табличные поля в выходных данных в разделе documents объекта результата в analyzeResult.

Табличные поля поддерживают межстраничные таблицы по умолчанию. Чтобы пометить таблицу, которая охватывает несколько страниц, пометите каждую строку таблицы на разных страницах в одной таблице. Рекомендуется убедиться, что набор данных содержит несколько примеров ожидаемых вариантов. Например, включите как примеры, где вся таблица находится на одной странице, так и примеры, когда таблица охватывает две или более страницы.

Табличные поля также полезны при извлечении повторяющихся данных в документе, который не распознается как таблица. Например, повторяющийся раздел о работе в резюме можно пометить и извлечь как табличное поле.

Рекомендации по маркировке

• Требуются значения меток. Не включайте окружающий текст. Например, при маркировке флажка присвойте полю имя, чтобы указать выбор именно флажка, например selectionYes и selectionNo, а не используйте метку "да" или "нет" в документе.

• Не предоставляйте значения полей переключения. Значение слов и (или) регионов одного поля должно быть последовательной последовательностью в естественном порядке чтения.

• Согласованность меток. Если значение отображается в нескольких контекстах документа, последовательно выберите один и тот же контекст в документах, чтобы пометить значение.

• Визуально повторяющиеся данные. Таблицы поддерживают визуально повторяющиеся группы информации, а не только явные таблицы. Явные таблицы определяются в разделе таблиц проанализированных документов в рамках выходных данных макета и не должны быть помечены как таблицы. Отмечайте поле таблицы только в том случае, если информация визуально повторяется и не распознаётся как часть таблицы в макете. Примером будет повторяющийся раздел о работе резюме.

• Маркировка регионов (пользовательский шаблон). Маркировка конкретных регионов позволяет задать значение, когда его нет. Если значение является необязательным, убедитесь, что вы оставили несколько примеров документов с регионом, не помеченным. При маркировке регионов не включайте окружающий текст с меткой.

• Перекрывающиеся поля (настраиваемые нейронные сети) Маркируйте зоны перекрытия, используя разметку регионов. Убедитесь, что у вас есть по крайней мере пример, описывающий, как поля могут перекрываться в наборе данных обучения.

Дальнейшие действия

• Обучение пользовательской модели:

  Обучение модели

• Посмотрите интерфейс REST API:

  API аналитики документов версии 4.0:2024-11-30 (GA)

  API аналитики документов версии 3.1:2023-07-31 (GA)