Краткое руководство: Векторизация текста на портале Microsoft Azure

В этом кратком руководстве вы используете мастер импорта и векторизации данных на портале Azure для начала интеграции векторизации. Мастер разбивает содержимое на части и вызывает модель встраивания, чтобы векторизировать части во время индексирования и выполнения запросов.

В этом кратком руководстве используются текстовые PDF-файлы из репозитория azure-search-sample-data. Однако вы можете использовать изображения и всё равно завершить это краткое руководство.

Предварительные условия

• Учетная запись Azure с активной подпиской. Создайте учетную запись бесплатно .

• Служба поиска ИИ Azure. Мы рекомендуем уровень "Базовый" или "Выше".

• Поддерживаемый источник данных.

• Поддерживаемая модель внедрения.

• Знакомство с мастером. См. статью "Мастер импорта данных" на портале Azure.

Поддерживаемые источники данных

Мастер импорта и векторизации данныхподдерживает широкий спектр источников данных Azure. Однако в этом кратком руководстве рассматриваются только источники данных, работающие со целыми файлами, которые описаны в следующей таблице.

Поддерживаемый источник данных	Описание
Хранилище BLOB-объектов Azure	Этот источник данных работает с объектами Blob и таблицами. Необходимо использовать учетную запись стандартной производительности (общего назначения версии 2). Уровни доступа могут быть горячими, прохладными или холодными.
Azure Data Lake Storage (ADLS) 2-го поколения	Это учетная запись хранения Azure с включенным иерархическим пространством имен. Чтобы подтвердить наличие Data Lake Storage, перейдите на вкладку "Свойства " на странице обзора .
OneLake	Этот источник данных в настоящее время находится в предварительной версии. Сведения об ограничениях и поддерживаемых сочетаниях клавиш см. в статье Об индексировании OneLake.

Поддерживаемые модели внедрения

Для интегрированной векторизации необходимо использовать одну из следующих моделей внедрения на платформе ИИ Azure. Инструкции по развертыванию приведены в следующем разделе.

^{1 Конечная} точка ресурса Azure OpenAI должна иметь настраиваемый поддомен, например https://my-unique-name.openai.azure.com. Если вы создали ресурс на портале Azure, этот поддомен был автоматически создан во время настройки ресурса.

² ресурса Azure OpenAI (с доступом к моделям внедрения), созданным на портале Azure AI Foundry , не поддерживаются. Только ресурсы Azure OpenAI, созданные на портале Azure, совместимы с навыком внедрения Azure OpenAI.

³ Для выставления счетов необходимо присоединить многосервисный ресурс Azure AI к набору навыков в службе поиска Azure AI. Если для создания набора навыков не используется подключение без ключа (предварительная версия), оба ресурса должны находиться в одном регионе.

⁴ Модель многомодального внедрения визуального распознавания ИИ Azure доступна в выборе регионов.

Требования к общедоступной конечной точке

В этом кратком руководстве все предыдущие ресурсы должны быть общедоступными, чтобы узлы портала Azure могли к ним получить доступ. В противном случае мастер завершается ошибкой. После запуска мастера можно включить брандмауэры и частные конечные точки в компонентах интеграции для обеспечения безопасности. Дополнительные сведения см. в разделе "Безопасные подключения" в мастерах импорта.

Если частные конечные точки уже присутствуют и их невозможно отключить, альтернативным вариантом является запуск соответствующего сквозного потока из скрипта или программы на виртуальной машине. Виртуальная машина должна находиться в той же виртуальной сети, что и частная конечная точка. Ниже приведен пример кода Python для интегрированной векторизации. В том же репозитории GitHub есть примеры на других языках программирования.

Ролевой доступ

Идентификатор Microsoft Entra можно использовать с назначением ролей или аутентификацией на основе ключей, используя строки подключения с полным доступом. Для подключений поиска ИИ Azure к другим ресурсам рекомендуется назначать роли. В этом кратком руководстве предполагается, что роли.

Бесплатные службы поиска поддерживают подключения на основе ролей к поиску ИИ Azure. Однако они не поддерживают управляемые удостоверения для исходящих подключений к Azure Storage или к Azure AI Vision. Это отсутствие поддержки требует проверки подлинности на основе ключей для подключений между бесплатными службами поиска и другими ресурсами Azure. Для более безопасных подключений используйте базовый уровень или более высокий уровень, а затем включите роли и настройте управляемое удостоверение.

Чтобы настроить рекомендуемый доступ на основе ролей, выполните следующие действия.

1. В службе поиска включите роли и настройте управляемое удостоверение, назначаемое системой.

2. Назначьте себе следующие роли :

   • Участник службы поиска

   • Участник данных индекса поиска

   • Средство чтения индексов поиска

3. На платформе источника данных и поставщике моделей внедрения создайте назначения ролей, которые позволяют службе поиска получать доступ к данным и моделям. См. статью "Подготовка примеров данных " и " Подготовка моделей внедрения".

Проверка пространства

Если вы начинаете работу с бесплатной службой, вы ограничены тремя индексами, источниками данных, наборами навыков и индексаторами. Базовые ограничения ограничивают вас до 15. В этой краткой инструкции создается по одному из каждого объекта, поэтому перед началом убедитесь, что у вас достаточно места для дополнительных предметов.

Подготовка примера данных

В этом разделе указано содержание, подходящее для данного быстрого старта. Прежде чем продолжить, убедитесь, что выполнены предварительные требования для доступа на основе ролей.

Подготовка модели внедрения

Мастер может использовать модели внедрения, развернутые из Azure OpenAI, Azure AI Vision или из каталога моделей на портале Azure AI Foundry. Прежде чем продолжить, убедитесь, что выполнены предварительные требования для доступа на основе ролей.

Запуск мастера

Чтобы запустить мастер поиска векторов, выполните следующие действия.

1. Войдите на портал Azure и выберите службу поиска ИИ Azure.

2. На странице "Обзор" выберите "Импорт и векторизация данных".

   

3. Выберите источник данных: хранилище BLOB-объектов Azure, ADLS 2-го поколения или OneLake.

4. Выберите RAG.

   

Подключение к данным

Следующим шагом является подключение к источнику данных для использования для индекса поиска.

Векторизация текста

На этом шаге вы укажете модель для встраивания для векторизации данных, разбитых на части. Функция сегментирования встроена и не настраивается. Эффективные параметры:

"textSplitMode": "pages",
"maximumPageLength": 2000,
"pageOverlapLength": 500,
"maximumPagesToTake": 0, #unlimited
"unit": "characters"

1. На странице Векторизация вашего текста выберите источник вашей модели встраивания.

   • Azure OpenAI

   • Каталог моделей Azure AI Foundry

   • Azure AI Vision (с помощью многослужбового ресурса Azure AI в том же регионе, что и поиск Azure AI)

2. Укажите подписку Azure.

3. В зависимости от ресурса сделайте следующее:

   • Для Azure OpenAI выберите модель, развернутую в модели подготовки внедрения.

   • Для каталога моделей AI Foundry выберите модель, развернутую в модели подготовки внедрения.

   • Для многомодальных интеграций AI Vision выберите многосервисный ресурс.

4. Для типа проверки подлинности выберите назначенное системой удостоверение.

   • Удостоверение должно иметь роль пользователя Cognitive Services в многосервисном ресурсе Azure AI.

5. Установите флажок, подтверждающий осознание последствий выставления счетов при использовании этих ресурсов.

   

6. Выберите Далее.

Векторизация и обогащение изображений

PDF-файлы плана медицинского страхования включают корпоративный логотип, но иначе изображения отсутствуют. Этот шаг можно пропустить, если вы используете примеры документов.

Однако если вы работаете с содержимым, включающим полезные изображения, можно применить ИИ двумя способами:

• Используйте поддерживаемую модель внедрения изображений из каталога или API многомодальных внедрений в Azure AI Vision для векторизации изображений.

• Используйте оптическое распознавание символов (OCR) для распознавания текста в изображениях. Этот параметр вызывает функцию OCR, чтобы считывать текст с изображений.

Поиск ИИ Azure и ресурс ИИ Azure должны быть в одном регионе или настроены для подключений с бесключевой оплатой.

1. На странице векторизации изображений укажите тип подключения, который должен сделать мастер. Для векторизации изображений мастер может подключиться к внедрению моделей на портале Azure AI Foundry или Azure AI Vision.

2. Укажите подписку.

3. В каталоге моделей Azure AI Foundry укажите проект и развертывание. Дополнительные сведения см. в разделе "Подготовка моделей внедрения".

4. (Необязательно) Взломать двоичные изображения, такие как сканированные файлы документов, и использовать OCR для распознавания текста.

5. Установите флажок, подтверждающий осознание последствий выставления счетов при использовании этих ресурсов.

   

6. Выберите Далее.

Добавление семантического ранжирования

На странице "Дополнительные параметры" можно дополнительно добавить семантический рейтинг для повторного просмотра результатов в конце выполнения запроса. Переранжирование перемещает наиболее семантически релевантные совпадения на верхние позиции.

Сопоставьте новые поля

Ключевые моменты этого шага:

• Схема индекса предоставляет векторные и невекторные поля для блокированных данных.

• Можно добавить поля, но не удается удалить или изменить созданные поля.

• Режим синтаксического анализа документов создает блоки (один документ поиска на блок).

На странице "Дополнительные параметры " можно дополнительно добавить новые поля, при условии, что источник данных предоставляет метаданные или поля, которые не выбираются при первом проходе. По умолчанию мастер создает поля, описанные в следующей таблице.

Вы не можете изменить созданные поля или их атрибуты, но можно добавить новые поля, если источник данных предоставляет их. Например, Хранилище BLOB-объектов Azure предоставляет коллекцию полей метаданных.

1. Выберите "Добавить поле".

2. Выберите исходное поле из доступных полей, введите имя поля для индекса и примите (или переопределите) тип данных по умолчанию.

   Примечание.

   Поля метаданных доступны для поиска, но не могут быть извлекаемыми, фильтруемыми, фасетируемыми или сортируемыми.

3. Если вы хотите восстановить схему до исходной версии, нажмите кнопку "Сброс".

Планирование индексирования

На странице "Дополнительные параметры" можно также указать необязательное расписание выполнения индексатора. После выбора интервала в раскрывающемся списке нажмите кнопку "Далее".

Завершение работы мастера

1. На странице проверки конфигурации укажите префикс для создаваемых мастером объектов. Распространенный префикс помогает оставаться упорядоченным.

2. Нажмите кнопку создания.

Когда мастер завершит настройку, он создает следующие объекты:

• Подключение к источнику данных.

• Индекс с полями векторов, векторизаторами, профилями векторов и алгоритмами векторов. Невозможно разработать или изменить индекс по умолчанию во время рабочего процесса мастера. Индексы соответствуют REST API версии 2024-05-01-preview.

• Набор навыков с навыком разделения текста для фрагментирования и внедрения навыка для векторизации. Навык внедрения — это навык AzureOpenAIEmbeddingModel для Azure OpenAI или навык AML для каталога моделей Azure AI Foundry. Набор навыков также имеет конфигурацию проекций индекса , которая сопоставляет данные из одного документа в источнике данных с соответствующими блоками в дочернем индексе.

• Индексатор с сопоставлениями полей и сопоставлениями выходных полей (если применимо).

Проверка результатов

Обозреватель поиска принимает текстовые строки в качестве входных данных, а затем векторизирует текст для выполнения векторного запроса.

1. На портале Azure перейдите к Управление поиском, затем >, а затем выберите ваш индекс.

2. Выберите параметры запроса и выберите "Скрыть векторные значения" в результатах поиска. Этот шаг делает результаты более читаемыми.

   

3. В меню "Вид " выберите представление JSON , чтобы можно было ввести текст для векторного запроса в параметре векторного text запроса.

   

   Запрос по умолчанию является пустым поиском ("*"), но включает параметры для возвращения количества совпадений. Это гибридный запрос, который выполняет текстовые и векторные запросы параллельно. Он также включает в себя семантическое ранжирование и указывает, какие поля возвращать в результатах с помощью инструкции select.

    {
      "search": "*",
      "count": true,
      "vectorQueries": [
        {
          "kind": "text",
          "text": "*",
          "fields": "text_vector,image_vector"
        }
      ],
      "queryType": "semantic",
      "semanticConfiguration": "my-demo-semantic-configuration",
      "captions": "extractive",
      "answers": "extractive|count-3",
      "queryLanguage": "en-us",
      "select": "chunk_id,text_parent_id,chunk,title,image_parent_id"
    }
   

4. Замените оба заполнителя звездочки (*) вопросом о планах медицинского страхования, например Which plan has the lowest deductible?.

    {
      "search": "Which plan has the lowest deductible?",
      "count": true,
      "vectorQueries": [
        {
          "kind": "text",
          "text": "Which plan has the lowest deductible?",
          "fields": "text_vector,image_vector"
        }
      ],
      "queryType": "semantic",
      "semanticConfiguration": "my-demo-semantic-configuration",
      "captions": "extractive",
      "answers": "extractive|count-3",
      "queryLanguage": "en-us",
      "select": "chunk_id,text_parent_id,chunk,title"
    }
   

5. Чтобы запустить запрос, выберите "Поиск".

   

   Каждый документ является фрагментом исходного PDF-файла. В title поле показано, откуда поступает блок PDF. Каждая chunk имеет большую длину. Вы можете скопировать и вставить его в текстовый редактор, чтобы прочитать все значение.

6. Чтобы просмотреть все фрагменты из определенного документа, добавьте фильтр для title_parent_id поля для определенного PDF-файла. Вы можете проверить вкладку "Поля " индекса, чтобы убедиться, что поле можно фильтровать.

   {
      "select": "chunk_id,text_parent_id,chunk,title",
      "filter": "text_parent_id eq 'aHR0cHM6Ly9oZWlkaXN0c3RvcmFnZWRlbW9lYXN0dXMuYmxvYi5jb3JlLndpbmRvd3MubmV0L2hlYWx0aC1wbGFuLXBkZnMvTm9ydGh3aW5kX1N0YW5kYXJkX0JlbmVmaXRzX0RldGFpbHMucGRm0'",
      "count": true,
      "vectorQueries": [
          {
             "kind": "text",
             "text": "*",
             "k": 5,
             "fields": "text_vector"
          }
       ]
   }
   

Очистка

Поиск по искусственному интеллекту Azure — это оплачиваемый ресурс. Если она больше не нужна, удалите ее из подписки, чтобы избежать расходов.

Следующий шаг

В этом кратком руководстве описан мастер импорта и векторизации данных, который создает все необходимые объекты для интегрированной векторизации. Подробные сведения о каждом шаге см. в статье "Настройка интегрированной векторизации" в службе "Поиск ИИ Azure".