векторизатор каталогов моделей Microsoft Foundry

Note

Поиск с использованием ИИ Azure доступна через портал Azure, REST API и Azure SDKs. Он также лежит в основе Foundry IQ — управляемого слоя знаний, который преобразует корпоративный контент в многократно используемые базы знаний с учетом разрешений доступа для агентов на портале Microsoft Foundry.

Важно

Этот векторизатор находится в предварительной версии в разделе "Дополнительные условия использования". Чтобы использовать эту функцию, рекомендуется использовать последнюю предварительную версию индексов — создание или обновление (REST API).

Каталог моделей Microsoft Foundry vectorizer подключается к модели внедрения, развернутой из каталога моделей или Машинное обучение Azure (AML). Данные обрабатываются в Гео, где развернута ваша модель.

Если вы используете встроенную векторизацию для создания векторных массивов, набор навыков должен включать навык AML , указывающий на ту же модель, указанную в векторизаторе.

Необходимые условия

  • Проект, основанный на центре Microsoft Foundry, или рабочая область AML для пользовательской модели, которую вы создаете.

  • Только для проектов на основе узлов, бессерверное развертывание поддерживаемой модели из каталога моделей Microsoft Foundry. Вы можете использовать использовать Azure CLI для подготовки бессерверного развертывания.

Параметры векторизатора

Параметры чувствительны к регистру. Параметры, которые вы используете, зависят от того, какой тип проверки подлинности требуется поставщику моделей, если таковые имеются.

Имя параметра Описание
uri (Требуется для проверки подлинности с использованием ключа) Целевой URI бессерверного развертывания из каталога моделей Microsoft Foundry или URI для оценки веб-конечной точки AML. Допускается только схема URI HTTPS.
key (Требуется для проверки подлинности ключа) Ключ API поставщика модели.
resourceId (Требуется для проверки подлинности токена) Идентификатор ресурса Azure Resource Manager для поставщика модели. Для сетевой конечной точки AML используйте формат subscriptions/{guid}/resourceGroups/{resource-group-name}/Microsoft.MachineLearningServices/workspaces/{workspace-name}/onlineendpoints/{endpoint_name}.
modelName Имя модели встраивания из каталога моделей Microsoft Foundry, развернутой на указанном uri. Поддерживаемые модели (только бессерверные развертывания):

  • Cohere-embed-v3-english
  • Cohere-embed-v3-многоязычный
  • Cohere-embed-v4
region (Необязательно для аутентификации токена) Регион, в котором развернут поставщик модели. Требуется, если регион отличается от региона службы поиска.
timeout (Необязательно) Время ожидания для HTTP-клиента, выполняющего вызов API. Он должен быть отформатирован как значение XSD "dayTimeDuration" (ограниченное подмножество значения длительности ISO 8601 ). Например, PT60S в течение 60 секунд. Если значение не задано, по умолчанию выбирается значение 30 секунд. Время ожидания может быть установлено не более 230 секунд и не менее 1 секунды.

Какие параметры проверки подлинности следует использовать

Векторизатор каталога моделей Microsoft Foundry предоставляет два варианта проверки подлинности:

  • Проверка подлинности на основе ключей. Вы предоставляете статический ключ для проверки подлинности запросов оценки от векторизатора. Установите параметры uri и key для этого подключения.

  • Проверка подлинности на основе токенов. Проект на основе хаба Foundry или конечная точка AML в интернете развертывается с помощью аутентификации на основе токенов. Служба Поиск с использованием ИИ Azure должна иметь управляемую идентификацию и назначение роли для поставщика моделей. Затем векторизатор использует удостоверение службы поиска, чтобы выполнить аутентификацию перед поставщиком моделей без статических ключей. Удостоверение службы поиска должно иметь роль Владельца или Соавтора. Задайте параметр resourceId, а если служба поиска находится в другом регионе от поставщика модели, задайте параметр region.

Поддерживаемые типы векторных запросов

Какие типы векторных запросов поддерживаются векторизатором каталога моделей Foundry Microsoft, зависит от настроенного modelName.

Модель внедрения Поддерживает text запрос Поддерживает imageUrl запрос Поддерживает imageBinary запрос
Cohere-embed-v3-english X X
Cohere-embed-v3-многоязычный X X
Cohere-embed-v4 X X

Ожидаемые размеры поля

Ожидаемые размеры векторного поля, настроенного с помощью векторизатора каталога моделей Microsoft Foundry, зависят от параметра modelName, который настроен.

modelName Ожидаемые измерения
Cohere-embed-v3-english 1024
Cohere-embed-v3-многоязычный 1024
Cohere-embed-v4 256–1536

Пример определения

Предлагаемые имена моделей в каталоге моделей Foundry состоят из базовой модели, а также случайный трехбуквенный суффикс. Название вашей модели будет отличаться от названия, приведённого в этом примере.

"vectorizers": [
    {
        "name": "my-model-catalog-vectorizer",
        "kind": "aml",
        "amlParameters": {
            "uri": "https://Cohere-embed-v3-multilingual-hin.eastus.models.ai.azure.com",
            "key": "aaaaaaaa-0b0b-1c1c-2d2d-333333333333",
            "timeout": "PT60S",
            "modelName": "Cohere-embed-v3-multilingual-hin",
            "resourceId": null,
            "region": null,
        },
    }
]

См. также

  • Last updated on