Навык внедрения Azure OpenAI

Навык внедрения Azure OpenAI подключается к модели внедрения, развернутой в ресурсе Azure OpenAI вмодели Foundry или проекте Microsoft Foundry для создания внедрения во время индексирования. Данные обрабатываются в географическом расположении, где развернута модель.

Мастер импорта данных на портале Azure использует навык внедрения Azure OpenAI для векторизации содержимого. Вы можете запустить мастер и просмотреть созданный набор навыков, чтобы узнать, как мастер создает навык для внедрения моделей.

Prerequisites

• Ресурс Azure OpenAI в foundry Models или проект Foundry.

  • Ресурс Azure OpenAI должен иметь настраиваемый поддомен, например https://<resource-name>.openai.azure.com. Эту конечную точку можно найти на странице "Ключи и конечная точка " на портале Azure и использовать его для resourceUri свойства в этом навыке.

  • Родительский ресурс проекта Foundry предоставляет доступ к нескольким конечным точкам, включая https://<resource-name>.openai.azure.com, https://<resource-name>.services.ai.azure.comи https://<resource-name>.cognitiveservices.azure.com. Эти конечные точки можно найти на странице "Ключи" и "Конечная точка " на портале Azure и использовать их для resourceUri свойства в этом навыке.

• Модель внедрения Azure OpenAI, развернутая в ресурс или проект. Сведения о поддерживаемых моделях см. в разделе параметров навыка .

@odata.type

Microsoft.Skills.Text.AzureOpenAIEmbeddingSkill

Data limits

Максимальный размер текстового ввода должен составлять 8 000 маркеров. Если входные данные превышают максимально допустимое значение, модель выдает недопустимую ошибку запроса. Дополнительные сведения см. в разделе "Основные понятия токенов " в документации по Azure OpenAI. Если требуется фрагментирование данных, рекомендуется использовать навык разделения текста.

Skill parameters

Параметры чувствительны к регистру.

Поддерживаемые измерения по modelName

Поддерживаемые измерения для навыка внедрения Azure OpenAI зависят от modelName настроенного.

Skill inputs

Skill outputs

Sample definition

Рассмотрим запись со следующими полями:

{
    "content": "Microsoft released Windows 10."
}

Затем определение навыка может выглядеть следующим образом:

{
  "@odata.type": "#Microsoft.Skills.Text.AzureOpenAIEmbeddingSkill",
  "description": "Connects a deployed embedding model.",
  "resourceUri": "https://my-demo-openai-eastus.openai.azure.com/",
  "deploymentId": "my-text-embedding-ada-002-model",
  "modelName": "text-embedding-ada-002",
  "dimensions": 1536,
  "inputs": [
    {
      "name": "text",
      "source": "/document/content"
    }
  ],
  "outputs": [
    {
      "name": "embedding"
    }
  ]
}

Sample output

Для заданного входного текста создается векторизованный результат внедрения.

{
  "embedding": [
        0.018990106880664825,
        -0.0073809814639389515,
        .... 
        0.021276434883475304,
      ]
}

Выходные данные находятся в памяти. Чтобы отправить эти выходные данные в поле в индексе поиска, необходимо определить outputFieldMapping , который сопоставляет векторизованные выходные данные внедрения (массив) с полем вектора. Предполагая, что выходные данные навыка находятся на узле внедрения документа, и content_vector поле в индексе поиска, выходные данныеFieldMapping в индексаторе должны выглядеть следующим образом:

  "outputFieldMappings": [
    {
      "sourceFieldName": "/document/embedding/*",
      "targetFieldName": "content_vector"
    }
  ]

Best practices

Ниже приведены некоторые рекомендации, которые необходимо учитывать при использовании этого навыка:

• Если вы нажимаете ограничение azure OpenAI TPM (токены в минуту), рассмотрите рекомендации по ограничениям квот, чтобы вы могли соответствующим образом решить эту проблему. Дополнительные сведения о производительности экземпляра Azure OpenAI см. в документации по мониторингу Azure OpenAI.

• Развертывание модели внедрения Azure OpenAI, используемое для этого навыка, должно быть идеально отдельно от развертывания, используемого для других вариантов использования, включая векторизатор запросов. Это помогает каждому развертыванию адаптироваться к конкретному варианту использования, что приводит к оптимизации производительности и идентификации трафика от индексатора и вызовов внедрения индекса.

• Экземпляр Azure OpenAI должен находиться в одном регионе или по крайней мере географически близко к региону, где размещен служба ИИ. Это снижает задержку и повышает скорость передачи данных между службами.

• Если в документации по квотам и ограничениям больше по умолчанию Azure OpenAI TPM (токены в минуту), откройте вариант поддержки в группе поиска ИИ Azure, чтобы это можно было соответствующим образом изменить. Это помогает процессу индексирования не замедляться за счет задокументированного ограничения доверенного платформенного модуля по умолчанию, если у вас есть более высокие ограничения.

• Примеры и примеры рабочего кода с помощью этого навыка см. в следующих ссылках:

  • Встроенная векторизация (Python)
  • Встроенная векторизация (C#)
  • Встроенная векторизация (Java)

Ошибки и предупреждения

See also

• Built-in skills
• Определение набора навыков
• Определение сопоставлений полей выходных данных