Навык запроса GenAI

Навык запроса на выполнение запроса на выполнение чата в отношении крупной языковой модели (LLM), развернутой в Azure AI Foundry или Azure OpenAI в моделях Azure AI Foundry.

Используйте эту возможность для создания новых сведений, которые можно индексировать и хранить в виде содержимого, доступного для поиска. Примеры включают словесную визуализацию, обобщение более крупных фрагментов, упрощение сложного содержимого или любую другую задачу, которую может выполнить LLM. Навык поддерживает текст, изображение и многомодальное содержимое, например PDF-файл, содержащий текст и изображения. Обычно этот навык используется вместе с навыком фрагментирования данных. В следующих руководствах демонстрируются сценарии словизации изображений с двумя различными методами блокирования данных:

• Руководство. Индексирование смешанного содержимого с помощью словесности изображений и навыка макета документов

• Руководство. Индексирование смешанного содержимого с помощью словесности изображений и навыка извлечения документов

Навык запроса GenAI доступен только в REST API 2025-05-01-preview .

Поддерживаемые модели

Вы можете использовать любую модель вывода чата , развернутую в AI Foundry, например модели GPT, Deepseek R#, Llama-4-Mavericj, Cohere-command-r и т. д.

Выставление счетов основано на ценах используемой модели.

Предпосылки

• Развернутая модель завершения чата (например , gpt-4o или любая совместимая модель с открытым исходным кодом (OSS) в Azure AI Foundry или Azure OpenAI.

  • Скопируйте конечную точку из моделей и конечных точек на портале Foundry или из поддомена ресурса Azure OpenAI (*.openai.azure.com).

  • Укажите эту конечную точку в параметре Uri определения навыка.

• Проверка подлинности может быть основана на ключах API из ресурса Azure AI Foundry или Azure OpenAI. Однако рекомендуется использовать управляемое удостоверение службы поиска , назначенное роли.

  • В Azure OpenAI назначьте пользователя OpenAI Cognitive Services управляемому удостоверению.

  • Для моделей ИИ Foundry назначьте пользователя ИИ Azure.

@odata.type

#Microsoft.Skills.Custom.ChatCompletionSkill

Ограничения данных

Параметры навыков

* Необходимо использовать именно одно изapiKeyauthIdentityудостоверений, назначаемых системой, или удостоверение, назначаемое системой.

commonModelParameters По умолчанию

Входные данные навыков

Выходные данные навыка

Примеры определений

Сводка только для текста

{
  "@odata.type": "#Microsoft.Skills.Custom.ChatCompletionSkill",
  "name": "Summarizer",
  "description": "Summarizes document content.",
  "context": "/document",
  "timeout": "PT30S",
  "inputs": [
    { "name": "text", "source": "/document/content" },
    { "name": "systemMessage", "source": "='You are a concise AI assistant.'" },
    { "name": "userMessage", "source": "='Summarize the following text:'" }
  ],
  "outputs": [ { "name": "response" } ],
  "uri": "https://demo.openai.azure.com/openai/deployments/gpt-4o/chat/completions",
  "apiKey": "<api-key>",
  "commonModelParameters": { "temperature": 0.3 }
}

Описание текста и изображения

{
  "@odata.type": "#Microsoft.Skills.Custom.ChatCompletionSkill",
  "name": "Image Describer",
  "context": "/document/normalized_images/*",
  "inputs": [
    { "name": "image", "source": "/document/normalized_images/*/data" },
    { "name": "imageDetail", "source": "=high" },
    { "name": "systemMessage", "source": "='You are a useful AI assistant.'" },
    { "name": "userMessage", "source": "='Describe this image:'" }
  ],
  "outputs": [ { "name": "response" } ],
  "uri": "https://demo.openai.azure.com/openai/deployments/gpt-4o/chat/completions",
  "authIdentity": "11111111-2222-3333-4444-555555555555",
  "responseFormat": { "type": "text" }
}

Структурированный числовый поиск фактов

{
  "@odata.type": "#Microsoft.Skills.Custom.ChatCompletionSkill",
  "name": "NumericalFactFinder",
  "context": "/document",
  "inputs": [
    { "name": "systemMessage", "source": "='You are an AI assistant that helps people find information.'" },
    { "name": "userMessage", "source": "='Find all the numerical data and put it in the specified fact format.'"}, 
    { "name": "text", "source": "/document/content" }
  ],
  "outputs": [ { "name": "response" } ],
  "uri": "https://demo.openai.azure.com/openai/deployments/gpt-4o/chat/completions",
  "apiKey": "<api-key>",
  "responseFormat": {
    "type": "json_schema",
    "jsonSchemaProperties": {
      "name": "NumericalFactObj",
      "strict": true,
      "schema": {
        "type": "object",
        "properties": {
          "facts": {
            "type": "array",
            "items": {
              "type": "object",
              "properties": {
                "number": { "type": "number" },
                "fact": { "type": "string" }
              },
              "required": [ "number", "fact" ]
            }
          }
        },
        "required": [ "facts" ],
        "additionalProperties": false
      }
    }
  }
}

Пример выходных данных (усеченный)

{
  "response": {
    "facts": [
      { "number": 32.0, "fact": "Jordan scored 32 points per game in 1986-87." },
      { "number": 6.0,  "fact": "He won 6 NBA championships." }
    ]
  },
  "usageInformation": {
    "usage": {
      "completion_tokens": 203,
      "prompt_tokens": 248,
      "total_tokens": 451
    }
  }
}

Лучшие практики

• Фрагменты длинных документов с навыком разделения текста , чтобы оставаться в окне контекста модели.
• Для индексирования больших объемов следует выделить отдельное развертывание модели для этого навыка, чтобы квоты маркеров для рабочих нагрузок RAG во время запроса остаются не затронутыми.
• Чтобы свести к минимуму задержку, найдите модель и службу поиска ИИ Azure в одном регионе Azure.
• Используйте responseFormat.json_schemaGPT-4o для надежного структурированного извлечения и упрощения сопоставления с полями индекса.
• Отслеживайте использование маркеров и отправляйте запросы на увеличение квоты , если индексатор насыщает ограничения маркеров в минуту (TPM).

Ошибки и предупреждения

См. также

• Встроенные индексаторы поиска ИИ Azure
• Встроенная векторизация
• Определение набора навыков
• Создание завершений чата с помощью вывода модели ИИ Azure (Azure AI Foundry)
• Структурированные выходные данные в Azure OpenAI