Поделиться через

Визуализация трассировок (предварительная версия)

  • Статья

Это важно

Элементы, обозначенные в этой статье как (предварительная версия), сейчас предлагаются в общедоступной предварительной версии. Эта предварительная версия предоставляется без соглашения об уровне обслуживания, и мы не рекомендуем ее для рабочих нагрузок. Некоторые функции могут не поддерживаться или их возможности могут быть ограничены. Дополнительные сведения см. в дополнительных условиях использования для предварительных версий Microsoft Azure.

После инструментирования приложения для регистрации трассировок давайте рассмотрим, как просмотреть трассировки в локальных и облачных решениях для отладки приложения.

Просмотрите ваши трассировки для локальной отладки

Чтобы включить трассировку локально, у вас есть два варианта:

  1. С помощью запроса можно отслеживать приложение с помощью пакета SDK для вывода искусственного интеллекта Azure, который обеспечивает улучшенную видимость и упрощенное устранение неполадок для приложений на основе LLM. Этот метод следует спецификациям OpenTelemetry, осуществляя захват и визуализацию внутренних деталей выполнения любого приложения ИИ, тем самым повышая общий опыт разработки. Дополнительные сведения см. в разделе "Debugging Prompty".
  2. Панель мониторинга Aspire : бесплатная панель мониторинга OpenTelemetry с открытым исходным кодом для получения глубокой информации о приложениях на локальном компьютере разработки. Чтобы узнать больше, см. Aspire Dashboard.

Просмотрите ваши трассировки на портале Azure AI Foundry

Прежде чем войти на портал Azure AI Foundry, подключите ресурс Application Insights к проекту.

  1. Перейдите к проекту на портале Azure AI Foundry.
  2. Выберите страницу трассировки слева.
  3. Нажмите кнопку "Создать" , чтобы присоединить новый ресурс Application Insights к проекту.
  4. Укажите имя и нажмите кнопку "Создать".

Анимация перехода к отслеживанию и создания ресурса Application Insights.

Затем установите opentelemetry пакет SDK:

%pip install azure-monitor-opentelemetry

Теперь включите трассировку, выводя данные в консоль.

import os
from azure.monitor.opentelemetry import configure_azure_monitor

os.environ['AZURE_TRACING_GEN_AI_CONTENT_RECORDING_ENABLED'] = 'true'
# Enable Azure Monitor tracing
application_insights_connection_string = project.telemetry.get_connection_string()
if not application_insights_connection_string:
    print("Application Insights was not enabled for this project.")
    print("Enable it via the 'Tracing' tab in your Azure AI Foundry project page.")
    exit()
    
configure_azure_monitor(connection_string=application_insights_connection_string)

Наконец, выполните вызов функции вывода. Вызов регистрируется в Azure AI Foundry. Этот код выводит ссылку на следы.

response = chat.complete(
    model="gpt-4o-mini",
    messages=[
        {"role": "system", "content": "You are an AI assistant that is a travel planning expert especially with National Parks."},
        {"role": "user", "content": "Hey, can you recommend me trails I should go on when I visit Mount Rainier?"},
    ]
)

print("View traces at:")
print(f"https://ai.azure.com/tracing?wsid=/subscriptions/{project.scope['subscription_id']}/resourceGroups/{project.scope['resource_group_name']}/providers/Microsoft.MachineLearningServices/workspaces/{project.scope['project_name']}")

Выберите ссылку и начните просматривать трассировки на портале Azure AI Foundry!

Отладка и фильтрация трассировок

В вашем проекте вы можете отфильтровать трассировки по вашему усмотрению.

Выбрав трассировку, я могу последовательно проходить каждый отрезок и выявлять проблемы, наблюдая, как реагирует моё приложение.

Анимация фильтрации трассировок на портале.

Обновление присоединенного ресурса Application Insights

Чтобы обновить ресурс Application Insights, подключенный к проекту, перейдите к разделу "Управление источником данных " и "Изменить ", чтобы перейти на новый ресурс Application Insights.

Снимок экрана: всплывающее окно управления источниками данных с выделением кнопки редактирования.

Просмотр трассировок в Azure Monitor

Если вы зарегистрировали трассировки с помощью предыдущего фрагмента кода, то все настроены для просмотра трассировок в Azure Monitor Application Insights. Вы можете открыть в Application Insights из Управление источником данных и использовать представление полных сведений по транзакциям для дальнейшего изучения.

Дополнительные сведения о отправке трассировок вывода ИИ Azure в Azure Monitor и создании ресурса Azure Monitor см. в документации по Azure Monitor OpenTelemetry.

Просмотр ваших диапазонов и трассировок генеративного ИИ

В проекте Azure AI Foundry можно также открыть настраиваемую панель мониторинга, которая предоставляет аналитические сведения специально для мониторинга создаваемого приложения ИИ.

В этой рабочей тетради Azure вы можете просмотреть диапазоны генеративного ИИ и перейти к просмотру подробных сведений о транзакциях в Azure Monitor для их глубокого анализа и исследования.

Дополнительные сведения об использовании этой рабочей книги для мониторинга приложения см. в документации по Azure Workbook.

Связанный контент