Мониторинг созданных приложений ИИ (предварительная версия) (классическая версия)

Мониторинг создаваемых приложений ИИ важен из-за сложности и быстрой эволюции отрасли ИИ. С помощью наблюдаемости, интегрированной с Azure Monitor Application Insights, вы можете непрерывно отслеживать развернутые приложения ИИ, чтобы обеспечить их производительность, безопасность и получение высококачественных результатов в рабочей среде. Помимо возможностей непрерывного мониторинга панель мониторинга Foundry Monitorability также предоставляет возможности непрерывной оценки для агентов с видимостью критически важных метрик качества и безопасности.

Включение мониторинга

Чтобы использовать возможности мониторинга в Microsoft Foundry, подключите ресурс Application Insights к project Foundry.

1. Перейдите в Мониторинг в левой панели навигации портала Foundry.
2. Перейдите на вкладку "Аналитика приложений ".
3. Создайте ресурс Application Insights, если у вас еще нет ресурса.
4. Подключите ресурс к проекту Foundry.

Сбор рабочих данных для мониторинга

Начните собирать данные телеметрии для приложения, которые можно отслеживать в встроенных представлениях. Чтобы сделать это, следуйте приведенным ниже рекомендациям.

• Трассировки для сбора подробных данных телеметрии из вашего приложения. Эти данные содержат аналитические сведения о производительности, задержке и поведении приложения в рабочей среде.

• Используйте непрерывные оценки , чтобы отслеживать качество и безопасность агента в рабочей среде, оценивая свои выходные данные по предопределенным метрикам и пороговым значениям.

Просмотр результатов мониторинга

На портале Foundry панель мониторинга Application analytics использует сигналы от Azure Monitor Application Insights, запрашивая их через Azure Workbooks и создавая визуализации.

Эти представления объединяют ключевые метрики — потребление токенов, задержку, исключения, качество отклика — в единую панель, обеспечивающую прозрачность для команд. Они помогают командам отслеживать работоспособность и качество работы, понимать тенденции и постоянно оценивать их применение.

Выполните следующие действия, чтобы получить доступ и использовать встроенное представление мониторинга в вашем проекте Foundry:

1. Перейдите к вашему проекту Foundry в портале Foundry.
2. Выберите "Мониторинг" в области навигации слева.
3. На вкладке "Аналитика приложений" просмотрите обзор работоспособности приложения.
4. Используйте фильтры для указания диапазона времени, приложения и модели для извлечения подробных аналитических сведений.
5. Если вы заметили проблемы, такие как снижение качества метрик, перейдите к трассировке для отладки проблем в приложении.
6. Чтобы дополнительно настроить интерфейс мониторинга и использовать расширенные возможности в Azure Мониторе, выберите View в Azure Monitor Application Insights.

Настройка и предоставление общего доступа к панели мониторинга

Application Insights — это мощный инструмент для мониторинга производительности приложений (APM), который предоставляет аналитические сведения о работоспособности и производительности приложений.

Панель мониторинга Application analytics можно открыть в галерее книг Azure Monitor Application Insights, выбрав ссылку Просмотр в Azure Monitor Application Insights в конце страницы.

Эта панель мониторинга открывается как редактируемая таблица, где вы можете настроить таблицу и сохранить её в соответствии с вашими потребностями.

1. Выберите "Изменить " на панели команд.

2. Измените элементы по мере необходимости для вашего варианта использования. Выберите ... , чтобы изменить, добавить, переместить, изменить размер, клонировать или удалить. Например, можно добавить плитку с помощью KQL для отслеживания настраиваемого атрибута, который вы собираете и который не отображается в встроенном представлении.

3. Сохраните последние изменения и создайте различные представления по мере необходимости, нажав кнопку "Сохранить".

4. Поделитесь, выбрав значок "Общий доступ " в командной панели.

Изучение и анализ с помощью языка запросов Kusto (KQL)

KQL (язык запросов Kusto) — это мощный язык запросов, который можно использовать в Azure для изучения, анализа и визуализации больших объемов данных телеметрии и журналов.

В представлении панели мониторинга аналитики приложений можно открыть ссылку запроса , выбрав значок в правом верхнем углу для определенной плитки или диаграммы.

При выборе этого значка можно просмотреть и запустить те же запросы KQL, которые позволяют просматривать представление мониторинга. Вы также можете подробно изучить связанные данные.

Настройка оповещений Azure

Вы можете определить правила оповещений Azure на основе предыдущих запросов KQL для проактивного обнаружения проблем с операциями в постпроизводственной среде. Выберите ... , чтобы просмотреть дополнительные параметры, такие как новое правило генерации оповещений.

При нажатии кнопки "Создать правило генерации оповещений" откроется мастер создания правила генерации оповещений для связанного сигнала.

Дополнительные сведения о настройке и управлении оповещениями Azure для упреждающего решения проблем см. в статье Alerts в Azure Monitor.

Связанный контент

• Мониторинг развертываний моделей