Управление агентами в масштабе в Control Plane Microsoft Foundry

Microsoft Foundry Control Plane обеспечивает централизованное управление и возможность наблюдения за агентами, работающими на поддерживаемых платформах и инфраструктурах. С помощью плоскости управления Foundry вы можете управлять агентами, распределенными между несколькими проектами в подписке.

В этой статье объясняется, как просматривать инвентаризацию агентов, отслеживать работоспособность агента и выполнять операции жизненного цикла с помощью портала Foundry.

Необходимые условия

• Учетная запись Azure с активной подпиской. Если у вас нет, создайте учетную запись free Azure, которая включает бесплатную пробную подписку.

• Проект Foundry. Если у вас его нет, создайте проект.

• Application Insights, настроенная для метрик наблюдаемости (необязательно, но рекомендуется).

Инвентаризация агентов

Область "Активы" предоставляет единый поисковый список всех активов ИИ по проектам в рамках подписки. Эта инвентаризация объединяет критически важные метаданные и индикаторы состояния, чтобы вы могли эффективно оценивать и управлять вашим набором ИИ.

План управления Foundry автоматически обнаруживает поддерживаемые агенты в ресурсах выбранной подписки и отображает их на вкладке "Агенты". Чтобы просмотреть их, выберите "Операторы активов>>".

Появится следующая информация:

Модель разрешений

Плоскость управления Foundry автоматически обнаруживает агенты, к которым пользователи могут получить доступ. Поскольку Control Plane Foundry агрегирует информацию по ресурсам в рамках подписки, разные пользователи могут видеть различных агентов, перечисленных на панели Активы, в зависимости от их уровня доступа к каждому ресурсу.

Следующие роли влияют на то, что можно увидеть и сделать:

Поддерживаемые платформы агентов

Плоскость управления Foundry автоматически обнаруживает агенты на следующих платформах:

Агенты компании Foundry

План управления Foundry помогает управлять агентами во всех проектах Foundry. При создании агента или рабочего процесса в проекте Foundry агент отображается в инвентаризации. Плоскость управления Foundry перечисляет всех агентов во всех проектах в рамках подписки.

Для каждого агента содержатся следующие сведения:

• Последняя версия агента.
• Версии , опубликованные в качестве агентских приложений.

Вы можете отслеживать версии, используемые вашими пользователями, и новые версии в процессе разработки. В следующем примере показано несколько агентов Foundry. Версия 6 format-agent агента была опубликована, но версия 7 (последняя) по-прежнему находится в процессе разработки.

агент SRE Azure

Azure агент SRE помогает поддерживать работоспособность и производительность ресурсов Azure с помощью мониторинга и помощи на основе искусственного интеллекта. Агенты постоянно отслеживают ваши ресурсы для выявления проблем, предоставляют помощь по устранению неполадок и предлагают шаги по их исправлению в интерфейсе чата на естественном языке. Подробнее об агенте SRE Azure.

Панель управления Foundry обнаруживает ресурсы агента SRE Azure в вашей подписке и отображает их в инвентаре.

цикл агента Azure Logic Apps

Azure Logic Apps поддерживает рабочие процессы, которые выполняют задачи с помощью циклов агента с большими языковыми моделями (LLM). Цикл агента использует итеративный процесс для решения сложных многоэтапных проблем. Дополнительные сведения о рабочих процессах с агентами ИИ и моделями в Logic Apps.

План управления Foundry обнаруживает ресурсы Logic Apps, содержащие рабочие процессы цикла агента, и перечисляет их в инвентаризации.

Настраиваемые агенты

Для агентских платформ, которые не поддерживают плоскость управления Foundry, можно вручную зарегистрировать агенты в проекте Foundry, чтобы включить управление.

Регистрация пользовательских агентов, работающих в Azure вычислительных службах или других облачных средах, может помочь вам получить представление о своих операциях и управлять их поведением. Вы можете зарегистрировать пользовательский агент в Control Plane Foundry и разработать агент в выбранной вами технологии как для платформенных, так и для инфраструктурных решений.

Узнайте, как зарегистрировать агент в Control Plane Foundry, чтобы включить управление.

Наблюдаемость агентов

Контрольная плоскость Foundry использует ресурсы Application Insights, которые размещают ваших агентов для помощи в мониторинге и диагностике этих агентов. Если такие данные доступны, управляющая плоскость Foundry может:

• Выполненные вычисления и показатели ошибок.
• Подсчитывайте показатели использования, включая использование токенов и стоимость.
• Сбор трассировок выполнения.

Если вы не видите такие сведения для агента, необходимо настроить Application Insights. Убедитесь, что у вас также есть соответствующие разрешения для просмотра данных и метрик затрат Application Insights.

Просмотр трассировок

Вы можете просматривать трассировки и журналы, отправленные в Foundry. Трассировки хранятся в Application Insights, и их можно запросить с помощью портала Foundry или любого другого совместимого инструмента.

Чтобы просмотреть их, выполните приведенные действия.

1. На панели инструментов выберите "Работа".

2. На левой панели выберите Ресурсы.

3. Выберите агент.

4. Перейдите на вкладку "Трассы". На вкладке показана одна запись для каждого вызова, сделанного агенту.

   Два столбца содержат идентификаторы, связанные с вызовом: ID трассировки и ID разговора. Трассировки хранятся в сервисе Application Insights и содержат данные для диагностики поведенческих особенностей. Столбец ID беседы применяется для агентов Foundry. Он содержит переписку, связанную с трассировкой. Беседы хранятся в службе Foundry.

   

5. Чтобы просмотреть сведения, выберите значение в столбце Trace ID.

   

   Совет

   Настраиваемые агенты требуют дополнительной настройки для отображения сведений, включая средства и диапазоны LLM. Дополнительные сведения см. в справочнике по пользовательским агентам кода инструментирования.

Операции жизненного цикла

Плоскость управления Foundry помогает организациям управлять агентами для контроля использования и затрат на инфраструктуру. Разные платформы агентов поддерживают различные операции.

В следующей таблице перечислены поддерживаемые действия для каждой платформы. Поддержка агента Foundry зависит от типа агента и его статуса публикации.

Запуск и остановка агентов

При остановке агента вы остановите инфраструктуру, связанную с ней, и переместите агент в остановленное состояние.

Остановка агента удаляет инфраструктуру и предотвращает новые запуски. Любые рабочие процессы или ресурсы, подключенные к этому агенту, не могут получить к нему доступ. Эта операция не завершает существующие запуски.

Чтобы остановить агент, выполните следующие действия.

1. На панели инструментов выберите "Работа".

2. На левой панели выберите Ресурсы.

3. Выберите агент, который нужно остановить. Откроется область сведений.

4. Выберите "Обновить состояние" и нажмите кнопку "Остановить".

   

5. Подтвердите операцию.

После остановки агента значение состояния агента в Foundry остановлено.

Чтобы запустить агент, выполните следующие действия.

1. Выберите "Обновить состояние" и нажмите кнопку "Пуск".

2. Подтвердите операцию.

Блокировать и разблокировать агенты

Для пользовательских агентов Foundry не имеет доступа к базовой инфраструктуре, в которой выполняется агент, поэтому операции запуска и остановки недоступны. Однако Foundry может блокировать входящие запросы агенту. Блокировка запрещает клиентам использовать агент. Эта возможность позволяет администраторам отключить агент, если он неправильно работает.

Чтобы заблокировать входящие запросы к агенту:

1. На панели инструментов выберите "Работа".

2. На левой панели выберите Ресурсы.

3. Выберите агент, который требуется заблокировать. Откроется область сведений.

4. Выберите "Обновить состояние" и нажмите кнопку "Блокировать".

   

5. Подтвердите операцию.

После блокировки агента значение состояния агента в Foundry блокируется. Агенты в состоянии Blocked работают в своей связанной инфраструктуре, но не могут принимать входящие запросы. Foundry блокирует любую попытку взаимодействия с агентом.

Чтобы разблокировать агента, выполните следующие шаги.

1. Выберите "Обновить состояние" и выберите " Разблокировать".

2. Подтвердите операцию.

Обработка неизвестных состояний

При определенных обстоятельствах агенты могут отображать состояние "Неизвестно". Это состояние указывает, что Плоскость управления Foundry не может определить состояние агента, так как исходная платформа недоступна, или агент не смог отчитаться.

Чтобы устранить неполадки с неизвестным состоянием, выполните следующие действия.

1. Убедитесь, что исходная платформа (например, Azure Logic Apps или Azure агент SRE) работает.
2. Для пользовательских агентов убедитесь, что инфраструктура агента запущена и доступна.
3. Проверьте журналы Application Insights агента на предмет ошибок.
4. Если состояние не решается, попробуйте остановить и перезапустить агент.

Устранение неполадок

Данные о наблюдаемости не отображаются

Если такие метрики, как частота ошибок, использование маркеров или затраты, не отображаются для агента:

1. Убедитесь, что Application Insights настроен для ресурса, на котором размещен агент.
2. Убедитесь, что у вас есть необходимые разрешения для просмотра данных и метрик затрат Application Insights.
3. Запустите агент после настройки Application Insights. Метрики и трассировки собираются только для запусков, которые происходят после настройки. Прошлые запуски не регистрируются ретроактивно.
4. Подождите до 15 минут для распространения данных после первого запуска, выполненного после настройки.

Агент не отображается в инвентаризации

Если ожидаемый агент не отображается в области ресурсов :

1. Убедитесь, что агент находится на поддерживаемой платформе.
2. Убедитесь, что у вас есть разрешения RBAC на ресурсе, на котором размещен агент.
3. Убедитесь, что агент находится в текущей выбранной подписке.
4. Для пользовательских агентов убедитесь, что агент зарегистрирован в проекте Foundry.

Связанное содержимое

• Что такое Microsoft Foundry Control Plane?
• Мониторинг работоспособности и производительности агентов в вашей сети
• Регистрация пользовательского агента в плоскости управления Foundry