Примечание.
Для доступа к этой странице требуется авторизация. Вы можете попробовать войти или изменить каталоги.
Для доступа к этой странице требуется авторизация. Вы можете попробовать изменить каталоги.
В настоящее время просмотр:
Версия портала Foundry (классическая версия) - Переключиться на версию для нового портала Foundry
Большинство предприятий не хотят просто чат-ботов. Они хотят, чтобы автоматизация была быстрее и имеет меньше ошибок. Это может означать сводку документов, обработку счетов, управление запросами в службу поддержки или публикацию записей блога. Во всех случаях цель одинакова: освобождение людей и ресурсов, чтобы сосредоточиться на работе с более высоким уровнем ценности, выгрузив повторяющиеся и прогнозируемые задачи.
Крупные языковые модели (LLMs) представляют новый тип автоматизации с системами, которые могут понимать неструктурированные данные, принимать решения и создавать содержимое. На практике предприятия могут иметь трудности с переходом за рамки демонстраций и в производство. LLM могут дрейфовать, быть неверными и не иметь подотчетности. Без видимости, принудительного применения политик и оркестрации сложно доверять этим моделям в реальных бизнес-процессах.
Microsoft Foundry предназначен для изменения этого. Это платформа, которая объединяет модели, инструменты, платформы и управление в единую систему для создания интеллектуальных агентов. В центре этой системы находится служба Foundry Agent, которая обеспечивает работу агентов в процессе разработки, развертывания и эксплуатации.
Служба агента соединяет основные части Foundry, такие как модели, инструменты и платформы, в одну среду выполнения. Он управляет беседами, оркестрирует вызовы инструментов, обеспечивает безопасность содержимого и интегрируется с системами идентификации, сетевыми и мониторинга. Эти возможности помогают создавать агенты, которые являются безопасными, масштабируемыми и готовыми к рабочей среде.
Абстрагируя сложность инфраструктуры и обеспечивая доверие и безопасность изначально, агентская служба может помочь вам перейти от прототипа к рабочей среде с уверенностью.
Необходимые условия
- Подписка Azure с разрешением на создание ресурсов Foundry и управление ими.
- Проект Foundry. Если вы еще не создали его, начните с установки среды.
- Развернутая модель, которую может использовать агент. Доступность моделей и регионов может отличаться; см. модели, которые информируют агентов.
Доступность, регионы и ограничения
Возможности службы агентов могут отличаться в зависимости от используемого интерфейса Foundry, а также выбранного вами модели и региона.
- Сведения об ограничениях, квотах и регулировании см. в разделе " Квоты и ограничения" для службы агента.
- Сведения о поддержке моделей и регионов см. в моделях, которые информируют агентов.
Если вы создаете своего первого агента, начните со ссылок на краткое руководство в разделе "Начало работы со службой агента Foundry", чтобы убедиться, что вы идете по правильному пути API для интерфейса Foundry.
Что такое агент ИИ?
Агенты принимают решения, вызывают инструменты и участвуют в рабочих процессах. Они выполняют эти задачи иногда независимо и иногда в сотрудничестве с другими агентами или людьми. Они являются основой для настоящей автоматизации процессов.
Агенты, создаваемые с помощью Foundry, не являются монолитами. Они составные единицы. Каждый агент имеет определенную роль, работает на основе правильной модели и оснащен правильными инструментами. Вы развертываете каждый агент в безопасной, наблюдаемой и управляемой среде выполнения.
Агент имеет три основных компонента:
- Модель (LLM): возможности анализа и распознавания речи.
-
Инструкции. Определение целей, поведения и ограничений агента. Они могут иметь следующие типы:
- Декларативной:
- Основанный на подсказках: декларативно определённый единственный агент, объединяющий конфигурацию модели, инструкции, инструменты и запросы естественного языка для стимулирования поведения.
- Рабочий процесс: агентический рабочий процесс, который можно выразить как YAML или другой код для оркестрации нескольких агентов вместе или активации действия по определенным критериям.
- Размещено: контейнеризованные агенты, созданные и развернутые в коде и размещенные в Foundry.
- Декларативной:
- Средства. Позвольте агенту получить знания или принять меры.
Агенты получают неструктурированные входные данные, такие как запросы пользователей, оповещения или сообщения от других агентов. Они создают выходные данные в виде результатов работы средств или сообщений. В процессе они могут использовать инструменты для извлечения данных или инициирования действий.
Как работают агенты в Foundry?
Представьте Foundry как сборочный конвейер для интеллектуальных агентов. Как и любая современная фабрика, Foundry объединяет специализированные станции, которые отвечают за формирование части окончательного продукта. Вместо машин и конвейерных ремней фабрика агентов использует модели, инструменты, политики и оркестрацию для создания агентов, которые являются безопасными, тестируемыми и готовыми к работе. Вот как работает фабрика шаг за шагом.
1. Модели
Строка сборки начинается при выборе модели, которая предоставляет агенту свой интеллект. Выберите из растущего каталога больших языковых моделей (LLMS), включая GPT-4o, GPT-4, GPT-3.5 (Azure OpenAI) и другие, такие как Лама. Модель является ядром рассуждений агента, формирующим его решения.
2. Возможность настройки
Настроить модель под ваши задачи. Настройте вашего агента с помощью процессов точной настройки, дистилляции или доменных подсказок. Кодирование поведения агента, знаний, специфичных для ролей, и шаблонов из предыдущего опыта с использованием данных, полученных из реального содержания беседы и результатов инструментов.
3. Знания и инструменты
Оснастите вашего агента инструментами. Эти средства позволяют агенту получать доступ к корпоративным знаниям (например, Bing, SharePoint и Поиск с использованием ИИ Azure) и выполнять реальные действия (через Azure Logic Apps, Функции Azure, OpenAPI и многое другое). Этот шаг повышает способность агента расширять свои возможности.
4. Оркестрация
Агенту требуется координация. Подключенные агенты управляют полным жизненным циклом, например обработкой вызовов инструментов, обновлением состояния беседы, управлением повторными попытками и выходными данными журнала.
5. Наблюдаемость
Тестирование и мониторинг агентов. Средство Foundry может записывать журналы, трассировки и оценки на каждом шаге. Благодаря полной видимости на уровне диалога и интеграции Application Insights команды могут проверять каждое решение и постоянно улучшать агенты с течением времени.
6. Доверие
Убедитесь, что агенты подходят и надежны для назначенной рабочей нагрузки. Foundry применяет функции доверия корпоративного уровня, включая удостоверения с помощью Microsoft Entra, управления доступом на основе ролей (RBAC), фильтров содержимого, шифрования и сетевой изоляции. Вы выбираете, как и где работают агенты, используя управляемую платформой или собственную инфраструктуру.
Результатом является агент, готовый к рабочей среде: надежный, расширяемый и безопасный для развертывания в рабочих процессах.
Почему используется служба агента Foundry?
Служба агента предоставляет готовую для производства платформу для развертывания интеллектуальных агентов в корпоративных средах. Ниже показано, как оно сравнивается с ключевыми возможностями:
| Возможность | Служба агента |
|---|---|
| Прозрачность в беседах | Полный доступ к структурированным беседам, включая сообщения между пользователями и агентами. Идеально подходит для пользовательских интерфейсов, отладки и обучения. |
| Координация с несколькими агентами | Встроенная поддержка обмена сообщениями между агентами. |
| Оркестрация инструментов | Выполнение на стороне сервера и повторные попытки вызовов инструментов с структурированным ведением журнала. Оркестрация вручную не требуется. |
| Доверие и безопасность | Интегрированные фильтры содержимого для предотвращения неправильного использования и снижения рисков инъекции запросов, включая межзапросные инъекционные атаки (XPIA). Все выходные данные регулируются политикой. |
| Интеграция предприятия | Возможность использовать собственные средства хранения, индекс Поиск с использованием ИИ Azure index и виртуальную сеть для соответствия требованиям. |
| Наблюдаемость и отладка | Полная трассировка бесед, вызовов инструментов и трассировок сообщений; Интеграция Application Insights с данными об использовании. |
| Управление удостоверениями и политиками | Основан на Microsoft Entra с полной поддержкой RBAC, журналов аудита и корпоративного условного доступа. |
Безопасность, конфиденциальность и соответствие требованиям
Служба агента предназначена для корпоративных рабочих нагрузок, где требуются надежные средства управления удостоверениями, сетями, обработкой данных и безопасностью.
- Средства управления безопасностью: используйте интегрированные фильтры содержимого , чтобы снизить небезопасные выходные данные и снизить риски внедрения запросов, включая атаки на внедрение кросс-запроса (XPIA).
- Элементы управления изоляцией сети и размещением данных: используйте виртуальные сети и собственные ресурсы для удовлетворения ваших требований.
- Используйте собственные ресурсы: Используйте свои ресурсы Azure (например, хранилище, Поиск с использованием ИИ Azure и Azure Cosmos DB для состояния беседы), чтобы соответствовать требованиям по соблюдению и эксплуатационным нуждам. См. раздел "Использование собственных ресурсов".
- Руководство по использованию ИИ. Более широкий набор рекомендаций и ресурсов управления см. в статье Ответственное ИИ для Microsoft Foundry.
Начало работы с сервисом агента Foundry
Чтобы приступить к работе со службой агента, создайте проект Foundry в подписке Azure.
Если вы работаете с кодом, посмотрите Microsoft Foundry SDKs для вариантов и рекомендаций по SDK.
Если вы впервые используете службу, начните с руководства по настройке среды и краткому руководству.
Создайте проект с необходимыми ресурсами. После создания проекта разверните совместимую модель, например GPT-4o. При развертывании модели можно начать вызовы API в службу агента с помощью пакетов SDK.
BCDR для агентов
Чтобы обеспечить устойчивость службы, служба агента использует подготовленные клиентом учетные записи Azure Cosmos DB для обеспечения непрерывности бизнес-процессов и аварийного восстановления (BCDR). Этот подход помогает обеспечить сохранение и восстановление состояния агента в случае регионального сбоя.
Как клиент Azure уровня "Стандартный", вы подготавливаете и управляете собственной учетной записью Azure Cosmos DB одного клиента. В этой учетной записи хранится все состояние агента. Вы управляете резервным копированием и восстановлением с помощью собственных возможностей в Azure Cosmos DB.
Если основной регион становится недоступным, агент автоматически подключается к той же учетной записи Azure Cosmos DB в дополнительном регионе. Так как Cosmos DB сохраняет всю историю, агент может продолжать работу с минимальным нарушением.
Подготовка и обслуживание учетной записи Azure Cosmos DB, а также настройка соответствующих политик резервного копирования и восстановления. Это усилие помогает обеспечить бесперебойную работу, если основной регион становится недоступным.
Инструкции по настройке см. в разделе "Использование собственных ресурсов и виртуальных сетей".
Расходы
Использование службы агента может влечь затраты на развертывание модели и использование ресурсов Azure, предназначенных для вашего проекта (например, логирование и любые управляемые клиентом подключенные ресурсы).
Сведения о драйверах затрат и управлении ими см. в статье "Планирование затрат и управление ими".
Устранение неполадок
Если вы заблокированы при начале работы, проверьте следующие распространенные проблемы:
- Модель недоступна в вашем регионе: ознакомьтесь с моделями, которые информируют агентов.
- Запросы регулируются или завершаются сбоем из-за квоты: см. квоты и ограничения для службы агента.
- Невозможно получить доступ к ресурсам или развертываниям: подтвердите назначения ролей и выполните настройку среды.
- Необходимо выполнить отладку вызовов или поведения агента. Начните с агентов трассировки с помощью пакета SDK и метрик.