План технологий для агентов ИИ

В этой статье приводятся рекомендации по выбору подходящей технологической платформы для каждого из возможных вариантов использования агента. Он охватывает принятие готового агента SaaS или создание пользовательского агента с помощью Microsoft Foundry (PaaS) или Microsoft Copilot Studio (SaaS). Разработка плана технологии является вторым шагом в плане внедрения агента ИИ (см. рис. 1).

Рис. 1. Процесс внедрения агента ИИ Майкрософт.

Эффективное внедрение технологий сопоставляет цели с затратами, уровнем усилий и потребностями настройки. Это выравнивание соответствует технологии варианту использования и балансирует усилия, необходимые для достижения прибыли от инвестиций. Понимание доступной среды обеспечивает правильный выбор между использованием готового SaaS-решения или созданием кастомного решения для обеспечения бизнес-преимуществ.

Дерево принятия решений агента ИИ

Дерево принятия решений агента ИИ направляет процесс выбора технологии, фокусируясь на одном первичном вопросе: соответствует ли агент SaaS вашим функциональным требованиям? Если агент SaaS удовлетворяет вашим потребностям, запустите предварительно созданное решение. Если агент SaaS не соответствует варианту использования, необходимо создать пользовательский агент. Определение платформы, используемой для пользовательской сборки, Microsoft Foundry, Microsoft Copilot Studio или пользовательской инфраструктуры, требует дальнейшего изучения. В следующих разделах приведены рекомендации по выбору подходящей платформы на основе конкретных требований.

Рис. 2. Дерево принятия решений агента ИИ Майкрософт.

Использование агентов SaaS

Агенты SaaS готовы к использованию решений, созданных корпорацией Майкрософт, которые обеспечивают немедленное развертывание. Эти агенты быстро приносят пользу для стандартных бизнес-функций, но предлагают ограниченные возможности настройки по сравнению с пользовательскими решениями. Оцените агенты, доступные в стеке технологий, чтобы определить, соответствует ли предварительно созданное решение вашим требованиям.

• Агенты в Microsoft 365 Copilot.Агент построителя приложений, агент рабочих процессов и исследователь обеспечивают автоматизацию задач и синтез информации из данных Microsoft 365. Используйте набор для обеспечения успеха агента для структурирования подхода к развертыванию и модели управления.

• Агенты SaaS в продукте.Агенты GitHub Copilot поддерживают задачи программирования. Агенты данных Microsoft Fabric позволяют анализировать данные из данных в Fabric. Агенты Azure Copilot предоставляют аналитические сведения и рекомендации для вашей среды Azure. Агенты Dynamics 365 помогают с рабочими процессами обслуживания клиентов. Агенты Безопасности Copilot повышают уровень обнаружения угроз и реагирования. Эти агенты предоставляют немедленные возможности для повышения производительности и автоматизации процессов для конкретного домена. Дополнительные сведения см. в разделе "Обзор доступных Копилотов".

Если агенты SaaS не соответствуют вашим функциональным требованиям, создайте настраиваемые агенты для достижения необходимых возможностей и глубины интеграции.

Создание агентов ИИ

Выберите путь сборки на основе технических возможностей вашей организации, временной шкалы и требований к управлению. Корпорация Майкрософт предоставляет две основные платформы, Foundry (PaaS) и Copilot Studio (SaaS) с графическими процессорами и контейнерами (IaaS) в качестве третьего варианта.

Рис. 3. Параметры сборки агента ИИ Майкрософт.

Microsoft Foundry

Microsoft Foundry предоставляет среду "платформа как услуга" (PaaS) для разработки агентов с низким уровнем кода (декларативных агентов) или разработки агентов pro-code (размещенных агентов). Foundry позволяет выбирать собственные модели, а также консолидировать среду выполнения, оркестрацию и интеграцию с управляемой средой. Вам не нужно управлять базовой виртуальной машиной или инфраструктурой Kubernetes. Дополнительные возможности см. в следующем рисунке:

Рис. 4. Обзор возможностей ИИ Microsoft Foundry.

• Протокол действий, A2A и интеграция с M365/Agent 365. Foundry поддерживает шаблоны протокола действий и агентов (A2A) для стандартизированного обмена сообщениями. Агенты могут быть опубликованы в Microsoft 365 и Agent 365, чтобы возможности могли интегрироваться прямо в рабочие процессы пользователей.
• Рабочие процессы с несколькими агентами.Рабочие процессы управляют сложными бизнес-процессами путем обработки последовательной логики, условной ветви и управления состоянием между несколькими агентами.
• Декларативные агенты.Агенты, основанные на подсказках, главным образом полагаются на логические выводы модели и инструкции, упрощая обновления и версионирование для агентов, ориентированных на поведение.
• Управляемые агенты Во-первых, размещенные агенты поддерживают пользовательские библиотеки или платформы. Этот параметр предоставляет управляемую среду выполнения, которая обрабатывает подготовку и масштабирование, обеспечивая полный контроль кода.
• Модели.Модели Microsoft Foundry включают модели, предлагаемые Azure, а также модели от партнеров и сообщества. Эти варианты включают модели от OpenAI, Anthropic, Meta и Mistral.
• Память.Управляемая память поддерживает контекст беседы. Для строгих требований к суверенитету данных доступен вариант использования собственного хранилища памяти (BYO).
• Инструменты. Каталог инструментов, протокол контекста модели (MCP) и спецификации OpenAPI позволяют подключаться к внешним системам. Интеграция с Azure Logic Apps и Функциями Azure поддерживает бессерверную автоматизацию.

Параметры установки: Foundry имеет два варианта установки, которые соответствуют вашим потребностям безопасности и эксплуатации. Базовая настройка заключается в быстром прототипе и индивидуальном развитии, когда скорость и простота доступа являются приоритетами. Этот параметр не имеет сетевой изоляции. Стандартная настройка обеспечивает точный контроль над данными, безопасностью и сетью. В стандартной настройке можно использовать общедоступные сети для неконфидентных рабочих нагрузок, требующих управления корпоративными данными. Вы также можете использовать частную сеть для конфиденциальных рабочих нагрузок, которые должны интегрироваться с существующими ресурсами Azure, чтобы соответствовать строгим стандартам соответствия. Дополнительные сведения об обоих топологиях см. в руководстве по сравнению и развертыванию .

Платформа Foundry: Детская площадка Foundry позволяет создавать и тестировать прототипы. Следуйте инструкциям из краткого руководства по созданию нового агента.

Microsoft Copilot Studio

Microsoft Copilot Studio предлагает платформу программного обеспечения как услуга (SaaS) для разработки с низким кодом. Это позволяет бизнес-командам быстро развертывать агентов с умеренной настройкой. Платформа включает предварительно созданные соединители, поддерживает получение и агенты задач и интегрируется с поиском ИИ Azure. Встроенные функции ответственного ИИ снижают необходимость в настроенных мерах предосторожности.

Используйте низкокодовый интерфейс Copilot Studio с расширенными моделями Foundry для обработки сложных вариантов использования при поддержании безопасности и надежности SaaS. Этот гибридный подход позволяет бизнес-командам создавать агенты без обширного написания кода при доступе к возможностям ИИ корпоративного уровня. Это сочетание сокращает время разработки по сравнению с полными решениями pro-code, предоставляя больше возможностей настройки, чем стандартные агенты SaaS.

Проверяйте сценарии использования с 60-дневной бесплатной пробной версией перед принятием решения о рабочем развертывании. Просмотрите доступные параметры доступа , чтобы определить лучшую точку входа для вашей организации.

Графические процессоры и контейнеры

Вы можете разместить модель ИИ, которую агент использует в контейнерах, поддерживаемых GPU. Этот подход идеально подходит, если вы хотите запускать собственные модели, а не полагаться на конечные точки Foundry. В этой настройке модель ИИ выполняется на графических процессорах, а сам агент работает на ЦП. При настройке вашего агента и указании модели, которую он будет использовать, вы направляете его на хостинг-модель. Выбор вычислительной платформы зависит от размера модели и уровня управления, необходимого для среды.

Для размещения моделей ИИ приложения контейнеров Azure с поддержкой бессерверного GPU — это хороший вариант для небольших языковых моделей, так как он автоматически обрабатывает масштабирование и сокращает операционные издержки. Для больших языковых моделей служба Azure Kubernetes рекомендуется, так как она поддерживает большие кластеры GPU, предлагает более высокую пропускную способность и обеспечивает расширенный контроль над масштабированием и сетью.

Для размещения агентов ИИ можно использовать службу Служба Azure Kubernetes или Контейнеры приложений Azure с ЦП-ориентированными кластерами для запуска агентов с пользовательским фреймворком оркестрации.

Проверка выбора технологий

Организации часто используют несколько подходов к удовлетворению различных требований. Проверка соответствия платформы с помощью структурированного эксперимента перед масштабированием.

1. Эксперименты с фиксированным временным лимитом. Создать короткие прототипы для каждого потенциального решения. Выделите один до двух недель на вариант. Сравните агенты с низким кодом в Copilot Studio с решениями pro-code в Microsoft Foundry. Оцените скорость разработки, функциональный охват и сложность интеграции.

2. Требовать проверки документации и заинтересованных лиц. Документируйте выводы и представляйте четкие рекомендации. Если решение с низким кодом соответствует функциональным требованиям и требованиям безопасности, перейдите к такому варианту. Если нет, перейдите к pro-code или измените область. Рассмотрение со стороны заинтересованных сторон сокращает доработку и повышает уверенность.

3. Оценка архитектуры с одним агентом и несколькими агентами. Используйте прототипы, чтобы определить, требуется ли задача нескольким специализированным агентам или одному агенту. Избегайте ненужной сложности. Если один агент отвечает потребностям бизнеса эффективно, продолжайте этот подход. Если нет, определите стратегию оркестрации с несколькими агентами. См. Один агент или несколько агентов?.

Дополнительные рекомендации см. в общем дереве принятия решений ИИ .

Следующий шаг

После определения бизнес-стратегий и технологических стратегий для агентов ИИ сосредоточьтесь на структуре организации и таланте. Ваши команды нуждаются в правильных навыках и структуре для предоставления и поддержания этих решений.