Определите архитектуру вашего решения

Четкая архитектура решения необходима для понимания того, как агенты Copilot Studio функционируют в более широком бизнес- и техническом пространстве. Архитектура определяет ключевые компоненты вашего агента, его зависимости от других систем и методы масштабирования для удовлетворения потребностей бизнеса.

Copilot Studio предоставляет гибкую платформу, объединяющую различные возможности.

Схема жизненного цикла агента Copilot Studio, на которой показаны шаги по созданию, публикации, анализу и совершенствованию со снимками экрана интерфейса и ключевыми возможностями.

Жизненный цикл агента Copilot Studio

Copilot Studio поддерживает весь сквозной жизненный цикл проектирования агентов, их совершенствования и управления ими на базе единого унифицированного интерфейса на базе Software as a Service (SaaS).

На стадии разработки и публикации вы

  • Разрабатываете, совершенствуете агентов и управляете ими: создайте агента и быстро введите его в эксплуатацию с помощью одного простого в использовании SaaS-продукта.
  • Ведете диалог на основе знаний с генеративным ИИ: получайте ответы, специфичные для вашего предприятия, используя ваши файлы, веб-сайты, Dataverse, сторонние приложения и многое другое.
  • Создаете конкретные темы: дополняйте ответы генеративного ИИ конкретными, тщательно отобранными темами, когда вам нужен больший контроль.
  • Создаете действия: создавайте действия и используйте готовые соединители или потоки агентов для вызова ваших серверных процессов и API или выполнения длительных задач.
  • Публикуете агента в нескольких каналах: публикуйте агентов на более чем 20 языках и одним нажатием развертывайте их в выбранном канале, включая Microsoft 365 Copilot.

На стадии анализа и совершенствование вы

  • Контролируете и улучшаете: получайте доступ к расширенной готовой аналитике и выводам.
  • Интегрируете агента со службами ИИ: интегрируйте агентов с Microsoft Foundry, Azure Cognitive Services, Bot Framework и другими разговорными службами Майкрософт.

Как взаимодействуют между собой стадии

  • Разработка и публикация позволяет быстро ввести агента в эксплуатацию с правильной архитектурой, управлением и каналами.
  • Анализ и совершенствование обеспечивает ценность агента в долгосрочной перспективе, позволяя учиться на опыте и устранять недостатки качества.
  • Вместе они формируют замкнутый цикл: уверенное развертывание, строгий контроль результатов и постоянное совершенствование — все в рамках единой SaaS-платформы.

Основные возможности Copilot Studio

Категория Возможности
Интуитивно понятный пользовательский интерфейс Визуальный холст, малокодовое проектирование, полнокодовые представления, тестирование в реальном времени, простая совместная работа, создание с помощью естественного языка
Проектирование разговоров Создавайте и публикуйте пользовательские действия, настраивайте определенные темы, создавайте насыщенные и динамичные ответы, создавайте многоязычных агентов, публикуйте их в нескольких каналах, используйте шаблоны
Оркестрация разговоров Многоэтапные беседы, логика и управление переменными, передача оператору, маршрутизация режимов для разных языков, динамический контент в зависимости пользователя, автономность
Подключения к данным Глубокие рассуждения, 1400 готовых соединителей данных, пользовательские соединители данных, потоки агентов, генеративные действия, генеративные ответы
Расширяемость для профессиональных разработчиков Самостоятельное создание генеративного ИИ (DIY), использование собственной модели (BYOM), пользовательские навыки Azure Bot Framework, расширение базы знаний, пользовательская аналитика, телеметрия приложение Azure Insights
Упрощенное управление Проверки на соответствие принципам ответственного применения ИИ, доверенная платформа, центр администрирования, стандарты соответствия, аналитика, автоматизация управления жизненным циклом приложений, настраиваемая аутентификация

Создание разговорной ИИ-функциональности

Создание эффективного решения на основе разговорного ИИ — это гораздо больше, чем просто создать чат-бота. Это требует сочетания технологий, проектирования и операционных возможностей, которые сочетаются для обеспечения бесшовного, безопасного и интеллектуального взаимодействия. Вот основные компоненты:

  1. Понимание языка и возможности оркестрации: в основе любого разговорного ИИ лежит умение понимать, что имеет в виду пользователь. Эта способность включает в себя:

    1. Понимание того, что говорит пользователь (намерение) и как на это реагировать.
    2. Извлечение ключевой информации (сущности) из пользовательских высказываний.
  2. Возможности управления диалогами: у разговоров должна быть структура. Должны ли они придерживаться структурированного диалога или оставаться открытыми? Управление диалогом обеспечивает:

    1. Плавные переходы между темами.
    2. Обработка прерываний и уточнений.
    3. Поддержание контекста в многоступенчатых взаимодействиях.
  3. Возможности ИИ для генерации ответов или выполнения действий: генеративный ИИ обеспечивает насыщенные, динамичные ответы и позволяет:

    1. Выполнять поиск в корпоративных базах знаний.
    2. Краткое изложение содержания.
    3. Инициирование действий через API и соединители для сквозных процессов.
  4. Интеграция с другими системами: сквозные бизнес-процессы часто предполагают интеграцию с различными системами и источниками данных.

  5. Развертывание и выполнение: после того как решение создано, оно должно быть доступно пользователям там, где они находятся:

    1. Развертывайте агентов через различные каналы, такие как сайты, Teams или приложения.
    2. Поддерживается многоязычная и многоканальная публикация.
  6. Безопасность и аутентификация: обеспечьте безопасность конечных точек и аутентифицируйте конечных пользователей для обеспечения доверительных взаимодействий.

    1. Кто может вызвать агента?
    2. Нужно ли пользователю входить в систему?
  7. Аналитика и постоянное совершенствование: работа над агентом продолжается и после запуска.

    1. Используйте телеметрию, ключевые показатели эффективности и расшифровки разговоров для измерения эффективности.
    2. Выявляйте недостатки и оптимизируйте агента для достижения лучших результатов.
  8. Управление жизненным циклом приложения (ALM): управление средами и версиями — ключевой фактор.

    1. Переводите агентов через этапы разработки, тестирования и эксплуатации.
    2. Автоматизируйте развертывания и поддерживайте соответствие.

Успешная система разговорного ИИ сочетает интеллектуальное понимание языка, безопасную интеграцию и постоянное совершенствование на основе надежного развертывания и управления. Такие платформы, как Copilot Studio, делают это возможным, предлагая сквозную SaaS-среду, где вы можете проектировать агентов, совершенствовать их и управлять ими.

Подробнее:

Обзор технологической архитектуры Copilot Studio

На изображении представлена архитектурная схема Copilot Studio, демонстрирующая, как агенты взаимодействуют с каналами, интеграциями, возможностями ИИ, системами безопасности, аналитикой и облачными службами (Майкрософт).

Схема архитектуры Copilot Studio, на которой показаны клиентские каналы, среда выполнения, интеграции, безопасность, ИИ, аналитика и облачные службы (Майкрософт).

Слева на схеме перечислены точки входа для клиентов, включая стандартные элементы управления веб-чатом, элементы управления чатом Power Apps и Power Pages, пользовательские клиенты, такие как веб-чат Bot Framework, промежуточное ПО для взаимодействия серверов, Microsoft Teams, Facebook Messenger, WhatsApp, Slack, Dynamics 365 Contact Center и Microsoft 365 Copilot. Также показаны каналы Службы Azure Bot и боты Bot Framework.

В центральной части выделены основные компоненты архитектуры Copilot Studio, сгруппированные по категориям:

  • Среда выполнения: собственные каналы, агент как навык и поведение каналов.
  • Интеграции: HTTP-запросы, соединители, рабочие процессы, запросы AI Builder и навыки Bot Framework.
  • ALM: решения Power Platform и конвейеры CI/CD.
  • Управление диалогами: темы, действия, входы и выходы.
  • Понимание языка: классическое NLU, встроенное NLU, собственное NLU и генеративная оркестрация.
  • Генеративные ответы: переписывание запросов, поиск знаний по базе знаний (на веб-сайтах, в файлах, SharePoint, Dataverse, Graph, федеративных источниках), ИИ-поиск Azure и резюмирование.
  • Безопасность: управление секретами, идентификация, аутентификация, авторизация, безопасность конечных точек, политики данных и журналы аудита.
  • Триггеры: автономные и системные триггеры.
  • Аналитика: стандартная аналитика, техническая телеметрия и расшифровки диалогов.

В правой части схемы показаны облачные службы, которыми может пользоваться Copilot Studio, такие как Язык ИИ Azure, Microsoft 365 Graph, ИИ-поиск Azure, Microsoft (ранее Azure AI) Foundry, Azure Monitor, служба хранилища Azure, Azure Synapse Analytics и Microsoft Entra ID.

Вместе эти элементы иллюстрируют, как Copilot Studio соединяет клиентские каналы, оркестрацию, интеграции, а также службы Azure и Microsoft 365 для создания и запуска разговорных агентов.

Определение технических сложностей

Раннее выявление потенциальных препятствий помогает командам разрабатывать стратегии смягчения. К распространенным проблемам относятся безопасное подключение к локальным ресурсам, развертывание агентов в определенных каналах, таких как WhatsApp или Slack, а также обработка расширенных требований, таких как загрузка расшифровок или поддержка многоязычных пользователей. Документируйте и согласовывайте эти трудности с заинтересованными сторонами, чтобы архитектура отражала как текущие, так и будущие требования.

Пропускная способность и лимиты запросов

Развертывания с большим объемом трафика, B2C и автономные развертывания требуют планирования пропускной способности наряду с проектированием подключения и каналов. Ограничения по частоте запросов применяются ко всему пути выполнения — включая Power Automate, Dataverse, соединители и подчиненные API — и архитектурные решения, такие как сегментация среды и проектирование триггеров, напрямую влияют на то, останется ли решение в этих пределах при пиковых нагрузках. Подробнее см. на странице Планирование пропускной способности и ограничения скорости.

Цель обзора архитектуры — предоставить единую архитектурную схему, которая связывает бизнес-намерения с технической реальностью. Определяя поток разговора, возможности ИИ, интеграции, требования к безопасности и производительности, вы формируете единое понимание для всех заинтересованных сторон и закладываете фундамент, который можно масштабировать, контролировать и постоянно совершенствовать.

Архитектура решений для агентов

В материалах по проектированию архитектуры агентных решений рассматриваются основные принципы и шаблоны для создания безопасных и надежных агентов с акцентом на Microsoft 365 Copilot. Этот фреймворк предоставляет стандартизированные подходы к разработке агентов, обеспечивая максимальную отдачу от инвестиций и гарантируя соблюдение корпоративных стандартов безопасности и соответствия.

Фреймворк включает в себя несколько основных компонентов:

  • Определение соответствия назначению
  • Определение эксплуатационной пригодности
  • Определение доверия, прослеживаемости и прозрачности

Принимая во внимание этот фреймворк, организации могут обеспечить качество и доверие, отдавая приоритет надежности, прослеживаемости и ответственному применению ИИ для создания безопасных и поддающихся аудиту решений. Он также обеспечивает масштабируемость, позволяя разработчикам создавать решения, соответствующие отраслевым лучшим практикам и рекомендациям Майкрософт, без необходимости технической поддержки со стороны Майкрософт.

Power Platform Well-Architected

Power Platform Well-Architected предоставляет набор принципов и лучших практик, которые помогают командам проектировать, создавать и эксплуатировать рабочие нагрузки так, чтобы они были безопасными, надежными и эффективными при масштабировании. Он служит ориентиром на протяжении всего жизненного цикла внедрения, гарантируя, что каждое решение — от архитектуры до управления — будет обеспечивать как непосредственные бизнес-результаты, так и долгосрочную устойчивость.

Фреймворк включает в себя несколько основных компонентов:

  • Надежность
  • Безопасность
  • Операционная эффективность
  • Производительность
  • Оптимизация взаимодействия

Работая над проектами в соответствии с этими принципами, организации могут выйти за рамки простого "запуска агента" и сосредоточиться на предоставлении надежных агентов, которые надежны, поддерживаемы и способны расти вместе с бизнесом. Power Platform Well-Architected — это руководство по принятию более эффективных архитектурных решений, оценке компромиссов и повышению общего качества проектирования решений Copilot Studio.

Идеи решений, представленные в Центре архитектуры Power Platform и Copilot Studio, демонстрируют четко структурированный подход к документированию сложных решений путем разбиения их на стандартизированные архитектурные блоки. Содержащиеся в нем визуальные схемы, такие как показанная здесь, иллюстрируют взаимосвязь компонентов в масштабах всей системы — от точек входа клиента и поведения во время выполнения до базовых служб Azure. Эта структура может служить моделью для вашей собственной архитектурной документации: возьмите ее за основу, выделите каждый слой вашего решения, отразите, как данные и действия проходят через систему, покажите, как агент взаимодействует с внешними системами или бизнес-процессами, и подробно опишите, как в вашем агенте реализуются принципы Power Platform Well-Architected. Следуя этому подходу, вы делаете документацию более понятной, поддерживаемой и расширяемой для заинтересованных лиц, одновременно приводя ваше решение в соответствие с отраслевыми стандартами и рекомендованными Майкрософт практиками проектирования.

Архитектурная схема решения для обслуживания клиентов, интегрирующего сторонний контакт-центр и клиентскую базу данных с генеративным ИИ Майкрософт и промежуточными службами.

Ознакомьтесь с идеей решения для реализации настраиваемого контакт-центра с агентом Copilot Studio.

Далее

Узнайте, как применять принципы ответственного применения ИИ, чтобы ваше решение было справедливым, прозрачным, безопасным и соответствовало стандарту Майкрософт по ответственному применению ИИ.