Управление и защита агентов ИИ

Агенты ИИ — это программные системы, которые могут получать доступ к данным, принимать решения и принимать меры в бизнес-системах. Они действуют с делегированными полномочиями и могут одновременно влиять на несколько систем. Эта возможность создает организационный риск, который отличается от традиционных приложений. Лица, принимающие решения, должны определять базовые политики, применяемые к каждому агенту, чтобы риск оставался контролируемым по мере роста внедрения. Базовые показатели управления и безопасности задают минимальные требования, которые должны соответствовать каждому агенту, прежде чем он может работать.

Рекомендация: Внедрите централизованный и обязательный базовый стандарт управления и безопасности для всех агентов ИИ, согласованный с существующими практиками управления идентификацией, управления данными и безопасности.

Диаграмма с горизонтальным рабочим процессом с четырьмя подключенными этапами: планирование для агентов (подэтапы включают бизнес-план, план технологий, готовность организации и архитектуру данных). Управление и защита агентов (подэтапы включают ответственный ИИ, управление и безопасность, а также подготовку среды). Создание агентов (подэтапы включают системы с одним и несколькими агентами и процесс создания агентов). Управление интеграцией агентов (подпроцессы включают интеграцию агентов и управление агентами). Рисунок 1. Процесс внедрения агента ИИ Microsoft.

1. Ответственные политики ИИ

Ответственные политики ИИ определяют приемлемое использование ИИ в организации и устанавливают ожидания справедливости, прозрачности и подотчетности. Лица, принимающие решения, должны обеспечить, чтобы политики управления и безопасности опирались на эти основы, а не дублируются или конфликтуют с ними. Ознакомьтесь с политиками ответственного искусственного интеллекта , чтобы создать согласованную платформу перед распространением.

2. Управление агентом и безопасность

Для управления агентом ИИ и безопасности требуются согласованные решения в нескольких областях организации. Эти решения определяют стандарты, которые задают, как создаются агенты, к каким данным они могут получать доступ, как обеспечивается их безопасность и как контролируется соблюдение требований. Руководители должны устанавливать политики в следующих доменах:

  • Регламентирование плоскости управления для определения ответственности, идентификации, управления жизненным циклом и наблюдаемости для всех агентов.
  • Управление данными и обеспечение соответствия требованиям для контроля того, как агенты получают доступ к данным, обрабатывают, хранят и сохраняют их в соответствии с нормативными и корпоративными требованиями.
  • Безопасность для защиты агентов от угроз, принудительного применения средств управления доступом и интеграции рабочих нагрузок агента в существующие операции безопасности.
  • Стандарты разработки для обеспечения согласованного использования утвержденных платформ, протоколов и шаблонов интеграции в организации.

Вместе эти области политики образуют единую модель управления. Лица, принимающие решения, должны соответствовать этим стандартам с существующими структурами управления Azure, чтобы обеспечить их принудительное применение, аудит и масштабируемость по всей организации.

Схема, показывающая платформу управления и безопасности для агентов ИИ в организации с четырьмя горизонтальными уровнями.

На схеме показана комплексная платформа управления и безопасности, организованная на четыре уровня. Верхний уровень , "Управление данными и соответствие", включает Диспетчер соответствия требованиям Microsoft Purview, Microsoft Purview API, функции управления Copilot Studio и элементы управления расположением данных. Второй уровень, "Наблюдаемость агента", содержит Microsoft Agent 365, Microsoft Defender для облака, Azure Log Analytics, Application Insights и Cost Management. Третий уровень , "Безопасность агента", показывает Defender для облака защиту от угроз ИИ, безопасность содержимого в плоскости управления Foundry, агент Red Teaming AI, Azure управление доступом на основе ролей (RBAC) и Microsoft Sentinel. Нижний слой "Разработка агента" перечисляет Microsoft Agent Framework, Foundry SDK, Протокол контекста модели (MCP) и протокол Agent-to-Agent (A2A). Каждый уровень подключается к определенным службы Майкрософт, поддерживающим цели управления на этом уровне.

2.1 Плоскость управления ИИ-агента

Каждый агент должен быть наблюдаемым, управляемым и безопасным. Агенты вводят организационный риск, так как они обращаются к данным и выполняют действия с делегированным органом. Руководители должны знать, какие агенты существуют, кто владеет ими, что они могут получить доступ, и как вмешиваться, когда поведение выходит за пределы политики.

Внедрение централизованного уровня управления агентами для обеспечения согласованного удостоверения, владения, контроля доступа и непрерывного мониторинга для всех агентов. Этот подход заменяет фрагментированную надзорную деятельность одним стандартом всей организации, который является принудительным и проверяемым.

Этот уровень управления становится основой для применения методов управления, где политики определяются, применяются и постоянно применяются ко всем агентам. Это делается следующим образом:

  1. Назначьте организационную ответственность за управление агентами. Агенты ИИ представляют организационный риск, аналогичный приложениям и учетным записям. Для управления требуется четкая подотчетность. Рекомендации: Назначьте права владения для управления агентами тем же лидерам, ответственным за управление облаком, безопасность и соответствие требованиям. Выравнивайте надзор агента с существующими структурами управления Azure. Избегайте создания моделей параллельного управления.

    Руководство по принятию решений: Если использование агента ограничено, существующие форумы управления могут быть достаточными. Если агенты используются в нескольких бизнес-подразделениях, пересмотрите управление и формализуйте подотчетность ИИ агентов с четко определенными полномочиями. Центральное владение повышает согласованность. Для этого требуются четкие права на решение.

  2. Обслуживание реестра агентов. Неуправляемые или теневые развертывания представляют риски безопасности и затрат. Организации обнаруживают и классифицируют все агенты ИИ в облачной среде для обеспечения полной инвентаризации ресурсов ИИ. Вы не можете управлять агентами, которые вы не знаете, существуют. Рекомендации: Требуйте, чтобы каждый агент ИИ был записан в едином организационном инвентаре. Отслеживайте владение, назначение, платформу и область доступа. Рассматривайте агентов как управляемые ресурсы организации. Агент 365 предоставляет реестр агентов при принятии.

    Руководство по принятию решений: Если агент 365 доступен, используйте встроенный реестр. Если среда небольшая, отслеживание вручную может быть достаточно для раннего внедрения. Если Agent 365 недоступен в масштабе, используйте Microsoft Entra ID для агентов в качестве авторитетного источника для идентификационных данных агентов и прав владения. Этот подход обеспечивает структуру и видимость до принятия единого реестра.

  3. Требуется одно удостоверение для каждого агента. Действия агента должны быть приписаны и применимы к уникальной личности. Рекомендации: Требовать, чтобы каждый агент работал под отдельным удостоверением агента. Используйте Microsoft Entra ID для агентов для присвоения идентификации, разрешений и управления жизненным циклом. Привяжите доступ агента к политикам идентичности организации. Entra ID для агентов обеспечивает единое управление удостоверениями на различных платформах агентов и интегрируется с существующим управлением идентификацией в Azure.

  4. Последовательно применять правила на всех платформах агентов. Агенты должны следовать тем же организационным правилам независимо от того, где они функционируют. Рекомендации: Определите политики для доступа к данным, использования удостоверений и разрешенных действий. Последовательно применяйте политики между собственными агентами, настраиваемыми агентами и сторонними агентами. Не стоит полагаться только на правила уровня команды. Агент 365 поддерживает централизованную конфигурацию политики агента, где она была принята. Используйте параметры агента для настройки разрешенных типов агентов , общего доступа, политик и доступа пользователей. На странице "Средства" просмотрите средства, на основе ИИ и серверы MCP, а затем выберите разрешить или заблокировать их.

  5. Наблюдайте за действиями и инструментами агента. Риск агента изменяется по мере развития поведения и использования. Рекомендации: Сохраняйте непрерывную видимость действий агента, шаблонов доступа и соответствия политик. Используйте наблюдаемое поведение для выявления смещения, возникающих рисков и пробелов в элементах управления. Настройте решения по управлению по мере увеличения масштаба внедрения агента. Агент 365 обеспечивает видимость на уровне организации, такие метрики героев. Используйте карту агента для визуального просмотра агентов. Автоматическое инструментирование агентов командами устраняет необходимость в ручном написании кода мониторинга разработчиками, упрощает настройку и обеспечивает согласованное отслеживание производительности.

  6. Отслеживание и распределение затрат. Агенты ИИ используют такие ресурсы, как вычислительные ресурсы, маркеры и вызовы API. Без видимости затраты быстро растут. Создайте единое представление об использовании агентов и расходах в департаментах и проектах для отслеживания таких метрик, как потребление токенов и расход вычислительных ресурсов. Упорядочение этих данных по отделу или проекту, чтобы определить, где сосредоточены затраты. Примените теги центра затрат для точного распределения расходов агента. Требовать, чтобы команды помечали ресурсы для каждого агента или варианта использования, чтобы наглядно визуализировать разбивку затрат. Настройте оповещения в режиме реального времени, чтобы уведомить команды о том, что расходы подходили к пороговым значениям бюджета. Эти оповещения предотвращают переполнение и поддерживают упреждающее финансовое управление. Ограничить, кто может создавать, развертывать и масштабировать агенты, чтобы снизить риск и обеспечить только авторизованный персонал для управления развертываниями ИИ.

Если агент 365 не принят: Если агент 365 недоступен, организации могут собирать сигналы системы управления из отдельных служб, таких как:

  • Microsoft Entra для идентификации агента ИИ.
  • Microsoft Purview для управления данными и соответствия для агентов ИИ.
  • Microsoft Defender для мониторинга безопасности агента ИИ
  • Azure Monitor для централизованного мониторинга агентов Microsoft Foundry и Copilot Studio.

Содействие Microsoft:
Foundry. Чтобы команды оценили интеграцию Foundry с Agent 365, просмотрите следующие возможности платформы: Microsoft Entra Идентификация агента, Публикация агентов в Agent 365 для централизованного наблюдения. Кроме того, определите, как вы хотите отслеживать приложения агентов, просматривая следующие статьи: мониторинг агентов, мониторинг развертываний моделей, мониторинг приложений с помощью панелей мониторинга. Планирование затрат и управление ими и использование центра управления для централизованного администрирования квот и доступа. Если агент 365 недоступен, используйте Microsoft Defender для облака для обнаружения и классификации рабочих нагрузок агента. Автоматизация: Используйте Ускоритель управления и безопасности агента данных для автоматизации управления ресурсами Microsoft Foundry при помощи Defender для облака, диагностики, тегирования и интеграции обеспечения безопасности контента.

Copilot Studio: Предложите командам изучить статьи о мониторинге ведения журнала и аудита, централизуйте данные с помощью приложение Azure Insights в Azure Monitor и изучите использование и распределение сообщений для управления потреблением.

2.2. Управление данными и соответствие требованиям

Организациям требуются конкретные механизмы для управления доступом, обработкой и хранением данных агентами. Эти механизмы преобразуют нормативные требования и корпоративные политики в технические средства управления, которые обеспечивают границы поведения агента. Управление данными создает основу для ответственного развертывания ИИ, определяя, какие агенты данных могут использовать, где они могут работать, и как долго они могут хранить информацию.

Соответствие нормативным требованиям 2.2.1

Все агенты должны соответствовать нормативным требованиям и стандартам. Соответствие нормативным требованиям охватывает законы о защите данных, отраслевые сертификации и внутренние требования к управлению. Преобразуйте эти правила в базовые элементы управления, чтобы агенты обрабатывали данные ответственно, безопасно и прозрачно.

  1. Обеспечение конфиденциальности данных. Требовать от агентов соблюдать принципы конфиденциальности данных и использовать только данные, необходимые для предполагаемой функциональности. Просмотрите наборы данных, используемые в моделях ИИ для RAG, дополнительной настройки или обучения, чтобы выявить риски конфиденциальности. Регулярно проверяйте хранилища памяти и журналы. Анонимизация или псевдонимизация персональных данных, где это возможно. Поддержка прав пользователей, таких как запросы на удаление, для соответствия политикам конфиденциальности организации.

  2. Обеспечьте соблюдение требований к местоположению данных. Убедитесь, что агенты работают в средах, отвечающих требованиям к месту размещения данных и независимости. Определите расположение каждого источника данных, среды выполнения агента и хранилища выходных данных, чтобы обеспечить соответствие требованиям. Используйте регионы Azure или локальные среды, которые соответствуют требованиям локализации. Настройте ведение журнала, чтобы избежать ненужного хранения конфиденциального содержимого, сохранить только то, что требуется в соответствии с нормативными или операционными политиками, и убедиться, что данные остаются зашифрованными в состоянии покоя.

  3. Определите политики хранения данных. Применение определенных периодов хранения для журналов, памяти и обучающих данных. Реализуйте автоматизированные процессы очистки или анонимизации, чтобы сохранить только контекст, необходимый для функциональных возможностей агента. Требовать от агентов информирования пользователей о длительности хранения и предоставлении механизмов удаления. Расширьте политики хранения в полном управлении жизненным циклом, охватывая создание данных, архивацию, удаление и очистку.

Содействие Microsoft:
Foundry: используйте Диспетчер соответствия требованиям Microsoft Purview для перевода нормативных актов, таких как Закон о ИИ ЕС, в контроль и оценку соответствия требованиям в приложениях ИИ. Используйте API Microsoft Purview для интеграции автоматизации соответствия требованиям в рабочие процессы агента. Ознакомьтесь с возможностями Microsoft Purview для Foundry, чтобы понять параметры управления данными и защиты.

Copilot Studio: следуйте рекомендациям по управлению и безопасности. Используйте расположения данных для обеспечения независимости данных. См. сертификаты соответствия платформы (ISO, SOC, HIPAA).

2.2.2 Корпоративное соответствие

Все агенты должны соответствовать политикам ответственного ИИ. Корпоративное соответствие гарантирует, что агенты соответствуют внутренним политикам управления, основанным на принципах ответственного искусственного интеллекта: справедливость, надежность и безопасность, конфиденциальность и безопасность, инклюзивность, прозрачность и подотчетность. Организации преобразуют эти принципы в конкретные элементы управления тем, как агенты обрабатывают данные, принимать решения и взаимодействовать с пользователями. Эти элементы управления защищают организацию от репутационного вреда, нормативных санкций и потери доверия пользователей, обеспечивая работу агентов в рамках определенных этических и операционных границ.

  1. Изоляция конфиденциальных данных. Отделите конфиденциальные данные от общедоступных источников данных с помощью физических или логических границ. Общедоступные агенты не должны получать доступ к внутренним бизнес-данным. Это разделение предотвращает непреднамеренную передачу конфиденциальной информации в общедоступные каналы. В целевой зоне Azure разверните внутренних агентов и данные в подписках группы управления "corp" (внутренней), а общедоступных агентов и данные — в подписках группы управления "online".

  2. Ограничить доступ к данным и применить разрешения. Предоставьте агентам доступ только к определенным источникам данных, необходимым для их функции. Не предоставляйте широкий доступ ко всем данным организации. Когда агент обращается к данным от имени пользователя, убедитесь, что он наследует разрешения этого пользователя. Безопасно передайте удостоверение пользователя или маркер при запросе данных, чтобы обеспечить целостность сеанса. Применение политик Защита от потери данных Microsoft Purview (DLP) и меток конфиденциальности для защиты данных. Такой подход гарантирует, что внутренний агент службы технической поддержки, например, показывает сотрудникам только собственную запись отдела кадров.

  3. Стандартизация знаний и интеграции инструментов. Стандартизируйте, как агенты подключаются к знаниям и инструментам, чтобы сократить дублирование и упростить обслуживание. Используйте официальные API и соединители вместо пользовательских интеграции. Это позволяет нескольким агентам в разных отделах повторно использовать инфраструктуру и сократить эксплуатационные расходы. Следуйте политикам управления, которые используют изоляцию данных на уровне проекта, чтобы предотвратить перекрестное загрязнение.

  4. Прозрачность мандата. Четко раскрывать участие ИИ в интерфейсах агента. Уведомляйте внутренних заинтересованных лиц, когда их данные поддерживают обучение или вывод. Просмотрите новые источники данных перед интеграцией, чтобы проверить содержимое, разрешения и риски безопасности.

  5. Обеспечение справедливости, инклюзивности и подотчетности. Назначьте четкую ответственность за результаты ИИ для обеспечения соответствия с политиками ответственного использования ИИ в организации. Используйте средства ответственного искусственного интеллекта для оценки моделей для предвзятости и инклюзивности во время этапов разработки и тестирования. Регулярно просматривайте оценки моделей, чтобы убедиться, что агенты правильно обрабатывают все группы пользователей. Назначьте человеческую роль, отвечающую за утверждение развертываний и мониторинг постоянного соответствия этическим стандартам.

Содействие Microsoft:
Foundry: ознакомьтесь с возможностями Microsoft Purview для Foundry, чтобы понять параметры управления данными и защиты. Используйте управление удостоверениями агента для управления доступом. Используйте Политика Azure для управления конфигурациями инфраструктуры и развертыванием model. При необходимости создайте настраиваемые политики .

Copilot Studio: Создание и управление конвейерами решений и использование коллекций повторно используемых компонентов и обеспечивать управление версиями.

Безопасность агента 2.3

Все агенты должны соответствовать всем базовым требованиям безопасности. Агенты ИИ обрабатывают естественный язык, взаимодействуют с внешними источниками и часто выполняют автономные решения. Эти возможности представляют риски безопасности, которые организации должны устранять, включая утечку данных, отравление данных, попытку взлома тюрьмы и кражу учетных данных. Организации интегрируют безопасность агентов в существующие корпоративные платформы безопасности, чтобы обеспечить согласованность, уменьшение воздействия и поддержку соответствия нормативным требованиям.

  1. Требовать проведение обучения безопасности агентов. Предоставьте целевую подготовку для групп безопасности и разработки. Сосредоточьтесь на реальных сценариях техник взлома, которые обходят средства защиты агента, атаках отравления данных, которые искажают данные обучения, и похищении учетных данных через интерфейсы агента. Этот учебный курс создает осведомленность и готовность, позволяя командам эффективно реагировать на угрозы, связанные с ИИ.

  2. Требовать защиту от угроз ИИ. Активация защиты от угроз, относящихся к ИИ. Defender для облака AI threat protection обнаруживает операции с запросами, несанкционированный доступ к данным и другие угрозы, связанные с агентом. Эти средства защиты используют глобальную аналитику угроз и интегрируются с Безопасностью содержимого для выявления подозрительного поведения в режиме реального времени. Активация этих средств снижает воздействие и позволяет ускорить реагирование на возникающие риски.

  3. Применение базовых показателей безопасности инфраструктуры. Относитесь к инфраструктуре агента с тем же уровнем надзора, что и к клиентскими системами. Среды выполнения агентов требуют такого же уровня управления и контроля, как и системы, ориентированные на клиентов, для предотвращения несанкционированного доступа и обеспечения стабильности.

  4. Обязательное проведение атакующего тестирования. Проверка устойчивости агента перед развертыванием. Ред-тиминг имитирует реальные атаки, чтобы выявить уязвимости, которые могут быть не обнаружены стандартным тестированием. Эти упражнения обнаруживают слабые места, такие как внедрение команд, утечка данных и попытки взлома. Выполните адверсариальные тесты для всех агентов до выпуска в эксплуатацию и после значительных обновлений. Этот шаг снижает вероятность эксплуатации и улучшает способность агента обрабатывать враждебные входные данные.

  5. Фильтрация входных и выходных данных. Блокировать враждебные входные данные, которые пытаются обойти встроенные протоколы безопасности. Обрабатывать все входящие данные, текст, файлы и изображения как потенциально враждебные. Проверяйте корректность и фильтруйте входные данные до того как они достигнут моделей или бэкенд-систем. Удаление скриптов и внедрение скриптов из текста, установление ограничений на тип и размер файлов и сканирование медиафайлов с помощью служб модерации. Обновите правила очистки на основе наблюдаемых шаблонов атак.

  6. Стандартизация проверки подлинности. Обязать использование управляемых удостоверений для проверки подлинности с целью устранения рисков управления учетными данными. Этот подход устраняет необходимость для разработчиков работать с секретами и гарантирует, что доступ к ресурсам могут получить только доверенные личности.

  7. Обеспечение минимальных привилегий. Тесное управление возможностями агента при выполнении действий. Каждый инструмент, который использует агент, применяет разрешения пользователя или использует служебные учетные записи с заданной областью действия. Используйте политики защиты от потери данных (DLP), чтобы ограничить доступ к данным, к которым агент может получить доступ или выводить данные. Например, запретить агенту возвращать номера кредитных карт в ответах.

  8. Интеграция с операциями безопасности. Обеспечение потока оповещений, связанных с ИИ, в Центр управления безопасностью (SOC). Определите пороговые значения аномалий, таких как пики задержки или попытки несанкционированного доступа. Используйте оповещения Azure Monitor и перенаправьте их на Microsoft Sentinel через Log Analytics. Эта интеграция укрепляет общую безопасность организации и гарантирует, что агенты остаются устойчивыми и надежными.

  9. Управление внешними интеграциями. Поддержка таких стандартов взаимодействия, как MCP и новые стандарты, такие как A2A, когда агенты взаимодействуют с внешними системами. Ограничить внешнее взаимодействие доверенными серверами MCP, которые соответствуют стандартам безопасности организации и соответствия требованиям. Проверьте все коммуникации внешних агентов и ограничьте их явно утвержденными сущностями. Определите четкие границы для доступа к данным и выполнения логики во время внешних взаимодействий. Эти меры предотвращают утечку конфиденциальной информации и поддерживают контроль над поведением агента в пределах организации.

  10. Создайте планы реагирования на инциденты. Заранее решите, как быстро отключить агент, если он неисправно или причиняет вред. Планируйте, как сообщать об инцидентах. Включите шаги по сохранению журналов для судебно-криминалистического анализа и информирования заинтересованных лиц о обновлениях. Создайте планы аварийного восстановления для агентов ИИ, как и для систем. Проводите учения, если агент выполняет критически важные операции, чтобы убедиться, что команда знает, как реагировать в стрессовых ситуациях.

Содействие Microsoft:
Foundry: просмотрите базовые показатели безопасности Azure для Foundry как стандартную политику. Обеспечение использования агента Red Teaming ИИ для проверки приложений на наличие проблем безопасности и защищенности перед развертыванием. Также обратите внимание на лаборатории с искусственным интеллектом Red Teaming Playground. Применение базовых мер защиты и элементов управления для устранения вредного содержимого. Объедините политики Purview DLP или добавьте пользовательские детекторы, как в Purview, так и в качестве автономных решений, чтобы уменьшить утечку конфиденциальных данных. Обеспечение минимальных привилегий с помощью управления доступом на основе ролей в Azure. Применяйте рекомендации по обеспечению высокой доступности и устойчивости в организации.

Copilot Studio: просмотрите руководство по безопасности и управлению , включите автоматические проверки безопасности и проверьте статус защиты выполнения агента для обеспечения непрерывной валидации.

Стандарты разработки агента 2.4

Каждый агент должен использовать только утвержденные платформы и протоколы. Организации стандартизуют взаимодействие агентов с инструментами, данными и друг с другом для обеспечения согласованности, безопасности и взаимодействия. Бизнес-лидеры определяют, какие протоколы и фреймворки приемлемы, и предписывают их использование во всех процессах разработки агентов.

  1. Стандартизируйте платформы агента. Создайте согласованный набор платформ и пакетов SDK для разработки агентов. Такой подход снижает сложность, улучшает совместную работу между отделами и упрощает долгосрочное обслуживание. Стандартизируйте варианты, предоставляющие структурированные подходы к оркестрации и интеграции агентов, и поддерживающие быстрое внедрение новых агентов. При выборе платформ убедитесь в совместимости с существующей инфраструктурой, чтобы платформа хорошо интегрируется с текущей облачной архитектурой и источниками данных. Выберите фреймворки с надежной документацией и активной поддержкой, чтобы сократить время вхождения в работу. Поддержку платформ, которые включают встроенные функции соответствия и безопасности для удовлетворения внутренних требований политики. Стандартизация этих вариантов создает прогнозируемую среду разработки, которая ускоряет доставку и снижает риск.

  2. Стандартизируйте протоколы агента. Протоколы определяют взаимодействие агентов с инструментами, данными и друг с другом. Все усилия по разработке агентов используют стандартные протоколы для обеспечения безопасного и предсказуемого поведения. Основные протоколы, которые следует принять, - это протокол контекста модели (MCP) и протокол агент-агент (A2A). MCP обеспечивает структурированный и безопасный доступ к средствам, API и источникам данных. Он применяет границы вокруг того, к каким агентам можно получить доступ, что предотвращает несанкционированные действия и поддерживает соответствие требованиям. A2A обеспечивает согласованное взаимодействие между агентами. Она поддерживает делегирование задач и общий доступ к контексту, что улучшает координацию и уменьшает ошибки в системах с несколькими агентами. Эти протоколы создают общий язык для агентов в организации. Они снижают нагрузку на интеграцию, улучшают взаимодействие и поддерживают управление, применяя четкие правила взаимодействия.

Содействие Microsoft:
Foundry: Стандартизируйте разработку с использованием Microsoft Agent Framework и пакета SDK Foundry SDK. Эти средства предоставляют структурированные подходы к оркестрации агентов и интеграции.

Copilot Studio: Используйте холст разработки для разработки с низким кодом и источников знаний для интеграции с внешними данными и службами.

3. Подготовка среды

Среда — это управляемое пространство, в котором рабочие нагрузки и агенты ИИ разрабатываются, развертываются и работают. Цель заключается в том, чтобы каждая среда ИИ применяла политики управления, которые действуют как охранники, обеспечивая согласованность, безопасность и соответствие всем рабочим нагрузкам и агентам. Эти охранники защищают команды, обеспечивая быструю, безопасную разработку.

  1. Сотрудничайте над стратегией реализации. Управление должно сбалансировать контроль с гибкостью. Чрезмерно жесткие политики могут замедлить развитие и заглушит инновации. Сотрудничайте с командами рабочей нагрузки, чтобы определить подход, который начинается с мониторинга, а не с немедленных ограничений. Начните с модели на основе аудита, чтобы наблюдать за поведением и определять шаблоны, а затем постепенно вводить более строгие элементы управления по мере необходимости. Этот поэтапный подход сводит к минимуму нарушения при уточнении сторожевых с течением времени.

  2. Управление средами. Управление средами означает применение согласованных организационных политик и элементов управления на всех платформах, будь то Azure платформЫ ИИ, Azure инфраструктуры или SaaS. Организации отвечают за обеспечение соответствия каждой среде корпоративным стандартам и нормативным требованиям.

    • ИИ на платформах и в инфраструктуре Azure: Создайте посадочные зоны для приложений с единообразным управлением для разработки агентов. Эти посадочные зоны приложений предоставляют основу для управления идентификацией, сетями и системами безопасности. Агенты ИИ не требуют специализированной архитектуры целевой зоны приложений, но политики управления должны отражать используемые службы. Подробные инструкции см. в статье "Подготовка среды ИИ".

    • ИИ в SaaS: фундамент целевой зоны не требуется, так как платформа полностью управляется. Вместо этого сосредоточьтесь на настройке параметров управления удостоверениями, доступом и данными в соответствии с политиками организации и передовыми практиками. Применяйте элементы управления соответствием везде, где это возможно, для обеспечения безопасности и соответствия нормативным требованиям.

Содействие Microsoft:
Foundry: для шаблонов инфраструктуры начните с референсной архитектуры чата и/или посадочной зоны ИИ-приложения и измените в соответствии с вашими потребностями. Ознакомьтесь с руководством по рабочим нагрузкам ИИ в Well-Architected Framework.

Copilot Studio: следуйте рекомендациям по управлению и безопасности. Настройте среды для отдельных рабочих нагрузок. Применение политик защиты от потери данных (DLP) для управления использованием соединителя в каждой среде. Создание агентов из шаблонов.

Следующий шаг