Что такое Control Plane Microsoft Foundry?

Microsoft Плоскость управления Foundry — это единый интерфейс управления, обеспечивающий видимость, управление и управление агентами ИИ, моделями и инструментами в организации Foundry. Контрольная плоскость Foundry централизованно управляет парком агентов ИИ, от сборки до ввода в эксплуатацию.

По мере развития организации от изолированных копилот до автономных мультиагентных флотов требуется единый надзор. Плоскость управления Foundry обеспечивает видимость, управление и контроль, необходимые для надежного масштабирования.

Эта статья предназначена для корпоративных администраторов и разработчиков ИИ, которые управляют агентами ИИ в нескольких проектах. Вы узнаете, что предлагает план управления Foundry, включая управление парком, наблюдаемость, соблюдение соответствия требованиям и возможности безопасности.

Необходимые условия

Чтобы изучить Foundry Control Plane, вам потребуется:

• Подписка Azure. Создайте его бесплатно.
• Проект Foundry. Дополнительные сведения см. в разделе "Создание проекта".
• Шлюз искусственного интеллекта, настроенный для расширенных функций управления.
• Соответствующие разрешения Azure на управление доступом, основанное на ролях (RBAC), для вашей подписки.

Когда следует использовать плоскость управления Foundry

Рекомендуется использовать плоскость управления Foundry, когда ваша организация:

• Управляет несколькими агентами ИИ в разных проектах или командах.
• Требуется централизованный контроль за соблюдением требований и обеспечение применения политик в ИИ-флоте.
• Интегрирует Microsoft Defender и Microsoft Purview для управления ИИ и защиты от угроз.
• Управляет агентами с нескольких платформ, включая Foundry, Microsoft и источники, отличные от Microsoft.
• Необходимо отслеживать затраты, использование маркеров и потребление ресурсов во всей среде ИИ.

Без управляющей плоскости Foundry вы управляете агентами, моделями и соответствием через отдельные разделы портала Azure и разные представления для каждого проекта. План управления Foundry добавляет видимость между проектами, унифицированное применение соответствия требованиям и интегрированные сигналы безопасности в одном интерфейсе.

Возможности плоскости управления Foundry

Контрольная плоскость Foundry объединяет инвентаризацию, наблюдаемость, соответствие и безопасность в один интерфейс с учетом ролей. Она интегрируется с системами безопасности и управления Microsoft (Microsoft Defender, Microsoft Purview, Microsoft Entra) для обеспечения управления в масштабе.

На следующей схеме показано, как контрольная панель Foundry обеспечивает объединённое представление системы с помощью агентов, моделей и инструментов, перечисленных в проектах в рамках подписки.

Плоскость управления Foundry поддерживает следующие функции.

Управляйте мультиплатформенным парком агентов

• Отслеживайте ключевые показатели производительности, такие как активные агенты, завершение выполнения, состояние соответствия требованиям, эффективность затрат и запрещенное поведение на поддерживаемых платформах агентов.

• Используйте глубокие ссылки на возможности оценки и мониторинга для быстрого отладки, диагностики и исправления.

• Визуализация состояния автопарка с помощью панелей мониторинга, которые отображают тенденции и аномалии.

Мониторинг и повышение производительности агента

• Сопоставляйте оповещения, результаты оценки и данные трассировки для быстрого выявления проблем.

• Непрерывно оценивает производительность, качество и размеры рисков агента. Измерения риска могут включать соблюдение задач, разрешение намерений, успешное выполнение вызова средства,обоснованность, утечку конфиденциальных данных, а также подверженность атакам на внедрение запросов в междоменном режиме (XPIA).

• Используйте агент ИИ Red Teaming и анализ кластера для автоматического анализа уязвимостей и обнаружения первопричин ошибок.

• Просмотр рекомендаций по уточнению запросов, обновлению версий модели и изменениям конфигурации.

Применение ограничений на соответствие требованиям

• Определите рамочные политики на уровне предприятия для обеспечения безопасности, соответствия требованиям и качества.

• Примените массовое исправление для исправления несоответствующих конфигураций в вашем флоте.

Безопасные агенты

• Запланируйте автоматическое сканирование red-teaming и мониторинг смещения для текущего тестирования агентов.

• Просмотр оповещений Defender и Microsoft Purview непосредственно на панели управления Foundry Control Plane.

• Отслеживание ограничений скорости, использования маркеров и аномалий затрат, чтобы предотвратить неэффективность или злоупотребление.

Ключевые функции

Описанные ранее возможности организованы в области, к которым вы обращаетесь, выбрав "Работать на правой верхней панели инструментов" рабочей области Foundry. С помощью "Operate" вы можете отслеживать, управлять и оптимизировать каждого агента, модель и развертывание в вашей подписке.

Каждая панель в режиме "Работа" разработана вокруг определенного задания. Эти панели помогают различным ролям, от разработчиков до администраторов, управлять системами ИИ в масштабах.

Обзор

Используйте панель "Обзор" , чтобы понять работоспособность, производительность и соответствие парка.

Эта область предоставляет обзор высокого уровня ваших ресурсов ИИ, объединяя ключевые операционные метрики и метрики соответствия в одном представлении. Вы можете:

• Просматривать ключевые статистические данные, такие как активные агенты, тенденции затрат, уровень завершения выполнения и предотвращенные действия.
• Детализация аномалий или пиков затрат с помощью контекстных диаграмм и прямых ссылок на инвентаризацию, наблюдаемость или сведения о политике.
• Определите потенциальные риски на ранних этапах с помощью оценок работоспособности на основе трендов и резюме оповещений.

Активы

Используйте область ресурсов для отслеживания, анализа и управления каждым агентом, моделью и инструментом из одного места.

Эта область предоставляет единую таблицу для поиска всех ресурсов ИИ в проектах в подписке. Он объединяет критически важные метаданные и индикаторы работоспособности, чтобы вы могли эффективно оценивать и действовать на ваших ресурсах ИИ. Вы можете:

• Фильтрация и сортировка по ключевым атрибутам, таким как версия, теги, оценка работоспособности (процент), затраты, оповещения и использование маркеров для быстрого поиска ресурсов.
• Просверлите из любой записи в таблице инвентаризации агента во вкладку «Оценка» или «Мониторинг» для получения информации перед развертыванием и после.
• Предоставление рекомендаций для уточнения запросов, обновления моделей или оптимизации конфигураций на основе сигналов производительности и затрат.
• Сопоставляйте журналы среды выполнения с результатами оценки, чтобы выявить первопричины ошибок или снижения производительности.
• Визуализировать смещение, задержку и кластеры ошибок во время выполнения или сборки, чтобы обнаружить возникающие проблемы рано.
• Интегрируйтесь с AI Red Teaming Agent, чтобы автоматизировать проверку уязвимостей, регрессионное тестирование и воспроизведение проблем.
• Наблюдайте и изменяйте ограничительные рамки моделей и агентов.

Соответствие

Используйте область соответствия, чтобы управлять системами ИИ и применять необходимые ограничения.

Область соответствия позволяет определять, применять и непрерывно отслеживать политики безопасности и соответствия требованиям в ресурсах ИИ. Он предоставляет единый интерфейс для эксплуатации ответственных принципов ИИ, помогая обеспечить безопасность корпоративного уровня и соответствие нормативным требованиям. Вы можете:

• Определение и принудительное применение защиты с помощью глубокой интеграции с Политика Azure, Defender и Microsoft Purview. Эти интеграции помогают обеспечить, чтобы защита удостоверений, данных и от угроз работала взаимосвязано.
• Примените версионированные политики и отслеживайте назначения для обеспечения полной аудируемости и прослеживаемости между агентами и средами.
• Отслеживайте состояние соответствия в режиме реального времени, чтобы вы могли выявлять несоответствующие ресурсы и осуществлять массовое исправление непосредственно из панели управления Foundry.

Управление политиками в Foundry позволяет администраторам и разработчикам внедрять требования к качеству и безопасности в жизненный цикл разработки и развертывания. Эти политики помогают обеспечить безопасную работу всех моделей и соблюдать организационные и нормативные стандарты.

Квоты

Используйте область квот для просмотра, настройки и запроса квот.

На панели "Квота " отображаются развертывания модели и объем квоты для каждого развертывания. Он предоставляет аналитические сведения о шаблонах использования и помогает эффективно управлять ресурсами.

По умолчанию представление квоты отображает только модели с активными развертываниями. Включите переключатель "Показать все ", чтобы просмотреть полный список доступных моделей и регионов, включая модели, которые вы еще не развернули. Используйте "Показать все ", чтобы изучить доступную квоту перед созданием развертывания или проверить, какие регионы имеют емкость для конкретной модели.

Дополнительные сведения см. в разделе "Управление и увеличение квот для ресурсов".

Админ

Используйте панель администрирования для просмотра, упорядочивания и администрирования всех проектов, пользователей и подключенных ресурсов в среде Foundry.

Эта область расширяет рабочее представление за рамки одного проекта. Большинство работ в Foundry происходит в контексте проекта. Панель Admin предоставляет объектив корпоративного уровня для контроля и настройки нескольких проектов, разрешений пользователей и связанных Azure ресурсов из одного места.

Администратора администраторы и пользователи с повышенными правами могут:

• Получите доступ к информации обо всех проектах в своей подписке или тенанте, включая активные, неактивные и архивные рабочие области.
• Просмотрите подробные сведения о проекте, такие как владельцы, регион, подключенные службы и состояние соответствия требованиям.
• Добавьте или удалите пользователей непосредственно из проекта, чтобы определить детализированные уровни доступа, согласованные с ролями организации.
• Подключите или управляйте подключенными ресурсами, такими как учетные записи хранения, вычислительные кластеры и средства Foundry, чтобы проекты оставались должным образом подготовлены.
• Назначьте доступ на уровне родителя (подписки или группы ресурсов), чтобы применить согласованное управление и наследование прав доступа в нескольких проектах.

Начало работы с плоскости управления Foundry

Контрольная панель Foundry доступна на портале Foundry. Чтобы начать использовать плоскость управления Foundry, изучите следующие ресурсы:

• Настройка шлюза ИИ. Включение расширенных функций управления в проектах Foundry.
• Настройте мониторинг для парка агентов: включите метрики и диагностические сведения с функциями наблюдаемости.
• Обнаружение агентов в подписке: Узнайте, какие агенты доступны, и управляйте ими централизованно.
• Зарегистрируйте настраиваемые агенты: внесите внешние агенты в реестр плоскости управления Foundry.

Связанное содержимое

• Управляйте соответствием требованиям и параметрами безопасности в Microsoft Foundry: применение политик ответственного искусственного интеллекта, интеграция сигналов Defender и Microsoft Purview, и реагирование на оповещения о соответствии.
• Оптимизируйте затраты и производительность модели: анализ факторов затрат, использования токенов и потребления ресурсов, чтобы максимально повысить рентабельность инвестиций от парка агентов.
• Управление агентами в масштабе: отслеживание агентов с поддерживаемых платформ и управление ими в одном едином представлении.
• Непрерывная оценка ваших ИИ-агентов (предварительная версия): автоматически отслеживайте производительность, качество и аспекты рисков агента.