Управление, совместная работа и упорядочение с помощью центров

Статья
11/19/2024

Центры являются основным ресурсом Azure верхнего уровня для ИИ Studio и обеспечивают центральный способ управления безопасностью, подключением и вычислительными ресурсами на игровых площадках и проектах. После создания концентратора разработчики могут создавать проекты из него и получать доступ к общим ресурсам организации без повторной справки ИТ-администратора.

Рабочие области проекта, созданные с помощью концентратора, наследуют те же параметры безопасности и общий доступ к ресурсам. Teams может создавать рабочие области проектов по мере необходимости для организации работы, изоляции данных и /или ограничения доступа.

В этой статье вы узнаете больше о возможностях концентратора и о том, как настроить центр для вашей организации. Вы можете просмотреть ресурсы, созданные в портал Azure и в Azure AI Studio.

Быстрое исследование вариантов использования ИИ без узких мест в ИТ

Успешные приложения и модели искусственного интеллекта обычно начинаются как прототипы, где разработчики проверяют эффективность идеи или оценивают качество данных или модель для конкретной задачи. Прототипом является шаговый камень в направлении финансирования проекта или полномасштабной реализации.

Когда одна группа платформы отвечает за настройку облачных ресурсов, переход от подтверждения реализации идеи в финансируемый проект может быть узким местом в производительности. Такая команда может быть единственной авторизованной для настройки безопасности, подключения или других ресурсов, которые могут повлечь за собой затраты. Эта ситуация может привести к огромной невыполненной работе, в результате чего команды разработчиков становятся заблокированы на инновациях с новой идеей. В Azure AI Studio центры помогают устранить эту узкие места. ИТ-отдел может настроить предварительно настроенную, повторно использованную среду (концентратор) для команды один раз. Затем команда может использовать этот центр для создания собственных проектов для создания прототипов, создания и эксплуатации приложений ИИ.

Настройка и защита центра для вашей команды

Начало работы с созданием первого концентратора в Azure AI Studio или использованием портал Azure или шаблонов для расширенных параметров конфигурации. Вы можете настроить сеть, удостоверение, шифрование, мониторинг или теги, чтобы соответствовать требованиям вашей организации.

Часто проекты в бизнес-домене требуют доступа к тем же ресурсам компании, таким как векторные индексы, конечные точки модели или репозитории. В качестве руководителя группы вы можете предварительно настроить подключение к этим ресурсам в центре, чтобы разработчики могли обращаться к ним из любой новой рабочей области проекта без задержки в ИТ.

Подключения позволяют получать доступ к объектам в AI Studio, управляемым за пределами центра. Например, отправленные данные в учетной записи хранения Azure или модели развертываний на существующем ресурсе Azure OpenAI. Подключение можно совместно использовать для каждого проекта или сделать доступным для одного конкретного проекта. Подключения можно настроить с помощью доступа на основе ключей или идентификатора Microsoft Entra для авторизации доступа к пользователям в подключенном ресурсе. Кроме того, как администратор, вы можете отслеживать, проверять и управлять подключениями между проектами с помощью концентратора.

Общие ресурсы и конфигурации Azure

Различные понятия управления доступны в центрах для поддержки потенциальных клиентов и администраторов для централизованного управления средой команды.

Конфигурация безопасности, включая доступ к общедоступной сети, виртуальную сеть, шифрование ключей, управляемое клиентом, и привилегированный доступ к которым может создавать проекты для настройки. Параметры безопасности, настроенные на концентраторе, автоматически передаются в каждый проект. Управляемая виртуальная сеть совместно используется для всех проектов, совместно использующих один концентратор.
Подключения — это именованные и прошедшие проверку подлинности ссылки на ресурсы Azure и ресурсы, отличные от Azure, такие как поставщики хранилища данных. Используйте подключение в качестве средства для предоставления внешнего ресурса группе разработчиков, не предоставляя хранящиеся учетные данные отдельным лицам.
Распределение вычислительных ресурсов и квот управляется как общая емкость для всех проектов в AI Studio, использующих один и тот же концентратор. Эта квота включает вычислительный экземпляр в качестве управляемой облачной рабочей станции для отдельного человека. Один и тот же пользователь может использовать вычислительный экземпляр в проектах.
Ключи доступа к службам ИИ к конечным точкам для предварительно созданных моделей ИИ управляются в области концентратора. Используйте эти конечные точки для доступа к базовым моделям из Azure OpenAI, распознавания и безопасности содержимого с помощью одного ключа API
Политика , применяемая в Azure в области концентратора, применяется ко всем проектам, управляемым под ним.
Зависимые ресурсы Azure настраиваются один раз для каждого концентратора и связанных проектов и используются для хранения артефактов, которые создаются при работе в AI Studio, таких как журналы или при отправке данных. Дополнительные сведения см. в разделе зависимостей ИИ Azure.

Упорядочение работы в проектах для настройки

Центр предоставляет среду размещения для проектов в AI Studio. Проект — это корпоративный контейнер с инструментами для настройки и оркестрации ИИ. Он позволяет упорядочивать работу, сохранять состояние в различных инструментах, таких как поток запросов, и совместно работать с другими пользователями. Например, вы можете предоставить общий доступ к отправленным файлам и подключениям к источникам данных.

Несколько проектов могут использовать концентратор, и несколько пользователей могут использовать проект. Проект также помогает отслеживать выставление счетов и управлять доступом и обеспечивает изоляцию данных. Каждый проект использует выделенные контейнеры хранилища для отправки файлов и совместного использования с другими участниками проекта при использовании интерфейса "данные".

Проекты позволяют создавать и группировать повторно используемые компоненты, которые можно использовать в средствах в AI Studio:

Актив	Description
Data	Набор данных, который можно использовать для создания индексов, точной настройки моделей и оценки моделей.
Потоки	Исполняемый набор инструкций, который может реализовать логику ИИ.
Оценки	Оценки модели или потока. Вы можете выполнять оценки на основе метрик вручную или на основе метрик.
Индексы	Индексы векторного поиска, созданные из данных.

Проекты также имеют определенные параметры, которые хранятся только для этого проекта:

Актив	Description
Подключения проекта	Подключения к внешним ресурсам, таким как поставщики хранилища данных, которые могут использовать только вы и другие члены проекта. Они дополняют общие подключения в концентраторе, доступные для всех проектов.
Среда выполнения потока запроса	Поток запросов — это функция, которую можно использовать для создания, настройки или запуска потока. Чтобы использовать поток запросов, необходимо создать среду выполнения на вершине вычислительного экземпляра.

Примечание.

В AI Studio вы также можете управлять параметрами языка и уведомлений, которые применяются ко всем проектам, к которым можно получить доступ независимо от концентратора или проекта.

Ключи доступа к API служб искусственного интеллекта Azure

Центр позволяет настроить подключения к существующим типам ресурсов Azure OpenAI или Azure AI Services, которые можно использовать для размещения развертываний моделей. Эти развертывания модели можно получить из подключенных ресурсов в AI Studio. Ключи к подключенным ресурсам можно перечислить из ИИ Studio или портал Azure. Дополнительные сведения см. в статье "Поиск ресурсов Azure AI Studio" в портал Azure.

Виртуальная сеть

Центры, вычислительные ресурсы и проекты используют одну и ту же виртуальную сеть Azure, управляемую корпорацией Майкрософт. После настройки параметров управляемой сети во время процесса создания концентратора все новые проекты, созданные с помощью этого концентратора, наследуют те же параметры виртуальной сети. Поэтому все изменения параметров сети применяются ко всем текущим и новым проектам в этом центре. По умолчанию центры предоставляют доступ к общедоступной сети.

Чтобы установить частное входящее подключение к центральной среде, создайте конечную точку Приватный канал Azure в следующих областях:

Концентратор
Зависимый Azure AI services ресурс
Любая другая зависимость От ИИ Azure, например служба хранилища Azure

Хотя проекты отображаются в качестве собственных ресурсов отслеживания в портал Azure, они не требуют доступа к собственным конечным точкам приватного канала. Новые проекты, созданные после установки центра, автоматически добавляются в сетевую изолированную среду.

Подключения к ресурсам Azure и сторонним ресурсам

Azure AI предлагает набор соединителей, который позволяет подключаться к разным типам источников данных и другим средствам Azure. Вы можете воспользоваться преимуществами соединителей для подключения к таким данным, как индексы в поиске ИИ Azure, чтобы расширить потоки.

Подключения могут быть настроены как общие для всех проектов в одном концентраторе или созданы исключительно для одного проекта. Чтобы управлять подключениями с помощью Azure AI Studio, перейдите в проект и выберите центр управления. Выберите подключенные ресурсы в разделе "Концентратор " или "Проект ", чтобы управлять общими подключениями для проекта или концентратора соответственно. Администратор может выполнять аудит общих и проектных подключений на уровне концентратора, чтобы иметь одну панель подключения между проектами.

Зависимости искусственного интеллекта Azure

Уровни Azure AI Studio поверх существующих служб Azure, включая ИИ Azure и службы Машинное обучение Azure. Хотя они могут не отображаться в отображаемых именах в портал Azure, AI Studio или при использовании пакета SDK или CLI, некоторые из этих архитектурных сведений становятся очевидными при работе с REST API Azure, использования отчетов о затратах Azure или использования шаблонов инфраструктуры как кода, таких как Azure Bicep или Azure Resource Manager. С точки зрения поставщика ресурсов Azure типы ресурсов Azure AI Studio сопоставляют со следующими типами поставщиков ресурсов:

Тип ресурса	Поставщик ресурсов	Вид
Центр Azure AI Studio	`Microsoft.MachineLearningServices/workspace`	`hub`
Проект Azure AI Studio	`Microsoft.MachineLearningServices/workspace`	`project`
Службы ИИ Azure или Azure AI OpenAI Service	`Microsoft.CognitiveServices/account`	`AIServices` `OpenAI`

При создании нового концентратора требуется набор зависимых ресурсов Azure для хранения данных, которые вы отправляете или создаете при работе в AI Studio. Если эти ресурсы не предоставлены вами и необходимы, эти ресурсы создаются автоматически.

Зависимый ресурс Azure	Поставщик ресурсов	Необязательно	Примечание.
Поиск с использованием ИИ Azure	`Microsoft.Search/searchServices`	✔	Предоставляет возможности поиска для проектов.
Учетная запись хранения Azure	`Microsoft.Storage/storageAccounts`		Хранит артефакты для проектов, таких как потоки и оценки. Для изоляции данных контейнеры хранилища префиксируются с помощью GUID проекта и условно защищены с помощью Azure ABAC для удостоверения проекта.
Azure Key Vault	`Microsoft.KeyVault/vaults`		Хранит секреты, такие как строка подключения для подключений к ресурсам. Для изоляции данных секреты нельзя получить в проектах через API.
Реестр контейнеров Azure	`Microsoft.ContainerRegistry/registries`	✔	Хранит образы Docker, созданные при использовании пользовательской среды выполнения для потока запроса. Для изоляции данных образы docker префиксируются с помощью GUID проекта.
приложение Azure Insights & Рабочая область Log Analytics	`Microsoft.Insights/components` `Microsoft.OperationalInsights/workspaces`	✔	Используется в качестве хранилища журналов при выборе ведения журнала на уровне приложения для развернутых потоков запросов.

Управление расходами

Затраты на искусственный интеллект Azure начисляются различными ресурсами Azure.

Как правило, центр и проект не имеют фиксированной ежемесячной стоимости, и плата взимается только за использование с точки зрения вычислительных часов и маркеров, используемых. Хранилище ключей Azure, хранилище и Application Insights взимает транзакцию и объем данных, зависимых от объема данных, хранящихся в проектах.

Если требуется группировать затраты на эти разные службы вместе, рекомендуется создавать центры в одной или нескольких выделенных группах ресурсов и подписках в среде Azure.

Вы можете использовать функции управления затратами и тегами ресурсов Azure, чтобы получить подробную разбивку затрат на уровне ресурсов или запустить калькулятор цен Azure на указанных выше ресурсах, чтобы получить оценку цен. Дополнительные сведения см. в статье "Планирование затрат и управление затратами на службы ИИ Azure".

Поиск ресурсов Azure AI Studio в портал Azure

В портал Azure можно найти ресурсы, соответствующие проекту в Azure AI Studio.