Примечание.
Для доступа к этой странице требуется авторизация. Вы можете попробовать войти или изменить каталоги.
Для доступа к этой странице требуется авторизация. Вы можете попробовать изменить каталоги.
Платформа ИИ — это платформа, на которой ваша организация запускает и эксплуатирует модели ИИ. Он задает сетевой периметр, модель идентификации, плоскость данных и распределение квот для ваших моделей, развертываний, индексов, оценок и связанных с ними ресурсов. Microsoft Foundry и Машинное обучение Azure — это две платформы Azure ИИ. Каждое развертывание каждой из этих служб создает новый экземпляр.
Ваша организация должна решить, как распределить среды рабочих нагрузок ИИ между экземплярами платформы ИИ. Вы можете изолировать каждую среду, например среду разработки, тестовую или продуктивную, в отдельном экземпляре платформы. Можно также разрешить нескольким рабочим нагрузкам или средам совместно использовать один и тот же экземпляр. Это решение, часто называемое колокацией, влияет на масштаб последствий эксплуатационных проблем или проблем безопасности. Она также влияет на границы соответствия требованиям и стоимость платформы.
Рекомендации: Создайте политику всей организации, которая определяет требования к изоляции по умолчанию, утвержденные границы общего доступа, критерии исключения и отдельные ожидания для рабочих и предварительных сред платформ ИИ.
Руководство по принятию решений:
1. Определение границ общего доступа к платформе ИИ
Каждой организации необходимы границы, разделяющие рабочие нагрузки, которые ни при каких обстоятельствах не должны использовать один и тот же экземпляр платформы ИИ. Это ограничение применяется во всех средах, включая продуктивные и предпродуктивные среды. Рабочие нагрузки внутри той же границы могут совместно использовать экземпляр платформы. Рабочие нагрузки в разных границах не могут.
Зачем рисовать границы общего доступа? Если не заданы чёткие границы разграничения, команды, отвечающие за рабочие нагрузки, начинают использовать ту схему, которая удобна в данный момент, а ИИ-платформа со временем накапливает противоречивые требования. Со временем она создает несогласованные модели владения, конфликтующие требования к соответствию требованиям, неясное распределение затрат и общий операционный риск для несвязанных рабочих нагрузок. Например, не связанные друг с другом бизнес-направления могут совместно использовать квоту на одном экземпляре платформы для снижения затрат. Результатом является платформа ИИ с несогласованными границами управления, которые становятся сложными для понимания и аудита.
Общие границы. Выберите модель границ, которая соответствует тому, как ваша организация уже назначает ответственность и управляет технологическими решениями. К общим моделям относятся:
Граница бизнес-подразделения оптимизирует общую операционную собственность и финансирование
Граница домена данных оптимизирует общие требования к соответствию и обработке данных
Граница ответственности владельца продукта ориентирована на оптимизацию общего инженерного жизненного цикла и платформенных операций
В пределах границы команды по-прежнему могут выбирать выделенные экземпляры платформы, когда изоляция имеет смысл. За пределами границы общий доступ не разрешен.
Найдите то, что лучше всего работает. Ни одна модель не является универсально правильной. Согласованность имеет значение больше, чем выбранная модель, так как четко примененная модель границы обеспечивает понятное управление по мере роста платформы искусственного интеллекта.
2. Определение политики общего доступа к рабочей платформе ИИ
Совместное использование платформы ИИ в производственной среде — это практика запуска более одной среды производственной рабочей нагрузки ИИ в одном и том же ресурсе Microsoft Foundry или рабочей области Машинное обучение Azure. В Azure экземпляр платформы ИИ задает сетевую границу, границу идентификации и границы квот для сред рабочих нагрузок, которые его используют. По этой причине организации должны определить определенную политику для общего доступа к рабочей платформе ИИ.
2.1 По умолчанию используйте один экземпляр платформы ИИ для каждой производственной рабочей нагрузки
Рабочие среды ИИ должны по умолчанию использовать изоляцию рабочей среды. Не размещайте несколько производственных рабочих нагрузок на одном ресурсе Microsoft Foundry или в одной рабочей области Машинное обучение Azure, если только не предусмотрено документированное исключение. Выделенный экземпляр платформы ИИ для каждой рабочей рабочей среды должен быть стандартным подходом. Рассматривайте общий доступ к платформе ИИ как исключение, а не практику по умолчанию.
Почему по умолчанию используется изоляция? Общие платформы искусственного интеллекта также создают общий операционный риск. Проблема безопасности, неправильное настройка, сбой службы или событие исчерпания квот может повлиять на каждую среду рабочей нагрузки. Изоляция также снижает риск случайного предоставления доступа между рабочими нагрузками и не позволяет одной рабочей нагрузке потреблять ресурсы GPU или квоту, необходимые другой рабочей нагрузке. Рабочие среды обычно имеют наибольшее влияние на бизнес и воздействие нормативных требований. Большинству организаций требуются четкие границы владения и надежная операционная изоляция для этих сред.
Компромисс: Изоляция увеличивает затраты и затраты на управление. Каждый экземпляр платформы сопряжен с собственными эксплуатационными накладными расходами на сетевое взаимодействие, управление идентификацией, мониторинг и эксплуатацию. Организации должны сбалансировать эти затраты на преимущества более строгого сдерживания и обеспечения безопасности.
2.2 Разрешение совместного размещения рабочей среды с помощью задокументированного исключения
Совместное размещение снижает накладные расходы и консолидирует платформенные операции. Например, если варианты использования используют те же источники данных, что и входные данные, совместное размещение не требует настройки подключения и проверки подлинности с платформы ИИ к этим ресурсам для каждого варианта использования. Компромисс: совместное использование экземпляров платформы ИИ в промышленной эксплуатации также объединяет область влияния сбоев, границу идентичности и пул квот всех рабочих нагрузок, использующих этот экземпляр.
Характеристики совместного размещения: Разрешайте производственным рабочим нагрузкам совместно использовать экземпляры Microsoft Foundry или Машинное обучение Azure только при соблюдении каждого из следующих условий:
Все совместно размещённые рабочие нагрузки подпадают под одну и ту же нормативно-правовую область, одну и ту же классификацию данных, одни и те же требования к локализации данных и одни и те же стандарты обработки данных.
Все рабочие нагрузки функционируют в пределах одной сетевой границы, одного пространства имён DNS и одной границы идентификации.
Организация принимает риск общего сбоя и риск общего исчерпания квоты, которые влечёт за собой совместное размещение.
Стоимость или операционные издержки отдельных инстансов существенно перевешивают выгоды от изоляции. Только давление на затраты не является достаточным обоснованием.
Команда принимает, что разделение рабочих нагрузок по отдельности будет дорогостоящим. Состояние ИИ-платформы не переносится корректно между экземплярами и часто требует повторного создания или перенастройки.
Компромисс: Для каждого экземпляра общей платформы ИИ требуется четко определенный владелец платформы, отвечающий за управление квотами, конфигурацию сети, проверки доступа, операции жизненного цикла и координацию инцидентов.
2.3 Сегментирование сценариев использования в промышленной эксплуатации в экземпляре платформы ИИ
Независимо от того, изолирован ли экземпляр платформы или размещён совместно, используйте встроенные функции сегментации для разграничения сценариев использования. Рассматривайте каждый отдельный вариант использования, например полностью разные пользовательские возможности в рамках одной рабочей нагрузки, как собственное логическое развертывание внутри экземпляра платформы. Рассмотрим пример.
В Microsoft Foundry подготовьте один project для каждого варианта использования в ресурсе Foundry.
В Машинное обучение Azure используйте рабочую область hub с рабочими областями проекта для сегментирования вариантов использования.
Эти конструкции дают каждому варианту использования собственные ресурсы и назначения ролей. Они совместно используют общий набор компонентов инфраструктуры для обеспечения безопасности и подключения. Вам не нужно подготавливать новый экземпляр для каждого сценария.
Если совместное размещение разрешено в рамках процесса исключения, переведите это разделение внутри продукта из разряда рекомендации в разряд обязательного требования политики.
Если для рабочей нагрузки требуется сложная сегментация между несколькими проектами Foundry или рабочими областями Машинное обучение Azure, пересмотрите, обеспечивает ли текущая модель совместного доступа достаточную операционную простоту и изоляцию.
Сведения о сущностях, на которых основаны эти решения, см. в разделах ресурсы Microsoft Foundry и рабочие области Машинное обучение Azure.
3. Определите политику совместного использования предпроизводственной платформы ИИ
В непроизводственных средах используется значение, противоположное принятому по умолчанию в продуктивной среде. Предпродуктивные среды включают среды разработки, тестирования и стейджинга. Эти среды поддерживают экспериментирование и предварительную проверку. Выделенные экземпляры ресурсов платформы искусственного интеллекта редко оправдывают их стоимость на этих уровнях. По умолчанию использовать общий экземпляр для каждого уровня среды.
Почему стоит совместно размещать в предпроизводственных средах? Общий экземпляр платформы искусственного интеллекта позволяет командам повторно использовать Azure инфраструктуру ИИ вместо подготовки отдельных экземпляров для каждого нового варианта использования. Команды, работающие с рабочими нагрузками, могут повторно использовать развернутые модели, утвержденные сетевые подключения, существующие интеграции данных и уже настроенные конфигурации безопасности. Этот подход ускоряет экспериментирование и сокращает повторяющиеся операции установки. Это наиболее ценно, когда бизнес-команды оценивают возможности новых сценариев ИИ или проверяют ранние решения.
Когда не следует совместно размещать в предпроизводственной среде. Используйте отдельный предпроизводственный экземпляр для каждой рабочей нагрузки, если она обрабатывает регламентированные данные в ходе тестирования или должна воспроизводить топологию производственной среды для валидации производительности. Считайте это требование исключением и требуйте явного одобрения перед предоставлением.
Компромисс: Колокация на этапе предпроизводства снижает затраты на содержание простаивающих мощностей и позволяет поддерживать меньший объем инвентаря платформы. Однако она подвергает каждую рабочую нагрузку помехам со стороны экспериментов другой команды. Неправильно настроенное задание дообучения или неконтролируемый запуск оценки может исчерпать общую квоту и замедлить работу других команд. Результаты теста, полученные на общем экземпляре, также не всегда прогнозируют поведение рабочей среды. Для рабочих нагрузок с строгой производительностью или проверкой соответствия требованиям требуется выделенная среда, несмотря на более высокую стоимость.