Что такое контейнеры Azure?

Средства Foundry предоставляют несколько контейнеров Docker , которые позволяют использовать те же API, которые доступны в Azure локальной среде. Используя эти контейнеры, вы можете обеспечить гибкость приведения средств Foundry ближе к данным по соответствию требованиям, безопасности или другим операционным причинам. Поддержка контейнеров в настоящее время доступна для подмножества средств Foundry.

Контейнеризация — это подход к распространению программного обеспечения, при котором приложение или служба упаковывается в образ контейнера вместе со всеми зависимостями и конфигурациями. Образ контейнера можно развертывать на узле контейнера с незначительной модификацией или без нее. Контейнеры изолированы друг от друга и от базовой операционной системы. При этом они расходуют меньше ресурсов, чем виртуальная машина. Контейнеры для краткосрочных задач можно создавать на основе образов контейнеров и удалять их, когда они станут ненужными.

Возможности и преимущества

• Неизменяемая инфраструктура: позволяет командам DevOps использовать согласованный и надежный набор известных системных параметров, а также возможность адаптироваться к изменениям. Контейнеры обеспечивают гибкость и подвижность внутри прогнозируемой экосистемы, это позволяет обходиться без перенастройки.
• Контроль над данными. Выберите место обработки данных с помощью средств Foundry. Это может быть важно, если вы не можете отправлять данные в облако, но вам нужен доступ к API-интерфейсам средств Foundry. Поддержка согласованности в гибридной среде, в том числе данных, управления, идентификатора и безопасности.
• Контроль за обновлениями модели: гибкость в управлении версиями и обновлении моделей, которые клиенты применяют в своих решениях.
• Переносимая архитектура: возможность создания архитектуры переносимого приложения, которое можно развернуть в облаке, в локальной среде или на пограничных устройствах. Контейнеры можно развертывать непосредственно в Службе Azure Kubernetes, Экземплярах контейнеров Azure или в кластере Kubernetes, развернутом в Azure Stack. Дополнительные сведения см. в статье Развертывание Kubernetes в Azure Stack.
• Высокая пропускная способность или низкая задержка. Предоставление клиентам возможности масштабирования для обеспечения высокой пропускной способности и требований к низкой задержке, позволяя средствам Foundry выполнять физически близко к логике приложения и данным. Контейнеры не ограничивают число транзакций в секунду (TPS), и их можно увеличивать и уменьшать для удовлетворения спроса, предоставив необходимые аппаратные ресурсы.
• Масштабируемость: благодаря постоянно растущему спросу на программное обеспечение для управления контейнерами и их оркестрации, например Kubernetes; масштабируемость находится на переднем плане развития технологий. Основываясь на масштабируемой кластерной среде, разработка приложений предусматривает высокий уровень возможностей.

Контейнеры в Foundry Tools

Контейнеры Azure предоставляют следующий набор контейнеров Docker, каждый из которых содержит подмножество функциональных возможностей служб в Средствах Foundry. В приведенных ниже таблицах представлены описания и расположение образов.

Контейнеры принятия решений

Контейнеры для работы с языком

Контейнеры Речи

Контейнеры Компьютерного зрения

Кроме того, некоторые контейнеры поддерживаются в предложении ресурсов Foundry Tools. Вы можете создать один ресурс Foundry Tools и использовать один и тот же ключ выставления счетов в поддерживаемых службах для следующих служб:

• Vision
• ЛУИС
• Language

Необходимые компоненты

Перед использованием контейнеров Azure необходимо выполнить следующие предварительные требования:

Модуль Docker. Модуль Docker нужно установить в локальной среде. Docker предоставляет пакеты для настройки среды с Docker для macOS, Linux и Windows. В Windows Docker нужно настроить для поддержки контейнеров Linux. Контейнеры Docker можно также развертывать непосредственно в Службе Azure Kubernetes или Экземплярах контейнеров Azure.

Docker нужно настроить таким образом, чтобы контейнеры могли подключать и отправлять данные о выставлении счетов в Azure.

Опыт работы с Реестром контейнеров Майкрософт и Docker. Требуется базовое представление о Реестре контейнеров Майкрософт и понятиях Docker, таких как реестры, репозитории, контейнеры и образы контейнеров, а также знание основных команд docker.

Ознакомьтесь с общими сведениями о Docker и контейнерах.

Для некоторых контейнеров могут действовать дополнительные требования, в том числе к характеристикам сервера и (или) объему памяти.

Безопасность контейнеров средств Foundry

Безопасность должна быть основной задачей при разработке приложений. Принципы безопасности являются залогом успеха. При разработке программного решения, включающего контейнеры ИИ Azure, важно понимать ограничения и возможности, доступные для вас. Дополнительные сведения о сетевой безопасности см. в статье "Настройка виртуальных сетей Средств Foundry".

На следующей схеме показан подход по умолчанию и небезопасный подход.

В качестве примера альтернативного и безопасного подхода потребители контейнеров ИИ Azure могут расширить контейнер с внешним компонентом, сохраняя частную конечную точку контейнера. Рассмотрим ситуацию, когда мы используем Istio в качестве шлюза входящего трафика. Istio поддерживает HTTPS/TLS и проверку подлинности на основе сертификата клиента. В этом сценарии интерфейс Istio предоставляет доступ к контейнеру, представляя сертификат клиента, который утверждается заранее с помощью Istio.

Nginx — это еще один популярный вариант в той же категории. Как Istio, так и Nginx выступают в качестве уровня service mesh и предлагают дополнительные функции, такие как балансировка нагрузки, маршрутизация и контроль скорости.

Работа с контейнерами в сети

Контейнеры ИИ Azure необходимы для отправки сведений о счетчике в целях выставления счетов. Не упустите список различных сетевых каналов, на которые используются контейнеры ИИ Azure, не позволит контейнеру работать.

Домены и порты средств Allowlist Foundry

Узел должен разрешить порт 443 и следующие домены:

• *.cognitive.microsoft.com
• *.cognitiveservices.azure.com

Если вы используете службу перевода Azure в инструментах Foundry на локальном сервере, необходимо дополнительно разрешить следующие URL-адреса для скачивания файлов.

• translatoronprem.blob.core.windows.net

Отключение глубокой проверки пакетов

Глубокая проверка пакетов (DPI) — это тип обработки данных, который подробно проверяет данные, отправленные через компьютерную сеть, и обычно принимает меры, блокируя, перенаправляя или регистрируя их соответствующим образом.

Отключите DPI на защищенных каналах, создаваемых контейнерами ИИ Azure на серверах Майкрософт. В противном случае контейнер будет работать некорректно.

Примеры для разработчиков

Примеры для разработчиков доступны в нашем репозитории GitHub.

Следующие шаги

Узнайте о рецептах контейнеров , которые можно использовать с помощью средств Foundry.

Установите и изучите функциональные возможности, предоставляемые контейнерами в средстве Foundry:

• Контейнеры детектора аномалий
• Контейнеры для Vision
• Контейнеры распознавания речи (LUIS)
• Контейнеры службы Speech API
• Языковые контейнеры
• Контейнеры переводчика