Использование контейнеров Docker для распознавания языка в локальной среде

Контейнеры позволяют разместить API распознавания языка в собственной инфраструктуре. При наличии требований к безопасности или управлению данными, которые невозможно выполнить путем удаленного вызова функции распознавания языка, контейнеры могут оказаться удобным вариантом.

Предварительные условия

• Если у вас еще нет подписки Azure, создайте бесплатную учетную запись.
• Docker, установленный на главном компьютере. Docker нужно настроить таким образом, чтобы контейнеры могли подключать и отправлять данные о выставлении счетов в Azure.
  • В Windows для поддержки контейнеров Linux также должен быть настроен Docker.
  • У вас должно быть базовое представление о концепциях Docker.
• Ресурс языка с бесплатной ценовой категорией (F0) или ценовой категории "Стандартный" (S).

Сбор обязательных параметров

Требуются три основных параметра для всех контейнеров ИИ Azure. Для условий лицензионного соглашения на использование программного обеспечения корпорации Майкрософт должно быть задано значение accept. Также требуются URI конечной точки и ключ API.

URI конечной точки

Это {ENDPOINT_URI} значение доступно на странице Обзор портале Azure соответствующего ресурса служб ИИ Azure. Перейдите на страницу обзора, наведите указатель мыши на конечную точку и появится значок копирования в буфер обмена. Скопируйте и используйте конечную точку по мере необходимости.

Ключи

Значение {API_KEY} используется для запуска контейнера и доступно на странице Ключи портала Azure, соответствующей ресурсу служб ИИ Azure. Перейдите на страницу «Ключи» и выберите значок копирования в буфер обмена.

Требования к главному компьютеру и рекомендации

Хост — это компьютер на архитектуре x64, на котором выполняется контейнер Docker. Это может быть компьютер в локальной среде или служба размещения Docker в Azure, включая следующие решения:

• Служба Azure Kubernetes.
• Экземпляры контейнеров Azure.
• Кластер Kubernetes, развернутый в Azure Stack. Дополнительные сведения см. в статье Развертывание Kubernetes в Azure Stack.

В нижеприведенной таблице описаны минимальные и рекомендуемые характеристики для контейнера распознавания языка. Частота каждого ядра ЦП должна быть минимум 2,6 ГГц. Также указано допустимое количество транзакций в секунду (TPS).

Ядро и память соответствуют параметрам --cpus и --memory, которые используются как часть команды docker run.

Получение образа контейнера с помощью docker pull

Образ контейнера для обнаружения языка можно найти в реестре контейнеров синдиката mcr.microsoft.com. Он находится в репозитории azure-cognitive-services/textanalytics/ и называется language. Полное имя образа контейнера — mcr.microsoft.com/azure-cognitive-services/textanalytics/language.

Чтобы использовать последнюю версию контейнера, можно использовать latest тег. Полный список тегов также представлен в MCR.

Воспользуйтесь командой docker pull, чтобы скачать образ контейнера из Microsoft Container Registry.

docker pull mcr.microsoft.com/azure-cognitive-services/textanalytics/language:latest

docker images --format "table {{.ID}}\t{{.Repository}}\t{{.Tag}}"

IMAGE ID         REPOSITORY                TAG
<image-id>       <repository-path/name>    <tag-name>

Запуск контейнера с помощью команды docker run

После добавления контейнера на главный компьютер используйте команду docker run для запуска контейнеров. После запуска контейнер продолжит работу, пока вы его не остановите.

Чтобы запустить контейнер распознавания языка, выполните следующую команду docker run. Замените значения заполнителей ниже на собственные.

docker run --rm -it -p 5000:5000 --memory 4g --cpus 1 \
mcr.microsoft.com/azure-cognitive-services/textanalytics/language \
Eula=accept \
Billing={ENDPOINT_URI} \
ApiKey={API_KEY}

Команда:

• запускает контейнер распознания языка из образа контейнера;
• выделяет одно ядро ЦП и 4 ГБ памяти;
• открывает TCP-порт 5000 и выделяет псевдотерминал для контейнера.
• автоматически удаляет контейнер после выхода. Образ контейнера остается доступным на главном компьютере.

Запуск нескольких контейнеров на одном узле

Если вы планируете запускать несколько контейнеров при открытых портах, обязательно назначьте каждому контейнеру отдельный открытый порт. Например, запускайте первый контейнер на порте 5000, а второй — на порте 5001.

Вы можете использовать этот контейнер и другой контейнер служб ИИ Azure, работающих одновременно на узле HOST. Кроме того, можно использовать несколько контейнеров одного и того же контейнера служб искусственного интеллекта Azure.

Запрос конечной точки прогнозирования контейнера

Контейнер предоставляет API на основе REST для конечных точек прогнозирования запросов.

Используйте узел http://localhost:5000 для API контейнера.

Убедитесь, что контейнер запущен

Есть несколько способов проверить, что контейнер работает. Найдите адрес Внешний IP-адрес и открытый порт для данного контейнера и откройте ваш любимый веб-браузер. Используйте приведенные ниже URL-адреса запросов, чтобы убедиться, что контейнер работает. В примерах в качестве URL-адресов запросов используется значение http://localhost:5000, однако ваш конкретный контейнер может иметь отличия. Убедитесь, что вы полагаетесь на внешний IP-адрес и открытый порт вашего контейнера.

Запуск контейнера, отключенного от Интернета

Чтобы использовать этот контейнер, отключенный от Интернета, необходимо сначала запросить доступ, заполнив приложение и приобретя план обязательств. Дополнительные сведения см. в разделе "Использование контейнеров Docker в отключенных средах ".

Если вы были утверждены для запуска контейнера, отключенного от Интернета, в следующем примере показано форматирование используемой docker run команды с значениями заполнителей. Замените значения-заполнители собственными значениями.

Параметр DownloadLicense=True в docker run команде скачит файл лицензии, который позволит запустить контейнер Docker, если он не подключен к Интернету. Он также содержит дату окончания срока действия, после которой файл лицензии станет недопустимым для запуска контейнера. Вы можете использовать файл лицензии только с тем контейнером, для которого получено утверждение. Например, нельзя использовать файл лицензии для контейнера преобразования речи в текст с контейнером анализа документов.

docker run --rm -it -p 5000:5000 \ 
-v {LICENSE_MOUNT} \
{IMAGE} \
eula=accept \
billing={ENDPOINT_URI} \
apikey={API_KEY} \
DownloadLicense=True \
Mounts:License={CONTAINER_LICENSE_DIRECTORY} 

После скачивания файла лицензии можно запустить контейнер в среде без подключения к Интернету. В следующем примере показано форматирование команды docker run, которую вы используете, со значениями-заполнителями. Замените значения-заполнители собственными значениями.

Независимо от того, где выполняется контейнер, файл лицензии должен быть подключен к контейнеру, а расположение папки лицензии в локальной файловой системе контейнера необходимо указать с помощью Mounts:License=. Кроме того, необходимо указать выходное подключение, чтобы можно было записывать сведения об использовании для выставления счетов.

docker run --rm -it -p 5000:5000 --memory {MEMORY_SIZE} --cpus {NUMBER_CPUS} \ 
-v {LICENSE_MOUNT} \ 
-v {OUTPUT_PATH} \
{IMAGE} \
eula=accept \
Mounts:License={CONTAINER_LICENSE_DIRECTORY}
Mounts:Output={CONTAINER_OUTPUT_DIRECTORY}

Остановка контейнера

Чтобы завершить работу контейнера, в среде командной строки, где выполняется контейнер, нажмите комбинацию клавиш Ctrl+C.

Устранение неполадок

Если контейнер запускается с выходным подключением и включенным ведением журнала, контейнер создает файлы журнала, которые удобно использовать для устранения неполадок, возникающих во время запуска или работы контейнера.

Выставление счетов

Контейнеры распознавания языка отправляют данные для выставления счетов в Azure с помощью ресурса Язык в учетной записи Azure.

Запросы к контейнеру оплачиваются согласно ценовой категории ресурса Azure, используемого для параметра ApiKey.

Контейнеры служб искусственного интеллекта Azure не лицензируются для запуска без подключения к конечной точке измерения или выставления счетов. Вам необходимо разрешить контейнерам постоянное взаимодействие с конечной точкой выставления счетов для передачи финансовой информации. Контейнеры служб искусственного интеллекта Azure не отправляют данные клиентов, такие как изображение или текст, которые анализируются, в корпорацию Майкрософт.

Подключение к Azure

Для запуска контейнера необходимо указать значения аргументов, касающихся выставления счетов. Эти значения обеспечивают подключение контейнера к конечной точке выставления счетов. Контейнер сообщает об использовании примерно каждые 10—15 минут. Если контейнер не подключится к Azure в течение допустимого периода времени, контейнер будет продолжать работать, но не будет обслуживать запросы, пока не будет восстановлена конечная точка выставления счетов. Попытки подключения выполняются 10 раз на протяжении одинакового интервала времени (10–15 минут). Если контейнеру не удается подключиться к конечной точке выставления счетов за 10 попыток, он перестаёт обрабатывать запросы. См. часто задаваемые вопросы о контейнере служб искусственного интеллекта Azure, чтобы узнать пример информации, отправляемой в Microsoft для выставления счетов.

Аргументы для выставления счетов

Команда docker run запустит контейнер, когда все три из следующих параметров предоставляются допустимыми значениями:

Дополнительные сведения об этих параметрах см. в статье Настройка контейнеров.

Итоги

Из этой статьи вы узнали основные понятия и рабочий процесс, позволяющий скачивать, устанавливать и запускать контейнеры распознавания языка. Сводка:

• Служба распознавания языка предоставляет контейнеры Linux для Docker.
• Образы контейнеров скачиваются из Реестра контейнеров Майкрософт (MCR).
• Образы контейнеров выполняются в Docker.
• При инициализации контейнера нужно указать платежную информацию.

Следующие шаги

• Параметры конфигурации см. в разделе Конфигурация контейнеров.