Создание сеансов вычислений потока запросов и управление ими на портале Foundry Microsoft (классический)

Применяется только к:Портал Foundry (классический). Эта статья недоступна для нового портала Foundry. Дополнительные сведения о новом портале.

Для выполнения потоков запросов требуется вычислительный сеанс. Используйте Microsoft Foundry для создания сеансов вычислений потока запросов и управления ими.

Сеанс вычислений в контексте потока запросов включает в себя вычислительные ресурсы, необходимые для работы приложения, в том числе образ Docker, содержащий все нужные пакеты зависимостей. Помимо выполнения потока, Foundry использует сеанс вычислений для обеспечения точности и функциональности инструментов, включенных в поток при внесении обновлений в содержимое запроса или кода.

Необходимые условия

• Учетная запись Azure с активной подпиской. Если у вас нет, создайте учетную запись free Azure, которая включает бесплатную пробную подписку.
• Если у вас нет одного, создайте проект на основе концентратора.

Создание сеанса вычислений

При запуске сеанса вычислений можно использовать параметры по умолчанию или настроить дополнительные параметры.

Запуск сеанса вычислений с параметрами по умолчанию

По умолчанию вычислительный сеанс использует среду, определенную в flow.dag.yamlпапке потока. Он выполняется на бессерверных вычислениях с размером виртуальной машины, для которого в рабочей области достаточно квоты.

1. Перейдите к проекту на портале Foundry.
2. В левой области выберите Prompt flow и выберите поток, который вы хотите запустить.
3. На верхней панели инструментов потока запроса выберите "Пуск сеанса вычислений".

Запуск сеанса вычислений с дополнительными параметрами

В расширенных параметрах можно выбрать тип вычислений. Вы можете выбрать между бессерверными вычислениями и вычислительным экземпляром.

1. Перейдите к проекту на портале Foundry.

2. В левой области выберите Prompt flow и выберите поток, который вы хотите запустить.

3. На верхней панели инструментов потока запроса щелкните стрелку раскрывающегося списка в правой части кнопки "Запуск сеанса вычислений ". Выберите "Начать с дополнительных параметров" , чтобы настроить сеанс вычислений.

   

   Вы можете выбрать между бессерверными вычислениями и вычислительным экземпляром.

   • При выборе бессерверных вычислений можно задать следующие параметры:

     • Настройте размер виртуальной машины, используемой сеансом вычислений.
     • Настройте время простоя, которое сохраняет код путем автоматического удаления сеанса вычислений, если он не используется.
     • Задайте управляемое удостоверение, назначаемое пользователем. Сеанс вычислений использует этот идентификатор для извлечения базового образа и установки пакетов. Убедитесь, что назначенное пользователем управляемое удостоверение имеет разрешение на вытягивание из Реестр контейнеров Azure.

     Если идентификация, назначаемая пользователем, не задана, поток ввода по умолчанию использует идентификацию пользователя. Узнайте больше о том, как создавать и обновлять пользовательские идентификаторы для рабочего пространства.

     

   • При выборе вычислительного экземпляра можно задать только время отключения при простое.

     • Так как это существующий вычислительный экземпляр, размер виртуальной машины зафиксирован и не может измениться в пределах сеанса вычислений.

     • Удостоверение, используемое для этого сеанса вычислений, также определяется в вычислительном экземпляре, по умолчанию использует удостоверение пользователя. Дополнительные сведения о назначении удостоверения вычислительной среде

     • Время простоя используется для определения жизненного цикла сеанса вычислений. Если сеанс вычислений неактивен в течение заданного времени, он удаляется автоматически. Если в вычислительном экземпляре включена опция автоматического завершения работы при простое, он выключается, но не удаляется из системы.

       

4. Нажмите Далее, чтобы задать настройки базового образа. Используйте базовый образ по умолчанию или укажите пользовательский базовый образ. Если выбрать настраиваемый базовый образ, укажите URL-адрес изображения и тег изображения. Поддерживаются только образы в общедоступном реестре Docker или Реестр контейнеров Azure (ACR). Если в ACR указан образ, убедитесь, что у вас (или у пользователя, назначаемого пользователем) разрешение на вытягивание ACR.

5. Нажмите Далее, чтобы просмотреть параметры.

6. Нажмите кнопку "Применить" и запустите сеанс вычислений , чтобы запустить сеанс вычислений.

Управление вычислительным сеансом

Чтобы управлять сеансом вычислений, выберите сеанс вычислений, запущенный на верхней панели инструментов страницы потока:

• Изменение параметров сеанса вычислений открывает страницу конфигурации сеанса вычислений, где можно определить сторону виртуальной машины и время простоя для сеанса вычислений.
• Установка пакетов из requirements.txt Открывается requirements.txt в пользовательском интерфейсе потока запросов, чтобы можно было добавлять пакеты.
• Просмотр установленных пакетов показывает пакеты , установленные в сеансе вычислений. Он включает интегрированные в базовый образ пакеты, а также пакеты, указанные в requirements.txt файле в папке потока.
• Сброс вычислительного сеанса удаляет текущий вычислительный сеанс и создает новый с той же средой. Если возникнет конфликт пакета, можно попробовать эту опцию.
• Остановка сеанса вычислений удаляет текущий вычислительный сеанс. Если в базовом бессерверном вычислении нет активного сеанса вычислений, ресурс вычислений также удаляется. Если сеанс вычислений находится в вычислительном экземпляре, остановка сеанса позволяет экземпляру перестать работать.

Вы можете настроить среду, используемую для выполнения этого потока, добавив пакеты в файл requirements.txt, находящийся в папке потока. После добавления дополнительных пакетов в этот файл выберите один из следующих вариантов:

• Сохраните и установите триггеры pip install -r requirements.txt в папке потока. Процесс может занять несколько минут в зависимости от установленных пакетов.
• Сохранение только сохраняет requirements.txt файл. Вы можете установить пакеты позже.

Добавление пакетов в частный канал в Azure DevOps

Если вы хотите использовать частный веб-канал в Azure DevOps, выполните следующие действия.

1. Создайте назначаемое пользователем управляемое удостоверение и добавьте это удостоверение в организацию "Azure DevOps". Дополнительные сведения см. в разделе Использование субъектов-служб и управляемых удостоверений.

   Примечание

   Если кнопка "Добавить пользователей " не отображается, у вас, вероятно, нет необходимых разрешений для выполнения этого действия.

2. Добавьте или обновите удостоверения, назначенные пользователем, в ваш проект.

3. Добавьте {private} в URL-адрес частного веб-канала. Например, если вы хотите установить test_package из test_feed в Azure DevOps, добавьте -i https://{private}@{test_feed_url_in_azure_devops} в requirements.txt:

   -i https://{private}@{test_feed_url_in_azure_devops}
   test_package
   

4. Укажите управляемое удостоверение, назначаемое пользователем, в меню "Пуск" с дополнительными параметрами , если сеанс вычислений не запущен, или нажмите кнопку "Изменить ", если сеанс вычислений запущен.

   

Изменение базового образа

По умолчанию в качестве базового образа используется последний образ потока запроса. Если вы хотите использовать другой базовый образ, необходимо создать собственный базовый образ. Образ Docker должен быть построен из базового образа Prompt Flow mcr.microsoft.com/azureml/promptflow/promptflow-runtime:<newest_version>. Если возможно, используйте последнюю версию базового образа.

1. Откройте последовательность приглашений.

2. На верхней панели инструментов выберите режим необработанного файла , чтобы включить редактирование в редакторе файлов.

3. Откройте раздел "Файлы" и выберите flow.dag.yaml.

   

4. Укажите изображение в environment разделе flow.dag.yaml файла. Например, чтобы использовать изображение <your-custom-image>, добавьте следующий код:

   environment:
       image: <your-custom-image>
       python_requirements_txt: requirements.txt
   

Обновление среды выполнения вычислительного экземпляра

Если вы ранее создали среду выполнения вычислительного экземпляра, переключите ее на вычислительный сеанс, выполнив следующие действия.

• Подготовьте файл requirements.txt в каталоге потока. Дополнительные сведения см. в разделе "Управление сеансом вычислений".

• Если вы создали настраиваемую среду, получите изображение на странице сведений о среде и укажите его в flow.dag.yaml файле в папке потока. Дополнительные сведения см. в разделе "Изменение базового образа". Убедитесь, что у вас есть acr pull разрешение на изображение.

• Вы можете продолжать использовать существующий вычислительный экземпляр, если вы хотите вручную управлять жизненным циклом.

Связанные ресурсы

• Дополнительные сведения о потоке запросов
• Разработка потока
• Разработка потока оценки