Планирование заданий конвейера машинного обучения

• Интерфейс командной строки Azure и расширение ml, установленные в соответствии с инструкциями из раздела «Установка, настройка и использование интерфейса командной строки (версия 2)».
• Знание создания YAML-конвейеров в Azure Machine Learning. Дополнительные сведения см. в статье Создание и запуск конвейеров машинного обучения с использованием компонентов в Azure Machine Learning CLI.

• Установлен Azure Machine Learning SDK v2 для Python.
• Знание создания пайплайнов Python для Azure Machine Learning. Дополнительные сведения см. в разделе "Создание и запуск конвейеров машинного обучения" с помощью компонентов с пакетом SDK Машинное обучение Azure.

• Знание того, как создавать пайплайны в Azure Machine Learning Studio. Дополнительные сведения см. в разделе "Создание и запуск конвейеров машинного обучения" с помощью компонентов с Студия машинного обучения Azure.

Примеры кода, приведенные в этой статье, взяты из работы с планировщиком в Azure Machine Learning CLI 2.0.

Примеры кода, приведенные в этой статье, представляют собой фрагменты из записной книжки "Работа с расписанием Машинное обучение Azure". Запустите записную книжку, чтобы создать расписания и управлять ими, как описано.

Чтобы создать расписание для задания конвейера Azure Machine Learning в пользовательском интерфейсе студии, откройте страницу сведений о конвейере задания.

Следующий код YAML определяет повторяющееся расписание для задачи конвейера. Обязательный type параметр указывает, что trigger тип имеет значение recurrence.

$schema: https://azuremlschemas.azureedge.net/latest/schedule.schema.json
name: simple_recurrence_job_schedule
display_name: Simple recurrence job schedule
description: a simple hourly recurrence job schedule

trigger:
  type: recurrence
  frequency: day #can be minute, hour, day, week, month
  interval: 1 #every day
  schedule:
    hours: [4,5,10,11,12]
    minutes: [0,30]
  start_time: "2022-07-10T10:00:00" # optional - default will be schedule creation time
  time_zone: "Pacific Standard Time" # optional - default will be UTC

create_job: ./simple-pipeline-job.yml
# create_job: azureml:simple-pipeline-job

Вы должны или можете указать следующие параметры расписания:

Следующий код использует RecurrenceTrigger для обеспечения лучшего опыта программирования.

schedule_name = "simple_sdk_create_schedule_recurrence"

schedule_start_time = datetime.utcnow()
recurrence_trigger = RecurrenceTrigger(
    frequency="day",
    interval=1,
    schedule=RecurrencePattern(hours=10, minutes=[0, 1]),
    start_time=schedule_start_time,
    time_zone=TimeZone.UTC,
)

job_schedule = JobSchedule(
    name=schedule_name, trigger=recurrence_trigger, create_job=pipeline_job
)

Вы должны или можете указать следующие параметры расписания:

Чтобы открыть мастер создания расписания, выберите Расписание>Создать новое расписание в верхней части страницы.

Параметры

• frequency (обязательно) — это единица времени, на основе которой осуществляется выполнение расписания. Может быть minutes, hours, days, weeks или months.
• interval (обязательно) — это количество единиц времени между повторением расписания.
• schedule(необязательно) определяет шаблон повторения, который может содержать hoursи minutesweekdays. Если это пропущено, задания активируются в соответствии с логикой start_time, frequency и interval.
  • Когда frequency и day шаблон может указывать hours и minutes.
  • Когда frequency это week или month, шаблон может указать hours, minutesи weekdays.
    • hours — целое число или список от 0 до 23.
    • minutes — целое число или список от 0 до 59.
    • weekdays — строка или список из mondaysunday.
• start_time (необязательно) — это дата и время начала с часовой поясом. Если опущено, значение по умолчанию равно времени создания расписания. Если время начала в прошлом, первое задание запускается в следующий вычисленный момент времени запуска.
• end_time (необязательно) — это дата окончания и время с часовой поясом. Если его не указать, расписание остается активным до тех пор, пока не будет отключено вручную.
• time_zone (необязательно) указывает часовой пояс расписания повторения. Если опущено, по умолчанию используется Всемирное координированное время (UTC). Дополнительные сведения о значениях часового пояса см. в приложении для значений часового пояса.

Чтобы определить расписание на основе повторения, на экране "Базовые параметры " определите следующие свойства. Только свойству Name требуется ввести значение. Если значения других свойств не указаны, расписание по умолчанию — это шаблон повторения, который начинается с момента создания расписания и выполняется с понедельника по пятницу в 16:00 по UTC.

• Имя: уникальный идентификатор расписания в рабочей области.
• Описание: описание расписания.
• Триггер: шаблон повторения расписания, включая следующие свойства:
  • Часовой пояс: часовой пояс, используемый для времени триггера, utc по умолчанию.
  • Выберите повторение и укажите повторяющийся шаблон минут, часов, дней, недель или месяцев.
  • Начало: Дата, когда расписание становится активным, по умолчанию это дата создания.
  • Конец: дата, когда расписание становится неактивным. По умолчанию значение не равно ни одному, а расписание остается активным до отключения вручную.
  • Теги: теги в расписании.

После создания расписания YAML используйте следующую команду, чтобы создать расписание с помощью ИНТЕРФЕЙСА командной строки:

# This action creates related resources for a schedule. It takes dozens of seconds to complete.
az ml schedule create --file simple-pipeline-job.yml --no-wait

Следующий код Python создает определенное расписание:

job_schedule = ml_client.schedules.begin_create_or_update(
    schedule=job_schedule
).result()
print(job_schedule)

После настройки основных параметров нажмите кнопку "Просмотр и создание", просмотрите параметры и нажмите кнопку "Проверить и создать еще раз", чтобы создать расписание.

Следующий код YAML определяет повторяющееся расписание для задачи конвейера. Обязательный type параметр указывает, что trigger тип имеет значение cron.

$schema: https://azuremlschemas.azureedge.net/latest/schedule.schema.json
name: simple_cron_job_schedule
display_name: Simple cron job schedule
description: a simple hourly cron job schedule

trigger:
  type: cron
  expression: "0 * * * *"
  start_time: "2022-07-10T10:00:00" # optional - default will be schedule creation time
  time_zone: "Pacific Standard Time" # optional - default will be UTC

# create_job: azureml:simple-pipeline-job
create_job: ./simple-pipeline-job.yml

Вы должны или можете указать следующие параметры расписания:

Следующий код использует CronTrigger для обеспечения лучшего опыта программирования.

schedule_name = "simple_sdk_create_schedule_cron"

schedule_start_time = datetime.utcnow()
cron_trigger = CronTrigger(
    expression="15 10 * * *",
    start_time=schedule_start_time,  # start time
    time_zone="Eastern Standard Time",  # time zone of expression
)

job_schedule = JobSchedule(
    name=schedule_name, trigger=cron_trigger, create_job=pipeline_job
)

Вы должны или можете указать следующие параметры расписания:

Чтобы определить расписание на основе cron, выберите выражение Cron вместо повторения на экране "Основные параметры " для расписания.

Параметры

• expression (обязательно) — это стандартное выражение crontab, которое выражает повторяющееся расписание.
• start_time (необязательно) — это дата начала расписания и время с часовой поясом. Например, означает, start_time: "2022-05-10T10:15:00-04:00" что расписание начинается с 10:15:00 10 мая 2022 года в часовом поясе UTC-4. Если опущено, значение по умолчанию равно времени создания расписания. Если время начала в прошлом, первое задание запускается в следующий вычисленный момент времени запуска.
• end_time (необязательно) — это дата окончания и время с часовой поясом. Если его не указать, расписание остается активным до тех пор, пока не будет отключено вручную.
• time_zone (необязательно) указывает часовой пояс расписания повторения. Если опущено, значение по умолчанию — UTC.

Только свойству Name требуется ввести значение. Если не указано выражение cron, по умолчанию создается расписание, которое выполняется ежедневно в 16:00 по UTC.

• Имя: уникальный идентификатор расписания в рабочей области.
• Описание: описание расписания.
• Триггер: шаблон повторения расписания, включая следующие свойства:
  • Часовой пояс: часовой пояс, используемый для времени триггера, по умолчанию координированное универсальное время (UTC).
  • Выберите выражение Cron и укажите стандартное выражение crontab, которое выражает повторяющееся расписание.
  • Начало: Дата, когда расписание становится активным, по умолчанию это дата создания.
  • Конец: дата, когда расписание становится неактивным. По умолчанию значение равно ни одному, а расписание остается активным до тех пор, пока вы не отключите его вручную.
  • Теги: теги в расписании.

После создания расписания YAML используйте следующую команду, чтобы создать расписание с помощью ИНТЕРФЕЙСА командной строки:

# This action creates related resources for a schedule. It takes dozens of seconds to complete.
az ml schedule create --file simple-pipeline-job.yml --no-wait

Следующий код Python создает определенное расписание:

job_schedule = ml_client.schedules.begin_create_or_update(
    schedule=job_schedule
).result()
print(job_schedule)

После настройки основных параметров нажмите кнопку "Просмотр и создание", просмотрите параметры и нажмите кнопку "Проверить и создать еще раз", чтобы создать расписание.

При определении расписания, можно изменить settings, inputs или outputs, чтобы использовать при выполнении задания конвейера. Вы также можете изменить experiment_name в триггерном задании.

Следующее определение расписания изменяет параметры существующего задания.

$schema: https://azuremlschemas.azureedge.net/latest/schedule.schema.json
name: cron_with_settings_job_schedule
display_name: Simple cron job schedule
description: a simple hourly cron job schedule

trigger:
  type: cron
  expression: "0 * * * *"
  start_time: "2022-07-10T10:00:00" # optional - default will be schedule creation time
  time_zone: "Pacific Standard Time" # optional - default will be UTC

create_job: 
  type: pipeline
  job: ./simple-pipeline-job.yml
  # job: azureml:simple-pipeline-job
  # runtime settings
  settings:
    #default_compute: azureml:cpu-cluster
    continue_on_step_failure: true
  inputs:
    hello_string_top_level_input: ${{name}} 
  tags: 
    schedule: cron_with_settings_schedule

При определении расписания, можно изменить settings, inputs или outputs, чтобы использовать при выполнении задания конвейера. Вы также можете изменить experiment_name в триггерном задании.

Следующее определение расписания изменяет параметры конвейера для каждого задания.

# set run time settings
pipeline_job = pipeline_with_components_from_yaml(
    training_input=Input(type="uri_folder", path=parent_dir + "/data/"),
    test_input=Input(type="uri_folder", path=parent_dir + "/data/"),
    training_max_epochs=20,
    training_learning_rate=1.8,
    learning_rate_schedule="time-based",
)

# set pipeline level compute
pipeline_job.settings.default_compute = "cpu-cluster"

В пользовательском интерфейсе студии можно использовать дополнительные параметры в мастере создания расписания для изменения inputs, outputs, и среды выполнения settings для задания в конвейере. Вы не можете изменить experiment_name в пользовательском интерфейсе студии.

1. В входные и выходные данные задания можно внести изменения для будущих заданий, запланированных по расписанию. Для входных и выходных путей можно использовать макросовые выражения.

   

2. В параметрах среды выполнения задания можно изменить вычислительные ресурсы и другие параметры среды выполнения для заданий, активированных расписанием.

   

3. Выберите "Рецензирование и создание ", чтобы просмотреть настроенные параметры расписания, а затем нажмите кнопку "Проверить и создать еще раз", чтобы создать расписание.

   

az ml schedule list

schedules = ml_client.schedules.list()
[s.name for s in schedules]

В разделе "Задания " в студии выберите вкладку "Все расписания" , чтобы просмотреть список всех расписаний заданий версии 2, созданных пакетом SDK, CLI или пользовательским интерфейсом студии в этой рабочей области.

az ml schedule show -n simple_cron_job_schedule

created_schedule = ml_client.schedules.get(name=schedule_name)
[created_schedule.name]

Выберите имя расписания, чтобы отобразить страницу сведений о расписании, содержащую следующие вкладки:

• Общие сведения о расписании.

  

• Определение задания определяет задание, которое запускается расписанием.

  

• Журнал заданий содержит список всех заданий, активированных расписанием.

  

az ml schedule update -n simple_cron_job_schedule  --set description="new description" --no-wait

# Update trigger expression
job_schedule.trigger.expression = "10 10 * * 1"
job_schedule = ml_client.schedules.begin_create_or_update(
    schedule=job_schedule
).result()
print(job_schedule)

На странице сведений о расписании можно выбрать параметры обновления, чтобы обновить параметры расписания, включая входные и выходные данные задания и параметры среды выполнения.

Обновление конвейера новой версии в соответствии с существующим расписанием

После настройки расписания для регулярного переобучения или пакетного вывода в рабочей среде можно продолжить настройку или оптимизацию модели. При наличии новой версии конвейера с оптимизированной производительностью можно обновить его для выполнения по существующему расписанию.

1. На странице сведений о задании конвейера новой версии выберите Запланировать>Обновление до существующего расписания.

   

2. Выберите существующее расписание для обновления определения задания.

   

   Внимание

   Убедитесь, что вы выбрали правильное расписание, которое вы хотите обновить.

3. При необходимости нажмите кнопку "Далее ", чтобы изменить входные и выходные данные задания и параметры среды выполнения для будущих заданий, активированных расписанием.

4. Выберите "Рецензирование и обновление ", чтобы просмотреть параметры расписания, а затем нажмите кнопку "Проверить и обновить " еще раз, чтобы завершить обновление.

После завершения обновления можно просмотреть новое определение задания на странице сведений о расписании. Теперь расписание активирует новое задание.

az ml schedule disable -n simple_cron_job_schedule --no-wait

Следующий код возвращает False:

job_schedule = ml_client.schedules.begin_disable(name=schedule_name).result()
job_schedule.is_enabled

Вы можете отключить расписания на вкладке "Все расписания" или отключить текущее расписание на странице сведений о расписании.

az ml schedule enable -n simple_cron_job_schedule --no-wait

Следующий код возвращает True:

job_schedule = ml_client.schedules.begin_enable(name=schedule_name).result()
job_schedule.is_enabled

Вы можете включить расписания на вкладке "Все расписания" или включить текущее расписание на странице сведений о расписании.

az ml schedule delete -n simple_cron_job_schedule

# Only disabled schedules can be deleted
ml_client.schedules.begin_disable(name=schedule_name).result()
ml_client.schedules.begin_delete(name=schedule_name).result()

Вы можете удалить расписания на вкладке "Все расписания" или удалить текущее расписание на странице сведений о расписании.