Версии моделей в моделях Microsoft Foundry

Microsoft Модели Foundry регулярно выпускают новые версии моделей, которые включают последние функции и улучшения от поставщиков моделей. В этой статье объясняется, как работает версионирование моделей, какие политики обновления доступны для ваших развертываний, и как управляются версии моделей Azure OpenAI и партнерских моделей.

После чтения этой статьи вы узнаете, какую политику обновления следует выбрать при развертывании модели, как Azure автоматически управлять обновлениями версий и как управление версиями модели партнера отличается от управления версиями Azure OpenAI.

Как работают версии модели

Вы можете начать с конкретной версии модели и оставаться на ней или автоматически обновляться по мере выпуска новых версий.

Существует две разные версии, которые следует учитывать при работе с моделями:

• Версия модели как таковой
• Версия API, используемая для развертывания модели.

Версия модели

Политики обновления настраиваются при развертывании модели на портале Foundry. Вы также можете изменить политику позже в параметрах развертывания. Политики обновления настраиваются для каждого развертывания и зависят от модели и поставщика.

Политики обновления версий включают следующие параметры:

• Для развертываний, установленных для отказа от автоматического обновления версий модели, требуется обновление вручную, если выпущена новая версия. Когда модель выведена из эксплуатации, эти развертывания перестают работать.
• Развертывания, настроенные на обновление, как только новая версия по умолчанию становится доступной, автоматически обновляются для использования новой версии по умолчанию.
• Развертывания, установленные на когда текущая версия истекает, автоматически обновляются при её снятии с использования.

Например, развертывание gpt-4o может быть нацелено на версию 2024-08-06. Когда версия 2024-11-20 станет доступной, развертывания, установленные для автоматического обновления, автоматически переходят на новую версию.

Чтобы проверить текущую версию развертывания, используйте любой из следующих методов:

• Портал Foundry: перейдите к развертыванию на портале Foundry, а затем откройте вкладку "Сведения", чтобы просмотреть текущую версию модели.
• REST API. Запрос конечной точки развертываний для ресурса. Ответ включает версию модели для каждого развертывания.

Версия API, используемая для обращения к развернутой модели

Версия API указывает контракт, используемый для взаимодействия с моделью в коде. При использовании REST API указывается версия API с помощью параметра api-versionзапроса. Azure SDK версии обычно связаны с определенными версиями API, но можно указать версию API, которую вы хотите использовать.

Развертывание данной модели может поддерживать несколько версий API. Выпуск новой версии модели не всегда требует обновления до новой версии API, например, когда обновляются веса модели. Azure поддерживает предыдущую основную версию модели до даты выхода на пенсию, чтобы при необходимости вернуться к ней.

обновления модели OpenAI Azure

Azure тесно работает с OpenAI для выпуска новых версий модели. При выпуске новой версии модели можно немедленно протестировать ее в новых развертываниях. Azure публикует информацию о выпуске новых версий моделей и уведомляет клиентов по крайней мере за две недели до того, как новая версия станет версией по умолчанию. Azure также поддерживает предыдущую основную версию модели до даты выхода на пенсию, чтобы клиенты могли вернуться к ней при желании.

Подготовка к обновлению версий модели OpenAI Azure

Как пользователи моделей OpenAI в Azure, вы можете заметить некоторые изменения в поведении моделей и их работоспособности после обновления версии. Эти изменения могут повлиять на приложения и рабочие процессы, основанные на моделях. Ниже приведены некоторые советы, которые помогут вам подготовиться к обновлению версий и свести к минимуму влияние.

• Ознакомьтесь с новыми и моделями , чтобы понять изменения и новые возможности.
• Ознакомьтесь с документацией по развертыванию моделей Foundry и обновлениям версий , чтобы понять, как работать с версиями моделей.
• Протестируйте приложения и рабочие процессы с новой версией модели после выпуска.
• Обновите код и конфигурацию, чтобы использовать новые функции и возможности новой версии модели.

Произойдет ли обновление модели, если новая версия модели еще не доступна в этом регионе?

Да, даже в тех случаях, когда последняя версия модели еще не доступна в регионе, Azure автоматически обновляет развертывания во время запланированного периода обновления. Наша инженерная команда начинает развертывание новой версии модели, начиная с объявленной даты обновления. Например, если gpt-35-turbo-0125 еще недоступен в Восточной Японии, инженерная группа Azure развертывает gpt-35-turbo-0125 в Восточной Японии для обновления старых версий моделей в рамках процесса обновления версии модели по умолчанию.

Обновления модели партнеров

Azure тесно работает с поставщиками моделей для выпуска новых версий модели. При выпуске новой версии модели можно немедленно протестировать ее в новых развертываниях.

Новые версии модели могут привести к публикации нового идентификатора модели. Например, Meta-Llama-3-70B-Instruct и Meta-Llama-3.1-70B-Instruct оба были сняты в отставку в пользу Llama-3.3-70B-Instruct. В каждом поколении используется другой идентификатор модели. В некоторых случаях все версии модели могут быть доступны в одной версии API. В других случаях также может потребоваться изменить версию API, используемую для использования модели, так как контракт API может измениться с одной модели на другую.

Что происходит при выходе моделей на пенсию

Когда версия модели достигнет даты выхода на пенсию, то, что происходит дальше, зависит от политики обновления, настроенной для этого развертывания:

• Отказ от автоматического обновления версий модели: развертывание перестает принимать запросы и возвращает ошибки после вывода модели из эксплуатации. Обновите развертывание до поддерживаемой версии модели до даты выхода на пенсию, чтобы избежать прерывания работы службы.
• Обновление после того, как новая версия по умолчанию станет доступной: развертывание автоматически обновляется до текущей версии по умолчанию. Никаких действий не требуется.
• После истечения срока действия текущей версии развертывание автоматически обновляется до следующей доступной версии после истечения срока действия текущей версии.

Azure уведомляет вас о предстоящем устаревании через электронную почту для владельцев подписки и участников, оповещения Работоспособность служб Azure и предстоящие таблицы устаревания в Model отмены и устаревания для моделей Microsoft Foundry.

Связанное содержимое

• Модели Foundry, продаваемые непосредственно Azure
• Модели литейни от партнеров и сообщества
• Устаревание и вывод из эксплуатации моделей Microsoft Foundry
• Развертывание моделей Foundry
• Типы развертывания в модели Foundry