Использование бессерверных вычислений GPU в Microsoft Dev Box

В этой статье объясняется, что такое бессерверные вычислительные ресурсы GPU, как она работает, и ключевые сценарии его использования. Бессерверные вычислительные ресурсы GPU в Microsoft Dev Box (предварительная версия) позволяют выполнять разработку с ускорением GPU без дополнительных настроек. Бессерверные вычислительные ресурсы GPU Dev Box позволяют разработчикам использовать ресурсы GPU по требованию без постоянной инфраструктуры или сложной настройки.

Распространенные сценарии для бессерверных вычислений GPU включают вычислительные рабочие нагрузки, такие как обучение модели ИИ, вывод и обработка данных. Бессерверные вычислительные ресурсы GPU позволяют:

• Используйте ресурсы GPU только в том случае, если они нужны
• Масштабирование ресурсов GPU на основе требований рабочей нагрузки
• Оплата только за используемое время GPU
• Работа в защищенной сетевой среде организации

Эта возможность интегрирует Microsoft Dev Box с приложениями контейнеров Azure для доставки мощности GPU, не требуя от разработчиков управления инфраструктурой.

Бессерверные вычисления GPU в Dev Box используют приложения контейнеров Azure (ACA). Когда разработчик запускает оболочку или средство с поддержкой GPU, Dev Box автоматически:

• Создает подключение к бессерверному сеансу GPU
• Подготавливает необходимые ресурсы GPU
• Делает эти ресурсы доступными через терминал разработчика или интегрированную среду разработки
• Автоматическое завершение сеанса при отсутствии необходимости

Prerequisites

• подписка Azure
• Microsoft.App зарегистрировано для вашей подписки
• Microsoft.CognitiveServices, зарегистрированные для подписки
• Центр разработки и проект
  • Дополнительные сведения о создании центра разработки и проекта см. в кратком руководстве по настройке Microsoft Dev Box
• Управляемое удостоверение службы (MSI), настроенное для центра разработки
  • Дополнительные сведения о настройке MSI см. в разделе "Управляемое удостоверение службы".

Настройка бессерверного GPU

Администраторы управляют бессерверным доступом GPU на уровне проекта через Центр разработки. К возможностям управления ключами относятся следующие возможности:

• Включение и отключение доступа к GPU. Управление тем, могут ли проекты использовать бессерверные ресурсы GPU.
• Задайте одновременные ограничения GPU: задайте максимальное количество GPU, которые можно использовать одновременно в проекте.

Доступ к бессерверным ресурсам GPU управляется с помощью свойств уровня проекта. Если для проекта включена бессерверная функция GPU, все поля разработки в этом проекте могут использовать вычислительные ресурсы GPU. Эта простая модель доступа удаляет потребность в пользовательских ролях или конфигурациях на основе пула.

Регистрация GPU без сервера в подписке

1. Войдите на портал Azure.
2. Перейдите к своей подписке.
3. Выберите функции предварительного>просмотра параметров.
4. Выберите "Dev Box Serverless GPU Preview" (Предварительная версия GPU dev Box без сервера) и нажмите кнопку "Регистрация".

Включение бессерверного GPU для проекта

1. Перейдите к своему проекту.
2. Выберите Настройки>Параметры поля разработки.
3. В разделе "Рабочие нагрузки ИИ" выберите "Включить", а затем нажмите кнопку "Применить".

Подключение к GPU

После включения бессерверного GPU пользователи Dev Box в этом проекте видят параметры GPU в средах терминала и Visual Studio (VS) Code.

Вы можете подключиться с помощью одного из следующих методов:

Метод 1: Запуск интерфейса Dev Box GPU

1. Откройте терминал Windows в поле разработки.
2. Выполните следующую команду:

   devbox gpu shell
   

3. Подключает вас к предварительно настроенном контейнеру GPU.

Метод 2. Использование VS Code с удаленными туннелями

1. Откройте терминал Windows в поле разработки.
2. Выполните следующую команду:

   devbox gpu shell
   

3. Запустите Visual Studio Code.
4. Установите расширение Remote Tunnels.
5. Подключитесь к туннелю gpu-session .

Связанный контент

• Развивайте разработки ИИ с использованием новых возможностей, основанных на искусственном интеллекте, в Microsoft Dev Box.
• Дополнительные сведения о бессерверных GPU для приложений контейнеров Azure