Точное настройка моделей с помощью управляемых вычислений (предварительная версия) (классическая версия)

Применяется только к:Портал Foundry (классический). Эта статья недоступна для нового портала Foundry. Дополнительные сведения о новом портале.

Узнайте, как настроить и развернуть модели с помощью управляемых вычислений в Microsoft Foundry. Настройте параметры обучения (скорость обучения, размер пакета, эпохи), чтобы оптимизировать производительность.

Предварительная настройка предварительно обученной модели для связанной задачи эффективнее, чем обучение новой модели с нуля.

Используйте параметры точной настройки на портале для настройки данных, вычислений и гиперпараметров. После завершения обучения можно оценить и развернуть полученную модель.

В этой статье описано, как:

• Выберите базовую модель.
• Настройте разделение вычислительных ресурсов и данных.
• Безопасно настройте гиперпараметры.
• Отправьте и отслеживайте задачу по точной настройке.
• Оцените и разверните настраиваемую модель.

Необходимые условия

• Учетная запись Azure с активной подпиской. Если у вас нет, создайте учетную запись free Azure, которая включает бесплатную пробную подписку.
• Если у вас нет одного, создайте проект на основе концентратора.

• Azure управления доступом на основе ролей (Azure RBAC) используются для предоставления доступа к операциям на портале Foundry. Чтобы выполнить действия, описанные в этой статье, учетная запись пользователя должна быть назначена ролью владелец или участник для подписки Azure. Дополнительные сведения о разрешениях см. в разделе Управление доступом на основе ролей портала Foundry.

Настройка базовой модели с помощью управляемых вычислений

1. Войдите в Microsoft Foundry. Убедитесь, что переключатель New Foundry отключен. Эти шаги относятся к Foundry (classic).

   

2. Если вы еще не находитесь в проекте, выберите его.

3. Выберите Тонкая настройка на левой панели.

   1. Выберите точную настройку модели и добавьте модель, которую вы хотите дополнительно доработать. В этой статье используется Phi-3-mini-4k-instruct в качестве примера.
   2. Выберите Далее, чтобы просмотреть доступные параметры точной настройки. Некоторые базовые модели поддерживают только управляемые вычисления.

4. Кроме того, можно выбрать каталог моделей на левой боковой панели проекта и найти карточку модели базовой модели, которую вы хотите точно настроить.

   1. Выберите "Точно настроить" на карточке модели, чтобы просмотреть доступные параметры точной настройки. Некоторые базовые модели поддерживают только управляемые вычисления.

   

5. Выберите управляемые вычисления. Откроется базовые параметры.

Настройка параметров тонкой настройки

В этом разделе описаны инструкции по настройке точной настройки модели с помощью управляемых вычислений.

1. Укажите имя модели (например, phi3mini-faq-v1). Нажмите кнопку "Далее " для вычислений.

2. Выберите размер виртуальной машины GPU. Убедитесь, что квота для выбранного SKU.

   

3. Нажмите кнопку "Далее " для обучающих данных. Тип задачи может быть предустановлен (например, завершение чата).

4. Предоставьте обучающие данные (отправьте JSONL/CSV/TSV или выберите зарегистрированный набор данных). Примеры балансировки для уменьшения смещения.

5. Нажмите кнопку "Далее " для данных проверки. Сохраните автоматическое разделение или укажите отдельный набор данных.

6. Выберите "Далее " для параметров задачи. Настройте эпохи, скорость обучения, размер пакета. Начинайте консервативно; итерация на основе метрик валидации.

7. Нажмите кнопку "Далее " для проверки. Подтвердите количество и параметры.

8. Нажмите кнопку "Отправить ", чтобы запустить задание.

Мониторинг и оценка

• Отслеживайте статус задания в списке заданий по тонкой настройке.
• Просмотрите лог-файлы на предмет проблем с предварительной обработкой или выделением.
• После завершения просмотрите созданные метрики оценки (если включено) или выполните отдельную оценку сравнения базовой и точно настроенной модели.

Развертывание точно настроенной модели

Развертывание из сводки задания. Используйте имя развертывания, например faq-v1. Запишите версию модели и хэш набора данных для воспроизводимости. Добавьте трассировку для отслеживания реальных запросов.

Устранение неполадок

Связанное содержимое

• Обзор моделей тонкой настройки
• Генерация завершений чата
• Рекомендуемые модели