Тонкая настройка базовой модели (EoL)

С помощью тонкой настройки модели Foundation (теперь часть Databricks Model Training) вы можете использовать собственные данные для настройки базовой модели для оптимизации производительности для конкретного приложения. Проводя точное обучение или продолжая обучение базовой модели, вы можете обучать собственную модель с помощью значительно меньше данных, времени и вычислительных ресурсов, чем обучение модели с нуля.

При использовании Databricks у вас есть все на одной платформе: собственные данные для обучения, базовая модель для обучения, контрольные точки, сохраненные в MLflow, и модель, зарегистрированная в каталоге Unity и готова к развертыванию.

См. руководство: Создание и развертывание запуска тонкой настройки базовой модели (EoL), чтобы узнать, как создать запуск с помощью API тонкой настройки базовой модели, а затем просмотреть результаты и развернуть модель с помощью интерфейса Databricks и Model Serving.

Что такое настройка базовой модели?

Базовая настройка модели позволяет использовать API Databricks или пользовательский интерфейс для настройки или дальнейшего обучения базовой модели.

С помощью тонкой настройки модели Foundation можно:

• Обучите модель пользовательскими данными, используя контрольные точки, сохраненные в MLflow. Вы сохраняете полный контроль над обученной моделью.
• Автоматически регистрируйте модель в каталоге Unity, что позволяет легко развертывать с помощью службы моделей.
• Дополнительная тренировка уже созданной собственной модели путем загрузки весов ранее обученной модели.

Databricks рекомендует попробовать тонкую настройку основной модели, если:

• Вы пробовали обучение с малым числом примеров и хотите лучших результатов.
• Вы попробовали провести инженерные работы с запросами на существующей модели и хотите получить лучшие результаты.
• Вы хотите иметь полный контроль над индивидуальной моделью в целях защиты данных.
• Вы чувствительны к задержке или затратам и хотите использовать меньшую, более дешевую модель с данными, характерными для вашей задачи.

Поддерживаемые задачи

Тонкая настройка базовой модели поддерживает следующие варианты использования:

• Завершение чата: рекомендуемая задача. Обучайте модель на логах чата между пользователем и ИИ-помощником. Этот формат можно использовать как для фактических журналов чата, так и в качестве стандартного формата для ответа на вопросы и текста беседы. Текст автоматически отформатирован в соответствующий формат для конкретной модели. См. примеры шаблонов чатов в документации HuggingFace для получения дополнительной информации о создании шаблонов.
• доработка инструкций: Обучение модели на структурированных данных вида 'запрос-ответ'. Используйте это, чтобы адаптировать вашу модель к новой задаче, изменить её стиль отклика или добавить возможность следовать инструкциям. Эта задача не применяет к данным автоматически форматирование и рекомендуется только в том случае, если требуется настраиваемое форматирование данных.
• Продолжающееся предварительное обучение: обучение модели с дополнительными текстовыми данными. Используйте это, чтобы добавить новые знания в модель или сосредоточиться на модели в определенном домене.

Требования

• Рабочая область Databricks в одном из следующих регионов Azure: centralus, , eastuseastus2northcentralusили westus.
• API для тонкой настройки модели Foundation, установленные с помощью pip install databricks_genai.
• Databricks Runtime 12.2 LTS ML или более поздней версии, если данные хранятся в таблице Delta.

См. раздел «Подготовка данных для тонкой настройки основной модели (EoL ) для получения информации о необходимых форматах входных данных.

Рекомендуемый размер данных для обучения модели

Databricks рекомендует первоначально обучать с помощью одной до четырех эпох. После оценки точно настроенной модели, если вы хотите, чтобы выходные данные модели были более похожими на обучающие данные, вы можете начать обучение с помощью одной до двух других эпох.

Если производительность модели значительно снижается на задачах, не представленных в данных тонкой настройки, или если модель, как представляется, выводит точные копии данных тонкой настройки, Databricks рекомендует сократить количество эпох обучения.

Для настройки инструкций и завершения чата необходимо предоставить достаточно токенов, чтобы покрыть хотя бы одну полную длину контекста модели. Например, 131072 токена для meta-llama/Llama-3.2-3B-Instruct.

Для продолжения предварительного обучения Databricks рекомендует использовать не менее 1,5 миллиона токенов, чтобы получить модель более высокого качества, которая будет лучше изучать ваши пользовательские данные.

Поддерживаемые модели

В следующей таблице перечислены поддерживаемые модели. Ознакомьтесь с лицензиями модели для получения информации о соответствующей лицензии модели и политике допустимого использования.

Чтобы продолжить поддержку самых устаревших моделей, Databricks может обновить поддерживаемые модели или удалить старые модели.

модельные лицензии

В следующей таблице приведены применимые лицензии модели и допустимые сведения о политике использования для поддерживаемых семейств моделей.

Использование тонкой настройки базовой модели

Тонкая настройка базовой модели доступна с использованием SDK. В следующем примере создается и запускается обучающий процесс, использующий данные из томов Unity Catalog. См. Создать обучающий запуск с использованием Foundation Model Fine-tuning API (EoL ) для подробностей конфигурации.

from databricks.model_training import foundation_model as fm

model = 'meta-llama/Meta-Llama-3.1-8B-Instruct'
# UC Volume with JSONL formatted data
train_data_path = 'dbfs:/Volumes/main/mydirectory/ift/train.jsonl'
register_to = 'main.mydirectory'
run = fm.create(
  model=model,
  train_data_path=train_data_path,
  register_to=register_to,
)

Дополнительные сведения о тонкой настройке инструкций: демонстрационная записная книжка по распознаванию именованных сущностей. Посмотрите пример настройки, который пошагово описывает подготовку данных, конфигурацию и развертывание обучения.

Ограничения

• Большие наборы данных (более 10 миллиардов токенов) не поддерживаются из-за ограниченной вычислительной мощности.
• Для продолжения подготовки рабочие нагрузки ограничены 60-256 МБ-файлами. Файлы размером более 1 ГБ могут привести к более длительной обработке.
• Databricks стремится сделать самые современные модели доступными для кастомизации с помощью тонкой настройки базовой модели. По мере того как новые модели становятся доступными, доступ к старым моделям из API или пользовательского интерфейса может быть удален, старые модели могут быть сняты с поддержки или обновлены. См. политику обслуживания моделей ИИ.

• Чтобы использовать тонкую настройку модели Foundation с рабочей областью Databricks, с включенной поддержкой Приватный канал Azure, рабочая область должна находиться в регионе eastus2.
• Если у вас настроен Приватный канал в хранилище, Databricks рекомендует использовать таблицы Unity Catalog.
• Если у вас есть брандмауэры в учетной записи Azure Data Lake Storage, в которой хранятся данные в каталоге Unity, необходимо разрешить трафик из кластеров бессерверных плоскостей данных Databricks для использования точной настройки модели Foundation. Обратитесь к вашей команде по работе с клиентами Databricks, чтобы получить дополнительную информацию и возможные индивидуальные решения.