Настройка модели с помощью тонкой настройки

Необходимые условия

• Ознакомьтесь с руководством по использованию тонкой настройки Foundry.

• Вам нужна Azure подписка. Создайте его бесплатно.

• Вам нужен ресурс проекта Foundry. Чтобы создать его, войдите на портал Foundry.

• Для тонкой настройки требуется роль владельца Foundry . В то время как пользователи Foundry могут обучать (точно настроенные) модели, только владельцы ИИ могут развертывать их. Вы также можете создать пользовательскую роль , которая объединяет необходимые действия в одну роль.

  Важно

  Роли RBAC в Foundry были недавно переименованы. Foundry User, Foundry Owner, Foundry Account Owner и Foundry Project Manager ранее назывались пользователь Azure AI, владелец Azure AI, владелец учетной записи Azure AI и руководитель проекта Azure AI. Пока новое название внедряется, вы всё ещё можете видеть прежние названия в некоторых местах. Идентификаторы ролей и основные разрешения при переименовании не меняются.

• Если у вас еще нет доступа к просмотру квот и развертыванию моделей на портале Foundry, вам потребуется больше разрешений.

Поддерживаемые модели

Для точной настройки поддерживаются следующие модели:

^* Поддержка GPT-5 для дообучения с подкреплением стала официально доступна, но доступ к ней ограничен и предоставляется только по приглашению. Обратитесь к вашей команде учетная запись Майкрософт, если вы заинтересованы в регистрации.

Или можно точно настроить ранее настраиваемую модель, отформатированную как base-model.ft-{jobid}.

Подготовка данных

Ваши обучающий и валидационный наборы данных состоят из примеров входных и выходных данных, отражающих то, как должна работать модель.

Используемые данные обучения и проверки должны быть отформатированы в виде документа JSON Lines (JSONL). Он также должен быть отформатирован в формате беседы, который использует API завершения чата .

Помимо формата JSONL, файлы данных обучения и проверки должны быть закодированы в UTF-8 и включать метку порядка байтов (BOM). Размер каждого файла должен быть меньше 512 МБ.

Мы рекомендуем использовать инструкции и подсказки, которые, как вы сочли, лучше всего работали в каждом обучающем примере. Этот подход помогает получить лучшие результаты, особенно если у вас меньше сотни примеров.

Если у вас нет существующего набора данных, можно использовать возможности создания данных для создания нового.

Пример формата файла

{"messages": [{"role": "system", "content": "Clippy is a factual chatbot that is also sarcastic."}, {"role": "user", "content": "Who discovered Antarctica?"}, {"role": "assistant", "content": "Some chaps named Fabian Gottlieb von Bellingshausen and Mikhail Lazarev, as if they don't teach that in every school!"}]}
{"messages": [{"role": "system", "content": "Clippy is a factual chatbot that is also sarcastic."}, {"role": "user", "content": "What is the biggest ocean?"}, {"role": "assistant", "content": "The Pacific Ocean. It's not like it's a small pond or anything."}]}
{"messages": [{"role": "system", "content": "Clippy is a factual chatbot that is also sarcastic."}, {"role": "user", "content": "What is the largest planet?"}, {"role": "assistant", "content": "It's called Jupiter, you might have heard of it...or not."}]}
{"messages": [{"role": "system", "content": "Clippy is a factual chatbot that is also sarcastic."}, {"role": "user", "content": "Who painted the Mona Lisa?"}, {"role": "assistant", "content": "Oh, some obscure artist named Leonardo da Vinci. Not that he is famous or anything."}]}
{"messages": [{"role": "system", "content": "Clippy is a factual chatbot that is also sarcastic."}, {"role": "user", "content": "What's the boiling point of water?"}, {"role": "assistant", "content": "Exciting fact of the day: it's 100 degrees Celsius. Life-changing, isn't it?"}]}
{"messages": [{"role": "system", "content": "Clippy is a factual chatbot that is also sarcastic."}, {"role": "user", "content": "Who wrote 'The Odyssey'?"}, {"role": "assistant", "content": "Oh, just some poet named Homer. Nothing special, really."}]}
{"messages": [{"role": "system", "content": "Clippy is a factual chatbot that is also sarcastic."}, {"role": "user", "content": "What is the largest mammal?"}, {"role": "assistant", "content": "Blue Whale. Quite a big fish isn't it? Oh wait, it's not a fish!"}]}
{"messages": [{"role": "system", "content": "Clippy is a factual chatbot that is also sarcastic."}, {"role": "user", "content": "What's the highest mountain peak?"}, {"role": "assistant", "content": "Everest. Brace yourself, it's not a walk in the park."}]}
{"messages": [{"role": "system", "content": "Clippy is a factual chatbot that is also sarcastic."}, {"role": "user", "content": "Who invented the telephone?"}, {"role": "assistant", "content": "A guy named Alexander Graham Bell. Bet you didn't guess that one!"}]}
{"messages": [{"role": "system", "content": "Clippy is a factual chatbot that is also sarcastic."}, {"role": "user", "content": "What is the distance from Earth to the Sun?"}, {"role": "assistant", "content": "About 93 million miles. Just a quick drive, really."}]}

Формат файла многошагового чата

Кроме того, поддерживаются несколько поворотов беседы в одной строке файла обучения JSONL. Чтобы пропустить тонкую настройку для определенных сообщений помощника, добавьте необязательную weight пару "ключ-значение". В настоящее время weight можно задать значение 0 или 1.

{"messages": [{"role": "system", "content": "Marv is a factual chatbot that is also sarcastic."}, {"role": "user", "content": "What's the biggest city in France?"}, {"role": "assistant", "content": "Paris", "weight": 0}, {"role": "user", "content": "Can you be more sarcastic?"}, {"role": "assistant", "content": "Paris, as if everyone doesn't know that already.", "weight": 1}]}
{"messages": [{"role": "system", "content": "Marv is a factual chatbot that is also sarcastic."}, {"role": "user", "content": "Who wrote 'Romeo and Juliet'?"}, {"role": "assistant", "content": "William Shakespeare", "weight": 0}, {"role": "user", "content": "Can you be more sarcastic?"}, {"role": "assistant", "content": "Oh, just some guy named William Shakespeare. Ever heard of him?", "weight": 1}]}
{"messages": [{"role": "system", "content": "Marv is a factual chatbot that is also sarcastic."}, {"role": "user", "content": "How far is the Moon from Earth?"}, {"role": "assistant", "content": "384,400 kilometers", "weight": 0}, {"role": "user", "content": "Can you be more sarcastic?"}, {"role": "assistant", "content": "Around 384,400 kilometers. Give or take a few, like that really matters.", "weight": 1}]}

Завершение чата с помощью визуального зрения

{"messages": [{"role": "user", "content": [{"type": "text", "text": "What's in this image?"}, {"type": "image_url", "image_url": {"url": "https://raw.githubusercontent.com/MicrosoftDocs/azure-ai-docs/main/articles/ai-services/openai/media/how-to/generated-seattle.png"}}]}, {"role": "assistant", "content": "The image appears to be a watercolor painting of a city skyline, featuring tall buildings and a recognizable structure often associated with Seattle, like the Space Needle. The artwork uses soft colors and brushstrokes to create a somewhat abstract and artistic representation of the cityscape."}]}

Рекомендации по размеру набора данных

Чем больше примеров обучения у вас есть, тем лучше. Задания точной настройки не будут продолжаться без не менее 10 примеров обучения, но такого небольшого числа недостаточно, чтобы заметно повлиять на ответы модели. Одна из рекомендаций для успешной донастройки — предоставить сотни, если не тысячи, обучающих примеров. Рекомендуется начать с 50 хорошо созданных примеров.

Как правило, удвоение размера набора данных может привести к линейному увеличению качества модели. Но помните, что примеры низкого качества могут негативно повлиять на производительность. Если вы обучаете модель на большом объёме внутренних данных, не отобрав предварительно в наборе данных только наиболее качественные примеры, модель может работать хуже, чем ожидается.

Создание точно настроенной модели

Чтобы точно настроить модель в существующем проекте Foundry, выполните следующие действия:

1. Войдите в Foundry и выберите проект. Если у вас еще нет проекта, сначала создайте проект.

2. Перейдите на страницу Сборка>Тонкая настройка, а затем нажмите кнопку Тонкая настройка в правом верхнем углу.

3. Теперь вы увидите возможность точной настройки модели для создания нового задания точной настройки. Используйте следующие разделы, чтобы помочь в настройке задания, а затем нажмите кнопку "Отправить ", чтобы начать обучение новой точно настроенной модели.

Выбор базовой модели

Регион проекта может ограничить доступные модели. Выбор модели влияет как на производительность, так и на стоимость модели.

Вы также можете выбрать ранее настроенную модель.

Метод настройки

Поддерживаемые методы настройки зависят от выбранной модели:

• Контролируемый тонкой настройкой (SFT): обучает модель на помеченных парах входных и выходных данных. Лучше всего подходит для большинства сценариев, включая специализацию задач.

• Прямая оптимизация предпочтений (DPO): согласовывает модель с ответами, которые предпочитают люди. Идеально подходит для улучшения качества отклика.

• Тонкая настройка с подкреплением (RFT): Использует сигналы вознаграждения от моделей-оценщиков для оптимизации сложных моделей поведения.

Тип обучения

Выберите уровень обучения на основе варианта использования и бюджета:

• Стандартный: обучение происходит в текущем регионе ресурса Foundry и предоставляет гарантии для размещения данных. Идеально подходит для рабочих нагрузок, в которых данные должны оставаться в определенном регионе.

• Глобальный: обеспечивает более доступные цены по сравнению со стандартом, используя емкость за пределами текущего региона. Данные и весовые значения копируются в регион, где происходит обучение. Идеально подходит, если место размещения данных не является ограничением, и требуется ускорить время очереди.

• Разработчик: обеспечивает значительное сокращение затрат за счёт использования незадействованных мощностей для обучения. Нет гарантий в отношении задержки или SLA, поэтому задания в этом классе могут быть автоматически вытеснены и позже возобновлены. Также нет никаких гарантий относительно хранения данных в определённой юрисдикции. Идеально подходит для экспериментов и рабочих нагрузок, чувствительных к цене.

Обучающие и валидационные данные

Если у вас есть наборы данных в проекте Foundry, выберите существующий набор данных для источника данных и выберите свой набор данных.

Чтобы отправить только что подготовленные наборы данных, выберите " Отправить новый набор данных для источника данных" и отправьте JSONL-файл.

После выбора или отправки файлов данных проверка выполняется автоматически, чтобы убедиться, что файлы форматируются как JSONL, кодируются в UTF-8 с BOM и имеют размер менее 512 МБ.

Необязательные параметры

Суффикс

Рекомендуется указать значение Суффикса , чтобы упростить различие между различными итерациями вашей точно настроенной модели. Суффикс принимает строку до 18 символов и используется при именовании полученной точно настроенной модели.

Семян

Начальное число определяет воспроизводимость задачи. При передаче одного и того же начального значения и параметров задания результаты должны быть одинаковыми, но в редких случаях могут отличаться. Если вы не укажете зерно, оно будет сгенерировано случайным образом.

Гиперпараметры

Вы можете вручную настроить гиперпараметры для задания тонкой настройки или оставить их в качестве значений по умолчанию.

Доступны следующие гиперпараметры:

Автоматическое развертывание

Чтобы сэкономить время, можно включить автоматическое развертывание для результирующей модели. Если обучение завершится успешно, модель развертывается в соответствии с выбранным типом развертывания. Имя развертывания формируется на основе уникального имени, сгенерированного для вашей пользовательской модели, и необязательного суффикса, который вы могли указать ранее.

Автоматическое развертывание поддерживается только для моделей OpenAI.

Мониторинг и анализ результатов

После отправки задания на дообучение в табличном представлении отображается список всех отправленных заданий на дообучение. Чтобы просмотреть дополнительные сведения о отдельных результатах, откройте страницу сведений о задании .

Ваше задание может быть поставлено в очередь после других заданий в системе. Обучение модели может занять несколько минут в зависимости от модели и размера набора данных.

Метрики

Вы можете отслеживать следующие метрики, перейдя на вкладку Монитор:

• train_loss: потеря для обучаемого пакета. Каждый шаг обучения по оси X соответствует одному прямому и одному обратному проходу по одному пакету обучающих данных.

• full_valid_loss: потеря проверки, вычисляемая в конце каждой эпохи. Когда обучение идет хорошо, потеря должна уменьшиться.

• train_mean_token_accuracy: Процент токенов в обучающем пакете, которые модель правильно предсказала.

  Например, если размер пакета задан как 3 и ваши данные содержат завершения [[1, 2], [0, 5], [4, 2]], это значение равно 0.83 (5 из 6), если модель предсказала [[1, 1], [0, 5], [4, 2]].

• full_valid_mean_token_accuracy: допустимая средняя точность маркера, вычисляемая в конце каждой эпохи. Когда обучение идет хорошо, точность маркеров должна увеличиться.

Следите за тем, чтобы значение функции потерь со временем уменьшалось, а точность — увеличивалась. Если обучающие и валидационные данные расходятся, возможно, модель переобучается. Попробуйте уменьшить количество эпох обучения или использовать меньший множитель скорости обучения.

Контрольные точки

После завершения каждой эпохи обучения создается контрольная точка. Вы можете просмотреть контрольные точки, перейдя на вкладку Контрольные точки.

Контрольная точка — это полностью функциональная версия модели, которая может быть развернута и использована в качестве целевой модели для последующих заданий точной настройки. Контрольные точки могут быть особенно полезными, так как они могут предоставлять моментальные снимки до переподбора. После завершения задания точной настройки у вас есть три последних версии модели, доступные для развертывания. С помощью REST API можно скопировать контрольные точки между ресурсами и подписками.

Разверните дообученную модель

Если вас устраивают метрики по результатам задания дообучения, вы можете развернуть модель, нажав кнопку Deploy на странице сведений, а затем настроив параметры развертывания.

Дополнительные сведения см. в руководстве по настройке развертывания.

Используйте развернутую точно настроенную модель

После развертывания тонко настроенную модель можно использовать как любую другую развернутую модель. Вы можете использовать песочницу в Foundry, чтобы поэкспериментировать с новым развертыванием. Вы также можете использовать REST API для вызова вашей точно настроенной модели из собственного приложения. Вы даже можете приступить к использованию этой новой точно настроенной модели в потоке запросов для создания создаваемого приложения ИИ.

Выполнение непрерывной точной настройки

После создания точно настроенной модели может потребоваться продолжить уточнение модели с течением времени с помощью дальнейшей тонкой настройки. Непрерывная итеративная настройка — это итеративный процесс выбора уже настраиваемой модели в качестве базовой модели и последующей настройки новых наборов примеров обучения.

Для точной настройки модели, которую вы ранее настроили, используйте тот же процесс, описанный в разделе "Создание точно настроенной модели". Но вместо указания имени универсальной базовой модели можно указать уже настроенную модель. Пользовательская дообученная модель выглядит так: gpt-4o-2024-08-06.ft-d93dda6110004b4da3472d96f4dd4777-ft.

Непрерывное дообучение поддерживается только для моделей OpenAI.

Очистка ресурсов

Если вам больше не нужна настраиваемая модель, можно удалить развертывание и модель. Вы также можете удалить файлы обучения и проверки, отправленные в службу при необходимости.

Удаление точно настроенного развертывания модели

Вы можете удалить развертывание для точно настроенной модели на странице"Модели>" на портале Foundry.

Удаление настраиваемой модели

Вы можете удалить настраиваемую модель на странице точной настройки на портале Foundry. Выберите настраиваемую модель для удаления и нажмите кнопку "Удалить".

Необходимые условия

• Ознакомьтесь с руководством по использованию тонкой настройки Foundry.

• Вам нужна Azure подписка. Создайте его бесплатно.

• Вам нужен ресурс проекта Foundry. Чтобы создать его, войдите на портал Foundry.

• Python 3.9 или Node.js 22+.

• Пакеты SDK для вашего языка:

  • Python: azure-ai-projects, azure-identity и requests (используется для вызова развертывания плоскости управления), а также стандартные модули библиотеки os и json.
  • JavaScript/TypeScript: @azure/ai-projects, @azure/identityи (для развертывания). @azure/arm-cognitiveservices

• Для тонкой настройки требуется роль владельца Foundry . В то время как пользователи Foundry могут обучать (точно настроенные) модели, только владельцы ИИ могут развертывать их. Вы также можете создать пользовательскую роль , которая объединяет необходимые действия в одну роль.

  Важно

  Роли RBAC в Foundry были недавно переименованы. Foundry User, Foundry Owner, Foundry Account Owner и Foundry Project Manager ранее назывались пользователь Azure AI, владелец Azure AI, владелец учетной записи Azure AI и руководитель проекта Azure AI. Пока новое название внедряется, вы всё ещё можете видеть прежние названия в некоторых местах. Идентификаторы ролей и основные разрешения при переименовании не меняются.

• Если у вас еще нет доступа к просмотру квот и развертыванию моделей на портале Foundry, вам потребуется больше разрешений.

Поддерживаемые модели

Для точной настройки поддерживаются следующие модели:

^* Поддержка GPT-5 для дообучения с подкреплением стала официально доступна, но доступ к ней ограничен и предоставляется только по приглашению. Обратитесь к вашей команде учетная запись Майкрософт, если вы заинтересованы в регистрации.

Или можно точно настроить ранее настраиваемую модель, отформатированную как base-model.ft-{jobid}.

Просмотрите процесс в Foundry SDK

Уделите немного времени, чтобы ознакомиться с процессом тонкой настройки по использованию Foundry SDK на Python или JavaScript/TypeScript:

1. Подготовьте данные обучения и проверки.
2. Выберите базовую модель.
3. Отправьте данные обучения.
4. Обучите новую настраиваемую модель.
5. Проверьте состояние настраиваемой модели.
6. Разверните настраиваемую модель для использования.
7. Используйте настраиваемую модель.
8. При необходимости проанализируйте настроенную под ваши требования модель с точки зрения производительности и пригодности.

Подготовьте обучающие и валидационные данные

Ваши обучающий и валидационный наборы данных состоят из примеров входных и выходных данных, отражающих то, как должна работать модель.

Используемые данные обучения и проверки должны быть отформатированы в виде документа JSON Lines (JSONL). Он также должен быть отформатирован в формате беседы, который использует API завершения чата .

Помимо формата JSONL, файлы данных обучения и проверки должны быть закодированы в UTF-8 и включать метку порядка байтов (BOM). Размер каждого файла должен быть меньше 512 МБ.

Если вам нужно пошаговое руководство по тонкой настройке gpt-4o-mini-2024-07-18, см. руководство по тонкой настройке Microsoft Foundry.

Пример формата файла

{"messages": [{"role": "system", "content": "Clippy is a factual chatbot that is also sarcastic."}, {"role": "user", "content": "Who discovered Antarctica?"}, {"role": "assistant", "content": "Some chaps named Fabian Gottlieb von Bellingshausen and Mikhail Lazarev, as if they don't teach that in every school!"}]}
{"messages": [{"role": "system", "content": "Clippy is a factual chatbot that is also sarcastic."}, {"role": "user", "content": "What is the biggest ocean?"}, {"role": "assistant", "content": "The Pacific Ocean. It's not like it's a small pond or anything."}]}
{"messages": [{"role": "system", "content": "Clippy is a factual chatbot that is also sarcastic."}, {"role": "user", "content": "What is the largest planet?"}, {"role": "assistant", "content": "It's called Jupiter, you might have heard of it...or not."}]}
{"messages": [{"role": "system", "content": "Clippy is a factual chatbot that is also sarcastic."}, {"role": "user", "content": "Who painted the Mona Lisa?"}, {"role": "assistant", "content": "Oh, some obscure artist named Leonardo da Vinci. Not that he is famous or anything."}]}
{"messages": [{"role": "system", "content": "Clippy is a factual chatbot that is also sarcastic."}, {"role": "user", "content": "What's the boiling point of water?"}, {"role": "assistant", "content": "Exciting fact of the day: it's 100 degrees Celsius. Life-changing, isn't it?"}]}
{"messages": [{"role": "system", "content": "Clippy is a factual chatbot that is also sarcastic."}, {"role": "user", "content": "Who wrote 'The Odyssey'?"}, {"role": "assistant", "content": "Oh, just some poet named Homer. Nothing special, really."}]}
{"messages": [{"role": "system", "content": "Clippy is a factual chatbot that is also sarcastic."}, {"role": "user", "content": "What is the largest mammal?"}, {"role": "assistant", "content": "Blue Whale. Quite a big fish isn't it? Oh wait, it's not a fish!"}]}
{"messages": [{"role": "system", "content": "Clippy is a factual chatbot that is also sarcastic."}, {"role": "user", "content": "What's the highest mountain peak?"}, {"role": "assistant", "content": "Everest. Brace yourself, it's not a walk in the park."}]}
{"messages": [{"role": "system", "content": "Clippy is a factual chatbot that is also sarcastic."}, {"role": "user", "content": "Who invented the telephone?"}, {"role": "assistant", "content": "A guy named Alexander Graham Bell. Bet you didn't guess that one!"}]}
{"messages": [{"role": "system", "content": "Clippy is a factual chatbot that is also sarcastic."}, {"role": "user", "content": "What is the distance from Earth to the Sun?"}, {"role": "assistant", "content": "About 93 million miles. Just a quick drive, really."}]}

Формат файла многошагового чата

Кроме того, поддерживаются несколько поворотов беседы в одной строке файла обучения JSONL. Чтобы пропустить тонкую настройку для определенных сообщений помощника, добавьте необязательную weight пару "ключ-значение". В настоящее время weight можно задать значение 0 или 1.

{"messages": [{"role": "system", "content": "Marv is a factual chatbot that is also sarcastic."}, {"role": "user", "content": "What's the biggest city in France?"}, {"role": "assistant", "content": "Paris", "weight": 0}, {"role": "user", "content": "Can you be more sarcastic?"}, {"role": "assistant", "content": "Paris, as if everyone doesn't know that already.", "weight": 1}]}
{"messages": [{"role": "system", "content": "Marv is a factual chatbot that is also sarcastic."}, {"role": "user", "content": "Who wrote 'Romeo and Juliet'?"}, {"role": "assistant", "content": "William Shakespeare", "weight": 0}, {"role": "user", "content": "Can you be more sarcastic?"}, {"role": "assistant", "content": "Oh, just some guy named William Shakespeare. Ever heard of him?", "weight": 1}]}
{"messages": [{"role": "system", "content": "Marv is a factual chatbot that is also sarcastic."}, {"role": "user", "content": "How far is the Moon from Earth?"}, {"role": "assistant", "content": "384,400 kilometers", "weight": 0}, {"role": "user", "content": "Can you be more sarcastic?"}, {"role": "assistant", "content": "Around 384,400 kilometers. Give or take a few, like that really matters.", "weight": 1}]}

Завершение чата с помощью визуального зрения

{"messages": [{"role": "user", "content": [{"type": "text", "text": "What's in this image?"}, {"type": "image_url", "image_url": {"url": "https://raw.githubusercontent.com/MicrosoftDocs/azure-ai-docs/main/articles/ai-services/openai/media/how-to/generated-seattle.png"}}]}, {"role": "assistant", "content": "The image appears to be a watercolor painting of a city skyline, featuring tall buildings and a recognizable structure often associated with Seattle, like the Space Needle. The artwork uses soft colors and brushstrokes to create a somewhat abstract and artistic representation of the cityscape."}]}

Создание наборов данных для обучения и проверки

Чем больше примеров обучения у вас есть, тем лучше. Задания точной настройки не будут продолжаться без не менее 10 примеров обучения, но такого небольшого числа недостаточно, чтобы заметно повлиять на ответы модели. Одна из рекомендаций для успешной донастройки — предоставить сотни, если не тысячи, обучающих примеров.

Как правило, удвоение размера набора данных может привести к линейному увеличению качества модели. Но помните, что примеры низкого качества могут негативно повлиять на производительность. Если вы обучаете модель на большом объёме внутренних данных, не отобрав предварительно в наборе данных только наиболее качественные примеры, модель может работать хуже, чем ожидается.

Отправка обучающих данных

Следующим шагом является выбор существующих подготовленных обучающих данных или отправка новых подготовленных обучающих данных для использования при настройке модели. После подготовки обучающих данных вы можете передать файлы в службу. Существует два способа отправки обучающих данных:

• Из локального файла
• Из Хранилище BLOB-объектов Azure или веб-расположения (импорт)

Для больших файлов данных рекомендуется импортировать из Хранилище BLOB-объектов. Большие файлы могут загружаться нестабильно при загрузке через multipart-формы, поскольку такие запросы атомарны и их нельзя повторить или возобновить. Дополнительные сведения о хранилище BLOB-объектов см. в статье Что такое хранилище BLOB-объектов Azure?.

В следующем примере отправляются локальные файлы обучения и проверки с помощью пакета SDK Foundry и извлекаются возвращенные идентификаторы файлов:

import os
from azure.ai.projects import AIProjectClient
from azure.identity import DefaultAzureCredential

# Load the OpenAI client by using the Foundry SDK
client = AIProjectClient(
    credential=DefaultAzureCredential(),
    endpoint=os.getenv("FOUNDRY_PROJECT_ENDPOINT"),
).get_openai_client()

# Upload the training and validation dataset files to Microsoft Foundry with the SDK.
training_file_name = 'training_set.jsonl'
validation_file_name = 'validation_set.jsonl'

training_response = client.files.create(file=open(training_file_name, "rb"), purpose="fine-tune")
validation_response = client.files.create(file=open(validation_file_name, "rb"), purpose="fine-tune")
training_file_id = training_response.id
validation_file_id = validation_response.id

print("Training file ID:", training_file_id)
print("Validation file ID:", validation_file_id)

import * as fs from "node:fs";
import { DefaultAzureCredential } from "@azure/identity";
import { AIProjectClient } from "@azure/ai-projects";

// Get the OpenAI-compatible client by using the Foundry SDK
const client = new AIProjectClient(
  process.env["FOUNDRY_PROJECT_ENDPOINT"]!,
  new DefaultAzureCredential(),
).getOpenAIClient();

// Upload the training and validation dataset files to Microsoft Foundry
const trainingFileName = "training_set.jsonl";
const validationFileName = "validation_set.jsonl";

const trainingResponse = await client.files.create({
  file: fs.createReadStream(trainingFileName),
  purpose: "fine-tune",
});
const validationResponse = await client.files.create({
  file: fs.createReadStream(validationFileName),
  purpose: "fine-tune",
});
const trainingFileId = trainingResponse.id;
const validationFileId = validationResponse.id;

// Wait for the files to finish processing before you use them
await client.files.waitForProcessing(trainingFileId);
await client.files.waitForProcessing(validationFileId);

console.log("Training file ID:", trainingFileId);
console.log("Validation file ID:", validationFileId);

• Справочник: API openAI Files (files.createоба языка)
• Справочник: AIProjectClient.get_openai_client (Python) / AIProjectClient.getOpenAIClient (JavaScript/TypeScript)

Создание настраиваемой модели

После загрузки файлов для обучения и валидации можно запускать задачу дообучения.

В следующем коде показано, как создать новое задание точной настройки с помощью пакета SDK для Foundry:

response = client.fine_tuning.jobs.create(
    training_file=training_file_id,
    validation_file=validation_file_id,
    model="gpt-4.1-2025-04-14", # Enter the base model name.
    suffix="my-model", # Custom suffix for naming the resulting model. Note that in Microsoft Foundry, the model can't contain dot/period characters.
    seed=105, # Seed parameter controls reproducibility of the fine-tuning job. If you don't specify a seed, one is generated automatically.
    extra_body={ "trainingType": "GlobalStandard" } # Change this to your preferred training type. Other options are `Standard` and `Developer`.
)

job_id = response.id

# You can use the job ID to monitor the status of the fine-tuning job.
# The fine-tuning job takes some time to start and finish.

print("Job ID:", response.id)
print(response.model_dump_json(indent=2))

const response = await client.fineTuning.jobs.create(
  {},
  {
    body: {
      training_file: trainingFileId,
      validation_file: validationFileId,
      model: "gpt-4.1-2025-04-14", // Enter the base model name.
      suffix: "my-model", // Can't contain dot/period characters.
      seed: 105, // Omit to auto-generate a seed.
      trainingType: "GlobalStandard", // Other options: "Standard", "Developer".
    },
  },
);

const jobId = response.id;

// Use the job ID to monitor the status of the fine-tuning job.
// The fine-tuning job takes some time to start and finish.

console.log("Job ID:", response.id);
console.log(JSON.stringify(response, null, 2));

• Справочник. API тонкой настройки OpenAI (fine_tuning.jobs.createоба языка)

Вы также можете передать дополнительные необязательные параметры, такие как гиперпараметры, чтобы получить более широкий контроль над процессом тонкой настройки. Для начального обучения рекомендуется использовать автоматические значения по умолчанию, которые присутствуют без указания этих параметров.

Поддерживаемые в настоящее время гиперпараметры для защищенной тонкой настройки:

Чтобы задать пользовательские гиперпараметры, предоставьте их в составе method:

client.fine_tuning.jobs.create(
  training_file="file-abc123", 
  model="gpt-4.1-2025-04-14",
  suffix="my-model",
  seed=105,
  method={
    "type": "supervised", # In this case, the job is using supervised fine tuning.
    "supervised": {
      "hyperparameters": {
        "n_epochs": 2
      }
    }
  },
  extra_body={ "trainingType": "GlobalStandard" }
)

await client.fineTuning.jobs.create(
  {},
  {
    body: {
      training_file: "file-abc123",
      model: "gpt-4.1-2025-04-14",
      suffix: "my-model",
      seed: 105,
      method: {
        type: "supervised", // Job uses supervised fine-tuning.
        supervised: {
          hyperparameters: {
            n_epochs: 2,
          },
        },
      },
      trainingType: "GlobalStandard",
    },
  },
);

• Справочник. API тонкой настройки OpenAI (fine_tuning.jobs.create с methodобоими языками)

Чтобы узнать о поддерживаемых гиперпараметрах для других методов настройки, см. руководство по прямой оптимизации предпочтений и руководство по тонкой настройке с подкреплением.

Проверить состояние задания дообучения

response = client.fine_tuning.jobs.retrieve(job_id)

print("Job ID:", response.id)
print("Status:", response.status)
print(response.model_dump_json(indent=2))

const status = await client.fineTuning.jobs.retrieve(jobId);

console.log("Job ID:", status.id);
console.log("Status:", status.status);
console.log(JSON.stringify(status, null, 2));

• Справочник. API тонкой настройки OpenAI (fine_tuning.jobs.retrieveоба языка)

Список событий тонкой настройки

Чтобы проверить отдельные события тонкой настройки, созданные во время обучения, выполните следующую команду. Перед выполнением команды может потребоваться обновить клиентную библиотеку OpenAI до последней версии с помощью pip install openai --upgrade.

response = client.fine_tuning.jobs.list_events(fine_tuning_job_id=job_id, limit=10)
print(response.model_dump_json(indent=2))

const events = await client.fineTuning.jobs.listEvents(jobId, { limit: 10 });
console.log(JSON.stringify(events, null, 2));

• Справка: API тонкой донастройки OpenAI (fine_tuning.jobs.list_events, на обоих языках)

Вывести список контрольных точек

Завершение каждой эпохи обучения создает контрольную точку. Контрольная точка — это полностью функциональная версия модели, которая может быть развернута и использована в качестве целевой модели для последующих заданий точной настройки. Контрольные точки могут быть особенно полезными, так как они могут предоставлять моментальные снимки до переподбора.

После завершения задания точной настройки у вас есть три последних версии модели, доступные для развертывания. Ваша точно настроенная модель представляет окончательную эпоху. Предыдущие две эпохи доступны в качестве контрольных точек.

Чтобы получить список контрольных точек, связанных с отдельным заданием тонкой настройки, можно выполнить следующую команду:

response = client.fine_tuning.jobs.checkpoints.list(job_id)
print(response.model_dump_json(indent=2))

const checkpoints = await client.fineTuning.jobs.checkpoints.list(jobId, {
  limit: 10,
});
console.log(JSON.stringify(checkpoints, null, 2));

• Справочник: API для тонкой настройки OpenAI (fine_tuning.jobs.checkpoints.list, на обоих языках)

Анализ настраиваемой модели

Foundry присоединяет файл результатов с именем results.csv к каждому заданию тонкой настройки после завершения. Вы можете использовать файл результатов для анализа производительности обучения и проверки настраиваемой модели. Идентификатор файла для результирующих файлов указан для каждой настраиваемой модели. Пакет SDK Python можно использовать для получения идентификатора файла и скачивания файла результатов для анализа.

В следующем Python примере извлекается идентификатор файла первого файла результатов, присоединенного к заданию точной настройки для настраиваемой модели. Затем он использует пакет SDK Python для скачивания файла в текущий рабочий каталог для анализа.

# Retrieve the file ID of the first result file from the fine-tuning job
# for the customized model.
response = client.fine_tuning.jobs.retrieve(job_id)
if response.status == 'succeeded':
    result_file_id = response.result_files[0]

retrieve = client.files.retrieve(result_file_id)

# Download the result file.
print(f'Downloading result file: {result_file_id}')

with open(retrieve.filename, "wb") as file:
    result = client.files.content(result_file_id).read()
    file.write(result)

Результатом является CSV-файл, содержащий строку заголовка и строку для каждого шага обучения, выполняемого заданием тонкой настройки. Результирующий файл содержит следующие столбцы:

Вы также можете просмотреть данные в results.csv файле как графики на портале Foundry. При выборе ссылки на обученную модель появляются три диаграммы: функция потерь, средняя точность токенов и точность токенов. Если вы предоставили данные проверки, оба набора данных отображаются на одном графике.

Следите за тем, чтобы значение функции потерь со временем уменьшалось, а точность — увеличивалась. Если обучающие и валидационные данные расходятся, возможно, модель переобучается. Попробуйте уменьшить количество эпох обучения или использовать меньший множитель скорости обучения.

Разверните дообученную модель

Если вы удовлетворены метриками из задания тонкой настройки или хотите перейти к выводу, необходимо развернуть модель.

Если вы выполняете развертывание для дальнейшей проверки, рассмотрите вариант развертывания для тестирования, используя тип развертывания Developer.

В отличие от предыдущих команд ПАКЕТА SDK, для развертывания необходимо использовать API уровня управления. Для этой задачи требуется отдельная авторизация, другой путь к API и другая версия API.

import json
import os
import requests

token= os.getenv("<TOKEN>") 
subscription = "<YOUR_SUBSCRIPTION_ID>"  
resource_group = "<YOUR_RESOURCE_GROUP_NAME>"
resource_name = "<YOUR_AZURE_OPENAI_RESOURCE_NAME>"
model_deployment_name ="gpt-41-ft" # Custom deployment name that you use to reference the model when making inference calls.

deploy_params = {'api-version': "2024-10-01"} # Control plane API version rather than the data plane API for this call 
deploy_headers = {'Authorization': 'Bearer {}'.format(token), 'Content-Type': 'application/json'}

deploy_data = {
    "sku": {"name": "standard", "capacity": 1}, 
    "properties": {
        "model": {
            "format": "OpenAI",
            "name": <"fine_tuned_model">, # Retrieve this value from the previous call; it looks like gpt-4.1-2025-04-14.ft-b044a9d3cf9c4228b5d393567f693b83
            "version": "1"
        }
    }
}
deploy_data = json.dumps(deploy_data)

request_url = f'https://management.azure.com/subscriptions/{subscription}/resourceGroups/{resource_group}/providers/Microsoft.CognitiveServices/accounts/{resource_name}/deployments/{model_deployment_name}'

print('Creating a new deployment...')

r = requests.put(request_url, params=deploy_params, headers=deploy_headers, data=deploy_data)

print(r)
print(r.reason)
print(r.json())

import { DefaultAzureCredential } from "@azure/identity";
import {
  CognitiveServicesManagementClient,
} from "@azure/arm-cognitiveservices";

const subscriptionId = process.env["AZURE_SUBSCRIPTION_ID"]!;
const resourceGroup = process.env["AZURE_RESOURCE_GROUP"]!;
const accountName = process.env["AZURE_AOAI_ACCOUNT"]!;
// Custom deployment name that you use for inference calls.
const modelDeploymentName = "gpt-41-ft";
// Retrieve this value from the completed fine-tuning job's
// `fine_tuned_model` field.
const fineTunedModel = status.fine_tuned_model!;

const cognitiveClient = new CognitiveServicesManagementClient(
  new DefaultAzureCredential(),
  subscriptionId,
);

console.log("Creating a new deployment...");
await cognitiveClient.deployments.beginCreateOrUpdate(
  resourceGroup,
  accountName,
  modelDeploymentName,
  {
    sku: { name: "GlobalStandard", capacity: 1 },
    properties: {
      model: {
        format: "OpenAI",
        name: fineTunedModel,
        version: "1",
      },
    },
  },
);

• Справочник. Развертывания— создание или обновление (REST API) (вызов уровня управления Python)
• Справочник: CognitiveServicesManagementClient (JavaScript/TypeScript)

Дополнительные сведения о развертывании в нескольких регионах и о том, как использовать развернутую модель, см. в статье Использование развернутой точно настроенной модели.

Если вы готовы развернуть решение в производственной среде или у вас есть особые требования к хранению данных в определённом регионе, следуйте руководству по развертыванию.

Выполнение непрерывной точной настройки

После создания точно настроенной модели может потребоваться продолжить уточнение модели с течением времени с помощью дальнейшей тонкой настройки. Непрерывная итеративная настройка — это итеративный процесс выбора уже настраиваемой модели в качестве базовой модели и последующей настройки новых наборов примеров обучения. Непрерывное дообучение поддерживается только для моделей OpenAI.

Для точной настройки модели, которую вы ранее настроили, используйте тот же процесс, описанный в разделе "Создание настраиваемой модели". Но вместо указания имени универсальной базовой модели необходимо указать идентификатор настраиваемой модели. Идентификатор точно настроенной модели выглядит следующим gpt-4.1-2025-04-14.ft-5fd1918ee65d4cd38a5dcf6835066ed7образом.

response = client.fine_tuning.jobs.create(
    training_file=training_file_id,
    validation_file=validation_file_id,
    model="gpt-4.1-2025-04-14.ft-5fd1918ee65d4cd38a5dcf6835066ed7"
)
job_id = response.id

# You can use the job ID to monitor the status of the fine-tuning job.
# The fine-tuning job takes some time to start and finish.

print("Job ID:", response.id)
print("Status:", response.id)
print(response.model_dump_json(indent=2))

const response = await client.fineTuning.jobs.create(
  {},
  {
    body: {
      training_file: trainingFileId,
      validation_file: validationFileId,
      model: "gpt-4.1-2025-04-14.ft-5fd1918ee65d4cd38a5dcf6835066ed7",
    },
  },
);
const jobId = response.id;

// Use the job ID to monitor the status of the fine-tuning job.
// The fine-tuning job takes some time to start and finish.

console.log("Job ID:", response.id);
console.log(JSON.stringify(response, null, 2));

• Справочник. API тонкой настройки OpenAI (fine_tuning.jobs.createоба языка)

Мы также рекомендуем включить suffix параметр, чтобы проще различать итерации вашей точно настроенной модели. Параметр suffix принимает строку и устанавливается для идентификации точно настроенной модели. Вы можете добавить строку до 18 символов в имя настраиваемой модели.

Если вы не уверены в идентификаторе существующей точно настроенной модели, эти сведения можно найти на странице "Модели " в Foundry.

Необходимые условия

• Прочитайте руководство о том, когда следует использовать тонкую настройку Azure OpenAI.

• Вам нужна Azure подписка. Создайте его бесплатно.

• Вам потребуется ресурс Azure OpenAI. Дополнительные сведения см. в разделе Создание ресурса и развертывание модели с помощью Azure OpenAI.

• Для тонкой настройки требуется роль владельца Foundry . В то время как пользователи Foundry могут обучать (точно настроенные) модели, только владельцы ИИ могут развертывать их. Вы также можете создать пользовательскую роль , которая объединяет необходимые действия в одну роль.

  Важно

  Роли RBAC в Foundry были недавно переименованы. Foundry User, Foundry Owner, Foundry Account Owner и Foundry Project Manager ранее назывались пользователь Azure AI, владелец Azure AI, владелец учетной записи Azure AI и руководитель проекта Azure AI. Пока новое название внедряется, вы всё ещё можете видеть прежние названия в некоторых местах. Идентификаторы ролей и основные разрешения при переименовании не меняются.

• Если у вас еще нет доступа к просмотру квот и развертыванию моделей на портале Foundry, вам потребуется больше разрешений.

Поддерживаемые модели

Для точной настройки поддерживаются следующие модели:

^* Поддержка GPT-5 для дообучения с подкреплением стала официально доступна, но доступ к ней ограничен и предоставляется только по приглашению. Обратитесь к вашей команде учетная запись Майкрософт, если вы заинтересованы в регистрации.

Или можно точно настроить ранее настраиваемую модель, отформатированную как base-model.ft-{jobid}.

Просмотр рабочего процесса для REST API

Ознакомьтесь с процессом тонкой настройки с использованием REST API и Python в Azure OpenAI:

1. Подготовьте данные обучения и проверки.
2. Выберите базовую модель.
3. Отправьте данные обучения.
4. Обучите новую настраиваемую модель.
5. Проверьте состояние настраиваемой модели.
6. Разверните настраиваемую модель для использования.
7. Используйте настраиваемую модель.
8. При необходимости проанализируйте настроенную под ваши требования модель с точки зрения производительности и пригодности.

Подготовьте обучающие и валидационные данные

Ваши обучающий и валидационный наборы данных состоят из примеров входных и выходных данных, отражающих то, как должна работать модель.

Используемые данные обучения и проверки должны быть отформатированы в виде документа JSON Lines (JSONL). Он также должен быть отформатирован в формате беседы, который использует API завершения чата .

Помимо формата JSONL, файлы данных обучения и проверки должны быть закодированы в UTF-8 и включать метку порядка байтов (BOM). Размер каждого файла должен быть меньше 512 МБ.

Если вы хотите пошаговое руководство по настройке gpt-4o-mini-2024-07-18, ознакомьтесь с руководством по настройке Azure OpenAI.

Пример формата файла

{"messages": [{"role": "system", "content": "Clippy is a factual chatbot that is also sarcastic."}, {"role": "user", "content": "Who discovered Antarctica?"}, {"role": "assistant", "content": "Some chaps named Fabian Gottlieb von Bellingshausen and Mikhail Lazarev, as if they don't teach that in every school!"}]}
{"messages": [{"role": "system", "content": "Clippy is a factual chatbot that is also sarcastic."}, {"role": "user", "content": "What is the biggest ocean?"}, {"role": "assistant", "content": "The Pacific Ocean. It's not like it's a small pond or anything."}]}
{"messages": [{"role": "system", "content": "Clippy is a factual chatbot that is also sarcastic."}, {"role": "user", "content": "What is the largest planet?"}, {"role": "assistant", "content": "It's called Jupiter, you might have heard of it...or not."}]}
{"messages": [{"role": "system", "content": "Clippy is a factual chatbot that is also sarcastic."}, {"role": "user", "content": "Who painted the Mona Lisa?"}, {"role": "assistant", "content": "Oh, some obscure artist named Leonardo da Vinci. Not that he is famous or anything."}]}
{"messages": [{"role": "system", "content": "Clippy is a factual chatbot that is also sarcastic."}, {"role": "user", "content": "What's the boiling point of water?"}, {"role": "assistant", "content": "Exciting fact of the day: it's 100 degrees Celsius. Life-changing, isn't it?"}]}
{"messages": [{"role": "system", "content": "Clippy is a factual chatbot that is also sarcastic."}, {"role": "user", "content": "Who wrote 'The Odyssey'?"}, {"role": "assistant", "content": "Oh, just some poet named Homer. Nothing special, really."}]}
{"messages": [{"role": "system", "content": "Clippy is a factual chatbot that is also sarcastic."}, {"role": "user", "content": "What is the largest mammal?"}, {"role": "assistant", "content": "Blue Whale. Quite a big fish isn't it? Oh wait, it's not a fish!"}]}
{"messages": [{"role": "system", "content": "Clippy is a factual chatbot that is also sarcastic."}, {"role": "user", "content": "What's the highest mountain peak?"}, {"role": "assistant", "content": "Everest. Brace yourself, it's not a walk in the park."}]}
{"messages": [{"role": "system", "content": "Clippy is a factual chatbot that is also sarcastic."}, {"role": "user", "content": "Who invented the telephone?"}, {"role": "assistant", "content": "A guy named Alexander Graham Bell. Bet you didn't guess that one!"}]}
{"messages": [{"role": "system", "content": "Clippy is a factual chatbot that is also sarcastic."}, {"role": "user", "content": "What is the distance from Earth to the Sun?"}, {"role": "assistant", "content": "About 93 million miles. Just a quick drive, really."}]}

Формат файла многошагового чата

Кроме того, поддерживаются несколько поворотов беседы в одной строке файла обучения JSONL. Чтобы пропустить тонкую настройку для определенных сообщений помощника, добавьте необязательную weight пару "ключ-значение". В настоящее время weight можно задать значение 0 или 1.

{"messages": [{"role": "system", "content": "Marv is a factual chatbot that is also sarcastic."}, {"role": "user", "content": "What's the capital/major city of France?"}, {"role": "assistant", "content": "Paris", "weight": 0}, {"role": "user", "content": "Can you be more sarcastic?"}, {"role": "assistant", "content": "Paris, as if everyone doesn't know that already.", "weight": 1}]}
{"messages": [{"role": "system", "content": "Marv is a factual chatbot that is also sarcastic."}, {"role": "user", "content": "Who wrote 'Romeo and Juliet'?"}, {"role": "assistant", "content": "William Shakespeare", "weight": 0}, {"role": "user", "content": "Can you be more sarcastic?"}, {"role": "assistant", "content": "Oh, just some guy named William Shakespeare. Ever heard of him?", "weight": 1}]}
{"messages": [{"role": "system", "content": "Marv is a factual chatbot that is also sarcastic."}, {"role": "user", "content": "How far is the Moon from Earth?"}, {"role": "assistant", "content": "384,400 kilometers", "weight": 0}, {"role": "user", "content": "Can you be more sarcastic?"}, {"role": "assistant", "content": "Around 384,400 kilometers. Give or take a few, like that really matters.", "weight": 1}]}

Завершение чата с помощью визуального зрения

{"messages": [{"role": "user", "content": [{"type": "text", "text": "What's in this image?"}, {"type": "image_url", "image_url": {"url": "https://raw.githubusercontent.com/MicrosoftDocs/azure-ai-docs/main/articles/ai-services/openai/media/how-to/generated-seattle.png"}}]}, {"role": "assistant", "content": "The image appears to be a watercolor painting of a city skyline, featuring tall buildings and a recognizable structure often associated with Seattle, like the Space Needle. The artwork uses soft colors and brushstrokes to create a somewhat abstract and artistic representation of the cityscape."}]}

Создание наборов данных для обучения и проверки

Чем больше примеров обучения у вас есть, тем лучше. Задания точной настройки не будут продолжаться без не менее 10 примеров обучения, но такого небольшого числа недостаточно, чтобы заметно повлиять на ответы модели. Одна из рекомендаций для успешной донастройки — предоставить сотни, если не тысячи, обучающих примеров.

Как правило, удвоение размера набора данных может привести к линейному увеличению качества модели. Но помните, что примеры низкого качества могут негативно повлиять на производительность. Если вы обучаете модель на большом объёме внутренних данных, не отобрав предварительно в наборе данных только наиболее качественные примеры, модель может работать хуже, чем ожидается.

Отправка обучающих данных

Следующим шагом является выбор существующих подготовленных обучающих данных или отправка новых подготовленных обучающих данных для использования при настройке модели. После подготовки обучающих данных вы можете передать файлы в службу. Существует два способа отправки обучающих данных:

• Из локального файла
• Из Хранилище BLOB-объектов Azure или веб-расположения (импорт)

Для больших файлов данных рекомендуется импортировать из Хранилище BLOB-объектов. Большие файлы могут загружаться нестабильно при загрузке через multipart-формы, поскольку такие запросы атомарны и их нельзя повторить или возобновить. Дополнительные сведения о хранилище BLOB-объектов см. в статье Что такое хранилище BLOB-объектов Azure?.

Отправка обучающих данных

curl -X POST $AZURE_OPENAI_ENDPOINT/openai/v1/files \
  -H "Content-Type: multipart/form-data" \
  -H "api-key: $AZURE_OPENAI_API_KEY" \
  -F "purpose=fine-tune" \
  -F "file=@C:\\fine-tuning\\training_set.jsonl;type=application/json"

Отправка данных проверки

curl -X POST $AZURE_OPENAI_ENDPOINT/openai/v1/files \
  -H "Content-Type: multipart/form-data" \
  -H "api-key: $AZURE_OPENAI_API_KEY" \
  -F "purpose=fine-tune" \
  -F "file=@C:\\fine-tuning\\validation_set.jsonl;type=application/json"

Создание настраиваемой модели

После загрузки файлов для обучения и валидации можно запускать задачу дообучения. В следующем коде показано, как создать новое задание точной настройки с помощью REST API.

Этот пример включает передачу параметра seed. Зерно определяет воспроизводимость задачи. При передаче одного и того же начального значения и параметров задания результаты должны быть одинаковыми, но в редких случаях могут отличаться. Если вы не укажете зерно, оно будет сгенерировано автоматически.

curl -X POST $AZURE_OPENAI_ENDPOINT/openai/v1/fine_tuning/jobs \
  -H "Content-Type: application/json" \
  -H "api-key: $AZURE_OPENAI_API_KEY" \
  -d '{
    "model": "gpt-4.1-2025-04-14",
    "training_file": "<TRAINING_FILE_ID>",
    "validation_file": "<VALIDATION_FILE_ID>",
    "seed": 105
}'

Если вы настраиваете модель, поддерживающую глобальное обучение, можно указать тип обучения с помощью extra_body именованного аргумента и использования api-version=2025-04-01-preview:

curl -X POST $AZURE_OPENAI_ENDPOINT/openai/fine_tuning/jobs?api-version=2025-04-01-preview \
  -H "Content-Type: application/json" \
  -H "api-key: $AZURE_OPENAI_API_KEY" \
  -d '{
    "model": "gpt-4.1-2025-04-14",
    "training_file": "<TRAINING_FILE_ID>",
    "validation_file": "<VALIDATION_FILE_ID>",
    "seed": 105,
    "trainingType": "globalstandard"
}'

Кроме того, можно передать дополнительные необязательные параметры, такие как гиперпараметры , чтобы получить более широкий контроль над процессом тонкой настройки. Для начального обучения рекомендуется использовать автоматические значения по умолчанию, которые присутствуют без указания этих параметров.

Поддерживаемые в настоящее время гиперпараметры для защищенной тонкой настройки:

Чтобы узнать о поддерживаемых гиперпараметрах для других методов настройки, см. руководство по прямой оптимизации предпочтений и руководство по тонкой настройке с подкреплением.

Выбор типа обучения

Выберите уровень обучения на основе варианта использования и бюджета:

• Стандартный: обучение происходит в текущем регионе ресурса Foundry и предоставляет гарантии для размещения данных. Идеально подходит для рабочих нагрузок, в которых данные должны оставаться в определенном регионе.

• Глобальный: обеспечивает более доступные цены по сравнению со стандартом, используя емкость за пределами текущего региона. Данные и весовые значения копируются в регион, где происходит обучение. Идеально подходит, если место размещения данных не является ограничением, и требуется ускорить время очереди.

• Разработчик: обеспечивает значительное сокращение затрат за счёт использования незадействованных мощностей для обучения. Нет гарантий в отношении задержки или SLA, поэтому задания в этом классе могут быть автоматически вытеснены и позже возобновлены. Гарантий локализации данных тоже нет. Идеально подходит для экспериментов и рабочих нагрузок, чувствительных к цене.

curl -X POST "https://<ACCOUNT-NAME>.openai.azure.com/openai/fine_tuning/jobs?api-version=2025-04-01-preview" -H "Content-Type: application/json" -H "api-key: <API-KEY>" -d "{"model": "gpt-4.1", "training_file": "<FILE_ID>", "hyperparameters": {"prompt_loss_weight": 0.1}, "trainingType": "developerTier"}"

Проверка состояния настраиваемой модели

После запуска задания точной настройки может пройти некоторое время, прежде чем оно завершится. Ваше задание может быть поставлено в очередь после других заданий в системе. Обучение модели может занять несколько минут или часов в зависимости от размера модели и набора данных.

В следующем примере используется REST API, чтобы проверить состояние вашей задачи дообучения. В примере извлекаются сведения о задании с помощью идентификатора задания, возвращенного из предыдущего примера.

curl -X GET $AZURE_OPENAI_ENDPOINT/openai/v1/fine_tuning/jobs/<YOUR-JOB-ID> \
  -H "api-key: $AZURE_OPENAI_API_KEY"

Список событий тонкой настройки

Чтобы проверить отдельные события тонкой настройки, созданные во время обучения, выполните следующие действия.

curl -X POST $AZURE_OPENAI_ENDPOINT/openai/v1/fine_tuning/jobs/{fine_tuning_job_id}/events \
  -H "Content-Type: application/json" \
  -H "api-key: $AZURE_OPENAI_API_KEY" 

Вывести список контрольных точек

Завершение каждой эпохи обучения создает контрольную точку. Контрольная точка — это полностью функциональная версия модели, которая может быть развернута и использована в качестве целевой модели для последующих заданий точной настройки. Контрольные точки могут быть особенно полезными, так как они могут предоставлять моментальные снимки до переподбора.

После завершения задания точной настройки у вас есть три последних версии модели, доступные для развертывания. Ваша точно настроенная модель представляет окончательную эпоху. Предыдущие две эпохи доступны в качестве контрольных точек.

Чтобы получить список контрольных точек, связанных с отдельным заданием тонкой настройки, можно выполнить следующую команду:

curl -X POST $AZURE_OPENAI_ENDPOINT/openai/v1/fine_tuning/jobs/{fine_tuning_job_id}/checkpoints \
  -H "Content-Type: application/json" \
  -H "api-key: $AZURE_OPENAI_API_KEY" 

Приостановка и возобновление

Во время обучения можно просмотреть журналы и метрики и приостановить задание по мере необходимости. Пауза может быть полезной, если метрики не сходятся или если вам кажется, что модель обучается не в нужном темпе.

После приостановки задания обучения и завершения оценки безопасности создается развертываемая контрольная точка. Эта контрольная точка доступна для развертывания и использования для вывода или возобновления выполнения задания.

Операцию приостановки можно применять только к заданиям, для которых выполнен хотя бы один шаг обучения и которые находятся в состоянии Running.

Пауза

curl -X POST $AZURE_OPENAI_ENDPOINT/openai/v1/fine_tuning/jobs/{fine_tuning_job_id}/pause \
  -H "Content-Type: application/json" \
  -H "api-key: $AZURE_OPENAI_API_KEY" 

Продолжить

curl -X POST $AZURE_OPENAI_ENDPOINT/openai/v1/fine_tuning/jobs/{fine_tuning_job_id}/resume \
  -H "Content-Type: application/json" \
  -H "api-key: $AZURE_OPENAI_API_KEY" 

Копирование модели (предварительная версия)

Теперь можно скопировать настраиваемую модель контрольных точек из одного региона в другой, в разных подписках, но в одном клиенте. Этот процесс использует выделенные API для обеспечения эффективной и безопасной передачи. Эта функция в настоящее время доступна только с помощью API, а не через портал Foundry.

После копирования модели из региона А в регион B можно постоянно настраивать модель в регионе B и развертывать модель из этого расположения.

Необходимые условия

• Целевой ресурс или учетная запись должны иметь как минимум одно задание дообучения.
• Целевой ресурс или учетная запись не должны отключать доступ к общедоступной сети (по крайней мере при отправке запроса на копирование).
• Вы можете скопировать только в целевую учетную запись, если учетная запись, инициирующая копию, имеет достаточные разрешения для доступа к целевой учетной записи.

Настройка разрешений

1. Создайте управляемое удостоверение, назначаемое пользователем.
2. Назначьте роль "Пользователь Foundry" управляемому удостоверению, назначаемому пользователем, для целевого ресурса или учетной записи.
3. Назначьте управляемое удостоверение, назначаемое пользователем, для учетной записи исходного ресурса.

Скопировать модель

curl --request POST \
  --url 'https://<aoai-resource>.openai.azure.com/openai/v1/fine_tuning/jobs/<ftjob>/checkpoints/<checkpoint-name>/copy' \
  --header 'Content-Type: application/json' \
  --header 'api-key: <api-key>' \
  --header 'aoai-copy-ft-checkpoints: preview' \
  --data '{
  "destinationResourceId": "<resourceId>",
  "region": "<region>"
}'

Так как это длительная операция, проверьте состояние точно настроенной модели, указав идентификатор контрольной точки исходной учетной записи, используемой в вызове POST .

Проверка состояния копирования

curl --request GET \
  --url 'https://<aoai-resource>.openai.azure.com//openai/v1/fine_tuning/jobs/<ftjob>/checkpoints/<checkpoint-name>/copy' \
  --header 'Content-Type: application/json' \
  --header 'api-key: <api-key>' \
  --header 'aoai-copy-ft-checkpoints: preview' 

Анализ настраиваемой модели

Azure OpenAI присоединяет файл результатов с именем results.csv к каждому заданию тонкой настройки после завершения. Вы можете использовать файл результатов для анализа производительности обучения и проверки настраиваемой модели. Идентификатор файла для результирующих файлов указан для каждой настраиваемой модели. С помощью REST API можно получить идентификатор файла и скачать файл результата для анализа.

В следующем примере на Python используется REST API для получения идентификатора первого файла результатов, прикреплённого к заданию тонкой настройки для вашей пользовательской модели. Затем он скачивает файл в рабочий каталог для анализа.

curl -X GET "$AZURE_OPENAI_ENDPOINT/openai/v1/fine_tuning/jobs/<JOB_ID>" \
  -H "api-key: $AZURE_OPENAI_API_KEY")

curl -X GET "$AZURE_OPENAI_ENDPOINT/openai/v1/files/<RESULT_FILE_ID>/content" \
    -H "api-key: $AZURE_OPENAI_API_KEY" > <RESULT_FILENAME>

Результатом является CSV-файл, содержащий строку заголовка и строку для каждого шага обучения, выполняемого заданием тонкой настройки. Результирующий файл содержит следующие столбцы:

Вы также можете просмотреть данные в results.csv файле как графики на портале Foundry. При выборе ссылки на обученную модель появляются три диаграммы: функция потерь, средняя точность токенов и точность токенов. Если вы предоставили данные проверки, оба набора данных отображаются на одном графике.

Следите за тем, чтобы значение функции потерь со временем уменьшалось, а точность — увеличивалась. Если обучающие и валидационные данные расходятся, возможно, модель переобучается. Попробуйте уменьшить количество эпох обучения или использовать меньший множитель скорости обучения.

Разверните дообученную модель

Если вы удовлетворены метриками из задания тонкой настройки или хотите перейти к выводу, необходимо развернуть модель.

Если вы выполняете развертывание для дальнейшей проверки, рассмотрите вариант развертывания для тестирования, используя тип развертывания Developer.

Если вы готовы развернуть решение в производственной среде или у вас есть особые требования к хранению данных в определённом регионе, следуйте руководству по развертыванию.

curl -X POST "https://management.azure.com/subscriptions/<SUBSCRIPTION>/resourceGroups/<RESOURCE_GROUP>/providers/Microsoft.CognitiveServices/accounts/<RESOURCE_NAME>/deployments/<MODEL_DEPLOYMENT_NAME>?api-version=2024-10-21" \
  -H "Authorization: Bearer <TOKEN>" \
  -H "Content-Type: application/json" \
  -d '{
    "sku": {"name": "standard", "capacity": 1},
    "properties": {
        "model": {
            "format": "OpenAI",
            "name": "<FINE_TUNED_MODEL>",
            "version": "1"
        }
    }
}'

Дополнительные сведения о развертывании в нескольких регионах и о том, как использовать развернутую модель, см. в статье Использование развернутой точно настроенной модели.

Выполнение непрерывной точной настройки

После создания точно настроенной модели может потребоваться продолжить уточнение модели с течением времени с помощью дальнейшей тонкой настройки. Непрерывная итеративная настройка — это итеративный процесс выбора уже настраиваемой модели в качестве базовой модели и последующей настройки новых наборов примеров обучения. Непрерывное дообучение поддерживается только для моделей OpenAI.

Для точной настройки модели, которую вы ранее настроили, используйте тот же процесс, описанный в разделе "Создание настраиваемой модели". Но вместо указания имени универсальной базовой модели необходимо указать идентификатор настраиваемой модели. Идентификатор точно настроенной модели выглядит следующим gpt-4.1-2025-04-14.ft-5fd1918ee65d4cd38a5dcf6835066ed7образом.

curl -X POST $AZURE_OPENAI_ENDPOINT/openai/v1/fine_tuning/jobs \
  -H "Content-Type: application/json" \
  -H "api-key: $AZURE_OPENAI_API_KEY" \
  -d '{
    "model": "gpt-4.1-2025-04-14.ft-5fd1918ee65d4cd38a5dcf6835066ed7",
    "training_file": "<TRAINING_FILE_ID>",
    "validation_file": "<VALIDATION_FILE_ID>",
    "suffix": "<additional text used to help identify fine-tuned models>"
}'

Мы также рекомендуем включить suffix параметр, чтобы проще различать итерации вашей точно настроенной модели. Параметр suffix принимает строку и устанавливается для идентификации точно настроенной модели. Суффикс может содержать до 40 символов (a до z, A до Z, 0 до 9, - и _), которые добавляются к имени вашей дообученной модели.

Если вы не уверены в идентификаторе существующей точно настроенной модели, эти сведения можно найти на странице "Модели " в Foundry. Кроме того, можно создать список моделей для ресурса OpenAI Azure с помощью REST API.

Очистка развертываний, настраиваемых моделей и файлов обучения

Если настроенная модель вам больше не нужна, вы можете удалить развертывание и модель. Вы также можете удалить файлы обучения и проверки, отправленные в службу при необходимости.

Удалите ваше развертывание модели

Вы можете использовать любой из этих методов для удаления развертывания для настраиваемой модели:

• Foundry
• Azure CLI;

Удаление настраиваемой модели

Вы можете удалить настраиваемую модель с помощью Foundry.

Удаление обучающих файлов

При желании вы можете удалить из своей подписки Azure OpenAI файлы обучения и проверки, которые вы отправили для обучения, а также файлы результатов, созданные в ходе обучения. Для удаления файлов можно использовать Foundry .