Примечание.
Для доступа к этой странице требуется авторизация. Вы можете попробовать войти или изменить каталоги.
Для доступа к этой странице требуется авторизация. Вы можете попробовать изменить каталоги.
Windows ML работает с моделями формата ONNX, так как Windows ML — это поддерживаемое Windows распределение поставщиков выполнения ONNX и оборудования. Это означает, что вы можете использовать миллионы существующих предварительно обученных моделей из различных источников или обучить собственные модели. В этом руководстве описывается, где можно найти, преобразовать или обучить модели ONNX.
Дополнительные сведения о Windows ML см. в статье "Что такое Windows ML".
| Options | Сведения |
|---|---|
| 1. Используйте модели из Инструментария Foundry | Выберите из более чем 20 моделей OSS (включая LLMs и другие типы моделей), которые готовы к оптимизации для использования с Windows ML с помощью инструмента преобразования Foundry Toolkit |
| 2. Использование других существующих моделей ONNX | Изучите более 30 000 предварительно обученных моделей ONNX на платформе Hugging Face или из других источников. |
| 3. Преобразование существующих моделей в формат ONNX | Просмотрите более 2400 000+ предварительно обученных моделей PyTorch / TensorFlow / и т. д. из Hugging Face или других источников и преобразуйте их в ONNX |
| 4. Настройка существующих моделей | Тонко настройте более 2 400 000 предварительно обученных моделей PyTorch / TensorFlow / т. д., полученных из источников, таких как Hugging Face, или других источников, чтобы они лучше подходили для вашего сценария и могли быть преобразованы в формат ONNX. |
| 5. Обучение моделей | Обучайте свои собственные модели в PyTorch, TensorFlow или других фреймворках и преобразуйте их в ONNX. |
Вы также можете выбрать из десятков готовых моделей ИИ и API в Microsoft Foundry на Windows, которые выполняются с помощью Windows ML. Дополнительные сведения см. в статье Use local AI with Microsoft Foundry on Windows.
Вариант 1. Использование моделей из Набора средств Foundry
С помощью средства преобразования Foundry Toolkit имеется десятки LLM и других типов моделей, которые готовы к оптимизации для использования с Windows ML. Получив модель с помощью Foundry Toolkit, вы получите преобразованную модель ONNX, оптимизированную для различных оборудования, на котором выполняется Windows машинное обучение.
Чтобы просмотреть доступные модели, ознакомьтесь со списком моделей набора средств Foundry.
Вариант 2. Использование других существующих моделей ONNX
Hugging Face размещает тысячи моделей ONNX, которые можно использовать с Windows ML. Модели ONNX можно найти следующими способами:
- Просмотр Центра моделей распознавания лиц
- Фильтрация по ONNX в фильтре библиотеки
Вам потребуется найти модель, совместимую с версией среды выполнения ONNX, включенной в версию Windows машинного обучения, которую вы используете. Ознакомьтесь с версиями среды выполнения ONNX, выпускаемых в составе Windows ML, чтобы узнать, какая версия среды выполнения ONNX используется с машинным обучением Windows.
Вариант 3. Преобразование существующих моделей в формат ONNX
Модели из PyTorch, TensorFlow или других фреймворков можно преобразовать в формат ONNX и использовать с Windows ML.
Hugging Face размещает миллионы моделей, которые можно преобразовать и использовать с Windows машинным обучением.
Вам потребуется преобразовать модель для запуска со средой выполнения ONNX, которая включена в вашу версию Windows ML, которую вы используете. Ознакомьтесь с версиями среды выполнения ONNX, выпускаемых в составе Windows ML, чтобы узнать, какая версия среды выполнения ONNX используется с машинным обучением Windows.
Чтобы преобразовать модель в формат ONNX, см. документацию для конкретной платформы, например:
Вариант 4. Настройка существующих моделей
Многие модели на Hugging Face или из других источников можно точно настроить (следуя инструкциям на карточках моделей на Hugging Face). Затем можно преобразовать настраиваемую модель в ONNX, следуя инструкциям, приведенным выше в варианте 3.
Популярный способ донастройки моделей — использовать команду olive finetune. См. документацию Olive, чтобы узнать больше об использовании Olive.
Вариант 5. Обучение моделей
Если вам нужна модель для конкретной задачи и вы не можете найти существующую модель, вы можете обучить свою собственную в PyTorch, TensorFlow или других фреймворках.
После обучения модели следуйте инструкциям в варианте 3 выше, чтобы преобразовать модель в формат ONNX.
Дальнейшие шаги
Получив модель ONNX, ее можно запускать с помощью Windows ML на целевых устройствах.
- Установка провайдеров выполнения Windows ML — скачивание и установка провайдеров выполнения в Windows ML
- Run ONNX models . Узнайте, как выполнять вывод с помощью машинного обучения Windows
Другие решения
В рамках Microsoft Foundry на Windows вы также можете выбрать из десятков готовых моделей ИИ и API, которые выполняются с помощью Windows ML. Дополнительные сведения см. в статье Use local AI with Microsoft Foundry on Windows.