Начало работы с Foundry Local

Foundry Local — это локальная версия Azure AI Foundry, которая обеспечивает локальное выполнение больших языковых моделей (LLMs) непосредственно на устройстве Windows. Это хорошая альтернатива, если вы хотите глубже и реализовать сценарий искусственного интеллекта, который недоступен с API Windows.

Это решение вывода искусственного интеллекта на устройстве предоставляет преимущества конфиденциальности, настройки и затрат по сравнению с облачными альтернативами. Лучше всего это подходит для существующих рабочих процессов и приложений с простым использованием ИНТЕРФЕЙСА командной строки и REST API. Дополнительные сведения о Foundry Local см. в документации по Foundry Local.