Службы моделей в каталоге Unity

Служба модели — это защищаемый объект каталога Unity, представляющий конечную точку LLM. Службы моделей позволяют централизованно определять LLM-модели, предоставлять к ним общий доступ и управлять доступом к ним в Unity Catalog наряду с вашими данными и в разных рабочих областях.

Во время бета-версии службы моделей поддерживают следующие функции:

• Размещённые в Databricks базовые модели с оплатой за токен, как службы, предоставляемые системой в system.ai, и как службы, которые вы создаёте.
• Создание служб моделей и управление ими с помощью пользовательского интерфейса шлюза ИИ Unity, обозревателя каталогов и REST API каталога Unity.
• Запросы к сервисам моделей в разных рабочих областях как из Azure Databricks, так и извне.

Что такое служба моделей?

Служба моделей находится в схеме каталога Unity и ссылается на одну или несколько моделей в качестве назначений, с маршрутизацией и резервной маршрутизацией между ними. Клиенты вызывают сервис модели по его полному квалифицированному имени, а Unity AI Gateway маршрутизирует каждый запрос к целевой модели.

Так как служба модели является защищаемым объектом каталога Unity, он:

• Живет в каталоге и схеме, где она наследует параметры схемы, такие как привязки рабочей области.
• Содержит стандартные метаданные каталога Unity, такие как имя, владелец, комментарий и теги.
• Управляется привилегиями Unity Catalog, поэтому вы предоставляете доступ, используя те же операторы GRANT и REVOKE, что и для таблиц, функций и моделей.
• Можно найти в Обозревателе каталогов наряду с остальными ресурсами Unity Catalog.

Этот же сервис модели также отображается как эндпоинт в интерфейсе Unity AI Gateway, где ИИ-команды могут настраивать такие функции, как лимиты запросов, таблицы инференса и защитные ограничения. Дополнительные сведения об этих функциях см. в разделе "Управление ИИ" с помощью шлюза ИИ Unity.

Зачем управлять LLM-моделями в Unity Catalog?

Конечные точки Unity AI Gateway, созданные в рабочей области, ограничены этой рабочей областью. Чтобы предоставить общий доступ к конечной точке в рабочих областях, необходимо дублировать ее в каждой рабочей области и управлять каждой копией отдельно.

Службы моделей перемещают управление в каталог Unity, поэтому вы можете:

• Определите конечную точку LLM один раз и используйте ее из любой рабочей области, подключенной к одному хранилищу метаданных.
• Централизованное управление доступом с помощью привилегий каталога Unity вместо разрешений для каждой рабочей области.
• Откройте для себя модели, доступные вам во всех рабочих областях, в одном месте.
• Отслеживайте использование и затраты для сервисов моделей в системных таблицах Unity Catalog.

Службы моделей, предоставляемые системой

Azure Databricks предоставляет готовую к использованию службу моделей в схеме system.ai для каждой модели баз данных, размещенной в Databricks, напримерsystem.ai.databricks-claude-opus-4-6. Azure Databricks добавляет новые системные сервисы моделей по мере появления новых базовых моделей.

Предоставляемые системой службы модели имеют следующие характеристики:

• По умолчанию у всех пользователей учетной EXECUTE записи есть привилегии, поэтому вы можете запросить их без дополнительной настройки.
• Системный пользователь владеет им, и их нельзя удалить.
• По умолчанию только администраторы хранилища метаданных могут изменять их. Администратор хранилища метаданных может делегировать управление, предоставив привилегию MANAGE .

Чтобы ограничить доступ к службам модели, предоставляемым системой, см. инструкции по управлению службами моделей.

Privileges

Службы моделей используют стандартную модель привилегий Unity Catalog. Применяются следующие привилегии:

Когда пользователь обращается к сервису моделей, Azure Databricks проверяет, есть ли у владельцаEXECUTE на указанные модели (права определяющего). Вызывающей стороне не требуется прямой доступ к лежащим в основе моделям.

Limitations

Следующие возможности недоступны во время бета-версии:

• Модели с выделенной пропускной способностью и внешние поставщики моделей.
• Создание служб моделей и управление ими с помощью Terraform или SQL.
• Поиск служб моделей, имея только привилегию BROWSE.
• Происхождение и глобальный поиск служб моделей.

Дальнейшие действия

• Создание служб моделей и управление ими
• Службы модели запросов
• Находите сервисы моделей и управляйте доступом к ним
• Интеграция с агентами программирования