Использование агентов в Azure Databricks

На этой странице представлен обзор средств для создания, развертывания и использования агентов на Azure Databricks. Дополнительные сведения об агентах см. в шаблонах проектирования системы агента.

Функция Описание
Начните работу: ИИ без программирования Попробуйте использовать ИИ-площадку для тестирования на основе пользовательского интерфейса и прототипирования.
Начало работы: MLflow 3 для GenAI Попробуйте MLflow для трассировки, оценки и отзывов пользователей.

Обслуживание и запрос больших языковых моделей (LLM)

Предоставлять тщательно отобранный набор моделей ИИ от поставщиков LLM, таких как OpenAI и Anthropic, и делать их доступными через безопасные и масштабируемые API.

Функция Описание
Базовые модели Обслуживают модели ИИ, включая открытый код и сторонние модели, такие как Meta Llama, Anthropic Claude, OpenAI GPT и многое другое.

Создание и развертывание агентов корпоративного уровня

Создавайте и развертывайте собственных агентов, включая агентов, вызывающих инструменты, приложения с расширенной генерацией на основе поиска и многоагентные системы. Для начальной точки без кода используйте игровую площадку ИИ для выбора LLM, добавления инструментов и чата с агентом для проверки ответов перед экспортом в код.

ИИ Плейграунд предоставляет вариант с низким уровнем кода для прототипирования агентов.

Функция Описание
Ai Playground (без кода) Прототипы и тестовые агенты в среде без кода. Быстро экспериментируйте с поведением агента и интеграцией инструментов перед созданием кода для развертывания.
Помощник по знаниям Создавайте и оптимизируйте ИИ-чат-ботов для конкретных областей, используя интуитивно понятный интерфейс.
Агент руководителя Создайте агент руководителя, который управляет агентами Genie, конечными точками агента, функциями каталога Unity, серверами MCP и пользовательскими агентами.
Создание настраиваемых агентов Создание, развертывание и оценка агентов с помощью Python. Поддерживает агенты, написанные с любой библиотекой разработки, включая LangGraph, LangChain, OpenAI и LlamaIndex. Интегрирована с трассировкой MLflow. Быстро проводите итерации с помощью приложений Databricks. Чтобы быстро приступить к работе, см. статью "Начало работы с агентами".
MCP и агентные инструменты Создайте средства агента для запроса структурированных и неструктурированных данных, выполнения кода или подключения к внешним API-интерфейсам службы.
MCP (протокол контекста модели) Стандартизируйте, как агенты подключаются к данным и средствам с помощью безопасного, согласованного интерфейса.

Регистрация и управление агентами

Если агент работает вне Databricks, зарегистрируйте его как службу агента в каталоге Unity, чтобы сделать ее обнаруживаемой для вашей команды и управлять тем, кто может использовать его.

Функция Описание
Сервисы агентов (бета) Регистрируйте агентов в каталоге Unity. Просматривайте и находите агентов во всех командах в одном представлении и управляйте доступом с помощью тех же разрешений, которые защищают ваши таблицы, модели и функции.

Оценка, отладка и оптимизация агентов

Отслеживайте производительность агентов, собирайте отзывы и добивайтесь улучшения качества с помощью инструментов оценки и трассировки.

Функция Описание
Отслеживание MLflow Используйте трассировку MLflow для сквозной наблюдаемости. Регистрируйте каждый шаг агента для отладки, мониторинга и аудита поведения агента в разработке и рабочей среде.
Оценка агента Используйте средство оценки агента и MLflow для измерения качества, стоимости и задержки. Соберите отзывы заинтересованных лиц и экспертов по темам с помощью встроенных приложений проверки и используйте судьи LLM для выявления и устранения проблем качества.
Агенты мониторинга Используйте ту же конфигурацию оценки (судьи LLM и пользовательские метрики) в автономном режиме оценки и онлайн-мониторинга.