Начало работы: выполняйте запросы к LLM и создавайте прототипы агентов без написания кода

Это 5-минутное руководство без программирования знакомит с ИИ в Azure Databricks. Вы будете использовать игровую площадку ИИ для выполнения следующих действий:

  • Запрашивайте большие языковые модели (LLM) и сравнивайте результаты рядом друг с другом.
  • Создайте прототип агента, вызывающего инструменты
  • Экспортируйте вашего агента в Databricks Apps или в ноутбук
  • Необязательно: создайте прототип чат-бота для ответов на вопросы с использованием поколения, расширенного извлечением информации (RAG)

Перед тем как начать

Убедитесь, что ваше рабочее пространство может получить доступ к следующему:

Шаг 1. Запрос LLM с помощью игровой платформы ИИ

Используйте песочницу ИИ для запроса LLM в чат-интерфейсе.

  1. В рабочей области выберите "Детская площадка " в области навигации слева в разделе ИИ/ML.
  2. Введите такой вопрос, как "Что такое RAG?"

Добавьте новый LLM для сравнения ответов бок о бок.

  1. В правом верхнем углу выберите + , чтобы добавить модель для сравнения.
  2. В новой области выберите другую модель с помощью раскрывающегося селектора.
  3. Установите флажки синхронизации , чтобы синхронизировать запросы.
  4. Попробуйте создать запрос, например "Что такое составная система ИИ?", чтобы увидеть два ответа параллельно.

Детская площадка для искусственного интеллекта

Продолжайте тестировать и сравнивать разные LLM, чтобы выбрать лучшую модель для разработки агента.

Шаг 2: Создайте прототип агента, вызывающего инструменты

Средства позволяют LLM делать больше, чем создавать язык. Средства могут запрашивать внешние данные, выполнять код и выполнять другие действия. AI Playground предоставляет возможность разрабатывать прототипы без написания кода для агентов, которые обращаются к инструментам.

  1. На игровой площадке выберите модель с меткой включенные инструменты.

    Выберите LLM с возможностью вызова инструментов

  2. Выберите Инструменты>+ Добавить инструмент и выберите встроенную функцию каталога Unitysystem.ai.python_exec.

    Эта функция позволяет агенту выполнять произвольный код Python.

    Выберите инструмент размещенных функций

    Другие варианты инструментов включают:

    • Функция UC: выберите функцию каталога Unity для используемого агента.
    • Определение функции: определите пользовательскую функцию, чтобы вызывать её вашим агентом.
    • Поиск ИИ: укажите индекс поиска ИИ. Если агент использует индекс поиска ИИ, его ответ будет ссылаться на используемые источники.
    • MCP: укажите серверы MCP для использования управляемых серверов Databricks MCP или внешних серверов MCP.
  3. Задайте вопрос, который включает создание или запуск кода Python. Вы можете попробовать различные варианты на формулировку запроса. При добавлении нескольких инструментов LLM выбирает соответствующее средство для создания ответа.

    Создайте прототип LLM с помощью средства хостинга функций

Необязательно: создать прототип бота для ответа на вопросы по RAG

Если в рабочей области настроен индекс поиска ИИ, можно создать прототип бота с ответами на вопросы. Этот тип агента использует документы в индексе поиска ИИ для ответа на вопросы, основанные на этих документах.

  1. Нажмите Инструменты>+ Добавить инструмент. Затем выберите индекс поиска ИИ.

    Выбор средства поиска ИИ

  2. Задайте вопрос, связанный с документами. Агент может использовать индекс для поиска соответствующих сведений и будет ссылаться на все документы, используемые в ответе.

    Прототип LLM с помощью средства поиска ИИ

Сведения о настройке индекса поиска ИИ см. в разделе "Создание индекса поиска ИИ".

Шаг 3. Экспорт агента

После тестирования агента в AI Playground экспортируйте его, чтобы затем можно было развертывать, оценивать и дорабатывать его вне AI Playground. Ai Playground предлагает два пути экспорта:

  • Экспорт в приложения Databricks (рекомендуется): устанавливает готовое к развертыванию приложение агента из шаблона agent-openai-agents-sdk, включая встроенный интерфейс чата, подключение инструментов MCP и аутентификацию. Выберите этот путь для новых агентов.
  • Создать блокнот агента (устаревшая версия): Создает блокнот Python, в котором определяется агент и выполняется его развертывание в конечную точку Model Serving. Выберите этот путь, если Приложения Databricks недоступны в рабочей области или регионе.

Параметр Export to Databricks Apps создает развернутое приложение агента, с которым можно сразу общаться в чате. Приложение использует ту же модель, системный запрос и средства (включая серверы MCP и векторный поиск), настроенные на игровой площадке.

Перед экспортом убедитесь, что рабочая область соответствует следующим требованиям:

Для экспорта агента:

  1. В Playground нажмите «Получить код»>«Экспортировать в приложения Databricks».

  2. В диалоговом окне Экспорт в Databricks Apps задайте следующее:

    • Имя приложения: уникальное имя, которое начинается с agent- и содержит только строчные буквы, цифры и дефисы (например, agent-research-assistant).
    • Описание приложения: краткое описание того, что делает агент.
    • Эксперимент MLflow: выберите существующий эксперимент MLflow для использования для трассировки и оценки или создания нового.
  3. Нажмите кнопку "Экспорт". Azure Databricks выполняет следующие действия.

    1. Проверяет доступность имени приложения.
    2. Устанавливает шаблон agent-openai-agents-sdk в вашу рабочую область и предоставляет приложению разрешения к необходимым ему ресурсам. Эти ресурсы включают эксперимент MLflow, конечную точку обслуживания и все серверы MCP, функции каталога Unity, агенты Genie или векторные индексы поиска, добавленные в качестве инструментов.
    3. Создает agent_server/agent.py на основе вашей конфигурации Playground, чтобы развернутый агент соответствовал агенту, которого вы протестировали.
  4. Когда появится диалоговое окно об успешном завершении, щелкните Показать агента, чтобы открыть развернутое приложение и общаться с ним через встроенный интерфейс.

Сведения о настройке кода агента, настройке проверки подлинности, добавлении оценки или повторном развертывании с помощью пакетов ресурсов Databricks (DABS) см. в статье "Создание агента" и его развертывание в приложениях Databricks.

Создание записной книжки агента (устаревшая версия)

После тестирования вашего агента на игровой площадке ИИ нажмите Получить код, а затем >, чтобы экспортировать вашего агента в ноутбук Python.

После экспорта кода агента Azure Databricks сохраняет папку с записной книжкой драйвера в рабочую область. Этот драйвер определяет средство вызова ResponsesAgent, проверяет агент локально, использует ведение журнала на основе кода, регистрирует и развертывает агент с помощью настраиваемых агентов.

Замечание

Экспортируемая записная книжка в настоящее время использует устаревший рабочий процесс разработки агента, который развертывает агент в службе модели. Databricks рекомендует создавать агенты с помощью Databricks Apps. См . статью "Создание агента" и его развертывание в Приложениях Databricks.

Tip

Если вы хотите, чтобы Azure Databricks самостоятельно запускал цикл агента, вы можете использовать Supervisor API (Beta) (deprecated) вместо того, чтобы писать собственную реализацию. Supervisor API поддерживает инструменты, размещенные в Azure Databricks (функции Unity Catalog, агенты Genie, серверы MCP), а также инструменты функций на стороне клиента, которые исполняются в коде вашего приложения. Выберите этот параметр, если между вызовами инструментов не требуется настраиваемая логика Python.

Чтобы опробовать это в конфигурации Playground, убедитесь, что вы добавили хотя бы один инструмент на шаге 2, затем нажмите Получить код>Curl API. Если в развёртывании Playground подключены инструменты и используется модель, совместимая с Supervisor, то curl — это запрос POST к Supervisor API /mlflow/v1/responses с вашей моделью, промптом и размещёнными инструментами. Для этого параметра также требуется включить предварительную версию API руководителя . См. статью "Управление предварительными версиями Azure Databricks".

Чтобы развернуть агент Supervisor API на приложениях Databricks, см. Создать пользовательский агент с использованием Supervisor API (Beta) (устарело).

Дальнейшие шаги

Чтобы создавать агентов с использованием подхода «сначала код», см. Создание агента и его развертывание в Databricks Apps.