Что такое инструменты?

Завершено

Подсказка

Дополнительные сведения см. на вкладке "Текст и изображения ".

Модели Microsoft Foundry включают модели, которые могут использовать средства для поиска сведений или выполнения задач. Вы можете использовать поддержку инструментов в моделях, указав инструменты, которые вы хотите использовать в запросах, отправленных через API ответов OpenAI.

Схема приложения, настраивающего модель для использования средств.

При разработке приложения генеративного искусственного интеллекта с помощью Microsoft Foundry, можно поискать в Foundry Models модель с возможностями вызова инструментов и развернуть её. Затем вы можете разрабатывать клиентские приложения, использующие API ответов OpenAI для отправки подсказок в развернутую модель, указав средства, которые могут использоваться моделью.

Замечание

По умолчанию модель выбирает, когда следует использовать инструмент (и который) на основе запроса. Вы можете настроить правила выбора инструментов и использовать параметр "Инструкции " (системный запрос) для руководства по этому выбору.

Некоторые часто используемые средства, доступные в API ответов , включают:

  • code_interpreter: среда Python, в которой модель может создавать и запускать код.
  • web_search: инструмент, позволяющий модели находить общие сведения в Интернете, что позволяет моделировать ответы на основе более актуальных данных, чем на которых она была обучена.
  • file_search: Средство, позволяющее модели выполнять поиск определенных файлов, которые вы загружаете в выделенный индекс векторного поиска, что позволяет ему основывать ответы на конкретных знаниях.
  • функция: инструмент, позволяющий модели вызывать пользовательские функции в коде приложения.

Мы рассмотрим эти средства в этом модуле.

Подсказка

Они представляют только некоторые из доступных средств; и разработка средств для агентных решений ИИ является быстро развивающейся областью. Дополнительные сведения о средствах, поддерживаемых в API ответа OpenAI, см. в руководстве разработчика OpenAI

Указание инструментов в API ответов

При создании ответа из модели можно указать один или несколько инструментов в вызове responses.create() метода. В следующем примере псевдокода Python указывается, где указан список вызываемых средств:

from openai import OpenAI

client = OpenAI(
    base_url={openai_endpoint},
    api_key={auth_key_or_token}
)

response = client.responses.create(
    model={model_deployment},
    instructions="You are a helpful AI assistant.",
    input="Find me some information about vintage computers.",
    # Specify available tools as a JSON list
    tools=[
        { 
            # A tool definition
            "type": "{tool_type}",
            "{tool-specific-setting}": "{value}",
                ...
        },
        { 
            # Another tool definition
            "type": "{another_tool_type}",
            "{tool-specific-setting}": "{value}",
                ...
        }
    ]
)
print(response.output_text)

Подсказка

Дополнительные сведения об использовании API ответов для отправки запроса в модель в Microsoft Foundry см. в статье "Разработка приложения чата с генерируемым искусственным интеллектом" с помощью модуля Microsoft Foundry .