Функция ai_generate_text

Область применения: Databricks SQL

Возвращает текст, созданный выбранной крупной языковой моделью (LLM), с помощью запроса.

• Эта функция доступна только в Databricks SQL Pro и бессерверном режиме.
• Эта функция устарела. Databricks рекомендует ai_query с внешними моделями.

ai_generate_text(prompt, modelName[, param1, value1] [...])

• prompt: строковое выражение, текстовое предложение, передаваемое выбранному LLM.
• modelName: строковый литерал, поддерживаются только 'openai/gpt-3.5-turbo' и 'azure_openai/gpt-35-turbo'.
• paramN и valueN: пары "ключ-значение" для проверки подлинности и настройки выбранного LLM. Ключи должны быть строковыми литералами и чувствительны к регистру. Типы значений зависят от следующих ключей:
  • Модель 'openai/gpt-3.5-turbo' использует API завершения чата из Open AI. Он поддерживает следующие параметры:
    • 'apiKey': обязательный. Ключ API OpenAI для доступа к конечной точке модели. Указанное значение не может быть явной строкой константы. Рекомендуемое значение содержит функцию secret(scope, key) и скалярный подзапрос SELECT ....
    • 'temperature': используемая температура выборки. Его значение — числовый литерал между 0 и 2. Значение по умолчанию — 1.0.
    • stop: остановить строки. Его значение — это литерал STRING или ARRAY<STRING>, содержащий до 4 строковых литералов. По умолчанию используется значение NULL.
  • Модель 'azure_openai/gpt-35-turbo' использует API завершения чата из службы Azure OpenAI. Он принимает все параметры из приведенной выше модели 'openai/gpt-3.5-turbo' и любые дополнительные параметры для создания URL-адреса конечной точки. Databricks поддерживает только проверку подлинности ключа API.
    • 'resourceName': обязательный. Его значение — строковый литерал для указания имени ресурса.
    • 'deploymentName': обязательный. Его значение представляет собой строковый литерал, используемый для указания имени развертывания.
    • 'apiVersion': обязательный. Его значение — строковый литерал для указания используемой версии API.

Строковое выражение, представляющее текст, восстановленный из выбранного LLM.

Пример использования функции ai_generate_text см. в анализе отзывов клиентов с помощью ai_generate_text() и с OpenAI.

> SELECT ai_generate_text('Hello', 'openai/gpt-3.5-turbo',
    'apiKey', secret('ml', 'key'),
    'temperature', 0.1);

  Hello! How can I assist you today?

> SELECT ai_generate_text('Hello',
    'azure_openai/gpt-35-turbo',
    'apiKey', secret('ml', 'key'),
    'resouceName', 'resource',
    'deploymentName', 'deploy',
    'apiVersion', '2023-03-15-preview',
    'temperature', 0.1);

  Hello! How can I assist you today?

> SELECT ai_generate_text('Hello', 'openai/gpt-3.5-turbo',
    'apiKey', (SELECT secret FROM secrets.open_ai_tokens LIMIT 1),
    'temperature', 0.1);

  Hello! How can I assist you today?

> CREATE FUNCTION summarize(text STRING)
  RETURNS STRING
  RETURN AI_GENERATE_TEXT(
    CONCAT('Summarize the following text: ',
      text),
    'openai/gpt-3.5-turbo',
    'apiKey', (SELECT secret FROM secrets.open_ai_tokens LIMIT 1),
    'temperature', 0.1
  );

  SELECT summarize('This is the text to be summarized.')

  This is the summarization.

> SELECT ai_generate_text('Hello',
    'openai/gpt-3.5-turbo',
    'apiKey', 'sg-xxxxxxxxxxxxxxxxxxxxxx',
    'temperature', 0.1);

 Error: DATATYPE_MISMATCH.INVALID_SECRET
 The parameter value of the "apiKey" argument to the ai_generate_text function can not be a constant 'sg-xxxxxxxxxxxxxxxxxxxxxx'. Recommended usages include `secret(scope, key)` function or a `SELECT ...` subquery.

• функцияai_query
• функцияsecret