Управление бюджетами и элементами управления затратами для Genie

Продукты Genie тарифицируются по модели оплаты по мере использования, с бесплатным ежемесячным лимитом для каждого пользователя. Использование Genie отслеживается с помощью шлюза ИИ Unity. Администраторы учетных записей могут задать бюджеты, которые позволяют отслеживать и контролировать расходы Genie для всей учетной записи, для определенных рабочих областей, для групп пользователей или отдельных пользователей, а также оповещать вас до достижения ограничений.

Дополнительные сведения о бюджетах см. в статье "Создание и мониторинг бюджетов" и"Управление бюджетами" для шлюза искусственного интеллекта Unity.

Как работает выставление счетов Genie

Genie Code использует модель оплаты по мере использования:

• Бесплатное ежемесячное использование: каждый пользователь получает бесплатный объем использования LLM каждый месяц. Бесплатное использование применяется к идентифицированным пользователям, а не к субъектам-службам.
• Оплата по мере использования: объём использования сверх бесплатного объёма оплачивается в DBU на основе фактического использования базовой LLM-модели.

Бюджеты применяются к использованию с оплатой по мере использования. Вы не можете использовать бюджет для удаления бесплатного ежемесячного использования пользователя.

Текущие цены и объем бесплатного использования см. на странице цен на Azure Databricks.

Requirements

• Для создания бюджетов и управления ими необходимо быть администратором учетной записи.

Создание бюджета для Genie

Бюджеты создаются и управляются в консоли учетной записи. Дополнительные сведения см. в статье "Создание и мониторинг бюджетов ".

Чтобы создать бюджет на использование Genie, используйте тип ресурса Unity AI Gateway и тег ресурса databricks-product: genie. Не добавляйте другие теги ресурсов в бюджет Genie. Дополнительные теги не поддерживаются и не позволяют бюджету отслеживать использование Genie.

Выполните следующие действия, чтобы создать бюджет для Genie с общим порогом для рабочей области, а также порогами и переопределениями для отдельных пользователей:

1. На боковой панели консоли учетной записи щелкните "Использование".

2. Перейдите на вкладку "Бюджеты ". На этой вкладке показаны существующие бюджеты для учетной записи.

3. Нажмите кнопку "Создать бюджет".

4. В разделе "Область " задайте область для бюджета:

   1. Введите название для вашего бюджета.
   2. В раскрывающемся списке рабочих областей выберите рабочие области, которые вы хотите включить в бюджет. Бюджет предоставляется всем выбранным рабочим областям, отслеживая их объединенное использование по одинаковым пороговым значениям, а не применяя отдельный бюджет к каждой рабочей области. Выберите "Все ", чтобы применить бюджет ко всей учетной записи.
   3. В раскрывающемся списке типов ресурсов выберите шлюз ИИ Unity.
   4. В разделе тегов ресурсов :
      1. Щелкните "Выбрать теги".
      2. В раскрывающемся списке Key введите databricks-product.
      3. В раскрывающемся списке Значения введите genie.

5. Настройте общие пороговые значения , чтобы задать пул использования, который применяется ко всем пользователям и рабочим областям в области бюджета.

   1. Щелкните Добавьте пороговое значение.
   2. Задайте сумму для ежемесячного порога. Это ежемесячный порог, общий для всех пользователей и рабочих пространств, определенных в области действия бюджета.
   3. В разделе "При исчерпании порогового значения" установите флажок "Отправить оповещение " и /или " Блокировать использование". Если установить флажок Блокировать использование, использование Genie будет заблокировано для всех пользователей при достижении порога бюджета. Databricks рекомендует оставить отмеченным только параметр Отправлять оповещение, а затем использовать пороговые значения и переопределения для каждого пользователя, чтобы блокировать использование.
   4. Если вы установили флажок Отправлять оповещение, введите адреса электронной почты, чтобы получать оповещения о бюджете, когда использование достигнет порогового значения.
   5. Нажмите кнопку Добавить.

6. Настройте пороговые значения для каждого пользователя , чтобы задать ежемесячное пороговое значение, которое применяется к каждому пользователю в области бюджета.

   1. Щелкните Добавьте пороговое значение.
   2. Введите сумму доллара в поле "Ежемесячное пороговое значение ". Этот порог применяется к каждому пользователю в области действия бюджета, в дополнение к его бесплатному ежемесячному объёму использования. Например, введите $100, чтобы предоставить каждому пользователю ежемесячное ограничение в размере $100.
   3. В разделе "При исчерпании порогового значения" установите флажок "Отправить оповещение " и /или " Блокировать использование". Параметр Block usage запрещает пользователю использовать Genie при достижении порогового значения бюджета. Можно задать переопределения для каждого пользователя, чтобы предоставить определенным пользователям или группам более высокий порог.
   4. Введите разделенный запятыми список адресов электронной почты в поле "Адреса электронной почты ". Эти адреса получают оповещения, когда расходы пользователя превышают пороговое значение. Уведомление определяет пользователя, их месячные расходы и бюджет.

   Внимание

   Уведомления о бюджете по электронной почте включают название бюджета, идентификатор пользователя для пороговых значений на пользователя и заданные настраиваемые теги. Получатели электронной почты не должны быть пользователями Azure Databricks. Убедитесь, что вы защищаете конфиденциальные данные при именовании бюджета, выборе тегов и добавлении получателей электронной почты.

7. Добавьте переопределения для каждого пользователя, чтобы предоставить некоторым пользователям или группам более высокий порог:

   1. Щелкните Добавьте переопределение.
   2. В раскрывающемся списке "Пользователи" выберите конкретного пользователя или группу пользователей.
   3. Введите сумму доллара в поле "Ежемесячное пороговое значение ". Это пороговое значение переопределяет пороговое значение по умолчанию для выбранных пользователей, но не переопределяет общее пороговое значение. Например, присвойте genie-code группе пороговое значение $200, чтобы пользователи получили более высокий предел. Если пользователь находится в нескольких группах пользователей, он наследует наиболее допустимый порог в бюджете.
   4. Нажмите кнопку Добавить.

8. Нажмите кнопку Создать.

На приведенном выше рисунке показан пример конфигурации бюджета для использования Genie в рабочей области dais-development с общим пороговым значением $5000 и пороговым значением для каждого пользователя $ 100. Индивидуальные переопределения задают для пользователей из группы genie-code повышенный порог в $200, а для пользователей из группы power-users — $300 в месяц. Если пользователь состоит и в genie-code, и в power-users, для него действует более высокий допустимый порог в $300.

Как вместе работают общие и пользовательские пороговые значения

Единый бюджет может объединить общее пороговое значение и пороговое значение для каждого пользователя (с переопределениями для каждого пользователя). Эти два порога оцениваются независимо. Если для порога включён параметр Блокировать использование, пользователь блокируется, как только достигается первый такой порог:

• Общий лимит: единый пул расходов по модели Pay-As-You-Go, общий для всех в области действия бюджета. Если пул исчерпан, все пользователи в этой области действия блокируются, даже если отдельный пользователь ещё не достиг своего индивидуального порогового значения.
• Пороговое значение для каждого пользователя: по умолчанию для каждого пользователя в области бюджета. Когда пользователь достигает этого лимита, он будет заблокирован, даже если в общем пуле всё ещё остаётся доступный бюджет.
• Переопределения для отдельных пользователей: более высокий лимит для определённых пользователей или групп. Переопределение заменяет используемое по умолчанию индивидуальное пороговое значение для этих пользователей. Он не переопределяет общее пороговое значение.

Переопределение для отдельного пользователя увеличивает его индивидуальный лимит, а не общий пул. Пользователь не может тратить сверх исчерпанного общего порога, а неиспользованный общий бюджет не позволяет пользователю превысить его собственный индивидуальный лимит. Правило наибольшего послабления применяется только среди пороговых значений и переопределений на уровне пользователя: если пользователь состоит в нескольких группах с разными переопределениями, применяется наибольшее из них. Он не применяется между общим пороговым значением и пороговым значением для каждого пользователя.

Используя предыдущую примерную конфигурацию (общий порог в 5 000 долл. США, порог на пользователя в 100 долл. США, переопределение в 200 долл. США для genie-code, а также переопределение в 300 долл. США для power-users, при включенной функции Блокировать использование):

• Пользователь в power-users может потратить до $300 в рамках модели оплаты по мере использования при условии, что общий пул в $5,000 не исчерпан.
• Если общий пул $ 5000 исчерпан, этот пользователь заблокирован, даже если они не достигли своего собственного ограничения в размере 300 долларов.
• Пользователь, входящий и в genie-code, и в power-users, получает более высокий лимит в $300, а не $200.

Отслеживайте использование и стоимость Genie и запрашивайте данные о них

Отслеживайте предполагаемое использование Genie и затраты на странице сведений о бюджете, которая часто обновляется. Просмотр сведений о бюджете.

Чтобы запросить и проанализировать использование Genie в вашей учетной записи из таблиц системы выставления счетов, включая сопоставление использования Genie с номерами SKU и как рекламные цены отображаются в данных об использовании, см. статью "Мониторинг и понимание затрат Genie".

Ограничения

• Бюджеты не могут удалить бесплатное ежемесячное использование пользователя.

• Каждый бюджет поддерживает максимум четыре общих пороговых значения и 20 переопределений для каждого пользователя.

• Ваша учетная запись может иметь не более 1000 бюджетов.

• Для сервисных субъектов не предусмотрен бесплатный ежемесячный объем использования, и оплата взимается за весь объем использования.

• Бюджеты отслеживают использование LLM. Вычисления, используемые для выполнения запросов, таких как хранилище SQL, выставляются отдельно и не включаются в бюджеты Genie.

• Существует краткая задержка между использованием и отправкой оповещения.

• Пороги использования блоков соблюдаются примерно по принципу. Правоприменение использует почти в реальном времени оценку затрат, поэтому фактические расходы могут варьироваться выше или ниже установленного порога. Это означает следующее:

  • Пользователь может быть заблокирован до того, как его фактические расходы достигнут порога.
  • До вступления в силу применения закона может произойти определённые расходы, превышающие этот порог. Активные запросы Genie, выполняемые при достижении порога, не прерываются.

  system.billing.usage остаётся источником истины по фактическому оплачиваемому использованию. Для выявления расхождений между использованием, отслеживаемым по бюджету, и фактическими затратами Azure Databricks может задним числом корректировать бюджетные оценки для их согласования.

• Суммы расходов в электронных письмах с оповещениями о бюджете, на странице сведений о бюджете и в system.billing.usage могут отличаться при сравнении в один и тот же момент времени. Это ожидаемо, потому что каждый источник обновляется с разной частотой:

  • Сообщения электронной почты о бюджете: отражает расходы на момент активации оповещения.
  • Страница сведений о бюджете: часто обновляется, но вскоре после получения недавнего письма с уведомлением на ней может отображаться сумма меньше, чем в этом письме.
  • system.billing.usage: обновляется каждые несколько часов. Запросы к системным таблицам вскоре после получения оповещения могут возвращать меньшую сумму расходов, чем на странице сведений о бюджете или в электронных письмах с оповещениями.

  Применение бюджета, включая пороговые значения блокировки использования и оповещений, основано на отслеживании расходов практически в реальном времени и не влияет на время обновления системной таблицы.

Дополнительные ресурсы

• Создание и мониторинг бюджетов
• Управление бюджетами для шлюза искусственного интеллекта Unity
• Анализ стоимости шлюза AI в Unity
• Журналы аудита для ИИ/BI
• Вопросы и ответы по затратам и бюджетам Genie