Планирование и управление затратами для центров Microsoft Foundry (классический формат)

Применяется только к:Портал Foundry (классический). Эта статья недоступна для нового портала Foundry. Дополнительные сведения о новом портале.

В этой статье описывается, как планировать и управлять затратами для хабов Microsoft Foundry с помощью анализа затрат в портале Azure. Во-первых, используйте калькулятор цен Azure, чтобы планировать затраты Foundry перед добавлением любых ресурсов. Затем при добавлении Azure ресурсов просмотрите предполагаемые затраты.

У проектов центра foundry нет определенной страницы в калькуляторе цен Azure. Центры foundry состоят из нескольких других служб Azure, некоторые из которых являются необязательными. В этой статье содержатся сведения об использовании калькулятора цен для оценки затрат на эти службы. Вы используете средства Foundry на портале Foundry. Затраты на средства Foundry являются лишь частью ежемесячных расходов в счете Azure. Вы оплачиваете все службы Azure и ресурсы, используемые в подписке Azure, включая услуги сторонних поставщиков.

Необходимые условия

Анализ затрат в Управление затратами Microsoft поддерживает большинство типов учетных записей Azure, но не все из них. Полный список поддерживаемых типов учетных записей см. в разделе "Общие сведения об управлении затратами". Чтобы просмотреть данные о затратах, как минимум, требуется доступ на чтение для учетной записи Azure. Сведения о назначении доступа к данным Управление затратами Microsoft см. в статье Assign access to data.

Оценка затрат перед использованием средств Foundry

Используйте калькулятор цен Azure перед добавлением средств Foundry.

1. Выберите продукт, например Azure OpenAI, в калькуляторе цен Azure.

   

2. Введите количество единиц, которые планируется использовать. Например, введите количество входных маркеров.

   

3. Выберите несколько продуктов, чтобы оценить затраты на несколько продуктов. Например, найдите и выберите Виртуальные машины, чтобы добавить потенциальные затраты на вычислительные ресурсы.

   

При добавлении новых ресурсов в проект вернитесь к этому калькулятору и добавьте тот же ресурс, чтобы обновить оценки затрат.

Затраты, которые обычно накапливаются на базе хабов Foundry

При создании ресурсов для концентратора также создаются ресурсы для других служб Azure. Они:

Затраты могут возникнуть перед удалением узла Foundry

Перед удалением центра в портале Azure или с помощью Azure CLI следующие подресурсы являются источником общих затрат, которые накапливаются, даже если вы не работаете активно в рабочей области. Если вы планируете вернуться в хаб позже, эти ресурсы могут продолжать приводить к затратам.

• Поиск с использованием ИИ Azure (для данных)
• Виртуальные машины
• Балансировщик нагрузки
• Azure Virtual Network
• Пропускная способность

За каждую виртуальную машину начисляется плата за каждый час ее работы. Стоимость зависит от спецификаций виртуальных машин. Виртуальные машины, которые запущены, но не работают с набором данных, по-прежнему тарифицируются через балансировщик нагрузки. Для каждого вычислительного экземпляра один балансировщик нагрузки оплачивается в день. Для каждых 50 узлов вычислительного кластера выставляется счёт за один стандартный балансировщик нагрузки. Чтобы избежать затрат на подсистему балансировки нагрузки для остановленных вычислительных экземпляров и вычислительных кластеров, удалите вычислительный ресурс.

Вычислительные экземпляры также несут затраты на диск P10 даже в остановленном состоянии. Эта стоимость обусловлена тем, что пользовательское содержимое, сохраненное на диске, продолжает сохраняться даже в остановленном состоянии, аналогично Azure VMs. Для виртуальных сетей Azure плата взимается за одну виртуальную сеть по подписке и на регион. Виртуальные сети не могут охватывать регионы или подписки. При настройке частных конечных точек в виртуальных сетях может взиматься плата. Если виртуальная сеть использует Брандмауэр Azure, брандмауэр также может взимать плату. Плата за использование пропускной способности; чем больше данных передается, тем больше плата взимается.

Дополнительные сведения см. в калькуляторе цен Azure.

Затраты могут возникнуть после удаления концентратора Foundry

После удаления концентратора на портале Azure или с Azure CLI следующие ресурсы продолжают существовать. Они продолжают накапливать расходы, пока не удалите их.

• Реестр контейнеров Azure
• Хранилище BLOB-объектов Azure
• Хранилище ключей
• Application Insights (если вы включили его для центра)

Мониторинг затрат

При использовании Foundry вы несете расходы. Azure затраты на единицу использования ресурсов зависят от интервалов времени (в секундах, минутах, часах и днях) или по единицам использования (байты, мегабайты и т. д.). Вы можете увидеть понесенные затраты в анализе затрат.

При использовании анализа затрат вы просматриваете затраты в графах и таблицах для разных интервалов времени. Ниже приведены примеры по дням, текущим и предыдущим месяцам и годам. Вы также просматриваете затраты по бюджетам и прогнозируемым затратам. Переключение на более длинные представления с течением времени может помочь определить тенденции расходов, чтобы увидеть, где может произойти перерасход. Если вы создаете бюджеты, вы также можете легко увидеть, где они превышены.

Мониторинг затрат на литейные ресурсы

Вы можете получить доступ к анализу затрат на портале Azure.

В примерах в этом разделе предполагается, что все службы Foundry находятся в одной группе ресурсов. Однако у вас могут быть ресурсы в разных группах ресурсов. Например, Поиск с использованием ИИ Azure ресурс может находиться в другой группе ресурсов, отличной от вашего проекта.

Ниже приведен пример отслеживания затрат на проект. Затраты используются только в качестве примера. Затраты зависят от используемых служб и объема использования.

1. Войдите в Microsoft Foundry. Убедитесь, что переключатель New Foundry отключен. Эти шаги относятся к Foundry (classic).

   

2. Выберите проект, а затем выберите центр управления в меню слева.

3. В разделе заголовка Project выберите Overview.

4. Выберите «Посмотреть стоимость ресурсов» в разделе «Общая стоимость». Портал Azure откроется в группе ресурсов проекта.

   

5. Разверните столбец ресурсов , чтобы просмотреть затраты на каждую службу, которая лежит в основе проекта. Но это представление не включает затраты на все ресурсы, которые вы используете в проекте.

   

6. Выберите "Затраты по ресурсам>" , чтобы открыть страницу "Анализ затрат".

   

7. На странице "Анализ затрат" убедитесь, что область задана для группы ресурсов.

   

   В этом примере:

   • Имя группы ресурсов — rg-contoso-ai.
   • Общая стоимость всех ресурсов и служб в примере группы ресурсов составляет $174,71. В этом примере $174,71 — это общая стоимость приложения или решения, которое вы создаете с помощью Foundry. В этом примере предполагается, что все службы Foundry находятся в одной группе ресурсов. Но у вас могут быть ресурсы в разных группах ресурсов.
   • Имя проекта — contoso-proj.
   • Затраты, которые ограничены ресурсами и службами в примере проекта , составляют 8,40 долл. США.

8. Разверните любой из перечисленных ресурсов, чтобы увидеть затраты на их основные услуги. Вы также можете применить фильтр, чтобы сосредоточиться на других затратах в конкретной группе ресурсов.

Вы также можете просматривать затраты на группу ресурсов непосредственно на портале Azure. Для этого сделайте:

1. Войдите на портал Azure.

2. Выберите группы ресурсов.

3. Найдите и выберите группу ресурсов, содержащую службы Foundry.

4. В левой области выберите управление затратами>анализ затрат.

   

Дополнительные сведения см. в калькуляторе цен Azure.

Мониторинг затрат на модели, предлагаемые с помощью Azure Marketplace

Azure Marketplace предлагает бессерверные развертывания API. Издатели моделей могут применять разные затраты в зависимости от предложения. Каждый проект на портале Foundry имеет собственную подписку с предложением, которое можно использовать для мониторинга затрат и потребления, происходящих в этом проекте. Используйте Управление затратами Microsoft для мониторинга затрат:

1. Войдите на портал Azure.

2. На левой панели выберите "Управление затратами и выставление счетов" , а затем выберите "Управление затратами".

3. На левой панели в разделе "Отчеты и аналитика" выберите "Анализ затрат".

4. Выберите представление, например ресурсы. Отображается стоимость, связанная с каждым ресурсом.

   

5. В столбце "Тип " выберите значок фильтра, чтобы отфильтровать все ресурсы типа microsoft.saas/resources. Этот тип соответствует ресурсам, созданным из предложений, доступных в Azure Marketplace. Для удобства можно фильтровать по типам ресурсов, содержащим строку SaaS.

   

6. Для каждого модельного предложения в проекте отображается один ресурс. Именование этих ресурсов — это [Model offer name]-[GUID].

7. Выберите, чтобы развернуть сведения о ресурсе, чтобы получить доступ к каждому из счетчиков затрат, связанных с ресурсом.

   • Уровень представляет предложение.
   • Продукт — это конкретный продукт внутри предложения.

   Некоторые поставщики моделей могут использовать одинаковое имя для обоих.

   

   Совет

   Помните, что для каждого плана, на который подписан проект, создается один ресурс.

8. При расширении сведений, расходы сообщаются за каждый счетчик, связанный с предложением. Каждый счетчик может отслеживать различные источники затрат, такие как инференс или тонкую настройку. Отображаются следующие счётчики (если с ними связана некоторая стоимость):

   Метр	Группа	Описание
   paygo-inference-input-tokens	Базовая модель	Затраты, связанные с маркерами, используемыми в качестве входных данных для вывода базовой модели.
   paygo-inference-output-tokens	Базовая модель	Затраты, связанные с маркерами, созданными в качестве выходных данных для вывода базовой модели.
   paygo-finetuned-model-inference-hosting	Точно настроенная модель	Затраты, связанные с размещением конечной точки вывода для точно настроенной модели. Это значение не является стоимостью размещения модели, а стоимостью обслуживания конечной точки.
   paygo-finetuned-model-inference-input-tokens	Точно настроенная модель	Затраты, связанные с маркерами, используемыми в качестве входных данных для вывода точно настроенной модели.
   paygo-finetuned-model-inference-output-tokens	Точно настроенная модель	Затраты, связанные с маркерами, созданными в качестве выходных данных для вывода точно настроенной модели.

Создание бюджетов

Чтобы управлять затратами, создайте бюджеты и настройте оповещения, которые автоматически уведомляют заинтересованных лиц об аномалиях расходов и рисках перерасхода. Оповещения основаны на расходах по сравнению с пороговым значением бюджета и затрат. Создайте бюджеты и оповещения для подписок Azure и групп ресурсов, чтобы они полезно интегрировались в общую стратегию мониторинга затрат.

Создайте бюджеты с фильтрами для определенных ресурсов или служб в Azure, если требуется более подробная детализация в мониторинге. Фильтры помогают гарантировать, что вы не случайно создаете новые ресурсы, которые стоят вам больше денег. Дополнительные сведения о параметрах фильтра при создании бюджета см. в разделе "Параметры групп и фильтров".

Экспорт данных о затратах

Вы также можете экспортировать данные о затратах в учетную запись хранения. Экспорт данных полезен, если вам или другим пользователям необходимо выполнить более подробный анализ данных для затрат. Например, финансовые команды могут анализировать данные с помощью Excel или Power BI. Вы можете экспортировать затраты ежедневно, еженедельно или ежемесячно и установить настраиваемый диапазон дат. Экспорт данных о затратах — это рекомендуемый способ получения наборов данных затрат.

Поймите полную модель выставления счетов для Foundry Tools

Средства Foundry работают на инфраструктуре Azure, которая начисляет затраты при развертывании нового ресурса, вместе с затратами на Azure AI. Важно понимать, что дополнительная инфраструктура может начислять затраты. При внесении изменений в развернутые ресурсы необходимо управлять этой стоимостью.

При создании или использовании ресурсов Foundry Tools вам могут начислятся расходы в зависимости от используемых вами служб. Для средств Foundry доступны две модели выставления счетов:

• Бессерверный API: В рамках ценообразования на бессерверный API счета выставляются согласно использованию средств Foundry Tools, на основе информации о выставлении счетов.
• Уровни обязательств. С уровнями обязательств вы принимаете на себя обязательство использовать несколько функций за фиксированную плату, что позволяет иметь прогнозируемую общую стоимость в зависимости от потребностей рабочей нагрузки. Вы оплачиваете счет в соответствии с планом, который вы выберете. Информация о доступных услугах, регистрации и условиях приобретения плана см. в разделе Краткое руководство: цены на уровень обязательств.

Вы можете оплатить средства Foundry Tools с помощью кредита предоплаты Azure (ранее называемого денежным обязательством). Однако вы не можете использовать кредит предоплаты Azure для оплаты расходов на сторонние продукты и услуги, включая продукты из Azure Marketplace.

Дополнительные сведения см. в калькуляторе цен Azure.

Дальнейшие действия

• Узнайте , как оптимизировать ваши вложения в облако с помощью Управление затратами Microsoft.
• Узнайте больше об управлении затратами с помощью анализа затрат.
• Узнайте, как предотвратить непредвиденные затраты.
• Ознакомьтесь с учебным курсом по управлению затратами .