Квоты и ограничения для Azure Speech

В этой статье содержится краткий справочник и подробное описание квот и ограничений для Azure Speech в инструментах Foundry. Информация применяется ко всем ценовым уровням Azure Speech. В этой статье также содержатся лучшие практики по предотвращению дросселирования запросов.

Для ознакомления с ежемесячными лимитами в ценовой категории «Бесплатный» (F0) см. страницу ценообразования.

Справочник по квотам и ограничениям

В следующих разделах представлено краткое руководство по квотам и пределам, которые применяются в службе Azure Speech.

Сведения о настраиваемых квотах для стандартных (S0) ресурсов службы Azure Speech см. в разделе дополнительных объяснений, рекомендации по использованию и инструкции по настройке далее в этой статье. Квоты и ограничения для бесплатных ресурсов Azure Speech (F0) не подлежат настройке.

Квоты и ограничения голосовой трансляции для каждого ресурса

В следующей таблице резюмируются квоты и ограничения для Voice Live на ресурса Azure Speech. Дополнительные сведения о настраиваемых квотах см. далее в этой статье.

Аватары, используемые в Voice Live, соответствуют квотам и ограничениям, описанным в аватаре преобразования текста в речь в режиме реального времени далее в этой статье.

Квоты и ограничения речи LLM (предварительная версия) для каждого ресурса

В следующей таблице приводятся квоты и ограничения для большого языкового модуля (LLM) в ресурсе Azure Speech. В настоящее время эти ограничения не настраиваются.

Квоты преобразования речи в текст и ограничения для каждого ресурса

В следующих разделах описываются квоты и ограничения на ресурс Azure Speech распознавания речи. Дополнительные сведения о настраиваемых квотах см. в дополнительных пояснениях в этой статье.

Преобразование речи в текст и перевод речи в режиме реального времени

Вы можете использовать преобразование речи в текст в режиме реального времени с помощью Speech SDK или REST API преобразования речи в текст для коротких аудиофайлов.

Эти ограничения применяются к параллельным запросам речи в текст в режиме реального времени и объединенным запросам перевода речи. Например, если у вас есть 60 одновременных запросов на преобразование речи в текст и 40 одновременных запросов на преобразование речи, вы достигнете предела в 100 одновременных запросов.

Быстрое транскрибирование

Пакетное транскрибирование

Настройка модели

Ограничения в этой таблице применяются для каждого ресурса службы Azure Speech при создании пользовательской модели речи.

Квоты преобразования текста в речь и ограничения для каждого ресурса

В следующих разделах описываются квоты и ограничения для преобразования текста в речь для каждого ресурса Azure Speech. Дополнительные сведения о настраиваемых квотах см. далее в этой статье.

Текст в режиме реального времени для речи

Вы можете использовать преобразование текста в речь в режиме реального времени с помощью Speech SDK или REST API преобразования текста в речь. Если иное не указано, ограничения не изменяются.

Пакетный синтез

Следующие ограничения не настраиваются. Дополнительные сведения о задержке в пакетном синтезе см. в разделе Задержка в пакетном синтезе и лучшие практики.

Индивидуальный профессиональный голос

Ограничения в этой таблице применяются для каждого ресурса Azure Speech при создании профессионального голоса.

Настраиваемый личный голос

Ограничения в этой таблице применяются для каждого ресурса 'Azure Speech' при создании личного голоса.

Аватар пакетного преобразования текста в речь

Аватар преобразования текста в речь в режиме реального времени

¹ . Чтобы обеспечить непрерывную работу аватара в режиме реального времени более 30 минут, можно включить автоматическое повторное подключение. Сведения о настройке автоматического повторного подключения см. в статье this sample code. Найдите автоматическое повторное подключение.

Средство создания аудиосодержимого

¹ Ограничение применяется только к обычному тексту в SSML и не включает теги.

² Символы файла лексикона не загружаются. Только элементы лексикона в SSML учитываются как оплачиваемые символы. Дополнительные сведения см. в разделе " Оплачиваемые символы".

Подробное описание, корректировка квот и рекомендации

Некоторые квоты службы речевых технологий Azure можно настраивать. В этом разделе приведены дополнительные объяснения, рекомендации и инструкции по корректировке.

Следующие квоты настраиваются для ресурсов Standard (S0). Ограничения на бесплатный запрос (F0) не настраиваются.

• Api голосовой трансляции: новые подключения в минуту. Настройка новых подключений также корректирует лимит токенов.
• Преобразование речи в текст: ограничение на параллельные запросы для конечной точки базовой модели и настроенной конечной точки.
• Быстрое транскрибирование: максимальное количество запросов в минуту.
• Перевод речи: ограничение на одновременный запрос.
• Текст для речи: максимальное количество транзакций в период времени для стандартных голосов и пользовательских голосов.
• Пакетное преобразование текста в речь: максимальное количество запросов в минуту.
• Аватар синтеза речи в режиме реального времени: новые подключения в секунду.

Прежде чем запрашивать увеличение квоты, при необходимости, проверьте текущие транзакции в секунду (TPS) или токены в минуту (TPM) и убедитесь, что увеличение квоты действительно требуется.

Azure Speech использует технологии автомасштабирования для предоставления необходимых вычислительных ресурсов по мере необходимости. В то же время Azure Speech старается снизить ваши затраты, не поддерживая чрезмерные аппаратные ресурсы.

Давайте рассмотрим пример. Предположим, что приложение получает код ответа 429, указывающий на слишком большое число запросов. Приложение получает этот ответ даже в том случае, если рабочая нагрузка остается в пределах ограничений, определённых в предыдущем разделе Справка по квотам и ограничениям. Наиболее вероятное объяснение заключается в том, что служба Azure Speech настраивается в соответствии с вашим спросом и пока не достигла необходимого уровня. Таким образом, у Azure Speech сразу не хватает ресурсов для обработки запроса. В таких случаях увеличение квоты не помогает. В большинстве случаев Azure Speech масштабируется скоро и устранит проблему, которая вызывает код ответа 429.

Как рекомендуется, каждая реализация должна корректно обрабатывать 429 ошибок с логикой повторных попыток, чтобы обеспечить оптимальную производительность и обрабатывать автомасштабирование. Рекомендуется реализовать эту рекомендацию, прежде чем запрашивать дополнительную квоту, как описано в следующем разделе.

Общие рекомендации по предотвращению ограничения во время автомасштабирования

Чтобы снизить количество проблем, связанных с регулированием, рекомендуется использовать следующие методы:

• Реализуйте логику повторных попыток в приложении для обработки ошибок 429.

• Избегайте внесения резких изменений в рабочую нагрузку. Увеличивайте рабочую нагрузку постепенно.

  Например, предположим, что приложение использует текст для речи, а текущая рабочая нагрузка составляет 5 TPS. В следующую секунду вы увеличиваете нагрузку до 20 TPS (то есть в четыре раза). Azure Speech сразу же начинает масштабироваться для удовлетворения новой нагрузки, но не может масштабироваться по мере необходимости в течение секунды. Некоторые запросы получают код ответа 429 (слишком много запросов).

• Тестирование различных шаблонов для увеличения нагрузки. Дополнительные сведения см. в примере шаблона рабочей нагрузки в этой статье.

• Создайте дополнительные ресурсы Azure службы "Речь" в различных регионах и распределите рабочую нагрузку между ними. Создание нескольких ресурсов сервиса Azure Speech в одном регионе не влияет на производительность, так как один и тот же бэкенд-кластер обслуживает все ресурсы.

В последующих разделах описываются конкретные случаи корректировки квот.

Пример рекомендации по шаблонам рабочей нагрузки

Ниже приведен общий пример правильного подхода. Он предлагается только как шаблон, который при необходимости можно настроить для собственного использования.

Предположим, что ресурс Azure Speech имеет ограничение на 300 одновременных запросов. Запустите рабочую нагрузку с 20 одновременных подключений и увеличьте нагрузку на 20 одновременных подключений каждые 90–120 секунд. Управляйте ответами службы распознавания речи Azure и реализуйте логику, которая возвращается к предыдущему состоянию, чтобы снизить нагрузку, если вы получаете слишком много запросов (код ответа 429). Затем повторите увеличение нагрузки за одну минуту. Если он по-прежнему не работает, повторите попытку через две минуты. Для интервалов используется шаблон 1-2-4-4 минуты.

Как правило, рекомендуется протестировать рабочую нагрузку и шаблоны рабочей нагрузки перед переходом в производственную среду.

Voice Live: увеличение лимита одновременных запросов в режиме преобразования речи в текст в реальном времени.

Подготовка необходимых сведений

Инструкции по получении общих сведений о ресурсах, необходимых, см. в статье "Создание и отправка запроса на увеличение квоты " далее в этой статье.

Создание запроса на увеличение квоты

Чтобы создать запрос с собранными сведениями, выполните действия, описанные в статье "Создание и отправка запроса на увеличение квоты " далее в этой статье.

Преобразование речи в текст: увеличьте лимит одновременных запросов на преобразование текста в режиме реального времени.

По умолчанию общее количество одновременных запросов на преобразование речи в текст и на перевод речи ограничено следующими значениями:

• 100 на ресурс в базовой модели.
• 100 на пользовательскую конечную точку в пользовательской модели.

Для ценовой категории "Стандартный" можно увеличить эту сумму. Перед отправкой запроса убедитесь, что вы знакомы с материалом, описанным ранее в этой статье, например, с лучшими практиками по снижению эффекта ограничения ресурсов.

Ограничения на число одновременных запросов для базовой и пользовательской моделей необходимо корректировать отдельно. Ресурс Azure Speech можно связать с множеством пользовательских конечных точек, на которых развернуто множество пользовательских моделей. Для каждой пользовательской конечной точки необходимо отдельно запросить любые корректировки ограничений.

Увеличение предельного количества одновременных запросов не влияет на затраты напрямую. Служба Azure Speech использует модель оплаты, по которой вы платите только за фактическое использование. Ограничение определяет, до какого уровня Azure Speech может масштабироваться перед тем, как начать ограничивать ваши запросы.

Вы не можете увидеть существующее значение параметра для параллельного ограничения запросов на портале Azure, средства командной строки или запросы API. Чтобы проверить существующее значение, создайте запрос Azure support.

Подготовка необходимых сведений

Инструкции по получении общих сведений о ресурсах, необходимых, см. в статье "Создание и отправка запроса на увеличение квоты " далее в этой статье.

Чтобы создать запрос на увеличение ресурсов для пользовательской речи, необходимо также указать пользовательский идентификатор конечной точки. Чтобы получить эти сведения для пользовательской конечной точки распознавания речи, выполните следующие действия.

1. Перейдите на портал Speech Studio.
2. При необходимости войдите в систему и перейдите к пользовательской речи.
3. Выберите проект и перейдите к развертыванию.
4. Выберите требуемую конечную точку.
5. Скопируйте и сохраните значение идентификатора конечной точки .

Создание запроса на увеличение квоты

Чтобы создать запрос с собранными сведениями, выполните действия, описанные в статье "Создание и отправка запроса на увеличение квоты " далее в этой статье.

Быстрое транскрибирование: увеличение максимальных запросов в минуту

Подготовка необходимых сведений

Инструкции по получении общих сведений о ресурсах, необходимых, см. в статье "Создание и отправка запроса на увеличение квоты " далее в этой статье.

Чтобы создать запрос на увеличение скорости транскрибирования, необходимо также указать среднюю длину звука для каждого запроса API.

Пример длины 5 minutes/request. Укажите оценку на основе рабочей нагрузки, которую требуется обработать.

Создание запроса на увеличение квоты

Чтобы создать запрос с собранными сведениями, выполните действия, описанные в статье "Создание и отправка запроса на увеличение квоты " далее в этой статье.

Текст для речи: увеличение ограничения TPS в режиме реального времени

Для ценовой категории "Стандартный" можно увеличить ограничение TPS в режиме реального времени. Перед отправкой запроса убедитесь, что вы знакомы с материалом, описанным ранее в этой статье, например, с лучшими практиками по снижению эффекта ограничения ресурсов.

Оценка потребностей

• Использование до $10 000 в месяц: как правило, 32 TPS достаточно, если ваше пиковое использование не превышает 10-кратное среднее значение.
• Ограничение по умолчанию: по умолчанию доступно 200 TPS. Это ограничение превышает большинство вариантов использования.

Пример сценария

Например, предположим, что вы создаете центр обработки вызовов, в котором:

• Число одновременных вызовов составляет 1000.
• Вы ожидаете, что агенты будут говорить половину времени.
• Средняя длина ответа TTS составляет 5 секунд.

Требуемый TPS (транзакций в секунду): 1000 вызовов / (2×5 секунд) = 100 TPS.

Для запроса на увеличение TPS требуются следующие сведения:

• Пиковые TPS
• Средний TPS
• Средняя длина запроса TTS (в символах)

С помощью этих данных можно оценить ежемесячное использование TTS с помощью этой формулы: ежемесячное использование = средняя длина запроса TPS × × 3600 × 24 × 30.

Умножьте результат на цену за единицу в $15 за миллион символов для оценки ежемесячной стоимости.

Рекомендации по затратам

Увеличение лимита одновременных запросов не влияет непосредственно на затраты. Вы платите только за то, чем пользуетесь. Ограничение просто определяет, насколько Azure Speech может масштабироваться, прежде чем начнется ограничение скорости.

Вы не можете увидеть существующее значение параметра для параллельного ограничения запросов на портале Azure, средства командной строки или запросы API. Чтобы проверить существующее значение, создайте запрос Azure support.

Подготовка необходимых сведений

Инструкции по получении общих сведений о ресурсах, необходимых, см. в статье "Создание и отправка запроса на увеличение квоты " далее в этой статье.

Чтобы создать запрос на увеличение стандартной голосовой связи, необходимо также указать имена голосов, которые запрашиваются для увеличения. Список всех имен голосов можно найти в языковой и голосовой поддержке Azure Speech.

Чтобы создать запрос на увеличение квоты на использование пользовательского голоса, необходимо указать идентификатор пользовательской конечной точки. Чтобы получить эти сведения для пользовательского голоса, выполните указанные ниже действия.

1. Перейдите на портал Speech Studio.
2. При необходимости войдите в систему, а затем перейдите к пользовательской голосовой связи.
3. Выберите проект и перейдите к модели развертывания.
4. Выберите требуемую конечную точку.
5. Скопируйте и сохраните значение идентификатора конечной точки .

Создание запроса на увеличение квоты

Чтобы создать запрос с собранными сведениями, выполните действия, описанные в статье "Создание и отправка запроса на увеличение квоты " далее в этой статье.

Аватар текст-в-речь: увеличить лимит новых подключений

Подготовка необходимых сведений

Инструкции по получении общих сведений о ресурсах, необходимых, см. в статье "Создание и отправка запроса на увеличение квоты " далее в этой статье.

Чтобы создать запрос на увеличение пользовательского голоса, необходимо также предоставить стандартный аватар или настраиваемый аватар.

Создание запроса на увеличение квоты

Чтобы создать запрос с собранными сведениями, выполните действия, описанные в следующем разделе, создайте и отправьте запрос на увеличение квоты.

Создание и отправка запроса на увеличение квоты

Чтобы получить сведения о ресурсе, необходимые для запроса на увеличение квоты, выполните следующие действия.

1. Перейдите на портал Azure.

2. Выберите ресурс, для которого требуется увеличить ограничение запроса на параллелизм.

3. В группе управления ресурсами выберите "Свойства".

4. Скопируйте и сохраните значения следующих полей:

   • ИД подписки
   • Идентификатор ресурса
   • Расположение (регион конечной точки)

Инициируйте увеличение лимита для одновременных запросов к ресурсу, отправив запрос на поддержку. Вы также можете использовать запрос на поддержку для проверки текущего ограничения. Чтобы отправить запрос на поддержку, выполните приведенные действия.

1. Убедитесь, что у вас есть необходимые сведения, перечисленные в предыдущих разделах.

2. Перейдите к форме запроса на увеличение квоты Foundry Tools.

3. Укажите сведения о запросе:

   1. Имя (первое имя)
   2. Фамилия
   3. Ваш рабочий или организационный адрес электронной почты

      Примечание.

      Приложения, отправленные с личным адресом электронной почты (например, hotmail.com, outlook.com или gmail.com), не принимаются.

   4. Название компании или организации

      Примечание.

      Вы можете запросить увеличение квоты только от имени вашей организации.

4. Укажите сведения о ресурсе:

   1. идентификатор подписки Azure
   2. Идентификатор ресурса литейных инструментов
   3. Область ресурсов средств Foundry

5. Предоставьте запрошенное увеличение квоты.

   1. Запрошено новое ограничение квоты (только целое число; например, 300, 500 или 1000)
   2. Бизнес-обоснование увеличения предела

6. Выберите продукт Foundry Tools Azure Speech, а затем выберите Next.

7. Выберите функцию Azure распознавания речи, для которую вы запрашиваете увеличение. Доступны следующие варианты:

   • Ограничение параллельного запроса речи к тексту для конечной точки базовой модели
   • Ограничение количества одновременных запросов распознавания речи для пользовательской конечной точки
   • Максимальное количество запросов в минуту для быстрого транскрибирования
   • Максимальное число транзакций синтеза речи за единицу времени для стандартных голосов
   • Максимальное количество транзакций системы преобразования текста в речь за заданный период для пользовательских голосов
   • Ограничение на одновременный запрос для перевода речи
   • Максимальное количество запросов в минуту для пакетной обработки текста в речь с аватаром.
   • Новые подключения в минуту для речевого аватара в режиме реального времени
   • Маркеры API голосовой трансляции в минуту

8. Добавьте дополнительные сведения, запрашиваемые в форме, а затем нажмите кнопку "Далее".

9. На конечной странице укажите дополнительные контактные данные для вашей учетной записи или имени контакта партнера и адреса электронной почты.

10. Проверьте два вопроса о подтверждении и нажмите кнопку "Отправить".

11. Обратите внимание на номер запроса на поддержку в уведомлениях портала Azure. Вам скоро свяжутся по вашему запросу.

Вы получите сообщение электронной почты с подтверждением, включающее идентификатор приложения. Проверьте папку нежелательной почты, если вы не получаете подтверждение электронной почты. Убедитесь, что вы можете получить последующие сообщения по вашему делу.