Развертывание пользовательской модели речи

В этой статье вы узнаете, как развернуть конечную точку для пользовательской модели речи. За исключением пакетного транскрибирования, необходимо развернуть пользовательскую конечную точку для использования пользовательской модели речи.

Совет

API транскрибирования пакетной службы не требует размещенной конечной точки развертывания для пользовательской речи. Вы можете сохранять ресурсы только с помощью пользовательской модели речи для пакетного транскрибирования. Дополнительные сведения см. в разделе Цены на службы "Речь".

Вы можете развернуть эндпоинт для базовой или пользовательской модели, а затем обновить его, чтобы в дальнейшем использовать лучше обученную модель.

Примечание.

Конечные точки, используемые речевыми ресурсами F0, удаляются через семь дней.

Добавление конечной точки развертывания

Совет

Доведите пользовательские модели речи из Speech Studio на портал Microsoft Foundry. На портале Microsoft Foundry вы можете продолжить с того места, где вы остановились, подключившись к существующему ресурсу "Речь". Дополнительные сведения о подключении к существующему ресурсу службы "Речь" см. в разделе "Подключение к существующему ресурсу службы "Речь".

  1. После завершения обучения выберите пользовательскую модель, чтобы открыть страницу сведений.
  2. Перейдите на вкладку "Развертывания" , а затем выберите "Развернуть ", чтобы открыть панель "Развернуть ".
  3. Введите имя развертывания и при необходимости включите или выключите журналирование содержимого.
  4. Выберите Развертывание, чтобы создать развертывание.
  5. Когда развертывание будет готово, оно появится на вкладке Deployments. Выберите развертывание, чтобы открыть его в песочнице преобразования речи в текст и протестировать.

Чтобы создать пользовательскую конечную точку, сделайте следующее:

  1. Войдите в службу Speech Studio.

  2. Выберите Custom speech> имя вашего проекта >Развернуть модели.

    Если это первая конечная точка, обратите внимание, что в таблице нет перечисленных конечных точек. После создания конечной точки используйте эту страницу для отслеживания каждой развернутой конечной точки.

  3. Выберите Развернуть модель, чтобы открыть мастер создания конечной точки.

  4. На странице Новая конечная точка введите имя и описание для пользовательской конечной точки.

  5. Затем выберите настраиваемую модель, которую необходимо связать с конечной точкой.

  6. При необходимости установите флажок, чтобы включить логирование звука и диагностику трафика конечной точки.

    Снимок экрана страницы «Новая конечная точка» с флажком для включения ведения журнала.

  7. Нажмите кнопку Добавить, чтобы сохранить и развернуть конечную точку.

На главной странице Развертывание моделей в таблице отображаются сведения о новой конечной точке, например имя, описание, состояние и дата окончания срока действия. Развертывание новой конечной точки, которая использует ваши пользовательские модели, может занять до 30 минут. Если состояние развертывания сменилось на Успешно, конечная точка готова к использованию.

Внимание

Запишите дату окончания срока действия модели. Эта дата — последний день, который можно использовать для распознавания речи в пользовательской модели. Дополнительные сведения см. в разделе Жизненный цикл модели и конечной точки.

Выберите ссылку конечной точки, чтобы просмотреть сведения о ней, такие как ключ конечной точки, URL-адрес конечной точки и пример кода.

Прежде чем продолжить, убедитесь, что у вас установлен и настроен Speech CLI.

Чтобы создать конечную точку и развернуть модель, используйте команду spx csr endpoint create. Создайте параметры запроса в соответствии со следующими инструкциями:

  • project Задайте для свойства идентификатор существующего проекта. project Используйте свойство, чтобы управлять точной настройкой для пользовательской речи на портале Microsoft Foundry. Чтобы получить идентификатор проекта, см. статью "Получить идентификатор проекта" для REST API.
  • Задайте требуемое model свойство идентификатору модели, которую требуется развернуть в конечной точке.
  • Задайте обязательное свойство language. Локаль конечной точки должна совпадать с локалью модели. Позже вы не сможете изменить локаль. Свойство командной строки language службы речевой обработки соответствует свойству locale в запросе и ответе JSON.
  • Задайте обязательное свойство name. Это имя отображается на портале Microsoft Foundry. Свойство командной строки name службы речевой обработки соответствует свойству displayName в запросе и ответе JSON.
  • При необходимости задайте logging свойство. Установите это свойство в enabled, чтобы включить логирование звука и диагностики трафика конечной точки. Значение по умолчанию — false.

Ниже приведен пример команды интерфейса командной строки службы "Речь" для создания конечной точки и развертывания модели:

spx csr endpoint create --api-version v3.2 --project YourProjectId --model YourModelId --name "My Endpoint" --description "My Endpoint Description" --language "en-US"

Внимание

Необходимо задать --api-version v3.2. Интерфейс командной строки 'Speech CLI' использует REST API, но еще не поддерживает версии позже v3.2.

Текст ответа будет получен в следующем формате:

{
  "self": "https://YourResourceName.cognitiveservices.azure.com/speechtotext/v3.2/endpoints/aaaabbbb-0000-cccc-1111-dddd2222eeee",
  "model": {
    "self": "https://YourResourceName.cognitiveservices.azure.com/speechtotext/v3.2/models/bbbbcccc-1111-dddd-2222-eeee3333ffff"
  },
  "links": {
    "logs": "https://YourResourceName.cognitiveservices.azure.com/speechtotext/v3.2/endpoints/a07164e8-22d1-4eb7-aa31-bf6bb1097f37/files/logs",
    "restInteractive": "https://YourResourceName.cognitiveservices.azure.com/stt/speech/recognition/interactive/cognitiveservices/v1?cid=aaaabbbb-0000-cccc-1111-dddd2222eeee",
    "restConversation": "https://YourResourceName.cognitiveservices.azure.com/stt/speech/recognition/conversation/cognitiveservices/v1?cid=aaaabbbb-0000-cccc-1111-dddd2222eeee",
    "restDictation": "https://YourResourceName.cognitiveservices.azure.com/stt/speech/recognition/dictation/cognitiveservices/v1?cid=aaaabbbb-0000-cccc-1111-dddd2222eeee",
    "webSocketInteractive": "wss://YourResourceName.cognitiveservices.azure.com/stt/speech/recognition/interactive/cognitiveservices/v1?cid=aaaabbbb-0000-cccc-1111-dddd2222eeee",
    "webSocketConversation": "wss://YourResourceName.cognitiveservices.azure.com/stt/speech/recognition/conversation/cognitiveservices/v1?cid=aaaabbbb-0000-cccc-1111-dddd2222eeee",
    "webSocketDictation": "wss://YourResourceName.cognitiveservices.azure.com/stt/speech/recognition/dictation/cognitiveservices/v1?cid=aaaabbbb-0000-cccc-1111-dddd2222eeee"
  },
  "project": {
    "self": "https://YourResourceName.cognitiveservices.azure.com/speechtotext/v3.2/projects/ccccdddd-2222-eeee-3333-ffff4444aaaa"
  },
  "properties": {
    "loggingEnabled": true
  },
  "lastActionDateTime": "2024-07-15T16:29:36Z",
  "status": "NotStarted",
  "createdDateTime": "2024-07-15T16:29:36Z",
  "locale": "en-US",
  "displayName": "My Endpoint",
  "description": "My Endpoint Description"
}

Свойство self верхнего уровня в теле ответа — это URI конечной точки доступа. Используйте этот URI, чтобы получить информацию о проекте, модели и журналах эндпоинта. Вы также используете этот URI для обновления конечной точки.

Чтобы получить справку по конечным точкам в Speech CLI, выполните следующую команду:

spx help csr endpoint

Чтобы создать конечную точку и развернуть модель, используйте операцию Endpoints_Create REST API преобразования речи в текст. Создайте текст запроса в соответствии со следующими инструкциями:

  • Задайте для свойства project значение URI существующего проекта. Задайте это свойство, чтобы просмотреть конечную точку и управлять ею на портале Microsoft Foundry. Чтобы получить идентификатор проекта, см. статью "Получить идентификатор проекта" для REST API.
  • Задайте обязательный параметр model для идентификатора модели, которую требуется развернуть в конечной точке.
  • Задайте обязательное свойство locale. Локаль конечной точки должна совпадать с локалью модели. Позже вы не сможете изменить локаль.
  • Задайте обязательное свойство displayName. Это имя отображается на портале Microsoft Foundry.
  • При необходимости задайте свойство loggingEnabled внутри properties. Установите это свойство в true, чтобы включить логирование звука и диагностики трафика конечной точки. Значение по умолчанию — false.

Выполните HTTP-запрос POST с помощью URI, как показано в следующем Endpoints_Create примере. Замените YourSpeechResoureKey на ключ ресурса Speech, замените YourResourceName на имя ресурса Speech и задайте свойства тела запроса, как описано ранее.

curl -v -X POST -H "Ocp-Apim-Subscription-Key: YourSpeechResoureKey" -H "Content-Type: application/json" -d '{
  "project": {
    "self": "https://YourResourceName.cognitiveservices.azure.com/speechtotext/v3.2/projects/ccccdddd-2222-eeee-3333-ffff4444aaaa"
  },
  "properties": {
    "loggingEnabled": true
  },
  "displayName": "My Endpoint",
  "description": "My Endpoint Description",
  "model": {
    "self": "https://YourResourceName.cognitiveservices.azure.com/speechtotext/v3.2/models/base/ddddeeee-3333-ffff-4444-aaaa5555bbbb"
  },
  "locale": "en-US",
}'  "https://YourResourceName.cognitiveservices.azure.com/speechtotext/v3.2/endpoints"

Текст ответа будет получен в следующем формате:

{
  "self": "https://YourResourceName.cognitiveservices.azure.com/speechtotext/v3.2/endpoints/aaaabbbb-0000-cccc-1111-dddd2222eeee",
  "model": {
    "self": "https://YourResourceName.cognitiveservices.azure.com/speechtotext/v3.2/models/bbbbcccc-1111-dddd-2222-eeee3333ffff"
  },
  "links": {
    "logs": "https://YourResourceName.cognitiveservices.azure.com/speechtotext/v3.2/endpoints/a07164e8-22d1-4eb7-aa31-bf6bb1097f37/files/logs",
    "restInteractive": "https://YourResourceName.cognitiveservices.azure.com/stt/speech/recognition/interactive/cognitiveservices/v1?cid=aaaabbbb-0000-cccc-1111-dddd2222eeee",
    "restConversation": "https://YourResourceName.cognitiveservices.azure.com/stt/speech/recognition/conversation/cognitiveservices/v1?cid=aaaabbbb-0000-cccc-1111-dddd2222eeee",
    "restDictation": "https://YourResourceName.cognitiveservices.azure.com/stt/speech/recognition/dictation/cognitiveservices/v1?cid=aaaabbbb-0000-cccc-1111-dddd2222eeee",
    "webSocketInteractive": "wss://YourResourceName.cognitiveservices.azure.com/stt/speech/recognition/interactive/cognitiveservices/v1?cid=aaaabbbb-0000-cccc-1111-dddd2222eeee",
    "webSocketConversation": "wss://YourResourceName.cognitiveservices.azure.com/stt/speech/recognition/conversation/cognitiveservices/v1?cid=aaaabbbb-0000-cccc-1111-dddd2222eeee",
    "webSocketDictation": "wss://YourResourceName.cognitiveservices.azure.com/stt/speech/recognition/dictation/cognitiveservices/v1?cid=aaaabbbb-0000-cccc-1111-dddd2222eeee"
  },
  "project": {
    "self": "https://YourResourceName.cognitiveservices.azure.com/speechtotext/v3.2/projects/ccccdddd-2222-eeee-3333-ffff4444aaaa"
  },
  "properties": {
    "loggingEnabled": true
  },
  "lastActionDateTime": "2024-07-15T16:29:36Z",
  "status": "NotStarted",
  "createdDateTime": "2024-07-15T16:29:36Z",
  "locale": "en-US",
  "displayName": "My Endpoint",
  "description": "My Endpoint Description"
}

Свойство self верхнего уровня в теле ответа — это URI конечной точки доступа. Используйте этот URI, чтобы получить сведения о проекте, модели и журналах конечной точки доступа. Этот URI также используется для обновления или удаления конечной точки.

Изменение модели и повторное развертывание конечной точки

Вы можете обновить конечную точку, чтобы использовать другую модель, созданную тем же ресурсом службы "Речь". Как упоминалось ранее, необходимо обновить модель конечной точки до истечения ее срока действия.

Чтобы использовать новую модель и повторно развернуть пользовательскую конечную точку, сделайте следующее:

  1. Войдите в службу Speech Studio.
  2. Выберите Custom speech> имя вашего проекта >Развернуть модели.
  3. Выберите ссылку конечной точки с нужным именем, а затем выберите Изменить модель.
  4. Затем выберите новую модель, которую должна использовать конечная точка.
  5. Нажмите кнопку Готово, чтобы сохранить и повторно развернуть конечную точку.

Прежде чем продолжить, убедитесь, что у вас установлен и настроен Speech CLI.

Чтобы повторно развернуть настраиваемую конечную точку с новой моделью, используйте команду spx csr model update. Создайте параметры запроса в соответствии со следующими инструкциями:

  • Установите нужное свойство в качестве идентификатора конечной endpoint точки, которую требуется развернуть.
  • Задайте требуемое model свойство идентификатору модели, которую требуется развернуть в конечной точке.

Вот пример команды Speech CLI, которая повторно развертывает настраиваемую конечную точку с новой моделью:

spx csr endpoint update --api-version v3.2 --endpoint YourEndpointId --model YourModelId

Внимание

Необходимо задать --api-version v3.2. Интерфейс командной строки 'Speech CLI' использует REST API, но еще не поддерживает версии позже v3.2.

Текст ответа будет получен в следующем формате:

{
  "self": "https://YourResourceName.cognitiveservices.azure.com/speechtotext/v3.2/endpoints/aaaabbbb-0000-cccc-1111-dddd2222eeee",
  "model": {
    "self": "https://YourResourceName.cognitiveservices.azure.com/speechtotext/v3.2/models/bbbbcccc-1111-dddd-2222-eeee3333ffff"
  },
  "links": {
    "logs": "https://YourResourceName.cognitiveservices.azure.com/speechtotext/v3.2/endpoints/a07164e8-22d1-4eb7-aa31-bf6bb1097f37/files/logs",
    "restInteractive": "https://YourResourceName.cognitiveservices.azure.com/stt/speech/recognition/interactive/cognitiveservices/v1?cid=aaaabbbb-0000-cccc-1111-dddd2222eeee",
    "restConversation": "https://YourResourceName.cognitiveservices.azure.com/stt/speech/recognition/conversation/cognitiveservices/v1?cid=aaaabbbb-0000-cccc-1111-dddd2222eeee",
    "restDictation": "https://YourResourceName.cognitiveservices.azure.com/stt/speech/recognition/dictation/cognitiveservices/v1?cid=aaaabbbb-0000-cccc-1111-dddd2222eeee",
    "webSocketInteractive": "wss://YourResourceName.cognitiveservices.azure.com/stt/speech/recognition/interactive/cognitiveservices/v1?cid=aaaabbbb-0000-cccc-1111-dddd2222eeee",
    "webSocketConversation": "wss://YourResourceName.cognitiveservices.azure.com/stt/speech/recognition/conversation/cognitiveservices/v1?cid=aaaabbbb-0000-cccc-1111-dddd2222eeee",
    "webSocketDictation": "wss://YourResourceName.cognitiveservices.azure.com/stt/speech/recognition/dictation/cognitiveservices/v1?cid=aaaabbbb-0000-cccc-1111-dddd2222eeee"
  },
  "project": {
    "self": "https://YourResourceName.cognitiveservices.azure.com/speechtotext/v3.2/projects/ccccdddd-2222-eeee-3333-ffff4444aaaa"
  },
  "properties": {
    "loggingEnabled": true
  },
  "lastActionDateTime": "2024-07-15T16:30:12Z",
  "status": "Succeeded",
  "createdDateTime": "2024-07-15T16:29:36Z",
  "locale": "en-US",
  "displayName": "My Endpoint",
  "description": "My Endpoint Description"
}

Чтобы получить справку по конечным точкам в Speech CLI, выполните следующую команду:

spx help csr endpoint

Чтобы повторно развернуть настраиваемую конечную точку с новой моделью, используйте операцию Endpoints_Update API Speech to text REST API. Создайте текст запроса в соответствии со следующими инструкциями:

  • Задайте свойству model URI модели, которую требуется развернуть в конечной точке.

Выполните HTTP-запрос PATCH с использованием URI, как показано в следующем примере. Замените YourSpeechResoureKey ключом ресурса Speech, YourResourceName — именем ресурса Speech, YourEndpointId — идентификатором конечной точки и задайте свойства тела запроса, как описано ранее.

curl -v -X PATCH -H "Ocp-Apim-Subscription-Key: YourSpeechResoureKey" -H "Content-Type: application/json" -d '{
  "model": {
    "self": "https://YourResourceName.cognitiveservices.azure.com/speechtotext/v3.2/models/bbbbcccc-1111-dddd-2222-eeee3333ffff"
  },
}'  "https://YourResourceName.cognitiveservices.azure.com/speechtotext/v3.2/endpoints/YourEndpointId"

Текст ответа будет получен в следующем формате:

{
  "self": "https://YourResourceName.cognitiveservices.azure.com/speechtotext/v3.2/endpoints/aaaabbbb-0000-cccc-1111-dddd2222eeee",
  "model": {
    "self": "https://YourResourceName.cognitiveservices.azure.com/speechtotext/v3.2/models/bbbbcccc-1111-dddd-2222-eeee3333ffff"
  },
  "links": {
    "logs": "https://YourResourceName.cognitiveservices.azure.com/speechtotext/v3.2/endpoints/a07164e8-22d1-4eb7-aa31-bf6bb1097f37/files/logs",
    "restInteractive": "https://YourResourceName.cognitiveservices.azure.com/stt/speech/recognition/interactive/cognitiveservices/v1?cid=aaaabbbb-0000-cccc-1111-dddd2222eeee",
    "restConversation": "https://YourResourceName.cognitiveservices.azure.com/stt/speech/recognition/conversation/cognitiveservices/v1?cid=aaaabbbb-0000-cccc-1111-dddd2222eeee",
    "restDictation": "https://YourResourceName.cognitiveservices.azure.com/stt/speech/recognition/dictation/cognitiveservices/v1?cid=aaaabbbb-0000-cccc-1111-dddd2222eeee",
    "webSocketInteractive": "wss://YourResourceName.cognitiveservices.azure.com/stt/speech/recognition/interactive/cognitiveservices/v1?cid=aaaabbbb-0000-cccc-1111-dddd2222eeee",
    "webSocketConversation": "wss://YourResourceName.cognitiveservices.azure.com/stt/speech/recognition/conversation/cognitiveservices/v1?cid=aaaabbbb-0000-cccc-1111-dddd2222eeee",
    "webSocketDictation": "wss://YourResourceName.cognitiveservices.azure.com/stt/speech/recognition/dictation/cognitiveservices/v1?cid=aaaabbbb-0000-cccc-1111-dddd2222eeee"
  },
  "project": {
    "self": "https://YourResourceName.cognitiveservices.azure.com/speechtotext/v3.2/projects/ccccdddd-2222-eeee-3333-ffff4444aaaa"
  },
  "properties": {
    "loggingEnabled": true
  },
  "lastActionDateTime": "2024-07-15T16:30:12Z",
  "status": "Succeeded",
  "createdDateTime": "2024-07-15T16:29:36Z",
  "locale": "en-US",
  "displayName": "My Endpoint",
  "description": "My Endpoint Description"
}

Повторное развертывание занимает несколько минут. В то же время конечная точка использует предыдущую модель без прерывания работы службы.

Просмотр данных журнала

Вы можете экспортировать данные ведения журнала, если настроили это при создании конечной точки.

Чтобы скачать журналы конечных точек, сделайте следующее:

  1. Войдите в службу Speech Studio.
  2. Выберите Custom speech> имя вашего проекта >Развернуть модели.
  3. Выберите ссылку по имени конечной точки.
  4. В разделе Content logging (Ведение журнала содержимого) выберите Скачать журнал.

Прежде чем продолжить, убедитесь, что у вас установлен и настроен Speech CLI.

Чтобы получить журналы для конечной точки, используйте spx csr endpoint list команду. Создайте параметры запроса в соответствии со следующими инструкциями:

  • Установите требуемое свойство endpoint на идентификатор конечной точки, с которой вы хотите получить журналы.

Вот пример команды интерфейса командной строки Speech для получения журналов конечной точки:

spx csr endpoint list --api-version v3.2 --endpoint YourEndpointId

Внимание

Необходимо задать --api-version v3.2. Интерфейс командной строки 'Speech CLI' использует REST API, но еще не поддерживает версии позже v3.2.

Текст ответа возвращает расположения каждого файла журнала с дополнительными сведениями.

Чтобы получить журналы конечной точки, начните с использования операции Endpoints_Get API REST Speech to text.

Выполните HTTP-запрос GET с URI, как показано в следующем примере. Замените YourEndpointId на ваш идентификатор конечной точки, замените YourSpeechResoureKey на ваш ключ ресурса Speech и замените YourResourceName на имя вашего ресурса Speech.

curl -v -X GET "https://YourResourceName.cognitiveservices.azure.com/speechtotext/v3.2/endpoints/YourEndpointId" -H "Ocp-Apim-Subscription-Key: YourSpeechResoureKey"

Текст ответа будет получен в следующем формате:

{
  "self": "https://YourResourceName.cognitiveservices.azure.com/speechtotext/v3.2/endpoints/aaaabbbb-0000-cccc-1111-dddd2222eeee",
  "model": {
    "self": "https://YourResourceName.cognitiveservices.azure.com/speechtotext/v3.2/models/bbbbcccc-1111-dddd-2222-eeee3333ffff"
  },
  "links": {
    "logs": "https://YourResourceName.cognitiveservices.azure.com/speechtotext/v3.2/endpoints/a07164e8-22d1-4eb7-aa31-bf6bb1097f37/files/logs",
    "restInteractive": "https://YourResourceName.cognitiveservices.azure.com/stt/speech/recognition/interactive/cognitiveservices/v1?cid=aaaabbbb-0000-cccc-1111-dddd2222eeee",
    "restConversation": "https://YourResourceName.cognitiveservices.azure.com/stt/speech/recognition/conversation/cognitiveservices/v1?cid=aaaabbbb-0000-cccc-1111-dddd2222eeee",
    "restDictation": "https://YourResourceName.cognitiveservices.azure.com/stt/speech/recognition/dictation/cognitiveservices/v1?cid=aaaabbbb-0000-cccc-1111-dddd2222eeee",
    "webSocketInteractive": "wss://YourResourceName.cognitiveservices.azure.com/stt/speech/recognition/interactive/cognitiveservices/v1?cid=aaaabbbb-0000-cccc-1111-dddd2222eeee",
    "webSocketConversation": "wss://YourResourceName.cognitiveservices.azure.com/stt/speech/recognition/conversation/cognitiveservices/v1?cid=aaaabbbb-0000-cccc-1111-dddd2222eeee",
    "webSocketDictation": "wss://YourResourceName.cognitiveservices.azure.com/stt/speech/recognition/dictation/cognitiveservices/v1?cid=aaaabbbb-0000-cccc-1111-dddd2222eeee"
  },
  "project": {
    "self": "https://YourResourceName.cognitiveservices.azure.com/speechtotext/v3.2/projects/ccccdddd-2222-eeee-3333-ffff4444aaaa"
  },
  "properties": {
    "loggingEnabled": true
  },
  "lastActionDateTime": "2024-07-15T16:30:12Z",
  "status": "Succeeded",
  "createdDateTime": "2024-07-15T16:29:36Z",
  "locale": "en-US",
  "displayName": "My Endpoint",
  "description": "My Endpoint Description"
}

Выполните HTTP GET-запрос, используя URI "logs" из тела предыдущего ответа. Замените YourEndpointId на ваш идентификатор конечной точки, замените YourSpeechResoureKey на ваш ключ ресурса Speech и замените YourResourceName на имя вашего ресурса Speech.

curl -v -X GET "https://YourResourceName.cognitiveservices.azure.com/speechtotext/v3.2/endpoints/YourEndpointId/files/logs" -H "Ocp-Apim-Subscription-Key: YourSpeechResoureKey"

Текст ответа возвращает расположения каждого файла журнала с дополнительными сведениями.

Хранилище, принадлежаемое Майкрософт, хранит данные журнала в течение 30 дней, а затем удаляет данные. Если связать собственную учетную запись хранения с подпиской Foundry Tools, данные ведения журнала не удаляются автоматически.

Связанный контент

  • Last updated on