az ml online-endpoint

Note

This reference is part of the ml extension for the Azure CLI (version 2.15.0 or higher). L'estensione installerà automaticamente la prima volta che si esegue un comando az ml online-endpoint. Learn more about extensions.

Gestire gli endpoint online di Azure ML.

Gli endpoint di Azure ML offrono un'interfaccia semplice per la creazione e la gestione delle distribuzioni di modelli. Ogni endpoint può avere una o più distribuzioni, consentendo il traffico da un singolo endpoint di assegnazione dei punteggi a più distribuzioni, se necessario. Ciò è utile per scenari come l'implementazione controllata.

Azure ML supporta due tipi di endpoint: online e batch. Gli endpoint online supportano l'inferenza in tempo reale, mentre gli endpoint batch vengono usati per l'assegnazione dei punteggi batch offline.

Comandi

Nome	Descrizione	Tipo	Status
az ml online-endpoint create	Creare un endpoint.	Extension	GA
az ml online-endpoint delete	Eliminare un endpoint.	Extension	GA
az ml online-endpoint get-credentials	Elencare i token/chiavi per un endpoint online.	Extension	GA
az ml online-endpoint invoke	Richiamare un endpoint.	Extension	GA
az ml online-endpoint list	Elencare gli endpoint in un'area di lavoro.	Extension	GA
az ml online-endpoint regenerate-keys	Rigenerare le chiavi per un endpoint online.	Extension	GA
az ml online-endpoint show	Mostra i dettagli per un endpoint.	Extension	GA
az ml online-endpoint update	Aggiornare un endpoint.	Extension	GA

az ml online-endpoint create

Creare un endpoint.

Per creare un endpoint, specificare un file YAML con la configurazione dell'endpoint online. Se l'endpoint esiste già, avrà esito negativo. Se si vuole aggiornare l'endpoint esistente, usare az ml online-endpoint update.

az ml online-endpoint create --resource-group
                             --workspace-name
                             [--auth-mode]
                             [--file]
                             [--local {false, true}]
                             [--name]
                             [--no-wait]
                             [--set]
                             [--web]

Esempio

Creare un endpoint da un file di specifica YAML

az ml online-endpoint create --file endpoint.yml --resource-group my-resource-group --workspace-name my-workspace

Parametri necessari

--resource-group -g

Nome del gruppo di risorse. È possibile configurare il gruppo predefinito usando az configure --defaults group=<name>.

--workspace-name -w

Nome dell'area di lavoro di Azure ML. È possibile configurare l'area di lavoro predefinita usando az configure --defaults workspace=<name>.

Parametri facoltativi

The following parameters are optional, but depending on the context, one or more might become required for the command to execute successfully.

--auth-mode

Metodo di autenticazione per l'endpoint. Valori consentiti: chiave, aml_token. Default: key.

--file -f

Percorso locale del file YAML contenente la specifica dell'endpoint online di Azure ML. La documentazione di riferimento YAML per l'endpoint online è disponibile in: https://aka.ms/ml-cli-v2-endpoint-online-yaml-reference.

--local

Creare un endpoint in locale. Nota: il traffico e l'autenticazione non sono supportati in locale. È possibile usare direttamente 'az ml online-deployment create --local'. Verrà creato un endpoint se non ne esiste uno.

Proprietà	Valore
Valore predefinito:	False
Valori accettati:	false, true

--name -n

Nome dell'endpoint online.

--no-wait

Non attendere il completamento dell'operazione a esecuzione prolungata. Il valore predefinito è False.

Proprietà	Valore
Valore predefinito:	False

--set

Aggiornare un oggetto specificando un percorso di proprietà e un valore da impostare. Esempio: --set property1.property2=value.

--web -e

Visualizzare i dettagli dell'endpoint in Azure ML Studio in un Web browser.

Proprietà	Valore
Valore predefinito:	False

Parametri globali

--debug

Aumentare la verbosità dei log per visualizzare tutti i log di debug.

Proprietà	Valore
Valore predefinito:	False

--help -h

Mostra questo messaggio Guida, esci.

--only-show-errors

Mostra solo gli errori, eliminando gli avvisi.

Proprietà	Valore
Valore predefinito:	False

--output -o

Output format.

Proprietà	Valore
Valore predefinito:	json
Valori accettati:	json, jsonc, none, table, tsv, yaml, yamlc

--query

Stringa di query JMESPath. Per altre informazioni ed esempi, vedere http://jmespath.org/.

--subscription

Nome o ID della sottoscrizione. È possibile configurare la posizione predefinito usando az account set -s NAME_OR_ID.

--verbose

Aumentare il livello di dettaglio della registrazione. Usare --debug per log di debug completi.

Proprietà	Valore
Valore predefinito:	False

az ml online-endpoint delete

Eliminare un endpoint.

az ml online-endpoint delete --name
                             --resource-group
                             --workspace-name
                             [--local {false, true}]
                             [--no-wait]
                             [--yes]

Esempio

Eliminare un endpoint online, incluse tutte le distribuzioni

az ml online-endpoint delete --name my-online-endpoint --resource-group my-resource-group --workspace-name my-workspace

Parametri necessari

--name -n

Nome dell'endpoint online.

--resource-group -g

Nome del gruppo di risorse. È possibile configurare il gruppo predefinito usando az configure --defaults group=<name>.

--workspace-name -w

Nome dell'area di lavoro di Azure ML. È possibile configurare l'area di lavoro predefinita usando az configure --defaults workspace=<name>.

Parametri facoltativi

The following parameters are optional, but depending on the context, one or more might become required for the command to execute successfully.

--local

Eliminare l'endpoint locale.

Proprietà	Valore
Valore predefinito:	False
Valori accettati:	false, true

--no-wait

Non attendere il completamento dell'operazione a esecuzione prolungata. Il valore predefinito è False.

Proprietà	Valore
Valore predefinito:	False

--yes -y

Non richiedere conferma.

Proprietà	Valore
Valore predefinito:	False

Parametri globali

--debug

Aumentare la verbosità dei log per visualizzare tutti i log di debug.

Proprietà	Valore
Valore predefinito:	False

--help -h

Mostra questo messaggio Guida, esci.

--only-show-errors

Mostra solo gli errori, eliminando gli avvisi.

Proprietà	Valore
Valore predefinito:	False

--output -o

Output format.

Proprietà	Valore
Valore predefinito:	json
Valori accettati:	json, jsonc, none, table, tsv, yaml, yamlc

--query

Stringa di query JMESPath. Per altre informazioni ed esempi, vedere http://jmespath.org/.

--subscription

Nome o ID della sottoscrizione. È possibile configurare la posizione predefinito usando az account set -s NAME_OR_ID.

--verbose

Aumentare il livello di dettaglio della registrazione. Usare --debug per log di debug completi.

Proprietà	Valore
Valore predefinito:	False

az ml online-endpoint get-credentials

Elencare i token/chiavi per un endpoint online.

az ml online-endpoint get-credentials --name
                                      --resource-group
                                      --workspace-name

Esempio

Elencare le chiavi per un endpoint online

az ml online-endpoint get-credentials --name my-online-endpoint --resource-group my-resource-group --workspace-name my-workspace

Parametri necessari

--name -n

Nome dell'endpoint online.

--resource-group -g

Nome del gruppo di risorse. È possibile configurare il gruppo predefinito usando az configure --defaults group=<name>.

--workspace-name -w

Nome dell'area di lavoro di Azure ML. È possibile configurare l'area di lavoro predefinita usando az configure --defaults workspace=<name>.

Parametri globali

--debug

Aumentare la verbosità dei log per visualizzare tutti i log di debug.

Proprietà	Valore
Valore predefinito:	False

--help -h

Mostra questo messaggio Guida, esci.

--only-show-errors

Mostra solo gli errori, eliminando gli avvisi.

Proprietà	Valore
Valore predefinito:	False

--output -o

Output format.

Proprietà	Valore
Valore predefinito:	json
Valori accettati:	json, jsonc, none, table, tsv, yaml, yamlc

--query

Stringa di query JMESPath. Per altre informazioni ed esempi, vedere http://jmespath.org/.

--subscription

Nome o ID della sottoscrizione. È possibile configurare la posizione predefinito usando az account set -s NAME_OR_ID.

--verbose

Aumentare il livello di dettaglio della registrazione. Usare --debug per log di debug completi.

Proprietà	Valore
Valore predefinito:	False

az ml online-endpoint invoke

Richiamare un endpoint.

È possibile richiamare un endpoint online con alcuni dati di richiesta. Si tratta di inferenza in tempo reale e i risultati dell'assegnazione dei punteggi verranno restituiti immediatamente.

az ml online-endpoint invoke --name
                             --resource-group
                             --workspace-name
                             [--deployment-name]
                             [--local {false, true}]
                             [--request-file]

Esempio

Richiamare un endpoint online con alcuni dati di richiesta

az ml online-endpoint invoke --name my-online-endpoint --request-file sample_request.json --resource-group my-resource-group --workspace-name my-workspace

Richiamare un endpoint online, destinato a una distribuzione specifica

az ml online-endpoint invoke --name my-online-endpoint --deployment my-deployment --request-file sample_request.json --resource-group my-resource-group --workspace-name my-workspace

Parametri necessari

--name -n

Nome dell'endpoint online.

--resource-group -g

Nome del gruppo di risorse. È possibile configurare il gruppo predefinito usando az configure --defaults group=<name>.

--workspace-name -w

Nome dell'area di lavoro di Azure ML. È possibile configurare l'area di lavoro predefinita usando az configure --defaults workspace=<name>.

Parametri facoltativi

The following parameters are optional, but depending on the context, one or more might become required for the command to execute successfully.

--deployment-name -d

Nome della distribuzione di destinazione.

--local

Richiamare l'endpoint locale. Questa operazione funzionerà solo se è stata creata una distribuzione locale per questo endpoint.

Proprietà	Valore
Valore predefinito:	False
Valori accettati:	false, true

--request-file -r

Percorso locale del file JSON contenente i dati della richiesta.

Parametri globali

--debug

Aumentare la verbosità dei log per visualizzare tutti i log di debug.

Proprietà	Valore
Valore predefinito:	False

--help -h

Mostra questo messaggio Guida, esci.

--only-show-errors

Mostra solo gli errori, eliminando gli avvisi.

Proprietà	Valore
Valore predefinito:	False

--output -o

Output format.

Proprietà	Valore
Valore predefinito:	json
Valori accettati:	json, jsonc, none, table, tsv, yaml, yamlc

--query

Stringa di query JMESPath. Per altre informazioni ed esempi, vedere http://jmespath.org/.

--subscription

Nome o ID della sottoscrizione. È possibile configurare la posizione predefinito usando az account set -s NAME_OR_ID.

--verbose

Aumentare il livello di dettaglio della registrazione. Usare --debug per log di debug completi.

Proprietà	Valore
Valore predefinito:	False

az ml online-endpoint list

Elencare gli endpoint in un'area di lavoro.

az ml online-endpoint list --resource-group
                           --workspace-name
                           [--local {false, true}]

Esempio

Elencare tutti gli endpoint online in un'area di lavoro

az ml online-endpoint list --resource-group my-resource-group --workspace-name my-workspace

Elencare tutti gli endpoint batch in un'area di lavoro

az ml online-endpoint list  --resource-group my-resource-group --workspace-name my-workspace

Elencare tutti gli endpoint online in un'area di lavoro usando l'argomento --query per eseguire una query JMESPath sui risultati dei comandi.

az ml online-endpoint list --query "[].{Name:name}"  --output table --resource-group my-resource-group --workspace-name my-workspace

Parametri necessari

--resource-group -g

Nome del gruppo di risorse. È possibile configurare il gruppo predefinito usando az configure --defaults group=<name>.

--workspace-name -w

Nome dell'area di lavoro di Azure ML. È possibile configurare l'area di lavoro predefinita usando az configure --defaults workspace=<name>.

Parametri facoltativi

The following parameters are optional, but depending on the context, one or more might become required for the command to execute successfully.

--local

Elencare tutti gli endpoint locali.

Proprietà	Valore
Valore predefinito:	False
Valori accettati:	false, true

Parametri globali

--debug

Aumentare la verbosità dei log per visualizzare tutti i log di debug.

Proprietà	Valore
Valore predefinito:	False

--help -h

Mostra questo messaggio Guida, esci.

--only-show-errors

Mostra solo gli errori, eliminando gli avvisi.

Proprietà	Valore
Valore predefinito:	False

--output -o

Output format.

Proprietà	Valore
Valore predefinito:	json
Valori accettati:	json, jsonc, none, table, tsv, yaml, yamlc

--query

Stringa di query JMESPath. Per altre informazioni ed esempi, vedere http://jmespath.org/.

--subscription

Nome o ID della sottoscrizione. È possibile configurare la posizione predefinito usando az account set -s NAME_OR_ID.

--verbose

Aumentare il livello di dettaglio della registrazione. Usare --debug per log di debug completi.

Proprietà	Valore
Valore predefinito:	False

az ml online-endpoint regenerate-keys

Rigenerare le chiavi per un endpoint online.

az ml online-endpoint regenerate-keys --name
                                      --resource-group
                                      --workspace-name
                                      [--key-type]
                                      [--no-wait]

Esempio

Rigenerare le chiavi per un endpoint online

az ml online-endpoint regenerate-keys --name my-online-endpoint --resource-group my-resource-group --workspace-name my-workspace

Parametri necessari

--name -n

Nome dell'endpoint online.

--resource-group -g

Nome del gruppo di risorse. È possibile configurare il gruppo predefinito usando az configure --defaults group=<name>.

--workspace-name -w

Nome dell'area di lavoro di Azure ML. È possibile configurare l'area di lavoro predefinita usando az configure --defaults workspace=<name>.

Parametri facoltativi

The following parameters are optional, but depending on the context, one or more might become required for the command to execute successfully.

--key-type

Tipo di chiave da rigenerare. Valori consentiti: primario, secondario.

Proprietà	Valore
Valore predefinito:	primary

--no-wait

Non attendere il completamento dell'operazione a esecuzione prolungata. Il valore predefinito è False.

Proprietà	Valore
Valore predefinito:	False

Parametri globali

--debug

Aumentare la verbosità dei log per visualizzare tutti i log di debug.

Proprietà	Valore
Valore predefinito:	False

--help -h

Mostra questo messaggio Guida, esci.

--only-show-errors

Mostra solo gli errori, eliminando gli avvisi.

Proprietà	Valore
Valore predefinito:	False

--output -o

Output format.

Proprietà	Valore
Valore predefinito:	json
Valori accettati:	json, jsonc, none, table, tsv, yaml, yamlc

--query

Stringa di query JMESPath. Per altre informazioni ed esempi, vedere http://jmespath.org/.

--subscription

Nome o ID della sottoscrizione. È possibile configurare la posizione predefinito usando az account set -s NAME_OR_ID.

--verbose

Aumentare il livello di dettaglio della registrazione. Usare --debug per log di debug completi.

Proprietà	Valore
Valore predefinito:	False

az ml online-endpoint show

Mostra i dettagli per un endpoint.

az ml online-endpoint show --name
                           --resource-group
                           --workspace-name
                           [--local {false, true}]
                           [--web]

Esempio

Visualizzare i dettagli per un endpoint batch

az ml online-endpoint show --name my-online-endpoint  --resource-group my-resource-group --workspace-name my-workspace

Visualizzare lo stato di provisioning di un endpoint usando l'argomento --query per eseguire una query JMESPath sui risultati dei comandi.

az ml online-endpoint show -n my-endpoint --query "{Name:name,State:provisioning_state}"  --output table --resource-group my-resource-group --workspace-name my-workspace

Parametri necessari

--name -n

Nome dell'endpoint online.

--resource-group -g

Nome del gruppo di risorse. È possibile configurare il gruppo predefinito usando az configure --defaults group=<name>.

--workspace-name -w

Nome dell'area di lavoro di Azure ML. È possibile configurare l'area di lavoro predefinita usando az configure --defaults workspace=<name>.

Parametri facoltativi

The following parameters are optional, but depending on the context, one or more might become required for the command to execute successfully.

--local

Mostra endpoint locale.

Proprietà	Valore
Valore predefinito:	False
Valori accettati:	false, true

--web -e

Visualizzare i dettagli dell'endpoint in Azure ML Studio in un Web browser.

Proprietà	Valore
Valore predefinito:	False

Parametri globali

--debug

Aumentare la verbosità dei log per visualizzare tutti i log di debug.

Proprietà	Valore
Valore predefinito:	False

--help -h

Mostra questo messaggio Guida, esci.

--only-show-errors

Mostra solo gli errori, eliminando gli avvisi.

Proprietà	Valore
Valore predefinito:	False

--output -o

Output format.

Proprietà	Valore
Valore predefinito:	json
Valori accettati:	json, jsonc, none, table, tsv, yaml, yamlc

--query

Stringa di query JMESPath. Per altre informazioni ed esempi, vedere http://jmespath.org/.

--subscription

Nome o ID della sottoscrizione. È possibile configurare la posizione predefinito usando az account set -s NAME_OR_ID.

--verbose

Aumentare il livello di dettaglio della registrazione. Usare --debug per log di debug completi.

Proprietà	Valore
Valore predefinito:	False

az ml online-endpoint update

Aggiornare un endpoint.

È possibile aggiornare le proprietà 'description', 'tags' e 'traffic' di un endpoint. Inoltre, è possibile aggiungere nuove distribuzioni a un endpoint e aggiornare le distribuzioni esistenti.

az ml online-endpoint update --resource-group
                             --workspace-name
                             [--add]
                             [--file]
                             [--force-string]
                             [--local {false, true}]
                             [--mirror-traffic]
                             [--name]
                             [--no-wait]
                             [--remove]
                             [--set]
                             [--traffic]
                             [--web]

Esempio

Aggiornare un endpoint da un file di specifica YAML

az ml online-endpoint update --file updated_endpoint.yml --resource-group my-resource-group --workspace-name my-workspace

Aggiornare le impostazioni del traffico per un endpoint

az ml online-endpoint update --name my-online-endpoint  --traffic "my-new-deployment=100" --resource-group my-resource-group --workspace-name my-workspace

Parametri necessari

--resource-group -g

Nome del gruppo di risorse. È possibile configurare il gruppo predefinito usando az configure --defaults group=<name>.

--workspace-name -w

Nome dell'area di lavoro di Azure ML. È possibile configurare l'area di lavoro predefinita usando az configure --defaults workspace=<name>.

Parametri facoltativi

The following parameters are optional, but depending on the context, one or more might become required for the command to execute successfully.

--add

Aggiungere un oggetto a un elenco di oggetti specificando un percorso e coppie chiave-valore. Esempio: --add property.listProperty <key=value, string or JSON string>.

Proprietà	Valore
Parameter group:	Generic Update Arguments
Valore predefinito:	[]

--file -f

--force-string

Quando si usa 'set' o 'add', mantenere i valori letterali stringa anziché tentare di eseguire la conversione in JSON.

Proprietà	Valore
Parameter group:	Generic Update Arguments
Valore predefinito:	False

--local

Aggiornare l'endpoint locale.

Proprietà	Valore
Valore predefinito:	False
Valori accettati:	false, true

--mirror-traffic

Indirizza una percentuale duplicata di traffico attivo a un training di una distribuzione.

--name -n

Nome dell'endpoint online.

--no-wait

Non attendere il completamento dell'operazione a esecuzione prolungata. Il valore predefinito è False.

Proprietà	Valore
Valore predefinito:	False

--remove

Rimuovere una proprietà o un elemento da un elenco. Esempio: --remove property.list <indexToRemove> OR --remove propertyToRemove.

Proprietà	Valore
Parameter group:	Generic Update Arguments
Valore predefinito:	[]

--set

Aggiornare un oggetto specificando un percorso di proprietà e un valore da impostare. Esempio: --set property1.property2=<value>.

Proprietà	Valore
Parameter group:	Generic Update Arguments
Valore predefinito:	[]

--traffic -r

Coppie chiave-valore separate da spazi, tra virgolette, per le impostazioni del traffico per l'endpoint.

--web -e

Visualizzare i dettagli dell'endpoint in Azure ML Studio in un Web browser.

Proprietà	Valore
Valore predefinito:	False

Parametri globali

--debug

Aumentare la verbosità dei log per visualizzare tutti i log di debug.

Proprietà	Valore
Valore predefinito:	False

--help -h

Mostra questo messaggio Guida, esci.

--only-show-errors

Mostra solo gli errori, eliminando gli avvisi.

Proprietà	Valore
Valore predefinito:	False

--output -o

Output format.

Proprietà	Valore
Valore predefinito:	json
Valori accettati:	json, jsonc, none, table, tsv, yaml, yamlc

--query

Stringa di query JMESPath. Per altre informazioni ed esempi, vedere http://jmespath.org/.

--subscription

Nome o ID della sottoscrizione. È possibile configurare la posizione predefinito usando az account set -s NAME_OR_ID.

--verbose

Aumentare il livello di dettaglio della registrazione. Usare --debug per log di debug completi.

Proprietà	Valore
Valore predefinito:	False

Condividi tramite

az ml online-endpoint

Comandi

az ml online-endpoint create

Esempio

Parametri necessari

Parametri facoltativi

az ml online-endpoint delete

Esempio

Parametri necessari

Parametri facoltativi

az ml online-endpoint get-credentials

Esempio

Parametri necessari

az ml online-endpoint invoke

Esempio

Parametri necessari

Parametri facoltativi

az ml online-endpoint list

Esempio

Parametri necessari

Parametri facoltativi

az ml online-endpoint regenerate-keys

Esempio

Parametri necessari

Parametri facoltativi

az ml online-endpoint show

Esempio

Parametri necessari

Parametri facoltativi

az ml online-endpoint update

Esempio

Parametri necessari

Parametri facoltativi

Commenti e suggerimenti