Guida introduttiva: Rilevamento del materiale protetto per il testo

Prerequisiti

• Un profilo Azure. Se non hai un account, puoi crearlo gratuitamente.
• Una risorsa di Intelligenza artificiale di Azure.

Configurazione

Segui questi passaggi per utilizzare la pagina prova la sicurezza dei contenuti:

1. Passare ad Azure AI Foundry e passare al progetto/hub. Selezionare quindi la scheda Sicurezza e sicurezza nel riquadro di spostamento a sinistra e selezionare la scheda Prova .
2. Nella pagina Prova è possibile sperimentare diverse funzionalità di sicurezza del contenuto, ad esempio il testo e il contenuto dell'immagine, usando soglie regolabili per filtrare il contenuto non appropriato o dannoso.

Usare il rilevamento del materiale protetto

Questa funzionalità analizza il testo generato dall'intelligenza artificiale per il contenuto di testo noto (ad esempio, testi di canzoni, articoli, ricette, contenuto Web selezionato).

1. Selezionare il pannello Rilevamento materiale protetto per testo o Rilevamento materiale protetto per codice.
2. Selezionare un testo di esempio nella pagina o immettere un testo personalizzato per il test.
3. Selezionare Esegui test. Il servizio fornisce il risultato relativo al contenuto protetto.

Per ulteriori informazioni, consultare la Guida concettuale dei materiali protetti.

Prerequisiti

• Una sottoscrizione di Azure: creare un account gratuitamente
• Dopo aver creato la sottoscrizione di Azure, Creare una risorsa di Sicurezza dei contenuti nel portale di Azure per ottenere la chiave e l'endpoint. Immettere un nome univoco per la risorsa, selezionare la sottoscrizione, quindi selezionare un gruppo di risorse, un'area supportata (vedere Disponibilità di aree) e un piano tariffario supportato. Selezionare quindi Crea.
  • La distribuzione della risorsa richiede alcuni minuti. Al termine, selezionare Vai alla risorsa. Nel riquadro a sinistra, in Gestione risorse selezionare Chiave di sottoscrizione ed endpoint. L'endpoint e una delle chiavi vengono usati per chiamare le API.
• cURL installato

Analizzare il testo per il rilevamento del materiale protetto

La sezione seguente illustra una richiesta di esempio con cURL. Incollare il comando qui di seguito in un editor di testo e apportare le modifiche seguenti.

1. Sostituire <endpoint> con l'URL dell'endpoint associato alla risorsa.
2. Sostituire <your_subscription_key> con una delle chiavi fornite con la risorsa.
3. Facoltativamente, sostituire il campo "text" nel corpo con il testo che si desidera analizzare.

   Suggerimento

   Vedere Requisiti di input per le limitazioni massime della lunghezza del testo. Il rilevamento del materiale protetto deve essere eseguito sui completamenti LLM, non sulle richieste degli utenti.

curl --location --request POST '<endpoint>/contentsafety/text:detectProtectedMaterial?api-version=2024-09-01' \
--header 'Ocp-Apim-Subscription-Key: <your_subscription_key>' \
--header 'Content-Type: application/json' \
--data-raw '{
  "text": "Kiss me out of the bearded barley Nightly beside the green, green grass Swing, swing, swing the spinning step You wear those shoes and I will wear that dress Oh, kiss me beneath the milky twilight Lead me out on the moonlit floor Lift your open hand Strike up the band and make the fireflies dance Silver moon's sparkling So, kiss me Kiss me down by the broken tree house Swing me upon its hanging tire Bring, bring, bring your flowered hat We'll take the trail marked on your father's map."
}'

I campi seguenti devono essere inclusi nell'URL:

I parametri nel corpo della richiesta sono definiti in questa tabella:

Vedere il corpo della richiesta di esempio seguente:

{
  "text": "string"
}

Aprire una finestra del prompt dei comandi ed eseguire il comando cURL.

Interpretare la risposta dell'API

I risultati del rilevamento di materiale protetto verranno visualizzati come dati JSON nell'output della console. Ad esempio:

{
  "protectedMaterialAnalysis": {
    "detected": true
  }
}

I campi JSON nell'output sono definiti di seguito:

Pulire le risorse

Se si vuole pulire e rimuovere una sottoscrizione a Servizi di Azure AI, è possibile eliminare la risorsa o il gruppo di risorse. L'eliminazione del gruppo di risorse comporta anche l'eliminazione di tutte le altre risorse associate.

• Azure portal
• Interfaccia della riga di comando di Azure