Nota
L'accesso a questa pagina richiede l'autorizzazione. È possibile provare ad accedere o modificare le directory.
L'accesso a questa pagina richiede l'autorizzazione. È possibile provare a modificare le directory.
Importante
Gli elementi contrassegnati (anteprima) in questo articolo sono attualmente disponibili in anteprima pubblica. Questa anteprima viene fornita senza un contratto di servizio e non è consigliabile per i carichi di lavoro di produzione. Alcune funzionalità potrebbero non essere supportate o potrebbero presentare funzionalità limitate. Per altre informazioni, vedere le Condizioni supplementari per l'uso delle anteprime di Microsoft Azure.
I continui progressi nell'intelligenza artificiale generativa hanno portato le organizzazioni a creare applicazioni sempre più complesse per risolvere vari problemi (chat-bot, sistemi RAG, sistemi agentici e così via). Queste applicazioni vengono usate per favorire l'innovazione, migliorare le esperienze dei clienti e migliorare il processo decisionale. Anche se i modelli (ad esempio, GPT-4o) che alimentano queste applicazioni generative di intelligenza artificiale sono estremamente capaci, il monitoraggio continuo non è mai stato più importante per garantire risultati di alta qualità, sicuri e affidabili. Il monitoraggio continuo è efficace quando vengono considerate più prospettive quando si osserva un'applicazione. Queste prospettive includono l'utilizzo e il costo dei token, le metriche operative, latenza, il conteggio delle richieste e così via, e, soprattutto, la valutazione continua. Per altre informazioni sulla valutazione, vedere Valutazione delle applicazioni di intelligenza artificiale generative.
L'intelligenza artificiale di Azure e Monitoraggio di Azure offrono strumenti per monitorare continuamente le prestazioni delle applicazioni generative di intelligenza artificiale da più prospettive. Con La valutazione online di Azure per intelligenza artificiale è possibile valutare continuamente l'applicazione indipendente dalla posizione in cui è distribuita o dal framework di orchestrazione usato (ad esempio, LangChain). È possibile usare vari analizzatori predefiniti che mantengono la parità con Azure AI Evaluation SDK o definiscono i propri analizzatori personalizzati. Eseguendo continuamente gli analizzatori corretti sui dati di traccia raccolti, il team può identificare e attenuare in modo più efficace i problemi di sicurezza, qualità e sicurezza man mano che si verificano, in fase di pre-produzione o post-produzione. Valutazione di Azure AI Online offre un'integrazione completa con la suite completa di strumenti di osservabilità disponibili in Application Insights di Monitoraggio di Azure, consentendo di creare dashboard personalizzati, visualizzare i risultati della valutazione nel tempo e configurare gli avvisi per il monitoraggio avanzato delle applicazioni.
In sintesi, il monitoraggio delle applicazioni di intelligenza artificiale generative non è mai stato più importante, a causa della complessità e della rapida evoluzione del settore dell'IA. Valutazione online di Intelligenza artificiale di Azure, integrata con Application Insights di Monitoraggio di Azure, consente di valutare continuamente le applicazioni distribuite per garantire prestazioni elevate, sicure e produrre risultati di alta qualità nell'ambiente di produzione.
Come monitorare le applicazioni di intelligenza artificiale generative
In questa sezione viene illustrato come monitorare le applicazioni di intelligenza artificiale generative usando la traccia di Azure AI Foundry, la valutazione online e la funzionalità di visualizzazione delle tracce. Informazioni su come Azure AI Foundry si integra quindi con Application Insights di Monitoraggio di Azure per ottenere un'osservabilità e una visualizzazione complete.
Traccia dell'applicazione di intelligenza artificiale generativa
Il primo passaggio nel monitoraggio continuo dell'applicazione consiste nel garantire che i dati di telemetria vengano acquisiti e archiviati per l'analisi. A tale scopo, è necessario instrumentare il codice dell'applicazione di intelligenza artificiale generativa per usare il pacchetto Di traccia di Intelligenza artificiale di Azure per registrare i dati di traccia in una risorsa di Application Insights di Monitoraggio di Azure a scelta. Questo pacchetto è completamente conforme allo standard OpenTelemetry per l'osservabilità. Dopo aver instrumentato il codice dell'applicazione, i dati di traccia verranno registrati nella risorsa di Application Insights.
Dopo aver incluso la traccia nel codice dell'applicazione, è possibile visualizzare i dati di traccia in Azure AI Foundry o nella risorsa di Application Insights di Monitoraggio di Azure. Per altre informazioni su come eseguire questa operazione, vedere Monitorare l'applicazione di intelligenza artificiale generativa.
Configurare la valutazione online
Dopo aver configurato la traccia per l'applicazione di intelligenza artificiale generativa, configurare la valutazione online con Azure AI Foundry SDK per valutare continuamente i dati di traccia durante la raccolta. In questo modo sarà possibile monitorare le prestazioni dell'applicazione nell'ambiente di produzione nel tempo.
Annotazioni
Se sono presenti più applicazioni di intelligenza artificiale che registrano i dati di traccia nella stessa risorsa di Application Insights di Monitoraggio di Azure, è consigliabile usare il nome del servizio per distinguere i dati dell'applicazione in Application Insights. Per informazioni su come impostare il nome del servizio, vedere Traccia di Intelligenza artificiale di Azure. Per informazioni su come eseguire query sul nome del servizio all'interno della configurazione di valutazione online, vedere Uso del nome del servizio nei dati di traccia.
Monitorare l'applicazione di intelligenza artificiale generativa con Application Insights di Monitoraggio di Azure
In questa sezione si apprenderà come l'intelligenza artificiale di Azure si integra con Application Insights di Monitoraggio di Azure per offrire una visualizzazione predefinita del dashboard personalizzata con informazioni dettagliate sull'app di intelligenza artificiale generativa in modo da poter rimanere aggiornati con lo stato più recente dell'applicazione.
Informazioni dettagliate per l'applicazione di intelligenza artificiale generativa
Se questa impostazione non è stata configurata, ecco alcuni passaggi rapidi:
- Passare al progetto in Azure AI Foundry.
- Selezionare la pagina Traccia sul lato sinistro.
- Connettere la risorsa di Application Insights al progetto.
Se è già stata configurata la traccia nel portale di Azure AI Foundry, è sufficiente selezionare il collegamento Per consultare il dashboard dell'applicazione Insights for Generative AI.
Dopo aver creato lo streaming dei dati nella risorsa di Application Insights, è possibile visualizzarlo automaticamente in questo dashboard personalizzato.
Questa vista è un ottimo posto per iniziare a usare le esigenze di monitoraggio.
- È possibile visualizzare l'utilizzo dei token nel tempo per capire se è necessario aumentare i limiti di utilizzo o eseguire analisi dei costi aggiuntive.
- È possibile visualizzare le metriche di valutazione come linee di tendenza per comprendere la qualità dell'app su base giornaliera.
- È possibile eseguire il debug quando vengono eseguite le eccezioni ed eseguire il drill-in delle tracce usando la visualizzazione dei dettagli delle transazioni end-to-end di Monitoraggio di Azure per determinare cosa è andato storto.
Si tratta di una cartella di lavoro di Azure che esegue query sui dati archiviati nella risorsa di Application Insights. È possibile personalizzare questa cartella di lavoro e adattarla alle esigenze aziendali. Per altre informazioni, vedere Modifica di cartelle di lavoro di Azure.
In questo modo è possibile aggiungere altri analizzatori personalizzati che potrebbero essere stati registrati o altri testo markdown per condividere riepiloghi e usarli per la creazione di report.
È anche possibile condividere questa cartella di lavoro con il team in modo che rimangano informati con le ultime novità.
Annotazioni
Quando si condivide la cartella di lavoro con i membri del team, è necessario avere almeno il ruolo "Lettore" alla risorsa di Application Insights connessa per visualizzare le informazioni visualizzate.