Condividi tramite

Che cos'è il servizio agente Foundry?

Annotazioni

Questo documento fa riferimento al portale di Microsoft Foundry (versione classica).

🔄 Passa alla nuova documentazione di Microsoft Foundry se si usa il nuovo portale.

Annotazioni

Questo documento fa riferimento al portale di Microsoft Foundry (nuovo).

La maggior parte delle aziende non vuole solo chatbot. Si vuole che l'automazione sia più veloce e abbia meno errori. Ciò potrebbe significare riepilogare documenti, elaborare fatture, gestire ticket di supporto o pubblicare post di blog. In tutti i casi, l'obiettivo è lo stesso: liberare persone e risorse per concentrarsi sul lavoro di valore superiore scaricando attività ripetitive e prevedibili.

I modelli di linguaggio di grandi dimensioni hanno introdotto un nuovo tipo di automazione con sistemi in grado di comprendere i dati non strutturati, prendere decisioni e generare contenuto. In pratica, le aziende possono avere difficoltà a superare le demo e ad entrare in produzione. I LLM possono deviare, essere errati e mancare di responsabilità. Senza visibilità, applicazione dei criteri e orchestrazione, questi modelli sono difficili da considerare attendibili nei flussi di lavoro aziendali reali.

Microsoft Foundry è progettato per modificarlo. Si tratta di una piattaforma che combina modelli, strumenti, framework e governance in un sistema unificato per la creazione di agenti intelligenti. Al centro di questo sistema c'è il Servizio Agente di Foundry, che consente il funzionamento degli agenti durante lo sviluppo, la distribuzione e la produzione.

Diagramma che mostra foundry Agent Service come centro di un sistema per la creazione di agenti intelligenti.

Il servizio agente Foundry connette i componenti principali di Foundry (ad esempio modelli, strumenti e framework) a un singolo runtime. Gestisce conversazioni, orchestra le chiamate agli strumenti, applica la sicurezza dei contenuti e si integra con sistemi di identità, rete e osservabilità. Queste attività consentono di garantire che gli agenti siano sicuri, scalabili e pronti per la produzione.

Astraendo la complessità dell'infrastruttura e applicando attendibilità e sicurezza in base alla progettazione, foundry Agent Service consente di passare dal prototipo alla produzione con fiducia.

Che cos'è un agente IA?

Gli agenti prendono decisioni, richiamano gli strumenti e partecipano ai flussi di lavoro. Eseguono queste attività a volte in modo indipendente e talvolta in collaborazione con altri agenti o esseri umani. Sono fondamentali per l'automazione dei processi reali.

Gli agenti creati tramite Foundry non sono monoliti. Sono unità componibili. Ogni agente ha un ruolo specifico, è basato sul modello corretto ed è dotato degli strumenti giusti. Ogni agente viene distribuito all'interno di un runtime sicuro, osservabile e gestibile.

Un agente ha tre componenti principali:

  • Modello (LLM): supporta il ragionamento e la comprensione del linguaggio.
  • Istruzioni: definire gli obiettivi, il comportamento e i vincoli dell'agente. Possono avere i tipi seguenti:
    • Dichiarativo:
      • Basato su prompt: un singolo agente definito in modo dichiarativo che combina la configurazione del modello, l'istruzione, gli strumenti e i prompt del linguaggio naturale per guidare il comportamento.
      • Flusso di lavoro: flusso di lavoro agente che può essere espresso come YAML o altro codice per orchestrare più agenti insieme o per attivare un'azione su determinati criteri.
    • Ospitato: agenti containerizzati creati e distribuiti tramite codice e ospitati da Foundry.
  • Strumenti: consentire all'agente di recuperare informazioni o intervenire.

Diagramma che mostra l'associazione di un agente con chiamate di input, output e strumenti.

Gli agenti ricevono input non strutturati, ad esempio prompt degli utenti, avvisi o messaggi da altri agenti. Producono output sotto forma di risultati o messaggi degli strumenti. Durante il processo, possono chiamare strumenti per eseguire azioni di recupero o attivazione.

Come funzionano gli agenti in Foundry?

Si pensi a Foundry come una linea di montaggio per agenti intelligenti. Come qualsiasi fabbrica moderna, Foundry riunisce stazioni specializzate che sono ognuna responsabile della modellazione di parte del prodotto finale. Invece di macchine e nastri trasportatori, la fabbrica di agenti utilizza modelli, strumenti, politiche e orchestrazione per creare agenti sicuri, testabili e pronti per la produzione. Ecco come funziona la factory in modo dettagliato:

Diagramma che mostra i sei passaggi per una factory dell'agente Foundry.

1. Modelli

La linea di montaggio inizia quando si seleziona un modello che fornisce all'agente la relativa intelligenza. Scegli da un catalogo in continua crescita di LLM, tra cui GPT-4o, GPT-4, GPT-3.5 (Azure OpenAI) e altri come Llama. Il modello è il nucleo di ragionamento dell'agente che ne informa le decisioni.

2. Personalizzazione

Modellare il modello in base al caso d'uso. Personalizzare l'agente con richieste specifiche per il dominio, l'ottimizzazione, la sincronizzazione o l'ottimizzazione. Codificare il comportamento dell'agente, le conoscenze specifiche del ruolo e i modelli delle prestazioni precedenti usando i dati acquisiti dai risultati reali del contenuto della conversazione e degli strumenti.

3. Conoscenza e strumenti

Equipaggiare l'agente con gli strumenti. Questi strumenti consentono all'agente di accedere alle conoscenze aziendali (ad esempio Bing, SharePoint e Ricerca di intelligenza artificiale di Azure) e di eseguire azioni reali (tramite App per la logica di Azure, Funzioni di Azure, OpenAPI e altro ancora). Questo passaggio migliora la capacità dell'agente di espandere le funzionalità.

4. Orchestrazione

L'agente necessita del coordinamento. Gli agenti connessi orchestrano il ciclo di vita completo, ad esempio la gestione delle chiamate degli strumenti, l'aggiornamento dello stato della conversazione, la gestione dei tentativi e la registrazione degli output.

L'agente necessita del coordinamento. I flussi di lavoro orchestrano il ciclo di vita completo, ad esempio la gestione delle chiamate degli strumenti, l'aggiornamento dello stato della conversazione, la gestione dei tentativi e la registrazione degli output.

5. Osservabilità

Gli agenti vengono testati e monitorati. Foundry è in grado di acquisire log, tracce e valutazioni in ogni passaggio. Grazie alla visibilità completa a livello di conversazione e all'integrazione di Application Insights, i team possono esaminare ogni decisione e migliorare continuamente gli agenti nel tempo.

6. Affidabilità

È importante assicurarsi che gli agenti siano adatti e affidabili per il carico di lavoro a cui sono assegnati. Foundry applica funzionalità di attendibilità di livello aziendale, tra cui l'identità tramite Microsoft Entra, il controllo degli accessi in base al ruolo( RBAC), i filtri di contenuto, la crittografia e l'isolamento della rete. È possibile scegliere come e dove vengono eseguiti gli agenti usando l'infrastruttura gestita dalla piattaforma o la propria.

Il risultato è un agente pronto per la produzione: affidabile, estendibile e sicuro da distribuire nei flussi di lavoro.

Perché usare il servizio agente Foundry?

Il servizio agente Foundry offre una base pronta per la produzione per la distribuzione di agenti intelligenti in ambienti aziendali. Ecco come viene confrontato tra le funzionalità principali:

Capacità Servizio agente
Visibilità delle conversazioni Accesso completo alle conversazioni strutturate, inclusi i messaggi da utente a agente e da agente a agente. Ideale per interfacce utente, debug e training.
Coordinamento di più agenti Supporto predefinito per la messaggistica da agente a agente.
Orchestrazione degli strumenti Esecuzione lato server e ripetizione di richieste agli strumenti con registrazione strutturata. Non è necessaria alcuna orchestrazione manuale.
Fiducia e sicurezza Filtri di contenuto integrati che consentono di prevenire l'abuso e ridurre i rischi di iniezione di prompt (XPIA). Tutti gli output sono regolati dai criteri.
Integrazione aziendale Possibilità di usare l'archiviazione personalizzata, l'indice di Ricerca di intelligenza artificiale di Azure e la rete virtuale per soddisfare le esigenze di conformità.
Osservabilità e debug Tracciabilità completa delle conversazioni, delle chiamate degli strumenti e delle tracce dei messaggi; Integrazione di Application Insights per i dati di utilizzo.
Controllo delle identità e dei criteri Basato su Microsoft Entra con supporto completo per RBAC (controllo degli accessi in base al ruolo), log di controllo e accesso condizionale aziendale.

Introduzione al servizio agente Foundry

Per iniziare a usare il servizio agente Foundry, è necessario creare un progetto Foundry nella sottoscrizione di Azure.

Iniziare con la configurazione dell'ambiente e le guide introduttive se è la prima volta che si usa il servizio.

Iniziare con la configurazione dell'ambiente e le guide introduttive se è la prima volta che si usa il servizio.

È possibile creare un progetto con le risorse necessarie. Dopo aver creato un progetto, è possibile distribuire un modello compatibile, ad esempio GPT-4o. Dopo aver distribuito un modello, è anche possibile iniziare a effettuare chiamate API al servizio usando gli SDK.

È possibile trovare un elenco di esempi ufficiali con il nuovo SDK dell'agente Python in GitHub.

BCDR per gli agenti

Per supportare la resilienza del servizio, il Foundry Agent Service si basa sugli account Azure Cosmos DB provisionati dai clienti per la continuità aziendale e il ripristino di emergenza (BCDR). Questa dipendenza fa sì che lo stato dell'agente possa essere mantenuto e ripristinato in caso di interruzione a livello di area.

I clienti Standard di Azure effettuano il provisioning e la gestione del proprio account Azure Cosmos DB a tenant singolo. Tutto lo stato dell'agente viene archiviato in questo account. Il backup e il ripristino si basano sulle funzionalità native in Azure Cosmos DB, che è possibile controllare.

Se l'area primaria non è più disponibile, l'agente diventa automaticamente disponibile nell'area secondaria connettendosi allo stesso account Azure Cosmos DB. Poiché tutta la cronologia viene mantenuta in Cosmos DB, l'agente può continuare l'operazione con interruzioni minime.

È consigliabile effettuare il provisioning e gestire gli account Azure Cosmos DB e configurare i criteri di backup e ripristino appropriati. Questo sforzo consente di garantire una continuità uniforme se l'area primaria non è più disponibile.

Contenuti correlati

  • Last updated on