Salesforce raddoppia la ritenzione della memoria in Agentforce con una nuova politica di aggiornamento
Immagine generata dalla Redazione di Inferama
01

Il problema dell'obsolescenza nella memoria degli agenti

Un agente di intelligenza artificiale può commettere un errore sottile ma costoso: rispondere con informazioni che erano corrette in passato ma che non lo sono più. Se un cliente indica a marzo che la sua sede è a Bangalore e a giugno comunica che si è trasferito a Pune, l'agente deve aggiornare quel dato. Se non lo fa e a luglio risponde a una query dipendente dalla posizione come se l'ufficio fosse ancora a Bangalore, la conseguenza può variare da una semplice frizione a un grave errore operativo, come prenotare il catering per l'indirizzo vecchio.

Questo scenario illustra la difficoltà centrale della memoria negli agenti di lunga durata. Una risposta costruita su un fatto datato si legge esattamente come una costruita su un fatto attuale, rendendo l'errore invisibile per l'utente e difficile da diagnosticare per lo sviluppatore. L'incapacità di distinguere tra un fallimento di stoccaggio e un fallimento di utilizzo è l'ostacolo principale per migliorare la coerenza di questi sistemi.

02

Un framework di valutazione per misurare la memoria reale

Salesforce AI Research ha sviluppato un framework di valutazione progettato per rispondere a una domanda complessa: quanto ricorda realmente un agente? Questo sistema genera conversazioni lunghe e multi-sessione con fatti specifici inseriti nel tempo. Successivamente, esegue queste conversazioni attraverso il sistema Agentforce in tempo reale e pone domande che dipendono da quei dati.

La chiave di questo approccio è che testa il percorso completo, dal momento in cui il cliente menziona un dato al momento in cui l'agente agisce su di esso. Questo consente di separare due tipi di fallimenti: se l'agente non ha salvato l'informazione o se l'ha salvata ma non l'ha utilizzata correttamente. Identificando quale dei due sia il problema, gli ingegneri possono migliorare il sistema modificando la politica di memoria anziché ricostruire l'architettura sottostante.

Ciclo di valutazione della memoria

Il processo di valutazione segue una sequenza logica per validare l'integrità della memoria dell'agente.

  1. 01Generazione di conversazioni multi-sessione con fatti inseriti.
  2. 02Esecuzione delle conversazioni nel sistema Agentforce in tempo reale.
  3. 03Formulazione di domande che dipendono dai fatti inseriti.
  4. 04Analisi della risposta per distinguere tra fallimento di stoccaggio e fallimento di utilizzo.
  5. 05Regolazione della politica di memoria basata sui risultati.
03

L'aggiornamento della politica di memoria

Il miglioramento delle prestazioni non è derivato da un cambiamento nell'architettura di Agentforce Memory, che continua a funzionare con la stessa base tecnica del lancio. Il cambiamento risiede nella politica di memoria aggiornata, che definisce le regole su quali informazioni l'agente trattiene e come gestisce i cambiamenti in quelle informazioni.

La nuova politica ha due caratteristiche fondamentali: trattiene più di ciò che il cliente dice e tratta un aggiornamento come una correzione di un dato esistente anziché come un fatto aggiuntivo archiviato accanto al primo. Questo cambio di paradigma consente all'agente di sovrascrivere le informazioni obsolete con quelle nuove, mantenendo la coerenza del contesto nel tempo.

Confronto delle politiche di memoria

Differenze chiave tra la politica precedente e quella aggiornata nella gestione dei dati dei clienti.

CaratteristicaPolitica precedentePolitica aggiornata
Gestione degli aggiornamentiArchivia il nuovo dato accanto a quello vecchioTratta il nuovo dato come correzione di quello vecchio
Ritenzione delle informazioniTrattiene un sottoinsieme di datiTrattiene più di ciò che il cliente dice
Coerenza temporalePuò rispondere con dati obsoletiMantiene le informazioni aggiornate
04

Impatto sulle prestazioni: metriche di raddoppio

I risultati della valutazione sul sistema in tempo reale mostrano un miglioramento significativo. La politica aggiornata recupera 1,8 volte più dei fatti dichiarati esplicitamente dai clienti rispetto alla politica sostituita. Nel caso dei fatti che cambiano nel tempo, il miglioramento è ancora maggiore, con un recupero 2,2 volte superiore.

Queste cifre indicano che la memoria della conversazione dall'inizio alla fine è stata raddoppiata in termini di qualità. Questo non è solo un miglioramento statistico, ma un cambiamento tangibile nell'esperienza dell'utente, poiché gli agenti sono ora più affidabili nel mantenere il contesto per mesi di interazione, riducendo la necessità che i clienti ripetano informazioni e minimizzando gli errori operativi.

05

Implicazioni per lo sviluppo e la governance

Questo aggiornamento sottolinea l'importanza di misurare le prestazioni degli agenti di IA in condizioni reali, non solo in ambienti di laboratorio. Come ha sottolineato Silvio Savarese, EVP e chief scientist di Salesforce, in un'organizzazione di prodotto, il problema è già in esecuzione con clienti reali, e la disciplina è misurarlo onestamente prima di apportare modifiche. Questo approccio consente ai team di sviluppo di identificare e correggere fallimenti specifici senza la necessità di ridisegnare l'infrastruttura.

Per le aziende che utilizzano Agentforce, questo miglioramento significa una maggiore fiducia nella capacità degli agenti di gestire contesti complessi e in cambiamento. La memoria degli agenti sta diventando uno standard che le aziende richiedono, simile a qualsiasi altra parte dei loro sistemi. **La capacità di testare cosa ricorda un agente lungo un'intera conversazione è il modo in cui viene stabilito questo standard.**

06

Continua a esplorare

Fonti consultate

03

Correzioni e trasparenza

Se trovi un dato errato o non aggiornato, inviaci la pagina e la fonte da verificare.

Proponi una correzione