Monitorare i modelli AI ai-model-observability
Che tu sia un addetto al marketing, un data scientist o un amministratore delle decisioni, comprendere le prestazioni e il comportamento dei modelli di ottimizzazione personalizzati ti aiuta a selezionare le offerte migliori per ogni cliente che utilizza l’intelligenza artificiale.
A questo scopo, puoi monitorare lo stato, lo stato di formazione e l'evoluzione dei tuoi modelli di intelligenza artificiale direttamente in Journey Optimizer.
In questo modo puoi vedere chiaramente se il modello funziona, quando è stato addestrato per l'ultima volta, cosa è successo durante la formazione, come sta determinando il tuo risultato di business (ad esempio, conversioni o ricavi) e come risolvere i problemi quando non funziona.
➡️ Scopri questa funzione nel video
Visualizza lo stato del corso di formazione from-ai-model-list
Una volta impostato il modello come live, questo entra in un ciclo di vita continuo: i dati vengono raccolti e il modello viene riaddestrato periodicamente per ottimizzare la classificazione delle offerte. Puoi controllare lo stato di apprendimento dei modelli di ottimizzazione personalizzati nell’elenco dei modelli di intelligenza artificiale.
-
Vai a Decisioning > Configurazione strategia > Modelli AI per aprire l'inventario dei modelli AI.
-
Puoi visualizzare tutti i modelli AI disponibili e il loro stato.
-
Per ogni modello di IA Live del tipo di ottimizzazione personalizzato, due colonne ti consentono di visualizzare:
- quando è stato eseguito l'ultimo processo di apprendimento (Ultimo apprendimento) e
- se ciascun modello è stato addestrato correttamente o meno (Risultato del training).
Questo consente di identificare rapidamente i modelli che necessitano di ulteriori indagini o risoluzione dei problemi.
Accedere a un rapporto sullo stato del modello access-ai-model-details
Dall’elenco, fai clic su un modello di IA per l’ottimizzazione personalizzata. Da qui puoi visualizzare gli elementi elencati di seguito:
-
Modello attualmente distribuito - Questa sezione mostra il modello attualmente distribuito, la data di distribuzione, l'intervallo di dati utilizzato, il numero di elementi decisionali (offerte) inclusi e personalizzati e l'allocazione del traffico corrente tra i sottomodelli.
In questo esempio, il modello è stato addestrato su cinque elementi decisionali e il relativo traffico è sufficiente per sviluppare previsioni personalizzate per tre elementi decisionali. I due elementi di decisione rimanenti vengono serviti a caso.
Puoi anche vedere che il modello sta attualmente allocando il 40% del traffico alla rete neurale personalizzata, il 40% del traffico alla banda contestuale e il 20% del traffico all’esplorazione casuale.
-
Ultimo processo di formazione - In questa sezione viene visualizzato lo stato dell'ultimo processo di formazione, la data di esecuzione e gli eventuali messaggi di errore. Ulteriori informazioni sugli stati di errore
In questo esempio, puoi osservare che il modello distribuito corrisponde al processo di formazione previsto.
-
Proprietà - Questa sezione mostra le proprietà del modello, ad esempio il set di dati utilizzato, la metrica di ottimizzazione e i tipi di pubblico utilizzati per addestrare il modello di ottimizzazione personalizzato.
Fai clic su Modifica proprietà per modificare questi elementi. Verrai reindirizzato alla schermata Crea modello di intelligenza artificiale. Ulteriori informazioni
-
Model performance - Questa sezione mostra le prestazioni di ogni braccio del modello nel tempo, ad esempio l'allocazione del traffico e il tasso di conversione per ogni sottomodello. Puoi passare da ultimi 7 giorni agli ultimi 30 giorni. L’incremento e la rilevanza statistica sono gli indicatori chiave per stabilire se il modello stia effettivamente migliorando i risultati di marketing.
In questo esempio, puoi notare che negli ultimi 30 giorni i modelli secondari personalizzati hanno generato un aumento del tasso di conversione di oltre il 60%, un incremento statisticamente significativo, il che significa che questo modello di intelligenza artificiale sta generando un impatto sulla tua azienda.
-
Allocazione del traffico del modello nel tempo - In questa sezione viene illustrata l'evoluzione del modello nel tempo. Quando un modello viene distribuito per la prima volta, il 100% del traffico è casuale, perché non sono ancora stati raccolti dati di offerta. Dopo la prima riqualificazione, il traffico di solito si sposta verso le braccia personalizzate.
In questo esempio, puoi vedere che l’allocazione del traffico è passata dall’esplorazione casuale al 100% alla rete neurale e al traffico di slot contestuale, in quanto il modello è stato riqualificato nel tempo.
Comprendere gli errori di apprendimento check-for-error-states
Per visualizzare i dettagli dell’errore relativo a un modello di IA per l’ottimizzazione personalizzata il cui ultimo processo di apprendimento non è riuscito, effettua le seguenti operazioni.
-
Fate clic sul modello nell'elenco. Vengono visualizzati i dettagli dello stato del modello.
{width="95%"}
In questo esempio, puoi vedere che non viene distribuito alcun modello perché l’ultimo processo di apprendimento non è riuscito.
note note NOTE Quando non viene distribuito alcun modello, le richieste di decisione vengono distribuite utilizzando l’allocazione casuale uniforme del traffico. -
Scopri i dettagli dell’errore nella sezione Ultimo processo di apprendimento.
{width="70%"}
Un processo di formazione in genere ha esito negativo se non sono presenti eventi di feedback nel set di dati selezionato per questo modello. Ciò significa che devi compilare il set di dati o selezionare un nuovo set di dati con gli eventi di conversione appropriati.
-
Puoi controllare quale set di dati è selezionato nelle Proprietà del modello. Fai clic su Modifica proprietà per selezionare un altro set di dati. Ulteriori informazioni
{width="45%"}
Domande frequenti faq
L’indice Gini per ciascun braccio del modello viene calcolato in modo diverso a seconda che la metrica di ottimizzazione sia binaria o continua:
Metrica di ottimizzazione binaria (ad es. clic, ordini): l'indice Gini viene calcolato in base all'area sotto la curva (AUC) della curva delle caratteristiche di funzionamento del ricevitore (ROC), normalmente indicata come AUC del ROC o semplicemente AUC in breve. L’AUC del ROC varia da 0,5 (modello casuale con potenza predittiva pari a zero) a 1,0 (potenza predittiva perfetta). L’AUC della ROC viene convertita in un indice Gini utilizzando la formula Gini = 2 x (AUC della ROC) - 1.
Metrica di ottimizzazione continua (ad es. ricavi, valore ordine): l'indice Gini viene calcolato in base all'area sotto la curva di Lorenz associata ai positivi previsti cumulativi del modello rispetto ai veri positivi cumulativi nella popolazione. L'area sotto la curva di Lorenz varia da 0,0 (potenza predittiva perfetta) a 0,5 (modello casuale con potenza predittiva pari a zero). L'AUC di Lorenz viene convertita in un indice di Gini usando la formula Gini = 1 - 2 x (AUC di Lorenz).
Video introduttivo video
Scopri come monitorare i modelli di classificazione AI e interpretare lo stato e le prestazioni del training in Journey Optimizer.