Monitore modelos de IA ai-model-observability
Seja você um profissional de marketing, cientista de dados ou administrador de decisões, entender como seus modelos de otimização personalizados funcionam e se comportam ajuda a selecionar as melhores ofertas para cada cliente que usa IA.
Para fazer isso, você pode monitorar a integridade, o status do treinamento e a evolução dos modelos de IA diretamente no Journey Optimizer.
Isso fornece uma visão clara sobre se seu modelo está funcionando, quando foi treinado pela última vez, o que aconteceu durante o treinamento, como ele está impulsionando seu resultado comercial (por exemplo, conversões ou receita) e solucionar problemas quando não está funcionando.
➡️ Conheça este recurso no vídeo
Exibir o status do treinamento from-ai-model-list
Depois que um modelo é definido para ficar ativo, ele entra em um ciclo de vida contínuo: os dados são coletados e o modelo é retreinado periodicamente para otimizar a classificação das ofertas. Você pode verificar o status do treinamento de seus modelos de otimização personalizados na lista de modelos de IA.
-
Acesse Decisão > Configuração de estratégia > Modelos de IA para abrir o inventário de modelos de IA.
-
Você pode visualizar todos os modelos de IA disponíveis e os status deles.
-
Para cada modelo de IA do Live do tipo de otimização personalizado, duas colunas permitem que você veja:
- quando o último trabalho de treinamento foi executado (Último treinamento) e
- se cada modelo foi treinado com êxito ou não (Resultado do treinamento).
Isso permite identificar rapidamente os modelos que precisam de mais investigação ou solução de problemas.
Acessar um relatório de status de modelo access-ai-model-details
Clique em um modelo de IA de otimização personalizado na lista. A partir daí, você pode visualizar os elementos listados abaixo:
-
Modelo implantado no momento - Essa seção mostra o modelo implantado no momento, quando ele foi implantado, qual intervalo de datas de dados ele usa, quantos itens de decisão (ofertas) são incluídos e personalizados e a alocação de tráfego atual entre submodelos.
Neste exemplo, o modelo foi treinado em cinco itens de decisão e tem tráfego suficiente para desenvolver previsões personalizadas para três dos itens de decisão. Os restantes dois itens de decisão são notificados aleatoriamente.
Você também pode ver que o modelo está alocando atualmente 40% do tráfego para a rede neural personalizada, 40% do tráfego para o bandit contextual e 20% do tráfego para exploração aleatória.
-
Último trabalho de treinamento - Esta seção mostra o status do último trabalho de treinamento, quando ele foi executado e todas as mensagens de erro. Saiba mais sobre estados de erro
Neste exemplo, você pode observar que o modelo implantado corresponde ao trabalho de treinamento conforme esperado.
-
Propriedades - Esta seção mostra as propriedades do modelo, como o conjunto de dados usado, a métrica de otimização e os públicos-alvo usados para treinar o modelo de otimização personalizado.
Clique em Editar propriedades para modificar esses elementos. Você será redirecionado para a tela Criar modelo de IA. Saiba mais
-
Model performance - Esta seção mostra o desempenho de cada braço do modelo ao longo do tempo, como a alocação de tráfego e a taxa de conversão para cada submodelo. Você pode alternar entre últimos 7 dias e últimos 30 dias. O incentivo e a significância estatística são os principais indicadores para determinar se o modelo está realmente melhorando o resultado de marketing.
Neste exemplo, você pode ver que, nos últimos 30 dias, os submodelos personalizados estão fornecendo mais de 60% de aumento na taxa de conversão, e esse aumento é estatisticamente significativo, o que significa que esse modelo de IA está causando um impacto para sua empresa.
-
Alocação de tráfego de modelo ao longo do tempo - Esta seção mostra como o modelo evoluiu ao longo do tempo. Quando um modelo é implantado pela primeira vez, 100% do tráfego é aleatório porque nenhum dado de oferta foi coletado ainda. Após o primeiro treinamento, o tráfego geralmente muda para os braços personalizados.
Neste exemplo, você pode ver que a alocação de tráfego mudou de exploração aleatória de 100% para rede neural e tráfego de bandit contextual à medida que o modelo foi retreinado ao longo do tempo.
Entender os erros de treinamento check-for-error-states
Para exibir detalhes de erros de um modelo de IA de otimização personalizado cujo último trabalho de treinamento falhou, siga as etapas abaixo.
-
Clique no modelo da lista. Os detalhes de status do modelo são exibidos.
{width="95%"}
Neste exemplo, você pode ver que nenhum modelo está implantado porque o último trabalho de treinamento falhou.
note note NOTE Quando nenhum modelo é implantado, as solicitações de decisão são atendidas usando a alocação uniforme de tráfego aleatório. -
Veja os detalhes do erro na seção Último trabalho de treinamento.
{width="70%"}
Um trabalho de treinamento geralmente falha quando não há eventos de feedback no conjunto de dados selecionado para esse modelo. Isso significa que você precisa preencher o conjunto de dados ou selecionar um novo conjunto de dados com eventos de conversão apropriados.
-
Você pode verificar qual conjunto de dados está selecionado nas Propriedades do modelo. Clique em Editar propriedades para selecionar outro conjunto de dados. Saiba mais
{width="45%"}
Perguntas frequentes faq
O índice de Gini para cada braço de modelo é calculado de forma diferente, dependendo se a métrica de otimização é binária ou contínua:
Métrica de otimização binária (por exemplo, cliques, pedidos): o índice de Gini é calculado com base na área sob a curva (AUC) da curva ROC (Receiver-Operating Characteristics), normalmente chamada de AUC ROC ou simplesmente AUC. A AUC do ROC varia de 0,5 (modelo aleatório com potência preditiva zero) a 1,0 (potência preditiva perfeita). A AUC do ROC é convertida em índice de Gini usando a fórmula Gini = 2 x (AUC do ROC) - 1.
Métrica de otimização contínua (por exemplo, receita, valor de pedido): o índice Gini é calculado com base na área sob a curva de Lorenz associada aos positivos cumulativos previstos do modelo versus os positivos reais cumulativos na população. A área abaixo da curva de Lorenz varia de 0,0 (potência preditiva perfeita) a 0,5 (modelo aleatório com potência preditiva zero). A AUC de Lorenz é convertida em índice de Gini utilizando a fórmula Gini = 1 - 2 x (AUC de Lorenz).
Vídeo tutorial video
Saiba como monitorar modelos de classificação de IA e interpretar o status e o desempenho do treinamento no Journey Optimizer.