AI 모델 모니터링 ai-model-observability
마케터, 데이터 과학자 또는 의사 결정 관리자이든, 개인화된 최적화 모델의 수행 및 동작 방식을 이해하면 AI를 사용하는 각 고객에 대한 최상의 오퍼를 선택하는 데 도움이 됩니다.
이를 위해 Journey Optimizer에서 직접 AI 모델의 상태, 교육 상태 및 진화를 모니터링할 수 있습니다.
이렇게 하면 모델이 작동하는지 여부, 마지막으로 교육을 받은 시기, 교육 중 발생한 사항, 비즈니스 결과를 유도하는 방법(예: 전환 또는 매출), 작동하지 않을 때의 문제 해결을 명확하게 볼 수 있습니다.
교육 상태 보기 from-ai-model-list
모델이 라이브로 설정되면 지속적인 라이프사이클에 들어갑니다. 데이터가 수집되고 모델은 오퍼의 등급을 최적화하기 위해 정기적으로 재교육됩니다. AI 모델 목록에서 개인화된 최적화 모델의 교육 상태를 확인할 수 있습니다.
-
Decisioning > 전략 설정 > AI 모델(으)로 이동하여 AI 모델 인벤토리를 엽니다.
-
사용 가능한 모든 AI 모델과 상태를 볼 수 있습니다.
-
개인화된 최적화 유형의 각 Live AI 모델에 대해 두 개의 열을 통해 다음을 확인할 수 있습니다.
- 마지막 교육 작업이 실행되었을 때(마지막 교육),
- 각 모델이 성공적으로 교육되었는지 여부(교육 결과).
이를 통해 추가 조사 또는 문제 해결이 필요한 모델을 신속하게 식별할 수 있습니다.
모델 상태 보고서 액세스 access-ai-model-details
목록에서 개인화된 최적화 AI 모델을 클릭합니다. 여기에서 아래 나열된 요소를 볼 수 있습니다.
-
현재 배포된 모델 - 이 섹션에는 현재 배포된 모델, 배포 시 모델이 사용하는 데이터 날짜 범위, 포함 및 개인화된 의사 결정 항목(오퍼) 수, 하위 모델 간 현재 트래픽 할당이 표시됩니다.
이 예에서 모델은 5개의 의사 결정 항목에 대해 교육되었으며, 모델은 의사 결정 항목 중 3개에 대한 개인화된 예측을 개발하기에 충분한 트래픽을 갖는다. 나머지 2개의 결정 사항은 임의로 송달된다.
또한 모델이 현재 개인화된 신경망에 40%의 트래픽을 할당하고, 상황별 절약에 40%의 트래픽을 할당하고, 무작위 탐색에 20%의 트래픽을 할당한다는 것을 알 수 있습니다.
-
마지막 교육 작업 - 이 섹션에는 마지막 교육 작업의 상태, 실행 시기 및 모든 오류 메시지가 표시됩니다. 오류 상태에 대해 자세히 알아보기
이 예에서는 배포된 모델이 예상대로 교육 작업과 일치하는지 확인할 수 있습니다.
-
속성 - 이 섹션에는 사용된 데이터 세트, 최적화 지표 및 개인화된 최적화 모델을 교육하는 데 사용된 대상자와 같은 모델의 속성이 표시됩니다.
이러한 요소를 수정하려면 속성 편집을 클릭하십시오. AI 모델 만들기 화면으로 리디렉션됩니다. 자세히 알아보기
-
Model performance - 이 섹션에서는 각 하위 모델에 대한 트래픽 할당 및 전환율과 같이, 시간에 따른 모델의 각 암(arm)의 성능을 보여줍니다. 최근 7일과 최근 30일 사이를 전환할 수 있습니다. 상승도와 통계적 유의성은 모델이 실제로 마케팅 결과를 개선하고 있는지 여부를 나타내는 주요 지표입니다.
이 예에서는 지난 30일 동안 개인화된 하위 모델이 전환율의 60% 이상 상승을 제공하고 있으며, 이 상승은 통계적으로 유의미한 것으로, 이는 이 AI 모델이 귀하의 비즈니스에 영향을 미치고 있음을 의미합니다.
-
시간 경과에 따른 모델 트래픽 할당 - 이 섹션에서는 모델이 시간 경과에 따라 어떻게 발전했는지 보여 줍니다. 모델을 처음 배포할 때 아직 오퍼 데이터가 수집되지 않았기 때문에 트래픽의 100%가 무작위입니다. 첫 번째 재교육 후, 트래픽은 일반적으로 개인화된 팔로 이동합니다.
이 예제에서 시간이 지남에 따라 모델이 재학습되면서 트래픽 할당이 100% 무작위 탐색에서 신경망 및 컨텍스트 기반 밴딧 트래픽으로 전환되었음을 알 수 있습니다.
교육 오류 이해 check-for-error-states
마지막 교육 작업이 실패한 개인화된 최적화 AI 모델에 대한 오류 세부 정보를 보려면 아래 단계를 따르십시오.
-
목록에서 모델을 클릭합니다. 모델 상태 세부 정보가 표시됩니다.
{width="95%"}
이 예에서는 마지막 교육 작업이 실패하여 배포된 모델이 없음을 볼 수 있습니다.
note note NOTE 모델이 배포되지 않으면 획일적인 무작위 트래픽 할당을 사용하여 의사 결정 요청이 제공됩니다. -
마지막 교육 작업 섹션에서 오류 세부 정보를 살펴봅니다.
{width="70%"}
이 모델에 대해 선택한 데이터 세트에 피드백 이벤트가 없으면 일반적으로 교육 작업이 실패합니다. 즉, 데이터 세트를 채우거나 적절한 전환 이벤트로 새 데이터 세트를 선택해야 합니다.
-
모델의 속성에서 선택한 데이터 세트를 확인할 수 있습니다. 다른 데이터 집합을 선택하려면 속성 편집을 클릭하세요. 자세히 알아보기
{width="45%"}
자주 묻는 질문 faq
각 모델 암에 대한 Gini 인덱스는 최적화 지표가 이진인지 아니면 연속인지에 따라 다르게 계산됩니다.
이진 최적화 지표(예: 클릭 수, 주문 수): Gini 인덱스는 수신기 작동 특성(ROC) 곡선의 곡선 아래 면적(AUC)을 기반으로 계산되며, 일반적으로 ROC AUC 또는 간단히 AUC라고 합니다. ROC AUC는 0.5(예측 능력이 0인 무작위 모델)부터 1.0(완전 예측 능력)까지이다. ROC AUC는 공식 Gini = 2 x (ROC AUC) - 1을 사용하여 Gini 인덱스로 변환됩니다.
연속 최적화 지표(예: 수입, 순서 값): Gini 인덱스는 모델의 누적 예측 양성과 모집단의 누적 실제 양성에 연결된 로렌츠 곡선 아래의 영역을 기반으로 계산됩니다. 로렌츠 곡선 아래의 면적은 0.0(완전예측력)부터 0.5(예측력이 0인 확률모형)까지이다. Lorenz AUC는 공식 Gini = 1 - 2 x (Lorenz AUC)를 사용하여 Gini 인덱스로 변환됩니다.
사용 방법 비디오 video
Journey Optimizer에서 AI 등급 모델을 모니터링하고 교육 상태 및 성과를 해석하는 방법을 알아봅니다.