Paneel voor experimenteren
- Onderwerpen:
- Deelvensters
Gemaakt voor:
- Gebruiker
dit artikel documenteert het paneel van de Experimentatie in
zie Analytics voor het paneel van het Doelvoor informatie over hoe te om de activiteiten en de ervaringen van Adobe Target in
In het deelvenster Experimentation kunnen analisten verschillende gebruikerservaringen, marketing- of berichtvariaties vergelijken om te bepalen wat het beste is om een bepaald resultaat te bepalen. U kunt de lift en het vertrouwen evalueren van elk A/B-experiment vanuit elk testplatform: online, offline, vanuit Adobe-oplossingen zoals Target of Journey Optimizer, en zelfs via BYO-gegevens (uw eigen gegevens).
Lees meer over de integratie tussen Adobe Customer Journey Analytics en Adobe Target.
Toegangsbeheer
Het deelvenster Experimentatie kan door alle Customer Journey Analytics-gebruikers worden gebruikt. Er zijn geen beheerdersrechten of andere machtigingen vereist. Nochtans, vereisen de eerste vereisten acties die slechts de beheerders kunnen uitvoeren.
Functies in berekende metriek
Er zijn twee geavanceerde functies beschikbaar: Optillen en Vertrouwen. Voor meer informatie, zie Verwijzing - geavanceerde functies.
Vereisten
Als u het deelvenster voor experimenten wilt gebruiken, moet u aan de volgende voorwaarden voldoen:
Verbinding maken om gegevenssets te experimenteren
Het geadviseerde gegevensschema is voor de experimentatiegegevens om in een serie van Objectente zijn die het experiment en de variantgegevens in twee afzonderlijke dimensies bevat. Beide dimensies moeten in a enige objecten serie zijn. Als u uw experimentatiegegevens in één enkele afmeting (met experiment en variantgegevens in een afgebakend koord) hebt, kunt u substringgebruiken plaatsend in gegevensmeningen om de afmeting in twee voor gebruik in het paneel te verdelen.
Nadat uw experimentatiegegevens 🔗 in Adobe Experience Platform zijn opgenomen, creeer een verbinding in Customer Journey Analyticsaan één of meerdere experimentele datasets.
Contextlabels toevoegen in gegevensweergaven
In de montages van de gegevensmeningen van Customer Journey Analytics, kunnen beheerders contextetikettenaan een afmeting toevoegen of metrisch en de diensten van Customer Journey Analytics zoals Experimentation paneel kan deze etiketten voor hun doeleinden gebruiken. Er worden twee vooraf gedefinieerde labels gebruikt voor het deelvenster Experimentatie:
- Experimentation Experiment
- Experimentation Variant
Kies in de gegevensweergave die experimentatiegegevens bevat twee dimensies, één met de experimentatiegegevens en één met de variantgegevens. Label die afmetingen vervolgens met de Experimentation Experiment en de Experimentation Variant labels.
Als deze labels niet aanwezig zijn, werkt het deelvenster Experiment niet, omdat er geen experimenten zijn om mee te werken.
Gebruiken
Een deelvenster gebruiken Experimentation :
-
Maak een Experimentation deelvenster. Voor informatie over hoe te om een paneel tot stand te brengen, zie een paneelcreëren.
-
Specificeer de inputvoor het paneel.
-
Neem de outputvoor het paneel waar.
IMPORTANT
Als de vereiste instellingen in de Customer Journey Analytics-gegevensweergaven niet zijn voltooid, ontvangt u dit bericht voordat u verdergaat: Please configure the experiment and variant dimensions in Data views .
Deelvensterinvoer
Het deelvenster Experimentatie gebruiken:
-
Configureer de instellingen voor deelvensterinvoer:
InstellingDefinitieDate RangeHet datumbereik voor het deelvenster Experimentatie wordt automatisch ingesteld op basis van de eerste gebeurtenis die in Customer Journey Analytics is ontvangen voor het geselecteerde experiment. Indien nodig kunt u het datumbereik beperken of uitbreiden tot een specifieker tijdsbestek.ExperimentEen reeks variaties op een ervaring die aan eindgebruikers werden blootgesteld om te bepalen welke het beste voor altijd kan worden bewaard. Een experiment bestaat uit twee of meer varianten, waarvan er één wordt beschouwd als de controlevariant. Deze instelling is vooraf ingevuld met de dimensies die zijn gelabeld met het Experiment label in gegevensweergaven en de experimenteergegevens van de afgelopen 3 maanden.Control variantEen van de twee of meer wijzigingen in de ervaring van een eindgebruiker die worden vergeleken om het betere alternatief te identificeren. Er moet één variant worden geselecteerd als besturingselement en slechts één variant kan als controlevariant worden beschouwd. Deze instelling is vooraf ingevuld met de dimensies die zijn gelabeld met het Variant label in gegevensweergaven. Met deze instelling worden de variantgegevens opgehaald die aan dit experiment zijn gekoppeld.Success metrics ➊De metrische of metrische waarde waarmee een gebruiker varianten vergelijkt. De variant met het meest wenselijke resultaat voor metrische omzetting (of het hoogste of het laagste) wordt verklaard de best presterende variant van een experiment. U kunt maximaal vijf metriek toevoegen.Normalizing metric ➋De basis (Global Account B2B edition , Account B2B edition , Opportunity B2B edition , Buying Group B2B edition , People, Sessions, of Events) waarop een test loopt. Een test kan bijvoorbeeld de conversiesnelheden van verschillende variaties vergelijken, waarbij Conversion rate wordt berekend als Paginaweergave.Include confidence upper/lower boundsSchakel deze optie in om boven- en ondergrenzen voor betrouwbaarheidsniveaus weer te geven. -
Selecteer Build .
Deelvensteruitvoer
Het deelvenster Experimentatie bevat een uitgebreide set gegevens en visualisaties waarmee u beter kunt begrijpen hoe uw experimenten werken. Bij de bovenkant van het paneel, 🔗 worden de summiere veranderingen van 0} {verstrekt om u aan de paneelmontages te herinneren u selecteerde. U kunt het deelvenster op elk gewenst moment bewerken door het bewerkingspotlood rechtsboven te selecteren.
U krijgt ook een tekstsamenvatting die aangeeft of het experiment al dan niet overtuigend is en die het resultaat samenvat. De conclusie is gebaseerd op statistische betekenis (zie Statistische methodologie.) U kunt samenvattingsaantallen voor de best presterende variant met de hoogste lift en het vertrouwen zien.
Voor elke successtatistiek die u hebt geselecteerd, worden een visualisatie van een vrije-vormtabel en een visualisatie van een conversieratiolijn 🔗 weergegeven.
De resultaten interpreteren
-
Experiment is overtuigend: Telkens als u het experimentatierapport bekijkt, worden de gegevens die in het experiment tot dit punt zijn geaccumuleerd geanalyseerd. De analyse verklaart een experiment om overtuigend te zijn wanneer op om het even welk ogenblik geldig vertrouwen een drempel van 95% voor minstens één van de varianten kruist. Met meer dan twee armen wordt een Benjamini-Hochberg-correctie toegepast om meervoudige hypothesetests te corrigeren.
-
best presterende variant: Wanneer een experiment wordt verklaard om overtuigend te zijn, wordt de variant met de hoogste omzettingspercentage geëtiketteerd als best presterende variant. Merk op dat deze variant of de controle of basislijnvariant moet zijn, of één van de varianten die de 95% op elk ogenblik geldige betrouwbaarheidsdrempel (met toegepaste correcties Benjamini-Hochberg) kruisen.
-
het tarief van de Omzetting: De omzettingspercentage dat wordt getoond is een verhouding van de succes metrische waarde ➊ aan het normaliseren metrische ➋. Merk op dat deze waarde groter kan zijn dan 1, als metrisch niet binair is (1 of 0 voor elke eenheid in het experiment)
-
Lift: De samenvatting van het Experimentenrapport toont het Lift over Basislijn, die een maatregel van de percentageverbetering in de omzettingssnelheid van een bepaalde variant over de basislijn is. Dit is het verschil in prestaties tussen een bepaalde variant en de basislijn, gedeeld door de prestaties van de basislijn, uitgedrukt als een percentage.
-
Vertrouwen: Het wanneer geldig vertrouwen dat wordt getoond is een probabilistische maatregel van hoeveel bewijs er is dat een bepaalde variant het zelfde als de controlevariant is. Een hoger vertrouwen geeft minder bewijs voor de aanname dat de besturingsvariant en de niet-besturingsvariant dezelfde prestaties leveren. Het vertrouwen is een waarschijnlijkheid (uitgedrukt als percentage) dat u een kleiner verschil in omrekeningskoersen tussen een bepaalde variant en het besturingselement zou hebben waargenomen. In werkelijkheid is er geen verschil in de werkelijke onderliggende omrekeningskoersen. In termen van p - waarden, is het getoonde vertrouwen 1 - p - waarde.
Statistische methodologie voor Adobe
Om gemakkelijk te interpreteren en veilige statistische gevolgtrekking te verstrekken, heeft Adobe een statistische methodologie goedgekeurd die op wordt gebaseerd altijd Geldige Reeksen van het Vertrouwen.
Een vertrouwensopeenvolging is a opeenvolgend analoog van een betrouwbaarheidsinterval. Om te begrijpen wat een vertrouwensvolgorde is, stel je voor dat je je experimenten honderd keer herhaalt. En bereken een schatting van gemiddelde zaken metrisch (bijvoorbeeld het open tarief van een e-mail) en zijn bijbehorende 95%-vertrouwen opeenvolging voor elke nieuwe gebruiker die het experiment ingaat.
Een 95% betrouwbaarheidsreeks omvat de "ware"waarde van zaken metrisch in 95 van de 100 experimenten die u in werking stelde. (Een betrouwbaarheidsinterval van 95% kon slechts eenmaal per experiment worden berekend om dezelfde 95% dekkingsgarantie te geven, niet bij elke nieuwe gebruiker). Met vertrouwensreeksen kunt u dus voortdurend experimenten volgen zonder dat het aantal fout-positieve fouten toeneemt, dat wil zeggen dat het gebruik van "peeking" bij resultaten is toegestaan.
Niet-gerandomiseerde afmetingen interpreteren
In Customer Journey Analytics kunnen analisten elke gewenste dimensie als experiment selecteren. Maar hoe interpreteer je een analyse waarbij de als experiment gekozen dimensie niet een is waarvoor mensen willekeurig worden gekozen?
Neem bijvoorbeeld een advertentie die een persoon ziet. U kunt in het meten van de verandering in wat metrisch (bijvoorbeeld, gemiddelde opbrengst) geinteresseerd zijn als u besluit om personen en B in plaats van en A te tonen. Het causale effect van het tonen van advertentie B in plaats van advertentie A is van cruciaal belang voor het nemen van een besluit over het in de handel brengen. Dit causale effect kan worden gemeten als de gemiddelde opbrengst over de gehele bevolking, als u de status-quo van het tonen van advertentie A vervangt door de alternatieve strategie van het tonen van advertentie B.
A/B-tests zijn de gouden standaard in de industrie voor het objectief meten van de effecten van dergelijke interventies. De kritieke reden waarom een A/B-test aanleiding geeft tot een causale schatting is te wijten aan de randomisatie van personen die een van de mogelijke varianten ontvangen.
Kijk nu eens naar een dimensie die niet bereikt wordt door randomisatie, bijvoorbeeld, de staat van de persoon in de VS. Personen komen voornamelijk uit twee staten, New York en Californië. De gemiddelde omzet van de verkoop van een winterkledingmerk kan in beide staten verschillen als gevolg van de verschillen in het regionale weer. In een dergelijke situatie kan het weer de werkelijke oorzaak zijn van de verkoop van winterkleding, en niet het feit dat de geografische situatie van personen verschillend is.
Met het deelvenster voor experimenten in Customer Journey Analytics kunt u gegevens analyseren als het gemiddelde inkomstenverschil per land van de persoon. In een dergelijke situatie heeft de output geen causale interpretatie. Een dergelijke analyse kan echter nog steeds van belang zijn. Het geeft een schatting (samen met maatstaven voor onzekerheid) van het verschil in gemiddelde inkomsten van de staten van de personen. Deze waarde wordt ook bedoeld als Statistische het Testen van de Samenvatting. Het resultaat van deze analyse kan interessant zijn, maar niet noodzakelijkerwijs uitvoerbaar. Eenvoudig omdat u niet willekeurig hebt gekozen en soms geen personen aan één van de mogelijke waarden van de dimensie kunt willekeurig plaatsen.
In de volgende afbeelding worden deze situaties gecontrasteerd:
Wanneer u het effect van interventie X op resultaat Y wilt meten, is het mogelijk dat de werkelijke oorzaak van beide factoren de verwarrende factor C is. Als de gegevens niet worden bereikt door personen op X te randomiseren, is de impact moeilijker te meten en de analyse verklaart uitdrukkelijk voor C. Randomization breekt de afhankelijkheid van X op C, die ons toestaat om het effect van X op Y te meten zonder het moeten zich over andere variabelen ongerust maken.
Berekende meetwaarden gebruiken in experimenten
Niet alle berekende meetgegevens zijn compatibel met het deelvenster Experimentatie.
Berekende meetgegevens met een van de volgende meetwaarden of constanten zijn niet compatibel met het deelvenster Experimentatie:
- De metriek van de basis van a summiere dataset
- De metriek van de basis die door elkaar worden verdeeld of samen worden vermenigvuldigd (bijvoorbeeld,
Revenue
/Orders
) - Constanten die worden opgeteld bij of afgetrokken van een basismetriek (bijvoorbeeld
Revenue+50
) - Een van de volgende basisstatistieken:
- Volk
Berekende metrische gegevens die niet compatibel zijn met het deelvenster Experimenteren, hebben de waarde Overal in Customer Journey Analytics (met uitzondering van experimenteren) in het veld Productcompatibiliteit bij het maken van de berekende metrische gegevens. Zie Metrische gegevens maken voor meer informatie over het maken van een berekende metrische gegevens.
Berekende metrische gegevens gebruiken in het deelvenster Experimenteren
Verwijs naar deze blogpost voor informatie over gebruikend berekende metriek in het paneel van de Experimentatie.