arrow-right cart chevron-down chevron-left chevron-right chevron-up close menu minus play plus search share user email pinterest facebook instagram snapchat tumblr twitter vimeo youtube subscribe dogecoin dwolla forbrugsforeningen litecoin amazon_payments american_express bitcoin cirrus discover fancy interac jcb master paypal stripe visa diners_club dankort maestro trash

Shopping Cart


Hvordan jeg valgte en A/B testtjeneste

How I Chose an A/B Testing Service

by Alex Ignatenko

A year ago


Æraen med Google Optimize nærmer sig sin afslutning – Google har allerede annonceret, at de vil afslutte tjenesten i sin oprindelige form senest den 30. september. Men der er nogle gode nyheder (halleluja) – de har introduceret støtte til tredjeparts split-testing applikationer til at integrere med GA4. Det var her, min rejse begyndte.

Jeg er Alex Ignatenko, og jeg er dybt engageret i marketing analytics. Jeg rådgiver om datadrevne beslutningsprocesser, tilbyder vejledning i opsætning, og hjælper også med træning, udvikling og implementering af tilpassede attribueringsmodeller og A/B eksperimenter. Oven i alt dette driver jeg en Telegram-kanal med fokus på marketing analytics, passende kaldet "Attribution Model".

I den seneste måned har jeg dykket ned i en række forskellige softwareprodukter, sat dem på prøve med demoer, prøver og grundig dokumentationsanalyse. Mit mål var at finde creme de la creme, dem der kunne fungere som erstatning for Google Optimize uden at efterlade mig på bar bund.

Denne artikel er en kurateret liste over applikationer til udførelse og analyse af eksperimenter – en række alternativer, der kan fungere som levedygtige alternativer til Google Optimize, når det udfaser. Så lad os dykke ind.

Introduktion – Nøglekriterier

I ånden af Oscar Wildes filosofi holdt jeg det elegant simpelt. Alle funktioner, jeg har brug for, er:

  • Glidende og problemfri integration med GA4.
  • Mulighed for at opsætte og administrere via GTM.
  • Præcisionsmålretning gennem dataLayer variabler.
  • Fleksibilitet til at konfigurere tilpassede JS-begivenheder (via GTM) som eksperimentmål.
  • Et strejf af en visuel editor ville ikke gøre nogen skade.
  • Responsiv og hjælpsom support ville være en gave.
  • Kapacitet til at håndtere 1 million MAU uden at forårsage en finanskrise.

8. Plads – Eppo

Disse folk er lidt særprægede. Jeg indsendte en demo-anmodning tre gange, og hver gang syntes den at forsvinde i den blå luft. Til sidst satte de mig på deres mailingliste (tak for det). Da jeg svarede på deres email, der bad om en demo, sendte de mig et link til planlægning. Jeg valgte et tidspunkt, deltog i opkaldet som planlagt og ventede et stykke tid. Kryds mit hjerte, jeg gjorde alt, hvad jeg kunne.

7. Plads – AB Tasty

Et omtrentlig skøn over omkostningerne (baseret på trafikrelaterede forespørgsler) endte omkring $100k om året. Ærligt talt, det kunne have afsluttet det hele. Tjenesten så ud til at tilbyde alt, hvad jeg var ude efter og mere, men det efterlod det vigtige spørgsmål ubesvaret – hvorfor den høje pris?

6. Plads – Optimizely

Her er et andet produkt, der målretter mod virksomheder. Under vores indledende opkald, en noget whimsical "demo" session, blev størstedelen af vores tid brugt på, at jeg svarede på kvalificerende spørgsmål. Da spotlightet skiftede til mine spørgsmål, forsikrede de mig om, at der ville komme et detaljeret email-svar. Fair nok.

Og faktisk landede den email i min indbakke, indeholdende bemærkelsesværdigt omfattende svar. Praktisk talt hele min beskedne tjekliste blev adresseret. Undtagen, måske, for prisniveauet – en stejl $45k om året (jeg kan være en smule off med det præcise tal, men du fanger pointen – mine undskyldninger, Optimizely team). Desuden, på grund af manglen på en prøveversion (som ikke er en del af planen), fandt jeg mig selv skubbet det til de lavere trin i min rangordning.

5. Plads - Kameleoon

En fascinerende tjeneste. Den kommer til en lidt lavere pris – ifølge mine krav, omkring €35k om året – og inkluderer en masse interessante (selvom ikke helt nødvendige for mig) personalisering og AI-funktioner. Managerne påstår, at det har den hurtigste responstid i branchen og den mindste indvirkning på blinkende effekten.

Høflige og venlige damer tog en pause, da jeg bad om prøveadgang. Desværre er den pause stadig i gang. Så, det tager 5. pladsen.

4. Plads - ABsmartly

En ung men ganske imponerende tjeneste fra folk, der tidligere arbejdede hos Booking.com. Demoopkaldet var med medstifter Jonas Alves (ex-Product Owner Experimentation @ Booking), og det var den første samtale under min forskning, hvor den anden person ikke fokuserede for meget på præ-kvalificerende spørgsmål, men i stedet dykkede ned i tekniske og statistiske detaljer.

Jeg blev draget af, hvordan de har organiseret eksperimentlogbogen – med deltagerkommentarer, historie og andre elementer – en slags blanding mellem en Slack-kanal og et Confluence-dokument.

Jeg kan også godt lide deres fokus på sekventiel testning. Dette lader dig køre flere eksperimenter samtidigt og få rimeligt hurtige og meningsfulde resultater.

Desværre tilbyder AB Smartly ikke en visuel editor og sømløs GA4-integration. Så vi nåede ikke til spørgsmålet om omkostninger.

3. Plads - VWO

De tre bedste deltagere havde alle de funktioner, jeg havde brug for, samt muligheden for prøveadgang.

Visual Website Optimizer – en indisk tjeneste med en lang historie. Den har et ret brugervenligt dashboard og detaljeret dokumentation. Supportkanalerne er ret responsive. Jeg måtte pylre lidt med GA4-integrationen, men intet kritisk. De anbefaler ikke installation gennem GTM.

Til analyse tilbyder de frekvensbaserede og Bayesian metoder, forskellige typer metrics osv. Alt syntes godt, undtagen prisen – baseret på mine begrænsninger skulle jeg have betalt $3750 om måneden, hvilket virkede lidt dyrt for en række enkle eksperimenter.

2. Plads - GrowthBook (YC W22)

Den første og eneste tjeneste, hvor prisen ikke afhænger af trafikken. Der er et fast årligt gebyr på $10k pr. konto. Det inkluderer 10 millioner API-opkald om måneden, og ekstra koster $100 for 10 millioner. For enkelheds skyld kan du betragte en anmodning som lig med en session. Der er også mekanismer til at cache anmodninger, så der er potentiale for at spare et sted.

Growthbook integreres med dit Google Cloud-projekt og henter statistik fra BigQuery-projektet, som skal være knyttet til din GA4-ressource. Datakonsistensen opretholdes ved at sende en ekstra begivenhed til GA4, når Growthbook-scriptet initialiseres med de relevante parametre.

De har deres visuelle editor, nogle specifikationer for SPAs, og overordnet set ser applikationen ret imponerende ud i forhold til værdi for prisen.

Ulemperne er den relativt høje adgangsbar (du kan ikke offentliggøre en ny GTM-containerversion og glemme det) og ekstra omkostninger for BigQuery. Udover det er Growthbook virkelig cool.

1. Plads - Convert.com

Tænk på det som Google Optimize på steroider. Simpel, let at forstå og letvægts. Kan opsættes gennem GTM, integreres godt med GA4 – separate målgrupper oprettes for hver test. Strukturen af segmenter, begivenheder og andre enheder er intuitiv. Du kan bruge flere statistiske kriterier og arbejde med variantvisninger.

Den månedlige omkostning for 1 million MAU er $1100 med en årlig kontrakt. De tilbyder professionel support – personalet kan give vejledning og endda hjælpe med at tilpasse scripts, hvis nødvendigt.

Så, hvis du søger en omfattende erstatning for Google Optimize, der er rimeligt prissat, så tag bestemt et kig på Convert.

Uden for konkurrencen

Confidence af Spotify – en ny tjeneste i beta-format, som jeg ikke har haft mulighed for at prøve endnu.

GTM Custom HTML Skabelon. Hvis du ikke er generet af den blinkende effekt og er okay med at håndtere konklusioner selv, kan du udvikle din egen eller forbedre en eksisterende Google Tag Manager-tag skabelon. Det ville være virkelig omkostningseffektivt (basisk gratis) og måske ikke så kompliceret.

Jeg har ikke overvejet russisktalende tjenester. Ikke desto mindre er min favorit stadig Sigma af expf

Konklusion

Dette var et skitse af mine detaljerede og ikke så detaljerede indtryk fra mine møder med A/B eksperimenteringstjenester. Der kan være ændringer i priser og app-funktionalitet efter offentliggørelsen – jeg undskylder for det og er altid klar til at opdatere indholdet.

Russisktalende abonnenter kan læse flere af mine tanker om marketing analytics i "Attribution Model" Telegram-kanalen.

Hvis du nød dette indlæg, så overvej venligst at efterlade et like og dele det med venner – det betyder meget for mig.

__________

Alex Ignatenko en produkt-/marketing analytics ekspert hos Add2Cart, implementerer komplekse marketing analytics projekter, løser problemer med flaskehalse i erhvervelseskanalen og opbygger en strømmen proces til test af nye hypoteser. Alex bruger Amplitude Analytics, Google Analytics, SQL og andre værktøjer til at levere handlingsorienterede indsigt og anbefalinger, der driver konverteringsrateoptimering, brugerfastholdelse og indtægtsvækst. Jeg samarbejder også med produktledere, udviklere og marketingspecialister for at tilpasse produktvision, strategi og udførelse.

0 comments


Leave a comment