Menu

A/B Testi Örneklem Büyüklüğü Hesaplayıcı

Test bir şey söyleyebilmeden önce her varyantın kaç ziyaretçiye ihtiyacı olduğu ve senin trafiğinde bunun kaç gün ettiği. Saptamaya değer en küçük artışı, güveni ve gücü ayarla; sayıyı altındaki formülle birlikte oku.

Yazan Nethanel Bar, Co-founder & CEO

Son güncelleme

Gerçekten kod yazmayı öğrenmeye hazır mısın?

Coddy, tarayıcında gerçek kod yazarak öğretir: etkileşimli dersler, anında geri bildirim ve takıldığında yapay zekâ desteği.

Örneklem büyüklüğüne tek bir sonuca bakmadan önce karar ver

Örneklem büyüklüğü, test başlamadan önce kendine verdiğin bir sözdür: "Sonuca bu kadar kişi gördüğünde bakacağım, daha önce değil." O olmadan her A/B testi aynı hikâyeye kayar. İlk hafta umut verici görünür, ikinci hafta artış küçülür, biri anlamlı olup olmadığını sorar ve test, çubuğun yeşile döndüğü gün biter. Bu sayfa sana plana yazacağın sayıyı verir; böylece bitiş tarihi bir ruh hâli değil, bir olgu olur.

Hesaplama, Evan Miller'ın ve Optimizely'nin hesaplayıcılarının arkasındaki standart iki oranlı örneklem büyüklüğüdür ve dört şeye bağlıdır: taban oran, saptayabilmek istediğin artış, güven düzeyi ve güç. Güç, insanların atladığıdır. %80 güçte, adını koyduğun büyüklükteki gerçek bir artış on seferde sekiz yakalanır; örneklemi yarı olan bir testin gücü yarının çok altındadır; bu yüzden gücü yetersiz bir test "daha kaba bir cevap" değil, genellikle hiç cevap değildir.

Sonucun altındaki eğri, hatırlamaya değer kısımdır. Gereken ziyaretçi, artışın tersinin karesiyle büyür: görmek istediğin artışı yarıya indir, yaklaşık dört kat trafiğe ihtiyacın olur. %30'luk bir artışı iki haftada doğrulayabilen bir site, %10'luk birini doğrulamak için yaklaşık dokuz kat daha uzun süreye ihtiyaç duyar. Gün sayısı ay olarak çıkıyorsa, hesaplayıcı sana beklemeni söylemeden önce daha büyük bir şey test etmeni ya da huninin daha üstüne, daha çok kişinin ulaştığı bir ölçüte çıkmanı söylüyordur.

Örneklem büyüklüğü neye bağlı

  • En küçük saptanabilir etki bir ölçüm değil, bir karardır. Gerçekten yayına alacağın en küçük artıştır. Testi "daha hassas" yapmak için düşük tutmak testi daha iyi değil, daha uzun yapar.
  • Göreli ve mutlak artış farklı hayvanlardır. %5 taban üzerinde %10 göreli artış, yarım puandır. Bu sayfa göreli terimlerle çalışır, çünkü sonuçlar öyle raporlanır ve ikisini de görebilmen için hedef oranı yanında gösterir.
  • Fazladan varyantlar paylarından fazlasına mal olur. A'yı B, C ve D'ye karşı test etmek üç karşılaştırmadır ve güvenin aralarında bölünmesi gerekir. Hesaplayıcı Bonferroni bölmesini uygular ve her karşılaştırmanın gerçekte aldığı alfayı gösterir.
  • Günler bir tavan değil, bir tabandır. Sayılar dört gün dese bile en az bir tam hafta, ideali iki hafta çalıştır; çünkü hafta içi ve hafta sonu ziyaretçileri farklı dönüşüm sağlar ve yalnızca salı günü yapılan bir test salıları ölçer.
  • %80 güç, beş gerçek kazanandan birinin kaçırılması demektir. Bir kazananı kaçırmak senin için pahalıysa %90 kullan ve daha büyük örneklemi kabul et.

Bir A/B testi nasıl boyutlandırılır

  1. Mevcut dönüşüm oranını gir

    Testin değiştireceği sayfanın veya adımın oranını kullan; testin göreceği türden ziyaretçiler üzerinde ölçülmüş olsun. Tek bir huni adımını test ederken site geneli ortalama kullanma.

  2. Saptamaya değer en küçük artışı seç

    Hangi artış sana değişikliği yayına aldırırdı, onu sor. Bu senin en küçük saptanabilir etkindir. Olgun bir sayfa için %10 göreli yaygın bir seçimdir; bir yeniden tasarım %20 veya daha fazlasını haklı çıkarabilir.

  3. Güveni ve gücü ayarla

    %95 güven ve %80 güç gelenektir. Sahte bir kazananı geri almak pahalıysa güveni yükselt; kaçırılan bir kazananı masada bırakmak pahalıysa gücü yükselt.

  4. Günlük ziyaretçilerini ekle

    Bütün varyantlar birlikte, yalnızca teste ulaşacak ziyaretçiler sayılarak. Sonuç güne ve tam haftaya çevrilir.

  5. Bitiş tarihini yaz

    Hesaplayıcı sana varyant başına örneklem büyüklüğünü verir. Bunu, ima ettiği tarihle birlikte test planına koy ve ondan önce sonuç okuma. Gözetleme simülatörü sekmesi nedenini gösterir.

Bir bakışta örneklem büyüklüğü

%95 güven ve %80 güçte, çift yönlü, varyant başına ziyaretçi. İki kollu bir test için ikiyle çarp.

Taban oran+%5 artış+%10 artış+%20 artış+%50 artış
%1yaklaşık 637,000yaklaşık 163,000yaklaşık 42,700yaklaşık 7,800
%3yaklaşık 208,000yaklaşık 53,200yaklaşık 13,900yaklaşık 2,500
%5yaklaşık 122,000yaklaşık 31,200yaklaşık 8,200yaklaşık 1,500
%10yaklaşık 57,800yaklaşık 14,800yaklaşık 3,800yaklaşık 690
%20yaklaşık 25,600yaklaşık 6,500yaklaşık 1,700yaklaşık 290

Çözümlü örnekler

%5'lik bir kayıt sayfası, +%10 arıyor

Taban %5, en küçük saptanabilir etki %10 (hedef %5.5), %95 güven, %80 güç, çift yönlü. Sonuç: varyant başına yaklaşık 31,000 ziyaretçi, toplam 62,000.

Günde 1,000 ziyaretçiyle bu 62 gün, yani dokuz tam hafta. Birçok ekip buna fazla uzun der ve ya daha cesur bir değişiklik test eder ya da bu sayfanın iki haftada test edilebilir olması için %20 veya daha fazla artış gerektiğini kabul eder.

%3'lük bir ödeme adımı, +%20 arıyor

Taban %3, en küçük saptanabilir etki %20 (hedef %3.6). Sonuç: varyant başına yaklaşık 13,900 ziyaretçi.

Daha düşük taban oranlar aynı göreli artış için daha çok ziyaretçi gerektirir, çünkü sayılacak daha az dönüşüm vardır. Burada %20'lik göreli artış yalnızca 0.6 puandır ve testin %3.0'ı %3.6'dan ayırt etmesi gerekir.

Bir kontrole karşı üç varyant

Taban %5, artış %10, kontrol dahil dört varyant. Karşılaştırma başına alfa 0.05 / 3 olur ve varyant başına örneklem yaklaşık üçte bir büyür; toplam, varyant başına rakamın dört katıdır.

Varyant eklemek, iki haftalık bir testi iki aylık bir teste çevirmenin en hızlı yoludur. Kontrole karşı tek bir güçlü fikri test et; sonraki fikri ardından çalıştır.

Örneklem büyüklüğü hataları

  • Testi erken sonuçları gördükten sonra boyutlandırmak. Üçüncü gün gözlediğin artış en küçük saptanabilir etki değildir; fikri olan bir gürültüdür.
  • Göreli kastedilen yerde mutlak artış kullanmak. %2 taban üzerinde "%10 artış" ya %2.2 ya da %12'dir ve örneklem büyüklükleri yüzlerce kat farklıdır.
  • Sonuç anlamlı değilken örneklem büyüklüğünde durup buna kayıp demek. Örneklem büyüklüğüne ulaşmak, testin adını koyduğun etkiyi saptayabileceği anlamına gelir. Daha küçük etkiler hakkında hiçbir şey söylemez.
  • Sayfa görüntülemelerini ziyaretçi saymak. Formül her birimin tek sonuçlu bir bağımsız ziyaretçi olduğunu varsayar; tekrar görüntülemeler sayıyı ve güveni şişirir.
  • Yarım haftada bitirmek. Örneklem büyüklüğüne perşembe ulaşıldıysa, sonraki pazara kadar çalıştır; hafta içi karışımı dönüşüm oranlarını test edilen çoğu değişiklikten daha çok değiştirir.

Örneklem büyüklüğü SSS

Bir A/B testini ne kadar süre çalıştırmalıyım?
Her varyant saptamak istediğin artış için örneklem büyüklüğüne ulaşana kadar ve en az bir tam hafta, tercihen iki. Günlük ziyaretçilerini yukarıya gir; hesaplayıcı örneklem büyüklüğünü güne ve tam haftaya çevirir. Gereğinden uzun çalıştırmak küçük bir israftır; sonuç iyi göründüğü için erken durmak, sahte kazananların çoğunun ilan edilme şeklidir.
En küçük saptanabilir etki nedir?
Testin güvenilir biçimde yakalamak üzere tasarlandığı, testten önce seçilen en küçük artış. Genellikle göreli değişim olarak ifade edilir; yani %4 taban üzerinde %10'luk bir MDE, testin %4.0'ı %4.4'ten ayırt edebileceği anlamına gelir. Daha küçük MDE'ler çarpıcı biçimde daha çok ziyaretçi ister: MDE'yi yarıya indirmek örneklemi kabaca dört katına çıkarır.
%80 güç ne anlama gelir?
Gerçek artış tam olarak adını koyduğun büyüklükteyse, bu büyüklükte bir testin zamanın %80'inde anlamlı çıkacağı anlamına gelir. Kalan %20'de gerçek bir kazananı kaçırır. Güç, güvenin ayna görüntüsüdür: güven sahte alarmları sınırlar, güç kaçırılan kazananları sınırlar.
Daha düşük bir dönüşüm oranı neden daha çok ziyaretçi ister?
Çünkü test ziyaretçileri değil, dönüşümleri sayar. %1 oranında 10,000 ziyaretçi sana karşılaştıracak 100 olay verir; %10'da 1,000. Aynı göreli artışı görmek ikinci durumda çok daha kolaydır. Bu yüzden huninin daha üstünde, daha çok ziyaretçinin ulaştığı bir ölçütte test etmek, küçük bir sitenin test yapabilmesinin çoğu zaman tek yoludur.
Birden fazla varyant çalıştırabilir miyim?
Evet ve hesaplayıcı bunu doğru boyutlandırır; ama her fazladan varyant kontrole karşı bir karşılaştırma daha demektir ve güvenin aralarında paylaşılması gerekir. Düzeltmesiz %95'te dört varyant, en az bir sahte kazanan için %14 ihtimaldir. Hesaplayıcı alfayı karşılaştırmalar arasında böler; varyant başına sayının büyümesinin sebebi budur.
Bu, gelir veya ortalama sipariş değeri için çalışır mı?
Hayır, bu sayfa bir dönüşüm oranı üzerinde test boyutlandırır. Ziyaretçi başına gelir gibi sürekli ölçütler, ölçütün varyansını gerektirir; bu genellikle bir oranınkinden çok daha büyüktür ve örneklem büyüklükleri buna göre daha büyüktür. Bunlar için kendi geçmiş varyansına ve t-testi tabanlı bir hesaba ihtiyacın var.

Diğer geliştirici araçları

Coddy programlama dilleri çizimi

Coddy ile kodlamayı öğren

BAŞLA