Calculadora de prueba A/B: significancia y tamaño de muestra

Descubre si la diferencia entre A y B es real o suerte, con valor p e intervalo de confianza, y calcula cuántos visitantes necesita la prueba.

Tus datos no salen de tu navegador

Prueba A/B

A (control)
Cuántas personas vieron esta versión.
B (variante)
Cuántas personas vieron esta versión.

Resultado

Tasa de conversión A
5,00%
Tasa de conversión B
6,20%
Diferencia (B − A)
+1,20%
Mejora relativa de B
+24,00%
Estadístico z
2,610
Valor p
0,0091
Intervalo de confianza de la diferencia (95%)
+0,30% … +2,10%
B ganó: la diferencia es estadísticamente significativa con el nivel de confianza elegido.

Cómo saber si tu prueba A/B tiene ganador

Una prueba A/B compara dos versiones de una página, un anuncio o un correo para saber cuál convierte más. El riesgo es declarar un ganador demasiado pronto: con pocos visitantes, una diferencia de uno o dos puntos puede ser puro azar. Esta herramienta responde las dos preguntas que importan: si la diferencia que viste es real y cuántos visitantes necesitas para ver la diferencia que buscas.

Todo se calcula en tu navegador. Los números que escribes no se envían a ningún sitio.

  1. Indica visitantes y conversiones de A y de B. Usa los totales de todo el período de la prueba. La conversión es la acción que mides: una compra, un registro, un clic en el botón.
  2. Elige el nivel de confianza. 95% es el estándar del mercado: acepta 1 posibilidad en 20 de ver una diferencia que en realidad no existe.
  3. Elige bilateral o unilateral. Bilateral pregunta si hay diferencia en cualquier dirección y es lo más seguro. Unilateral solo pregunta si B es mejor y debe decidirse antes de mirar los datos.
  4. Lee el valor p y el intervalo. Si el valor p es menor que 1 menos la confianza (0,05 para 95%), la diferencia es significativa. El intervalo muestra el tamaño probable de la mejora; si incluye cero, el resultado no es concluyente.
  5. Planifica la próxima prueba en la pestaña de muestra. Indica la tasa actual, la mejora más pequeña que valdría la pena detectar (MDE) y la potencia. La herramienta devuelve cuántos visitantes necesita cada versión.

Todo se calcula aquí, en tu navegador. Nada de lo que escribes se envía a ningún servidor y no usamos cookies de terceros.

Cómo funciona el cálculo

La significancia usa la prueba z de dos proporciones. Suponiendo que A y B convierten igual, se estima una única tasa agrupada y se mide la distancia entre las dos tasas en errores estándar. El valor p es la probabilidad de ver una distancia al menos así de grande solo por azar.

El intervalo de confianza de la diferencia usa el error estándar sin agrupar, la misma convención del comando prtesti de Stata. La normal estándar se calcula con la función de error, sin tablas aproximadas.

El tamaño de muestra usa la fórmula clásica de Fleiss para dos proporciones, la misma de Stata (power twoproportions). Comprobado con el manual de Stata: tasas de 0,001 y 0,015 con 80% de potencia y 5% bilateral piden 635 visitantes por grupo.

  • TasaspA = conversiones A ÷ visitantes A; pB = conversiones B ÷ visitantes B
  • Tasa agrupadap = (conversiones A + conversiones B) ÷ (visitantes A + visitantes B)
  • Estadístico zz = (pB − pA) ÷ √( p × (1 − p) × (1/nA + 1/nB) )
  • Valor p bilateral2 × P(Z ≥ |z|), con Z normal estándar
  • Intervalo de confianza(pB − pA) ± zc × √( pA(1−pA)/nA + pB(1−pB)/nB )
  • Muestra por grupon = ( zα × √(2 p̄ (1−p̄)) + zβ × √(p1(1−p1) + p2(1−p2)) )² ÷ (p2 − p1)²

Ejemplos

Diferencia significativa

A: 250 conversiones de 5.000 visitantes (5,00%). B: 310 de 5.000 (6,20%). La diferencia es de +1,20 puntos porcentuales, z = 2,61 y valor p = 0,0091. Con 95% de confianza, B ganó; la mejora probable está entre unos +0,3 y +2,1 puntos.

Parece mejor, pero es azar

A: 20 conversiones de 400 (5,00%). B: 26 de 400 (6,50%). B parece 30% mejor, pero el valor p es de aproximadamente 0,36. El intervalo incluye cero y la prueba no es concluyente: sigue reuniendo datos.

¿Cuánto tráfico necesito?

Con una tasa actual de 5% y el objetivo de detectar una mejora relativa de 20% (de 5% a 6%), con 95% de confianza y 80% de potencia, se necesitan unos 8.160 visitantes por versión, 16.320 en total. Con 1.000 visitantes al día, la prueba dura 17 días.

Preguntas frecuentes

¿Qué es la significancia estadística en una prueba A/B?

Es la evidencia de que la diferencia entre A y B no es azar. Con 95% de confianza solo se declara ganador cuando el valor p es menor que 0,05, es decir, cuando una diferencia tan grande ocurriría por suerte menos del 5% de las veces si las versiones fueran iguales.

¿Cuántos visitantes necesito para una prueba A/B?

Depende de la tasa actual y de la mejora más pequeña que quieres detectar. Cuanto menor la mejora, mayor la muestra: detectar la mitad del efecto exige unas cuatro veces más visitantes. Usa la pestaña de tamaño de muestra con tu tasa y tu MDE.

¿Qué significa un valor p menor que 0,05?

Significa que, si A y B convirtieran igual, verías una diferencia así de grande o mayor en menos del 5% de las pruebas. No es la probabilidad de que B sea mejor ni indica el tamaño de la mejora: para eso usa el intervalo de confianza.

¿Puedo parar la prueba en cuanto sea significativa?

No. Mirar el resultado cada día y parar en el primer valor p bajo infla mucho los falsos positivos. Define la muestra antes con la pestaña de tamaño de muestra y concluye solo cuando la alcances.

¿Qué son el MDE y la potencia estadística?

El MDE es el efecto mínimo detectable: la mejora más pequeña que justificaría adoptar la variante. La potencia es la probabilidad de que la prueba detecte esa mejora si existe; 80% es lo habitual. Más potencia o un MDE menor aumentan la muestra necesaria.

¿Prueba bilateral o unilateral?

Usa bilateral, salvo que solo importe una dirección y lo hayas decidido antes de ver los datos. La unilateral necesita menos muestra, pero no detecta que B empeoró.

Herramientas relacionadas