Calculadora de prueba A/B: significancia y tamaño de muestra
Descubre si la diferencia entre A y B es real o suerte, con valor p e intervalo de confianza, y calcula cuántos visitantes necesita la prueba.
Tus datos no salen de tu navegador
Prueba A/B
Resultado
- Tasa de conversión A
- 5,00%
- Tasa de conversión B
- 6,20%
- Diferencia (B − A)
- +1,20%
- Mejora relativa de B
- +24,00%
- Estadístico z
- 2,610
- Valor p
- 0,0091
- Intervalo de confianza de la diferencia (95%)
- +0,30% … +2,10%
Resultado
- Visitantes por versión
- 8158
- Total de visitantes
- 16.316
- Tasa esperada de la variante
- 6,00%
- Duración estimada
- 17
Calculado para detectar el MDE con la potencia elegida. Si la mejora real es menor que el MDE, la muestra no alcanza.
Cómo saber si tu prueba A/B tiene ganador
Una prueba A/B compara dos versiones de una página, un anuncio o un correo para saber cuál convierte más. El riesgo es declarar un ganador demasiado pronto: con pocos visitantes, una diferencia de uno o dos puntos puede ser puro azar. Esta herramienta responde las dos preguntas que importan: si la diferencia que viste es real y cuántos visitantes necesitas para ver la diferencia que buscas.
Todo se calcula en tu navegador. Los números que escribes no se envían a ningún sitio.
- Indica visitantes y conversiones de A y de B. Usa los totales de todo el período de la prueba. La conversión es la acción que mides: una compra, un registro, un clic en el botón.
- Elige el nivel de confianza. 95% es el estándar del mercado: acepta 1 posibilidad en 20 de ver una diferencia que en realidad no existe.
- Elige bilateral o unilateral. Bilateral pregunta si hay diferencia en cualquier dirección y es lo más seguro. Unilateral solo pregunta si B es mejor y debe decidirse antes de mirar los datos.
- Lee el valor p y el intervalo. Si el valor p es menor que 1 menos la confianza (0,05 para 95%), la diferencia es significativa. El intervalo muestra el tamaño probable de la mejora; si incluye cero, el resultado no es concluyente.
- Planifica la próxima prueba en la pestaña de muestra. Indica la tasa actual, la mejora más pequeña que valdría la pena detectar (MDE) y la potencia. La herramienta devuelve cuántos visitantes necesita cada versión.
Todo se calcula aquí, en tu navegador. Nada de lo que escribes se envía a ningún servidor y no usamos cookies de terceros.
Cómo funciona el cálculo
La significancia usa la prueba z de dos proporciones. Suponiendo que A y B convierten igual, se estima una única tasa agrupada y se mide la distancia entre las dos tasas en errores estándar. El valor p es la probabilidad de ver una distancia al menos así de grande solo por azar.
El intervalo de confianza de la diferencia usa el error estándar sin agrupar, la misma convención del comando prtesti de Stata. La normal estándar se calcula con la función de error, sin tablas aproximadas.
El tamaño de muestra usa la fórmula clásica de Fleiss para dos proporciones, la misma de Stata (power twoproportions). Comprobado con el manual de Stata: tasas de 0,001 y 0,015 con 80% de potencia y 5% bilateral piden 635 visitantes por grupo.
- Tasas
pA = conversiones A ÷ visitantes A; pB = conversiones B ÷ visitantes B - Tasa agrupada
p = (conversiones A + conversiones B) ÷ (visitantes A + visitantes B) - Estadístico z
z = (pB − pA) ÷ √( p × (1 − p) × (1/nA + 1/nB) ) - Valor p bilateral
2 × P(Z ≥ |z|), con Z normal estándar - Intervalo de confianza
(pB − pA) ± zc × √( pA(1−pA)/nA + pB(1−pB)/nB ) - Muestra por grupo
n = ( zα × √(2 p̄ (1−p̄)) + zβ × √(p1(1−p1) + p2(1−p2)) )² ÷ (p2 − p1)²
Ejemplos
Diferencia significativa
A: 250 conversiones de 5.000 visitantes (5,00%). B: 310 de 5.000 (6,20%). La diferencia es de +1,20 puntos porcentuales, z = 2,61 y valor p = 0,0091. Con 95% de confianza, B ganó; la mejora probable está entre unos +0,3 y +2,1 puntos.
Parece mejor, pero es azar
A: 20 conversiones de 400 (5,00%). B: 26 de 400 (6,50%). B parece 30% mejor, pero el valor p es de aproximadamente 0,36. El intervalo incluye cero y la prueba no es concluyente: sigue reuniendo datos.
¿Cuánto tráfico necesito?
Con una tasa actual de 5% y el objetivo de detectar una mejora relativa de 20% (de 5% a 6%), con 95% de confianza y 80% de potencia, se necesitan unos 8.160 visitantes por versión, 16.320 en total. Con 1.000 visitantes al día, la prueba dura 17 días.
Preguntas frecuentes
¿Qué es la significancia estadística en una prueba A/B?
Es la evidencia de que la diferencia entre A y B no es azar. Con 95% de confianza solo se declara ganador cuando el valor p es menor que 0,05, es decir, cuando una diferencia tan grande ocurriría por suerte menos del 5% de las veces si las versiones fueran iguales.
¿Cuántos visitantes necesito para una prueba A/B?
Depende de la tasa actual y de la mejora más pequeña que quieres detectar. Cuanto menor la mejora, mayor la muestra: detectar la mitad del efecto exige unas cuatro veces más visitantes. Usa la pestaña de tamaño de muestra con tu tasa y tu MDE.
¿Qué significa un valor p menor que 0,05?
Significa que, si A y B convirtieran igual, verías una diferencia así de grande o mayor en menos del 5% de las pruebas. No es la probabilidad de que B sea mejor ni indica el tamaño de la mejora: para eso usa el intervalo de confianza.
¿Puedo parar la prueba en cuanto sea significativa?
No. Mirar el resultado cada día y parar en el primer valor p bajo infla mucho los falsos positivos. Define la muestra antes con la pestaña de tamaño de muestra y concluye solo cuando la alcances.
¿Qué son el MDE y la potencia estadística?
El MDE es el efecto mínimo detectable: la mejora más pequeña que justificaría adoptar la variante. La potencia es la probabilidad de que la prueba detecte esa mejora si existe; 80% es lo habitual. Más potencia o un MDE menor aumentan la muestra necesaria.
¿Prueba bilateral o unilateral?
Usa bilateral, salvo que solo importe una dirección y lo hayas decidido antes de ver los datos. La unilateral necesita menos muestra, pero no detecta que B empeoró.
Herramientas relacionadas
Calculadora de ROAS
Descubre si la campaña deja ganancia: ROAS, ROAS mínimo para empatar, margen de contribución y ganancia después de la inversión.
Calculadora de ROASCalculadora de CPA máximo y LTV
Descubre cuánto puedes pagar por cliente: CPA máximo de equilibrio, CPA para la razón LTV/CAC deseada, ganancia por cliente y payback.
Calculadora de CPA máximo y LTVPlanificador de presupuesto por embudo
De la meta de ventas al presupuesto: cuántos leads y clics necesitas y cuánto invertir en anuncios, con escenarios y redondeo siempre hacia arriba.
Planificador de presupuesto por embudoGenerador de UTM
Arma enlaces de campaña siempre con el mismo patrón y genera cientos a la vez pegando una lista o un CSV.
Generador de UTM