# A/B Test Statistical Significance Calculator

Want to run an online A/B test? Calculate its significance with our Bayesian-powered calculator built for experimentation, CRO, and UX Optimization.

Número de visitantes
Número de conversiones
Control
Número de visitantes
Número de conversiones
Variation
Número de visitantes
Número de conversiones

0

### Significant?

Yes

El valor p es x.xx. Por tanto, tus resultados tienen significancia estadística.

## ¿Qué crees que significa?

Genial, entiendes qué es el valor p. Por desgracia, la mayoría de la gente no sabe interpretar correctamente los valores p. Es por ello que hemos creado VWO SmartStats, un motor estadístico bayesiano que acaba con la necesidad de los valores p.

Por desgracia, esto no es lo que significa realmente el valor p. No te preocupes, la mayoría de la gente no sabe interpretar correctamente los valores p. Es por ello que hemos creado VWO SmartStats, un motor estadístico bayesiano que acaba con la necesidad de los valores p.

Variations
Conversion Rate
Improvement
de ser mejor
Absolute
potential loss
Conversions/
Visitors
C Control Baseline
V Variation -
Uncertainty Overlap
Variations Conversion Rate
Improvement
Significance Value
Conversions/
Visitors
C Control Baseline -
V Variation -

P-Value

(Desde 0-1)

0.334

Significance

No

## What is statistical significance?

Statistical significance quantifies whether a result obtained is likely due to chance or some factor of interest. You can utilize a significance calculator to confidently evaluate and interpret your results. The data-driven approach empowers you to make informed decisions for optimization and ultimately achieve your desired outcomes.

## Different approaches to calculate statistical significance

The two commonly used approaches are Frequentist and Bayesian, which power different test statistics calculators. Here is a brief information on each.

#### Frequentist

Frequentist statistics involves examining the frequency of events. It looks at how often something happens in a given situation.

#### Bayesian

Bayesian statistics is all about changing your opinion. It starts with an initial belief called the prior, which comes from domain expertise. Then, you gather evidence to support or challenge that belief. After examining the evidence, your opinion should be updated based on the new information you’ve acquired.

## How do we calculate statistical significance?

Here is how you can calculate statistical significance using the Frequentist and Bayesian approaches.

### Frequentist approach

The Frequentist approach to statistical significance is based on the p-value. To determine the p-value using the Frequentist approach, you will need the following key pieces of information:

• The mean difference between the two hypotheses
• The standard deviation of the difference between the two hypotheses
• The sample size of each hypothesis

Once you have gathered this necessary data, you can easily compute the p-value using a significance testing tool or significance level calculator. If the p-value you get is 0.05, the probability of the variation is 5%.

### Bayesian Approach

In this, you do statistical significance calculation through posterior probability. The posterior probability considers the available data and represents the probability of hypothesis A or B being true. The approach takes into account both prior beliefs and the evidence observed in the data.

To calculate the posterior probability, Bayes' theorem is employed. Bayes' theorem is a mathematical formula that combines the prior probability of a hypothesis with the likelihood of the data to derive the updated or posterior probability.

A posterior probability of greater than 95% is considered to be strong evidence in favor of the hypothesis.

Know more about the mathematical formula for Frequentist and Bayesian approach in a whitepaper that we wrote on Bayesian A/B testing at VWO.

## ¿Por qué usamos estadística bayesiana?

### Informes de tests intuitivos

At VWO, we recognize that non-statistical users often misinterpret the frequentist p-value as a Bayesian posterior probability, which leads to incorrect conclusions about the superiority of one variation over another. To address this issue, we developed the industry's first Bayesian statistical engine.

Our Bayesian statistical engine provides users with easily understandable results, eliminating the risk of making mistakes while conducting A/B tests on revenue or other crucial key performance indicators (KPIs). By adopting a more intuitive approach, we ensure that our users obtain accurate insights from our A/B test statistical significance calculator.

With our solution, you can have confidence in the statistical significance of your results, making informed decisions to optimize your testing, revenue generation, and overall user experience. Say goodbye to misinterpretations and embrace the power of the Bayesian A/B test calculator for reliable and actionable A/B testing outcomes.

### No se requiere el ajuste del tamaño de las muestras

VWO SmartStats se basa en la inferencia bayesiana que, a diferencia del enfoque frecuentista, no necesita un tamaño de muestra mínimo. Esto te permite ejecutar tests A/B en partes de tu sitio web o aplicaciones que es posible que no reciban mucho tráfico para poder mejorarlas. Sin embargo, lograr más tráfico para tus pruebas permite a VWO determinar tus tasas de conversión con mayor precisión, de forma que podrás tener una mayor confianza en los resultados de estas.

VWO SmartStats se ha diseñado con una métrica clave en mente: la velocidad. Hemos sacrificado algo de precisión en favor de la velocidad; no mucha, solo un poco de precisión, lo suficiente para obtener resultados más rápidos sin afectar a los beneficios. Esto te ahorra tiempo y te permite realizar más tests. Además, si necesitas certeza absoluta, calculamos la pérdida potencial máxima que tendrías y podrás decidir si los valores de pérdidas se adecuan a los riesgos que quieres asumir.

### Preguntas frecuentes

La hipótesis nula establece que no existe diferencia entre el control y la variación. Esto significa que la tasa de conversión de la variación será similar a la tasa de conversión del control.

El valor p se define como la probabilidad de obtener resultados al menos tan extremos como los observados, teniendo en cuenta que la hipótesis nula es correcta (siendo la hipótesis nula en A/B testing la idea de que la variación y el control son lo mismo).

La significancia estadística cuantifica si un resultado obtenido se debe probablemente al azar o es fruto de un factor relevante. Cuando se establece que un descubrimiento es estadísticamente significativo, esto quiere decir que puedes tener la certeza de que la diferencia es real, y no que simplemente tuviste suerte (o mala suerte) a la hora de escoger la muestra.

El poder estadístico es la probabilidad de detectar un efecto cuando dicho efecto es real. Por lo tanto, un poder estadístico del 80 % significa que de 100 tests en los que las variaciones son diferentes, hay 20 en los que las variaciones son lo mismo y, como consecuencia, no existe efecto.

## A/B testing rápido y simple. Prueba VWO gratis hoy mismo.

Esta es la tasa de conversión media que puedes esperar de la variación. Las tasas de conversión "mejor" y "peor" representan el intervalo fiable del 99 % en el que es probable que se encuentre la tasa de conversión.
Esta es la mejora media que puedes esperar sobre la base si implementas la variación. Los valores "mejor" y "peor" representan el intervalo fiable del 99 % en el que es probable que se encuentre la mejora.
La probabilidad de que una variación tenga un mejor rendimiento que el resto de variaciones, incluido el control.
La proporción del número de conversiones con respecto al número total de visitantes.
En el área en la que haya un solapamiento entre variaciones, no tenemos claro qué variación funciona mejor. Si en la variación con mejor rendimiento hay mucha incertidumbre, te recomendamos encarecidamente que ejecutes el test durante más tiempo.
En cuánto se podría mejorar la tasa de conversión. Si tu pérdida potencial absoluta es del 2 % y la tasa de conversión esperada es del 10 %, significa que tienes la oportunidad de mejorar la tasa de conversión y aumentarla hasta el 12 %.
Indica la confianza que tienes en que una variación tenga un mejor rendimiento que el control. Cuanto mayor sea el nivel de significancia, mayor será la posibilidad de que las variaciones tengan un mejor rendimiento que el control (la versión original). Por ejemplo, una probabilidad del 95 % de superar al control implica que tienes un nivel de confianza del 95 % en que la variación tendrá una mejor conversión que el control. Sin embargo, debes tener en cuenta que sigue habiendo una probabilidad del 5 % de que la variación no tenga los resultados que esperabas. Hay varios factores que pueden influir en el nivel de significancia de una variación, incluida la duración de la prueba, el número de visitantes implicados, etc.