Pensamiento bayesiano para personas que odiaban las estadísticas

salón, martes por la mañana. El profesor destapa un marcador y escribe en la pizarra: P(A|B) = P(B|A) · P(A) / P(B). Tu mano copia la fórmula. Tu cerebro mira en algún lugar alrededor de la barra vertical.

Si ese recuerdo acaba de surgir, estás en buena compañía. Las investigaciones sugieren que hasta el 80% de los estudiantes universitarios experimentan algún tipo de ansiedad estadística. Para muchos, es el predictor más fuerte de la calificación de su curso (más fuerte que la capacidad matemática anterior, según un estudio de la Universidad de Kansas).

Esto es lo que la mayoría de los cursos de estadística nunca mencionan: has estado practicando el razonamiento bayesiano desde la infancia. La fórmula en la pizarra no te estaba enseñando nada nuevo. Era enterrar algo que ya entendías bajo un montón de anotaciones.

El problema que quebró al 82% de los médicos

Pruebe esto antes de seguir leyendo.

El uno por ciento de las mujeres de 40 años que participan en exámenes de detección de rutina tienen cáncer de mama. Una mamografía identifica correctamente el cáncer el 80% de las veces. También produce una falsa alarma el 9,6% de las veces, señalando un cáncer cuando no existe ninguno.

Una mujer obtiene una mamografía positiva. ¿Cuál es la probabilidad de que realmente tenga cáncer?

Tómate un momento.

En 1978, investigadores de la Facultad de Medicina de Harvard plantearon un problema similar de tasa base a 60 médicos y estudiantes de medicina. Sólo el 18% llegó a la respuesta correcta. Casi la mitad adivinó el 95%.

La respuesta real al problema de las mamografías: 7,8%.

El truco consiste en contar en lugar de calcular. Tomemos 10.000 mujeres:

100 tienen cáncer (es decir, el 1%) De esas 100, 80 dan positivo (80% de sensibilidad) De las 9.900 mujeres libres de cáncer, alrededor de 950 obtienen un falso positivo (9,6%)

Total de mamografías positivas: 80 + 950 = 1.030.

Mujeres que efectivamente tienen cáncer entre los positivos: 80.

Probabilidad: 80 ÷ 1.030 = 7,8%.

Los falsos positivos del grupo masivo de personas sanas inundan los verdaderos positivos del pequeño grupo de cáncer. Imagen del autor.

No se requieren letras griegas. Sólo contando.

En Python, son cuatro líneas:

anterior = 0.01 # 1% sensibilidad de tasa base = 0.80 # P(positivo | cáncer) false_pos = 0.096 # P(positivo | sin cáncer) posterior = (sensibilidad * anterior) / ( sensibilidad * anterior + false_pos * (1 – anterior) ) print(f"{posterior:.1%}") # 7.8%

El psicólogo alemán Gerd Gigerenzer pasó décadas estudiando exactamente este fracaso. Cuando él y Ulrich Hoffrage reescribieron problemas de probabilidad usando frecuencias naturales (contando personas reales en lugar de hacer malabarismos con porcentajes), las respuestas correctas entre los participantes ingenuos saltaron de un solo dígito a casi el 50%. Mismas matemáticas, diferente representación. El cuello de botella nunca fue la inteligencia. Fue el formato.

Has sido bayesiano toda tu vida

Haces este cálculo inconscientemente todos los días.

Tu amigo recomienda un restaurante. "El mejor pad thai de la ciudad", dice. Abres Google Maps: 4,2 estrellas, 1.200 reseñas. Su anterior (conoce la comida tailandesa, ha tenido razón antes) cumple con la evidencia (críticas sólidas pero no estelares de extraños). Su creencia actualizada: probablemente sea buena, vale la pena intentarlo. Anda tu.

Ese es el teorema de Bayes en tres segundos. Creencia previa + nueva evidencia = creencia actualizada.

Un ruido a las 3 de la madrugada. Tu anterior: el gato derribó algo (esto sucede dos veces por semana). La evidencia: suena como un cristal rompiéndose, no como un golpe suave. Tu trasero se mueve. Te levantas para comprobarlo. Si encuentras al gato parado junto a un jarrón roto, con los bigotes moviéndose, tu creencia se actualiza nuevamente. Previo confirmado. Vuelve a dormir.

Consultas la aplicación del tiempo: 40% de probabilidad de lluvia. Miras afuera a un cielo azul sin nubes en el horizonte. Tu modelo interno no está de acuerdo con la aplicación. Coges una chaqueta ligera pero dejas el paraguas.

Recibes un correo electrónico de tu director ejecutivo pidiéndote que compres tarjetas de regalo. Tu anterior: nunca antes había hecho una solicitud como esta. La evidencia: el correo electrónico proviene de una dirección de Gmail, la gramática no parece correcta, el tono es incorrecto. Su trasero: casi con certeza phishing. No haces clic.

Ninguno de estos parece una estadística. Se sienten como de sentido común. Ese es el punto.

La fórmula en la pizarra era simplemente una anotación de lo que hace el cerebro entre detectar un problema y tomar una decisión.

La brecha percibida entre “estadísticas” y “sentido común” es un artefacto de cómo se enseña la estadística. Comience con la fórmula y obtendrá confusión. Comience con la intuición y la fórmula se escribirá sola.

Por qué su curso de estadística fue al revés

Esta no es una crítica marginal. La propia institución estadística ha empezado a decirlo en voz alta.

En 2016, la Asociación Estadounidense de Estadística (ASA) publicó su primera guía formal sobre un método estadístico específico en 177 años de existencia. El objetivo: el mal uso del valor p. Entre los seis principios: los valores p no miden la probabilidad de que una hipótesis sea cierta y el umbral de significancia de 0,05 es "convencional y arbitrario".

Tres años más tarde, 854 científicos firmaron un comentario de Nature titulado “Los científicos se levantan contra la importancia estadística”. El mismo número de The American Statistician publicó 43 artículos sobre lo que viene después de p < 0,05.

Imagen del autor.

El problema estructural central, como lo describe el bioestadístico Frank Harrell de Vanderbilt: las estadísticas frecuentistas preguntan "¿qué tan extraños son mis datos, suponiendo que no esté sucediendo nada interesante?" Eso es P (datos | hipótesis). Lo que realmente quiere es: "dados estos datos, ¿qué probabilidad hay de mi hipótesis?" Eso es P (hipótesis | datos).

Estas no son la misma pregunta. Confundirlos es lo que el matemático Aubrey Clayton llama “la falacia de Bernoulli”, un error que atribuye a un error específico cometido por Jacob Bernoulli en el siglo XVIII y que se ha incluido en los planes de estudios desde entonces.

¿Hasta qué punto llega esta confusión? Un estudio de 2022 encontró que el 73% de los profesores de metodología estadística (no estudiantes, sino profesores) respaldaron la interpretación errónea más común de los valores p, tratándolos como P (hipótesis | datos).

"Los valores P condicionan lo que se desconoce y no condicionan lo que se sabe. Son probabilidades hacia atrás".

Frank Harrell, Universidad de Vanderbilt

El resultado posterior: una crisis de replicación. El Proyecto de Reproducibilidad intentó replicar 100 estudios de psicología publicados. Aproximadamente el 60% fracasó. Los efectos replicados fueron, en promedio, la mitad del tamaño informado originalmente. El P-hacking (ajustando el análisis hasta que aparezca p < 0,05) se identificó como el principal impulsor.

Bayes en cinco minutos, sin fórmulas

Todo cálculo bayesiano tiene exactamente tres ingredientes.

El Prior. Lo que creías antes de ver cualquier evidencia. En el problema de las mamografías, es la tasa base del 1%. En la decisión del restaurante, está el historial de tu amigo. Los antecedentes no son conjeturas; pueden incorporar décadas de datos. Son tu posición inicial.

La probabilidad. ¿Qué tan probable es la evidencia que observó, bajo cada estado posible de la realidad? Si hay cáncer, ¿qué probabilidad hay de que la prueba dé positivo? (80%.) Si está ausente, ¿qué probabilidad hay? (9,6%.) La proporción de estos dos números (80 ÷ 9,6 ≈ 8,3) es la proporción de verosimilitud. Mide la solidez diagnóstica de la evidencia: ¿en qué medida esta evidencia debería influir en su creencia?

La Posterior. Su creencia actualizada después de combinar la anterior con la evidencia. Esto es lo que te importa. En el caso de la mamografía: 7,8%.

Ese es todo el marco. Anterior × Probabilidad = Posterior (después de la normalización). La fórmula P(A|B) = P(B|A) · P(A) / P(B) es una abreviatura de "actualiza lo que creías en función de lo que acabas de aprender".

Una regla fundamental: un prior fuerte necesita pruebas sólidas para actuar. Si está 95% seguro de que su despliegue es estable y se activa una única alerta ruidosa, su trasero apenas se mueve. Pero si tres sistemas de monitoreo independientes señalan el mismo servicio a las 3 a.m., la evidencia abruma a la anterior. Tu creencia cambia rápidamente. Esta es la razón por la que los patrones importan más que los puntos de datos individuales, y por qué la acumulación de evidencia es más poderosa que cualquier prueba única.

El marco PRIOR: razonamiento bayesiano en acción

Aquí hay un proceso de cinco pasos que puede presentar en su escritorio el lunes por la mañana. No se requiere software estadístico.

P: Fija tu anterior

Antes de mirar cualquier dato, escriba lo que cree y por qué. Forzar un número. "Creo que hay un 60 % de posibilidades de que la caída de la conversión se deba al nuevo flujo de pago". Esto evita el anclaje a lo que los datos muestran primero.

Ejemplo resuelto: la prueba A/B de su equipo informa un aumento del 12 % en los registros. Antes de interpretar, pregunta: ¿cuál fue tu anterior? Si nueve de cada diez experimentos similares en su empresa produjeron aumentos inferiores al 5%, un resultado del 12% merece escrutinio, no celebración. Su anterior dice que los efectos importantes son raros aquí.

R: Califica la evidencia

Haga dos preguntas:

Si mi creencia es correcta, ¿qué probabilidad hay de que exista esta evidencia? Si mi creencia es errónea, ¿qué probabilidad hay de que exista esta evidencia?

La proporción importa más que cualquiera de los números por sí solos. Una proporción cercana a 1 significa que la evidencia es igualmente consistente con ambas explicaciones (es débil, apenas vale la pena actualizarla). Una proporción de 8:1 o superior significa que la evidencia favorece fuertemente a un lado. Mueva su creencia en consecuencia.

I: invertir la pregunta

Antes de concluir cualquier cosa, verifique: ¿estoy respondiendo la pregunta que me interesa? "¿Cuál es la probabilidad de ver estos datos si mi hipótesis fuera cierta?" no es "cuál es la probabilidad de que mi hipótesis sea cierta dados estos datos". El primero es un valor p. El segundo es lo que quieres. Confundirlos es el error estadístico más común en las investigaciones publicadas.

O: Muestra tu creencia actualizada

Combina antecedentes y pruebas. La evidencia sólida con un alto índice de probabilidad cambia sustancialmente su creencia. La evidencia ambigua apenas lo toca. Indique el resultado explícitamente: “Ahora estimo que hay un 35% de posibilidades de que este efecto sea real, en comparación con un 60%”.

No necesitas números exactos. Incluso las categorías aproximadas (improbable, plausible, probable, casi segura) superan al pensamiento binario (significativo versus no significativo).

R: Enjuagar y repetir

Tu trasero de hoy se convierte en el anterior de mañana. Ejecute un experimento de seguimiento. Verifique un corte de datos diferente. Cada pieza de evidencia refina el panorama. La disciplina: nunca desperdicies el conocimiento acumulado y comienza desde cero con cada nuevo conjunto de datos.

Imagen del autor.

De filtros de spam a submarinos hundidos

El razonamiento bayesiano no es sólo una herramienta de pensamiento. Se ejecuta en sistemas de producción que procesan miles de millones de decisiones.

Filtrado de spam. En agosto de 2002, Paul Graham publicó "Un plan para el spam", introduciendo la clasificación bayesiana para el correo electrónico. El sistema asignó a cada palabra una probabilidad de aparecer en spam frente a correo legítimo (la probabilidad), la combinó con la tasa base de spam (la anterior) y calculó una posterior para cada mensaje. El filtro de Graham detectó spam a una tasa del 99,5 % sin falsos positivos en su corpus personal. Todos los principales proveedores de correo electrónico utilizan ahora algún descendiente de este enfoque.

Ajuste de hiperparámetros. La optimización bayesiana ha reemplazado la búsqueda en red en empresas que realizan costosos trabajos de capacitación. En lugar de probar exhaustivamente cada combinación de configuraciones, crea un modelo probabilístico de qué configuraciones funcionarán bien (la anterior), evalúa el candidato más prometedor, observa el resultado y lo actualiza (posterior). Cada iteración hace una elección más inteligente. Para un modelo que requiere horas de entrenamiento, esto puede reducir el tiempo de ajuste de semanas a días.

Cuantificación de la incertidumbre. Los marcos de programación probabilística como PyMC y Stan crean modelos que generan distribuciones de probabilidad completas en lugar de números únicos. En lugar de "el coeficiente es 0,42", obtiene "el coeficiente cae entre 0,35 y 0,49 con un 95% de probabilidad". Este es un intervalo de credibilidad bayesiano. A diferencia de un intervalo de confianza frecuentista, en realidad significa lo que la mayoría de la gente piensa que significa un intervalo de confianza: hay un 95% de posibilidades de que el valor real esté en ese rango.

Pero la historia de éxito bayesiana más espectacular tiene que ver con un submarino nuclear en el fondo del Atlántico.

En mayo de 1968, el USS Scorpion no logró llegar a su puerto base en Norfolk, Virginia. Noventa y nueve hombres a bordo. La Armada sabía que el submarino estaba en algún lugar del Atlántico, pero el área de búsqueda abarcaba miles de kilómetros cuadrados de fondo oceánico profundo.

El matemático John Craven adoptó un enfoque diferente al de buscar redes en el océano. Reunió a expertos y les pidió que asignaran probabilidades a nueve escenarios de falla (implosión del casco, mal funcionamiento del torpedo, error de navegación). Dividió el área de búsqueda en cuadrículas y asignó a cada una una probabilidad previa basada en las estimaciones combinadas.

Entonces comenzó la búsqueda. Cada vez que un equipo limpiaba una cuadrícula y no encontraba nada, Craven actualizaba los posteriores. ¿Cuadrado vacío 47? La masa de probabilidad se desplazó a los cuadrados restantes. Cada búsqueda fallida no fue un esfuerzo en vano. Eran pruebas que reducían sistemáticamente las posibilidades.

Cada cuadrado de la cuadrícula que apareció vacío no fue un fracaso. Fueron datos.

El método ubicó al Scorpion a 220 metros de la ubicación prevista, en el fondo del océano a 10.000 pies. La misma técnica de búsqueda bayesiana localizó más tarde una bomba de hidrógeno perdida después de un accidente de B-52 en 1966 cerca de Palomares, España, y ayudó a encontrar los restos del vuelo 447 de Air France en las profundidades del Atlántico en 2011.

Volvamos al problema de la mamografía por un momento.

La razón por la que el 82% de los médicos se equivocó no fue la aritmética. Fue que nadie les enseñó a hacer la única pregunta que importa: ¿qué tan común es esta condición en la población que se está examinando?

Esa pregunta (la anterior) es el paso más descuidado en la interpretación de datos. Sáltelo y confundirá una falsa alarma con un diagnóstico, un experimento ruidoso con un efecto real, una coincidencia con un patrón.

Cada estadística que encuentre esta semana es el resultado de una mamografía. El titular que afirma que un medicamento "duplica el riesgo". La prueba A/B con p = 0,03. La revisión del desempeño se basa en un solo trimestre de datos.

Cada uno es evidencia. Ninguna es una conclusión.

La conclusión requiere lo que siempre has tenido: lo que sabías antes de ver el número. Tu profesor de estadística nunca te dio permiso para usarlo.

Referencias

Casscells, W., Schoenberger, A. y Graboy, TB (1978). “Interpretación por parte de los Médicos de los Resultados del Laboratorio Clínico”. Revista de Medicina de Nueva Inglaterra, 299(18), 999-1001. Gigerenzer, G. y Hoffrage, U. (1995). "Cómo mejorar el razonamiento bayesiano sin instrucción: formatos de frecuencia". Revisión psicológica, 102, 684-704. Asociación Estadounidense de Estadística (2016). "La Declaración de la ASA sobre importancia estadística y valores P". El estadístico americano, 70(2), 129-133. Amrhein, V., Groenlandia, S. y McShane, B. (2019). "Los científicos se levantan contra la importancia estadística". Naturaleza, 567, 305-307. Colaboración científica abierta (2015). "Estimación de la reproducibilidad de la ciencia psicológica". Ciencia, 349(6251), aac4716. Graham, P. (2002). "Un plan para el spam". Harrell, F. (2017). "Mi viaje de la estadística frecuentista a la estadística bayesiana". Pensamiento estadístico. Clayton, A. (2021). La falacia de Bernoulli: la ilógica estadística y la crisis de la ciencia moderna. Prensa de la Universidad de Columbia. Badenes-Ribera, L., et al. (2022). "Conceptos erróneos persistentes sobre los valores P entre los psicólogos académicos". PMC. Kalid Azad. "Una explicación intuitiva (y breve) del teorema de Bayes". Mejor explicado. Colaboradores de Wikipedia. "Teoría de la búsqueda bayesiana". Wikipedia.