Minority Report: El Teorema de Bayes

En la película Minority Report (2002), el jefe de policía John Anderton (Tom Cruise) dirige "PreCrimen", una unidad de élite en el Washington D.C. del año 2054. Su sistema es en apariencia infalible: utilizan a tres mutantes clarividentes (los Precogs) para predecir asesinatos antes de que ocurran y arrestar a los culpables de forma anticipada. La premisa sobre la que se sostiene toda esta estructura judicial es ciega: "Los Precogs nunca se equivocan".

Sin embargo, a lo largo de la trama descubrimos que el sistema tiene fisuras, que existen los "informes minoritarios" (discrepancias entre las visiones) y que detener a alguien por un crimen futuro encierra un dilema ético colosal.

Si hoy tuviéramos un algoritmo predictivo con una precisión del 99%, ¿sería justo usarlo para meter a la gente en la cárcel? La estadística tiene una respuesta demoledora a esta pregunta, y se conoce como la Falacia de la Tasa Base (o paradoja del falso positivo), explicada mediante el Teorema de Bayes.

En el mundo del análisis de datos o el Machine Learning, ningún modelo predictivo es mágico. Todo sistema tiene dos tipos de errores fundamentales:

• Falso Negativo (Error Tipo II): El sistema dice que no vas a cometer un crimen, pero sí lo haces.

• Falso Positivo (Error Tipo I): El sistema dice que vas a matar a alguien, pero en realidad eres inocente.

Para calcular la probabilidad real de que una persona arrestada por el algoritmo sea verdaderamente culpable, utilizamos la siguiente fórmula del Teorema de Bayes:

$$P(A|B)=\frac{P(B|A)\cdot P(A)}{P(B|A)\cdot P(A)+P(B|\text{no }A)\cdot P(\text{no }A)}$$

Donde:

• $A$ = El evento "Cometer un asesinato".

• $B$ = El evento "El algoritmo te señala como culpable".

La trampa estadística de PreCrimen

Hagamos un ejercicio matemático. Imaginemos que el algoritmo de PreCrimen es una inteligencia artificial increíblemente avanzada, con una fiabilidad del 99%. Es decir, acierta el 99% de las veces que alguien es culpable ($P(B|A)=0.99$) y solo se equivoca un 1% de las veces acusando a inocentes ($P(B|\text{no }A)=0.01$).

Supongamos que Washington D.C. tiene una población de 500,000 habitantes y, afortunadamente, los asesinatos son raros: estadísticamente, solo 50 personas cometerán un asesinato este año. Esto nos da nuestra "tasa base" o probabilidad previa de que un ciudadano al azar sea un asesino ($P(A)=0.0001$).

Un día, las alarmas suenan y el sistema te señala a ti. La policía irrumpe por la ventana y te arresta. Si el sistema tiene un 99% de precisión, pensarás que tienes un 99% de probabilidades de acabar en prisión, ¿verdad?

Apliquemos el Teorema de Bayes:

$$P(A|B)=\frac{0.99\cdot 0.0001}{(0.99\cdot 0.0001)+(0.01\cdot 0.9999)}$$

$$P(A|B)=\frac{0.000099}{0.000099+0.009999}$$

$$P(A|B)=\frac{0.000099}{0.010098}\approx 0.0098$$

El resultado es $0.0098$, o lo que es lo mismo: un 0.98%.

¡Sorpresa! A pesar de que el algoritmo tiene un 99% de precisión técnica, debido a que el crimen es un evento estadísticamente raro en el total de la población (la Tasa Base), el número de falsos positivos inunda por completo el sistema. Si la policía te arresta basándose únicamente en esta IA, hay más de un 99% de probabilidades de que seas completamente inocente.

De la ciencia ficción a la Justicia Algorítmica (ODS 16)

Esta pesadilla matemática está intrínsecamente ligada al ODS 16 (Paz, Justicia e Instituciones Sólidas). Este objetivo nos insta a promover el estado de derecho y garantizar la igualdad de acceso a la justicia para todos.