8.1 Ética en el manejo de datos | Probabilidad y Estadística

El Poder de los Datos

En la era de los macrodatos, los matemáticos y analistas no solo manejan números, manejan vidas. Un modelo de triangulación mal utilizado puede vulnerar la privacidad, y una estadística sesgada puede excluir a comunidades enteras de servicios básicos.

Para empezar

«Tus datos se guardan de forma anónima»

Cada vez que llenas un formulario del colegio, instalas una app o pagas con el celular, dejas datos: tu edad, tu barrio, tu cumpleaños, tus notas. Muchas veces te dicen que se guardan «de forma anónima», sin tu nombre. Pero en Estados Unidos, el código postal, el sexo y la fecha de nacimiento bastan para reconocer a cerca del 87% de las personas (Latanya Sweeney, «Simple Demographics Often Identify People Uniquely», 2000). En Colombia, esos datos los protege la Ley 1581 de 2012. En esta lección vas a medir por qué hace falta.

Momento animado

Sin nombre, igual te reconocen

Dale a Reproducir: cada dato que alguien sabe de ti deja menos compañeros en tu casilla.

Tú
Comparten tu casilla

Datos conocidosninguno

Etapas

Etapa 1 de 4 · El colegio

Un colegio de 1.200 estudiantes publica una tabla «anónima», sin nombres: grado, sexo y fecha de cumpleaños de cada uno, junto con la nota de una prueba (datos simulados). ¿Te pueden reconocer? Tú eres el punto rojo.

Comparten tu casilla

—

ningún dato

Quedan solos

—

1. La Geometría de la Privacidad

Cuando recolectamos coordenadas geográficas $P(x, y)$ , la precisión absoluta es el enemigo de la privacidad. Para proteger a los individuos, aplicamos técnicas de K-Anonimidad y Privacidad Diferencial.

Ofuscación Espacial

En lugar de reportar el punto exacto, reportamos un área circular de incertidumbre:

A = \pi \cdot r^2

Donde $r$ es el radio de anonimización. A mayor $r$ , mayor privacidad, pero menor utilidad del dato.

El Riesgo de Re-identificación

Incluso con datos anónimos, la intersección de conjuntos puede revelar identidades. Si conocemos que una persona está en la intersección de tres círculos (triangulación):

(x - h)^2 + (y - k)^2 \leq r^2

Ejercicios de Práctica

1.1

Un algoritmo de salud pública reporta casos de gripe en un radio de $r = 2 \, \text{km}$ . Si la densidad de población es de $50 \, \text{personas/km}^2$ , ¿cuántas personas hay en promedio en el área de anonimización?

1.2

Si un atacante conoce dos círculos de ubicación de un usuario, ¿en qué tipo de lugar geométrico (punto, recta, área) se reduce la búsqueda del individuo?

2. Integridad y Sesgo Algorítmico

Un modelo matemático es una simplificación de la realidad. La ética exige que esta simplificación no sea tendenciosa. El sesgo de selección ocurre cuando los datos de entrenamiento no representan a toda la población.

Privacidad Diferencial: Datos Reales vs. Anonimizados

La línea punteada representa cómo se "ensucian" los datos matemáticamente para proteger la identidad individual sin perder la tendencia general.

Manipulación de Funciones

En una función periódica, ajustar $y = A \sin(Bx + C) + D$ a datos climáticos ignorando los valores atípicos (outliers) puede ocultar crisis ambientales inminentes.

\text{Distorsión} = \int_{a}^{b} |f_{\text{real}}(x) - f_{\text{sesgada}}(x)| \, dx

Ejercicios de Práctica

2.1

Un analista decide eliminar el $5\%$ de los datos más bajos en un estudio de ingresos para que la "Media" se vea más alta. ¿Cómo afecta esto a la Mediana y qué principio ético viola?

2.2

Se modela el crecimiento de una deuda usando $f(t) = e^{rt}$ . Si el analista redondea $r$ de $0{,}074$ a $0{,}08$ "para simplificar", ¿es una acción éticamente neutra? Justifica.

Ejemplo resuelto

¿Cuántos comparten tu casilla?

En el colegio del momento hay 1.200 estudiantes, 6 grados, 2 sexos y 365 días posibles de cumpleaños. Calcula cuántos estudiantes caen en promedio en cada casilla según los datos que se publiquen, y cuántos quedan solos con los tres datos.

1
Grado y sexo
6 · 2 = 12 casillas. En promedio, 1.200/12 = 100 estudiantes por casilla.
2
Más el mes
12 · 12 = 144 casillas: unos 1.200/144 ≈ 8,3 estudiantes por casilla.
3
Más el día
12 · 365 = 4.380 casillas, más que estudiantes: en promedio 1.200/4.380 ≈ 0,27 por casilla.
4
Cuántos quedan solos
Para cada estudiante, la probabilidad de que nadie más caiga en su casilla es (1 − 1/4.380) elevado a 1.199, unos 0,76.
$\begin{aligned} &1\,200 \cdot \left(1 - \tfrac{1}{4\,380}\right)^{1\,199} \\ &\approx 913 \end{aligned}$

En la simulación del momento quedaron solos 918, muy cerca de los 913 que da la fórmula.

1. Casillas de una tabla «anónima»

Un archivo sin nombres trae el grado (6 opciones), el sexo (2) y el mes de cumpleaños (12) de 1.200 estudiantes. ¿Cuántas casillas distintas hay y cuántos estudiantes caen, en promedio, en cada una?

2. ¿Cumple k-anonimato?

Una tabla tiene 5-anonimato si cada combinación de datos se repite al menos 5 veces. En el colegio del momento, con grado, sexo y día de cumpleaños, ¿se cumple?

3. Las estrellas de una app

Una app de domicilios dice que su servicio tiene 4,8 estrellas de 5, según las reseñas que dejan los usuarios. ¿Qué problema estadístico tiene esa cifra?

4. Recortar los datos que no gustan

Un analista elimina el 5% de ingresos más bajos de un estudio para que el promedio se vea más alto. ¿Qué pasa con la media y la mediana?

5. Un redondeo que no es inocente

Se proyecta una deuda con $f(t) = e^{rt}$ . Si se redondea la tasa de 0,074 a 0,08 «para simplificar», ¿cuánto cambia la deuda proyectada a 30 años?

Marco Legal: Habeas Data (Ley 1581 de 2012)

Transparencia

La persona tiene derecho a saber qué datos suyos se guardan y para qué se usan.

Finalidad

Los datos recolectados para un fin (ej. salud) no pueden usarse para otro sin permiso.

Rectificación

Si un modelo predictivo tiene datos erróneos, la persona tiene derecho a corregirlos.

Desafío ético tipo PISA

El Algoritmo de Préstamo "Justo"

"Un banco utiliza un modelo de regresión para decidir quién recibe un préstamo. El modelo utiliza la variable $Z$ (Código Postal) como indicador. Se descubre que rechaza al $85\%$ de solicitantes de barrios pobres, incluso con finanzas excelentes. El banco dice: 'las matemáticas no mienten'."

Evaluación Crítica

¿Es el uso del Código Postal (Z) una forma de sesgo indirecto?

Explica cómo esto viola el principio de equidad algorítmica.

Si el banco anonimiza los nombres pero mantiene el Código Postal, ¿es ético?

Analiza el riesgo de re-identificación espacial.

Propón una modificación al modelo para incluir 'Impacto Social'.

Busca un equilibrio entre rentabilidad y justicia social.

Ver respuestas (ejercicios y desafío)

1.1 El área es $\pi \cdot 2^2 = 4\pi \approx 12{,}57\,\text{km}^2$ ; con 50 personas por km² hay unas $50 \cdot 12{,}57 \approx 628$ personas.

1.2 A la región que comparten los dos círculos (una zona con forma de lente); si los círculos apenas se tocan, a un solo punto. Un tercer círculo suele dejarla en un punto: por eso cruzar datos de ubicación es peligroso.

2.1 Al quitar el 5% más bajo suben la media y también la mediana, porque se recorta solo un extremo. Se viola la integridad: se manipulan los datos para que digan lo que conviene.

2.2 No es neutra. Las curvas se separan con el tiempo: a 30 años, $e^{0{,}08 \cdot 30} / e^{0{,}074 \cdot 30} = e^{0{,}18} \approx 1{,}2$ , así que la deuda proyectada sale cerca de un 20% más alta.

A) Sí. El código postal puede funcionar como sustituto de la condición socioeconómica: el modelo discrimina sin nombrarla.

B) No basta. El código postal, cruzado con otros datos (edad, ocupación), puede permitir reidentificar a las personas, y además el sesgo sigue ahí.

C) Hay varias respuestas válidas; por ejemplo, quitar el código postal, revisar la tasa de aprobación por barrio y exigir que solicitantes con finanzas parecidas tengan probabilidades parecidas de recibir el préstamo.