• Regresión logística: interpretable, produce probabilidades
• Árboles de decisión: intuitivos pero sobreajustan
• Random Forest: combina muchos árboles para mejor predicción
• Predicción vs. explicación: dos objetivos diferentes en ciencias sociales
• Regularización: LASSO selecciona variables, Ridge reduce coeficientes
• tidymodels permite comparar modelos con la misma sintaxis

Primera parte: clustering

• ¿Qué es el aprendizaje no supervisado?
• K-means: algoritmo y limitaciones
• Elegir K: método del codo y silueta
• Ejemplo práctico en R
• Clustering jerárquico y comparación

Segunda parte: PCA

• Reducción de dimensionalidad: PCA
• ¿Cuántos componentes conservar?
• Interpretación de loadings y biplot
• Aplicaciones en ciencias sociales

• En aprendizaje supervisado teníamos respuestas correctas (etiquetas). ¡Acá no las hay!
• El modelo descubre patrones ocultos por sí mismo
• ¿Por qué usarlo?
  • Las etiquetas son costosas o no existen (“¿cuántos tipos de votantes hay?”)
  • Sirve para explorar los datos antes de modelar
• Dos técnicas centrales:
  • Clustering: agrupar observaciones similares
  • Reducción de dimensionalidad: simplificar datos con muchas variables

• El usuario elige K de antemano. No existe un K “correcto” universal
• Métodos para orientarse:
  • Método del codo: graficar la suma de distancias internas y buscar dónde se estabiliza la mejora
  • Silueta: qué tan bien cada punto encaja en su cluster (cerca de 1 es bueno)
  • Conocimiento del dominio: ¿cuántos grupos tienen sentido teóricamente?
• En ciencias sociales, el contexto teórico suele pesar más que las métricas
• Ejemplo: ¿cuántos “tipos” de regímenes políticos hay? ¿3? ¿5? ¿7? Depende de la teoría

Supuestos que hace

• Los clusters son esféricos y de tamaño similar (bolas alrededor de cada centroide, no alargadas ni curvas)
• Cada punto pertenece a un solo cluster
• Sensible a la escala de las variables (siempre normalizar antes)
• Sensible a los valores iniciales (ejecutar varias veces)

Aplicaciones en ciencias sociales

• Segmentación de países: agrupar países por indicadores de desarrollo
• Tipología de votantes: identificar perfiles electorales
• Clasificación de municipios: agrupar por características socioeconómicas
• Análisis de encuestas: encontrar grupos de respuesta similares

• El coeficiente de silueta mide qué tan bien cada observación encaja en su cluster
• Para cada punto \(i\):
  • \(a(i)\) = distancia promedio a otros puntos del mismo cluster
  • \(b(i)\) = distancia promedio al cluster más cercano diferente

\[s(i) = \frac{b(i) - a(i)}{\max(a(i), b(i))}\]

• El numerador \(b(i) - a(i)\) es la brecha entre separación (\(b\)) y cohesión (\(a\)): positivo y grande = bien ubicado; negativo = más cerca de otro cluster
• El denominador \(\max(a, b)\) normaliza esa brecha: mantiene \(s(i)\) en \([-1, +1]\) e independiente de la escala de las distancias
• Valores de \(s(i)\): cerca de +1 (bien clasificado), 0 (en el borde) o -1 (cluster equivocado)
• Promediando \(s(i)\) sobre todos los puntos obtenemos una medida de calidad para elegir K: el K con mayor silueta indica clusters mejor definidos

Variables (sin unidades; las escalamos antes de agrupar):

• pib: producto interno bruto per cápita
• educ: años promedio de escolaridad
• internet: acceso a internet
• desigualdad: índice tipo Gini
• grupo_real: grupo verdadero, para verificar si K-means lo recupera

Desigualdad no es monótona: alta en países de ingreso medio, baja en los extremos. Refleja patrones reales en América Latina

• Clustering jerárquico: crea una jerarquía de clusters anidados
• No requiere especificar K de antemano
• Dos enfoques:
  • Aglomerativo (bottom-up): empieza con cada punto como cluster y fusiona los más cercanos
  • Divisivo (top-down): empieza con todos los puntos juntos y los va dividiendo
• El resultado se visualiza como un dendrograma
• El usuario “corta” el dendrograma al nivel deseado para leer una agrupación en K clusters (el árbol ya las contiene todas)
• Tomamos 3 países de cada grupo de los datos simulados para ilustrar:

• PCA (Principal Component Analysis / Análisis de Componentes Principales)
• Problema: tenemos muchas variables y queremos simplificar
• PCA busca las direcciones de máxima variación en los datos
• Crea nuevas variables (componentes principales) que son combinaciones lineales de las originales
• Primer componente: la dirección con más varianza
• Segundo componente: la siguiente dirección con más varianza, perpendicular al primero
• Y así sucesivamente
• Permite visualizar datos de alta dimensión en 2D o 3D

• Visualización: reducir 8 variables a 2 dimensiones para graficar
• Construcción de índices: combinar muchos indicadores en uno
  • El IDH (esperanza de vida + educación + ingreso) sigue la misma idea, aunque usa una media geométrica
• Preprocesamiento: simplificar antes de aplicar K-means o regresión
• Detección de patrones: ver qué variables “van juntas”
  • Si PIB, educación e internet cargan juntas en PC1, lo leemos como “eje de desarrollo”

Idea intuitiva: cada componente es una receta que combina las variables originales. Los loadings son la cantidad de cada ingrediente

• Grande (cerca de ±1): la variable pesa mucho
• Cerca de cero: la variable casi no aparece
• Mismo signo dentro de un PC: las variables suben y bajan juntas
• Signos opuestos: van en direcciones contrarias
• El signo global del PC es arbitrario: si lo invertimos, el resultado es equivalente

R> # Loadings (matriz de rotación)
R> round(pca$rotation, 2)

              PC1   PC2   PC3   PC4
pib         -0.58  0.02  0.04  0.81
educ        -0.57 -0.01  0.68 -0.45
internet    -0.57  0.12 -0.72 -0.38
desigualdad -0.07 -0.99 -0.09 -0.02

R> # Varianza explicada
R> summary(pca)$importance |> round(2)

                        PC1  PC2  PC3  PC4
Standard deviation     1.67 1.00 0.37 0.29
Proportion of Variance 0.70 0.25 0.03 0.02
Cumulative Proportion  0.70 0.95 0.98 1.00

• PC1: PIB, educación e internet pesan casi igual (~-0.57 cada uno); desigualdad casi no pesa. PC1 resume el desarrollo general del país
• PC2: desigualdad pesa casi todo (-0.99) y las demás casi nada. PC2 captura solo la desigualdad
• Entre PC1 y PC2 explican el 95% de la varianza
• PC3 y PC4 son lo que sobra, y con ~5% de la varianza entre ambos, no conviene buscarles nombre. El nombre de un componente lo pone la teoría, no el algoritmo

Ventajas

• Reduce la dimensionalidad preservando la mayor varianza posible
• Ayuda a visualizar datos complejos
• Puede revelar estructura latente
• Los componentes son no correlacionados entre sí (ortogonales, es decir, su correlación es cero)
• No necesita etiquetas

Limitaciones

• Solo captura relaciones lineales
• Los componentes son difíciles de interpretar (son combinaciones de muchas variables)
• Sensible a la escala: siempre normalizar antes
• No es un modelo causal: no dice por qué las variables están correlacionadas
• ¿Cuántos componentes conservar? Regla general: los que explican ~70-80% de la varianza

Dónde se usan estas técnicas:

• Tipologías de países por indicadores de desarrollo, gobernanza e institucionalidad
• Mapas ideológicos de partidos y legisladores
• Segmentación de votantes a partir de encuestas (Latinobarómetro, LAPOP)
• Índices compuestos (desarrollo humano, capital social, calidad institucional)
• Preprocesamiento antes de una regresión con variables correlacionadas
• Agrupación de respuestas abiertas en encuestas grandes

Lecturas recomendadas:

• Hotelling, H. (1933). “Analysis of a complex of statistical variables into principal components.” Journal of Educational Psychology, 24(6)
• Ahlquist, J. S. & Breunig, C. (2012). “Model-based clustering and typologies in the social sciences.” Political Analysis, 20(1)
• Jolliffe, I. T. & Cadima, J. (2016). “Principal component analysis: a review and recent developments.” Phil. Trans. R. Soc. A, 374
• Grimmer, J., Roberts, M. E. & Stewart, B. M. (2022). Text as Data. Princeton University Press

PCA

• No asume un modelo: busca ejes que explican varianza
• Los componentes son sumas ponderadas de las variables observadas
• Cada PC intenta captar la máxima varianza posible, sin separar “error”
• Pregunta: ¿cómo resumo estos datos?

Análisis factorial

• Asume un modelo: variables observadas = factores latentes + error
• Los factores son causas hipotéticas que generan las correlaciones
• Estima por separado la varianza común y la específica de cada variable
• Pregunta: ¿qué constructos latentes explican estas variables?

Clustering:

• K-means: rápido, asume clusters esféricos, requiere elegir K
• Jerárquico: produce dendrograma, no requiere K de antemano
• Silueta: mide calidad de los clusters
• Escalar siempre antes de aplicar
• Recomendación: DBSCAN y HDBSCAN manejan clusters no esféricos

PCA:

• Reduce dimensionalidad preservando varianza
• Los loadings indican qué variables contribuyen a cada componente
• Scree plot ayuda a elegir cuántos componentes conservar
• Biplot visualiza observaciones y variables juntas
• Recomendación: t-SNE y UMAP son alternativas no lineales para visualización

1. Perfiles por cluster: calcular la media de cada variable dentro de cada grupo

R> datos |>
+   mutate(cluster = km$cluster) |>
+   group_by(cluster) |>
+   summarise(across(where(is.numeric),
+                    \(x) round(mean(x), 2)))

# A tibble: 3 × 5
  cluster   pib  educ internet desigualdad
    <int> <dbl> <dbl>    <dbl>       <dbl>
1       1  2.51  2.48     2.72       -0.84
2       2 -2.52 -2.7     -2.55       -0.97
3       3 -0.08  0       -0.31        2.29

2. Validación externa: cruzar con variables no usadas en el clustering (región, partido, año). Si los grupos separan esas variables, tienen evidencia de estructura real

3. Nombrar los clusters: etiquetas sustantivas (“alto desarrollo”, “ingreso medio”, “bajo desarrollo”) en lugar de “1, 2, 3”

4. Cuidado con la reificación: los clusters no son categorías naturales. Dependen de K y de las variables elegidas

Evaluar vs. predecir

Tres funciones, tres salidas

• predict(ajuste, caso) devuelve .pred_class
• predict(ajuste, caso, type = "prob") devuelve .pred_no y .pred_si
• augment(ajuste, caso) devuelve el caso más las tres columnas

.pred_class no es un cálculo aparte: es .pred_si > 0,5 con otro nombre

• El workflow() guarda adentro la receta ya estimada: las medias y desvíos de step_normalize(), las dummies de step_dummy()
• Si pasamos diez filas en lugar de una, salen diez predicciones. La sintaxis no cambia
• Es el mismo augment() del Laboratorio 3, con otra tabla adelante

1. Faltan columnas

La receta valida el caso nuevo contra los datos originales, así que exige todas las columnas, incluso pais y satisfaccion_vida, que step_rm() borra un paso después

Error in `hardhat::forge()`:
! The required column "pais" is missing.

2. Niveles mal escritos

Escribir "Urbana" en lugar de "urbana" no da error: devuelve NA con un warning. Los niveles son rural/urbana, diario/nunca/semanal

3. El umbral es una decisión de ustedes

augment(ajuste_voto, casos) |>
  mutate(clase = if_else(.pred_si > 0.4,
                         "si", "no"))

4. Guardar el modelo para usarlo después

saveRDS(ajuste_voto, "modelo_voto.rds")
modelo <- readRDS("modelo_voto.rds")
predict(modelo, nuevo_caso, type = "prob")

Si ajustaron con last_fit(), primero extraigan el workflow: extract_workflow(ajuste_final)