• Regresión logística: interpretable, produce probabilidades
• Árboles de decisión: intuitivos pero sobreajustan
• Random Forest: combina muchos árboles para mejor predicción
• Predicción vs. explicación: dos objetivos diferentes en ciencias sociales
• Regularización: LASSO selecciona variables, Ridge reduce coeficientes
• tidymodels permite comparar modelos con la misma sintaxis

Primera parte

• ¿Qué es el aprendizaje no supervisado?
• Clustering: K-means
• Elegir el número de clusters
• Evaluación con silueta
• Clustering jerárquico (intro)

Segunda parte

• Reducción de dimensionalidad: PCA
• Interpretación de componentes
• ¿Cuántos componentes conservar?
• Aplicaciones en América Latina
• Comparación con otros métodos

• En aprendizaje supervisado, teníamos respuestas correctas (etiquetas)
• En aprendizaje no supervisado, no hay etiquetas
• El modelo debe descubrir patrones ocultos en los datos por sí mismo
• ¿Por qué usarlo?
  • Las etiquetas son costosas (requieren expertos)
  • A veces las etiquetas no existen (“¿cuántos tipos de votantes hay?”)
  • Exploración: entender los datos antes de modelar
• Dos técnicas principales:
  • Clustering: agrupar observaciones similares
  • Reducción de dimensionalidad: simplificar datos con muchas variables

• El usuario debe elegir el número de clusters (K) de antemano
• No existe un K “correcto” en general
• Métodos para orientarse:
  • Método del codo: graficar la suma de distancias internas para diferentes K, buscar el “codo” donde la mejora se estabiliza
  • Silueta: mide qué tan bien cada punto encaja en su cluster. Valores altos (cercanos a 1) son buenos
  • Conocimiento del dominio: ¿cuántos grupos tienen sentido teóricamente?
• En ciencias sociales, el contexto teórico suele ser más importante que las métricas estadísticas
• Ejemplo: ¿cuántos “tipos” de regímenes políticos hay? ¿3? ¿5? ¿7? Depende de la teoría

Supuestos que hace

• Los clusters son esféricos (todos del mismo tamaño)
• Cada punto pertenece a un solo cluster
• Sensible a la escala de las variables (siempre normalizar antes)
• Sensible a los valores iniciales (ejecutar varias veces)

Aplicaciones en ciencias sociales

• Segmentación de países: agrupar países por indicadores de desarrollo
• Tipología de votantes: identificar perfiles electorales
• Clasificación de municipios: agrupar por características socioeconómicas
• Análisis de encuestas: encontrar grupos de respuesta similares

• PCA (Principal Component Analysis / Análisis de Componentes Principales)
• Problema: tenemos muchas variables y queremos simplificar
• PCA busca las direcciones de máxima variación en los datos
• Crea nuevas variables (componentes principales) que son combinaciones lineales de las originales
• Primer componente: la dirección con más varianza
• Segundo componente: la siguiente dirección con más varianza, perpendicular al primero
• Y así sucesivamente
• Permite visualizar datos de alta dimensión en 2D o 3D

• Visualización: reducir 8 variables a 2 dimensiones para graficar
• Construcción de índices: combinar muchos indicadores en uno solo
  • Ejemplo: el Índice de Desarrollo Humano (IDH) combina esperanza de vida, educación e ingreso en un solo número, que es la misma idea de PCA (aunque el IDH usa una media geométrica, no componentes principales)
• Preprocesamiento: reducir la dimensionalidad antes de aplicar otro modelo (como K-means o regresión)
• Detección de patrones: ver qué variables “van juntas”
  • Si el primer componente carga fuertemente en PIB, educación e internet, lo podemos interpretar como un “eje de desarrollo”

Ventajas

• Reduce la dimensionalidad preservando la mayor varianza posible
• Ayuda a visualizar datos complejos
• Puede revelar estructura latente
• Los componentes son no correlacionados entre sí (ortogonales, es decir, su correlación es cero)
• No necesita etiquetas

Limitaciones

• Solo captura relaciones lineales
• Los componentes son difíciles de interpretar (son combinaciones de muchas variables)
• Sensible a la escala: siempre normalizar antes
• No es un modelo causal: no dice por qué las variables están correlacionadas
• ¿Cuántos componentes conservar? Regla general: los que explican ~80% de la varianza

• El coeficiente de silueta mide qué tan bien cada observación encaja en su cluster
• Para cada punto \(i\):
  • \(a(i)\) = distancia promedio a otros puntos del mismo cluster
  • \(b(i)\) = distancia promedio al cluster más cercano diferente

\[s(i) = \frac{b(i) - a(i)}{\max(a(i), b(i))}\]

• Valores de \(s(i)\):
  • Cerca de +1: el punto está bien clasificado
  • Cerca de 0: el punto está en el borde entre clusters
  • Cerca de -1: el punto probablemente está en el cluster equivocado

• Calcular la silueta promedio para cada valor de K
• Elegir el K que maximice la silueta
• Más informativo que el método del codo porque mide calidad de los clusters, no solo compacidad
• Combinar con:
  • Conocimiento del dominio: ¿tiene sentido este número de grupos?
  • Interpretabilidad: ¿podemos explicar qué distingue cada cluster?

• Clustering jerárquico: crea una jerarquía de clusters anidados
• No requiere especificar K de antemano
• Dos enfoques:
  • Aglomerativo (bottom-up): empieza con cada punto como cluster, va fusionando los más cercanos
  • Divisivo (top-down): empieza con todos los puntos en un cluster, va dividiendo
• El resultado se visualiza como un dendrograma
• El usuario “corta” el dendrograma al nivel deseado para obtener K clusters

• PCA produce tantos componentes como variables originales
• Pero queremos conservar solo los primeros (los más informativos)
• Criterios para elegir:
  • Varianza explicada acumulada: conservar los que expliquen ~80%
  • Método del codo (scree plot): buscar el “codo” donde la varianza adicional es pequeña
  • Regla de Kaiser: conservar componentes con eigenvalue > 1
• En la práctica, si el objetivo es visualización, usamos 2-3 componentes

• Los loadings (cargas) indican cuánto contribuye cada variable a cada componente
• Valores absolutos altos = variable importante para ese componente
• El signo indica la dirección:
  • Si PIB y educación tienen loadings positivos altos en PC1 → PC1 mide “desarrollo”
  • Un país con PC1 alto tiene alto PIB Y alta educación
• Loadings cercanos a cero = variable no relevante para ese componente

• Un biplot muestra simultáneamente:
  • Las observaciones (como puntos)
  • Las variables (como flechas/vectores)
• La dirección de las flechas indica cómo las variables contribuyen a cada componente
• Flechas largas = variables con alta varianza
• Flechas cercanas = variables correlacionadas
• Observaciones en la dirección de una flecha tienen valores altos en esa variable

Clustering:

• Segmentación de municipios por indicadores socioeconómicos
• Clasificación de conflictos por características
• Tipología de movimientos sociales
• Agrupación de respuestas abiertas en encuestas

PCA:

• Índices compuestos de desarrollo, gobernanza, calidad institucional
• Mapas ideológicos de partidos políticos
• Análisis de encuestas con muchas preguntas
• Preprocesamiento antes de regresión cuando hay multicolinealidad

Clustering:

• K-means: rápido, asume clusters esféricos, requiere elegir K
• Jerárquico: produce dendrograma, no requiere K de antemano
• Silueta: mide calidad de los clusters
• Escalar siempre antes de aplicar

PCA:

• Reduce dimensionalidad preservando varianza
• Los loadings indican qué variables contribuyen a cada componente
• Scree plot ayuda a elegir cuántos componentes conservar
• Biplot visualiza observaciones y variables juntas