Mitos comunes:

• La IA “piensa” como los humanos
  • No. Procesa patrones estadísticos, no tiene conciencia ni comprensión real
• La IA es objetiva e imparcial
  • No. Refleja los sesgos de los datos con los que fue entrenada
• La IA va a reemplazar todos los trabajos
  • Parcialmente. Transforma trabajos más de lo que los elimina por completo
• La IA es infalible
  • No. Comete errores, a veces con mucha confianza

Lo que la IA realmente es:

• Una herramienta poderosa para tareas específicas
• Un sistema que encuentra patrones en grandes cantidades de datos
• Una tecnología que requiere supervisión humana
• Un campo en rápida evolución con limitaciones reales

Entender qué NO es la IA es tan importante como entender qué es.

• La región produce y adapta IA, no solo la consume
• Agricultura: predicción de cosechas, monitoreo de deforestación
• Fintech: detección de fraude (MercadoLibre, Nubank)
• Salud: triaje automático en hospitales públicos
• Justicia: clasificación de procesos (Uruguay, Brasil)
• Logística: optimización de rutas (Rappi)
• Desafíos:
  • Pocos datos en español/portugués
  • Brecha digital urbano-rural
  • Infraestructura desigual
  • Dependencia de cloud extranjero
• ¿Quién diseñará la IA para la región?

Lo que la IA ya hace bien:

• Generación de texto: redacción, resumen, traducción, código
• Análisis de imágenes: diagnóstico médico, reconocimiento facial
• Predicción: demanda, riesgo crediticio, mantenimiento preventivo
• Automatización: atención al cliente, clasificación de documentos

Lo que todavía le cuesta:

• Razonamiento causal: entender por qué, no solo correlaciones
• Sentido común: cosas obvias para humanos pero difíciles para máquinas
• Explicabilidad: justificar sus decisiones de forma comprensible

Tendencias actuales:

• Modelos cada vez más grandes (pero con rendimientos decrecientes)
• Énfasis en eficiencia (modelos más pequeños y rápidos)
• Multimodalidad: texto + imagen + audio + video
• Agentes: sistemas que pueden realizar tareas complejas de forma autónoma
• IA abierta vs. cerrada: debate sobre transparencia y acceso

Estamos en un momento de experimentación activa: nadie sabe exactamente a dónde va esto!

• Los seres humanos siempre han soñado con crear vida artificial
• Mitos antiguos con seres mecánicos:
  • Talos (griego): gigante de bronce que protegía Creta
  • Golem (folclore judío): figura de arcilla que cobra vida
  • Frankenstein (1818): la novela de Mary Shelley
• Calculadoras mecánicas:
  • 1642: Blaise Pascal construye la Pascalina
  • 1837: Charles Babbage diseña la Máquina Analítica; Ada Lovelace escribe lo que muchos consideran el primer programa informático
• El cálculo podía separarse de la mente humana

• 1936: Alan Turing publica “On Computable Numbers”, donde introduce el concepto de máquina universal
• 1950: publica “Computing Machinery and Intelligence” en la revista Mind
  • Propone el famoso Test de Turing: ¿puede una máquina engañar a un humano haciéndole creer que es humana?
  • Pregunta: “¿Pueden pensar las máquinas?” y la reformula como una pregunta práctica
• Las ideas de Turing sentaron las bases teóricas tanto de la computación como de la IA
• Sugirió que las máquinas podían aprender, no solo seguir reglas fijas

• Verano de 1956: un taller en Dartmouth College marca el nacimiento de la IA como campo de estudio
• Organizado por John McCarthy, Marvin Minsky, Nathaniel Rochester y Claude Shannon
• Primera vez que se usa el término “Inteligencia Artificial”
• La conjetura fundacional:

“Todo aspecto del aprendizaje o cualquier otra característica de la inteligencia puede, en principio, describirse con tal precisión que una máquina puede simularla.”

• El optimismo era alto: muchos creían que la IA a nivel humano estaba a pocas décadas

IA simbólica, 1956-1980s

• Inteligencia = manipular símbolos según reglas (la “IA clásica”)
• Programar las reglas formales del comportamiento inteligente
• Primeros éxitos: ELIZA (terapeuta), SHRDLU (mundo de bloques)
• Prueben ELIZA: https://anthay.github.io/eliza.html
• Predicciones audaces pero excesivamente optimistas

Sistemas expertos, 1970s-1980s

• Cambio hacia dominios especializados con conocimiento experto
• Codificar la experiencia humana como reglas si-entonces (if x then y else z)
• Ejemplos: MYCIN (infecciones), DENDRAL (análisis químico)
• Ambos enfoques dependían del conocimiento codificado a mano, no del aprendizaje a partir de datos
• Ninguno podía aprender o mejorar automáticamente

• 2009: Halevy, Norvig y Pereira publican “The Unreasonable Effectiveness of Data”
• Modelos simples con muchos datos superan a modelos complejos con pocos datos
• 2012: AlexNet (Krizhevsky, Sutskever y Hinton) gana ImageNet por un margen enorme
  • Tasa de error top-5: 15,3% (el siguiente mejor: 26,2%)
  • Usó redes neuronales profundas entrenadas en GPUs
• Datos, poder computacional y mejores algoritmos convergieron al mismo tiempo
• Ninguno de ellos solo era suficiente, pero los tres juntos cambiaron el campo

• 2017: investigadores de Google publican “Attention Is All You Need” (Vaswani et al.)
• Introducen el mecanismo de autoatención
• En lugar de procesar secuencialmente:
  • Cada palabra puede “mirar” todas las demás palabras directamente
  • Calcula puntuaciones de relevancia entre todos los pares
  • Procesamiento en paralelo: mucho más rápido de entrenar
• Esta arquitectura alimenta GPT, BERT y prácticamente toda la IA moderna
• Veremos los transformers en detalle en el Día 4

• ChatGPT (nov. 2022) no fue simplemente un modelo más grande
• Tres innovaciones: ajuste de instrucciones, RLHF (aprendizaje por refuerzo con retroalimentación humana) y entrenamiento de seguridad
• 100 millones de usuarios en 2 meses (Reuters, 2023)

• La IA moderna no se limita solo al texto
• Los modelos multimodales pueden procesar:
  • Texto e imágenes (DALL-E, Midjourney)
  • Texto y audio (Whisper, ElevenLabs)
  • Texto y video (Sora, Runway)
  • Texto y código (Codex, Copilot)
• Misma arquitectura de transformers, diferentes entradas y salidas
• Las fronteras entre modalidades se están difuminando

• A medida que los modelos crecen, aparecen capacidades que no fueron entrenadas explícitamente
• Ejemplos de capacidades emergentes:
  • Razonamiento matemático: resolver problemas paso a paso
  • Traducción zero-shot: traducir entre idiomas que nunca vio juntos
  • Programación: escribir código funcional en múltiples lenguajes
  • Seguimiento de instrucciones: entender y ejecutar indicaciones complejas
• Nadie diseñó estas capacidades: emergieron del entrenamiento a escala
• Esto genera tanto entusiasmo como preocupación: no siempre sabemos qué puede hacer un modelo hasta que lo probamos

• El modelo aprende de ejemplos etiquetados
• Tenemos datos de entrada (features) y la respuesta correcta (label)
• Dos tipos principales:
• Clasificación: predecir una categoría
  • ¿Este correo es spam o no?
  • ¿Este tumor es benigno o maligno?
• Regresión: predecir un número continuo
  • ¿Cuál será el precio de esta vivienda?
  • ¿Cuántos productos venderemos el próximo mes?
• Es el tipo de aprendizaje más usado en la práctica
• Lo veremos en detalle en el Día 2

• El modelo busca patrones sin etiquetas
• No hay respuestas “correctas”: el modelo descubre la estructura por sí mismo
• Técnicas principales:
• Clustering: agrupar elementos similares
  • Segmentación de clientes
  • Agrupación de noticias por tema
• Reducción de dimensionalidad (PCA): simplificar datos con muchas variables
  • Visualizar datos de alta dimensión en 2D/3D
  • Identificar las variables más informativas
• Útil cuando no sabemos qué estamos buscando
• Lo veremos en el Día 3

• El modelo aprende por ensayo y error
• Un agente interactúa con un entorno y recibe recompensas o penalizaciones
• El objetivo: maximizar la recompensa acumulada a lo largo del tiempo
• Ejemplos:
  • AlphaGo (DeepMind): venció al campeón mundial de Go en 2016
  • Robots que aprenden a caminar cayéndose miles de veces
  • RLHF en ChatGPT: humanos califican respuestas, el modelo aprende qué es “útil”
• No necesita ejemplos etiquetados: aprende de la experiencia
• Seramos más específicos sobre RLHF en el Día 4

• Los modelos de IA pueden amplificar los sesgos presentes en los datos de entrenamiento
• Ejemplo real (Buolamwini y Gebru, 2018):
  • Tasas de error en reconocimiento facial comercial:
  • Hombres de piel clara: 0,8% de error
  • Mujeres de piel oscura: 34,7% de error
  • Un rendimiento 43 veces peor para un grupo
• El modelo “funciona” en general, pero falla para poblaciones específicas
• Incluso eliminando variables sensibles (raza, género), los sesgos persisten porque se correlacionan con otras variables
• Siempre evaluar los modelos por subgrupos, no solo en promedio

• Alucinación: la IA genera contenido fluido pero factualmente incorrecto o inventado
• Formas comunes:
  • Citas fabricadas: inventar papers que no existen
  • Estadísticas falsas: “el 73% de los científicos coinciden…”
  • Datos biográficos incorrectos: fechas, eventos, logros equivocados
• Caso real (2023): dos abogados presentaron un escrito legal citando seis casos judiciales inexistentes generados por ChatGPT. Fueron sancionados por el tribunal
• ¿Por qué ocurre? Porque los modelos están entrenados para predecir texto probable, no texto verdadero:

\[P(\text{siguiente palabra} | \text{contexto}) \neq P(\text{afirmación verdadera})\]

• Un modelo con 95% de accuracy siempre es mejor que uno con 80%
  • Falso. Con clases desbalanceadas, predecir siempre la clase mayoritaria da 95% sin aprender nada
• Los LLMs “entienden” el significado de las palabras como los humanos
  • Falso. Procesan patrones estadísticos de co-ocurrencia, sin comprensión real
• Si un modelo funciona bien en el conjunto de entrenamiento, funcionará bien en datos nuevos
  • Falso. Eso es sobreajuste: memoriza sin generalizar

• El código postal puede ser una variable discriminatoria aunque no incluya raza
  • Verdadero. El código postal es proxy de raza por la segregación residencial histórica
• BERT y GPT usan la misma arquitectura transformer pero para tareas diferentes
  • Verdadero. BERT es encoder (comprensión), GPT es decoder (generación)
• La validación cruzada sirve para elegir hiperparámetros sin “contaminar” el test set
  • Verdadero. Evalúa configuraciones solo con datos de entrenamiento, reservando el test set

• Transformer Explainer de Georgia Tech
• Visualización interactiva de cómo funcionan los transformers
• Vean los patrones de atención en tiempo real
• Experimenten con la temperatura y el muestreo
• Ejecuta GPT-2 directamente en su navegador

https://poloclub.github.io/transformer-explainer