Tres categorías principales

• La IA estrecha (narrow) resuelve tareas específicas, como asistentes virtuales o recomendaciones
• La IA general alcanzaría, en teoría, la inteligencia humana en muchas tareas
• La IA superinteligente la superaría en todo (no existe ni sabemos si será posible)

Técnicas comunes

• Aprendizaje automático (ML)
• Aprendizaje profundo (DL), un subconjunto de ML basado en redes neuronales
• Procesamiento del lenguaje natural (NLP), un área de aplicación

• Los seres humanos siempre han soñado con crear vida artificial
• Mitos antiguos con seres mecánicos:
  • Talos (griego): gigante de bronce que protegía Creta
  • Golem (folclore judío): figura de arcilla que cobra vida
  • Frankenstein (1818): la novela de Mary Shelley
• Calculadoras mecánicas:
  • 1642: Blaise Pascal construye la Pascalina
  • 1837: Charles Babbage diseña la Máquina Analítica; Ada Lovelace escribe lo que muchos consideran el primer programa informático
• El cálculo podía separarse de la mente humana

• 1936: Alan Turing publica “On Computable Numbers”, donde introduce el concepto de máquina universal
• 1950: publica “Computing Machinery and Intelligence” en la revista Mind
  • Propone el famoso Test de Turing: ¿puede una máquina engañar a un humano haciéndole creer que es humana?
  • Pregunta: “¿Pueden pensar las máquinas?” y la reformula como una pregunta práctica
• Las ideas de Turing sentaron las bases teóricas tanto de la computación como de la IA
• Sugirió que las máquinas podían aprender, no solo seguir reglas fijas

• Verano de 1956: un taller en Dartmouth College marca el nacimiento de la IA como campo de estudio
• Organizado por John McCarthy, Marvin Minsky, Nathaniel Rochester y Claude Shannon
• Primera vez que se usa el término “Inteligencia Artificial”
• La conjetura fundacional:

“Todo aspecto del aprendizaje o cualquier otra característica de la inteligencia puede, en principio, describirse con tal precisión que una máquina puede simularla.”

• El optimismo era alto: muchos creían que la IA a nivel humano estaba a pocas décadas

IA simbólica, 1956-1980s

• Inteligencia = manipular símbolos según reglas (la “IA clásica”)
• Programar las reglas formales del comportamiento inteligente
• Primeros éxitos: ELIZA (terapeuta), SHRDLU (mundo de bloques)
• Prueben ELIZA: https://anthay.github.io/eliza.html
• Predicciones audaces pero excesivamente optimistas

Sistemas expertos, 1970s-1980s

• Cambio hacia dominios especializados con conocimiento experto
• Codificar la experiencia humana como reglas si-entonces (if x then y else z)
• Ejemplos: MYCIN (infecciones), DENDRAL (análisis químico)
• Ambos enfoques dependían del conocimiento codificado a mano, no del aprendizaje a partir de datos
• Ninguno podía aprender o mejorar automáticamente

• 2009: Halevy, Norvig y Pereira publican “The Unreasonable Effectiveness of Data”
• Modelos simples con muchos datos superan a modelos complejos con pocos datos
• 2012: AlexNet (Krizhevsky, Sutskever y Hinton) gana ImageNet por un margen enorme
  • Tasa de error top-5: 15,3% (el siguiente mejor: 26,2%)
  • Usó redes neuronales profundas entrenadas en GPUs
• Datos, poder computacional y mejores algoritmos convergieron al mismo tiempo
• Ninguno de ellos solo era suficiente, pero los tres juntos cambiaron el campo

• 2017: investigadores de Google publican “Attention Is All You Need” (Vaswani et al.)
• Introducen el mecanismo de autoatención
• En lugar de procesar secuencialmente:
  • Cada palabra puede “mirar” todas las demás palabras directamente
  • Calcula puntuaciones de relevancia entre todos los pares
  • Procesamiento en paralelo: mucho más rápido de entrenar
• Esta arquitectura alimenta GPT, BERT y prácticamente toda la IA moderna
• Veremos los transformers en detalle en el Día 4

• ChatGPT (nov. 2022): no solo un modelo más grande
• Tres innovaciones: ajuste de instrucciones, RLHF, entrenamiento de seguridad
• 100 millones de usuarios en 2 meses (Reuters, 2023)

• El modelo aprende de ejemplos etiquetados
• Tenemos datos de entrada (features) y la respuesta correcta (label)
• Dos tipos principales:
• Clasificación: predecir una categoría
  • ¿Este correo es spam o no?
  • ¿Este tumor es benigno o maligno?
• Regresión: predecir un número continuo
  • ¿Cuál será el precio de esta vivienda?
  • ¿Cuántos productos venderemos el próximo mes?
• Es el tipo de aprendizaje más usado en la práctica
• Lo veremos en detalle en el Día 2

• El modelo busca patrones sin etiquetas
• No hay respuestas “correctas”: el modelo descubre la estructura por sí mismo
• Técnicas principales:
• Clustering: agrupar elementos similares
  • Segmentación de clientes
  • Agrupación de noticias por tema
• Reducción de dimensionalidad (PCA): simplificar datos con muchas variables
  • Visualizar datos de alta dimensión en 2D/3D
  • Identificar las variables más informativas
• Útil cuando no sabemos qué estamos buscando
• Lo veremos en el Día 3

• El modelo aprende por ensayo y error
• Un agente interactúa con un entorno y recibe recompensas o penalizaciones
• El objetivo: maximizar la recompensa acumulada a lo largo del tiempo
• Ejemplos:
  • AlphaGo (DeepMind): venció al campeón mundial de Go en 2016
  • Robots que aprenden a caminar cayéndose miles de veces
  • RLHF en ChatGPT: humanos califican respuestas, el modelo aprende qué es “útil”
• No necesita ejemplos etiquetados: aprende de la experiencia
• Seremos más específicos sobre RLHF en el Día 4

• Los modelos de IA pueden amplificar los sesgos presentes en los datos de entrenamiento
• Ejemplo real (Buolamwini y Gebru, 2018):
  • Tasas de error en reconocimiento facial comercial:
  • Hombres de piel clara: 0,8% de error
  • Mujeres de piel oscura: 34,7% de error
  • Un rendimiento 43 veces peor para un grupo
• El modelo “funciona” en general, pero falla para poblaciones específicas
• Incluso eliminando variables sensibles (raza, género), los sesgos persisten porque se correlacionan con otras variables
• Siempre evaluar los modelos por subgrupos, no solo en promedio

• Alucinación: la IA genera contenido fluido pero factualmente incorrecto o inventado
• Formas comunes:
  • Citas fabricadas: inventar papers que no existen
  • Estadísticas falsas: “el 73% de los científicos coinciden…”
  • Datos biográficos incorrectos: fechas, eventos, logros equivocados
• ¿Por qué ocurre? Porque los modelos están entrenados para predecir texto probable, no texto verdadero:

\[P(\text{siguiente palabra} | \text{contexto}) \neq P(\text{afirmación verdadera})\]