1.1 El momento presente

En noviembre de 2022, la empresa OpenAI lanzó al público ChatGPT, una interfaz conversacional construida sobre un modelo de lenguaje de gran escala. En apenas cinco días, el servicio alcanzó un millón de usuarios; en dos meses, superó los cien millones (Briggs et al., 2023). Ninguna tecnología de consumo había logrado una adopción tan veloz: ni Facebook (diez meses para alcanzar el millón), ni Instagram (dos meses y medio), ni TikTok (nueve meses). En retrospectiva, ese lanzamiento marcó un punto de inflexión: la IA dejó de ser un tema de laboratorio y conferencias especializadas para convertirse en objeto de conversación cotidiana, preocupación política y estrategia empresarial.

Tres años después, a finales de 2025, el panorama se ha transformado radicalmente. Según datos de la Real-Time Population Survey de la Reserva Federal de St. Louis, el 23% de los trabajadores estadounidenses utiliza herramientas de IA generativa al menos una vez por semana en su actividad laboral, una tasa de adopción extraordinaria para una tecnología con apenas tres años de despliegue masivo (Ozkan & Sullivan, 2025). Los modelos de lenguaje han crecido en capacidad y se han diversificado en aplicaciones: sistemas como GPT-4 (OpenAI, 2023), Claude (Anthropic, 2024), Gemini y LLaMA compiten en un mercado cuya inversión privada superó los 94.000 millones de dólares anuales a nivel global en 2021 y continúa creciendo exponencialmente (Briggs et al., 2023).

Código

# ==============================================================================
# DATOS DE INVERSIÓN GLOBAL EN IA (2014-2025)
# Fuentes: Stanford HAI AI Index Report 2025, Goldman Sachs Global Investment 
#          Research, Crunchbase 2025, KPMG Venture Pulse Q3 2025
# ==============================================================================

# Inversión corporativa total en IA (incluye private equity, M&A, minority stakes)
inversion_global <- tibble(
  año = 2014:2025,
  # Datos: Stanford AI Index 2025 reporta crecimiento 13x desde 2014
  # 2021: $94bn (Goldman Sachs 2023), 2024: $252.3bn (Stanford HAI 2025)
  inversion_total = c(19.4, 26.2, 36.0, 50.1, 65.3, 75.0, 80.1, 94.0, 
                      91.3, 143.2, 252.3, 320.0),
  # IA Generativa: despegue post-ChatGPT (nov 2022)
  # Datos: Crunchbase, EY Ireland GenAI Report 2025
  ia_generativa = c(0.3, 0.4, 0.5, 0.8, 1.2, 1.8, 2.5, 3.2, 
                    4.0, 24.0, 33.9, 80.0),
  tipo = "Observado"
)

# Marcar 2025 como proyección/parcial
inversion_global$tipo[12] <- "Proyección 2025"

# Gráfico principal: evolución temporal
p1 <- ggplot(inversion_global, aes(x = año)) +
  # Área sombreada para IA generativa
  geom_area(aes(y = ia_generativa), 
            fill = "#e74c3c", alpha = 0.3) +
  # Línea de inversión total
  geom_line(aes(y = inversion_total, color = "Inversión total en IA"), 
            linewidth = 1.2) +
  geom_point(aes(y = inversion_total, shape = tipo), 
             size = 3, color = "#2c3e50") +
  # Línea de IA generativa
  geom_line(aes(y = ia_generativa, color = "IA Generativa"), 
            linewidth = 1.2) +
  geom_point(aes(y = ia_generativa, shape = tipo), 
             size = 3, color = "#e74c3c") +
  # Anotación ChatGPT
  annotate("segment", x = 2022.9, xend = 2022.9, y = 0, yend = 150,
           linetype = "dashed", color = "gray50", linewidth = 0.5) +
  annotate("text", x = 2022.9, y = 160, 
           label = "ChatGPT\n(nov 2022)", 
           size = 3, color = "gray40", hjust = 0.5) +
  # Anotación del crecimiento
  annotate("text", x = 2019, y = 220, 
           label = "Crecimiento 13x\ndesde 2014",
           size = 3.5, fontface = "italic", color = "gray50") +
  annotate("curve", x = 2019, y = 200, xend = 2024, yend = 252,
           arrow = arrow(length = unit(0.2, "cm")),
           curvature = 0.3, color = "gray50") +
  # Escalas y etiquetas
  scale_y_continuous(
    labels = scales::label_dollar(suffix = "B", scale = 1),
    breaks = seq(0, 350, 50),
    expand = expansion(mult = c(0, 0.1))
  ) +
  scale_x_continuous(breaks = 2014:2025) +
  scale_color_manual(
    values = c("Inversión total en IA" = "#2c3e50", 
               "IA Generativa" = "#e74c3c"),
    name = NULL
  ) +
  scale_shape_manual(
    values = c("Observado" = 16, "Proyección 2025" = 17),
    name = NULL
  ) +
  labs(
    title = "La explosión de la inversión en IA: de $19B a $320B en una década",
    subtitle = "Inversión corporativa global (private equity, fusiones, adquisiciones)",
    x = NULL,
    y = "Miles de millones USD",
    caption = "Fuentes: Stanford HAI AI Index 2025; Goldman Sachs (2023); Crunchbase (2025); KPMG Venture Pulse Q3'25"
  ) +
  theme_monografia() +
  theme(
    legend.position = c(0.15, 0.85),
    legend.background = element_rect(fill = "white", color = NA),
    panel.grid.major.x = element_blank()
  )

print(p1)

Código

# ==============================================================================
# INVERSIÓN POR PAÍS (2024)
# Fuente: Stanford HAI AI Index Report 2025, Economy Chapter
# ==============================================================================

inversion_paises <- tibble(
  pais = c("Estados Unidos", "China", "Reino Unido", "Francia", 
           "Alemania", "Canadá", "Israel", "India", "Japón", "Resto del mundo"),
  inversion_2024 = c(109.1, 9.3, 4.5, 2.8, 2.1, 1.8, 1.6, 1.2, 0.9, 10.0),
  region = c("América", "Asia", "Europa", "Europa", "Europa", 
             "América", "Oriente Medio", "Asia", "Asia", "Otros")
)

# Calcular porcentajes
total_2024 <- sum(inversion_paises$inversion_2024)
inversion_paises <- inversion_paises %>%
  mutate(
    porcentaje = inversion_2024 / total_2024 * 100,
    etiqueta = paste0("$", round(inversion_2024, 1), "B\n(", round(porcentaje, 1), "%)")
  )

# Ordenar por inversión
inversion_paises <- inversion_paises %>%
  mutate(pais = fct_reorder(pais, inversion_2024))

# Colores por región
colores_region <- c(
  "América" = "#3498db",
  "Asia" = "#e74c3c", 
  "Europa" = "#2ecc71",
  "Oriente Medio" = "#f39c12",
  "Otros" = "#95a5a6"
)

p2 <- ggplot(inversion_paises, aes(x = pais, y = inversion_2024, fill = region)) +
  geom_col(width = 0.7, alpha = 0.85) +
  geom_text(aes(label = paste0("$", round(inversion_2024, 1), "B")),
            hjust = -0.1, size = 3.5, fontface = "bold") +
  coord_flip(clip = "off") +
  scale_y_continuous(
    labels = scales::label_dollar(suffix = "B"),
    expand = expansion(mult = c(0, 0.15))
  ) +
  scale_fill_manual(values = colores_region, name = "Región") +
  labs(
    title = "Hegemonía estadounidense en la inversión en IA (2024)",
    subtitle = "EE.UU. invierte casi 12 veces más que China y 24 veces más que Reino Unido",
    x = NULL,
    y = "Inversión privada en IA (miles de millones USD)",
    caption = "Fuente: Stanford HAI AI Index Report 2025, Economy Chapter"
  ) +
  theme_monografia() +
  theme(
    legend.position = c(0.85, 0.25),
    legend.background = element_rect(fill = "white", color = "gray90"),
    panel.grid.major.y = element_blank()
  )

print(p2)

Código

# ==============================================================================
# PROYECCIÓN DE GASTO EN IA (2024-2028)
# Fuente: Gartner (septiembre 2025)
# ==============================================================================

proyeccion_gasto <- tibble(
  año = 2024:2028,
  # Gartner: $1.5T en 2025, >$2T en 2026
  gasto_total = c(1040, 1500, 2100, 2750, 3400),
  # Desglose aproximado por categoría
  infraestructura = c(380, 550, 750, 950, 1150),
  software_ia = c(280, 420, 600, 800, 1000),
  servicios = c(220, 330, 480, 650, 820),
  ia_embebida = c(160, 200, 270, 350, 430)
)

# Transformar a formato largo para visualización apilada
proyeccion_largo <- proyeccion_gasto %>%
  pivot_longer(
    cols = c(infraestructura, software_ia, servicios, ia_embebida),
    names_to = "categoria",
    values_to = "valor"
  ) %>%
  mutate(
    categoria = case_when(
      categoria == "infraestructura" ~ "Infraestructura (GPUs, data centers)",
      categoria == "software_ia" ~ "Software y plataformas IA",
      categoria == "servicios" ~ "Servicios profesionales",
      categoria == "ia_embebida" ~ "IA embebida en productos"
    ),
    categoria = factor(categoria, levels = c(
      "IA embebida en productos",
      "Servicios profesionales", 
      "Software y plataformas IA",
      "Infraestructura (GPUs, data centers)"
    ))
  )

# Gráfico de áreas apiladas
p3 <- ggplot(proyeccion_largo, aes(x = año, y = valor, fill = categoria)) +
  geom_area(alpha = 0.85, color = "white", linewidth = 0.3) +
  # Línea de total
  geom_line(data = proyeccion_gasto, aes(x = año, y = gasto_total, fill = NULL),
            linewidth = 1.2, color = "#2c3e50", linetype = "dashed") +
  geom_point(data = proyeccion_gasto, aes(x = año, y = gasto_total, fill = NULL),
             size = 3, color = "#2c3e50") +
  # Etiquetas de total
  geom_text(data = proyeccion_gasto, 
            aes(x = año, y = gasto_total + 150, label = paste0("$", gasto_total/1000, "T"), fill = NULL),
            size = 3.5, fontface = "bold") +
  scale_y_continuous(
    labels = scales::label_dollar(suffix = "B", scale = 1),
    breaks = seq(0, 3500, 500),
    expand = expansion(mult = c(0, 0.1))
  ) +
  scale_x_continuous(breaks = 2024:2028) +
  scale_fill_viridis_d(option = "plasma", begin = 0.1, end = 0.9, direction = -1) +
  labs(
    title = "El gasto mundial en IA superará los $3 billones en 2028",
    subtitle = "Proyección del mercado de IA por categoría de gasto",
    x = NULL,
    y = "Miles de millones USD",
    fill = "Categoría",
    caption = "Fuente: Gartner (septiembre 2025). Proyecciones basadas en tendencias de adopción empresarial."
  ) +
  theme_monografia() +
  theme(
    legend.position = "bottom",
    legend.box = "horizontal",
    panel.grid.major.x = element_blank()
  ) +
  guides(fill = guide_legend(nrow = 2))

print(p3)

La IA generativa se ha infiltrado en prácticamente todos los sectores: redacta documentos legales, genera código informático con ganancias de productividad del 55% en tareas específicas (Peng et al., 2023), asiste en diagnósticos médicos con rendimiento comparable al de especialistas en determinados benchmarks (Singhal, Azizi, et al., 2023), produce imágenes y vídeos sintéticos de realismo inquietante, y —lo más significativo para esta monografía— potencia agentes autónomos capaces de ejecutar flujos de trabajo complejos con mínima supervisión humana. Proyectos como Agent Laboratory demuestran que sistemas basados en LLMs pueden ya conducir el ciclo completo de investigación científica: revisión de literatura, diseño experimental, ejecución de código, análisis de resultados y redacción de informes (Schmidgall et al., 2025).

Esta velocidad de despliegue contrasta con la lentitud de la reflexión sistemática. Las instituciones educativas, los marcos regulatorios y los dispositivos conceptuales arbitrados para entender o interpretar la tecnología se han visto desbordados. No es solo que la IA avance más rápido que la legislación —algo habitual con las innovaciones disruptivas—, sino que plantea desafíos categoriales inéditos:

• ¿Cómo regular un sistema cuyo comportamiento exhibe capacidades emergentes que sus propios creadores no anticiparon ni pueden predecir con precisión? (Wei et al., 2022)
  
• ¿Cómo atribuir responsabilidad cuando las decisiones emergen de redes neuronales con cientos de miles de millones de parámetros, operando como “loros estocásticos” que ensamblan patrones sin referencia a significado? (Bender et al., 2021)
  
• ¿Cómo preservar la integridad del conocimiento cuando entre el 6,5% y el 16,9% de las revisiones por pares en conferencias de machine learning muestran indicios de contenido generado o modificado sustancialmente por IA? (Liang et al., 2024)
  
• ¿Cómo preparar un mercado laboral donde aproximadamente el 80% de los trabajadores están en ocupaciones con al menos el 10% de sus tareas expuestas a automatización por LLMs, y donde los profesionales cognitivos de alta cualificación —paradójicamente— enfrentan mayor exposición que los trabajadores manuales? (Eloundou et al., 2024)

1.2 La inteligencia distribuida: de herramientas a agentes

El título de esta monografía incluye la noción de inteligencia distribuida para capturar un fenómeno que trasciende la idea tradicional de “herramientas de IA”. No se alude simplemente a software que ejecuta instrucciones, sino a sistemas capaces de planificar, ejecutar acciones en el mundo, aprender de la retroalimentación y coordinarse con otros agentes —humanos o artificiales— para alcanzar objetivos complejos.

Esta transición de modelos a agentes representa un cambio cualitativo. Como señala Luciano Floridi (Floridi, 2023a), estamos ante un divorcio sin precedentes entre agencia e inteligencia: los modelos de lenguaje exhiben capacidades de acción y producción consideradas exclusivas de entidades inteligentes, mientras carecen de comprensión, intencionalidad o consciencia en cualquier sentido filosóficamente robusto. Son agentes sin ser inteligentes; operan sin comprender.

Esta distinción tiene consecuencias prácticas inmediatas. Un agente artificial puede:

• Navegar por internet, extraer información y sintetizarla
• Escribir y ejecutar código para resolver problemas
• Interactuar con APIs y servicios externos
• Colaborar con otros agentes especializados en flujos de trabajo multi-agente
• Tomar decisiones autónomas dentro de parámetros definidos

La arquitectura de sistemas multi-agente, donde diversos LLMs especializados colaboran distribuidos en roles diferenciados (investigador, programador, revisor, coordinador), anticipa un futuro donde la “inteligencia” no residirá en entidades discretas sino en redes de agentes interconectados (Schmidgall et al., 2025; Tran et al., 2025). Esta distribución de la cognición artificial por las infraestructuras digitales de la sociedad es lo que justifica hablar de una inteligencia distribuida emergente.

1.3 Dimensiones del impacto: vida, trabajo, conocimiento

Las proyecciones económicas sugieren impactos sustanciales. Goldman Sachs estima que la IA generativa podría incrementar el PIB global en un 7% —aproximadamente 7 billones de dólares— en un horizonte de diez años, y elevar el crecimiento de la productividad laboral en 1,5 puntos porcentuales anuales en Estados Unidos (Briggs et al., 2023). Sin embargo, estas cifras agregadas ocultan distribuciones desiguales: el estudio de Eloundou et al. publicado en Science muestra que las ocupaciones con mayor exposición a LLMs son precisamente las de mayor cualificación y salario —abogados, analistas financieros, programadores, científicos de datos— mientras que trabajos manuales y de servicios presenciales permanecen relativamente protegidos (Eloundou et al., 2024).

Evidencia reciente de la Reserva Federal de St. Louis correlaciona la exposición teórica a IA con incrementos reales en tasas de desempleo ocupacional (correlación de 0,47), particularmente en el sector tecnológico (Ozkan & Sullivan, 2025). Aunque esta correlación no implica causalidad directa, señala que podríamos estar presenciando las primeras fases de un desplazamiento laboral impulsado por IA que, a diferencia de revoluciones tecnológicas previas, afecta directamente a trabajadores del conocimiento.

En el ámbito del conocimiento, la infiltración de contenido sintético plantea preguntas sobre la epistemología misma de la producción científica. Cuando muchos revisores por pares utilizan LLMs para generar evaluaciones —y el 82,8% de estas revisiones sintéticas son clasificadas como “escritas por humanos” por los detectores automáticos (Zhu et al., 2025)—, cuando miles de artículos incorporan texto sintético sin declaración, cuando múltiples conjuntos de datos de entrenamiento se contaminan con outputs de modelos previos, los cimientos de la confianza epistémica se erosionan de formas difíciles de detectar y remediar.

1.4 Objetivos y alcance

Esta monografía tiene un cuádruple propósito, ajustado al marco de la inteligencia distribuida:

1. Proporcionar contexto técnico y perspectiva histórica sobre los desarrollos en IA generativa y sistemas agenciales posteriores a 2022, explicando las tecnologías subyacentes —arquitecturas Transformer (Vaswani et al., 2017), aprendizaje por refuerzo con retroalimentación humana, sistemas multi-agente— con rigor pero sin exigir conocimientos técnicos previos altamente especializados.

2. Documentar aplicaciones y casos de uso en sectores clave —investigación científica, medicina, educación, desarrollo de software— distinguiendo entre capacidades demostradas empíricamente, promesas plausibles y exageraciones comerciales. Se presta particular atención a los sistemas agenciales emergentes.

3. Analizar riesgos y desafíos desde perspectivas éticas, epistémicas, legales, económicas y de seguridad, aportando elementos para una evaluación crítica que trascienda tanto el utopismo tecnológico como el catastrofismo especulativo.

4. Examinar respuestas institucionales y regulatorias, desde el AI Act europeo (European Parliament and Council, 2024; Novelli et al., 2025) hasta el marco de gestión de riesgos del NIST (National Institute of Standards and Technology, 2023) y las órdenes ejecutivas estadounidenses (The White House, 2023), evaluando su adecuación a la velocidad y naturaleza de los desarrollos.

El público objetivo incluye investigadores predoctorales y postdoctorales, estudiantes de posgrado y profesionales de diversas disciplinas —humanidades, filosofía, informática, ciencias de la vida, derecho— que busquen una visión panorámica, actualizada y rigurosamente documentada del estado actual del campo.

Finalmente, una advertencia: cualquier texto sobre IA generativa queda parcialmente obsoleto en el momento de su publicación. Los desarrollos entre el cierre de esta monografía y su lectura habrán añadido capacidades, revelado vulnerabilidades y alterado el panorama competitivo. Lo que permanece, sin embargo, son las preguntas fundamentales sobre qué tipo de tecnología queremos, quién debe decidirlo y cómo podemos asegurar que sus beneficios se distribuyan de manera justa mientras se mitigan sus riesgos. Esas preguntas, y las herramientas conceptuales para abordarlas, son el verdadero objeto de este trabajo.

1.5 Marco conceptual: De los estudios CTS clásicos al análisis crítico de la IA generativa

El análisis que sigue se inscribe en la tradición de los Estudios de Ciencia, Tecnología y Sociedad (CTS), pero reconoce desde el inicio una tensión fundamental: los marcos conceptuales desarrollados para comprender tecnologías industriales, nucleares o biotecnológicas del siglo XX resultan insuficientes para captar la especificidad de los sistemas de IA generativa. Los conceptos clásicos de Jasanoff, Collingridge y Winner siguen siendo útiles como punto de partida, pero requieren una actualización sustancial a la luz de la investigación contemporánea que ha emergido específicamente para abordar los desafíos epistémicos, políticos y materiales de la IA.

1.6 Estructura del documento

La monografía se organiza en cuatro partes:

Parte I: Fundamentos (Capítulos 2-3) presenta las bases técnicas de la IA generativa, desde las arquitecturas de transformers hasta los procesos de entrenamiento y alineación, explicadas de modo accesible para lectores sin formación técnica especializada.

Parte II: Aplicaciones (Capítulos 4-7) examina los usos en sectores clave: investigación científica, medicina y salud, educación, producción creativa y programación asistida.

Parte III: Riesgos y desafíos (Capítulos 8-11) aborda los problemas de ciberseguridad, desinformación, impacto laboral y uso militar, así como los marcos regulatorios emergentes.

Parte IV: Perspectivas (Capítulos 12-14) incluye estudios de caso emblemáticos, escenarios prospectivos y consideraciones finales.

El documento concluye con un glosario de términos técnicos y la bibliografía completa.

2.1 De las reglas a las representaciones: una perspectiva histórica

La historia de la inteligencia artificial puede narrarse como una sucesión de paradigmas sobre cómo representar y manipular el conocimiento. En sus primeras décadas (1950-1980), dominó la IA simbólica: sistemas basados en reglas explícitas, ontologías formales y mecanismos de inferencia lógica. Proyectos emblemáticos como DENDRAL (1965), MYCIN (1976) o los sistemas expertos de los años ochenta encarnaban esta visión. Estos sistemas funcionaban bien en dominios acotados —diagnóstico médico estructurado, configuración de ordenadores, resolución de puzzles—, pero resultaban frágiles ante la ambigüedad del lenguaje natural y la complejidad del mundo real.

La revolución conexionista de los años ochenta y noventa propuso una alternativa radical: en lugar de programar reglas, entrenar redes neuronales que aprendieran patrones a partir de ejemplos. Las neuronas artificiales, organizadas en capas, ajustaban sus conexiones mediante algoritmos de retropropagación del error. El enfoque era prometedor —el Perceptrón multicapa podía aprender funciones no lineales, las redes de Hopfield capturaban memorias asociativas—, pero las limitaciones computacionales y la escasez de datos etiquetados impidieron un despliegue a gran escala. El llamado “invierno de la IA” de los noventa reflejó el agotamiento de estas aproximaciones ante problemas de dimensionalidad alta.

El panorama cambió radicalmente en la década de 2010 con la convergencia de tres factores (Briggs et al., 2023):

1. Potencia de cómputo masiva: La adopción de GPUs (Graphics Processing Units) para entrenamiento de redes neuronales, seguida de TPUs (Tensor Processing Units) y clusters de cómputo en la nube, multiplicó por órdenes de magnitud la capacidad de procesamiento disponible.

2. Disponibilidad de datos: La expansión de Internet generó conjuntos de datos de escala sin precedentes —billones de tokens de texto, miles de millones de imágenes etiquetadas—, el combustible necesario para entrenar modelos con cientos de millones de parámetros.

3. Avances arquitectónicos: Innovaciones como las redes convolucionales profundas (AlexNet, 2012), las redes recurrentes con memoria (LSTM), y finalmente la arquitectura Transformer (2017) proporcionaron las estructuras capaces de aprovechar ese cómputo y esos datos.

El deep learning pasó de curiosidad académica a tecnología omnipresente. La investigación de Sevilla et al. (Sevilla et al., 2022) documenta rigurosamente esta transición, identificando tres eras distintas en la demanda de cómputo para entrenar sistemas de machine learning:

Código

library(ggplot2)
library(dplyr)
library(scales)

# Datos de las tres eras según Sevilla et al. (2022)
eras_data <- tibble(
  era = factor(
    c("Pre-Deep Learning\n(1952-2010)", 
      "Deep Learning\n(2010-2022)", 
      "Gran Escala\n(2015-2022)"),
    levels = c("Pre-Deep Learning\n(1952-2010)", 
               "Deep Learning\n(2010-2022)", 
               "Gran Escala\n(2015-2022)")
  ),
  tiempo_duplicacion_meses = c(21.3, 5.7, 9.9),
  flops_inicio = c(3e4, 7e14, 4e21),
  flops_fin = c(2e14, 2e18, 8e23),
  n_modelos = c(19, 80, 19),
  color = c("#2E86AB", "#A23B72", "#F18F01")
)

# Gráfico de tiempo de duplicación
p_duplicacion <- ggplot(eras_data, aes(x = era, y = tiempo_duplicacion_meses, fill = era)) +
  geom_col(width = 0.7, show.legend = FALSE) +
  geom_text(aes(label = paste0(tiempo_duplicacion_meses, " meses")), 
            vjust = -0.5, fontface = "bold", size = 4) +
  geom_hline(yintercept = 24, linetype = "dashed", color = "gray50", linewidth = 0.8) +
  annotate("text", x = 3, y = 25.5, label = "Ley de Moore (~24 meses)", 
           size = 3.5, color = "gray40", hjust = 1) +
  scale_fill_manual(values = c("#2E86AB", "#A23B72", "#F18F01")) +
  labs(
    title = "Tiempo de duplicación del cómputo de entrenamiento",
    subtitle = "La era Deep Learning duplica cómputo 4x más rápido que la Ley de Moore",
    x = NULL,
    y = "Meses para duplicar cómputo"
  ) +
  theme_minimal(base_size = 12) +
  theme(
    plot.title = element_text(face = "bold"),
    axis.text.x = element_text(size = 10)
  ) +
  ylim(0, 28)

p_duplicacion

2.2 La arquitectura Transformer

El hito arquitectónico decisivo llegó en 2017 con el artículo “Attention is All You Need” de Vaswani et al. (Vaswani et al., 2017), que introdujo la arquitectura Transformer. El título del artículo, traducible como “La atención es todo lo que necesitas”, capturaba una innovación radical: prescindir por completo de las redes recurrentes (RNN, LSTM) que habían dominado el procesamiento de secuencias durante una década.

2.2.2 El mecanismo de autoatención

Los Transformers resuelven ambos problemas mediante un mecanismo denominado autoatención (self-attention). En lugar de procesar secuencias token por token, la autoatención permite que cada posición “atienda” simultáneamente a todas las demás posiciones de la secuencia, en una única operación matricial paralelizable.

El mecanismo funciona mediante tres transformaciones lineales de cada token de entrada:

• Consultas (Queries, Q): Representan “qué información busca” cada token
• Claves (Keys, K): Representan “qué información ofrece” cada token
  
• Valores (Values, V): Representan “qué información transmite” cada token

El peso con que un token i atiende a otro token j se calcula como el producto escalar de sus consultas y claves, normalizado mediante softmax y escalado por \(\sqrt{d_k}\) para estabilidad numérica:

\[\text{Attention}(Q, K, V) = \text{softmax}\left(\frac{QK^T}{\sqrt{d_k}}\right)V\]

Código

library(ggplot2)

# Datos para ilustrar flujo de atención
set.seed(42)
n_tokens <- 6
tokens <- c("El", "modelo", "Transformer", "revolucionó", "el", "NLP")

# Matriz de atención simulada (realista)
attention_matrix <- matrix(
  c(0.50, 0.20, 0.15, 0.05, 0.05, 0.05,  # El -> atiende más a sí mismo y "modelo"
    0.10, 0.40, 0.30, 0.10, 0.05, 0.05,  # modelo -> atiende a "Transformer"
    0.05, 0.25, 0.45, 0.15, 0.05, 0.05,  # Transformer -> fuerte auto-atención
    0.05, 0.15, 0.30, 0.35, 0.05, 0.10,  # revolucionó -> atiende a "Transformer"
    0.15, 0.10, 0.10, 0.10, 0.40, 0.15,  # el -> atiende a "NLP" 
    0.05, 0.10, 0.20, 0.20, 0.10, 0.35), # NLP -> distribuido
  nrow = 6, byrow = TRUE
)

# Convertir a formato largo para ggplot
attention_df <- expand.grid(
  origen = 1:n_tokens,
  destino = 1:n_tokens
) %>%
  mutate(
    peso = as.vector(attention_matrix),
    token_origen = factor(tokens[origen], levels = tokens),
    token_destino = factor(tokens[destino], levels = tokens)
  )

# Crear el heatmap
p_attention <- ggplot(attention_df, aes(x = destino, y = origen, fill = peso)) +
  geom_tile(color = "white", linewidth = 0.5) +
  geom_text(aes(label = sprintf("%.2f", peso)), 
            color = ifelse(attention_df$peso > 0.3, "white", "black"), size = 3.2) +
  scale_fill_viridis_c(option = "plasma", name = "Peso de\natención") +
  scale_x_continuous(
    breaks = 1:n_tokens,
    labels = tokens,
    position = "top"
  ) +
  scale_y_reverse(
    breaks = 1:n_tokens,
    labels = tokens
  ) +
  labs(
    title = "Matriz de autoatención (ejemplo ilustrativo)",
    subtitle = "Filas: token origen | Columnas: token destino",
    x = "Token destino (a qué atiende)",
    y = "Token origen (quién atiende)"
  ) +
  theme_minimal(base_size = 11) +
  theme(
    axis.text.x = element_text(angle = 45, hjust = 0, vjust = 0, face = "bold"),
    axis.text.y = element_text(face = "bold"),
    legend.position = "right",
    plot.title = element_text(face = "bold"),
    panel.grid = element_blank()
  ) +
  coord_fixed()

p_attention

2.3 Leyes de escalado: más grande es diferente

El escalado de los modelos de lenguaje no es simplemente “más de lo mismo”. La investigación empírica ha revelado leyes de escalado (scaling laws) que gobiernan la relación entre tamaño del modelo, cantidad de datos y rendimiento final.

library(ggplot2)
library(dplyr)
library(scales)
library(ggrepel)  # Añadir esta librería

# Datos de modelos representativos
modelos_data <- tibble(
  modelo = c("GPT-3", "Gopher", "MT-NLG", "Chinchilla", "LLaMA 65B"),
  parametros_B = c(175, 280, 530, 70, 65),
  tokens_B = c(300, 300, 270, 1400, 1400),
  ratio = tokens_B / parametros_B,
  optimo = c(FALSE, FALSE, FALSE, TRUE, TRUE),
  año = c(2020, 2021, 2022, 2022, 2023)
)

# Línea de tendencia óptima según Chinchilla (20 tokens por parámetro aprox)
optimal_line <- tibble(
  parametros_B = seq(10, 600, by = 10),
  tokens_B = parametros_B * 20
)

p_chinchilla <- ggplot() +
  # Línea óptima
  geom_line(data = optimal_line, aes(x = parametros_B, y = tokens_B),
            color = "darkgreen", linewidth = 1, linetype = "dashed", alpha = 0.7) +
  # Puntos de modelos
  geom_point(data = modelos_data, 
             aes(x = parametros_B, y = tokens_B, color = optimo, size = optimo)) +
  # Etiquetas con ggrepel para evitar superposición
  geom_text_repel(data = modelos_data,
                  aes(x = parametros_B, y = tokens_B, label = modelo),
                  size = 3.5, fontface = "bold",
                  box.padding = 0.6,
                  point.padding = 0.4,
                  segment.color = "gray50",
                  segment.size = 0.4,
                  segment.linetype = "dotted",
                  min.segment.length = 0,
                  max.overlaps = Inf,
                  seed = 42,  # Reproducibilidad
                  direction = "both") +
  # Zona de modelos "subentrenados"
  annotate("rect", xmin = 150, xmax = 600, ymin = 200, ymax = 400,
           alpha = 0.1, fill = "red") +
  annotate("text", x = 400, y = 350, 
           label = "Zona subentrenada\n(muchos parámetros,\npocos datos)", 
           color = "darkred", size = 3, fontface = "italic") +
  scale_x_continuous(labels = label_comma(suffix = "B"), 
                     breaks = seq(0, 600, by = 100)) +
  scale_y_continuous(labels = label_comma(suffix = "B"),
                     breaks = seq(0, 1500, by = 300)) +
  scale_color_manual(values = c("FALSE" = "#E63946", "TRUE" = "#2A9D8F"),
                     labels = c("Subóptimo", "Compute-óptimo")) +
  scale_size_manual(values = c("FALSE" = 4, "TRUE" = 6), guide = "none") +
  labs(
    title = "Ley de escalado Chinchilla: equilibrio parámetros-datos",
    subtitle = "Modelos anteriores a 2022 subentrenados; Chinchilla demuestra el óptimo",
    x = "Parámetros (miles de millones)",
    y = "Tokens de entrenamiento (miles de millones)",
    color = "Eficiencia",
    caption = "Datos basados en Hoffmann et al. (2022)"
  ) +
  theme_minimal(base_size = 12) +
  theme(
    plot.title = element_text(face = "bold"),
    legend.position = "bottom"
  )

p_chinchilla

2.3.2 Capacidades emergentes

Uno de los fenómenos más intrigantes del escalado es la aparición de capacidades emergentes: habilidades que están ausentes en modelos pequeños, permanecen en rendimiento aleatorio durante varios órdenes de magnitud de escala, y “emergen” abruptamente al superar cierto umbral (Wei et al., 2022).

Wei et al. documentan múltiples ejemplos de emergencia en el benchmark BIG-Bench: aritmética de tres dígitos, transliteración fonética, desciframiento de palabras, y resolución de problemas matemáticos verbales aparecen súbitamente en modelos que superan aproximadamente 10²² FLOPs de entrenamiento o 10-100 mil millones de parámetros, dependiendo de la tarea.

Código

library(ggplot2)
library(dplyr)

# Simular datos de capacidad emergente
set.seed(123)
scale_points <- 10^seq(7, 12, by = 0.5)
n_points <- length(scale_points)

emergent_data <- tibble(
  scale = rep(scale_points, 3),
  task = rep(c("Aritmética 3 dígitos", "Transliteración IPA", "Word unscramble"), 
             each = n_points),
  accuracy = c(
    # Aritmética: emerge ~10^10
    ifelse(scale_points < 1e10, runif(n_points, 0, 10), 
           pmin(100, 20 + 70 * log10(scale_points/1e10) + rnorm(n_points, 0, 3))),
    # Transliteración: emerge ~10^11
    ifelse(scale_points < 5e10, runif(n_points, 0, 8), 
           pmin(100, 15 + 60 * log10(scale_points/5e10) + rnorm(n_points, 0, 4))),
    # Word unscramble: emerge ~10^10.5
    ifelse(scale_points < 3e10, runif(n_points, 0, 12), 
           pmin(100, 10 + 65 * log10(scale_points/3e10) + rnorm(n_points, 0, 3)))
  )
) %>%
  mutate(accuracy = pmax(0, pmin(100, accuracy)))

p_emergent <- ggplot(emergent_data, aes(x = scale, y = accuracy, color = task)) +
  geom_line(linewidth = 1.2) +
  geom_point(size = 2) +
  geom_hline(yintercept = 25, linetype = "dashed", color = "gray50", alpha = 0.7) +
  annotate("text", x = 1e8, y = 28, label = "Rendimiento aleatorio", 
           size = 3, color = "gray40") +
  scale_x_log10(
    breaks = 10^(7:12),
    labels = c("10⁷", "10⁸", "10⁹", "10¹⁰", "10¹¹", "10¹²")
  ) +
  scale_color_viridis_d(option = "turbo", begin = 0.1, end = 0.8) +
  labs(
    title = "Capacidades emergentes: aparición abrupta con la escala",
    subtitle = "Rendimiento aleatorio hasta umbral crítico, luego mejora rápida",
    x = "Cómputo de entrenamiento (FLOPs)",
    y = "Precisión (%)",
    color = "Tarea"
  ) +
  theme_minimal(base_size = 12) +
  theme(
    plot.title = element_text(face = "bold"),
    legend.position = "bottom"
  )

p_emergent

Este fenómeno tiene implicaciones profundas para la predicción y gobernanza de la IA: si ciertas capacidades —incluyendo potencialmente capacidades peligrosas— emergen de forma impredecible al escalar, anticipar los riesgos de sistemas futuros se vuelve inherentemente difícil.

En defensa de la hipótesis del escalado

Blaise Agüera y Arcas, vicepresidente de Google y líder del grupo Paradigms of Intelligence, ejemplifica la posición de quienes, desde el interior de las grandes tecnológicas, defienden que las capacidades de los LLMs no requieren explicaciones especiales más allá de la escala. En una entrevista reciente, Agüera relata cómo los predictores de texto para teclados móviles a principios de los años 2010 le llevaron a asumir que estos modelos “no pasarían de hacer coincidir patrones”. Sin embargo, cuando los modelos crecieron y se entrenaron con datos masivos de internet, comenzaron a resolver correctamente problemas de razonamiento:

“Me vi obligado a revisar mi idea de que la inteligencia requería algún tipo de ‘polvo de hadas’. Resulta que no, solo se trataba de hacer más grandes los modelos” (Agüera y Arcas, 2025).

Esta posición representa la versión más optimista de las leyes de escala: la capacidad emergente no como anomalía sino como consecuencia predecible del aumento de parámetros, datos y cómputo. Agüera señala que la predicción del siguiente token —la tarea aparentemente trivial con la que se entrenan los LLMs— constituye en sí misma una forma de inteligencia funcional.

2.4 El paradigma de preentrenamiento y ajuste

Los grandes modelos de lenguaje (LLMs) siguen un esquema de entrenamiento en fases que ha demostrado ser extraordinariamente efectivo:

2.4.3 Fase 3: Aprendizaje por refuerzo con retroalimentación humana (RLHF)

El avance metodológico que catalizó la era de ChatGPT fue el RLHF (Reinforcement Learning from Human Feedback), desarrollado y refinado por Ouyang et al. (Ouyang et al., 2022) de OpenAI. El proceso consta de tres pasos:

1. Entrenamiento de modelo de recompensa: Evaluadores humanos comparan pares de respuestas del modelo a la misma pregunta e indican cuál prefieren. Estas preferencias entrenan un modelo de recompensa (RM) que predice la preferencia humana.

2. Optimización con PPO: El modelo de lenguaje se ajusta mediante Proximal Policy Optimization (PPO) para maximizar la recompensa predicha, con restricciones para evitar desviaciones excesivas del modelo original.

3. Iteración: El proceso puede repetirse, recogiendo nuevas preferencias sobre el modelo mejorado.

Código

library(ggplot2)
library(dplyr)

# Datos comparativos de costes y preferencias
rlhf_data <- tibble(
  fase = factor(c("Preentrenamiento", "SFT", "RLHF"), 
                levels = c("Preentrenamiento", "SFT", "RLHF")),
  petaflops_days = c(3640, 4.9, 60),
  porcentaje = c(98.2, 0.13, 1.62)
)

# Datos de preferencia humana
preferencia_data <- tibble(
  comparacion = c("InstructGPT 1.3B vs GPT-3 175B", 
                  "InstructGPT vs FLAN",
                  "InstructGPT vs T0"),
  preferencia_instructgpt = c(85, 78, 79),
  descripcion = c("Modelo 100× más pequeño\npreferido", 
                  "vs fine-tuning en tareas NLP",
                  "vs fine-tuning en tareas NLP")
)

p_rlhf_cost <- ggplot(rlhf_data, aes(x = fase, y = porcentaje, fill = fase)) +
  geom_col(width = 0.6, show.legend = FALSE) +
  geom_text(aes(label = sprintf("%.1f%%", porcentaje)), 
            vjust = -0.5, fontface = "bold", size = 4) +
  scale_fill_manual(values = c("#264653", "#2A9D8F", "#E9C46A")) +
  labs(
    title = "Distribución del costo computacional por fase",
    subtitle = "El ajuste (SFT + RLHF) representa <2% del costo total",
    x = NULL,
    y = "Porcentaje del costo total"
  ) +
  theme_minimal(base_size = 12) +
  theme(
    plot.title = element_text(face = "bold"),
    axis.text.x = element_text(size = 11, face = "bold")
  ) +
  ylim(0, 105)

p_rlhf_cost

El resultado más sorprendente de Ouyang et al. fue que InstructGPT de 1.3B parámetros era preferido por los evaluadores humanos sobre GPT-3 de 175B —un modelo 100× más grande— en la mayoría de las tareas. Esto demostró que el RLHF es más costo-efectivo para mejorar la utilidad que simplemente escalar el modelo base.

Limitaciones del RLHF

El RLHF no está exento de problemas:

• Sesgo de los evaluadores: Las preferencias reflejan los valores y sesgos del grupo específico de anotadores
• Reward hacking: El modelo puede aprender a “engañar” al modelo de recompensa sin mejorar genuinamente
• Pérdida de diversidad: La optimización puede reducir la variedad de respuestas
• Costo de supervisión: El proceso requiere evaluación humana continua

2.5 Limitaciones fundamentales: el problema de las alucinaciones

A pesar de sus capacidades impresionantes, los LLMs exhiben una limitación fundamental que compromete su fiabilidad: las alucinaciones —generación de contenido que es fluido y convincente pero factualmente incorrecto o sin fundamento en la realidad.

2.5.2 Detección mediante entropía semántica

Farquhar y colaboradores desarrollaron un método probabilístico para detectar confabulaciones basado en la entropía semántica: en lugar de medir la variabilidad de las palabras generadas (que sería alta incluso para paráfrasis correctas), miden la variabilidad de los significados. Si el modelo genera respuestas que significan cosas diferentes ante la misma pregunta, la entropía semántica es alta, indicando probable confabulación (Farquhar et al., 2024).

Código

library(ggplot2)
library(dplyr)
library(tidyr)

# Datos simulados de entropía semántica
set.seed(456)
n <- 100

detection_data <- tibble(
  pregunta_id = 1:n,
  semantic_entropy = c(
    rnorm(60, mean = 0.3, sd = 0.15),  # Baja entropía (respuestas correctas)
    rnorm(40, mean = 0.85, sd = 0.12)   # Alta entropía (confabulaciones)
  ),
  es_correcto = c(rep(TRUE, 60), rep(FALSE, 40))
) %>%
  mutate(
    semantic_entropy = pmax(0, pmin(1, semantic_entropy)),
    clasificacion = ifelse(es_correcto, "Respuesta correcta", "Confabulación")
  )

p_entropy <- ggplot(detection_data, aes(x = semantic_entropy, fill = clasificacion)) +
  geom_histogram(bins = 25, alpha = 0.8, position = "identity", color = "white") +
  geom_vline(xintercept = 0.6, linetype = "dashed", color = "gray30", linewidth = 1) +
  annotate("text", x = 0.62, y = 12, label = "Umbral de\ndetección", 
           hjust = 0, size = 3.5, color = "gray30") +
  scale_fill_manual(values = c("Confabulación" = "#E63946", 
                               "Respuesta correcta" = "#2A9D8F")) +
  labs(
    title = "Detección de confabulaciones mediante entropía semántica",
    subtitle = "Respuestas con alta variabilidad semántica indican probable alucinación",
    x = "Entropía semántica (0 = consistente, 1 = variable)",
    y = "Número de preguntas",
    fill = "Tipo de respuesta"
  ) +
  theme_minimal(base_size = 12) +
  theme(
    plot.title = element_text(face = "bold"),
    legend.position = "bottom"
  )

p_entropy

Este método ha demostrado capacidad de detección superior a baselines en múltiples datasets (TriviaQA, BioASQ, SQuAD), sin requerir conocimiento previo del dominio. Sin embargo, como reconocen los autores, no garantiza factualidad: funciona para confabulaciones (errores arbitrarios) pero no para errores sistemáticos causados por datos de entrenamiento defectuosos o sesgados.

2.6 De modelos de texto a sistemas multimodales

2.6.1 La convergencia de modalidades

Una evolución crucial posterior a 2023 ha sido la extensión de los transformers más allá del texto. Los modelos multimodales actuales procesan y generan contenido en múltiples formatos: imágenes (DALL-E 3, Midjourney, Stable Diffusion), audio (Whisper, MusicGen, Suno), vídeo (Sora, Runway Gen-3) y combinaciones integradas (Ling Teo et al., 2025).

La arquitectura subyacente sigue principios similares: se aprenden representaciones conjuntas de diferentes tipos de datos en un espacio vectorial compartido (embedding space), lo que permite tareas de traducción entre modalidades. Técnicas como CLIP (Contrastive Language-Image Pre-training) han demostrado que el aprendizaje contrastivo puede alinear representaciones visuales y textuales de manera efectiva.

GPT-4, con capacidad de procesar texto e imágenes simultáneamente, ejemplifica esta convergencia: en el informe técnico de OpenAI, demostró capacidad para describir imágenes complejas, resolver problemas matemáticos presentados visualmente, interpretar gráficos científicos y mantener conversaciones sobre contenido visual. Según Briggs y Kodnani (Briggs et al., 2023), GPT-4 obtiene 150 puntos más en el SAT que su predecesor y es 40% más preciso en sus respuestas.

Código

library(ggplot2)
library(dplyr)
library(tidyr)

benchmarks_multimodal <- tibble(
  Benchmark = c("MMLU\n(conocimiento)", "HellaSwag\n(sentido común)", 
                "WinoGrande\n(razonamiento)", "ARC-C\n(ciencia)",
                "VQA v2\n(visual QA)", "TextVQA\n(texto en imagen)"),
  `GPT-3.5` = c(70.0, 85.5, 81.6, 85.2, NA, NA),
  `GPT-4 (texto)` = c(86.4, 95.3, 87.5, 96.3, NA, NA),
  `GPT-4V (vision)` = c(86.4, 95.3, 87.5, 96.3, 77.2, 78.0),
  `Gemini Ultra` = c(90.0, 87.8, 83.7, 83.7, 77.8, 82.3)
) %>%
  pivot_longer(-Benchmark, names_to = "Modelo", values_to = "Score") %>%
  filter(!is.na(Score))

ggplot(benchmarks_multimodal, aes(x = Benchmark, y = Score, fill = Modelo)) +
  geom_col(position = position_dodge(width = 0.8), width = 0.7) +
  geom_text(aes(label = round(Score, 1)), 
            position = position_dodge(width = 0.8), 
            vjust = -0.3, size = 2.5) +
  scale_fill_brewer(palette = "Set2") +
  scale_y_continuous(limits = c(0, 100), expand = c(0, 0)) +
  labs(
    title = "Rendimiento comparado de modelos fundacionales",
    subtitle = "Benchmarks de texto y visión-lenguaje",
    x = NULL,
    y = "Puntuación (%)",
    fill = "Modelo",
    caption = "Fuente: OpenAI GPT-4 Technical Report (2023), Google Gemini Report (2023)"
  ) +
  theme_minimal(base_size = 10) +
  theme(
    plot.title = element_text(face = "bold"),
    axis.text.x = element_text(angle = 0, hjust = 0.5, size = 8),
    legend.position = "bottom"
  )

modalidades_ampliada <- tibble(
  Modalidad = c("Texto → Texto", "Texto → Imagen", "Imagen → Texto", 
                "Texto → Audio", "Texto → Vídeo", "Texto → Código", 
                "Multimodal integrado"),
  `Sistemas líderes` = c(
    "GPT-4o, Claude 3.5, Gemini 2.0, LLaMA 3",
    "DALL-E 3, Midjourney v6, Flux, SD XL",
    "GPT-4V, LLaVA, Gemini Pro Vision",
    "Eleven Labs, Suno AI, MusicGen",
    "Sora, Runway Gen-3, Kling, Pika",
    "GitHub Copilot, Cursor, Claude Code",
    "GPT-4o, Gemini 2.0, Claude 3.5 Sonnet"
  ),
  Arquitectura = c(
    "Transformer autoregresivo",
    "Diffusion + CLIP/T5",
    "Vision Transformer + LLM",
    "Diffusion / Autoregresivo",
    "Diffusion temporal 3D",
    "Transformer + AST",
    "Transformer unificado"
  ),
  `Desafíos principales` = c(
    "Alucinaciones, ventana contexto",
    "Coherencia anatómica, texto en imagen",
    "Razonamiento espacial complejo",
    "Naturalidad prosodia, control fino",
    "Coherencia temporal, física, coste",
    "Bugs sutiles, seguridad código",
    "Latencia, coste computacional"
  )
)

tabla_bonita(modalidades_ampliada)

3.1 Los gigantes tecnológicos y la concentración del mercado

El desarrollo de IA generativa de frontera está dominado por un reducido grupo de actores con los recursos necesarios para invertir miles de millones de dólares en infraestructura, datos y talento. Según estimaciones de Goldman Sachs, este oligopolio controla más del 80% del mercado de modelos de frontera (Briggs et al., 2023).

OpenAI (fundada en 2015 como organización sin ánimo de lucro, reconvertida en empresa con fines de lucro “limitado” en 2019) ha liderado la carrera con las series GPT. Su alianza estratégica con Microsoft (que ha invertido más de 13.000 millones de dólares) le proporciona acceso a infraestructura cloud de Azure y canales de distribución masiva. ChatGPT alcanzó 100 millones de usuarios activos en solo dos meses tras su lanzamiento, el crecimiento más rápido de cualquier aplicación de consumo en la historia.

Google DeepMind (resultado de la fusión en 2023 de DeepMind y Google Brain) combina la potencia computacional de Google con el historial investigador de DeepMind. Sus modelos Gemini compiten directamente con GPT-4, mientras AlphaFold ha revolucionado la predicción de estructuras proteicas con implicaciones transformadoras para el descubrimiento de fármacos.

Anthropic (fundada en 2021 por exempleados de OpenAI preocupados por la seguridad) desarrolla la familia Claude con un enfoque explícito en “IA constitucional”. Ha recibido inversiones superiores a 7.000 millones de dólares de Amazon y Google, posicionándose como la alternativa centrada en seguridad.

Meta AI apuesta por el código abierto con la familia LLaMA, permitiendo que investigadores y empresas adapten sus modelos libremente. LLaMA 2 y 3 han dinamizado el ecosistema de modelos abiertos, aunque con restricciones de uso comercial para aplicaciones de gran escala.

Otros actores relevantes incluyen Mistral AI (Francia), xAI (Elon Musk), Cohere (Canadá), y los gigantes chinos (Baidu con ERNIE, Alibaba con Qwen, ByteDance con Doubao) con desarrollos notables pero menor presencia en mercados occidentales debido a barreras regulatorias y lingüísticas.

Código

library(ggplot2)
library(dplyr)

market_data <- tibble(
  empresa = c("OpenAI/Microsoft", "Google DeepMind", "Anthropic", 
              "Meta (open source)", "Mistral AI", "Otros"),
  cuota = c(42, 28, 12, 8, 5, 5),
  inversion_B = c(13.0, NA, 7.3, NA, 1.1, NA)  # NA para divisiones internas
)

ggplot(market_data, aes(x = reorder(empresa, cuota), y = cuota)) +
  geom_col(aes(fill = cuota), width = 0.7) +
  geom_text(aes(label = paste0(cuota, "%")), hjust = -0.2, fontface = "bold", size = 4) +
  coord_flip() +
  scale_fill_gradient(low = "#85c1e9", high = "#1a5276", guide = "none") +
  scale_y_continuous(limits = c(0, 55), expand = c(0, 0)) +
  labs(
    title = "Cuota de mercado en LLMs de frontera (2025)",
    subtitle = "Estimación basada en uso empresarial y llamadas a API",
    x = NULL,
    y = "Cuota de mercado (%)",
    caption = "Fuente: Estimaciones basadas en Goldman Sachs (2023), informes de analistas"
  ) +
  theme_minimal(base_size = 11) +
  theme(
    plot.title = element_text(face = "bold"),
    panel.grid.major.y = element_blank()
  )

3.2 Infraestructura y cadena de suministro crítica

El entrenamiento de grandes modelos requiere infraestructura especializada cuyo control confiere ventaja competitiva estratégica.

3.3 El paisaje regulatorio emergente

La respuesta regulatoria ha sido heterogénea pero crecientemente activa, con tres modelos principales compitiendo por establecer estándares globales.

# Datos del calendario del AI Act
aiact_timeline <- tibble(
  fase = c(
    "Prohibiciones\n(Art. 5)",
    "GPAI +\ncódigos práctica",
    "Alto riesgo\n(Anexo III)",
    "Sistemas\nAnexo I"
  ),
  fecha = as.Date(c(
    "2025-02-01",
    "2025-08-01",
    "2026-08-01",
    "2027-08-01"
  )),
  y_pos = c(1, 2, 1, 2)
)

# Gráfico del timeline
ggplot(aiact_timeline, aes(x = fecha, y = y_pos)) +
  geom_segment(
    aes(
      x = as.Date("2024-10-01"),
      xend = as.Date("2028-01-01"),
      y = 1.5, yend = 1.5
    ),
    color = "#2c3e50", linewidth = 0.8
  ) +
  geom_segment(
    aes(xend = fecha, yend = 1.5),
    color = "#2c3e50", linewidth = 1
  ) +
  geom_point(size = 6, color = "#3498db") +
  geom_text(
    aes(label = format(fecha, "%b\n%Y")),
    y = 1.5, size = 3, fontface = "bold"
  ) +
  geom_label(
    aes(label = fase),
    y = c(0.7, 2.3, 0.7, 2.3),
    size = 2.8, fill = "#ecf0f1", label.size = 0.3
  ) +
  scale_x_date(
    limits = as.Date(c("2024-10-01", "2028-01-01")),
    breaks = seq(as.Date("2025-01-01"), as.Date("2027-12-01"), by = "1 year"),
    date_labels = "%Y"
  ) +
  scale_y_continuous(limits = c(0, 3)) +
  labs(
    title = "Calendario de implementación del AI Act (UE 2024/1689)",
    subtitle = "Entrada en vigor progresiva desde agosto 2024",
    x = NULL, y = NULL,
    caption = "Fuente: Reglamento UE 2024/1689, Novelli et al. (2024)"
  ) +
  theme_minimal(base_size = 10) +
  theme(
    plot.title = element_text(face = "bold"),
    axis.text = element_blank(),
    axis.ticks = element_blank()
  )

regulacion_ampliada <- tibble(
  Aspecto = c("Marco principal", "Naturaleza", "Enfoque de riesgo", 
              "Sanciones máximas", "Modelos fundacionales"),
  `Unión Europea` = c(
    "AI Act (2024/1689)",
    "Vinculante, prescriptivo",
    "4 niveles: inaceptable → mínimo",
    "35M€ o 7% facturación",
    "Obligaciones >10²⁵ FLOPs"
  ),
  `Estados Unidos` = c(
    "EO 14110 + NIST AI RMF",
    "Orientativo + sectorial",
    "Basado en casos de uso",
    "Variable por agencia",
    "Notificación dual-use"
  ),
  `Reino Unido` = c(
    "Pro-innovation approach",
    "Principios, no prescriptivo",
    "Proporcionalidad contextual",
    "En definición",
    "Sandbox regulatorio"
  ),
  China = c(
    "Regulaciones específicas",
    "Vinculante, control contenido",
    "Por tecnología",
    "Administrativas + penales",
    "Registro obligatorio"
  )
)

tabla_bonita(regulacion_ampliada)

3.4 Impacto económico: proyecciones y evidencia temprana

Las estimaciones sobre el impacto económico de la IA generativa convergen en anticipar efectos transformadores. Goldman Sachs estima que podría aumentar el PIB global en un 7% (~7 billones USD) y elevar el crecimiento de la productividad laboral en 1,5 puntos porcentuales durante una década (Briggs et al., 2023).

Código

exposure_data <- tibble(
  sector = c("Legal", "Administrativo", "Finanzas", "Informática",
             "Arquitectura/Ing.", "Ciencias", "Educación", "Artes",
             "Sanidad", "Ventas", "Gestión", "Producción", "Construcción"),
  exposicion_alta = c(44, 46, 35, 29, 24, 23, 21, 18, 16, 15, 14, 6, 6),
  exposicion_complementaria = c(35, 32, 45, 52, 58, 55, 57, 62, 60, 58, 62, 42, 38)
) %>%
  mutate(exposicion_baja = 100 - exposicion_alta - exposicion_complementaria) %>%
  tidyr::pivot_longer(-sector, names_to = "tipo", values_to = "porcentaje") %>%
  mutate(tipo = factor(tipo, 
                       levels = c("exposicion_baja", "exposicion_complementaria", "exposicion_alta"),
                       labels = c("Baja (<10%)", "Complemento (10-49%)", "Sustitución (>50%)")))

ggplot(exposure_data, aes(x = reorder(sector, -porcentaje), y = porcentaje, fill = tipo)) +
  geom_col(position = "stack", width = 0.7) +
  coord_flip() +
  scale_fill_manual(values = c("#27ae60", "#f39c12", "#e74c3c")) +
  labs(
    title = "Exposición ocupacional a la automatización por IA generativa",
    subtitle = "Porcentaje de tareas por nivel de exposición",
    x = NULL, y = "Porcentaje del empleo sectorial (%)",
    fill = "Exposición",
    caption = "Fuente: Briggs & Kodnani, Goldman Sachs (2023)"
  ) +
  theme_minimal(base_size = 10) +
  theme(
    plot.title = element_text(face = "bold"),
    legend.position = "bottom",
    axis.text.y = element_text(size = 9)
  )

La teoría económica sugiere dos efectos contrapuestos (Acemoglu & Restrepo, 2019): el efecto desplazamiento (automatización sustituyendo trabajadores) y el efecto reinstauración (creación de nuevas tareas). Históricamente el segundo ha dominado —el 60% de empleos actuales no existían en 1940— aunque desde los 1980s el desplazamiento supera la creación de nuevas tareas.

3.5 Tensiones estructurales del ecosistema

El ecosistema de IA está atravesado por tensiones que definirán su evolución en la próxima década. Los análisis prospectivos identifican escenarios divergentes cuya resolución dependerá de decisiones políticas, empresariales y académicas que se están tomando ahora.

Apertura vs. cierre: La tensión entre modelos abiertos (auditoría, adaptación, democratización) y propietarios (ventaja competitiva, control de riesgos) define una fractura estratégica. Meta apuesta por código abierto; OpenAI ha transitado hacia mayor cierre tras su transformación corporativa. Hazell (2023) advierte que la liberación de modelos open-source de alto rendimiento podría invalidar las estrategias de gobernanza basadas en acceso estructurado, ya que los usuarios tendrían acceso no monitorizado a capacidades avanzadas, incluyendo la posibilidad de fine-tuning para casos de uso malicioso.

Velocidad vs. seguridad: La presión competitiva incentiva lanzamientos rápidos, potencialmente a costa de pruebas exhaustivas. Los protocolos de evaluación de riesgos (RSPs de Anthropic, preparedness frameworks de OpenAI) intentan equilibrar innovación y precaución. Radanliev et al. (2025) argumentan que la resiliencia debe redefinirse no solo en términos técnicos, sino también de responsabilidad ética y adaptabilidad regulatoria, proponiendo un marco dinámico capaz de evolucionar con el panorama tecnológico.

Globalización vs. soberanía: Las restricciones de exportación de semiconductores, las preocupaciones sobre dependencia tecnológica y las aspiraciones de “soberanía de IA” en Europa, India y otros países fragmentan un campo que se beneficiaría de colaboración internacional. Simmons-Edler et al. (2024) advierten que China y Rusia han fijado 2028-2030 como horizonte para la automatización sustancial de sus fuerzas militares, mientras EE.UU. planea despliegues más tempranos. Esta carrera armamentística de sistemas autónomos amenaza con restringir la investigación civil en IA mediante controles de exportación, supervisión de publicaciones y compartimentación del conocimiento.

4.1 La promesa de la IA científica

La aplicación de técnicas de aprendizaje automático a problemas científicos no es nueva, pero el salto cualitativo de los últimos años ha sido dramático. Los modelos de IA ya no solo procesan datos o identifican patrones; generan hipótesis, diseñan experimentos y, en algunos casos, ejecutan ciclos completos de investigación con mínima intervención humana.

Esta capacidad está reconfigurando campos tan diversos como la biología estructural, el descubrimiento de fármacos, la ciencia de materiales y las matemáticas. La convergencia de tres factores ha catalizado esta transformación: el escalado de modelos de aprendizaje profundo, la disponibilidad de bases de datos científicas masivas y el desarrollo de arquitecturas neuronales especializadas para datos estructurados (grafos moleculares, secuencias biológicas, estructuras cristalinas).

4.2 AlphaFold: Un paradigma de éxito

El caso emblemático es AlphaFold, desarrollado por DeepMind. El problema del plegamiento de proteínas —predecir la estructura tridimensional de una proteína a partir de su secuencia de aminoácidos— había resistido más de 50 años de esfuerzos y constituía uno de los grandes desafíos abiertos de la biología computacional (Jumper et al., 2021).

En la competición CASP14 (2020), AlphaFold 2 alcanzó una precisión sin precedentes: 0.96 Å de RMSD (desviación cuadrática media) en la predicción de estructuras de dominios proteicos, mientras que el siguiente mejor método lograba 2.8 Å. Para contextualizar, el ancho de un átomo de carbono es aproximadamente 1.4 Å, lo que significa que AlphaFold predice posiciones atómicas con precisión comparable a métodos experimentales como cristalografía de rayos X (Jumper et al., 2021).

Código

# Datos de precisión CASP14
casp_data <- tibble(

metodo = c("AlphaFold 2", "Segundo lugar", "Tercer lugar", 
            "Mejor método 2018", "Baseline físico"),
rmsd = c(0.96, 2.8, 3.1, 3.5, 4.2),
tipo = c("DeepMind", "Competidor", "Competidor", "Histórico", "Histórico")
)

ggplot(casp_data, aes(x = reorder(metodo, rmsd), y = rmsd, fill = tipo)) +
geom_col(width = 0.7) +
geom_hline(yintercept = 1.5, linetype = "dashed", color = "darkgreen", linewidth = 0.8) +
annotate("text", x = 4.5, y = 1.7, label = "Precisión experimental típica", 
          size = 3, color = "darkgreen") +
coord_flip() +
scale_fill_manual(values = c("DeepMind" = "#3498db", "Competidor" = "#95a5a6", 
                              "Histórico" = "#bdc3c7")) +
labs(
  title = "Precisión en predicción de estructuras proteicas (CASP14)",
  subtitle = "RMSD en Ångströms (menor = mejor)",
  x = NULL,
  y = "RMSD (Å)"
) +
theme_minimal(base_size = 11) +
theme(
  plot.title = element_text(face = "bold"),
  legend.position = "none"
)

La arquitectura de AlphaFold combina varios avances técnicos: el módulo Evoformer para procesar alineamientos de secuencias múltiples (MSA) y representaciones de pares de residuos; un módulo de estructura que genera coordenadas 3D explícitas; y un proceso de reciclaje iterativo que refina predicciones en múltiples pasadas. El modelo fue entrenado con aproximadamente 170,000 estructuras del Protein Data Bank (PDB) (Jumper et al., 2021).

La versión actual, AlphaFold 3, extiende las capacidades a complejos biomoleculares que incluyen ADN, ARN, ligandos y modificaciones químicas postraduccionales. Su arquitectura incorpora un módulo de difusión que maneja directamente coordenadas atómicas y un procesamiento de MSA simplificado (“Pairformer”). AlphaFold 3 predice interacciones proteína-ligando con precisión superior a métodos tradicionales de docking, lo que tiene implicaciones directas para el diseño de fármacos (Desai et al., 2024).

Código

# Datos de adopción de AlphaFold
alphafold_data <- tibble(
año = c(2021, 2022, 2023, 2024, 2025),
estructuras_millones = c(0.35, 200, 200, 200, 200),
publicaciones = c(500, 3500, 8500, 15000, 22000),
investigadores_millones = c(0.1, 0.5, 1.2, 2.1, 3.0)
)

p1 <- ggplot(alphafold_data, aes(x = año, y = publicaciones)) +
geom_line(color = "#3498db", linewidth = 1.5) +
geom_point(color = "#3498db", size = 4) +
geom_area(alpha = 0.2, fill = "#3498db") +
scale_y_continuous(labels = scales::comma) +
labs(
  title = "Publicaciones citando AlphaFold",
  x = NULL,
  y = "Número de publicaciones"
) +
theme_minimal(base_size = 11) +
theme(plot.title = element_text(face = "bold", size = 11))

p2 <- ggplot(alphafold_data, aes(x = año, y = investigadores_millones)) +
geom_col(fill = "#2ecc71", width = 0.6) +
geom_text(aes(label = paste0(investigadores_millones, "M")), 
          vjust = -0.5, fontface = "bold") +
labs(
  title = "Usuarios de AlphaFold DB",
  x = NULL,
  y = "Millones de usuarios"
) +
theme_minimal(base_size = 11) +
theme(plot.title = element_text(face = "bold", size = 11)) +
ylim(0, 3.5)

p1 + p2 +
plot_annotation(
  title = "Impacto de AlphaFold en la comunidad científica",
  theme = theme(plot.title = element_text(face = "bold", size = 14))
)

Más de 3 millones de investigadores en 190 países han utilizado la base de datos de AlphaFold, que contiene predicciones para prácticamente todas las proteínas conocidas (>200 millones de estructuras). El impacto abarca desde vacunas contra la malaria hasta tratamientos oncológicos y diseño de enzimas para degradar plásticos. El reconocimiento de esta contribución llegó con el Premio Nobel de Química 2024, otorgado a Demis Hassabis y John Jumper (Desai et al., 2024).

4.3 Ciencia de materiales generativa: GNoME

La IA generativa está transformando también el descubrimiento de nuevos materiales. Tradicionalmente, la exploración del espacio de materiales procedía mediante ensayo y error experimental o simulaciones ab initio de teoría del funcional de densidad (DFT), procesos costosos y lentos. Las bases de datos computacionales como Materials Project y OQMD habían catalogado aproximadamente 48,000 materiales estables mediante décadas de trabajo.

GNoME (Graph Networks for Materials Exploration) de DeepMind transformó esta situación. Mediante redes neuronales de grafos entrenadas a gran escala con aprendizaje activo, GNoME identificó 2.2 millones de cristales inorgánicos estables, multiplicando por un orden de magnitud el número de materiales conocidos. De estos, 381,000 estructuras residen en el convex hull actualizado como descubrimientos genuinamente nuevos (Merchant et al., 2023).

Código

# Datos de GNoME
gnome_timeline <- tibble(
año = c(2019, 2020, 2021, 2022, 2023),
materiales = c(35000, 38000, 42000, 48000, 421000),
fuente = c(rep("Bases externas", 4), "GNoME + externas")
)

p1 <- ggplot(gnome_timeline, aes(x = año, y = materiales/1000, fill = fuente)) +
geom_col(width = 0.7) +
scale_fill_manual(values = c("Bases externas" = "#95a5a6", 
                              "GNoME + externas" = "#e74c3c")) +
scale_y_continuous(labels = function(x) paste0(x, "K")) +
labs(
  title = "Materiales estables conocidos",
  x = NULL,
  y = "Miles de estructuras",
  fill = NULL
) +
theme_minimal(base_size = 11) +
theme(
  plot.title = element_text(face = "bold", size = 11),
  legend.position = "bottom"
)

# Precisión por elementos
gnome_precision <- tibble(
elementos = c("2", "3", "4", "5", "6"),
precision_mp = c(10, 8, 5, 2, 1),
precision_gnome = c(90, 85, 78, 65, 50)
)

gnome_long <- gnome_precision %>%
pivot_longer(cols = starts_with("precision"), 
              names_to = "sistema", values_to = "precision") %>%
mutate(sistema = ifelse(sistema == "precision_gnome", "GNoME", "Materials Project"))

p2 <- ggplot(gnome_long, aes(x = elementos, y = precision, fill = sistema)) +
geom_col(position = "dodge", width = 0.7) +
scale_fill_manual(values = c("GNoME" = "#3498db", "Materials Project" = "#bdc3c7")) +
labs(
  title = "Precisión de predicción estable",
  x = "Elementos únicos en compuesto",
  y = "Hit rate (%)",
  fill = NULL
) +
theme_minimal(base_size = 11) +
theme(
  plot.title = element_text(face = "bold", size = 11),
  legend.position = "bottom"
)

p1 + p2 +
plot_annotation(
  title = "GNoME: Escalando el aprendizaje profundo para descubrir materiales",
  theme = theme(plot.title = element_text(face = "bold", size = 14))
)

Los modelos GNoME exhiben generalización emergente fuera de distribución: aunque fueron entrenados con estructuras de hasta 4 elementos, predicen con precisión estructuras de 5-6 elementos, un espacio combinatorio que había sido inaccesible para métodos previos. La validación incluye 736 estructuras verificadas experimentalmente de forma independiente, 84% de estabilidad confirmada mediante cálculos r²SCAN, y 45,500 nuevos prototipos estructurales (Merchant et al., 2023).

gnome_comp <- tibble(
Métrica = c("Cristales estables", "Hit rate (estructura)", "Hit rate (composición)", 
            "Error energético", "Prototipos únicos"),
`Materials Project` = c("48,000", "~1%", "~1%", "—", "8,000"),
GNoME = c("421,000", ">80%", "33%", "11 meV/átomo", "45,500")
)

tabla_bonita(gnome_comp)

Los flujos de trabajo emergentes combinan modelos generativos que proponen candidatos, simulaciones DFT para evaluación, optimización bayesiana para exploración eficiente y robótica de laboratorio para síntesis automatizada.

4.4 Agentes de investigación autónomos

Un desarrollo más reciente son los agentes de investigación: sistemas que combinan LLMs con acceso a herramientas (búsqueda bibliográfica, ejecución de código, control de instrumentos) para realizar tareas científicas con autonomía variable.

Agent Laboratory representa un marco para automatización completa del ciclo de investigación. Acepta una idea de investigación en lenguaje natural y progresa autónomamente a través de revisión bibliográfica, formulación de hipótesis, diseño e implementación de experimentos computacionales, análisis de resultados y redacción de informes. En evaluaciones preliminares, el costo promedio por paper generado fue de $2.33, con resultados que obtuvieron puntuaciones de revisores humanos comparables a trabajos de workshops de ML (Schmidgall et al., 2025).

CRISPR-GPT ilustra la especialización de agentes para dominios específicos. Este sistema automatiza el diseño de experimentos de edición genética, desde la selección del sistema CRISPR apropiado hasta la predicción de efectos fuera de diana, generación de secuencias guía y planificación de protocolos de validación. Integra múltiples herramientas computacionales especializadas en un flujo de trabajo conversacional (Qu et al., 2025).

workflow <- tibble(
Etapa = c("Revisión bibliográfica", "Generación de hipótesis", 
          "Diseño experimental", "Ejecución de experimentos",
          "Análisis de datos", "Redacción de resultados"),
`Automatización actual` = c("Alta", "Media", "Media-Alta", 
                             "Baja-Media", "Alta", "Media"),
`Sistemas representativos` = c(
  "Semantic Scholar, Elicit, OpenScholar",
  "LLMs con RAG científico, Claude",
  "AutoML, Bayesian optimization, CRISPR-GPT",
  "Laboratorios robóticos, Emerald Cloud Lab",
  "SciPy, statsmodels, LLMs para interpretación",
  "GPT-4, Claude, Agent Laboratory"
),
`Limitaciones principales` = c(
  "Sesgos de cobertura, literatura gris",
  "Novedad limitada, alucinaciones",
  "Dominio específico, validación requerida",
  "Costo elevado, integración compleja",
  "Verificación estadística, causalidad",
  "Precisión, estilo científico, alucinaciones"
)
)

tabla_bonita(workflow)

4.5 Riesgos y consideraciones críticas

El entusiasmo por la IA científica debe templarse con cautelas fundamentales:

Alucinaciones y fabricación: Los LLMs pueden generar referencias bibliográficas inexistentes, datos experimentales plausibles pero inventados, o razonamientos que parecen válidos pero contienen errores sutiles. En ciencia, donde la verificabilidad es crucial, estos riesgos son especialmente graves.

Sesgo de confirmación amplificado: Si los agentes de investigación optimizan para encontrar evidencia favorable a hipótesis predeterminadas, pueden reforzar sesgos existentes en la literatura y dificultar la falsación de teorías establecidas.

Desintermediación prematura: La tentación de automatizar etapas que requieren juicio experto puede degradar la calidad de la ciencia incluso cuando aumenta su cantidad. La intuición científica, el reconocimiento de anomalías inesperadas y la creatividad teórica no son fácilmente automatizables.

Reproducibilidad: Los modelos de IA son sistemas probabilísticos cuyas respuestas pueden variar entre ejecuciones. Garantizar la reproducibilidad de resultados científicos asistidos por IA plantea desafíos metodológicos que requieren documentación exhaustiva de versiones de modelos, prompts y semillas aleatorias.

5.1 El contexto de la transformación digital sanitaria

La medicina ha sido históricamente receptiva a las tecnologías de automatización y apoyo a la decisión, desde los primeros sistemas expertos (MYCIN en los años 70) hasta el aprendizaje automático para diagnóstico por imagen. Sin embargo, la IA generativa introduce capacidades cualitativamente distintas: modelos que pueden mantener diálogos clínicos, sintetizar literatura médica, generar notas de consulta y proporcionar explicaciones personalizadas a pacientes.

El potencial transformador es considerable. El personal médico dedica aproximadamente el 40% de su tiempo a tareas administrativas y documentación. Los LLMs prometen automatizar parte significativa de esta carga, liberando tiempo para el cuidado directo del paciente (Thirunavukarasu et al., 2023).

5.2 Capacidades demostradas

5.2.1 Rendimiento en exámenes médicos

Los LLMs han demostrado capacidad para aprobar exámenes médicos estandarizados con puntuaciones competitivas. GPT-4 alcanza >90% de precisión en preguntas del USMLE (United States Medical Licensing Examination), superando el umbral de aprobación y el rendimiento medio de candidatos humanos (Lee et al., 2023).

Med-PaLM 2 de Google, específicamente ajustado para el dominio médico, logró 86.5% en MultiMedQA, un benchmark que combina múltiples conjuntos de preguntas médicas. En evaluaciones por clínicos, las respuestas de Med-PaLM 2 fueron calificadas como comparables a las de profesionales de la medicina en aspectos como precisión, utilidad y ausencia de daño potencial (Singhal et al., 2023).

Código

# Datos de benchmarks médicos
med_bench <- tibble(
modelo = c("OPT", "BLOOM", "Galactica 120B", "Gopher", 
           "Chinchilla", "Flan-PaLM", "Med-PaLM"),
clinical_knowledge = c(21.9, 29.8, 59.2, 67.2, 75.1, 80.4, 83.8),
professional_medicine = c(27.9, 25.4, 59.6, 64.0, 75.4, 75.4, 83.8),
tipo = c(rep("General", 5), rep("Especializado", 2))
)

med_bench_long <- med_bench %>%
pivot_longer(cols = c(clinical_knowledge, professional_medicine),
              names_to = "benchmark", values_to = "accuracy") %>%
mutate(benchmark = case_when(
  benchmark == "clinical_knowledge" ~ "Clinical Knowledge",
  benchmark == "professional_medicine" ~ "Professional Medicine"
))

ggplot(med_bench_long, aes(x = reorder(modelo, accuracy), y = accuracy, fill = tipo)) +
geom_col(width = 0.7) +
facet_wrap(~benchmark) +
coord_flip() +
scale_fill_manual(values = c("General" = "#95a5a6", "Especializado" = "#e74c3c")) +
geom_hline(yintercept = 60, linetype = "dashed", color = "darkgreen") +
labs(
  title = "Rendimiento de LLMs en MMLU clínico",
  subtitle = "Línea punteada: umbral de aprobación típico",
  x = NULL,
  y = "Precisión (%)",
  fill = "Tipo de modelo"
) +
theme_minimal(base_size = 11) +
theme(
  plot.title = element_text(face = "bold"),
  legend.position = "bottom"
)

Sin embargo, pasar un examen y ejercer la medicina clínica son tareas fundamentalmente distintas. Los exámenes presentan problemas bien definidos con respuestas únicas; la práctica clínica implica incertidumbre, información incompleta, comunicación con pacientes y toma de decisiones bajo presión.

5.3 Riesgos críticos documentados

5.3.1 Alucinaciones en contexto clínico

Las alucinaciones —generación de información plausible pero falsa— son especialmente peligrosas en medicina. Un estudio reciente de Omar et al. (2025) evaluó la susceptibilidad de múltiples LLMs a ataques adversarios mediante vignettes clínicas que incluían un dato fabricado. Los resultados son preocupantes: los modelos repiten o elaboran datos fabricados en el 50-83% de los casos bajo condiciones por defecto (Omar et al., 2025).

Código

# Datos de Omar et al. 2025
halluc_data <- tibble(
modelo = c("GPT-4o", "Claude 3.5 Sonnet", "Gemini 1.5 Pro", 
           "LLaMA 3.1 405B", "Distilled DeepSeek R1"),
tasa_default = c(50.3, 61.3, 68.0, 75.0, 82.7),
tasa_mitigation = c(26.5, 36.2, 42.3, 48.7, 58.3)
)

halluc_long <- halluc_data %>%
pivot_longer(cols = starts_with("tasa"), 
              names_to = "condicion", values_to = "tasa") %>%
mutate(condicion = ifelse(condicion == "tasa_default", 
                          "Sin mitigación", "Con prompt de mitigación"))

ggplot(halluc_long, aes(x = reorder(modelo, tasa), y = tasa, fill = condicion)) +
geom_col(position = "dodge", width = 0.7) +
coord_flip() +
scale_fill_manual(values = c("Sin mitigación" = "#e74c3c", 
                              "Con prompt de mitigación" = "#3498db")) +
labs(
  title = "Susceptibilidad a alucinaciones adversarias en LLMs médicos",
  subtitle = "% de casos donde el modelo repite/elabora información falsa introducida",
  x = NULL,
  y = "Tasa de alucinación (%)",
  fill = NULL
) +
theme_minimal(base_size = 11) +
theme(
  plot.title = element_text(face = "bold"),
  legend.position = "bottom"
)

Incluso GPT-4o, el modelo con mejor rendimiento, muestra susceptibilidad del 50%. Las estrategias de mitigación mediante prompt engineering reducen las tasas pero no las eliminan (26-58% post-mitigación). Notablemente, el sesgo de confirmación contribuye: los modelos tienden a “sobre-acordar” con información presentada en el prompt (Omar et al., 2025).

race_med <- tibble(
Pregunta = c("Cálculo de eGFR", "Capacidad pulmonar", 
             "Grosor de piel", "Umbral de dolor"),
`Comportamiento problemático` = c(
  "Uso de fórmulas ajustadas por raza (científicamente refutadas)",
  "Afirmaciones de valores 10-15% menores para personas negras",
  "Información errónea sobre diferencias raciales inexistentes",
  "Afirmaciones sobre diferencias biológicas en sensibilidad al dolor"
)
)

tabla_bonita(race_med)

5.3.3 Mapa de riesgos por aplicación

Código

med_risks <- tibble(
aplicacion = c(
  "Triaje de síntomas", "Educación de pacientes", 
  "Resumen de notas", "Apoyo al diagnóstico",
  "Prescripción asistida", "Cirugía autónoma"
),
madurez = c(0.7, 0.65, 0.6, 0.5, 0.3, 0.1),
gravedad_error = c(0.4, 0.3, 0.6, 0.8, 0.9, 1.0),
categoria = c("Información", "Información", "Documentación",
              "Diagnóstico", "Tratamiento", "Intervención")
)

ggplot(med_risks, aes(x = madurez, y = gravedad_error, 
                      color = categoria)) +
geom_point(size = 5, alpha = 0.8) +
geom_text(aes(label = aplicacion), vjust = -1.2, size = 3, 
          show.legend = FALSE) +
scale_color_viridis_d(option = "turbo", name = "Categoría") +
scale_x_continuous(limits = c(0, 1), labels = scales::percent,
                    name = "Madurez tecnológica") +
scale_y_continuous(limits = c(0, 1.1), labels = scales::percent,
                    name = "Gravedad potencial de errores") +
labs(
  title = "Mapa de riesgo en aplicaciones médicas de IA",
  subtitle = "Las aplicaciones de alto riesgo requieren mayor madurez antes del despliegue"
) +
theme_minimal(base_size = 12) +
theme(
  plot.title = element_text(face = "bold"),
  legend.position = "bottom"
) +
annotate("rect", xmin = 0, xmax = 0.45, ymin = 0.7, ymax = 1.1,
          alpha = 0.1, fill = "red") +
annotate("text", x = 0.22, y = 1.05, label = "Zona de alto riesgo",
          size = 3, color = "red", fontface = "bold")

5.4 Marco regulatorio emergente

La FDA ha aprobado más de 500 dispositivos médicos basados en IA/ML, aunque la mayoría son sistemas de diagnóstico por imagen con arquitecturas supervisadas tradicionales. Los LLMs generativos plantean desafíos regulatorios distintos por su naturaleza probabilística y la dificultad de validar exhaustivamente sus outputs.

El AI Act europeo clasifica los sistemas de IA médica como alto riesgo (Anexo III), imponiendo requisitos de documentación técnica, evaluación de conformidad, supervisión humana y trazabilidad que los desarrolladores de aplicaciones médicas basadas en LLMs deberán cumplir antes de agosto de 2026 (Novelli et al., 2025).

6.1 Un campo en transformación acelerada

La irrupción de ChatGPT en noviembre de 2022 encontró a las instituciones educativas desprevenidas. En cuestión de semanas, estudiantes de todo el mundo descubrieron que podían generar ensayos, resolver problemas matemáticos y producir código informático con un asistente conversacional gratuito. La reacción inicial fue de pánico en muchos casos: prohibiciones, detectores de IA y amenazas disciplinarias.

Dos años después, el panorama resulta más complejo Algunas instituciones han integrado la IA como herramienta pedagógica; otras mantienen restricciones estrictas; la mayoría opera en una ambigüedad incómoda. Lo que está claro es que ignorar la tecnología no es una opción viable, cuando los estudiantes ya la usan masivamente.

6.2 La crisis de la integridad académica

Lo razonable es asumir que el uso de IA generativa para completar tareas académicas constituye un fenómeno generalizado. Y existe evidencia al respecto: los estudios documentan prevalencias que oscilan entre el 60% y 78% de estudiantes que admiten haber usado ChatGPT o herramientas similares para trabajos evaluables (Cotton et al., 2024; Kofinas et al., 2025).

Código

integrity_data <- tibble(
año = rep(c(2022, 2023, 2024, 2025), 3),
indicador = rep(c("Uso de IA para tareas (estudiantes)", 
                  "Uso de detectores (instituciones)",
                  "Políticas institucionales sobre IA"), each = 4),
porcentaje = c(
  15, 45, 68, 78,
  10, 38, 58, 72,
  5, 25, 55, 75
)
)

ggplot(integrity_data, aes(x = año, y = porcentaje, color = indicador)) +
geom_line(linewidth = 1.2) +
geom_point(size = 3) +
scale_color_viridis_d(option = "plasma", name = NULL) +
scale_y_continuous(limits = c(0, 100), labels = function(x) paste0(x, "%")) +
labs(
  title = "Indicadores de integridad académica y adopción de IA",
  subtitle = "Porcentaje según encuestas y estudios (2022-2025)",
  x = NULL,
  y = "Porcentaje"
) +
theme_minimal(base_size = 12) +
theme(
  plot.title = element_text(face = "bold"),
  legend.position = "bottom"
) +
guides(color = guide_legend(nrow = 2))

El problema se agrava porque el colectivo de estudiantes evita mayoritariamente declarar el uso de IA cuando las políticas institucionales lo requerirían. Kofinas et al. (2025) encontraron que el 74% de estudiantes que usaron IA generativa para evaluaciones auténticas no lo revelaron. Esta brecha entre uso real y declaración plantea desafíos fundamentales para la evaluación tradicional (Kofinas et al., 2025).

6.3 Mecanismos del problema

Cotton et al. (2024) identifican los mecanismos mediante los cuales ChatGPT desafía la integridad académica:

1. Generación de contenido indistinguible: El texto producido por LLMs avanzados es frecuentemente indistinguible del escrito por humanos, incluso para evaluadores expertos.
2. Bajo costo cognitivo: A diferencia del plagio tradicional, usar ChatGPT requiere mínimo esfuerzo de búsqueda, síntesis o reformulación.
3. Percepción de bajo riesgo: Los estudiantes perciben (a menudo correctamente) que la detección es improbable.
4. Normalización social: La prevalencia del uso reduce el estigma asociado.

El fenómeno trasciende el ensayo académico. Los LLMs pueden resolver problemas matemáticos mostrando trabajo meticuloso paso a paso, generar código funcional con comentarios, producir análisis de datos con interpretaciones y simular reflexiones personales (Cotton et al., 2024).

6.4 Limitaciones de los detectores de IA

Los detectores de contenido generado por IA (GPTZero, Turnitin AI Detection, Originality.ai) presentan limitaciones documentadas que cuestionan su uso como árbitros de integridad:

Falsos positivos preocupantes: Los detectores pueden marcar como generado por IA texto escrito por humanos, especialmente de hablantes no nativos de inglés o estudiantes con estilos de escritura atípicos (Kofinas et al., 2025). Incluso párrafos enteros de trabajos redactados décadas antes de entrar en servicio los modelos avanzados de IA generativa pueden resultar categorizados como sintéticos (Liang et al., 2023).

Falsos negativos sistemáticos: El parafraseo manual, la edición sustantiva o el uso de herramientas de “humanización” pueden evadir la detección con alta eficacia. Un estudio de Zhu et al. (2025) concluyó que el 82.8% de textos generados por Claude fueron clasificados como escritos por humanos por GPTzero (Zhu et al., 2025).

Carrera armamentística: A medida que los detectores mejoran, también lo hacen las técnicas de evasión, en un ciclo que beneficia a quienes tienen mayores recursos técnicos.

Código

detector_data <- tibble(
estudio = c("Weber-Wulff 2023", "Zhu 2025", "Liang 2024"),
falsos_positivos = c(8, 12, 5),
falsos_negativos = c(35, 82.8, 45)
)

detector_long <- detector_data %>%
pivot_longer(cols = starts_with("falsos"), 
              names_to = "error", values_to = "tasa") %>%
mutate(error = ifelse(error == "falsos_positivos", 
                      "Falsos positivos", "Falsos negativos"))

ggplot(detector_long, aes(x = estudio, y = tasa, fill = error)) +
geom_col(position = "dodge", width = 0.7) +
scale_fill_manual(values = c("Falsos positivos" = "#f39c12", 
                              "Falsos negativos" = "#e74c3c")) +
labs(
  title = "Tasas de error en detectores de IA",
  subtitle = "Los falsos negativos (texto IA clasificado como humano) son especialmente problemáticos",
  x = NULL,
  y = "Tasa de error (%)",
  fill = NULL
) +
theme_minimal(base_size = 11) +
theme(
  plot.title = element_text(face = "bold"),
  legend.position = "bottom"
)

6.5 Impacto en la investigación académica

El problema trasciende las aulas. Liang y colaboradores analizaron el uso de LLMs en revisiones por pares de conferencias de IA (ICLR, NeurIPS, CoRL) y concluyeron que entre el 6.5% y 16.9% del texto en informes de revisión posteriores a ChatGPT muestra evidencia de generación o modificación sustancial por LLMs. Las revisiones con mayor probabilidad de uso de IA se caracterizan por menor confianza del revisor, envío cercano al límite del plazo establecido y menor probabilidad de responder a las alegaciones (rebuttals) de autores (Liang et al., 2024).

6.6 Estrategias de respuesta institucional

Las instituciones educativas están desarrollando respuestas que van más allá de la prohibición y detección. Entre otras:

Rediseño de evaluaciones: Privilegiar tareas difíciles de automatizar como presentaciones orales con preguntas improvisadas, proyectos iterativos con entregas incrementales, reflexiones que requieren experiencias personales verificables, y evaluaciones in situ supervisadas (Kóvári, 2025).

Evaluaciones auténticas: Diseñar actividades que requieren aplicación contextualizada de conocimiento a problemas reales, donde el proceso es tan importante como el producto.

Alfabetización en IA: Incorporar la IA como objeto de estudio, enseñando a estudiantes a evaluar críticamente sus outputs, detectar limitaciones y sesgos, y usar estas herramientas de forma ética y productiva.

strategies <- tibble(
Estrategia = c("Exámenes orales", "Proyectos iterativos", 
               "Reflexiones personales", "Uso declarado de IA",
               "Evaluación de proceso", "Detección algorítmica"),
Eficacia = c("Alta", "Alta", "Media-Alta", "Media", "Alta", "Baja"),
`Costo implementación` = c("Alto", "Medio", "Bajo", "Bajo", "Medio", "Bajo"),
Limitaciones = c(
  "Escalabilidad en grupos grandes",
  "Requiere seguimiento continuo",
  "Verificación difícil",
  "Depende de honestidad",
  "Requiere rúbricas detalladas",
  "Altas tasas de error, carrera armamentística"
)
)

tabla_bonita(strategies)

Sin embargo, de estas limitaciones prácticas derivan ciertas oportunidades que merecen atención. La prohibición total de herramientas de IAGen en contextos académicos es una “imposibilidad práctica” que no resuelve los problemas subyacentes (Bin-Nashwan et al., 2023). La ubicuidad de estas tecnologías, su integración creciente en entornos profesionales y el hecho de que dominar su uso se está convirtiendo en una competencia laboral crítica (Kofinas et al., 2025) sugieren que la estrategia acertada sería enseñar su uso responsable, en lugar de perseguir su erradicación.

Además, hay razones de peso y evidencia para admitir que la IA generativa puede democratizar capacidades: algunos estudios muestran que puede beneficiar notablemente a trabajadores con menos experiencia, comprimiendo la distribución de productividad y reduciendo brechas de rendimiento (Brynjolfsson et al., 2023).

7.1 La transformación del desarrollo de software

La programación ha sido uno de los dominios donde la IA generativa ha mostrado impacto más inmediato y mensurable. Desde el lanzamiento de GitHub Copilot en junio de 2021, los asistentes de código se han convertido en herramienta cotidiana para millones de desarrolladores.

La adopción ha sido extraordinariamente rápida: según encuestas de Stack Overflow, el 63% de desarrolladores profesionales utilizan IA en su proceso de desarrollo, con otro 14% planeando hacerlo próximamente. Esta velocidad de adopción supera a casi cualquier otra herramienta de desarrollo en la historia reciente (Stack Overflow, 2024).

7.2 Evidencia experimental sobre productividad

El estudio controlado más riguroso sobre productividad con asistentes de código fue llevado a cabo por Peng y colaboradores en 2023. En un experimento con desarrolladores profesionales orientado a implementar un servidor HTTP en JavaScript, el resultado fue:

• Grupo tratamiento (con Copilot): tiempo medio de 71.17 minutos
• Grupo control (sin Copilot): tiempo medio de 160.89 minutos
• Reducción: 55.8% (IC 95%: 21-89%, p=0.0017)

Código

# Datos del experimento
copilot_data <- tibble(
grupo = c("Con Copilot", "Sin Copilot"),
tiempo_medio = c(71.17, 160.89),
ci_lower = c(55, 120),
ci_upper = c(90, 210)
)

ggplot(copilot_data, aes(x = grupo, y = tiempo_medio, fill = grupo)) +
geom_col(width = 0.6) +
geom_errorbar(aes(ymin = ci_lower, ymax = ci_upper), width = 0.2) +
geom_text(aes(label = paste0(round(tiempo_medio, 1), " min")), 
          vjust = -0.5, fontface = "bold") +
scale_fill_manual(values = c("Con Copilot" = "#3498db", "Sin Copilot" = "#95a5a6")) +
labs(
  title = "Tiempo de completado de tarea de programación",
  subtitle = "Experimento controlado (Peng et al., 2023)",
  x = NULL,
  y = "Tiempo (minutos)",
  caption = "Barras de error: intervalos de confianza 95%"
) +
theme_minimal(base_size = 12) +
theme(
  plot.title = element_text(face = "bold"),
  legend.position = "none"
) +
ylim(0, 230) +
annotate("segment", x = 1, xend = 2, y = 200, yend = 200, 
          arrow = arrow(ends = "both", length = unit(0.1, "inches"))) +
annotate("text", x = 1.5, y = 215, label = "55.8% más rápido", 
          fontface = "bold", color = "#27ae60")

Pese a los efectos heterogéneos, estos trabajaron refuerzan la tesis de que son los desarrolladores con menos experiencia, los programadores mayores y quienes programan más horas diarias los grupos que obtuvieron mayores beneficios. En consecuencia, cabe asumir un potencial significativo para democratizar el acceso a carreras en desarrollo de software (Peng et al., 2023).

Los participantes subestimaron el impacto real en su productividad: calcularon mejoras del 35% cuando el incremento observado fue del 55,8%. La disposición a pagar por un mejor soporte y una mayor disponibilidad de las herramientas de programación asistida fue significativamente mayor en el grupo tratamiento —donde se aplicó la intervención— que en el grupo control ($27,25/mes frente a $16,91/mes), lo que constituye una evidencia indirecta del valor percibido.

7.3 Ecosistema de herramientas (2025)

code_tools <- tibble(
Herramienta = c("GitHub Copilot", "Claude Code", "Cursor", 
                "Codeium", "Tabnine", "Amazon CodeWhisperer"),
Desarrollador = c("GitHub/Microsoft", "Anthropic", "Cursor Inc.",
                  "Codeium", "Tabnine", "Amazon"),
`Modelo base` = c("GPT-4/Codex", "Claude 3.5/4", "Claude/GPT-4",
                  "Propietario", "Propietario", "Propietario"),
Arquitectura = c("Completions + Chat", "Agéntico (CLI/IDE)", "Agéntico (IDE)",
                  "Completions", "Completions", "Completions"),
`Precio mensual` = c("$10-19", "Por uso API", "$20", 
                      "Freemium/$10", "Freemium/$12", "Gratuito/Pro")
)

tabla_bonita(code_tools)

7.4 La emergencia de agentes de código

Un desarrollo significativo de 2024-2025 es la transición de completions (sugerencias línea por línea) a agentes de código: sistemas que pueden planificar, ejecutar y depurar proyectos completos con autonomía variable. Cursor, Claude Code y otros representan este paradigma agéntico.

He et al. (2025) realizaron el primer estudio a gran escala del impacto de agentes de código (específicamente Cursor) en proyectos reales de GitHub mediante diseño de diferencias en diferencias. Los resultados revelan un patrón complejo:

Ganancias de velocidad transitorias: La adopción de Cursor produce aumentos significativos en velocidad de desarrollo, pero estos beneficios se disipan aproximadamente dos meses después de la adopción.

Acumulación de deuda técnica: Los proyectos que adoptan Cursor muestran incrementos persistentes en complejidad de código (+25%), warnings de análisis estático, y code smells (He et al., 2025).

Código

# Datos basados en He et al. 2025
cursor_data <- tibble(
semana = rep(0:12, 2),
metrica = rep(c("Velocidad de desarrollo", "Deuda técnica"), each = 13),
valor = c(
  # Velocidad: pico inicial, luego decae
  0, 35, 45, 40, 32, 25, 18, 12, 8, 5, 3, 2, 0,
  # Deuda técnica: crece y se estabiliza alto
  0, 8, 15, 22, 28, 33, 37, 40, 42, 43, 44, 44, 45
)
)

ggplot(cursor_data, aes(x = semana, y = valor, color = metrica)) +
geom_line(linewidth = 1.2) +
geom_point(size = 2) +
geom_vline(xintercept = 0, linetype = "dashed", color = "gray50") +
annotate("text", x = 0.5, y = 50, label = "Adopción", hjust = 0, size = 3) +
scale_color_manual(values = c("Velocidad de desarrollo" = "#27ae60", 
                               "Deuda técnica" = "#e74c3c")) +
labs(
  title = "Dinámica temporal post-adopción de asistentes agénticos",
  subtitle = "Efectos transitorios en velocidad y persistentes en deuda técnica (He et al., 2025)",
  x = "Semanas desde adopción",
  y = "Cambio relativo (%)",
  color = NULL
) +
theme_minimal(base_size = 12) +
theme(
  plot.title = element_text(face = "bold"),
  legend.position = "bottom"
)

7.5 Calidad del código generado

Yetistiren y colaboradores evaluaron sistemáticamente la calidad del código generado en 2023 por GitHub Copilot, Amazon CodeWhisperer y ChatGPT en el benchmark HumanEval:

code_quality <- tibble(
Métrica = c("Validez sintáctica", "Corrección funcional", 
            "Bugs detectados", "Code smells (promedio)", 
            "Deuda técnica (min/smell)"),
Copilot = c("91.5%", "~65%", "3", "1.2/problema", "9.1"),
CodeWhisperer = c("95.1%", "~68%", "1", "0.9/problema", "5.6"),
ChatGPT = c("93.3%", "~70%", "2", "1.0/problema", "8.9")
)

tabla_bonita(code_quality)

Los indicios de mal diseño (code smells) más frecuentes incluyen: nomenclatura inapropiada de funciones y variables, alta complejidad cognitiva, y uso de patrones obsoletos. Curiosamente, los bugs encontrados fueron únicos para cada generador, sugiriendo que no existe superioridad absoluta en generación de código libre de errores (Yetiştiren et al., 2023).

7.6 Implicaciones de seguridad

El código generado por IA puede contener vulnerabilidades heredadas de patrones inseguros en los datos de entrenamiento. Algunos estudios muestran que los asistentes pueden sugerir código vulnerable a inyección SQL, cross-site scripting (XSS), path traversal, deserialización insegura y uso de funciones criptográficas débiles.

La velocidad de generación puede crear una falsa sensación de seguridad: el código que “funciona” no es necesariamente código seguro, y la revisión humana rigurosa sigue siendo esencial.

7.7 Recomendaciones para equipos de desarrollo

Los hallazgos sugieren varias prácticas para equipos que adoptan asistentes de código IA:

1. Escalar QA con velocidad: Si la productividad aumenta, los procesos de revisión y testing deben expandirse proporcionalmente.
   
2. Sprints de refactorización: Programar regularmente ciclos de limpieza de deuda técnica acumulada.
3. Cobertura de tests obligatoria: Establecer umbrales mínimos de testing que escalen con líneas de código añadidas.
4. Revisión de código rigurosa: Tratar el código generado por IA con el mismo (o mayor) escrutinio que el código humano.
5. Prompts de calidad: Configurar reglas explícitas de calidad en los prompts del agente.

Los capítulos que siguen examinan riesgos específicos de la IA generativa: alucinaciones y sesgos, ciberseguridad y desinformación, sistemas autónomos letales, impactos laborales y marcos regulatorios. Esta organización por dominios responde a la estructura del debate público y académico, pero conviene señalar que los riesgos no son compartimentos estancos sino dimensiones interconectadas de sistemas sociotécnicos complejos.

El mapeo sistemático más exhaustivo de estos riesgos ha sido emprendido por Thilo Hagendorff (Hagendorff, 2024), cuyo scoping review identifica 378 problemas normativos distintos asociados a la IA generativa, agrupados en categorías de fiabilidad técnica, sesgos y discriminación, privacidad, seguridad, impactos socioeconómicos y gobernanza. Esta taxonomía comprehensiva revela varias lecciones transversales: los riesgos emergen de la interacción entre propiedades técnicas y contextos de uso; muchos problemas son sistémicos más que excepciones aisladas; y las categorías de riesgo se solapan e interactúan de maneras que complican las respuestas regulatorias sectoriales. El lector encontrará ecos de estas interconexiones a lo largo de los capítulos siguientes.