⏱️ Lectura: 10 min
Un grupo de líderes de la industria y la ciencia volvió a pedir esta semana frenar la IA, según reportó The Hill el 14 de septiembre de 2026. El pedido no es nuevo: reabre una discusión que lleva más de tres años sobre si el escalamiento de los modelos avanza más rápido que la capacidad de controlarlos.
📑 En este artículo
- TL;DR
- Qué pasó
- Contexto e historia
- Por qué es tan difícil frenar la IA
- Cómo evaluar el riesgo en tu propio uso de IA
- Impacto y análisis
- Qué sigue
- Preguntas frecuentes
- ¿Qué pidieron exactamente los líderes de IA citados por The Hill?
- ¿Es la primera vez que se pide frenar la IA?
- ¿Qué son las leyes de escalamiento y por qué dificultan frenar la IA?
- ¿Existe alguna ley que obligue a pausar el entrenamiento de un modelo?
- ¿Qué argumentan los críticos de estos llamados?
- ¿Cómo puedo seguir el debate sobre gobernanza de IA?
- Referencias
La pregunta de fondo es simple: ¿quién decide cuándo un modelo es demasiado grande para lanzarlo sin supervisión externa? Hoy esa decisión sigue casi exclusivamente en manos de las mismas empresas que compiten por construirlo.
TL;DR
- The Hill informó el 14 de septiembre de 2026 que un grupo de líderes de la industria y la ciencia pidió frenar la IA.
- El pedido se suma a la carta abierta de 2023 del Future of Life Institute, que propuso pausar seis meses el entrenamiento de sistemas más potentes que GPT-4.
- Ese mismo año, el Center for AI Safety publicó una declaración de una sola frase sobre el riesgo existencial de la IA, firmada por ejecutivos de OpenAI, Google DeepMind y Anthropic.
- El nuevo llamado llega en medio de una inversión creciente en cómputo para entrenar modelos cada vez más grandes.
- Las leyes de escalamiento muestran que más cómputo reduce la pérdida del modelo de forma predecible, lo que incentiva seguir escalando en vez de pausar.
- Críticos de estos llamados argumentan que una pausa unilateral podría concentrar el desarrollo de la IA en quienes decidan no sumarse.
- Hoy ninguna legislación vinculante en Estados Unidos obliga a pausar el entrenamiento de un modelo por su tamaño.
Qué pasó
The Hill reportó que un conjunto de figuras del sector tecnológico y académico firmó un nuevo llamado público para frenar la IA, en un contexto donde la inversión en cómputo de entrenamiento sigue creciendo sin pausa. El reportaje no detalla una lista completa de firmantes ni un mecanismo concreto de aplicación, algo habitual en este tipo de cartas abiertas: son declaraciones de intención, no compromisos vinculantes.
Lo que sí queda claro es el patrón: cada cierto tiempo, un sector de la comunidad de IA (investigadores, exempleados de laboratorios, académicos) hace pública su preocupación por la velocidad a la que se entrenan y lanzan modelos cada vez más capaces, sin que exista un mecanismo externo de verificación previo al lanzamiento. La diferencia entre estos llamados y una regulación real es precisamente esa: ninguno obliga a nada, dependen de la voluntad de cada laboratorio.
Contexto e historia
La carta más conocida es la del Future of Life Institute, publicada en marzo de 2023, que pidió pausar seis meses el entrenamiento de sistemas más potentes que GPT-4. La firmaron cientos de investigadores y ejecutivos del sector, aunque ninguna empresa grande detuvo efectivamente su entrenamiento durante ese período.
Dos meses después, el Center for AI Safety publicó una declaración de una sola frase: mitigar el riesgo de extinción por IA debería ser una prioridad global, al nivel de las pandemias y la guerra nuclear. La firmaron, entre otros, ejecutivos de OpenAI, Google DeepMind y Anthropic, lo que en su momento llamó la atención: las mismas personas que impulsan el desarrollo de estos sistemas advertían sobre sus riesgos.
flowchart LR
A["2023: carta de FLI pide pausar 6 meses"] --> B["2023: declaracion de CAIS sobre riesgo existencial"]
B --> C["2026: nuevo llamado reportado por The Hill"]
El patrón se repite en 2026: nuevas voces piden frenar la IA, sin que el contexto regulatorio global haya cambiado sustancialmente desde 2023. Ninguna de las cartas anteriores logró detener el ritmo de lanzamientos de modelos; en todo caso, coincidieron con años de crecimiento acelerado en inversión de cómputo.
Por qué es tan difícil frenar la IA
La razón técnica detrás de la resistencia a pausar tiene nombre: las leyes de escalamiento. Los papers de Kaplan et al. (2020) y Hoffmann et al. (2022) mostraron que, dentro de ciertos rangos, la pérdida de un modelo de lenguaje baja de forma predecible al aumentar el cómputo de entrenamiento, los datos y los parámetros. Eso convierte escalar más en una apuesta de bajo riesgo técnico y alto retorno competitivo, justo lo opuesto al incentivo para pausar.
def flops_entrenamiento(parametros, tokens):
# aproximacion C = 6 * N * D (Kaplan et al., 2020; Hoffmann et al., 2022)
return 6 * parametros * tokens
# modelo de 70.000 millones de parametros entrenado con 1.4 billones de tokens
compute = flops_entrenamiento(70_000_000_000, 1_400_000_000_000)
print(f"{compute:.2e} FLOPs")
Este cálculo aproxima el cómputo total en FLOPs necesario para entrenar un modelo según la relación C = 6ND, usada como referencia estándar en la literatura de escalamiento. Cuanta más inversión en cómputo, más predecible es la mejora, lo que empuja a los laboratorios a seguir escalando en lugar de frenar la IA por decisión propia.
💭 Clave: las leyes de escalamiento no dicen nada sobre seguridad o alineación: solo predicen que un modelo más grande, entrenado con más datos, tendrá mejor pérdida de entrenamiento. Que sea más seguro es una pregunta aparte.
Cómo evaluar el riesgo en tu propio uso de IA
Frenar la IA a escala global depende de decisiones que un equipo de desarrollo individual no controla. Lo que sí está al alcance de cualquier equipo que integre modelos en producción es aplicar una revisión de riesgo interna antes de desplegar un agente o modelo con autonomía.
revision_riesgo_ia:
responsable: "equipo de plataforma"
antes_de_desplegar:
- verificar_model_card: true
- registrar_uso_de_datos_personales: true
- definir_limite_de_autonomia_del_agente: true
- canal_de_reporte_de_incidentes: "[email protected]"
revision_periodica: "trimestral"
Esta lista no reemplaza ninguna regulación, pero da una base mínima de gobernanza: qué modelo se usa, qué datos toca, qué autonomía tiene y a quién se reporta si algo falla. Es el tipo de control que las cartas abiertas de 2023 y 2026 piden que exista a nivel de toda la industria, aplicado primero puertas adentro.
Impacto y análisis
El impacto inmediato de este tipo de llamados suele ser mediático, no regulatorio. Ninguna carta previa logró pausas efectivas de entrenamiento en las empresas líderes, aunque sí influyeron en el debate público y en la agenda de cumbres internacionales sobre seguridad de IA.
| Iniciativa | Año | Formato | Pedido concreto |
|---|---|---|---|
| Carta abierta de FLI | 2023 | Carta pública firmada | Pausar 6 meses el entrenamiento de sistemas más potentes que GPT-4 |
| Declaración de CAIS | 2023 | Frase única firmada por ejecutivos y científicos | Tratar el riesgo de extinción por IA como prioridad global |
| Nuevo llamado (The Hill) | 2026 | Reportaje periodístico sobre un pedido de líderes | Frenar el ritmo de desarrollo, según lo reportado el 14 de septiembre |
El argumento en contra más citado es el de la ventaja competitiva: si una empresa o un país pausa y otro no, quien pausa pierde terreno sin reducir el riesgo global, porque el desarrollo simplemente continúa en otro lugar.
⚠️ Ojo: varios críticos de estos llamados argumentan que una pausa impuesta solo a los laboratorios que la firman podría concentrar el desarrollo de la IA en manos de quienes decidan no sumarse, en lugar de reducir el riesgo general.
Esa es la limitación central de cualquier llamado voluntario a frenar la IA: sin un mecanismo de verificación externo y sin coordinación entre países, una pausa unilateral cambia quién lidera la carrera, pero no necesariamente cuán rápido avanza el desarrollo a nivel global.
Qué sigue
Por ahora no existe legislación vinculante en Estados Unidos que obligue a pausar el entrenamiento de un modelo por su tamaño. En la Unión Europea, el Reglamento de IA sí distingue obligaciones adicionales para los modelos de uso general según su nivel de riesgo sistémico, aunque tampoco impone pausas de entrenamiento.
Lo más probable, a juzgar por el patrón de 2023 a 2026, es que estos llamados sigan apareciendo cada vez que un nuevo salto de capacidad genere preocupación pública, sin que eso se traduzca todavía en un mecanismo vinculante global para frenar la IA.
📖 Resumen en Telegram: Ver resumen
Probalo vos: leé la carta original del Future of Life Institute o la declaración de CAIS y compará sus firmantes con los del nuevo llamado que reportó The Hill hoy.
Preguntas frecuentes
¿Qué pidieron exactamente los líderes de IA citados por The Hill?
Según el reportaje del 14 de septiembre de 2026, el pedido central es frenar la IA reduciendo el ritmo de entrenamiento de los modelos más avanzados, sin que trascendiera públicamente una lista completa de firmantes ni un mecanismo de aplicación concreto.
¿Es la primera vez que se pide frenar la IA?
No. En 2023, la carta de FLI pidió pausar seis meses el entrenamiento de sistemas más potentes que GPT-4, y el mismo año CAIS publicó una declaración sobre riesgo existencial firmada por ejecutivos de varias empresas líderes del sector.
¿Qué son las leyes de escalamiento y por qué dificultan frenar la IA?
Son relaciones empíricas, documentadas por Kaplan et al. y Hoffmann et al., que muestran que más cómputo, datos y parámetros bajan la pérdida de un modelo de forma predecible. Eso hace que escalar sea una apuesta de bajo riesgo técnico, lo que reduce el incentivo a pausar.
¿Existe alguna ley que obligue a pausar el entrenamiento de un modelo?
No, actualmente ninguna ley vinculante en Estados Unidos obliga a una pausa basada en el tamaño del modelo, aunque normativas como el Reglamento de IA de la Unión Europea sí distinguen obligaciones según el riesgo del sistema.
¿Qué argumentan los críticos de estos llamados?
Argumentan que una pausa unilateral podría concentrar el desarrollo de la IA en las empresas y países que decidan no sumarse, dejando en desventaja a quienes sí pausan sin reducir el riesgo a nivel global.
¿Cómo puedo seguir el debate sobre gobernanza de IA?
Podés leer la fuente primaria en The Hill, la carta completa de FLI, la declaración de CAIS y los papers de escalamiento en arXiv citados en la sección de referencias de este artículo.
Referencias
- The Hill: reportaje del 14 de septiembre de 2026 sobre el pedido de líderes de IA para frenar el desarrollo.
- Future of Life Institute: carta abierta de 2023 que pidió pausar seis meses el entrenamiento de sistemas más potentes que GPT-4.
- Center for AI Safety: declaración de 2023 sobre el riesgo existencial de la IA, firmada por ejecutivos y científicos del sector.
- arXiv: Scaling Laws for Neural Language Models: paper de Kaplan et al. (2020) que formalizó la relación entre cómputo, datos y rendimiento.
- arXiv: Training Compute-Optimal Large Language Models: paper de Hoffmann et al. (2022, Chinchilla) sobre cómputo óptimo de entrenamiento.
📱 ¿Te gusta este contenido? Únete a nuestro canal de Telegram @programacion donde publicamos a diario lo más relevante de tecnología, IA y desarrollo. Resúmenes rápidos, contenido fresco todos los días.
Imagen destacada: Foto de Omar:. Lopez-Rincon en Unsplash
0 Comentarios