⏱️ Lectura: 13 min
El 18 de julio de 2026, la discusión en X sobre Kimi K3 (el modelo de pesos abiertos de Moonshot AI que se acerca al estado del arte) volvió a poner sobre la mesa una confusión que arrastra la industria de la inteligencia artificial: creer que un modelo “abierto” es un modelo gratis. Ben Thompson, en su boletín Stratechery, aprovechó ese debate para argumentar algo más profundo: los costos marginales, que el software había desterrado durante dos décadas, volvieron con la IA, y eso cambia la estructura completa del negocio.
📑 En este artículo
La distinción que propone Thompson es simple: bajar los pesos de un modelo no cuesta nada, pero correrlo sí. Ese costo de inferencia, no el precio de la licencia, es el que determina cuánto margen le queda a cada proveedor de IA cuando la demanda escala.
TL;DR
- Kimi K3, modelo abierto de Moonshot AI, cobra $3 por millón de tokens de entrada y $15 por millón de salida.
- Sol, usado como comparación en el análisis, cobra $5 de entrada y $30 de salida por millón de tokens.
- Ben Thompson publicó “Who’s Afraid of Chinese Models?” en Stratechery el 20 de julio de 2026.
- El argumento central: el I+D es costo fijo, pero el COGS (inferencia) escala directo con los ingresos.
- Jensen Huang, CEO de Nvidia, describe los data centers de IA como “fábricas de tokens”.
- Los tokens de razonamiento (chain-of-thought) rompen la comparación directa de precio por token entre modelos.
- La eficiencia de inferencia depende de arquitectura MoE, KV cache, batching y prefix caching, no solo del precio publicado.
Qué pasó
El fin de semana pasado, usuarios de X compararon a Kimi K3 con modelos cerrados como Sol, argumentando que un modelo abierto que se acerca al estado del arte vuelve irrelevante pagar por acceso a un modelo propietario. Thompson, en su artículo “Who’s Afraid of Chinese Models?”, publicado el 20 de julio de 2026, respondió con una distinción contable que rara vez aparece en esos hilos: la diferencia entre I+D (R&D) y costo de bienes vendidos (COGS, del inglés cost of goods sold).
El I+D es un gasto fijo. Si una empresa invierte 1 millón de dólares en entrenar un modelo, ese millón no cambia si el modelo genera 100.000 dólares o 100 millones de dólares en ingresos: la inversión ya se hizo. Lo que sí varía con el ingreso es el COGS, y en IA el COGS es real de una manera que el software tradicional no conocía desde hace mucho: cada token generado, sea por Kimi o por cualquier otro modelo, cuesta dinero de cómputo.
Ahí está el error de leer “pesos abiertos” como “gratis”. Según cita Thompson, Kimi K3 cobra 3 dólares por millón de tokens de entrada y 15 dólares por millón de tokens de salida; más barato que los 5 dólares de entrada y 30 de salida que cobra Sol, pero lejos de gratis. Alguien, en algún data center, paga esa factura de cómputo.
Contexto e historia
Thompson construyó su carrera analizando por qué el software de internet no se comportaba como las industrias tradicionales. Su marco más conocido, la Teoría de la Agregación, parte de una observación simple: cuando la distribución y la copia de un producto cuestan cero, el poder se concentra en quien controla la demanda, no en quien controla la oferta. Google no necesita ser dueño de ningún sitio web para dominar la búsqueda; Netflix no necesita salas de cine.
La IA generativa reintroduce una variable que ese modelo daba por muerta: el costo marginal. Cada respuesta que un modelo genera consume cómputo real, medido en tokens, y ese cómputo no es gratis ni para el proveedor del modelo ni para quien lo usa. Es la primera vez en dos décadas que una tecnología central de internet vuelve a tener una estructura de costos parecida a la de una fábrica: cuanto más produce, más gasta.
Esa reversión también tiene su propia cronología dentro de la IA. La primera etapa, la era ChatGPT, entregaba tokens directamente al usuario final: el costo por respuesta era relativamente previsible. La segunda etapa, la del razonamiento, rompió esa previsibilidad: un modelo puede necesitar miles de tokens de cadena de pensamiento antes de escribir la respuesta visible, y esos tokens también se cobran. Los agentes, la tercera etapa, agregan otra capa: un agente puede llamar herramientas, iterar y reintentar antes de terminar una tarea, y cada paso intermedio también consume tokens.
Detalles técnicos y rendimiento
Un token de un modelo no es intercambiable por un token de otro modelo del mismo modo que un barril de petróleo es intercambiable por otro barril de petróleo. Lo que sí es fungible es el resultado: si Kimi K3 y Sol llegan a la misma respuesta correcta, esa respuesta vale lo mismo para el usuario, aunque uno haya necesitado el triple de tokens de razonamiento para llegar ahí.
Thompson identifica cuatro factores que determinan el COGS real de servir inteligencia, más allá del precio de lista:
- Footprint del modelo: cuánta memoria cara y cuántos aceleradores necesita cada réplica activa para hospedar los pesos y el estado del runtime.
- Eficiencia de inferencia: decisiones de arquitectura, como Mixture-of-Experts (MoE), que reducen el cómputo necesario por cada token generado activando solo una fracción de los parámetros totales.
- Eficiencia de memoria: optimizaciones que reducen el tamaño del KV cache, lo que permite atender más solicitudes concurrentes con la misma GPU.
- Eficiencia de serving: batching, scheduling, prefix caching y otras técnicas de la capa de inferencia que maximizan cuántos tokens útiles salen por cada vatio y por cada dólar de hardware.
Ninguno de estos cuatro factores aparece en el precio publicado por millón de tokens. Un proveedor puede cobrar menos por token y aun así tener peor COGS si su modelo necesita más tokens de razonamiento para llegar al mismo resultado, o si su infraestructura de serving desperdicia GPU en vez de saturarla con batching.
| Modelo | Precio entrada (por millón de tokens) | Precio salida (por millón de tokens) | Procedencia |
|---|---|---|---|
| Kimi K3 (Moonshot AI) | $3 | $15 | Pesos abiertos, China |
| Sol | $5 | $30 | Modelo cerrado, referencia de Thompson |
def costo_por_tarea(tokens_entrada, tokens_salida, precio_entrada, precio_salida):
return (tokens_entrada / 1_000_000) * precio_entrada + (tokens_salida / 1_000_000) * precio_salida
# Kimi K3: mas barato por token, pero puede necesitar mas tokens de razonamiento
costo_kimi = costo_por_tarea(2000, 8000, 3, 15)
# Sol: mas caro por token, pero puede resolver la misma tarea con menos tokens
costo_sol = costo_por_tarea(2000, 3000, 5, 30)
print(f"Kimi K3: ${costo_kimi:.4f}")
print(f"Sol: ${costo_sol:.4f}")Este cálculo ilustra el punto de Thompson: si Kimi necesita casi el triple de tokens de salida para llegar a la misma respuesta, su ventaja de precio por token se puede evaporar en el costo total de la tarea. Comparar proveedores de IA solo por el precio de lista, sin medir cuántos tokens consume cada uno para resolver el mismo problema, lleva a conclusiones equivocadas.
flowchart TD
A["Peticion del usuario"] --> B["Modelo genera tokens"]
B --> C["Footprint del modelo"]
B --> D["Eficiencia de inferencia (MoE)"]
B --> E["Eficiencia de memoria (KV cache)"]
B --> F["Eficiencia de serving (batching, prefix caching)"]
C --> G[("COGS real por token")]
D --> G
E --> G
F --> GCómo empezar/probarlo
Para medir el COGS real de tu propio caso de uso en vez de confiar en el precio de lista, lo más simple es correr la misma tarea contra dos modelos y comparar los tokens reales que reporta cada API, no solo el precio publicado.
En Linux y macOS, con curl:
export MOONSHOT_API_KEY="tu-api-key"
curl https://api.moonshot.ai/v1/chat/completions \
-H "Authorization: Bearer $MOONSHOT_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "kimi-k3",
"messages": [{"role": "user", "content": "Explica que es el COGS en 3 oraciones"}]
}'En Windows, con PowerShell:
$env:MOONSHOT_API_KEY = "tu-api-key"
Invoke-RestMethod -Uri "https://api.moonshot.ai/v1/chat/completions" `
-Method Post `
-Headers @{ Authorization = "Bearer $env:MOONSHOT_API_KEY" } `
-ContentType "application/json" `
-Body '{"model":"kimi-k3","messages":[{"role":"user","content":"Explica que es el COGS en 3 oraciones"}]}'La respuesta de la API incluye un campo usage con prompt_tokens y completion_tokens. Con esos dos números y el precio por millón de tokens de cada proveedor, podés calcular el costo real de tu tarea con la función costo_por_tarea del ejemplo anterior, en vez de comparar solo el precio de lista.
💡 Tip: revisá siempre el campo usage.total_tokens de la respuesta para confirmar cuántos tokens consumió realmente una llamada, no una estimación previa.
Impacto y análisis
La reversión del costo marginal cambia quién gana en la cadena de valor de la IA. En el software de agregación clásico, el ganador era quien controlaba la demanda (el buscador, la red social, el marketplace) porque distribuir el producto no costaba nada extra. En la IA, controlar la demanda ya no alcanza: también hay que controlar el COGS, porque cada usuario adicional cuesta cómputo real.
Eso explica por qué Nvidia describe su negocio como una fábrica de tokens: para el fabricante de GPUs, cualquier modelo es intercambiable, lo que importa es cuántos tokens por segundo, por vatio y por dólar puede producir el hardware. Para los laboratorios de IA, en cambio, la pregunta es distinta: cuántos tokens necesita su modelo para resolver una tarea, no solo cuántos puede generar su hardware por segundo.
Esta distinción también reordena la competencia entre modelos abiertos chinos y modelos cerrados occidentales. Un modelo abierto que cobra menos por token no gana automáticamente si necesita más tokens para llegar al mismo resultado; y un laboratorio con mejor eficiencia de serving puede sostener márgenes más altos aunque cobre lo mismo por token que su competencia. La ventaja ya no se mide solo en benchmarks de capacidad, sino en cuánto cuesta, en cómputo real, producir cada unidad de inteligencia útil.
💭 Clave: el precio por millón de tokens no dice nada del costo real de una tarea si no sabés cuántos tokens necesita el modelo para resolverla.
Qué sigue
Si el argumento de Thompson se sostiene, la próxima batalla competitiva en IA no se va a librar solo en benchmarks de capacidades, sino en la eficiencia de inferencia: arquitecturas MoE más agresivas, KV caches más chicos y capas de serving que aprovechen cada GPU al máximo. Los laboratorios que publiquen buenos resultados en benchmarks pero necesiten muchos más tokens que su competencia para llegar ahí van a perder margen aunque ganen el titular.
Es razonable esperar que los proveedores empiecen a publicar, junto al precio por token, métricas de tokens por tarea en benchmarks estandarizados: sin ese dato, comparar el costo real de Kimi K3, Sol o cualquier otro modelo por su precio de lista queda incompleto.
📖 Resumen en Telegram: Ver resumen
Probalo vos: hacé la misma pregunta a dos modelos vía API, compará el campo usage de cada respuesta y calculá el costo real con el precio por millón de tokens de cada proveedor.
Preguntas frecuentes
¿Qué significa COGS en el contexto de la IA?
COGS (cost of goods sold, costo de los bienes vendidos) es el gasto que varía directamente con el volumen de uso. En IA equivale al costo de cómputo necesario para generar cada token de respuesta, a diferencia del I+D, que es un gasto fijo de entrenar el modelo.
¿Por qué un modelo de pesos abiertos como Kimi K3 no es gratis de usar?
Porque bajar los pesos no cuesta nada, pero ejecutarlos sí. Cada consulta consume GPU, memoria y energía en el data center que hospeda el modelo, y ese costo se traslada al precio por token que cobra el proveedor.
¿Por qué el precio por token no alcanza para comparar modelos?
Porque los tokens no son un commodity: dos modelos pueden necesitar cantidades muy distintas de tokens de razonamiento para llegar a la misma respuesta correcta. Hay que comparar el costo total de resolver una tarea, no solo el precio de lista por millón de tokens.
¿Qué es Mixture-of-Experts (MoE) y por qué reduce el COGS?
Es una arquitectura donde el modelo activa solo una fracción de sus parámetros totales para cada token, en vez de usar la red completa. Eso reduce el cómputo necesario por token generado sin sacrificar la capacidad total del modelo.
¿Cómo mido el costo real de una tarea con la API de un modelo?
Revisando el campo usage de la respuesta de la API, que incluye prompt_tokens y completion_tokens, y multiplicando cada valor por el precio por millón de tokens que cobra el proveedor.
Referencias
- Stratechery, “Who’s Afraid of Chinese Models?”: el análisis original de Ben Thompson sobre COGS, I+D y la reversión del costo marginal en IA.
- Wikipedia, Cost of goods sold: definición general del concepto contable de COGS aplicado en el artículo.
- Moonshot AI en GitHub: repositorio del laboratorio detrás de Kimi K3.
- Blog oficial de Nvidia: fuente de la idea de los data centers de IA como “fábricas de tokens” atribuida a Jensen Huang.
📱 ¿Te gusta este contenido? Únete a nuestro canal de Telegram @programacion donde publicamos a diario lo más relevante de tecnología, IA y desarrollo. Resúmenes rápidos, contenido fresco todos los días.
Imagen destacada: Foto de Domaintechnik en Unsplash
0 Comentarios