gpu - El Solitario

Hardware y GPU relacionados con la velocidad de LLM local

Inteligencia Artificial

Velocidad de LLM local: qué determina los tokens por segundo

Antes de comprar una GPU o una Mac para correr modelos de IA en tu propia máquina conviene entender qué determina la velocidad de LLM local. Ancho de banda, cuantización y arquitectura MoE explican por qué dos equipos con specs parecidas rinden distinto.

Por Andrés Morales, hace 7 días17 octubre, 2026

instancing en WebGL renderizando asteroides y satélites en 3D en el navegador

Noticias Tech

Instancing en WebGL: cómo renderizar cientos de miles de objetos 3D

El instancing en WebGL permite dibujar cientos de miles de objetos idénticos con una sola llamada a la GPU. Este artículo usa Space Now, el visualizador de asteroides de Belle Lune 2, como caso de estudio para explicar la técnica con ejemplos de código en Three.js.

Por Andrés Morales, hace 3 semanas30 septiembre, 2026

Inteligencia Artificial

Bend: el lenguaje que corre casi a la velocidad de C y prueba tus leyes

Bend es un lenguaje de programación nuevo que combina velocidad casi nativa, paralelismo automático en CPU y GPU, y un sistema de pruebas matemáticas para bloquear bugs introducidos por agentes de IA antes de que lleguen a producción. Su compilador actúa como un demostrador de teoremas: si el código rompe una ley declarada de antemano, el merge queda bloqueado.

Por Andrés Morales, hace 1 mes

Mapa de islas tropicales usado para geolocalización con CUDA en el reto gralhix 004

Noticias Tech

OSINT con CUDA: geolocalizar una isla comparando 80M de triángulos

Un investigador de OSINT resolvió el reto gralhix 004 sin usar Google Lens: construyó una huella geométrica de tres islas y la comparó contra 80.690.777 triángulos candidatos con un kernel CUDA. El pipeline filtra el planeta por latitud, densidad y clustering antes de lanzar la búsqueda en GPU.

Por Andrés Morales, hace 2 meses

Ilustración de SIMD en GPU: vectores de Rust ejecutándose en las lanes de un warp

Noticias Tech

VectorWare ejecuta el SIMD portátil de Rust sin cambios en la GPU

VectorWare logró que el SIMD en GPU corra con el mismo código Rust que ya se usa en la CPU, compilando core::simd directo a instrucciones de warp. El hallazgo se apoya en su trabajo previo llevando std::thread a la GPU.

Por Javier Alarcón, hace 2 meses

Diagrama de AirLLM cargando capas de Kimi K3 por streaming en una GPU de 4 GB

Inteligencia Artificial

AirLLM ejecuta Kimi K3, el modelo abierto más grande, en 3.72 GB de VRAM

AirLLM, la librería open source que permite correr modelos gigantes en poca memoria, ya soporta Kimi K3: el modelo abierto de 2.8 billones de parámetros que ahora corre en una sola GPU de menos de 4 GB. La técnica de streaming por experto evita cargar el modelo completo en memoria.

Por Andrés Morales, hace 3 meses

Diagrama de arquitectura de PyTorch Monarch corriendo sobre GPUs AMD Instinct con ROCm

Noticias Tech

PyTorch Monarch llega a AMD ROCm para entrenamiento distribuido

AMD y Meta portaron PyTorch Monarch, el runtime de control único para entrenamiento distribuido, a GPUs Instinct con ROCm. El sistema aísla fallos por actor y deja que el cluster siga entrenando aunque un nodo se caiga, sin reiniciar el trabajo completo.

Por Javier Alarcón, hace 3 meses