gpu archivos - El Solitario

Ilustración de SIMD en GPU: vectores de Rust ejecutándose en las lanes de un warp

Noticias Tech

VectorWare ejecuta el SIMD portátil de Rust sin cambios en la GPU

VectorWare logró que el SIMD en GPU corra con el mismo código Rust que ya se usa en la CPU, compilando core::simd directo a instrucciones de warp. El hallazgo se apoya en su trabajo previo llevando std::thread a la GPU.

Por Javier Alarcón, hace 3 días

Diagrama de AirLLM cargando capas de Kimi K3 por streaming en una GPU de 4 GB

Inteligencia Artificial

AirLLM ejecuta Kimi K3, el modelo abierto más grande, en 3.72 GB de VRAM

AirLLM, la librería open source que permite correr modelos gigantes en poca memoria, ya soporta Kimi K3: el modelo abierto de 2.8 billones de parámetros que ahora corre en una sola GPU de menos de 4 GB. La técnica de streaming por experto evita cargar el modelo completo en memoria.

Por Andrés Morales, hace 1 semana

Diagrama de arquitectura de PyTorch Monarch corriendo sobre GPUs AMD Instinct con ROCm

Noticias Tech

PyTorch Monarch llega a AMD ROCm para entrenamiento distribuido

AMD y Meta portaron PyTorch Monarch, el runtime de control único para entrenamiento distribuido, a GPUs Instinct con ROCm. El sistema aísla fallos por actor y deja que el cluster siga entrenando aunque un nodo se caiga, sin reiniciar el trabajo completo.

Por Javier Alarcón, hace 3 semanas