Inteligencia Artificial
RoPE: cómo la mayoría de los LLM ubican cada token
Los LLM necesitan saber en qué posición de la secuencia está cada token, y ese problema se resuelve con embeddings posicionales. RoPE, el método que domina en los modelos abiertos de 2026, rota los vectores de atención en cada capa en vez de sumar una posición fija al principio. Acá explicamos cómo funciona, en qué se diferencia de ALiBi y de los embeddings absolutos, y qué implica para quien extiende el contexto de un modelo.
Noticias Tech
DeepSeek V3 en 190 líneas de JAX puro
Un desarrollador reimplementó la arquitectura completa de DeepSeek V3 (atención latente, mezcla de expertos, predicción multi-token) en 190 líneas de JAX puro, sin frameworks de por medio. La entrenó entera en una MacBook Air con novelas policiales de dominio público, y probamos instalarla en Linux: la dependencia jax-metal, exclusiva de macOS, la bloquea de entrada.
Inteligencia Artificial
Envenenamiento de pesos: qué muestra un estudio y cómo mitigarlo
El envenenamiento de pesos ocurre cuando un modelo edita directamente los parámetros de otro para alterar su comportamiento de forma persistente. Un estudio reciente mapea cómo ese cambio puede esconderse al fusionar o reentrenar con pesos de terceros no verificados. Repasamos qué puede hacer un desarrollador para auditarlos antes de confiar en ellos.
