El Solitario

  • GNU/Linux
  • Tutoriales
  • Opinión

kda

Diagrama del estado de Kimi Delta Attention actualizandose token a token
Noticias Tech

Kimi Delta Attention: la atencion lineal detras de Kimi K2 y Qwen3

Kimi Delta Attention (KDA) es la pieza de atención lineal que Moonshot AI y Qwen3 usan para procesar contexto largo sin el costo cuadrático de softmax. Viene de una familia que empezó en DeltaNet y pasó por Gated DeltaNet, sumando cada vez más control fino sobre qué recuerda el modelo.

Por Andrés Morales, hace 16 minutos
Cursos sobre Linux
Introducción a Linux: Instala Linux en tu PC

Introducción a Linux: Instala Linux en tu PC

Empieza seguro en Linux

4.2 | Gratis


Aprendiendo Linux: uso, terminal y comandos

Aprendiendo Linux: uso, terminal y comandos

Aprende sobre el entorno de escritorio y los comandos básicos de GNU/Linux

4.7 | $19.99

El Solitario > kda
Entradas recientes
  • Kimi Delta Attention: la atencion lineal detras de Kimi K2 y Qwen3
  • Anthropic aclara que nunca pidió prohibir modelos de pesos abiertos
  • China acusa a EE.UU. de hegemonismo de IA por investigar a Moonshot AI
  • TLS 1.3: cómo funciona el handshake que cifra HTTPS
  • Anthropic escanea y destruye libros raros para entrenar su IA
Categorías
  • GNU/Linux
  • Inteligencia Artificial
  • Microservicios
  • Noticias Tech
  • Opinión
  • Programación
  • Redes
  • Seguridad
  • Tutoriales
Comentarios recientes
  • Angel_Bran en Solucionar el problema con VSYNC en Linux
  • Angel_Bran en Configurar GRUB en Ubuntu y derivados: Cambiar el orden de arranque por defecto
  • Sergio en Configurar GRUB en Ubuntu y derivados: Cambiar el orden de arranque por defecto
  • carlitos en Solucionar el problema con VSYNC en Linux
  • Calos en Solucionar el problema con VSYNC en Linux
Etiquetas
algebra anthropic atencion benchmarks ceo china codex cogs epub e readers exploits fable fireworks firmware Framework freeink github inferencia iot jacobiano Javascript kimi lean libros llm matematicas microsoft moat moonshot opensource openweight preentrenamiento productividad Python qwen rce robots rust seguridad sqlite stratechery tokens vibecoding vulnerabilidad wordpress
  • Política de privacidad
Hestia | Desarrollado por ThemeIsle