Laya: Una alternativa local de código abierto a Jev
Laya es un modelo local de código abierto para la toma de decisiones con 421 millones de parámetros que ofrece una alternativa rápida y sin conexión al servicio en la nube Jev.
Parece que Jev tiene una alternativa local de código abierto — Laya.
Laya es un modelo local de código abierto para la toma de decisiones con 421 millones de parámetros. Funciona con decisiones estructuradas (respuestas rápidas sí/no, calificaciones o selección de opciones).
Características clave:
- Funciona con menos de 1 GB de memoria
- Disponible gratis en Hugging Face
- Se ejecuta en portátiles e incluso en teléfonos
En pruebas, Laya se comparó con Jev en la nube. Ambos sistemas jugaron al mismo juego de la serpiente con el mismo formato de decisiones durante 30 segundos.
Resultados:
- Laya: puntuación 46, longitud 52, 86,5 decisiones por segundo, P50 ~9 ms
- Jev: puntuación 1, longitud 7, 3,2 decisiones por segundo, ciclo completo de solicitud API 317 ms
En el M5 Pro, el tiempo mediano fue de 15,3 ms para Laya local y 298,1 ms para Jev en la nube. Esta es una diferencia casi 20 veces mayor en esta prueba.
La principal diferencia es que Laya toma cada decisión localmente, mientras que Jev espera una respuesta de la API en la nube en cada paso.
Sin embargo, el proyecto tiene dos limitaciones declaradas:
- El contexto es de solo 512–1024 tokens, por lo que algunas tareas no cabrán.
- Sin ajuste adicional, Laya generaliza peor que Jev.
Fuente: GitHub — Laya
Por qué es importante
AnálisisEsta comparación destaca cómo los modelos locales pequeños pueden proporcionar ventajas críticas de latencia frente a las API en la nube para tareas que requieren toma de decisiones instantánea.
Debatir en la comunidad
Comparte tus preguntas e ideas con desarrolladores
Relacionado en el ecosistema
Guías prácticas, terminología y skills de agentes
Inferencia Local de LLM
La práctica de ejecutar grandes modelos de lenguaje de manera autónoma directamente en el hardware del desarrollador (Apple Silicon, NVIDIA GPU) garantizando absoluta confidencialidad y cero dependencia de Internet.
IA Local Autónoma y Privacidad de Datos
La práctica de ejecutar modelos de aprendizaje automático completamente en hardware físico propio sin conexión a Internet (Air-Gapped AI). Garantiza un 100% de protección contra la filtración de secretos comerciales, datos personales (GDPR/HIPAA) y fallos de proveedores de la nube.
JSON — Datos estructurados para programas, APIs y agentes de IA
Guía práctica y completa sobre JSON: especificación de sintaxis, serialización con parse y stringify, consumo de APIs REST, validación con JSON Schema y salidas estructuradas para LLMs.
Formatos DOCX y XLSX: cuándo se necesita un documento final completo de la IA
Guía práctica y completa sobre la generación y procesamiento de documentos DOCX y libros XLSX con IA: comparativa con Markdown y CSV, ingeniería de prompts, fórmulas y automatización en código.