← Volver al resumen

Arquitectura · lectura de 10 minutos

Cómo funciona Laya

Un codificador bidireccional lee todo el estado y el texto de las opciones. Una cabeza de decisión puntúa marcadores específicos para cada respuesta y devuelve distribuciones de probabilidad tipadas sin decodificar una frase token a token.

La solicitud tiene dos partes

Estado es el material evaluado: un ticket, correo, conversación, prompt, registro o documento JSON. Preguntas definen las decisiones que acepta tu software, incluidas las instrucciones y los criterios. Laya convierte ambos componentes en una entrada del modelo.

ENTRADA

Estado

La evidencia que se examina. Puede incluir campos estructurados y contenido en lenguaje natural.

ESQUEMA

Preguntas tipadas

Cada pregunta declara un tipo de salida y los criterios para interpretarlo.

MODELO

Codificador + cabeza de decisión

El estado y todos los marcadores de pregunta se evalúan en una sola pasada.

SALIDA

Probabilidades y confianza

La respuesta respeta el tipo declarado y está lista para usarse en código.

Por qué importa que no sea autorregresivo

Un modelo de chat normalmente genera un token después de otro. Para una clasificación acotada, eso implica pagar la generación, validar JSON y gestionar respuestas que no respetan el esquema. Laya no genera una cadena de texto. Puntúa marcadores de respuesta predefinidos y los normaliza como probabilidades.

Por eso pueden evaluarse juntas varias preguntas concretas y la salida no puede contener una etiqueta desconocida. La contrapartida también importa: Laya no puede explicar su razonamiento, redactar una respuesta ni inventar una acción. Tu código sigue controlando el flujo y los efectos secundarios.

Choice: seleccionar una opción proporcionada

Una pregunta choice proporciona etiquetas con descripciones. Laya devuelve una probabilidad para cada etiqueta y selecciona la mayor. Funciona bien para enrutamiento y categorización cuando las etiquetas son concretas y comprensibles entre sí.

Una buena estructura de pregunta

Which team should handle this request?

facturación: facturas y reembolsos · técnico: errores y caídas · ventas: precios y contratos

Choice no escala indefinidamente. Los criterios comparten un presupuesto fijo de tokens para opciones. Con decenas de etiquetas extensas, las descripciones se truncan hasta ser difíciles de distinguir. El resultado de Laya en Banking77 muestra claramente este límite.

Score: distribuir probabilidad entre niveles ordenados

Una pregunta score define una rúbrica ordenada, como urgencia baja, media y alta. El modelo devuelve probabilidades entre niveles y una puntuación esperada ponderada por ellas, que puede situarse entre niveles discretos.

Usar una rúbrica conductual

Escribe criterios observables —«el servicio no está disponible y el trabajo está bloqueado»— en lugar de adjetivos vagos como «muy urgente». La puntuación ordenada es actualmente la primitiva más débil de Laya, por lo que la validación en el dominio es especialmente importante.

Noul: estimar P(true)

Una pregunta noul solicita una probabilidad de sí/no. Conviene tratarla como detector de un hecho concreto y observable: si el usuario pidió explícitamente un reembolso, si un prompt contiene instrucciones para revelar secretos o si un mensaje incluye una amenaza de cancelación.

Juicios amplios como «¿es apropiado?» combinan normas implícitas y suelen producir resultados inestables. Descompónlos en preguntas fácticas más concretas antes de combinarlos en código.

Los tres puntos de control

Punto de controlArquitectura baseContextoMejor uso
laya421M ModernBERT-large512 tokensTareas en inglés y ajustes predefinidos incluidos
laya-multilingual322M mmBERT-base1.024 por defecto; el codificador admite másEstado no inglés o con varios idiomas
laya-typed-decisions421M ModernBERT-large1.024 tokensLas cuatro familias de flujos usadas en el entrenamiento typed-decisions

El proyecto incluye un enrutador que elige entre los puntos de control inglés y multilingüe principalmente según el sistema de escritura y otras señales lingüísticas. Esto importa porque el punto de control inglés puede mantener una gran confianza mientras falla en escrituras que no maneja bien.

Qué debería significar «calibrado»

En un modelo calibrado, las predicciones con aproximadamente un 80% de confianza deberían ser correctas en aproximadamente el 80% de casos comparables. Esto permite automatizar por encima de un umbral y escalar por debajo.

El entrenamiento RLCD de Laya recompensa la calidad de las probabilidades mediante reglas de puntuación adecuadas, pero la calibración puede cambiar según el dominio y el número de etiquetas. El repositorio recomienda ajustar temperaturas con datos reservados. Representa la precisión por intervalos de confianza y revisa los errores de alta confianza antes de automatizar decisiones importantes.

Lo que Laya no puede hacer

  • No puede redactar, resumir ni explicar.
  • No puede elegir una etiqueta que no hayas proporcionado.
  • No puede convertir un esquema incorrecto en válido razonando más tiempo.
  • No puede convertir confianza en verdad; las probabilidades deben validarse.
  • Una interfaz general no lo hace automáticamente bueno en un dominio nuevo.

Fuente: README y código de Laya, ficha del modelo en Hugging Face, y el informe de pruebas del proyecto. Estas explicaciones son paráfrasis independientes.