1. Roteamento de chamados de suporte
Classifique uma mensagem em cobrança, suporte técnico, vendas ou outra fila; detecte pedidos explícitos de reembolso e estime urgência na mesma chamada. A saída encaminha casos claros e envia os ambíguos à triagem manual.
Bom uso
Poucas filas distintas, chamados históricos rotulados, descrições concretas e caminho de revisão humana.
Atenção a
Mensagens com várias intenções, novas filas, texto não inglês enviado ao checkpoint inglês e pressão para automatizar com confiança não validada.
2. Detecção de fatos explícitos
Perguntas noul servem para fatos visíveis no estado: “O usuário pede reembolso?”, “A mensagem menciona invasão de conta?” ou “A ameaça de cancelamento é explícita?”. Várias respostas factuais podem alimentar regras de negócio determinísticas.
Evite perguntar se um cliente é “bom”, uma mensagem “apropriada” ou uma ação “segura” sem critérios precisos. Julgamentos amplos escondem várias perguntas e produzem probabilidades mais difíceis de calibrar.
3. Roteamento de modelos e ferramentas
Antes de chamar um modelo caro, classifique a solicitação por domínio ou capacidade necessária. Casos simples vão para modelos pequenos; programação, questões jurídicas ou pedidos muito ambíguos vão para modelos avançados ou fluxos especializados.
Examinar a solicitação
Fazer perguntas específicas sobre domínio, sensibilidade e tipo de tarefa.
Aplicar regras controladas pelo código
Usar saídas tipadas como sinais; manter orçamentos e permissões no código determinístico.
Medir o sucesso posterior
A precisão do roteamento não basta: acompanhe se o caminho escolhido realmente resolve a tarefa.
4. Proteções de prompts
Laya pode examinar padrões observáveis de jailbreak ou injeção antes de chamar um LLM. Os resultados reservados do projeto ficam em torno de 0.71–0.76, longe da perfeição; ele deve ser uma camada junto com normalização, permissões, restrições de ferramentas e verificações de saída.
Não trate um único classificador como limite de segurança. Falsos negativos permitem prompts maliciosos; falsos positivos bloqueiam trabalho legítimo.
5. Relevância de trechos RAG
Dada uma consulta e um trecho recuperado, estime se o trecho contém evidências pertinentes. Isso pode filtrar fragmentos fracos antes da geração ou ajudar a escolher estratégias de recuperação.
O melhor resultado informado pelo projeto nesse conjunto é 0.657. É suficiente para explorar reordenação ou filtros, não para presumir verificação factual confiável sem avaliação específica da tarefa.
6. Triagem de spam e phishing
Laya relata resultados muito altos em spam e phishing, mas ambos estavam representados no treinamento. Demonstram aprendizagem da tarefa, não detecção geral sem exemplos. Retreine e teste nos e-mails atuais da organização, incluindo novos padrões de ataque.
7. Cascatas que priorizam o local
Use um checkpoint especializado do Laya para casos claros e frequentes e encaminhe os incertos a Jev, um LLM geral ou uma pessoa. Isso costuma ser mais realista que pedir a um modelo maximizar precisão, latência, privacidade e custo ao mesmo tempo.
O limite é uma decisão de produto
Um limite muda cobertura da automação e custo dos erros. Escolha-o com curvas de validação por tarefa e monitore desvios. Um limite global único para choice, score e noul dificilmente é ideal.
Usos inadequados
| Tarefa | Por que Laya não se encaixa | Use em vez disso |
|---|---|---|
| Redigir resposta ao cliente | Não gera texto | Um LLM generativo após roteamento |
| Resumir um documento | As respostas possíveis são abertas | Um modelo de resumo ou LLM |
| Selecionar entre centenas de rótulos longos | O limite padrão de tokens para opções se esgota | Jev, roteamento hierárquico ou pré-seleção por recuperação |
| Aprovação final de alto risco | Calibração e mudanças de distribuição continuam específicas da tarefa | Apoio à decisão, verificações determinísticas e revisão humana |
| Explicar uma decisão | Não gera justificativas | Guardar evidências separadamente ou usar um fluxo de explicação |
Antes de implementar
- Defina a decisão exata e enumere as saídas aceitáveis.
- Colete exemplos rotulados representativos, incluindo ambiguidades e “nenhuma das anteriores”.
- Escolha o checkpoint conscientemente; não dependa da confiança para detectar um idioma incompatível.
- Meça erros confiantes e comportamento por classe.
- Defina o que fazer quando a confiança é baixa ou a entrada está fora do escopo.
- Mantenha efeitos irreversíveis protegidos por permissões determinísticas e revisão.
Fonte de evidências: benchmarks consolidados do Laya. Interface e exemplos predefinidos: repositório Laya. Recomendações são interpretações independentes, não afirmações dos mantenedores.